JPH0795584A - 画像符号化装置 - Google Patents

画像符号化装置

Info

Publication number
JPH0795584A
JPH0795584A JP6177261A JP17726194A JPH0795584A JP H0795584 A JPH0795584 A JP H0795584A JP 6177261 A JP6177261 A JP 6177261A JP 17726194 A JP17726194 A JP 17726194A JP H0795584 A JPH0795584 A JP H0795584A
Authority
JP
Japan
Prior art keywords
frame
time
image
code amount
transmission
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP6177261A
Other languages
English (en)
Inventor
Shoichi Masaki
彰一 正木
Akio Kurobe
彰夫 黒部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP6177261A priority Critical patent/JPH0795584A/ja
Priority to US08/283,241 priority patent/US5479212A/en
Priority to EP94305705A priority patent/EP0637175A3/en
Publication of JPH0795584A publication Critical patent/JPH0795584A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/658Transmission by the client directed to the server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/152Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/637Control signals issued by the client directed to the server or network components
    • H04N21/6377Control signals issued by the client directed to the server or network components directed to server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding

Abstract

(57)【要約】 (修正有) 【目的】 伝送エラーなどにより、伝送中のフレームが
表示不能の時に生じる表示画像の駒落としを低減する。 【構成】 画像記憶装置103は前処理装置115から
順次、各入力フレームの画像データを記憶し、フレーム
メモリ131は予め定められた記憶領域に復号された伝
送済み最新フレームを記憶する。フレーム選択部108
は、伝送中のフレームの表示不能を判断した時、画像記
憶装置103内に記憶された各フレームの表示の可否を
判断し、画像記憶装置に記憶されている画像データのう
ちから表示可能で最もフレームナンバーの小さいフレー
ムを選択する。符号化装置106は、選択されたフレー
ムの画像データを、フレームメモリ131内の記憶伝送
済み最新フレームを参照フレームとして予測符号化し、
送信バッファ127に出力する。フェージングなどのバ
ーストエラーなどにより伝送中のフレームの表示不能な
時も表示画像の駒落としを最小限に留めることができ
る。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、テレビ会議、テレビ電
話等に用いられる動画像の符号化、復号を行う画像符号
化装置に関する。
【0002】
【従来の技術】近年、ディジタル化された動画像を処理
する種々の技術が実現されている。一般に、画像情報は
情報量が大きいため、画像を記録あるいは伝送するにあ
たって情報量を圧縮・削減する技術が必要になる。従
来、64kbps〜2Mkbpsの低ビット伝送レート
で動画像通信を行なうための画像圧縮符号化方式として
ITU(International Telecom
munication Union)勧告H.261が
ある。
【0003】この符号化方法によれば、まず、対象とな
るフレームを複数のブロックに分割し、各ブロック毎に
1つ前のフレームの画像と比較して動きベクトルを検出
する。この動きベクトルは、前記ブロックに対して、1
つ前のフレーム中のブロックで相関性の最も高い、すな
わち、予測誤差がもっとも小さいブロックを指し示して
いる。そこで、対象となるフレームのブロック毎に、1
つ前のフレームの相関性の最も高いブロックとの差分を
符号化するとともに動きベクトルをも符号化して送信す
る。
【0004】図23はH.261で勧告されている画像
符号化方式に従って画像圧縮符号化を行う従来の画像符
号化装置の構成図である。図23に示すように、画像符
号化装置は、前処理装置15、符号化装置6、伝送制御
装置7および図示しない復号装置を備える。前処理装置
15は、YC分離A/D変換部12、NTSC/CIF
変換部13および前処理フィルタ14を備える。YC分
離A/D変換部12は、NTSC信号をYC分離(すな
わち、輝度信号と色差信号とに分離)し、これをさらに
A/D変換する。NTSC/CIF変換部13は、NT
SC信号を中間フォーマットであるCIF(Commo
n Intermediate Format)に変換
し、CIF信号として出力する。中間フォーマットは、
地域によるテレビジョン方式の違いを解決し、すべての
ビデオコーディック間で相手を意識することなく通信で
きるように決められた共通のフォーマットである。
【0005】H.261に規定される中間フォーマット
は、2種類あり、第1のフォーマットは、CIFであ
る。各フレームは輝度成分と2つの色差成分(Y、C
B、CR)として符号化される。これらの成分および標
本値を示す符号は、CCIR勧告601に規定されてい
る。CIFは、輝度の標本が、1ラインあたり352画
素、1フレームあたり288ラインで直交格子状に配列
される。2つの色差成分の標本は、それぞれ1ラインあ
たり176画素、1フレームあたり144ラインで直交
格子状に配列される。
【0006】第2のフォーマットは、QCIFで、CI
Fの画素とライン数を各々1/2にしたものである。C
IFまたはQCIFの選択は、TTC標準−H221な
どの外的な手段によって行われる。ここでは、NTSC
/CIF変換部13によって、CIFを選択する。前処
理フィルタ14は、入力される信号の雑音を除去するデ
ィジタルフィルタである。
【0007】符号化装置6は、符号化部4と符号化制御
部5とを備える。符号化制御部5は、後述の送信バッフ
ァ27内の空き記憶領域を検出し、送信バッファ27内
に一定量の空き領域がある場合には、符号化部4を制御
して符号化を行わせるとともに、符号化部4が符号化し
た画像データ、すなわち、符号化データを送信バッファ
27に出力する。
【0008】符号化部4は、動き補償フレーム予測部1
6、DCT(Discrete Cosine Tra
nsform)17、量子化部18、第1の可変長符号
化部19、第2の可変長符号化部20および多重化部2
1を備える。動き補償フレーム予測部16は、16×1
6画素からなるブロックを単位として処理を行う。動き
補償フレーム予測部16は、伝送済みの最新フレームに
おいて、符号化対象フレーム内で符号化対象ブロックに
相当する位置から±15画素の範囲で、符号化対象ブロ
ックとの差分が最小となるブロックを検索し、前記両ブ
ロック間の位置関係を表す動きベクトルを求める。ここ
で、符号化対象フレームとの差分をとるフレームを参照
フレームという。次いで、前記動きベクトルにもとづい
て、伝送済みの最新フレームから符号化対象ブロックと
の差分が最小となるブロックを切り出し、両画像データ
間の差分を求める。以上の処理により、動き補償フレー
ム予測部16は、16×16画素の範囲でフレーム間の
予測誤差を出力する。DCT17は、前記予測誤差を8
×8のブロック単位で直交変換して空間座標データを周
波数座標データに変換する。量子化部18は、直交変換
した変換係数を直線量子化する。第1の可変長符号化部
19は、量子化した変換係数をハフマン符号化する。第
2の可変長符号化部20は、動き補償に用いた動きベク
トルをハフマン符号化する。多重化部21は、第1の可
変長符号化部19で符号化された予測誤差と第2の可変
長符号化部20で符号化された動きベクトルを多重化し
て伝送フレームを構成し、後述の送信バッファ27に出
力する。
【0009】図示しない復号装置は、フレームメモリを
備え、前記フレームメモリは、少なくとも2フレーム分
の画像データを記憶することができる記憶領域を備え
る。前記復号部は、符号化された予測誤差を逆量子化お
よび逆DCT変換する。フレームメモリには、符号化済
み最新フレームが、すでに復号されて記憶されており、
これに復号された前記予測誤差、すなわち、逆量子化お
よび逆DCT変換された前記予測誤差が加算されること
によって符号化中のフレームが復号される。
【0010】伝送制御装置7は、送信バッファ27、再
送制御部28、再送用バッファ29を備える。伝送制御
装置7は、伝送路の伝送状態に応じた伝送制御を行な
う。送信バッファ27は、先入れ先出しのバッファで、
多重化部21から入力される伝送フレームを記憶し、順
次、伝送する。表示不能となったフレームの符号化デー
タは、フレーム単位で廃棄される。再送制御部28は、
再送用バッファ29に伝送中の符号化データを記憶して
おき、前記再送要求に応じてこれを再送する。再送制御
部28は、たとえば、無線回線のようにフェージングに
よるバースト誤りが発生する場合には、誤り検出を行い
ARQ(自動再送制御)により再送する。受信側の表示
装置は、バースト誤りの発生を検出すると、送信側に再
送を要求する。伝送路22は、伝送制御装置7からの前
記画像信号を伝送する。
【0011】次に図23のように構成された従来の画像
符号化装置の動作について図24を用いて説明する。図
24は、従来の画像符号化装置の動作を示すタイミング
チャートである。 図24(a)は動画像を構成する各
フレームの画像データが前処理装置15から符号化装置
6に入力されるタイミングを示す。ここでは、前記各フ
レームの画像データは毎秒30枚の時間間隔で入力され
ている。図24(b)に示す矢印↑は画像サンプルのタ
イミングを示す。図24(c)は符号化に要する時間を
示す。符号化時間はフレーム間の予測誤差の画像データ
量に応じて変動する。図24(d)は各フレームの符号
化データの伝送に要する時間を示す。図24(e)は各
フレームの符号化データの復号時間を示す。図24
(f)は受信側の表示装置が復号された各フレームの画
像データを表示装置に表示するタイミングを示す。
【0012】最初に入力されるフレームなどは、伝送済
みのフレームがないため予測誤差を求めることができな
いので1フレーム分の画像データの情報量が大きい。伝
送済みのフレームから長時間経過後のフレームについて
も同様である。64kbps程度の低ビット伝送レート
の画像符号化伝送では、前述のような画像データを送信
しても1フレーム時間の間に前記1フレーム分の画像デ
ータを送信しきれない。ここで、1フレーム時間とは、
あるフレームから次のフレームまでの時間をいう。ま
た、1フレーム時間の間に伝送を完了するために、たと
えば量子化値を大きくするなどして、1フレーム分の画
像データ量を少なくすると、画質が低下し、画像として
大変見づらいものとなってしまう。
【0013】このため、一般的には、入力されたフレー
ムをすべて画像サンプルすることは避け、入力されたフ
レームを一定間隔でとびとびに画像サンプルし、画像サ
ンプルされたフレームだけを符号化、伝送する。すなわ
ち、駒落しを行なう。これによって、受信側で表示され
る動画像の動きが多少はとびとびになるが、その分、伝
送データ量を増やすことができる。
【0014】図24(f)に示す受信側の表示タイミン
グは、符号化装置が画像サンプルした時間から一定時間
T時間後である。この時間Tは、平滑化時間として、符
号化や復号の処理時間のばらつきや伝送時間の揺らぎに
よる遅延ジッタを吸収するためにもうけられる。遅延ジ
ッタとは、この場合、各フレームの画像データ量の差に
より対象フレームが画像サンプルされてから受信側の表
示装置に表示されるまでの時間にばらつきが生じること
をいう。これは、各フレームの画像データ量によって、
それぞれ符号化時間、伝送時間、復号時間が異なること
による。これをこのまま表示すると、たとえば、もとの
動画像で一定速度で移動するものが、表示画像ではある
時は速く、ある時は遅く移動するといったことが生じ
る。このため、前記遅延ジッタを吸収するための平滑化
時間Tが設けられており、画像サンプルされてからこの
平滑化時間Tまでに復号が完了したフレームはこの時間
まで保持された後に表示され、この時間までに復号でき
なかったフレームは廃棄される。図24では、平滑化時
間Tは8フレーム時間とする。
【0015】符号化、伝送および復号の各処理は、予め
定めるブロック単位で行われる。図24(a)に示すよ
うに一定時間間隔で入力されるフレームのうち、図24
(b)に示すタイミングで画像サンプルされた符号化対
象フレームは、16×16画素からなるブロックに分割
される。ここにおいて、符号化制御部5は、後述の送信
バッファ27内の空き記憶領域を検出する。送信バッフ
ァ27内に空き領域がある場合には、図24(c)に示
すように前記ブロック毎に符号化が開始される。次い
で、符号化が完了したブロック毎に符号化データが順次
送信バッファ27に記憶され、先入れ先出しで、図24
(d)に示すように符号化データの伝送が開始される。
ブロック毎に伝送された符号化データは、ブロック毎に
受信側の復号装置で復号される。それぞれ画像サンプル
された時点から平滑化時間T=8フレーム時間後までに
受信側の復号装置で復号が完了したフレームは、それぞ
れ図24(f)に矢印↑で示す表示タイミングまで保持
された後、受信側の表示装置に表示される。図24
(f)に丸印で示すのは、この表示タイミングに表示す
ることができたフレームであり、×印で示すのは、この
表示タイミングに表示することができなかったフレーム
である。
【0016】図24(f)に示すように、フレームナン
バー1、フレームナンバー4およびフレームナンバー1
6の画像はそれぞれ画像サンプルされた時点から平滑化
時間T=8フレーム時間後に表示されるが、フレームナ
ンバー10は画像サンプルから平滑化時間T=8フレー
ム時間後に復号が完了しなかったため表示されない。前
述のH.261は、伝送速度64kbpsまでの比較的
低速での動作を可能としているので、ディジタル電話を
介してのテレビ電話・テレビ会議・その他のオーディオ
ビジュアルサービスに適しているという特徴がある。し
かし、ディジタルコードレス電話などの携帯用送信機を
用いて動画像を送信し、無線回線を介して受信側に伝送
する場合には、フェージングなどによる伝送エラーを避
け得ない。このような無線回線のフェージングによるバ
ーストエラーは、前記携帯用送信機の移動速度が歩行速
度以下の場合、3〜6フレーム時間に達する。
【0017】図24において、フレームナンバー10の
画像はフレームナンバー1の画像と同様の予測誤差に対
応する画像データ量を有するものとする。すなわち、符
号化に2フレーム時間、最善の場合、すなわち伝送に支
障がなければ、伝送に3フレーム時間、復号に1フレー
ム時間を要するものとする。また、フレームナンバー1
0の伝送フレームを伝送中に前述のようなフェージング
によるバーストエラーが4フレーム時間に渡って発生し
たものとする。
【0018】図24(d)に示すように、フレームナン
バー10は、もともと3フレーム時間で伝送できる符号
化データのうち2フレーム時間分は伝送エラーが発生す
る前に伝送されているため、あと1フレーム時間の伝送
時間と1フレーム時間の復号時間の合計2フレーム時間
前までに伝送エラーがなくなれば、受信側の表示装置で
表示することができる。すなわち、フレームナンバー1
6の画像データが入力される時点までは表示できる可能
性があるため、伝送制御装置7はフレームナンバー16
の画像データが入力される時点まで伝送を続ける。
【0019】フレームナンバー10の伝送を開始した
後、送信バッファ27内に記憶されている符号化データ
は、フレームナンバー10以後のフレームであって、フ
レームナンバー10を参照フレームとして符号化された
フレームまたはさらに前記フレームを参照フレームとし
て符号化されたフレームであるので、フレームナンバー
10の画像を表示できないことが判断された時点で、廃
棄される。同時に、フレームナンバー10の未送信デー
タも、廃棄される。
【0020】
【発明が解決しようとする課題】しかしながら、伝送エ
ラーのためにフレームナンバー10の画像を表示できな
いことが判断された時点で、符号化を開始することがで
きるのはフレームナンバー16の画像データとなる。ま
た、従来の画像符号化装置には、伝送済み最新フレーム
を格納するメモリは備えられていないので、フレームナ
ンバー16はフレーム内符号化される。フレーム内符号
化とは、直前のフレームとの予測誤差を求めず、1フレ
ーム分の画像データをそのまま符号化することをいう。
このフレームナンバー16の画像が受信側の表示装置で
表示されるのは、さらに平滑化時間T=8フレーム時間
後となる。
【0021】従って、このような従来の画像符号化装置
では、4フレーム時間の伝送エラーのために受信側の表
示装置ではフレームナンバー4の画像を表示してからフ
レームナンバー16の画像が表示されるまで実に12フ
レームにわたる駒落としが発生するという点が問題とな
る。このように駒落としが多くなると、表示される動画
像の動きがとびとびになり、極端な例では、表示画像中
の人物が急に現れたり、急にいなくなったりするような
ことも起こり得る。このようなことが起こると、表示画
像の不自然な動きが目立つようになり、不都合である。
【0022】また、前述のようにバーストエラー後のフ
レームをフレーム内符号化すると伝送フレームの発生情
報量が大きくなる。この結果、伝送フレームの伝送時間
が大きくなり、前記伝送フレームの伝送後に、また新た
な駒落としを発生することになる。一方、前述のような
不都合を解消するために、平滑化時間Tを大きくする
と、伝送遅延時間のゆとりが増え、表示に間に合わない
フレームは減少する。しかし、実際に入力される動画像
と表示される動画像との時間遅れが増大し、特にテレビ
会議やテレビ電話のように双方向で画像通信を行うシス
テムでは会話のリズムが阻害され、非常に使いづらいも
のとなってしまう。
【0023】本発明は上記の点に鑑み、順次、入力され
る画像データを画像サンプルしてから受信側の表示装置
で表示するまでの平滑化時間を延長することなく、伝送
エラーなどにより、伝送中のフレームを受信側で表示す
べき時点で表示することができなくなった場合の駒落し
を低減することができる画像符号化装置の提供を目的と
している。
【0024】また、本発明は上記の点に鑑み、画像サン
プルしてから平滑化時間後に受信側の表示装置に表示す
ることができるフレームであって、駒落としを最小限と
することができるフレームを検出する際の演算数を少な
くすることによって、前記フレームを検出することによ
る画像符号化装置全体の処理速度の低下を抑え、またこ
れによる消費電力の増加を低く抑えることができる画像
符号化装置の提供を目的としている。
【0025】
【問題を解決するための手段】上記目的を達成するた
め、請求項1記載の本発明は、動画像を構成するフレー
ムの予測符号化を行うとともに、予測誤差の画像データ
量によって生じる符号化時間のばらつき、伝送時間のば
らつきおよび復号時間のばらつきを平滑化するために予
め定める平滑化時間を設け、それぞれの画像サンプルか
ら始まる前記平滑化時間が終了する時点で、各フレーム
を受信側の表示装置に表示させる画像符号化装置であっ
て、少なくとも1フレーム分の画像データを記憶する記
憶領域を備え、予め定める時間間隔で入力される1フレ
ーム分の画像データを、mフレーム毎(mは予め定める
自然数)に画像サンプルして前記記憶領域に記憶する画
像記憶手段と、伝送済み最新フレームを記憶する伝送済
み最新フレーム記憶手段と、入力された各フレームの画
像データを予測符号化する符号化手段と、前記符号化手
段によって符号化された符号化データを、受信側と連絡
を取りながら伝送路を介して受信側に伝送する伝送手段
と、予め定める時間毎に、伝送中のフレームの表示の可
否を、現時点からそのフレームの画像を表示すべき時点
までの残り時間とそのフレームの未送信符号量とそのフ
レームの復号時間とに基づいて判断する第1の判断手段
と、前記画像記憶手段に記憶されている各フレームにつ
いて、そのフレームの表示の可否を、現時点からそのフ
レームの画像を表示すべき時点までの残り時間とそのフ
レームの伝送時間とそのフレームの復号時間とに基づい
て判断する第2の判断手段と、前記第1の判断手段が伝
送中のフレームを表示不能と判断した場合、前記記憶領
域に記憶されている画像データを読み出して前記第2の
判断手段に転送し、前記第2の判断手段が前記フレーム
を表示可能と判断した場合、前記フレームの画像データ
を前記符号化手段に出力するよう前記画像記憶手段を制
御するとともに、伝送済み最新フレームを読み出して前
記符号化手段に参照フレームとして入力するよう前記伝
送済み最新フレーム記憶手段を制御する制御手段とを含
む。
【0026】請求項2記載の本発明は、請求項1記載の
画像符号化装置において、前記画像記憶手段は、それぞ
れ1フレーム分の画像データを記憶する記憶領域を備え
る第1から第n(nは自然数)の画像メモリと、入力さ
れる画像データを1フレームずつそれぞれのフレームナ
ンバーに対応づけて前記画像メモリに順次、書き込む書
き込み制御手段とを含み、前記制御手段は、前記第1の
判断手段が伝送中のフレームを表示不能と判断した場
合、前記第1から第nの画像メモリに記憶されている画
像データをフレームナンバーの小さいものから順次読み
出して前記第2の判断手段に転送し、前記第2の判断手
段が前記フレームを表示可能と判断した場合、前記フレ
ームの画像データを前記第1から第nの画像メモリから
読み出して前記符号化手段に出力するよう前記画像記憶
手段を制御する。
【0027】請求項3記載の本発明は、請求項2記載の
画像符号化装置において、前記伝送手段は、前記符号化
手段から出力された符号化データを記憶する送信バッフ
ァと、前記送信バッファに記憶された符号化データを先
入れ先出しで伝送路に出力し、伝送路に出力した符号化
データについて、受信側からの送達確認が取れた場合は
次の符号化データを伝送路に出力し、送達確認が取れな
い場合は再送するよう前記送信バッファおよび伝送路を
制御する伝送制御手段とを含み、前記第1の判断手段
は、伝送中のフレームの前記送信バッファ内の未送信符
号量を検出する未送信符号量検出手段と、前記未送信符
号量検出手段によって検出された未送信符号量から、 (未送信符号化データの伝送時間)=(未送信符号量)
/(予め定める伝送速度) 前記計算式に基づいて、伝送中のフレームの未送信符号
化データの伝送時間を算出する第1の伝送時間算出手段
と、前記符号化手段によって符号化されたフレームの発
生符号量を検出して記憶し、 (そのフレームの復号時間)=(発生符号量)/(予め
定める復号速度) 前記計算式に基づき、伝送中のフレームの復号時間を算
出する第1の復号時間算出手段と、現時点から伝送中の
フレームの画像を受信側の表示装置に表示すべき時点ま
での残り時間を検出する第1の残り時間検出手段と、前
記復号時間と前記伝送時間との和と前記残り時間とを比
較する第1の比較手段とを含み、前記第2の判断手段
は、前記画像記憶手段に記憶されているフレームについ
て、前記フレームの画像データを符号化した際に発生す
る符号量を予測する符号量予測手段と、前記符号量予測
手段によって予測された符号量から、 (そのフレームの伝送時間)=(そのフレームの予測符
号量)/(予め定める伝送速度) 前記計算式に基づいて、画像記憶手段に記憶されている
フレームの伝送時間を算出する第2の伝送時間算出手段
と、前記符号量予測手段によって予測された予測符号量
から、 (そのフレームの符号化時間)=(そのフレームの予測
符号量)/(予め定める符号化速度) 前記計算式に基づき、前記画像記憶手段に記憶されてい
るフレームの符号化時間を算出する符号化時間算出手段
と、前記符号量予測手段によって予測された予測符号量
から、 (そのフレームの復号時間)=(そのフレームの予測符
号量)/(予め定める復号速度) 前記計算式に基づき、前記画像記憶手段に記憶されてい
るフレームの復号時間を算出する第2の復号時間算出手
段と、前記画像記憶手段に記憶されているフレームにつ
いて、現時点から前記フレームの画像を受信側の表示装
置に表示すべき時点までの残り時間を検出する第2の残
り時間検出手段と、前記符号化時間と前記復号時間と前
記伝送時間との和と前記残り時間とを比較する第2の比
較手段とを含み、前記第1の判断手段は、 (そのフレームの画像を表示すべき時点までの残り時
間)>(未送信符号化データの伝送に要する時間)+
(そのフレームの復号時間) 前記条件式で示される条件を満たすフレームを表示可能
と判断し、前記第2の判断手段は、 (そのフレームの画像を表示すべき時点までの残り時
間)>(そのフレームの符号化時間)+(そのフレーム
の伝送時間)+(そのフレームの復号時間) 上記条件式で示される条件を満たすフレームを表示可能
と判断する。
【0028】請求項4記載の本発明は、請求項3記載の
画像符号化装置において、前記第1の残り時間検出手段
および第2の残り時間検出手段は、予め定める平滑化時
間を出力する初期値出力部と、予め定める経過時間ごと
に信号を出力するタイマーと、2入力1出力のセレクタ
であって、前記2入力のうち1入力に前記初期値出力部
から出力される平滑化時間を入力し、前記制御手段から
の選択信号により、前記2入力のうちから1入力を選択
して出力する第1のセレクタと、前記タイマーからの信
号を検出する毎に、前記第1のセレクタの出力から前記
経過時間を減算し、前記第1の比較手段に出力する経過
時間減算部と、n個の加算部を備え、それぞれ第k(k
は1からnまでの自然数)の加算部は前記経過時間減算
部の出力にそれぞれk×(前記経過時間)を加算する第
1から第nまでの加算部と、前記制御手段からの選択信
号により、前記第1から第nまでの加算部の出力のうち
から1信号を選択して前記第2の比較手段および第1の
セレクタに出力する第2のセレクタとを含み、前記制御
手段は、動作開始時には、第1のセレクタに前記2入力
のうちから前記初期値出力部の出力を選択する選択信号
を出力し、前記第2の判断手段が判断を開始する毎に、
前記第2のセレクタに前記第1から第nまでの加算部の
出力を順次選択する選択信号を出力し、前記第2の判断
手段が最初に表示可能と判断したときには、前記第1の
セレクタに、そのときの前記第2のセレクタの出力を選
択する選択信号を出力する。
【0029】請求項5記載の本発明は、請求項3記載の
画像符号化装置において、前記符号量予測手段は、符号
量予測対象フレームの中の1ブロックの画像データと伝
送済み最新フレームの中で前記ブロックと同一位置に相
当するブロックの復号データとの単純な差分値を求める
ことによって、前記符号量予測対象フレームのフレーム
間差分値を検出するフレーム間差分値検出部と、前記フ
レーム間差分値検出部からのフレーム間差分値を直交変
換する直交変換部と、前記直交変換部による直交変換の
結果、すべての直交変換係数が予め定めるしきい値に満
たないブロックを無効ブロックと判断し、前記符号量予
測対象フレームの無効ブロック数を検出する無効ブロッ
ク検出部と、前記無効ブロック数検出部によって検出さ
れた無効ブロック数から、有効ブロック数を求め、 (有効ブロック数)=(総ブロック数)−(無効ブロッ
ク数) (発生符号量)=(直前に符号化されたフレームの有効
ブロック数に対する発生符号量)×(有効ブロック数) 前記計算式に基づき、符号量予測対象フレームを符号化
した際に発生する符号量を算出する符号量算出部とを含
む。
【0030】請求項6記載の本発明は、請求項3記載の
画像符号化装置において、前記符号量予測手段は、前記
画像記憶手段に記憶されているフレームのうち最新フレ
ームのフレームナンバーを記憶する最新フレームナンバ
ー記憶部と、前記第1の判断手段が伝送中のフレームの
表示不能を判断した時点で、前記符号化手段に前記最新
フレームナンバー記憶手段に記憶されているフレームナ
ンバーの画像データを伝送済み最新フレームを参照フレ
ームとして符号化しその発生符号量を検出するよう指示
し、前記発生符号量が前記第2の判断手段の判断対象フ
レームの発生符号量となるものと予測する符号量予測制
御部を含む。
【0031】請求項7記載の本発明は、動画像を構成す
るフレームの予測符号化を行うとともに、予測誤差の画
像データ量によって生じる符号化時間のばらつき、伝送
時間のばらつきおよび復号時間のばらつきを平滑化する
ために予め定める平滑化時間を設け、それぞれの画像サ
ンプルから始まる前記平滑化時間が終了する時点で、各
フレームを受信側の表示装置に表示させる画像符号化装
置であって、少なくとも1フレーム分の画像データを記
憶する記憶容量を備え、予め定めるフレームを記憶する
参照フレーム記憶手段と、入力されたフレームの画像デ
ータを予め定めるフレーム間隔で画像サンプルし、画像
サンプルした前記画像データを前記参照フレーム記憶手
段に記憶されている伝送済み最新フレームから現在伝送
中のフレームまでの少なくとも予め定める1フレームを
参照フレームとして予測符号化する符号化手段と、少な
くとも1フレーム分の符号化データを記憶する記憶領域
を備え、前記符号化手段によって符号化された符号化デ
ータを、予測符号化の参照フレームとされたフレームと
対応付けて記憶する符号化データ記憶手段と、前記符号
化手段によって符号化された符号化データを、伝送路を
介して受信側に伝送する伝送手段と、予め定める時間毎
に、伝送中のフレームの表示の可否を、現時点からその
フレームの画像を表示すべき時点までの残り時間とその
フレームの伝送時間とそのフレームの復号時間とに基づ
いて判断する第1の判断手段と、前記符号化データ記憶
手段に記憶されている各フレームについて、そのフレー
ムの表示の可否を、現時点からそのフレームの画像を表
示すべき時点までの残り時間とそのフレームの伝送時間
とそのフレームの復号時間とに基づいて判断する第2の
判断手段と、前記第1の判断手段が伝送中のフレームを
表示不能と判断した場合、前記記憶領域に記憶されてい
る符号化データのうち、予め定めるフレームを参照フレ
ームとする符号化データを読みだして前記第2の判断手
段に転送し、前記第2の判断手段が前記フレームを表示
可能と判断した場合、前記フレームの符号化データを前
記記憶領域から読み出して前記伝送手段に出力するよう
前記符号化データ記憶手段を制御する制御手段とを含
む。
【0032】請求項8記載の本発明は、請求項7記載の
画像符号化装置において、前記符号化データ記憶手段
は、それぞれ各フレームの符号化データを記憶する記憶
領域を備えるn(nは自然数)個の符号化データメモリ
と、前記符号化手段から入力される符号化データを、そ
れぞれのフレームナンバーとその符号化データの参照フ
レームとされたフレームのフレームナンバーとに対応づ
けて前記符号化データメモリに順次、書き込む書き込み
制御手段とを含み、前記制御手段は、前記第1の判断手
段が伝送中のフレームを表示不能と判断した場合、前記
符号化データメモリに記憶されている符号化データをフ
レームナンバーの小さいものから順次読み出して前記第
2の判断手段に転送し、前記第2の判断手段が前記フレ
ームを表示可能と判断した場合、表示可能と判断された
前記フレームの符号化データのうち予め定めるフレーム
を参照フレームとする符号化データを前記n個の符号化
データメモリから読み出して前記伝送手段に出力するよ
う前記符号化データ記憶手段を制御する。
【0033】請求項9記載の本発明は、請求項8記載の
画像符号化装置において、前記伝送手段は、前記符号化
手段から出力された符号化データを記憶する送信バッフ
ァと、前記送信バッファに記憶された符号化データを先
入れ先出しで伝送路に出力し、伝送路に出力した符号化
データについて、受信側からの送達確認が取れた場合は
次の符号化データを伝送路に出力し、送達確認が取れな
い場合は再送するよう前記送信バッファおよび伝送路を
制御する伝送制御手段とを含み、前記第1の判断手段
は、伝送中のフレームの前記送信バッファ内の未送信符
号量を検出する未送信符号量検出手段と、前記未送信符
号量検出手段によって検出された未送信符号量から、 (未送信符号化データの伝送時間)=(未送信符号量)
/(予め定める伝送速度) 前記計算式に基づいて、伝送中のフレームの未送信符号
化データの伝送時間を算出する第1の伝送時間算出手段
と、前記符号化手段によって符号化されたフレームの発
生符号量を検出して記憶し、 (そのフレームの復号時間)=(発生符号量)/(予め
定める復号速度) 前記計算式に基づき、伝送中のフレームの復号時間を算
出する第1の復号時間算出手段と、現時点から伝送中の
フレームの画像を受信側の表示装置に表示すべき時点ま
での残り時間を検出する第1の残り時間検出手段と、前
記復号時間と前記伝送時間との和と前記残り時間とを比
較する第1の比較手段とを含み、前記第2の判断手段
は、前記符号化データ記憶手段に記憶されている符号化
データの符号量を検出する符号量検出手段と、前記符号
量検出手段によって検出された符号量から、 (そのフレームの伝送時間)=(そのフレームの符号
量)/(予め定める伝送速度) 前記計算式に基づいて、符号化データ記憶手段に記憶さ
れているフレームの伝送時間を算出する第2の伝送時間
算出手段と、前記符号量検出手段によって検出された符
号量から、 (そのフレームの復号時間)=(そのフレームの符号
量)/(予め定める復号速度) 前記計算式に基づき、前記符号化データ記憶手段に記憶
されているフレームの復号時間を算出する第2の復号時
間算出手段と、前記符号化データ記憶手段に記憶されて
いる符号化データについて、現時点から前記符号化デー
タのフレームの画像を受信側の表示装置に表示すべき時
点までの残り時間を検出する第2の残り時間検出手段
と、前記復号時間と前記伝送時間との和と前記残り時間
とを比較する第2の比較手段とを含み、前記第1の判断
手段は、 (そのフレームの画像を表示すべき時点までの残り時
間)>(未送信符号化データの伝送に要する時間)+
(そのフレームの復号時間) 前記条件式で示される条件を満たすフレームを表示可能
と判断し、前記第2の判断手段は、 (そのフレームの画像を表示すべき時点までの残り時
間)>(そのフレームの伝送時間)+(そのフレームの
復号時間) 上記条件式で示される条件を満たすフレームを表示可能
と判断する。請求項10記載の本発明は、請求項9記載
の画像符号化装置において、前記第1の残り時間検出手
段および前記第2の残り時間検出手段は、予め定める平
滑化時間を出力する初期値出力部と、予め定める経過時
間ごとに信号を出力するタイマーと、2入力1出力のセ
レクタであって、前記2入力のうち1入力に前記初期値
出力部から出力される平滑化時間を入力し、前記制御手
段からの選択信号により、前記2入力のうちから1入力
を選択して出力する第1のセレクタと、前記タイマーか
らの信号を検出する毎に、前記第1のセレクタの出力か
ら前記経過時間を減算し、前記第1の比較手段に出力す
る経過時間減算部と、n個の加算部を備え、それぞれ第
k(kは1からnまでの自然数)の加算部は前記経過時
間減算部の出力にそれぞれk×(前記経過時間)を加算
する第1から第nまでの加算部と、前記制御手段からの
選択信号により、前記第1から第nまでの加算部の出力
のうちから1信号を選択して前記第2の比較手段および
第1のセレクタに出力する第2のセレクタとを含み、前
記制御手段は、動作開始時には、第1のセレクタに前記
2入力のうちから前記初期値出力部の出力を選択する選
択信号を出力し、前記第2の判断手段が判断を開始する
毎に、前記第2のセレクタに前記第1から第nまでの加
算部の出力を順次選択する選択信号を出力し、前記第2
の判断手段が最初に表示可能と判断したときには、前記
第1のセレクタに、そのときの前記第2のセレクタの出
力を選択する選択信号を出力する。
【0034】請求項11記載の本発明は、請求項4およ
び請求項10記載の画像符号化装置において、前記第2
の残り時間検出手段は、さらに、前記第1から第nまで
の加算部の出力から伝送中のフレームの未送信符号化デ
ータの伝送時間を減算し、前記第2のセレクタに出力す
る第1から第nの減算部を含む。請求項12記載の本発
明は、請求項4および請求項10記載の画像符号化装置
において、前記第1の残り時間検出手段および前記第2
の残り時間検出手段は、前記第1から第nまでの加算部
および第2のセレクタに代えて、伝送中のフレームが画
像サンプルされた時点から、画像記憶手段に記憶されて
いるフレームが画像サンプルされた時点までの時間差
を、画像記憶手段に記憶されているフレームが伝送中の
フレームより先のフレームである場合には負の値として
検出する時間差検出部と、前記時間差検出部からの時間
差を、前記経過時間減算部の出力に加算し前記第2の比
較手段と前記第1のセレクタとに出力する時間差加算部
とを含む。
【0035】請求項13記載の本発明は、請求項7記載
の画像符号化装置において、符号化データ記憶手段は、
1つの符号化データを記憶する記憶領域を備える符号化
データメモリと、前記符号化制御手段から入力される符
号化データのうち、伝送中のフレームより後に画像サン
プルされた予め定めるフレームであって、伝送済み最新
フレームを参照フレームとする符号化データを、それぞ
れのフレームナンバーとその符号化データの参照フレー
ムとされたフレームのフレームナンバーとに対応づけて
前記符号化データメモリに書き込む書き込み制御手段と
を含み、前記制御手段は、前記第1の判断手段が伝送中
のフレームを表示不能と判断した場合、前記符号化デー
タメモリに記憶されている符号化データを読み出して前
記第2の判断手段に転送し、前記第2の判断手段が前記
フレームを表示可能と判断した場合、前記フレームの符
号化データを前記符号化データメモリから読み出して前
記伝送手段に出力するよう前記符号化データ記憶手段を
制御する。
【0036】請求項14記載の本発明は、動画像を構成
するフレームの予測符号化を行うとともに、予測誤差の
画像データ量によって生じる符号化時間のばらつき、伝
送時間のばらつきおよび復号時間のばらつきを平滑化す
るために予め定める平滑化時間を設け、それぞれの画像
サンプルから始まる前記平滑化時間が終了する時点で、
各フレームを受信側の表示装置に表示させる画像符号化
装置であって、フレーム順に入力される各フレームを予
測符号化する符号化手段と、伝送すべき符号化データを
記憶する送信バッファを備え、前記符号化手段によって
符号化された符号化データを送信バッファに蓄えるとと
もに、前記送信バッファから前記符号化データをフレー
ム順にとりだし、伝送路を介して受信側に伝送する伝送
手段と、伝送中のフレームが画像サンプルから始まる平
滑化時間終了時点で受信側の表示装置に表示可能か否か
を判断する第1の判断手段と、前記第1の判断手段が伝
送中のフレームを表示不能と判断するまでは前記符号化
手段が符号化した符号化データについて符号化処理と逆
の処理を行って入力時のフレームの画像データを復号デ
ータで近似的に再現し、前記第1の判断手段が伝送中の
フレームを表示不能と判断した場合、その時点で送信バ
ッファに残っている全てのフレームの未送信符号化デー
タについて前述と同様に再現する画像データ再現手段
と、少なくとも4フレーム分の再現された画像データを
記憶する記憶領域を備え、前記画像データ再現手段によ
って再現されたフレームのうち送達確認がとれた最新の
フレームの再現画像と前記送信バッファ内に最も新しく
格納されたフレームの再現画像とをそれぞれ予め定める
前記記憶領域に格納する再現画像記憶手段と、前記送信
バッファに残っているすべてのフレームについて、画像
サンプルから始まる平滑化時間が終了する時点で受信側
の表示装置に表示可能か否かを判断する第2の判断手段
と、前記画像データ再現手段で再現した画像データであ
って前記第2の判断手段が表示可能と判断したフレーム
のうち最初のフレームについて送達確認がとれた最新の
フレームを参照フレームとして符号化し、それに続くフ
レームについては新たな入力フレームと同様に直前に符
号化したフレームを参照フレームとして符号化し、前記
伝送手段に転送するよう前記符号化手段を制御する制御
手段とを含む。
【0037】請求項15記載の本発明は、請求項14記
載の画像符号化装置において、前記第1の判断手段は、
伝送中のフレームの前記送信バッファ内の未送信符号量
を検出する未送信符号量検出手段と、前記未送信符号量
検出手段によって検出された未送信符号量から、 (未送信符号化データの伝送時間)=(未送信符号量)
/(予め定める伝送速度) 前記計算式に基づいて、伝送中のフレームの未送信符号
化データの伝送時間を算出する第1の伝送時間算出手段
と、前記符号化手段によって符号化されたフレームの発
生符号量を検出して記憶し、 (そのフレームの復号時間)=(発生符号量)/(予め
定める復号速度) 前記計算式に基づき、伝送中のフレームの復号時間を算
出する第1の復号時間算出手段と、現時点から伝送中の
フレームの画像を受信側の表示装置に表示すべき時点ま
での残り時間を検出する第1の残り時間検出手段と、前
記復号時間と前記伝送時間との和と前記残り時間とを比
較する第1の比較手段とを含み、前記第2の判断手段
は、前記再現画像記憶手段に記憶されているフレームに
ついて、前記フレームの再現画像データを符号化した際
に発生する符号量を予測する符号量予測手段と、前記符
号量予測手段によって予測された符号量から、 (そのフレームの伝送時間)=(そのフレームの予測符
号量)/(予め定める伝送速度) 前記計算式に基づいて、再現画像記憶手段に記憶されて
いるフレームの伝送時間を算出する第2の伝送時間算出
手段と、前記符号量予測手段によって予測された予測符
号量から、 (そのフレームの符号化時間)=(そのフレームの予測
符号量)/(予め定める符号化速度) 前記計算式に基づき、前記再現画像記憶手段に記憶され
ているフレームの復号時間を算出する符号化時間算出手
段と、前記符号量予測手段によって予測された予測符号
量から、 (そのフレームの復号時間)=(そのフレームの予測符
号量)/(予め定める復号速度) 前記計算式に基づき、前記再現画像記憶手段に記憶され
ているフレームの復号時間を算出する第2の復号時間算
出手段と、前記再現画像記憶手段に記憶されているフレ
ームについて、現時点から前記フレームの画像を受信側
の表示装置に表示すべき時点までの残り時間を検出する
第2の残り時間検出手段と、前記符号化時間と前記復号
時間と前記伝送時間との和と前記残り時間とを比較する
第2の比較手段とを含み、前記第1の判断手段は、 (そのフレームの画像を表示すべき時点までの残り時
間)>(未送信符号化データの伝送に要する時間)+
(そのフレームの復号時間) 前記条件式で示される条件を満たすフレームを表示可能
と判断し、前記第2の判断手段は、 (そのフレームの画像を表示すべき時点までの残り時
間)>(そのフレームの符号化時間)+(そのフレーム
の伝送時間)+(そのフレームの復号時間) 上記条件式で示される条件を満たすフレームを表示可能
と判断する。
【0038】請求項16記載の本発明は、請求項15記
載の画像符号化装置において、前記符号量予測手段は、
符号量予測対象フレームの中の1ブロックの画像データ
と伝送済み最新フレームの中で前記ブロックと同一位置
に相当するブロックの復号データとの単純な差分値を求
めることによって、前記符号量予測対象フレームのフレ
ーム間差分値を検出するフレーム間差分値検出部と、前
記フレーム間差分値検出部からのフレーム間差分値を直
交変換する直交変換部と、前記直交変換部による直交変
換の結果、すべての直交変換係数が予め定めるしきい値
に満たないブロックを無効ブロックと判断し、前記符号
量予測対象フレームの無効ブロック数を検出する無効ブ
ロック検出部と、前記無効ブロック数検出部によって検
出された無効ブロック数から、有効ブロック数を求め、 (有効ブロック数)=(総ブロック数)−(無効ブロッ
ク数) (発生符号量)=(直前に符号化されたフレームの有効
ブロック数に対する発生符号量)×(有効ブロック数) 前記計算式に基づき、符号量予測対象フレームを符号化
した際に発生する符号量を算出する符号量算出部とを含
む。
【0039】請求項17記載の本発明は、請求項15記
載の画像符号化装置において、前記符号量予測手段は、
前記第1の判断手段が伝送中のフレームの表示不能を判
断した時点で、前記符号化手段に、その直前に符号化さ
れたフレームであって復号されたものを符号化対象フレ
ームとして伝送済み最新フレームを参照フレームとして
符号化しその発生符号量を検出するよう指示し、前記発
生符号量が前記第2の判断手段の判断対象フレームの発
生符号量となるものと予測する符号量予測制御部を含
む。
【0040】請求項18記載の本発明は、請求項14記
載の画像符号化装置において、少なくとも1フレーム分
の画像データを記憶する記憶領域を備える画像記憶手段
と、伝送エラー中に入力されるフレームを前記画像記憶
手段に記憶させ、前記再現画像記憶手段に記憶されてい
る再現画像データのうちの最後のフレームが前記符号化
手段へ転送された後、前記画像記憶手段に記憶されてい
る各フレームの画像データを読み出し符号化手段へ転送
するメモリ制御手段とを含む。
【0041】請求項19記載の本発明は、請求項18記
載の画像符号化装置において、前記第1の判断手段は、
伝送中のフレームの前記送信バッファ内の未送信符号量
を検出する未送信符号量検出手段と、前記未送信符号量
検出手段によって検出された未送信符号量から、 (未送信符号化データの伝送時間)=(未送信符号量)
/(予め定める伝送速度) 前記計算式に基づいて、伝送中のフレームの未送信符号
化データの伝送時間を算出する第1の伝送時間算出手段
と、前記符号化手段によって符号化されたフレームの発
生符号量を検出して記憶し、 (そのフレームの復号時間)=(発生符号量)/(予め
定める復号速度) 前記計算式に基づき、伝送中のフレームの復号時間を算
出する第1の復号時間算出手段と、現時点から伝送中の
フレームの画像を受信側の表示装置に表示すべき時点ま
での残り時間を検出する第1の残り時間検出手段と、前
記復号時間と前記伝送時間との和と前記残り時間とを比
較する第1の比較手段とを含み、第2の判断手段は、前
記再現画像記憶手段および前記画像記憶手段に記憶され
ているフレームについて、前記フレームの再現画像デー
タおよび画像データを符号化した際に発生する符号量を
予測する符号量予測手段と、前記符号量予測手段によっ
て予測された符号量から、 (そのフレームの伝送時間)=(そのフレームの予測符
号量)/(予め定める伝送速度) 前記計算式に基づいて、前記再現画像記憶手段および前
記画像記憶手段に記憶されているフレームの伝送時間を
算出する第2の伝送時間算出手段と、前記符号量予測手
段によって予測された予測符号量から、 (そのフレームの符号化時間)=(そのフレームの予測
符号量)/(予め定める符号化速度) 前記計算式に基づき、前記再現画像記憶手段および前記
画像記憶手段に記憶されているフレームの符号化時間を
算出する符号化時間算出手段と、前記符号量予測手段に
よって予測された予測符号量から、 (そのフレームの復号時間)=(そのフレームの予測符
号量)/(予め定める復号速度) 前記計算式に基づき、前記再現画像記憶手段および前記
画像記憶手段に記憶されているフレームの復号時間を算
出する第2の復号時間算出手段と、前記再現画像記憶手
段および前記画像記憶手段に記憶されているフレームに
ついて、現時点から前記フレームの画像を受信側の表示
装置に表示すべき時点までの残り時間を検出する第2の
残り時間検出手段と、前記符号化時間と前記復号時間と
前記伝送時間との和と前記残り時間とを比較する第2の
比較手段とを含み、前記第1の判断手段は、 (そのフレームの画像を表示すべき時点までの残り時
間)>(未送信符号化データの伝送に要する時間)+
(そのフレームの復号時間) 前記条件式で示される条件を満たすフレームを表示可能
と判断し、前記第2の判断手段は、 (そのフレームの画像を表示すべき時点までの残り時
間)>(そのフレームの符号化時間)+(そのフレーム
の伝送時間)+(そのフレームの復号時間) 上記条件式で示される条件を満たすフレームを表示可能
と判断する。請求項20記載の本発明は、請求項15お
よび請求項19記載の画像符号化装置において、前記第
1の残り時間検出手段および前記第2の残り時間検出手
段は、予め定める平滑化時間を出力する初期値出力部
と、予め定める経過時間ごとに信号を出力するタイマー
と、2入力1出力のセレクタであって、前記2入力のう
ち1入力に前記初期値出力部から出力される平滑化時間
を入力し、前記制御手段からの選択信号により、前記2
入力のうちから1入力を選択して出力する第1のセレク
タと、前記タイマーからの信号を検出する毎に、前記第
1のセレクタの出力から前記経過時間を減算し、前記第
1の比較手段に出力する経過時間減算部と、n個の加算
部を備え、それぞれ第k(kは1からnまでの自然数)
の加算部は前記経過時間減算部の出力にそれぞれk×
(前記経過時間)を加算する第1から第nまでの加算部
と、前記制御手段からの選択信号により、前記第1から
第nまでの加算部の出力のうちから1信号を選択して前
記第2の比較手段および第1のセレクタに出力する第2
のセレクタとを含み、前記制御手段は、動作開始時に
は、第1のセレクタに前記2入力のうちから前記初期値
出力部の出力を選択する選択信号を出力し、前記第2の
判断手段が判断を開始する毎に、前記第2のセレクタに
前記第1から第nまでの加算部の出力を順次選択する選
択信号を出力し、前記第2の判断手段が最初に表示可能
と判断したときには、前記第1のセレクタに、そのとき
の前記第2のセレクタの出力を選択する選択信号を出力
する。
【0042】請求項21記載の本発明は、請求項20記
載の画像符号化装置において、前記第2の残り時間検出
手段は、前記第1から第nまでの加算部の出力から伝送
中のフレームの未送信符号化データの伝送時間を減算
し、前記第2のセレクタに出力する第1から第nの減算
部を含む。請求項22記載の本発明は、請求項19記載
の画像符号化装置において、前記符号量予測手段は、符
号量予測対象フレームの中の1ブロックの画像データと
伝送済み最新フレームの中で前記ブロックと同一位置に
相当するブロックの復号データとの単純な差分値を求め
ることによって、前記符号量予測対象フレームのフレー
ム間差分値を検出するフレーム間差分値検出部と、前記
フレーム間差分値検出部からのフレーム間差分値を直交
変換する直交変換部と、前記直交変換部による直交変換
の結果、すべての直交変換係数が予め定めるしきい値に
満たないブロックを無効ブロックと判断し、前記符号量
予測対象フレームの無効ブロック数を検出する無効ブロ
ック検出部と、前記無効ブロック数検出部によって検出
された無効ブロック数から、有効ブロック数を求め、 (有効ブロック数)=(総ブロック数)−(無効ブロッ
ク数) (発生符号量)=(直前に符号化されたフレームの有効
ブロック数に対する発生符号量)×(有効ブロック数) 前記計算式に基づき、符号量予測対象フレームを符号化
した際に発生する符号量を算出する符号量算出部とを含
む。
【0043】請求項23記載の本発明は、請求項19記
載の画像符号化装置において、前記符号量予測手段は、
前記画像記憶手段および再現画像記憶手段に記憶されて
いるフレームのうち最新フレームのフレームナンバーを
記憶する最新フレームナンバー記憶部と、前記第1の判
断手段が伝送中のフレームの表示不能を判断した時点
で、前記符号化手段に前記最新フレームナンバー記憶手
段に記憶されているフレームナンバーの画像データと再
現画像データとを伝送済み最新フレームを参照フレーム
として符号化しその発生符号量を検出するよう指示し、
前記発生符号量が前記第2の判断手段の判断対象フレー
ムの発生符号量となるものと予測する符号量予測制御部
を含む。
【0044】
【作用】請求項1記載の本発明に従えば、画像記憶手段
は少なくとも1フレーム分の画像データを記憶する記憶
領域を備え、予め定める時間間隔で入力される1フレー
ム分の画像データを、mフレーム毎(mは予め定める自
然数)に画像サンプルして前記記憶領域に記憶し、伝送
済み最新フレーム記憶手段は伝送済み最新フレームを記
憶する。
【0045】符号化手段は入力された各フレームの画像
データを予測符号化し、伝送手段は前記符号化手段によ
って符号化された符号化データを、受信側と連絡を取り
ながら伝送路を介して受信側に伝送する。第1の判断手
段は、予め定める時間毎に、伝送中のフレームの表示の
可否を判断し、制御手段は、前記第1の判断手段が伝送
中のフレームを表示不能と判断した場合、前記記憶領域
に記憶されている画像データを読み出して前記第2の判
断手段に転送する。
【0046】第2の判断手段は、前記制御手段によって
転送されてくる、前記画像記憶手段に記憶されている各
フレームについて、そのフレームの表示の可否を判断す
る。制御手段は、前記第2の判断手段が前記フレームを
表示可能と判断した場合、前記フレームの画像データを
前記符号化手段に出力するよう前記画像記憶手段を制御
するとともに、伝送済み最新フレームを読み出して前記
符号化手段に参照フレームとして入力するよう前記伝送
済み最新フレーム記憶手段を制御する。
【0047】従って、従来の画像符号化装置では伝送中
のフレームが表示不能となった場合には、伝送済み最新
フレームから伝送エラー終了後に画像サンプルされるフ
レームまでのフレームがすべて駒落としされていたのに
対し、本発明の画像符号化装置では、画像記憶手段に記
憶している画像データのうちで表示可能な画像データが
あれば、その画像データを伝送済み最新フレームを参照
フレームとして予測符号化し、受信側に伝送することが
できる。従って、本発明の画像符号化装置は、画像記憶
手段に画像データを記憶している範囲内で、伝送中のフ
レームが表示不能となった場合に発生する表示画像の駒
落としを最小限に留めることができ、伝送エラー終了後
に画像サンプルされるフレームより前のフレームが表示
可能であれば、従来の画像符号化装置よりも前記駒落と
しを減少することができる。
【0048】請求項2記載の本発明に従えば、請求項1
記載の画像符号化装置において、前記画像記憶手段は、
第1から第n(nは自然数)の画像メモリを備え、前記
画像メモリは、それぞれの記憶領域に1フレーム分の画
像データを記憶する。書き込み制御手段は、入力される
画像データを1フレームずつそれぞれのフレームナンバ
ーに対応づけて前記画像メモリに順次、書き込む。前記
制御手段は、前記第1の判断手段が伝送中のフレームを
表示不能と判断した場合、前記第1から第nの画像メモ
リに記憶されている画像データをフレームナンバーの小
さいものから順次読み出して前記第2の判断手段に転送
し、前記第2の判断手段が前記フレームを表示可能と判
断した場合、前記フレームの画像データを前記第1から
第nの画像メモリから読み出して前記符号化手段に転送
するよう前記画像記憶手段を制御する。
【0049】ここで、前記第2の判断手段の判断対象と
なるフレームについて、そのフレームの発生符号量が少
なければそのフレームの表示までの残り時間が少なくて
も表示可能となる場合が発生する。従って、前記画像メ
モリの数を適切に選ぶことによって、伝送エラーのため
に伝送中のフレームが表示不能となった場合でも、伝送
済み最新フレームからの駒落としをより少なくすること
ができる画像データを記憶しておくことができる。
【0050】請求項3記載の本発明に従えば、請求項2
記載の画像符号化装置の伝送手段において、送信バッフ
ァは、前記符号化手段から出力された符号化データを記
憶する。伝送制御手段は、前記送信バッファに記憶され
た符号化データを先入れ先出しで伝送路に出力し、伝送
路に出力した符号化データについて、受信側からの送達
確認が取れた場合は次の符号化データを伝送路に出力
し、送達確認が取れない場合は再送するよう前記送信バ
ッファおよび伝送路を制御する。また、前記第1の判断
手段において、未送信符号量検出手段は伝送中のフレー
ムの前記送信バッファ内の未送信符号量を検出し、第1
の伝送時間算出手段は前記未送信符号量検出手段によっ
て検出された未送信符号量から、 (未送信符号化データの伝送時間)=(未送信符号量)
/(予め定める伝送速度) 前記計算式に基づいて、伝送中のフレームの未送信符号
化データの伝送時間を算出する。第1の復号時間算出手
段は、前記符号化手段によって符号化されたフレームの
発生符号量を検出して記憶し、 (そのフレームの復号時間)=(発生符号量)/(予め
定める復号速度) 前記計算式に基づき、伝送中のフレームの復号時間を算
出する。第1の残り時間検出手段は、現時点から伝送中
のフレームの画像を受信側の表示装置に表示すべき時点
までの残り時間を検出する。第1の比較手段は前記復号
時間と前記伝送時間との和と前記残り時間とを比較し、
前記第1の判断手段は前記第1の比較手段の比較結果に
基づいて、 (そのフレームの画像を表示すべき時点までの残り時
間)>(未送信符号化データの伝送に要する時間)+
(そのフレームの復号時間) 前記条件式で示される条件を満たすフレームを表示可能
と判断する。
【0051】さらに、前記第2の判断手段において、符
号量予測手段は前記画像記憶手段に記憶されているフレ
ームについて、前記フレームの画像データを符号化した
際に発生する符号量を予測する。第2の伝送時間算出手
段は、前記符号量予測手段によって予測された符号量か
ら、 (そのフレームの伝送時間)=(そのフレームの予測符
号量)/(予め定める伝送速度) 前記計算式に基づいて、画像記憶手段に記憶されている
フレームの伝送時間を算出する。符号化時間算出手段
は、前記符号量予測手段によって予測された予測符号量
から、 (そのフレームの符号化時間)=(そのフレームの予測
符号量)/(予め定める符号化速度) 前記計算式に基づき、前記画像記憶手段に記憶されてい
るフレームの符号化時間を算出する。第2の復号時間算
出手段は、前記符号量予測手段によって予測された予測
符号量から、 (そのフレームの復号時間)=(そのフレームの予測符
号量)/(予め定める復号速度) 前記計算式に基づき、前記画像記憶手段に記憶されてい
るフレームの復号時間を算出する。第2の残り時間検出
手段は、前記画像記憶手段に記憶されているフレームに
ついて、現時点から前記フレームの画像を受信側の表示
装置に表示すべき時点までの残り時間を検出する。第2
の比較手段は、前記符号化時間と前記復号時間と前記伝
送時間との和と前記残り時間とを比較する。
【0052】前記第2の判断手段は、前記第2の比較手
段の比較結果に基づき、 (そのフレームの画像を表示すべき時点までの残り時
間)>(そのフレームの符号化時間)+(そのフレーム
の伝送時間)+(そのフレームの復号時間) 上記条件式で示される条件を満たすフレームを表示可能
と判断する。
【0053】以上のように、第1の判断手段および第2
の判断手段は、変数の少ない簡単な演算で各フレームの
表示の可否を判断するので、判断対象フレームの表示の
可否の判断に要する時間を短時間に留めることができ
る。請求項4記載の本発明に従えば、請求項3記載の画
像符号化装置の前記第1の残り時間検出手段および第2
の残り時間検出手段において、初期値出力部は、予め定
める平滑化時間を出力する。タイマーは、予め定める経
過時間ごとに信号を出力する。第1のセレクタは、2入
力1出力のセレクタであって、前記2入力のうち1入力
に前記初期値出力部から出力される平滑化時間を入力
し、前記制御手段からの選択信号により、前記2入力の
うちから1入力を選択して出力する。経過時間減算部
は、前記タイマーからの信号を検出する毎に、前記第1
のセレクタの出力から前記経過時間を減算し、前記第1
の比較手段に出力する。第1から第nまでの加算部は、
n個の加算部を備え、それぞれ第k(kは1からnまで
の自然数)の加算部は前記経過時間減算部の出力にそれ
ぞれk×(前記経過時間)を加算する。第2のセレクタ
は、前記制御手段からの選択信号により、前記第1から
第nまでの加算部の出力のうちから1信号を選択して前
記第2の比較手段および第1のセレクタに出力する。
【0054】前記制御手段は、動作開始時には、第1の
セレクタに前記2入力のうちから前記初期値出力部の出
力を選択する選択信号を出力し、前記第2の判断手段が
判断を開始する毎に、前記第2のセレクタに前記第1か
ら第nまでの加算部の出力を順次選択する選択信号を出
力し、前記第1の判断手段が表示不能を判断してから前
記第2の判断手段が最初に表示可能と判断したときに
は、前記第1のセレクタに、そのときの前記第2のセレ
クタの出力を選択する選択信号を出力する。
【0055】以上のように、前記第1の残り時間検出手
段と前記第2の残り時間検出手段とは、タイマーの信号
毎に伝送中のフレームと前記画像記憶手段に記憶してい
る画像データの残り時間を同時に検出しているので、伝
送中のフレームの表示不能が判断されてから後に、前記
第2の判断手段の判断対象フレームの残り時間を演算す
ることなく、速やかに表示の可否を判断することができ
る。
【0056】請求項5記載の本発明に従えば、請求項3
記載の画像符号化装置の前記符号量予測手段において、
フレーム間差分値検出部は、符号量予測対象フレームの
中の1ブロックの画像データと伝送済み最新フレームの
中で前記ブロックと同一位置に相当するブロックの復号
データとの単純な差分値を求めることによって、前記符
号量予測対象フレームのフレーム間差分値を検出する。
直交変換部は、前記フレーム間差分値検出部からのフレ
ーム間差分値を直交変換する。無効ブロック検出部は、
前記直交変換部による直交変換の結果、すべての直交変
換係数が予め定めるしきい値に満たないブロックを無効
ブロックと判断し、前記符号量予測対象フレームの無効
ブロック数を検出する。符号量算出部は、前記無効ブロ
ック数検出部によって検出された無効ブロック数から、
有効ブロック数を求め、 (有効ブロック数)=(総ブロック数)−(無効ブロッ
ク数) (発生符号量)=(直前に符号化されたフレームの有効
ブロック数に対する発生符号量)×(有効ブロック数) 前記計算式に基づき、符号量予測対象フレームを符号化
した際に発生する符号量を算出する。
【0057】以上のように、前記符号量予測手段は、所
要時間が長くかかる動きベクトル検出の処理を行うこと
なく、前記フレーム間差分値に基づいて符号量予測対象
フレームの符号量を予測するので、短時間で符号量予測
対象フレームの符号量を予測することができる。従っ
て、本発明の画像符号化装置は、前記第2の判断手段の
判断時間を短い時間に留めることができ、伝送中のフレ
ームが表示不能となった後、画像記憶手段に記憶してい
る画像データのうちから表示画像の駒落としを最小限に
留めることが可能な画像データを速やかに選択し、伝送
することができる。
【0058】請求項6記載の本発明に従えば、請求項3
記載の画像符号化装置の前記符号量予測手段において、
最新フレームナンバー記憶部は、前記画像記憶手段に記
憶されているフレームのうち最新フレームのフレームナ
ンバーを記憶する。符号量予測制御部は、前記第1の判
断手段が伝送中のフレームの表示不能を判断した時点
で、前記符号化手段に、前記最新フレームナンバー記憶
手段に記憶されているフレームナンバーの画像データ
を、伝送済み最新フレームを参照フレームとして符号化
しその発生符号量を検出するよう指示し、前記発生符号
量が前記第2の判断手段の判断対象フレームの発生符号
量となるものと予測する。
【0059】以上のように、第1の判断手段および第2
の判断手段は、変数の少ない簡単な演算で各フレームの
表示の可否を判断するので、表示の可否の判断に要する
時間を短時間に留めることができる。請求項7記載の本
発明に従えば、参照フレーム記憶手段は、少なくとも1
フレーム分の画像データを記憶する記憶容量を備え、予
め定めるフレームを記憶する。符号化手段は、入力され
たフレームの画像データを予め定めるフレーム間隔で画
像サンプルし、画像サンプルした前記画像データを前記
参照フレーム記憶手段に記憶されている伝送済み最新フ
レームから現在伝送中のフレームまでの少なくとも予め
定める1フレームを参照フレームとして予測符号化す
る。符号化データ記憶手段は、少なくとも1フレーム分
の符号化データを記憶する記憶領域を備え、前記符号化
手段によって符号化された符号化データを、予測符号化
の参照フレームとされたフレームと対応付けて記憶す
る。伝送手段は、前記符号化手段によって符号化された
符号化データを、伝送路を介して受信側に伝送する。
【0060】第1の判断手段は、予め定める時間毎に、
伝送中のフレームの表示の可否を、現時点からそのフレ
ームの画像を表示すべき時点までの残り時間と、そのフ
レームの伝送時間と、そのフレームの復号時間とに基づ
いて判断する。制御手段は、前記第1の判断手段が伝送
中のフレームを表示不能と判断した場合、前記記憶領域
に記憶されている符号化データのうち、予め定めるフレ
ームを参照フレームとする符号化データを読みだして前
記第2の判断手段に転送し、第2の判断手段は、前記制
御手段によって転送されてくる、前記符号化データ記憶
手段に記憶されている各フレームについて、そのフレー
ムの表示の可否を、現時点からそのフレームの画像を表
示すべき時点までの残り時間と、そのフレームの伝送時
間と、そのフレームの復号時間とに基づいて判断する。
さらに、制御手段は、前記第2の判断手段が前記フレー
ムを表示可能と判断した場合、前記フレームの符号化デ
ータを前記記憶領域から読み出して前記伝送手段に出力
するよう前記符号化データ記憶手段を制御する。
【0061】前記符号化データ記憶手段は、すでに予測
符号化した符号化データを記憶しているので、伝送中の
フレームが表示不能となった場合に、前記第2の判断手
段は、速やかに符号量を検出し、表示の可否を判断する
ことができる。また、伝送に際しても改めて符号化する
必要がなく、表示可能と判断した符号化データを速やか
に伝送することができる。
【0062】請求項8記載の本発明に従えば、請求項7
記載の画像符号化装置の前記符号化データ記憶手段にお
いて、n(nは自然数)個の符号化データメモリは、そ
れぞれの記憶領域に各フレームの符号化データを記憶す
る。書き込み制御手段は、前記符号化手段から入力され
る符号化データを、それぞれのフレームナンバーとその
符号化データの参照フレームとされたフレームのフレー
ムナンバーとに対応づけて前記符号化データメモリに順
次、書き込む。
【0063】前記制御手段は、前記第1の判断手段が伝
送中のフレームを表示不能と判断した場合、前記符号化
データメモリに記憶されている符号化データをフレーム
ナンバーの小さいものから順次読み出して前記第2の判
断手段に転送し、前記第2の判断手段が前記フレームを
表示可能と判断した場合、表示可能と判断された前記フ
レームの符号化データのうち予め定めるフレームを参照
フレームとする符号化データを前記n個の符号化データ
メモリから読み出して前記伝送手段に出力するよう前記
符号化データ記憶手段を制御する。
【0064】符号量の少ない符号化データは、表示まで
の残り時間が少なくても表示できる場合が発生する。従
って、符号化データメモリの数を適切に選ぶことによっ
て、伝送中のフレームが表示不能となった場合に発生す
る表示画像の駒落としを最小限に留めることができる符
号化データを、前記符号化データメモリに記憶しておく
ことができる。
【0065】請求項9記載の本発明に従えば、請求項8
記載の画像符号化装置の前記伝送手段において、送信バ
ッファは、前記符号化手段から出力された符号化データ
を記憶する。伝送制御手段は、前記送信バッファに記憶
された符号化データを先入れ先出しで伝送路に出力し、
伝送路に出力した符号化データについて、受信側からの
送達確認が取れた場合は次の符号化データを伝送路に出
力し、送達確認が取れない場合は再送するよう前記送信
バッファおよび伝送路を制御する。
【0066】また、前記第1の判断手段において、未送
信符号量検出手段は、伝送中のフレームの前記送信バッ
ファ内の未送信符号量を検出する。第1の伝送時間算出
手段は、前記未送信符号量検出手段によって検出された
未送信符号量から、 (未送信符号化データの伝送時間)=(未送信符号量)
/(予め定める伝送速度) 前記計算式に基づいて、伝送中のフレームの未送信符号
化データの伝送時間を算出する。第1の復号時間算出手
段は、前記符号化手段によって符号化されたフレームの
発生符号量を検出して記憶し、 (そのフレームの復号時間)=(発生符号量)/(予め
定める復号速度) 前記計算式に基づき、伝送中のフレームの復号時間を算
出する。第1の残り時間検出手段は、現時点から伝送中
のフレームの画像を受信側の表示装置に表示すべき時点
までの残り時間を検出する。第1の比較手段は、前記復
号時間と前記伝送時間との和と前記残り時間とを比較す
る。
【0067】前記第1の判断手段は、前記第1の比較手
段の比較結果に基づいて、 (そのフレームの画像を表示すべき時点までの残り時
間)>(未送信符号化データの伝送に要する時間)+
(そのフレームの復号時間) 前記条件式で示される条件を満たすフレームを表示可能
と判断する。
【0068】さらに、前記第2の判断手段において、符
号量検出手段は、前記符号化データ記憶手段に記憶され
ている符号化データの符号量を検出する。第2の伝送時
間算出手段は、前記符号量検出手段によって検出された
符号量から、 (そのフレームの伝送時間)=(そのフレームの符号
量)/(予め定める伝送速度) 前記計算式に基づいて、符号化データ記憶手段に記憶さ
れているフレームの伝送時間を算出する。第2の復号時
間算出手段は、前記符号量検出手段によって検出された
符号量から、 (そのフレームの復号時間)=(そのフレームの符号
量)/(予め定める復号速度) 前記計算式に基づき、前記符号化データ記憶手段に記憶
されているフレームの復号時間を算出する。第2の残り
時間検出手段は、前記符号化データ記憶手段に記憶され
ている符号化データについて、現時点から前記符号化デ
ータのフレームの画像を受信側の表示装置に表示すべき
時点までの残り時間を検出する。第2の比較手段は、前
記復号時間と前記伝送時間との和と前記残り時間とを比
較する。
【0069】前記第2の判断手段は、前記第2の比較手
段の比較結果に基づいて、 (そのフレームの画像を表示すべき時点までの残り時
間)>(そのフレームの伝送時間)+(そのフレームの
復号時間) 上記条件式で示される条件を満たすフレームを表示可能
と判断する。従って、前記第1の判断手段および前記第
2の判断手段は、簡単な演算で各フレームの表示の可否
を判断することができ、表示の可否の判断に要する時間
を短時間に留めることができる。請求項10記載の本発
明に従えば、請求項9記載の画像符号化装置の前記第1
の残り時間検出手段および前記第2の残り時間検出手段
において、初期値出力部は、予め定める平滑化時間を出
力する。タイマーは、予め定める経過時間ごとに信号を
出力する。第1のセレクタは、2入力1出力のセレクタ
であって、前記2入力のうち1入力に前記初期値出力部
から出力される平滑化時間を入力し、前記制御手段から
の選択信号により、前記2入力のうちから1入力を選択
して出力する。経過時間減算部は、前記タイマーからの
信号を検出する毎に、前記第1のセレクタの出力から前
記経過時間を減算し、前記第1の比較手段に出力する。
第1から第nまでの加算部は、n個の加算部を備え、そ
れぞれ第k(kは1からnまでの自然数)の加算部は、
前記経過時間減算部の出力にそれぞれk×(前記経過時
間)を加算する。第2のセレクタは前記制御手段からの
選択信号により、前記第1から第nまでの加算部の出力
のうちから1信号を選択して前記第2の比較手段および
第1のセレクタに出力する。
【0070】前記制御手段は、動作開始時には、第1の
セレクタに前記2入力のうちから前記初期値出力部の出
力を選択する選択信号を出力し、前記第2の判断手段が
判断を開始する毎に、前記第2のセレクタに前記第1か
ら第nまでの加算部の出力を順次選択する選択信号を出
力し、第1の判断手段が伝送中のフレームの表示不能を
判断してから前記第2の判断手段が最初に表示可能と判
断したときには、前記第1のセレクタに、そのときの前
記第2のセレクタの出力を選択する選択信号を出力す
る。
【0071】従って、前記第1の残り時間検出手段と前
記第2の残り時間検出手段とは、タイマーの信号毎に伝
送中のフレームと前記画像記憶手段に記憶している画像
データの残り時間を同時に検出することができ、伝送中
のフレームの表示不能が判断されてから後に、前記第2
の判断手段の判断対象フレームの残り時間を演算するこ
となく、速やかに表示の可否を判断することができる。
【0072】請求項11記載の本発明に従えば、請求項
4および請求項10記載の画像符号化装置の前記第2の
残り時間検出手段において、第1から第nの減算部は、
さらに、前記第1から第nまでの加算部の出力から伝送
中のフレームの未送信符号化データの伝送時間を減算
し、前記第2のセレクタに出力する。従って、前記第1
から第nの減算部の出力は、伝送中のフレームに続くフ
レームの残り時間から伝送中のフレームの未送信符号量
が減算された値を示す。伝送中のフレームが表示不能と
判断される前に、伝送中のフレームに続くフレームの表
示の可否を判断することができる。また、伝送中のフレ
ームが表示不能と判断されたときは、伝送中のフレーム
の送信バッファ内の未送信符号化データは廃棄されるの
で、前記第1から第nの減算部に入力される未送信符号
化データの伝送時間は「0」となり、前記第1から第n
の減算部からは伝送中のフレームに続くフレームの残り
時間が前記第2のセレクタに出力される。
【0073】請求項12記載の本発明に従えば、請求項
4および請求項10記載の画像符号化装置の前記第1の
残り時間検出手段および前記第2の残り時間検出手段に
おいて、前記第1から第nまでの加算部および第2のセ
レクタに代えて、時間差検出部は、伝送中のフレームが
画像サンプルされた時点から、画像記憶手段に記憶され
ているフレームが画像サンプルされた時点までの時間差
を、画像記憶手段に記憶されているフレームが伝送中の
フレームより先のフレームである場合には負の値として
検出する。時間差加算部は、前記時間差検出部からの時
間差を、前記経過時間減算部の出力に加算し前記第2の
比較手段と前記第1のセレクタとに出力する。
【0074】従って、第2の判断手段は、伝送中のフレ
ームより先に画像サンプルされた画像データの表示の可
否を判断することができる。請求項13記載の本発明に
従えば、請求項7記載の画像符号化装置の符号化データ
記憶手段において、符号化データメモリは、1つの符号
化データを記憶する記憶領域を備える。書き込み制御手
段は、前記符号化制御手段から入力される符号化データ
のうち、伝送中のフレームより後に画像サンプルされた
予め定めるフレームであって、伝送済み最新フレームを
参照フレームとする符号化データを、それぞれのフレー
ムナンバーとその符号化データの参照フレームとされた
フレームのフレームナンバーとに対応づけて前記符号化
データメモリに書き込む。
【0075】前記制御手段は、前記第1の判断手段が伝
送中のフレームを表示不能と判断した場合、前記符号化
データメモリに記憶されている符号化データを読み出し
て前記第2の判断手段に転送し、前記第2の判断手段が
前記フレームを表示可能と判断した場合、前記フレーム
の符号化データを前記符号化データメモリから読み出し
て前記伝送手段に出力するよう前記符号化データ記憶手
段を制御する。
【0076】ここで、符号量の少ない符号化データは、
そのフレームの残り時間が少ない場合でも表示できる可
能性が高い。従って、符号量の少ない符号化データを前
記符号化データメモリ内に記憶しておくことによって、
その符号化データが表示可能となる場合には、伝送中の
フレームが表示不能となった場合に発生する表示画像の
駒落としを低減することができる。
【0077】請求項14記載の本発明に従えば、符号化
手段は、フレーム順に入力される各フレームを予測符号
化する。伝送手段は、伝送すべき符号化データを記憶す
る送信バッファを備え、前記符号化手段によって符号化
された符号化データを送信バッファに蓄えるとともに、
前記送信バッファから前記符号化データをフレーム順に
とりだし、伝送路を介して受信側に伝送する。第1の判
断手段は、伝送中のフレームが画像サンプルから始まる
平滑化時間終了時点で受信側の表示装置に表示可能か否
かを判断する。
【0078】画像データ再現手段は、前記第1の判断手
段が伝送中のフレームを表示不能と判断するまでは前記
符号化手段が符号化した符号化データについて符号化処
理と逆の処理を行って入力時のフレームの画像データを
復号データで近似的に再現し、前記第1の判断手段が伝
送中のフレームを表示不能と判断した場合、その時点で
送信バッファに残っている全てのフレームの未送信符号
化データについて前述と同様に再現する。再現画像記憶
手段は、少なくとも4フレーム分の再現された画像デー
タを記憶する記憶領域を備え、前記画像データ再現手段
によって再現されたフレームの中で送達確認がとれた最
新のフレームと前記符号化手段が符号化した最新のフレ
ームとを未送信符号化データから再現されたフレームと
区別して格納する。
【0079】第2の判断手段は、前記送信バッファに残
っているすべてのフレームについて、画像サンプルから
始まる平滑化時間終了時点で受信側の表示装置に表示可
能か否かを判断する。制御手段は、前記画像データ再現
手段で再現した画像データであって前記第2の判断手段
が表示可能と判断したフレームのうち最初のフレームに
ついて送達確認がとれた最新のフレームを参照フレーム
として符号化し、それに続くフレームについては新たな
入力フレームと同様に直前に符号化したフレームを参照
フレームとして符号化し、前記伝送手段に転送するよう
前記符号化手段を制御する。 以上のように本発明に従
えば、画像符号化装置は、前記第1の判断手段が伝送中
のフレームを表示不能と判断した後、送信バッファ内に
記憶されている未送信符号化データから符号化前の画像
データを復号データで再現し、再現された画像データの
うち第2の判断手段によって表示可能と判断されたフレ
ームを符号化して伝送することができる。従って、従来
の画像符号化装置と比較して、伝送中のフレームが表示
不能となった場合の駒落としを低減することができる。
また、本発明の画像符号化装置は、再現画像データ記憶
手段を効率よく使用して、伝送中のフレームが表示不能
となった時点で送信バッファ内に記憶されている未送信
符号化データを再現することができる。
【0080】請求項15記載の本発明に従えば、請求項
14記載の画像符号化装置の前記第1の判断手段におい
て、未送信符号量検出手段は、伝送中のフレームの前記
送信バッファ内の未送信符号量を検出する。第1の伝送
時間算出手段は、前記未送信符号量検出手段によって検
出された未送信符号量から、 (未送信符号化データの伝送時間)=(未送信符号量)
/(予め定める伝送速度) 前記計算式に基づいて、伝送中のフレームの未送信符号
化データの伝送時間を算出する。第1の復号時間算出手
段は、前記符号化手段によって符号化されたフレームの
発生符号量を検出して記憶し、 (そのフレームの復号時間)=(発生符号量)/(予め
定める復号速度) 前記計算式に基づき、伝送中のフレームの復号時間を算
出する。第1の残り時間検出手段は、現時点から伝送中
のフレームの画像を受信側の表示装置に表示すべき時点
までの残り時間を検出する。第1の比較手段は、前記伝
送時間と前記復号時間との和と前記残り時間とを比較す
る。
【0081】前記第1の判断手段は、前記第1の比較手
段の比較結果に基づいて、 (そのフレームの画像を表示すべき時点までの残り時
間)>(未送信符号化データの伝送に要する時間)+
(そのフレームの復号時間) 前記条件式で示される条件を満たすフレームを表示可能
と判断する。
【0082】また、前記第2の判断手段において、符号
量予測手段は、前記再現画像記憶手段に記憶されている
フレームについて、前記フレームの再現画像データを符
号化した際に発生する符号量を予測する。第2の伝送時
間算出手段は、前記符号量予測手段によって予測された
符号量から、 (そのフレームの伝送時間)=(そのフレームの予測符
号量)/(予め定める伝送速度) 前記計算式に基づいて、再現画像記憶手段に記憶されて
いるフレームの伝送時間を算出する。符号化時間算出手
段は、前記符号量予測手段によって予測された予測符号
量から、 (そのフレームの符号化時間)=(そのフレームの予測
符号量)/(予め定められる符号化速度) 前記計算式に基づいて、再現画像記憶手段に記憶されて
いるフレームの符号化時間を算出する。第2の復号時間
算出手段は、前記符号量予測手段によって予測された符
号量から、 (そのフレームの復号時間)=(そのフレームの予測符
号量)/(予め定める復号速度) 前記計算式に基づいて、再現画像記憶手段に記憶されて
いるフレームの復号時間を算出する。第2の残り時間検
出手段は、前記再現画像記憶手段に記憶されているフレ
ームについて、現時点から前記フレームの画像を受信側
の表示装置に表示すべき時点までの残り時間を検出す
る。第2の比較手段は、前記符号化時間と前記伝送時間
と前記復号時間との和と前記残り時間とを比較する。
【0083】前記第2の判断手段は、前記第2の比較手
段の比較結果に基づいて、 (そのフレームの画像を表示すべき時点までの残り時
間)>(そのフレームの符号化時間)+(そのフレーム
の伝送時間)+(そのフレームの復号時間) 上記条件式で示される条件を満たすフレームを表示可能
と判断する。
【0084】従って、前記第1の判断手段および前記第
2の判断手段は、変数の少ない簡単な演算で各フレーム
の表示の可否を判断することができ、表示の可否の判断
に要する時間を短時間に留めることができる。請求項1
6記載の本発明に従えば、請求項15記載の画像符号化
装置の前記符号量予測手段において、フレーム間差分値
検出部は、符号量予測対象フレームの中の1ブロックの
画像データと伝送済み最新フレームの中で前記ブロック
と同一位置に相当するブロックの復号データとの単純な
差分値を求めることによって、前記符号量予測対象フレ
ームのフレーム間差分値を検出する。直交変換部は、前
記フレーム間差分値検出部からのフレーム間差分値を直
交変換する。無効ブロック検出部は、前記直交変換部に
よる直交変換の結果、すべての直交変換係数が予め定め
るしきい値に満たないブロックを無効ブロックと判断
し、前記符号量予測対象フレームの無効ブロック数を検
出する。符号量算出部は、前記無効ブロック数検出部に
よって検出された無効ブロック数から、有効ブロック数
を求め、 (有効ブロック数)=(総ブロック数)−(無効ブロッ
ク数) (発生符号量)=(直前に符号化されたフレームの有効
ブロック数に対する発生符号量)×(有効ブロック数) 前記計算式に基づき、符号量予測対象フレームを符号化
した際に発生する符号量を算出する。
【0085】前記符号量予測手段は、所要時間が長くか
かる動きベクトル検出の処理を行うことなく、前記フレ
ーム間差分値に基づいて符号量予測対象フレームの符号
量を予測するので、前記第2の判断手段の判断時間を短
い時間に留めることができる。従って、画像符号化装置
は、伝送中のフレームが表示不能となった後、表示画像
の駒落としを最小限に留めることが可能な画像データを
速やかに伝送することができる。
【0086】請求項17記載の本発明に従えば、請求項
15記載の画像符号化装置の前記符号量予測手段におい
て、符号量予測制御部は、前記第1の判断手段が伝送中
のフレームの表示不能を判断した時点で、前記符号化手
段に、伝送中のフレームの表示不能が判断される直前に
符号化されたフレームであって復号されたものを符号化
対象フレームとして、伝送済み最新フレームを参照フレ
ームとして符号化し、その発生符号量を検出するよう指
示し、前記発生符号量が前記第2の判断手段の判断対象
フレームの発生符号量となるものと予測する。
【0087】ここで、伝送中のフレームの表示不能が判
断される直前に符号化されたフレームというのは、送信
バッファ内に記憶されているフレームのうちの最新フレ
ームであって、このフレームはすでに前記再現画像記憶
手段内に格納されている。従って、前記判断対象フレー
ムの発生符号量を予測するには、前記再現画像記憶手段
内に再現された最新フレームを、伝送済み最新フレーム
を参照フレームとして符号化し、その符号量を検出する
だけでよい。
【0088】請求項18記載の本発明に従えば、請求項
14記載の画像符号化装置において、画像記憶手段は、
少なくとも1フレーム分の画像データを記憶する記憶領
域を備える。メモリ制御手段は、伝送エラー中に入力さ
れるフレームを、前記画像記憶手段に記憶させ、前記再
現画像記憶手段に記憶された再現画像データのうちの最
後のフレームが符号化手段へ転送された後、前記画像記
憶手段に記憶されている各フレームの画像データを読み
出し符号化手段へ転送する。
【0089】従って、本発明に従えば、従来の画像符号
化装置では伝送エラー中に入力される画像データを記憶
しておくための記憶手段を備えていないことによって生
じていた表示画像の駒落としを防止することができる。
請求項19記載の本発明に従えば、請求項18記載の画
像符号化装置の前記第1の判断手段において、未送信符
号量検出手段は、伝送中のフレームの前記送信バッファ
内の未送信符号量を検出する。第1の伝送時間算出手段
は、前記未送信符号量検出手段によって検出された未送
信符号量から、 (未送信符号化データの伝送時間)=(未送信符号量)
/(予め定める伝送速度) 前記計算式に基づいて、伝送中のフレームの未送信符号
化データの伝送時間を算出する。第1の復号時間算出手
段は、前記符号化手段によって符号化されたフレームの
発生符号量を検出して記憶し、 (そのフレームの復号時間)=(発生符号量)/(予め
定める復号速度) 前記計算式に基づき、伝送中のフレームの復号時間を算
出する。第1の残り時間検出手段は、現時点から伝送中
のフレームの画像を受信側の表示装置に表示すべき時点
までの残り時間を検出する。第1の比較手段は、前記伝
送時間と前記復号時間との和と前記残り時間とを比較す
る。
【0090】前記第1の判断手段は、前記第1の比較手
段の比較結果に基づいて、 (そのフレームの画像を表示すべき時点までの残り時
間)>(未送信符号化データの伝送に要する時間)+
(そのフレームの復号時間) 前記条件式で示される条件を満たすフレームを表示可能
と判断する。
【0091】また、第2の判断手段において、符号量予
測手段は、前記再現画像記憶手段および前記画像記憶手
段に記憶されているフレームについて、前記フレームの
再現画像データおよび画像データを符号化した際に発生
する符号量を予測する。第2の伝送時間算出手段は、前
記符号量予測手段によって予測された符号量から、 (そのフレームの伝送時間)=(そのフレームの予測符
号量)/(予め定める伝送速度) 前記計算式に基づいて、前記再現画像記憶手段および前
記画像記憶手段に記憶されているフレームの伝送時間を
算出する。符号化時間算出手段は、前記符号量予測手段
によって予測された予測符号量から、 (そのフレームの符号化時間)=(そのフレームの予測
符号量)/(予め定める符号化速度) 前記計算式に基づき、前記再現画像記憶手段および前記
画像記憶手段に記憶されているフレームの符号化時間を
算出する。第2の復号時間算出手段は、前記符号量予測
手段によって予測された予測符号量から、 (そのフレームの復号時間)=(そのフレームの予測符
号量)/(予め定める復号速度) 前記計算式に基づき、前記再現画像記憶手段および前記
画像記憶手段に記憶されているフレームの復号時間を算
出する。第2の残り時間検出手段は、前記再現画像記憶
手段および前記画像記憶手段に記憶されているフレーム
について、現時点から前記フレームの画像を受信側の表
示装置に表示すべき時点までの残り時間を検出する。第
2の比較手段は、前記符号化時間と前記伝送時間と前記
復号時間との和と前記残り時間とを比較する。
【0092】前記第2の判断手段は、前記第2の比較手
段の比較結果に基づいて、 (そのフレームの画像を表示すべき時点までの残り時
間)>(そのフレームの符号化時間)+(そのフレーム
の伝送時間)+(そのフレームの復号時間) 上記条件式で示される条件を満たすフレームを表示可能
と判断する。
【0093】従って、前記第1の判断手段および前記第
2の判断手段は、変数の少ない簡単な演算で各フレーム
の表示の可否を判断することができ、表示の可否の判断
に要する時間を短時間に留めることができる。請求項2
0記載の本発明に従えば、請求項15および請求項19
記載の画像符号化装置の前記第1の残り時間検出手段お
よび前記第2の残り時間検出手段において、初期値出力
部は、予め定める平滑化時間を出力する。タイマーは、
予め定める経過時間ごとに信号を出力する。第1のセレ
クタは、2入力1出力のセレクタであって、前記2入力
のうち1入力に前記初期値出力部から出力される平滑化
時間を入力し、前記制御手段からの選択信号により、前
記2入力のうちから1入力を選択して出力する。経過時
間減算部は、前記タイマーからの信号を検出する毎に、
前記第1のセレクタの出力から前記経過時間を減算し、
前記第1の比較手段に出力する。第1から第nまでの加
算部は、n個の加算部を備え、それぞれ第k(kは1か
らnまでの自然数)の加算部は前記経過時間減算部の出
力にそれぞれk×(前記経過時間)を加算する。第2の
セレクタは、前記制御手段からの選択信号により、前記
第1から第nまでの加算部の出力のうちから1信号を選
択して前記第2の比較手段および第1のセレクタに出力
する。
【0094】前記制御手段は、動作開始時には、第1の
セレクタに前記2入力のうちから前記初期値出力部の出
力を選択する選択信号を出力し、前記第2の判断手段が
判断を開始する毎に、前記第2のセレクタに前記第1か
ら第nまでの加算部の出力を順次選択する選択信号を出
力し、前記第1の判断手段が伝送中のフレームの表示不
能を判断してから、前記第2の判断手段が最初に表示可
能と判断したときには、前記第1のセレクタに、そのと
きの前記第2のセレクタの出力を選択する選択信号を出
力する。
【0095】従って、前記第1の残り時間検出手段と前
記第2の残り時間検出手段とは、タイマーの信号毎に伝
送中のフレームと前記画像記憶手段に記憶している画像
データの残り時間を同時に検出することができ、伝送中
のフレームの表示不能が判断されてから後に、前記第2
の判断手段の判断対象フレームの残り時間を演算するこ
となく、速やかに表示の可否を判断することができる。
【0096】請求項21記載の本発明に従えば、請求項
20記載の画像符号化装置の前記第2の残り時間検出手
段において、第1から第nの減算部は、さらに、前記第
1から第nまでの加算部の出力から伝送中のフレームの
未送信符号化データの伝送時間を減算し、前記第2のセ
レクタに出力する。従って、前記第2の判断手段は、伝
送中のフレームが表示不能と判断される前に、伝送中の
フレームに続くフレームの表示の可否を判断することが
できる。また、伝送中のフレームが表示不能と判断され
たときは、伝送中のフレームの送信バッファ内の未送信
符号化データは廃棄されるので、前記第1から第nの減
算部に入力される未送信符号化データの伝送時間は
「0」となり、前記第1から第nの減算部からは伝送中
のフレームに続くフレームの残り時間が前記第2のセレ
クタに出力される。
【0097】請求項22記載の本発明に従えば、請求項
19記載の画像符号化装置の前記符号量予測手段におい
て、フレーム間差分値検出部は、符号量予測対象フレー
ムの中の1ブロックの画像データと伝送済み最新フレー
ムの中で前記ブロックと同一位置に相当するブロックの
復号データとの単純な差分値を求めることによって、前
記符号量予測対象フレームのフレーム間差分値を検出す
る。直交変換部は、前記フレーム間差分値検出部からの
フレーム間差分値を直交変換する。無効ブロック検出部
は、前記直交変換部による直交変換の結果、すべての直
交変換係数が予め定めるしきい値に満たないブロックを
無効ブロックと判断し、前記符号量予測対象フレームの
無効ブロック数を検出する。符号量算出部は、前記無効
ブロック数検出部によって検出された無効ブロック数か
ら、有効ブロック数を求め、 (有効ブロック数)=(総ブロック数)−(無効ブロッ
ク数) (発生符号量)=(直前に符号化されたフレームの有効
ブロック数に対する発生符号量)×(有効ブロック数) 前記計算式に基づき、符号量予測対象フレームを符号化
した際に発生する符号量を算出する。
【0098】前記符号量予測手段は、所要時間が長くか
かる動きベクトル検出の処理を行うことなく、前記フレ
ーム間差分値に基づいて符号量予測対象フレームの符号
量を予測するので、前記第2の判断手段の判断時間を短
い時間に留めることができる。従って、画像符号化装置
は、伝送中のフレームが表示不能となった後、表示画像
の駒落としを最小限に留めることが可能な画像データを
速やかに伝送することができる。
【0099】請求項23記載の本発明に従えば、請求項
19記載の画像符号化装置の前記符号量予測手段におい
て、最新フレームナンバー記憶部は、前記画像記憶手段
および再現画像記憶手段に記憶されているフレームのう
ち最新フレームのフレームナンバーを記憶する。符号量
予測制御部は、前記第1の判断手段が伝送中のフレーム
の表示不能を判断した時点で、前記符号化手段に前記最
新フレームナンバー記憶手段に記憶されているフレーム
ナンバーの画像データと再現画像データとを伝送済み最
新フレームを参照フレームとして符号化しその発生符号
量を検出するよう指示し、前記発生符号量が前記第2の
判断手段の判断対象フレームの発生符号量となるものと
予測する。
【0100】従って、前記第1の判断手段および前記第
2の判断手段は、変数の少ない簡単な演算で各フレーム
の表示の可否を判断することができ、表示の可否の判断
に要する時間を短時間に留めることができる。
【0101】
【実施例】(実施例1)以下、本発明の実施例1につい
て図面を参照しながら説明する。図1は本発明の実施例
1である画像符号化装置の構成図である。図1に示すよ
うに画像符号化装置は、前処理装置115、画像記憶装
置103、符号化装置106、伝送制御装置107およ
び復号装置133を備える。
【0102】また、画像記憶装置103は、第1から第
nの画像メモリ101およびメモリ制御部102を備え
る。符号化装置106は、符号化部104および符号化
制御部105を備える。さらに、符号化部104は、動
き補償フレーム予測部116、DCT117、量子化部
118、第1の可変長符号化部119、第2の可変長符
号化部120および多重化部121を備える。伝送制御
装置107は、タイマー130、フレーム選択部108
および伝送制御部109を備える。さらに、伝送制御部
109は、送信バッファ127、再送制御部128およ
び再送用バッファ129を備える。復号装置133は、
フレームメモリ131および復号部132を備える。
【0103】第1から第nの画像メモリ101は、書込
み中に読み出し可能なデュアルポートメモリであって、
入力されるフレームの画像データをそれぞれフレームナ
ンバーに対応付けて記憶する。メモリ制御部102は、
第1のアドレスバス123および第1のデータバス12
4を介して、第1から第nの画像メモリ101への画像
データの書き込みを制御し、第2のアドレスバス125
および第2のデータバス126を介して、第1から第n
の画像メモリ101からの画像データの読出しを制御す
る。
【0104】画像記憶装置103は、入力されるフレー
ムの画像データを、入力されるフレーム毎に第1から第
nの画像メモリ101に順次、記憶する。また、第1か
ら第nの画像メモリ101内にすでにnフレーム分の画
像データが記憶されている場合には、最もフレームナン
バーの小さい画像データが最新のフレームの画像データ
で書き換えられる。
【0105】さらに、画像記憶装置103は、伝送中の
フレームが、伝送エラーによって、そのフレームの画像
サンプルから始まる平滑化時間の終了時点で受信側の表
示装置に表示不能となったことが、後述のフレーム選択
部108によって判断されたときは、記憶した画像デー
タを前記第1から第nの画像メモリ101から後述の符
号化装置106に出力する。なお、第1から第nの画像
メモリ101内に記憶されている画像データのうち、後
述のフレーム選択部108によって、そのフレームの画
像を表示すべき時点に受信側の表示装置に表示すること
ができないと判断された画像データは、廃棄される。
【0106】動き補償フレーム予測部116は、表示不
能の伝送フレームが生じるまでは、従来と同様にして動
きベクトルを求め、予測誤差信号を出力する。また、伝
送中のフレームが表示不能になったときには、後述のフ
レーム選択部108からの指示によって、復号装置13
3内のフレームメモリ131から伝送済み最新フレーム
の復号データを読み出し、第1から第nの画像メモリ1
01から読み出される各フレームの画像データとのフレ
ーム間差分値を求める。
【0107】前記フレーム間差分値は、第1から第nの
画像メモリ101から読み出される各フレームの1ブロ
ックの画像データと、前記伝送済み最新フレームの中で
前記ブロックに対して同じ位置にあるブロックの画像デ
ータとの間で単純に差分を求めることによって得られ
る。すなわち、フレーム間差分値は、前記両フレーム間
の動きベクトルを求めることなく得られる。このように
して、1フレーム内の前ブロックのフレーム間差分値を
求めることにより、1フレーム分のフレーム間差分値が
求められる。動き補償フレーム予測部116は、前述の
ようにして求めたフレーム間差分値を、後述のフレーム
選択部108にフレーム間差分信号として出力する。
【0108】符号化制御部105は、符号化後送信バッ
ファ127に出力される伝送フレームの発生符号量およ
び伝送中のフレームの未送信符号量を検出し、前記発生
符号量および前記未送信符号量をフレーム選択部108
に出力する。なお、DCT117、量子化部118、第
1の可変長符号化部119、第2の可変長符号化部12
0および多重化部121については、従来の技術と同様
であるので、ここでは説明を省略する。
【0109】タイマー130は、一定時間毎に、ここで
は1フレーム時間毎に値が変化する信号を出力する。フ
レーム選択部108は、まず、伝送中のフレームについ
て、現時点から伝送中のフレームの画像を受信側の表示
装置に表示すべき時点までの残り時間を算出し、符号化
制御部105から出力される前述の未送信符号量から伝
送中のフレームの復号時間を求める。さらに伝送中のフ
レームの未送信データの符号量および伝送路の伝送速度
とから、前記残り時間内に伝送中のフレームの未送信デ
ータの伝送を完了し、かつ、前記伝送中のフレームの復
号を完了することができるかどうかを一定時間毎に判断
する。
【0110】さらに、フレーム選択部108は、フェー
ジングによるバーストエラーなどの伝送エラーによって
伝送時間が長引き、伝送中のフレームを、その画像サン
プルから始まる平滑化時間Tの終了時点で受信側の表示
装置に表示することができないと判断した場合、まず、
前記第1から第nの画像メモリ101に記憶されている
各フレームの画像データについて、順次、動き補償フレ
ーム予測部116から出力されるフレーム間差分値に基
づいて発生符号量を予測し、符号化時間と復号時間とを
求める。また、フレーム選択部108は、伝送中のフレ
ームの表示不能を判断した時点から前記画像データを表
示すべき時点までの残り時間を求める。ここで、前記残
り時間から処理時間、すなわち、前記符号化時間と前記
復号時間との和を引いた時間内に、前記発生符号量を有
するフレームの符号化データの伝送を完了できるかどう
か、すなわち、前記フレームの画像をその画像データの
画像サンプルから始まる平滑化時間Tの終了時点で受信
側の表示装置に表示できるかどうかを判断する。
【0111】前述のようにして、フレーム選択部108
は、前記第1から第nの画像メモリ101内に記憶され
ている各フレームの画像データについて前述の表示の可
否を判断し、前記第1から第nの画像メモリ101に記
憶されている画像データのうちから、それぞれの画像サ
ンプルから始まる平滑化時間Tの終了時点で受信側の表
示装置に表示することができるフレームであって、か
つ、それらのうちでフレームナンバーが最も小さいフレ
ームを選択する。
【0112】送信バッファ127、再送制御部128、
再送用バッファ129および前処理装置115について
は従来の技術と同様であるので、ここでは説明を省略す
る。なお、前処理装置115において、NTSC/CI
F変換部113によって中間フォーマットとしてCIF
を選択しているが、この段階で、QCIFを選択しても
よい。QCIFを選択した場合、第1から第nの画像メ
モリ101に記憶しておく画像データの量が、CIFを
選択した場合の1/4となり、第1から第nの画像メモ
リ101のメモリ容量を小さくすることができる。
【0113】フレームメモリ131は、少なくとも2フ
レーム分の画像データを記憶する記憶領域を備え、その
1フレーム分の記憶領域に、符号化部104によって符
号化されたフレームであって、予測誤差を求める前のそ
のフレームの画像データに相当する復号データを記憶す
る。また、さらに、他の記憶領域に伝送済み最新フレー
ムの復号データを記憶する。復号部132は、予測誤差
に基づく符号化データを復号し、フレームメモリ131
内に記憶されている前記符号化データの直前に復号され
たフレームの復号データと多重化することにより、現在
符号化中のフレームを復号する。
【0114】図2は、実施例1の画像符号化装置におけ
るフレーム選択部108の構成図である。図2に示すよ
うに前述のフレーム選択部108は、フレーム限界値算
出部502、発生符号量予測部503、処理時間算出部
507、第2の判断部508および制御部509を備え
る。フレーム限界値算出部502は、伝送中のフレーム
のフレーム限界値に基づいて、伝送中のフレームが、そ
の画像サンプルから始まる平滑化時間が終了する時点
で、受信側の表示装置に表示可能であるかどうかを一定
時間毎に判断し、伝送中のフレームを表示不能と判断し
た時点で、表示不能信号を制御部509に出力する。こ
こで、フレーム限界値とは、現時点から各フレームの画
像が表示されるべき時点までに伝送可能な最大符号量を
いう。
【0115】制御部509は、フレーム限界値算出部5
02から出力される伝送中のフレームについての表示不
能信号を検出すると、メモリ制御部102に、第1から
第nの画像メモリ101に記憶されている、伝送中のフ
レームに続くフレームの画像データを符号化装置106
に転送するよう指示する。次いで、符号化装置106
に、第1から第nの画像メモリ101から転送されてき
たフレームの画像データのフレーム間差分値を求め、前
記フレーム間差分値を発生符号量予測部503に出力す
るよう指示する。
【0116】また、フレーム限界値算出部502は、制
御部509からの指示に基づき、第1から第nの画像メ
モリ101に記憶されているフレームのフレーム限界値
を算出し、前記フレーム限界値を第2の判断部508に
順次、出力する。なお、フレーム限界値算出部502の
詳細な構成およびフレーム限界値算出方法については、
後述する。
【0117】発生符号量予測部503は、前述の符号化
装置106から出力されるフレーム間差分信号に基づい
て、第1から第nの画像メモリ101から読み出した各
フレームの画像データを符号化した場合に発生する符号
量を予測し、前記発生符号量を処理時間算出部507お
よび第2の判断部508に出力する。なお、発生符号量
予測部503の詳細な構成及び発生符号量予測方法につ
いては、後述する。
【0118】処理時間算出部507は、伝送中のフレー
ムについては、符号化制御部105から出力される発生
符号量に基づき、伝送中のフレームの処理量を算出す
る。ここで、処理量とは、符号化時間と復号時間との和
で表される処理時間の間に伝送可能な符号量をいう。符
号化速度は符号化装置に応じて一定であり、復号速度は
復号装置に応じて一定である。従って、前記各フレーム
の画像データの符号化時間および復号時間は、発生符号
量に比例して求められる。
【0119】ただし、伝送中のフレームはすでに符号化
されているので、伝送中のフレームの表示の可否を判断
する際に符号化時間を考慮する必要はない。従って、処
理時間算出部507は、伝送中のフレームおよびすでに
符号化されているフレームについては、符号化時間を
「0」として処理時間を算出する。さらに、処理時間算
出部507は、このようにして求められた処理時間に、
伝送路の伝送速度を乗算した処理量を求め、フレーム限
界値算出部502に出力する。具体的には、処理時間算
出部507は、以下の計算式で示される演算を行う。
【0120】(処理量)=(伝送速度)×{(発生符号
量)/(復号速度)+(発生符号量)/(符号化速
度)} また、処理時間算出部507は、第1から第nの画像メ
モリ101内に記憶されている各画像データについて
は、発生符号量予測部503で予測された発生符号量に
基づき、前記各フレームの画像データの処理時間を算出
する。さらに、前述と同様にして処理量を求め、第2の
判断部508に出力する。
【0121】処理時間算出部507が行う演算の内容
は、前述と同様の計算式による。第2の判断部508
は、伝送中のフレームがフレーム限界値算出部502に
よって表示不能と判断された場合、制御部509からの
指示に基づき、第1から第nの画像メモリ101内に記
憶されている画像データについて、フレーム限界値算出
部502が出力するフレーム限界値と、発生符号量算出
部503が出力する発生符号量と、処理時間算出部50
7が出力する処理量とから、前記発生符号量が、前記フ
レーム限界値から前記処理量を減算した値以下であるフ
レームに対して表示可能と判断する。さらに、前述のよ
うにして表示可能と判断したフレームのうち、最もフレ
ームナンバーの小さいもの、すなわち、最初に表示可能
と判断したフレームを選択して、前記フレームのフレー
ムナンバーを制御部509に出力する。
【0122】また、第2の判断部508は、前記フレー
ムを表示不能と判断したときは、表示不能信号を制御部
509に出力する。制御部509は、第2の判断部50
8からの表示不能信号を検出したときには、メモリ制御
部102に、前記フレームの次のフレームの画像データ
を符号化装置106に転送するよう指示する。以下、表
示可能なフレームが見つかるまで、第1から第nの画像
メモリ101に記憶されている画像データの全てについ
て以上の動作を繰り返す。
【0123】以上のように構成された画像符号化装置に
ついて、その動作を図3を用いて説明する。図3は、本
発明の実施例1である画像符号化装置の動作を説明する
ためのタイミングチャートである。図3(a)は、動画
像を構成する各フレームの画像データが前処理装置11
5から画像記憶装置103に入力されるタイミングを示
す。ここでは、前記各フレームの画像データは毎秒30
フレームの割合で入力されている。図3(b)に示す矢
印↑は符号化装置106が入力されるフレームを画像サ
ンプルするタイミングを示す。図3(c)は、各フレー
ムの符号化に要する時間を示す。符号化時間はフレーム
間の予測誤差の画像データ量に応じて変動する。図3
(d)は、各フレームの符号化データの伝送状態を示
す。図3(e)は、各フレームの符号化データの復号時
間を示す。図3(f)は、受信側の表示装置が復号され
た各フレームの画像データを表示装置に表示するタイミ
ングを示す。図3(f)に丸印で示すのは、この表示タ
イミングに表示することができたフレームであり、×印
で示すのは、この表示タイミングに表示することができ
なかったフレームである。
【0124】図3ではフレームナンバー1およびフレー
ムナンバー4の画像はそれぞれの画像サンプルの時点か
ら始まる平滑化時間T=8フレーム時間が終了する時点
で表示されるが、フレームナンバー10の画像は画像サ
ンプルの時点から始まる平滑化時間T=8フレーム時間
が終了する時点で復号が完了しなかったため表示されな
い。
【0125】本発明の画像符号化装置の動作は、伝送エ
ラーを生じないときは従来の画像符号化装置と同様であ
るので、説明を省略する。図3において、フレームナン
バー10の画像はフレームナンバー1の画像と同様の予
測誤差に対応する画像データ量を有するものとする。す
なわち、符号化に2フレーム時間、最善の場合、すなわ
ち伝送に支障がなければ、伝送に3フレーム時間、復号
に1フレーム時間を要するものとする。従って、フレー
ムナンバー10は、伝送エラーを生じた場合でも5フレ
ーム時間のうちに伝送を完了できれば、画像サンプルか
ら始まる平滑化時間T=8フレーム時間が終了する時点
で受信側の表示装置に表示することができる。
【0126】ところが携帯用送信機を用いて動画像を送
信し、無線回線を介して受信側に伝送する場合には、フ
ェージングによるバーストエラーの発生は避け得ない。
このバーストエラーは携帯用送信機の移動速度が歩行速
度以下の場合、3〜6フレーム時間に達する。ここで、
フレームナンバー10の伝送フレームを伝送中に前述の
ようなフェージングによるバーストエラーが4フレーム
時間に渡って発生したものとする。
【0127】図3(d)に示すように、フレームナンバ
ー10の画像は、もともと3フレーム時間で伝送できる
符号化データのうち2フレーム時間分の符号化データは
伝送エラーが発生する前に伝送されているため、あと1
フレーム時間の伝送時間と1フレーム時間の復号時間の
合計2フレーム時間があれば、受信側の表示装置で表示
することができる。すなわちフレームナンバー16の画
像データを入力する時点までは、フレームナンバー10
の画像を表示することができる。 伝送制御装置107
は、1フレーム時間毎に伝送中のフレームが受信側の表
示装置に表示可能かどうかを判断しており、フレームナ
ンバー16の画像データが入力される時点でフレームナ
ンバー10の表示の中止を判断し、メモリ制御部102
に第1から第nの画像メモリ101からの画像データの
読出を指示する。
【0128】画像記憶装置103は入力されたフレーム
ナンバー10の画像データを符号化部104に転送して
以後、フレームナンバー11の画像データを第1の画像
メモリ101(1)に、フレームナンバー12の画像デ
ータを第2の画像メモリ101(2)に、以下それに続
くフレームを順次第1から第nの画像メモリ101に記
憶している。
【0129】第1から第nの画像メモリ101に記憶さ
れている画像データのうち、フレームナンバー11はフ
レームナンバー19が入力される時点で表示する必要が
ある。同様に、フレームナンバー12はフレームナンバ
ー20が入力される時点で表示し、フレームナンバー1
3はフレームナンバー21が入力される時点でそれぞれ
表示する必要がある。フレーム選択部108がフレーム
ナンバー10の表示の中止を判断した時点で、すなわ
ち、フレームナンバー16を入力した時点で、フレーム
ナンバー11、フレームナンバー12およびフレームナ
ンバー13について、符号化、伝送、復号に費すことが
できる時間は、それぞれ、3フレーム時間、4フレーム
時間および5フレーム時間である。フレーム選択部10
8は、前述のような画像データのうちから、それぞれを
画像サンプルした時点から平滑化時間後に受信側の表示
装置に表示することができ、かつ、最もフレームナンバ
ーの小さいものを選択する。
【0130】まず、メモリ制御部102は、フレーム選
択部108がフレームナンバー10の表示不能を判断し
た時点で、フレームナンバー10に続くフレームの画像
データを、第1から第nの画像メモリ101から順次、
読み出し、符号化装置106に転送する。符号化装置1
06は、復号装置133内のフレームメモリ131に記
憶した伝送済最新フレームの復号データと、第1から第
nの画像メモリ101から転送されてきた画像データと
のフレーム間差分値を求め、フレーム選択部108にフ
レーム間差分信号を出力する。フレーム選択部108
は、前記符号化装置106から出力されるフレーム間差
分信号に基づき、それぞれの前記時間内に符号化、伝送
および復号を完了することができるフレームであって、
最もフレームナンバーの小さいフレームを選択する。
【0131】次いで、メモリ制御部102は、前記フレ
ーム選択部108が選択したフレームを、第1から第n
の画像メモリ101から読みだして、符号化装置106
に転送する。前記符号化装置106は、復号装置133
内のフレームメモリ131に記憶されている伝送済み最
新フレームの復号データを参照フレームとして、前記フ
レーム選択部108が選択したフレームの画像データの
予測誤差を求め、符号化して、伝送制御装置107に出
力する。
【0132】図3においては、フレーム選択部108
は、フレームナンバー16の画像データを入力した時点
でフレームナンバー13を選択して符号化を開始し、フ
レームナンバー17の画像データを入力した時点から伝
送を開始し、フレームナンバー21でこれを受信側の表
示装置に表示している。従来の画像符号化装置では同じ
バーストエラーの発生時に12駒の駒落しが発生したの
に対し、本実施例では8駒の駒落としに留めることがで
きる。
【0133】以上のように本実施例によれば、符号化し
てから復号側で表示するまでの時間遅れを増加すること
なく、伝送遅延などにより符号化フレームが表示時間ま
でに復号できない場合の駒落しを最小限にすることがで
きる。なお、ここで、伝送中のフレームの表示不能が判
断された際、伝送中のフレームに続くフレームの中か
ら、そのフレームが画像サンプルから始まる平滑化時間
が終了した時点で受信側の表示装置に表示可能であっ
て、フレームナンバーがもっとも小さいものを選択した
が、第1から第nの画像メモリ101内に記憶されてい
る画像データの中で伝送中のフレームより先のフレーム
についても表示の可否を判断し、前記条件を満たすフレ
ームを選択してもよい。この場合、伝送中のフレームの
発生符号量が大きい場合や、伝送中のフレームの伝送を
開始した直後に伝送エラーを発生した場合に有効であ
る。これによって、伝送中のフレームが表示不能となっ
たために発生する駒落としをさらに少なくすることがで
きる。
【0134】また、ここでは説明を簡単にするために、
フレーム選択部108がフレームを選択するまでの処理
時間は、考慮していない。また、フレーム選択部108
が、前記フレームを選択する際に、第1から第nの画像
メモリ101内に記憶された画像データを符号化する際
の符号化時間については、考慮していない。 (発生符号量予測部503)以下、さらに、図2、図4
および図5を参照して、発生符号量予測部503の詳細
な構成及びその発生符号量予測方法について説明する。
【0135】図2に示すように、発生符号量予測部50
3は、直交変換部504、無効ブロック算出部505お
よび発生符号量算出部506を備える。直交変換部50
4は、符号化装置106からのフレーム間差分信号を取
り込み、これをブロック毎に直交変換して空間座標から
周波数座標に変換する。無効ブロック算出部505は、
後述の、符号化部104における量子化の第1レベルと
同様のしきい値を設定して、前記周波数座標の直交変換
係数と、このしきい値とを比較し、すべての係数がこの
しきい値に満たないブロックを無効ブロックと判断す
る。
【0136】前記量子化の第1レベルについて説明する
と、符号化部104では、まず、動き補償フレーム予測
部116から出力される予測誤差を、DCT117が直
交変換する。前記直交変換によって求められる直交変換
係数を、量子化部118が量子化することにより、前記
量子化の第1レベルに満たない直交変換係数の量子化後
の値は「0」になる。従って、すべての直交変換係数が
この第1レベルに満たないブロックは、無効ブロックと
して伝送されない。前記量子化の第1レベルは、予め定
められた値のマトリクスで与えられる。
【0137】無効ブロック算出部505は、前記無効ブ
ロック数を計数し、1フレーム中の無効ブロック数を発
生符号量算出部506に出力する。発生符号量算出部5
06は、全ブロック数から無効ブロック数を引いた有効
ブロック数に、図4および図5に示す関係から得られる
比例定数を乗算し、発生符号量を算出する。図4は、実
験結果から求められる有効ブロック数と発生符号量との
関係を示すグラフである。また、図5は、フレーム間差
分値から求められる有効ブロック数と発生符号量との関
係を示すグラフである。
【0138】図4は、横軸に無効ブロック数を示し、縦
軸に発生符号量を示す。ここで、横軸の無効ブロック数
は、総ブロック数をCIFでは「99×4」、QCIF
では「99」として無効ブロック数を表し、縦軸の発生
符号量はビットで表す。また、この無効ブロック数は、
対象となるフレームとその直前のフレームとのフレーム
間差分値から量子化の第1レベルをしきい値として求め
たものである。さらに、発生符号量は、対象となるフレ
ームとその直前のフレームとの予測誤差を求め、それを
実際に符号化してその発生符号量を計数したものであ
る。ここでは、フレーム間差分値から求められる有効ブ
ロック数は単に有効ブロック数と、実際に予測誤差を求
めて符号化し、その符号化データから計数して得た発生
符号量は単に発生符号量という。画像サンプルされるテ
スト画像には、「Miss America」を使用し
ている。
【0139】図4は、量子化値8、15、20、31に
ついてプロットしたものである。図4に示す実験結果か
ら、量子化値8では大きなばらつきが見られるものの、
それ以上の量子化値については、発生符号量は、有効ブ
ロック数に比例することが判る。量子化値8について
は、量子化の単位が小さいので発生符号量が大きくなり
過ぎるので、64kbps程度の低伝送レートの画像符
号化装置では、一般に用いられない。従って、発生符号
量は、有効ブロック数に比例すると考えてもよい。
【0140】ここで、有効ブロック数(m)=総ブロッ
ク数−無効ブロック数(m)である。図4の実験結果か
ら、有効ブロック数と発生符号量との関係は、次式のよ
うに表される。 発生符号量(m)=発生符号量(m−1)/有効ブロッ
ク数(m−1)×有効ブロック数(m) ここで、mは自然数で、対象フレームのフレームナンバ
ーを示す。m−1は、前記対象フレームの直前のフレー
ムのフレームナンバーを示す。発生符号量(m−1)/
有効ブロック数(m−1)は、図4、図5に示すグラフ
の傾きであり、フレームを符号化するたびに算出され
る。
【0141】なお、図4、図5に示す関係は、対象とな
るフレームとその直前のフレームとのフレーム間差分値
及び予測誤差から得られたものである。従って、厳密に
いえば、対象となるフレームとのフレーム間差分値及び
予測誤差を求めるフレームと、対象となるフレームとの
間の駒落としが多くなると、前述の関係は、必ずしも正
確に成立するとはいえない。しかし、ここでは近似的
に、対象フレームと伝送済み最新フレームとから求めた
フレーム間差分値と発生符号量との間に前記関係が成立
するものとしてこれを適用する。
【0142】なお、本実施例の発生符号量予測部503
は、直交変換部504を備えるとしたが、直交変換部5
04は同様の構成であるので、符号化部104のDCT
117と兼用してもよい。すなわち、符号化部104に
おいて、動き補償フレーム予測部116からのフレーム
間差分値をDCT117で直交変換し、これによって求
められる直交変換係数を無効ブロック算出部505に出
力してもよい。
【0143】なお、フレーム選択部108は、発生符号
量予測部503を備えるとしたが、以下に示すように、
前記発生符号量予測部503を備えなくてもよい。図6
は、実施例1の画像符号化装置におけるフレーム選択部
108aの構成図である。図6に示すように、フレーム
選択部108aは、フレーム限界値算出部502、処理
時間算出部507、第2の判断部508a、制御部50
9aおよびスイッチ501を備える。
【0144】制御部509aは、フレーム限界値算出部
502からの伝送中のフレームについての表示不能信号
を検出すると、メモリ制御部102に、第1から第nの
画像メモリ101に記憶されている画像データを読出し
て、読み出した画像データを符号化装置106に転送す
るよう指示する。さらに、符号化制御部105に、伝送
済み最新フレームを参照フレームとして、第1から第n
の画像メモリ101から読み出された画像データの符号
化を行い、その符号化データとその符号化データを計数
して得られた発生符号量とをフレーム選択部108aに
出力するよう指示する。
【0145】処理時間算出部507は、符号化制御部1
05から出力される発生符号量から前記フレームの復号
時間を算出し、さらに、前述の処理量を求める。処理時
間算出部507は、前記処理量をフレーム限界値算出部
502と第2の判断部508aとに出力する。フレーム
限界値算出部502は、前述と同様にして、符号化制御
部105から出力される伝送中のフレームの未送信符号
量と処理時間算出部507から出力される処理量とか
ら、伝送中のフレームがそのフレームの画像サンプルか
ら始まる平滑化時間が終了する時点で表示可能かどうか
を判断し、表示不能の場合は表示不能信号を制御部50
9aに出力する。また、前述と同様にして、制御部50
9aからの指示に基づいて、各フレームの符号化データ
のフレーム限界値を第2の判断部508aに出力する。
【0146】前記第2の判断部508aは、符号化制御
部105からの発生符号量と、フレーム限界値算出部5
02からのフレーム限界値と、処理時間算出部507か
らの処理量とから、前記フレームをその画像サンプルか
ら始まる平滑化時間が終了する時点で受信側の表示装置
に表示可能かどうかを判断し、表示不能であれば表示不
能信号を制御部509aに出力する。また、表示可能で
あれば表示可能信号を制御部509aに出力する。
【0147】制御部509aは、第2の判断部508a
からの表示不能信号を検出したときは、スイッチ501
を開放し、第2の判断部508aからの表示可能信号を
検出したときは、スイッチ501を導通して入力された
符号化データを送信バッファ127に出力する。なお、
本実施例の発生符号量予測部503は、符号化対象フレ
ームの有効ブロック数に、直前に符号化したフレームの
有効ブロック数に対する平均発生符号量を乗算して発生
符号量を予測したが、符号化対象フレームの有効ブロッ
ク数に実験結果から得られる比例定数を乗算したり、直
前に符号化したフレームの発生符号量を符号化対象フレ
ームの発生符号量として予測してもよい。
【0148】最も単純な発生符号量の算出方法は、対象
フレームの画像データを実際に符号化し、そのデータ量
を計数することであるが、実際に動きベクトルを求め、
その動きベクトルに従って差分をとるという処理を行う
には長い処理時間を要する。従って、消費電力もその
分、増大する。しかし、以上のように本実施例によれば
処理量が過大な動き補償フレーム予測や量子化の処理を
することなく符号化後に発生する情報量を簡単に予測
し、フレーム限界値との比較により符号化するフレーム
を簡単に選択することが可能となる。 (フレーム限界値算出部502)以下、本発明の画像符
号化装置におけるフレーム限界値算出部502について
図面を参照しながら説明する。
【0149】図7は実施例1の画像符号化装置のフレー
ム限界値算出部502の構成図である。図7に示すよう
に、フレーム限界値算出部502は、第1のセレクタ6
01、タイマー130、限界値減算部603、限界値加
算部604、減算部605、第1の判断部606、第2
のセレクタ608およびラッチ607を備える。第1の
セレクタ601は、入力される2個の入力信号のうち、
1つの信号を制御部509からの選択信号によって選択
し、限界値減算部603に出力する。第1のセレクタ6
01に入力される入力信号のうち、一方は、平滑化時間
Tに伝送速度Mbps(bit per secon
d)を乗算した値、すなわち、平滑化初期値M×Tを示
す信号である。第1のセレクタ601は、画像符号化装
置が動作を開始する時点で、制御部509からの選択信
号により、前記平滑化初期値信号を選択する。
【0150】第1のセレクタ601に入力される入力信
号のうち、他方は、ラッチ607を介して入力される第
2のセレクタ608の出力である。第1のセレクタ60
1は、第2の判断部508が表示可能なフレームを検出
したときには制御部509からの選択信号により、ラッ
チ607を介して入力される前記第2のセレクタ608
の出力を選択する。
【0151】タイマー130は、予め定める時間毎に出
力を変化させる。ここで、予め定める時間とは1フレー
ム時間(1/f、ただしf=フレーム周期)である。限
界値減算部603は、タイマー130の出力が変化する
毎に、第1のセレクタ601の出力値から伝送路の伝送
速度Mbpsと時間tの積M×tを減算する。
【0152】限界値加算部604は、第1の限界値加算
部604(1)から第nの限界値加算部604(n)ま
でのn個の限界値加算部を備える。第1の限界値加算部
604(1)は、限界値減算部603からの出力に、伝
送中のフレームが画像記憶装置103によって画像サン
プルされた時点と前記伝送中のフレームの次に入力され
たフレームが画像記憶装置103によって画像サンプル
された時点との時間差、すなわち、1フレーム時間(1
/f)と伝送速度Mbpsの積M/fを加算する。
【0153】以下、同様にして、第2から第nまでの限
界値加算部604(2)〜604(n)は、限界値減算
部603からの出力に、それぞれ伝送中のフレームが画
像記憶装置103によって画像サンプルされた時点と各
フレームが画像記憶装置103によって画像サンプルさ
れた時点との時間差、すなわち、2フレーム時間(2/
f)、3フレーム時間(3/f)、…、nフレーム時間
(n/f)と伝送速度Mbpsとの積(2M/f)、
(3M/f)、…、(M×n/f)を加算する。前記第
1から第nまでの限界値加算部604(1)〜604
(n)は、前記各加算結果を第2のセレクタ608に出
力する。
【0154】減算部605は、前記限界値減算部603
から出力される第0フレーム限界値から送信バッファ1
27内の伝送中のフレームの未送信符号量を減算し、そ
の結果を第1の判断部606に出力する。第1の判断部
606は、伝送中のフレームについて、そのフレームが
画像サンプルされた時点から平滑化時間T後に受信側の
表示装置に表示可能かどうかを判断する。すなわち、第
1の判断部606には、減算部605からの出力値、処
理時間算出部507からの処理量および予め定められる
しきい値が入力される。
【0155】第1の判断部606は、減算部605の出
力値から処理量を減算し、この値が前記しきい値以下で
あれば、伝送中のフレームの表示不能を判断する。次い
で、制御部509に伝送中のフレームの表示不能を表す
信号を出力する。ラッチ607は、選択信号によって指
示された時点の入力信号の値を保持し、第1のセレクタ
601に出力する。
【0156】第2のセレクタ608は、入力されるn個
の入力信号のうち、1つの信号を制御部509からの選
択信号によって順次、選択するとともに、選択した信号
を第2の判断部508および第1のセレクタ601に出
力する。図7のように構成されたフレーム限界値算出部
502の動作を図3および図8を用いて説明する。図8
は、実施例1の画像符号化装置におけるフレーム限界値
算出部502の動作を説明するための図である。図8
は、図3に示すフレームナンバー10の伝送を開始した
後であって、フレームナンバー12の画像データを画像
サンプルする時点から1フレーム時間の経過毎にフレー
ムナンバー18の画像データを画像サンプルする時点ま
でのフレーム限界値の変化を示す。
【0157】図8において、横軸は伝送データ量および
時間を示す。目盛りは、1フレーム時間あたり伝送可能
なビット量(M/f)および1フレーム時間を単位とし
て表す。一定時間Tは、平滑化時間であり、T=8フレ
ーム時間である。また、網掛けの矩形は、送信バッファ
127内の伝送中のフレームの未送信符号量を表す。画
像サンプルタイミング12から画像サンプルタイミング
17までにおいては、第0フレーム限界値、第1フレー
ム限界値、第2フレーム限界値および第3フレーム限界
値は、それぞれ、伝送中のフレームナンバー10のフレ
ーム限界値、フレームナンバー11のフレーム限界値、
フレームナンバー12のフレーム限界値およびフレーム
ナンバー13のフレーム限界値を示す。
【0158】画像サンプルタイミング18においては、
第0フレーム限界値、第1フレーム限界値、第2フレー
ム限界値および第3フレーム限界値は、それぞれ、フレ
ームナンバー13のフレーム限界値、フレームナンバー
14のフレーム限界値、フレームナンバー15のフレー
ム限界値およびフレームナンバー16のフレーム限界値
を示す。
【0159】図8に示す画像サンプルタイミング12の
時点では、フレームナンバー10の伝送フレームの伝送
を開始してから、すでに1フレーム時間を経過してい
る。フレームナンバー10の伝送フレームは、3フレー
ム時間で伝送可能なデータ量、すなわち3M/fビット
を有するので、送信バッファ127内のフレームナンバ
ー10の未送信符号量は2M/fである。
【0160】フレームナンバー10のフレーム限界値で
ある第0フレーム限界値は、フレームナンバー10の画
像を受信側の表示装置に表示すべき時間(画像サンプル
タイミング18)までに伝送可能なデータ量であり、6
M/fである。これは、以下のようにして求められる。
まず、符号化部104がフレームナンバー10を画像サ
ンプルした時点(画像サンプルタイミング10)で、第
1のセレクタ601は、第1のセレクタ601の第0入
力から入力される平滑化初期値、すなわち、平滑化時間
T(=8/f)に1フレーム時間当たりの伝送データ量
Mを乗算した値T×M(=8M/f)を選択している。
【0161】画像サンプルタイミング12では、フレー
ムナンバー10が画像サンプルされた時点から2フレー
ム時間(2/f)経過しているため、第0フレーム限界
値は、平滑化初期値から限界値減算部603によって2
M/fだけ減算されており、限界値減算部603の出力
は、6M/fとなる。このフレーム限界値と送信バッフ
ァ127内の未送信符号量との差が許容情報量であり、
減算部605により算出される。
【0162】第1フレーム限界値は第0フレーム限界値
より1フレーム時間に伝送されるビット数(M/f)だ
け大きく、第2フレーム限界値は第0フレーム限界値よ
り2フレーム時間に伝送されるビット数(2M/f)、
第3フレーム限界値は第0フレーム限界値より3フレー
ム時間に伝送されるビット数(3M/f)大きい。従っ
て、第1フレーム限界値、第2フレーム限界値、第3フ
レーム限界値は、それぞれ7M/f,8M/fおよび9
M/fとなる。前記第1から第3までのフレーム限界値
は、第1から第3までの限界値加算部604(1)〜6
04(3)により算出される。
【0163】画像サンプルタイミング13では、画像サ
ンプルタイミング12から1フレーム時間経過後の各フ
レーム限界値を示す。ここで、送信バッファ127内の
未送信符号量は、伝送により1フレーム時間あたりの伝
送データ量(M/f)だけ減少している。第0から第3
までのフレーム限界値も同じく限界値減算部603によ
りそれぞれM/fだけ減算されており、第0フレームで
あるフレームナンバー10の許容情報量は画像サンプル
タイミング12の時点とそれぞれ同じである。
【0164】画像サンプルタイミング14では、画像サ
ンプルタイミング13から、さらに1フレーム時間経過
後であるが、ここでは伝送路の状態が悪化し、1ビット
も伝送できなかったため、送信バッファ127内の未送
信符号量は、画像サンプルタイミング13の時点から減
少しない。これに対して、第0から第3までのフレーム
限界値は限界値減算部603の減算により、それぞれM
/fだけ減少し、第0フレームの許容情報量も同量減少
する。
【0165】画像サンプルタイミング15および画像サ
ンプルタイミング16においても同様の状態がつづき、
画像サンプルタイミング16で第0フレームの許容情報
量はM/fとなる。この第0フレームの許容情報量は第
1の判断部606に入力されており、第1の判断部60
6において処理量を減算される。第0フレームであるフ
レームナンバー10の復号時間は、1フレーム時間であ
るので、その処理量はM/fである。従って、第0フレ
ームの許容情報量から処理量を減算すると「0」とな
る。第1の判断部606は、前記しきい値を「0」にし
た場合、この時点で第2の判断部508に表示不能信号
を出力し、フレームナンバー10の表示が不可能になっ
たことを示す。なお、第1の判断部606のしきい値
は、この判断をもう少し早い時点で行なう場合に正の値
を設定する。
【0166】この時点からフレームナンバー11、1
2、13の符号化を開始して受信側の表示装置で表示す
る時間に前記フレームの伝送および復号が間に合うため
のそれぞれのフレーム限界値は、第1の限界値加算部6
04(1)から第3の限界値加算部604cまでのそれ
ぞれの限界値加算部604から出力されるフレーム限界
値として求められ、3M/f,4M/f,5M/fとな
る。これらのフレーム限界値は、第2のセレクタ608
に出力されており、制御部509からの選択信号によっ
て、図2に示すフレーム選択部108内の第2の判断部
508に順次、出力される。
【0167】第2の判断部508は、第1の判断部60
6からの表示不能信号を受け取ると、第2のセレクタ6
08から順次出力される各フレームのフレーム限界値か
らそれぞれの処理量を減算し、その減算結果と前記各フ
レームの発生符号量とを比較する。第2の判断部508
は、前記発生符号量がフレーム限界値から処理量を減算
した値以下になるフレームを表示可能と判断し、その表
示可能なフレームのうち、最もフレームナンバーが小さ
いフレームを選択する。
【0168】画像サンプルタイミング17の時点では、
前述のようにして第2の判断部508がフレームナンバ
ー13を選択した場合を示す。この時点で、送信バッフ
ァ127内に残っているフレームナンバー10の伝送フ
レームは廃棄され、これに代わってフレームナンバー1
3の符号化データが伝送フレームとなる。フレームナン
バー13の伝送フレームの伝送データ量は、2M/fで
ある。また、この時点で伝送エラーが回復し、フレーム
ナンバー13の伝送が開始される。
【0169】フレームナンバー13を選択した時点で、
第1のセレクタ601は、第2のセレクタ608からの
出力である画像サンプルタイミング17における第3フ
レーム限界値を選択し、限界値減算部603に出力す
る。これによって、フレームナンバー13のフレーム限
界値は、第0フレーム限界値として減算部605に出力
される。
【0170】画像サンプルタイミング18において、限
界値減算部603は、フレームナンバー13の伝送フレ
ームの伝送を開始してから1フレーム時間経過している
ので、送信バッファ127内の未送信符号量からM/f
だけ減算する。前記第0フレーム限界値は、減算部60
5で送信バッファ127内の未送信符号量を減算され、
許容情報量として第1の判断部606に出力される。第
1の判断部606は、前記許容情報量からフレームナン
バー13の処理量を減算してその減算結果としきい値と
を比較する。フレーム選択部108は、以後これらの動
作を繰り返す。
【0171】なお以上は、図7のように構成されたフレ
ーム限界値算出部502の動作について説明したが、フ
レーム限界値算出部502は、図9に示すように構成さ
れてもよい。図9は、フレーム限界値算出部502の他
の構成を示す構成図である。すなわち、第1から第nま
での限界値加算部604(1)〜(n)と第2のセレク
タ608との間にそれぞれ第1から第nまでの減算部6
05(1)〜(n)を介在させ、伝送中のフレームの送
信バッファ127内の未送信符号量を減算する。これに
よって、例えば、フレームナンバー10の伝送中に、こ
れに続くフレームナンバー11、フレームナンバー12
などのフレームの表示の可否を判断することができる。
【0172】また、伝送中フレームの表示不能が判断さ
れた時点で、送信バッファ127内の伝送中のフレーム
の未送信データは廃棄されるので、伝送中のフレームの
未送信符号量は「0」が出力される。従って、伝送中フ
レームの表示不能が判断された時点においても、伝送中
のフレームに続くフレームのフレーム限界値を求めるこ
とができる。
【0173】また、限界値加算部604は、第1から第
nまでの加算部604(1)〜(n)を備えなくてもよ
い。すなわち、限界値加算部604は、前記第1から第
nまでの限界値加算部604(1)〜(n)に代えて、
図示しない時間差検出部と演算部を備える。前記時間差
検出部は、第1から第nの画像メモリ101内に記憶さ
れているフレームが画像サンプルされた時点と伝送中の
フレームが画像サンプルされた時点との時間差を、第1
から第nの画像メモリ101内に記憶されているフレー
ムが伝送中のフレームより先に画像サンプルされたフレ
ームである場合には、負の値として前記時間差を検出す
る。また、演算部は、前記時間差検出部によって検出さ
れた時間差に1フレーム時間当たりの伝送符号量を乗算
し、前記乗算した値を、前記時間差が正の値であれば限
界値減算部603の出力に加算し、負の値であれば限界
値減算部603の出力から減算する。前記演算部は、前
記演算結果を第2の判断部508に出力する。これによ
って、第1から第nの画像メモリ101内に記憶されて
いるフレームの中から伝送中のフレームより先に画像サ
ンプルされたものであっても表示の可否を判断すること
ができる。
【0174】以上のように本実施例のフレーム限界値算
出部502は、伝送中のフレームと画像記憶装置103
内に記憶されている各フレームの表示の可否を判断する
際のフレーム限界値を逐次算出し、伝送中のフレームの
送信バッファ127内の未送信符号量とそれぞれのフレ
ームの発生符号量と処理量との和と、それぞれのフレー
ムのフレーム限界値との差がしきい値を下回った時点で
表示不能を判断することができる。 (実施例2)以下、本発明の実施例2について図面を参
照しながら説明する。
【0175】図10は、本発明の実施例2である画像符
号化装置の構成図である。図10に示すように、画像符
号化装置は、前処理装置115、符号化データ記憶装置
303、符号化装置306、伝送制御装置307および
復号装置333を備える。符号化データ記憶装置303
は、第1から第nのデータメモリ301およびメモリ制
御部302を備える。前記符号化装置306は、符号化
部304および符号化制御部305を備える。復号装置
333は、フレームメモリ331および復号部332を
備える。伝送制御装置307は、タイマー130、フレ
ーム選択部308および伝送制御部109を備える。
【0176】前処理装置115については、実施例1と
同様であるので、説明を省略する。第1から第nのデー
タメモリ301は書込み中に読み出し可能なデュアルポ
ートメモリからなり、符号化データを記憶する。メモリ
制御部302は、第1のアドレスバス123および第1
のデータバス124を介して第1から第nのデータメモ
リ301への符号化データの書き込みを制御し、第2の
アドレスバス125および第2のデータバス126を介
して第1から第nのデータメモリ301からの符号化デ
ータの読出を制御する。
【0177】前記符号化データ記憶装置303は、後述
の符号化装置306から出力される符号化データを第1
から第nのデータメモリ301内に記憶するとともに、
前記符号化データのフレームナンバーと、その符号化デ
ータの参照フレームとされたフレームのフレームナンバ
ーと、その符号化データの発生符号量とを関連付けて記
憶する。
【0178】符号化装置306は、高速動画像処理用D
SPを備える符号化装置である。従来技術および実施例
1の画像符号化装置では、たとえば、松下電器産業社製
の製品名VDSP(MN 195901)など、命令実
行時間16.5nsの動画像処理用DSPを用いて符号
化、復号を行っており、1フレームの画像データを符号
化するのに約2フレーム時間を必要とする。現在の時点
で、NEC社製の製品名VSP3など、命令実行時間
3.3ns程度の高速処理を行う動画像処理用DSPが
公表されている。符号化装置306は、前述のような高
速処理を行う動画像処理用DSPを備える。
【0179】さらに、符号化部304は、動き補償フレ
ーム予測部316、DCT317、量子化部318、第
1の可変長符号化部319、第2の可変長符号化部32
0および多重化部321を備える。動き補償フレーム予
測部316、DCT317、量子化部318、第1の可
変長符号化部319、第2の可変長符号化部320およ
び多重化部321の動作は、従来の技術と同様であるの
で、説明を省略する。
【0180】前記符号化部304は、1フレーム時間毎
に、入力される画像データを画像サンプルする。さら
に、符号化部304は、1フレーム時間の間に、画像サ
ンプルした対象フレームを、伝送済み最新フレームを参
照フレームとして符号化を行うとともに、前記対象フレ
ームを画像サンプルした時点で伝送中のフレームを参照
フレームとして符号化を行う。なお、ここでは、ひとつ
の符号化部304で前述のような符号化処理を1フレー
ム時間内に行うこととしたが、複数の符号化部304を
備え、前述のような符号化処理をそれぞれの符号化部3
04が並行して行うようにしてもよい。
【0181】また、符号化制御部305は、前述のよう
にして符号化された符号化データを、フレーム選択部3
08からの指示に従って送信バッファ127に出力す
る。なお、符号化制御部305から送信バッファ127
に出力される符号化データは、それぞれそのフレームの
直前に符号化されたフレームを参照フレームとして符号
化された符号化データである。また、伝送エラーによっ
て伝送中のフレームが表示不能となった後に、符号化デ
ータ記憶装置303から送信バッファ127に出力され
る符号化データは、伝送済み最新フレームを参照フレー
ムとして符号化された符号化データである。
【0182】さらに、前記符号化制御部305は、符号
化部304によって符号化された符号化データを符号化
データ記憶装置303に出力するとともに、前記符号化
データの発生符号量を計数し、計数した発生符号量と、
対象フレームのフレームナンバーと、その参照フレーム
となったフレームのフレームナンバーとを前記符号化デ
ータと関連付けて符号化データ記憶装置303に出力す
る。
【0183】フレームメモリ331は、n(nは予め定
める自然数)フレーム分の復号データを記憶しておくこ
とができる記憶領域を備え、伝送済み最新フレームと現
在伝送中のフレームと、さらに、いずれか1フレームの
伝送が完了するまでの間に画像サンプルされたフレーム
とについて、復号部332からの復号データを記憶す
る。
【0184】復号部332は、多重化部321から出力
される符号化データを復号し、さらに逆量子化、逆DC
T変換する。復号部332は、前述のようにして逆DC
T変換した復号データと、参照フレームの復号データと
を加算することによって伝送フレームを再現し、前記伝
送フレームをフレームメモリ331に出力する。送信バ
ッファ127、タイマー130、伝送制御部109につ
いては、実施例1と同様であるので、説明を省略する。
【0185】以下、フレーム選択部308について、図
面を参照しながら説明する。図11は、実施例2の画像
符号化装置のフレーム選択部308の構成図である。図
11に示すように、フレーム選択部308は、フレーム
限界値算出部502、処理時間算出部507、第2の判
断部508および制御部510を備える。フレーム限界
値算出部502、処理時間算出部507および第2の判
断部508の動作については、図6に示すフレーム選択
部108aと同様であるので、説明を省略する。
【0186】制御部510は、フレーム限界値算出部5
02から出力される表示不能信号を検出すると、符号化
データ記憶装置303に、第1から第nのデータメモリ
301内に記憶されている符号化データを伝送中のフレ
ームに続くフレームから順次、読み出して、その符号化
データの発生符号量を処理時間算出部507に出力する
よう指示する。処理時間算出部507は、前記発生符号
量に基づいて符号化データ記憶装置303から読み出さ
れた符号化データの処理量を算出し、前記処理量を第2
の判断部508に出力する。ここで、処理量とは、(処
理量)=(伝送速度)×(発生符号量)/(復号速度)
をいう。
【0187】第2の判断部508は、そのフレームの画
像を表示すべき時点までに、画像符号化装置が前記符号
化データの伝送を完了し、受信側が復号を完了すること
が可能か否か、すなわち、前記フレームの表示の可否を
判断する。第2の判断部508は、表示可能と判断した
符号化データのフレームナンバーと、そのフレームの参
照フレーム、ここでは伝送済み最新フレームのフレーム
ナンバーとを符号化データ記憶装置303に出力し、前
述のようにして指定した符号化データを読み出して送信
バッファ127に出力するよう指示する。
【0188】以上のように構成された画像符号化装置に
ついてその動作を図12を用いて説明する。図12
(a)は、動画像を構成する各フレームの画像データが
前処理装置115から符号化部306に入力されるフレ
ームを示す。ここでは、前記各フレームの画像データは
毎秒30枚の時間間隔で入力されている。図12(b)
に示す矢印↑は、画像サンプルのタイミングを示す。図
12(c)は符号化に要する時間を示す。符号化に要す
る時間は、フレーム間の予測誤差の画像データ量に応じ
て変動するが、符号化部306はこのフレーム間隔の間
に符号化を完了する。図12(d)は、各フレームの符
号化データの伝送に要する時間を示す。図12(e)
は、各フレームの符号化データの復号時間を示す。図1
2(f)は、受信側の表示装置が復号された各フレーム
の画像データを表示装置に表示するタイミングを示す。
図12(f)に丸印で示すのは、この表示タイミングに
表示することができたフレームであり、×印で示すの
は、この表示タイミングに表示することができなかった
フレームである。
【0189】図12では、フレームナンバー1およびフ
レームナンバー4の画像はそれぞれ画像サンプルされた
時点から平滑化時間T=8フレーム時間後に表示される
が、フレームナンバー10の画像は画像サンプルされた
時点から平滑化時間T=8フレーム時間後に復号が完了
しなかったため表示されない。図12において、フレー
ムナンバー10の画像はフレームナンバー1の画像と同
様の予測誤差に対応する画像データ量を有するものとす
る。すなわち、符号化に2フレーム時間、最善の場合、
すなわち伝送に支障がなければ、伝送に3フレーム時
間、復号に1フレーム時間を要するものとする。
【0190】ここでは説明のため、フレームナンバー1
のフレームから伝送を開始したものとする。まず最初
に、符号化部304は、フレームナンバー1の伝送フレ
ームをフレーム内モードで符号化を行い、送信バッファ
127、符号化データ記憶装置303および復号部33
2に出力する。符号化データ記憶装置303に出力され
たフレームナンバー1の符号化データは、そのフレーム
のフレームナンバーと、参照フレームがないことを示す
情報と、発生符号量とに対応付けて記憶される。送信バ
ッファ127に出力された前記符号化データは、伝送制
御装置307によって伝送される。復号部332に出力
された前記符号化データは、復号部332によって復号
された後、フレームメモリ331内に記憶される。
【0191】次いで、前記フレームナンバー2の画像デ
ータは、フレーム内モードで符号化される一方、フレー
ムメモリ331内に記憶されているフレームナンバー1
の復号データを参照フレームとして符号化される。前記
符号化データは、符号化データ記憶装置303および復
号部332に出力される。フレームナンバー2の符号化
データは、送信バッファ127内に一定量の空き記憶領
域がないので、送信バッファ127には出力されない。
ここで、もし、送信バッファ127内に一定量以上の空
き記憶領域があれば、フレームナンバー1の復号データ
を参照フレームとするフレームナンバー2の符号化デー
タは送信バッファ127に出力される。
【0192】符号化データ記憶装置303に出力された
フレームナンバー2の符号化データは、そのフレームの
フレームナンバーと、参照フレームがないことを示す情
報かまたは参照フレームのフレームナンバーと、発生符
号量とに対応付けて、符号化データ記憶装置303内に
記憶される。ここで、復号部332に出力された前記符
号化データのうち、伝送済み最新フレームの復号データ
を参照フレームとして符号化された符号化データは、復
号部332によって復号された後フレームメモリ331
内に出力され、前記伝送済み最新フレームの復号データ
と多重化されるものとする。
【0193】ここでは、すなわち、フレームナンバー2
が符号化される時点では、伝送済みのフレームがないの
で、フレーム内モードで符号化されたフレームナンバー
2の復号データが、フレームメモリ331内のフレーム
ナンバー1が記憶されている記憶領域とは異なる記憶領
域に、そのフレームナンバーと対応付けて記憶される。
次いで、フレームナンバー3の画像データは、フレー
ム内モードで符号化されるとともに、フレームメモリ3
31内に記憶されているそれぞれフレームナンバー1の
復号データとフレームナンバー2の復号データとを参照
フレームとして符号化される。このとき、フレームナン
バー3の符号化データは、送信バッファ127内に一定
量の空き記憶領域がないので、送信バッファ127には
出力されない。フレームナンバー3の符号化データは、
符号化データ記憶装置303および復号部332に出力
される。
【0194】符号化データ記憶装置303に出力された
フレームナンバー3の符号化データは、そのフレームの
フレームナンバーと、参照フレームがないことを示す情
報かまたは参照フレームのフレームナンバーと、発生符
号量とに対応付けて記憶される。復号部332に出力さ
れたフレームナンバー3の符号化データは、復号後、フ
レームメモリ331に出力される。
【0195】ここでは、すなわち、フレームナンバー3
が符号化される時点では、伝送済みのフレームがないの
で、フレーム内モードで符号化されたフレームナンバー
3の復号データが、フレームメモリ331内のフレーム
ナンバー1およびフレームナンバー2の復号データとは
異なる記憶領域に、そのフレームのフレームナンバーと
対応付けて記憶される。
【0196】ここで、もし、送信バッファ127内に一
定量の空き記憶領域があり、直前にフレームナンバー2
の符号化データが記憶されていれば、フレームナンバー
2の復号データを参照フレームとするフレームナンバー
3の符号化データが送信バッファ127に出力される。
また、ここで、送信バッファ127内に一定量の空き記
憶領域があり、フレームナンバー1の符号化データが記
憶されていれば、フレームナンバー1の復号データを参
照フレームとするフレームナンバー3の符号化データが
送信バッファ127に出力される。
【0197】フレームナンバー4の画像データは、前述
と同様にしてフレーム内モードで符号化されるととも
に、フレームナンバー1、フレームナンバー2、フレー
ムナンバー3の復号データを参照フレームとして符号化
される。また、ここで、フレームナンバー4の符号化デ
ータは、送信バッファ127内に一定量の空き記憶領域
ができたので、送信バッファ127に出力される。この
とき、送信バッファ127内に直前に記憶されている符
号化データはフレームナンバー1の符号化データである
ので、フレームナンバー1の復号データを参照フレーム
とするフレームナンバー4の符号化データが送信バッフ
ァ127に出力される。
【0198】同時に、フレームナンバー4の符号化デー
タのうち、フレーム内モードで符号化された符号化デー
タが復号部332に出力される。復号部332に出力さ
れた符号化データは、復号部332によって復号され、
フレームメモリ331内のフレームナンバー1、2、3
の復号データが記憶されている記憶領域とは異なる記憶
領域に記憶される。
【0199】フレームナンバー5を画像サンプルする時
点でフレームナンバー1は伝送が完了しているため、フ
レームメモリ331に格納されているフレームナンバー
2、フレームナンバー3の復号データは、廃棄される。
また、同時に、符号化データ記憶装置303内に記憶さ
れているそれぞれフレームナンバー2、フレームナンバ
ー3を参照フレームとする符号化データは、廃棄され
る。
【0200】フレームナンバー5の画像データは、フレ
ームナンバー1、フレームナンバー4を参照フレームと
して符号化される。前記フレームナンバー5の符号化デ
ータは、そのフレームナンバーと、参照フレームのフレ
ームナンバーと、発生符号量とに対応付けて符号化デー
タ記憶装置303内に記憶される。以下、同様にして、
フレームナンバー6からフレームナンバー10までの画
像データが、順次、フレームメモリ331内に記憶され
ているフレームナンバー1とフレームナンバー4の復号
データを参照フレームとして符号化される。符号化装置
306は、各フレームの画像データにつき、前述のよう
な符号化を1フレーム時間内で行う。前述のように符号
化された符号化データは、全て符号化データ記憶装置3
03に出力され、そのフレームのフレームナンバーと、
参照フレームのフレームナンバーと、発生符号量とに対
応付けて記憶される。
【0201】また、前記符号化データのうち、送信バッ
ファ127に出力される符号化データは、復号部332
に出力される。復号部332に出力された符号化データ
は、復号された後フレームメモリ331に出力され記憶
される。 前述のようにして、フレームナンバー10の
符号化が完了した時点で、送信バッファ127に一定量
の空き記憶領域ができ、フレームナンバー10の符号化
データが送信バッファ127に出力される。次いで、フ
レームナンバー11の画像データが画像サンプルされる
時点で、フレームナンバー4の符号化データの伝送が完
了し、フレームナンバー10の符号化データの伝送が開
始される。
【0202】この時点で伝送済み最新フレームは、フレ
ームナンバー4となる。このため、符号化データ記憶装
置303内に記憶されている符号化データのうち、フレ
ームナンバー1の復号データを参照フレームとするもの
は、廃棄される。また、フレームメモリ331内に記憶
されている復号データのうち、フレームナンバー4より
フレームナンバーが小さいフレーム、すなわち、フレー
ムナンバー1の復号データは、廃棄される。
【0203】この後、フレームナンバー10の符号化デ
ータを伝送中に前述のようなフェージングによるバース
トエラーが4フレーム時間に渡って発生したものとす
る。以下、図12(d)に示すようにフレームナンバー
16の画像データを入力する時点をすぎても伝送エラー
が続く場合には、フレーム選択部308は、前述のよう
にして、フレームナンバー10の表示不能を判断する。
具体的には、フレーム選択部308はフレームナンバー
10のバッファ127内の未送信データ量と、現時点か
らフレームナンバー10の画像を表示すべき時点までの
残り時間と、符号化時の発生データ量とから表示不能を
判断する。
【0204】符号化データ記憶装置303は、フレーム
ナンバー10の符号化データを送信バッファ127に転
送して以後、フレームナンバー11、フレームナンバー
12、フレームナンバー13、以下、それに続くフレー
ムの画像データを順次、それぞれフレーム4とフレーム
10とを参照フレームとして符号化し、第1から第nの
データメモリ301に記憶している。
【0205】前記3フレームを例に取って説明すると、
フレームナンバー11、フレームナンバー12およびフ
レームナンバー13において、フレームナンバー10の
画像の表示不能が判断された時点、すなわち、フレーム
ナンバー16の画像データを入力した時点から、伝送、
復号に費やせる時間はそれぞれ、3フレーム時間、4フ
レーム時間、5フレーム時間である。フレーム選択部3
08はそれぞれの時間内に伝送、復号が可能な最もフレ
ームナンバーの小さいフレームを前述のようにして選択
し、選択したフレームのフレームナンバーと参照フレー
ムのフレームナンバーとをメモリ制御部302に出力す
る。
【0206】ここでは、フレームナンバー13が選択さ
れたものとする。メモリ制御部302はフレームナンバ
ー4を参照フレームとするフレームナンバー13の符号
化データをデータメモリ301から読みだして、前記符
号化データを伝送制御装置307に出力する。ここで
は、フレームナンバー13は、伝送エラーがなくなった
時点、すなわち、フレームナンバー17を入力する時点
から伝送が開始され、フレームナンバー20を入力する
時点で受信側の表示装置に表示される。
【0207】なお、ここでは伝送中のフレームに続くフ
レームの中から、表示すべき時点に受信側の表示装置に
表示可能であって、フレームナンバーがもっとも小さい
フレームを選択したが、伝送中のフレームより先のフレ
ームの中から前述のような選択を行ってもよい。このよ
うにすれば、伝送中のフレームの発生符号量が比較的大
きい場合や、伝送フレームの伝送開始直後にバーストエ
ラーが発生した場合などに有効であって、伝送中のフレ
ームが表示不能となった場合の駒落としをより少なくす
ることができる。
【0208】また、ここでは、各符号化データの発生符
号量を符号化データと共に符号化データ記憶装置303
内に記憶したが、前記発生符号量を符号化データ記憶装
置303内に記憶せず、各符号化データの表示の可否を
判断する際に、符号化データ記憶装置303から読み出
した都度、符号化データの符号量を計数してもよい。こ
のように、従来の画像符号化装置では同じバーストエラ
ーの発生時に12駒の駒落しが発生したのに対し、8駒
の駒落としが発生するに留めることができる。すなわ
ち、サンプリングされる全フレームを符号化し、符号化
データ記憶装置303内に記憶しているので、平滑化時
間を延長することなく、伝送遅延などにより伝送中のフ
レームが表示不能となった場合の駒落しを最小限にする
ことが可能となる。
【0209】またさらに、フレーム選択部308によっ
て選択されたフレームの符号化データの伝送を速やかに
開始することができる。なお、最初の1フレームの伝送
が完了するまでの間に画像サンプルされるフレームは、
符号化された後、復号装置333で復号され、参照フレ
ームの復号データと多重化され、フレームメモリ331
に記憶されるとしたが、最初の1フレームの伝送が完了
するまでの間に画像サンプルされるフレームについて
は、そのフレームの符号化が完了した後に、そのフレー
ムが符号化される前の画像データが直接フレームメモリ
331に記憶されるようにしてもよい。
【0210】すなわち、図12に示すように、フレーム
ナンバー1の送達確認が取れるまでに画像サンプルされ
るフレームナンバー2、3、4の各フレームについて
は、画像データが、直接、フレームメモリ331に記憶
されるようにしてもよい。 (実施例3)以下に、本発明の実施例3の画像符号化装
置について、図13および図14を参照しながら説明す
る。
【0211】図13は、本発明の実施例3である画像符
号化装置の構成図である。図13に示すように、画像符
号化装置は、前処理装置411、復号データ記憶装置4
51、符号化装置452、第1の復号装置453、第2
の復号装置454、伝送制御装置455、第1のスイッ
チ428および第2のスイッチ429を備える。
【0212】復号データ記憶装置451は、メモリ制御
部412、第1の復号フレームメモリ463、第2の復
号フレームメモリ464および第3の復号フレームメモ
リ465を備える。符号化装置452は、符号化部41
6、符号化制御部416aおよび差分部426を備え
る。第1の復号装置453は、第1の復号部422、第
1の復号制御部422aおよび第1の加算部424を備
える。第2の復号装置454は、第2の復号部423、
第2の復号制御部423a、フレームメモリ425およ
び第2の加算部427を備える。伝送制御装置455
は、送信バッファ417、伝送制御部418、モード切
り換え部419、タイマー130および未送信バッファ
431を備える。前処理装置411は、実施例1と同様
であるので、説明を省略する。
【0213】復号データ記憶装置451は、第1の復号
装置453から出力される復号データを記憶する。第1
の復号フレームメモリ463、第2の復号フレームメモ
リ464および第3の復号フレームメモリ465は、そ
れぞれ1フレーム分の画像データに相当する復号データ
を記憶する記憶領域を備え、書込み中に読み出し可能な
デュアルポートメモリである。
【0214】ここで、すべての復号フレームメモリに復
号データが書き込まれた状態でさらに新たなフレームの
復号データが書き込まれるときには、最もフレームナン
バーが小さいフレームの復号データを記憶している復号
フレームメモリが新たな復号データで書き換えられる。
また、伝送済みのフレーム以外の復号データが新たに書
き込まれる場合には、伝送済み最新フレーム以外のフレ
ームであって、最もフレームナンバーが小さい復号デー
タが新たなフレームの復号データで書き換えられる。
【0215】メモリ制御部412は、前記第1の復号フ
レームメモリ463、第2の復号フレームメモリ464
および第3の復号フレームメモリ465への復号データ
の書き込み、読みだしを制御する。符号化装置452
は、符号化制御部416aの制御によって、入力される
フレームの予測符号化を行う。
【0216】符号化部416は、差分部426で求めた
差分による予測誤差を符号化する差分部426は、入力
される2個のブロックの差分を取る。入力される2個の
ブロックとは、符号化対象フレームの1ブロックと、参
照フレームの1ブロックである。第1の復号装置453
は、第1の復号制御部422aの制御によって、伝送制
御装置455から入力されるブロック毎に符号化データ
を復号し、復号データ記憶装置451内に記憶されてい
る復号データの対応する1ブロックと多重化して復号デ
ータ記憶装置451に出力することにより、復号データ
記憶装置451内に伝送制御装置455から入力される
符号化データのもとの画像データに相当する復号データ
を復号データ記憶装置451内に再現する。
【0217】第1の復号部422は、未送信バッファ4
31内に記憶されている符号化データを、ブロック毎に
順次、復号する。第1の加算部424は、入力される2
個のブロックを加算して復号データ記憶装置451に出
力する。入力される2個のブロックとは、第1の復号部
422で復号された復号データと復号フレームメモリ4
13に格納されている最新の送達確認済みフレームの復
号データである。
【0218】第2の復号装置454は、第2の復号制御
部423aの制御によって、符号化装置452から送信
バッファ417に出力された符号化データを復号し、フ
レームメモリ425内に記憶されている復号データの対
応する1ブロックと多重化することによって、送信バッ
ファ417に出力された符号化データのもとの画像デー
タに相当する復号データをフレームメモリ425内に再
現する。
【0219】第2の復号部423は、符号化装置452
によって予測符号化された符号化データを復号する。フ
レームメモリ425は、第2のスイッチ429を介して
入力される第2の加算部427で多重化された復号デー
タを記憶する。第2の加算部427は、入力される2個
のブロックを加算する。前記2個のブロックは、第2の
復号部423で復号された復号データから切り出された
1ブロックと、前記ブロックに対応してフレームメモリ
425内に記憶されている参照フレームから切り出され
た1ブロックである。
【0220】伝送制御装置455は、受信側と連絡を取
り合いながら伝送フレームを伝送路430を介して受信
側に伝送するとともに、伝送中のフレームの表示の可否
を判断し、伝送中のフレームが表示不能となったときに
は、表示画像の駒落としを最小とするよう画像符号化装
置の動作を切り換える。送信バッファ417は、書き込
み読みだし可能な先入先出しのメモリで、伝送フレーム
の符号化データを記憶する。
【0221】伝送制御部418は、受信側と連絡を取り
合いながら送信バッファ417内に記憶されている伝送
フレームを順次、伝送する。伝送制御部418は、少な
くとも1ブロックの符号化データを記憶しておく記憶領
域を備え、前記記憶領域に伝送中のブロックの符号化デ
ータを記憶しておく。伝送制御部418は、受信側から
の送達確認信号を検出したときは、モード切り換え部4
19に送達確認信号を出力するとともに、送達確認が取
れたブロックの符号化データを未送信バッファ431に
出力する。また、伝送制御部418は、受信側からの送
達確認信号を検出できないときは、モード切り換え部4
19に送達不能信号を出力するとともに、前記記憶領域
に記憶していたブロックの符号化データを受信側に再送
する。
【0222】モード切り換え部419は、実施例1の画
像符号化装置に備えられるフレーム限界値算出部502
と同様のフレーム限界値算出部591を備え、フレーム
限界値算出部591から出力されるフレーム限界値に基
づいて、各フレームの表示の可否を判断する。モード切
り換え部419は、伝送中のフレームが表示不能になっ
たときには、第1のスイッチ428と第2のスイッチ4
29とを切り換えることによって画像符号化装置全体の
動作を切り換える。モード切り換え部419について
は、後に詳述する。
【0223】タイマー130は、一定時間毎に、ここで
は1フレーム時間毎に値が変化する信号を出力する。未
送信バッファ431は、伝送制御部418を介して送信
バッファ417から読み出された符号化データをフレー
ム毎に記憶する。ただし、前記符号化データは、ブロッ
ク毎に書き込まれ、読み出される。
【0224】第1のスイッチ428および第2のスイッ
チ429は、モード切り換え部419からの制御信号に
よって切り換えられる。第1のスイッチ428および第
2のスイッチ429は、電気的に切り換えられるスイッ
チであって、伝送中のフレームが表示不能と判断される
までは端子1が接続される状態であって、伝送中のフレ
ームが表示不能と判断されると端子2が接続される状態
に切り換えられる。 (モード切り換え部419)図14は、実施例3の画像
符号化装置に備えられるモード切り換え部419の構成
図である。
【0225】図14に示すようにモード切り換え部41
9は、フレーム限界値算出部591、判断部593およ
び制御部594を備える。フレーム限界値算出部591
の構成は、実施例1のフレーム限界値算出部502と同
様であるが、ここでは判断対象フレームの表示の可否を
判断する際に、判断対象フレームの符号化時間および復
号時間は説明の簡略化のため考慮しない。しかし、実際
には上記の処理時間を考慮する必要がある。フレーム限
界値算出部591は、タイマー130からの信号に基づ
いて、1フレーム時間毎に伝送中のフレームのフレーム
限界値を求め、前記フレーム限界値から送信バッファ4
17内の伝送中のフレームの未送信符号量を減算した値
が、予め定められるしきい値以下である場合に表示可能
と判断する。フレーム限界値算出部591は、伝送中の
フレームを表示不能と判断したときは、制御部594に
表示不能信号を出力する。
【0226】判断部593は、フレーム限界値算出部5
91から出力される判断対象フレームのフレーム限界値
と、送信バッファ417内に記憶されている最新フレー
ムの発生符号量に近似される予測発生符号量とを比較し
て、前記予測発生符号量が前記フレーム限界値より小さ
いフレームを表示可能と判断する。判断部593は、前
述のようにして表示可能と判断したフレームのうち、最
もフレームナンバーが小さいフレームを最適フレームと
して、そのフレームナンバーを制御部594に出力す
る。判断部593は、判断対象フレームが表示不能であ
ると判断したときは、表示不能信号を制御部594に出
力する。
【0227】制御部594は、フレーム限界値算出部5
91から出力される伝送中のフレームが表示不能となっ
たことを示す表示不能信号を検出すると、符号化制御部
416aに、送信バッファ417内に記憶されている最
新フレームの符号量を検出して前記符号量を判断部59
3に出力するよう指示し、判断部593に伝送中のフレ
ームに続くフレームの表示の可否を判断するよう指示す
る。
【0228】この時点で、送信バッファ417内に記憶
されている最新フレームは、フレームメモリ425内
に、復号データで再現されている。従って、符号化部4
16は、前記復号データを、復号データ記憶装置451
内に記憶されている伝送済み最新フレームを参照フレー
ムとして符号化し、その発生符号量を検出する。制御部
594は、判断部593からの表示不能信号を検出した
ときには、選択信号をフレーム限界値算出部591に出
力し、フレーム限界値算出部591に次のフレームのフ
レーム限界値を判断部593に出力するよう指示する。
また、制御部594は、判断部593からの最適フレー
ムナンバーを検出したときには、復号データ記憶装置4
51内に記憶されている最適フレームの復号データと、
伝送済み最新フレームの復号データとから予測符号化を
行うよう符号化装置452に指示する。
【0229】以下に、図14のように構成されたモード
切り換え部419の各フレームに対する表示の可否の判
断方法を図15を用いて説明する。図15は、実施例3
の画像符号化装置におけるモード切り換え部419の最
適フレーム検出方法を説明するためのグラフである。図
15は、テスト画像Miss Americaのフレー
ムナンバー21からフレームナンバー50までをフレー
ムナンバー20を参照フレームとして符号化した場合の
発生符号量を示すグラフである。縦軸は発生符号量を示
しており、横軸はフレームナンバー20から発生符号量
測定対象フレームまでの駒落とし数および発生符号量測
定対象フレームのフレームナンバーを示している。
【0230】図15(a)の直線は、バーストエラー後
の伝送路の伝送速度(32kbps)を示す。図15
(b)の折れ線グラフは、駒落とし数に対する発生符号
量を示す。図15(c)は、フレームナンバー20の復
号データを参照フレームとしてフレームナンバー35を
符号化した場合に発生する符号量を示している。ここで
は、フレームナンバー22からフレームナンバー25に
かけてバーストエラーが生じたものとする。
【0231】図15(b)の折れ線グラフに示すよう
に、参照フレームから発生符号量測定対象フレームまで
の間に、ある程度以上に駒落とし数が増加すると、発生
符号量測定対象フレームの発生符号量が一定の値を示す
ようになる。ここでは、参照フレームから発生符号量測
定対象フレームまでの駒落とし数が約10フレーム以上
となると、発生符号量は図15(C)に示されるような
値、すなわち、4000ビット前後の値となる。ただ
し、この値は、伝送すべき動画像によって異なる。
【0232】したがって、モード切り換え部419は、
伝送中のフレームが表示不能となった場合、その時送信
バッファ417内に記憶されている伝送フレームの中か
ら表示可能なフレームを検出する訳であるが、その際、
伝送エラーによって伝送中のフレームが表示不能となる
ような場合には、次に表示可能となるフレームの発生符
号量は、送信バッファ417内に記憶されている最新フ
レームの発生符号量に近似することができると仮定す
る。
【0233】図15では、伝送済み最新フレームがフレ
ームナンバー20であって、伝送エラーがフレームナン
バー22を入力する時点からフレームナンバー25を入
力する時点まで発生したものとしている。また、ここで
は表示の可否を判断すべきフレームの発生符号量をフレ
ームナンバー35の発生符号量4000ビットと近似す
る。ここで、平滑化時間Tを10フレーム時間とし、伝
送エラーがなくなった時点、すなわち、フレームナンバ
ー25を入力する時点から伝送を開始するとした場合、
受信側でそのフレームの画像を表示すべき時間までに伝
送が完了し、更に駒落としが最小となる最適フレーム
は、直線(a)と直線(c)の交点で示されるフレーム
となり、図15からフレームナンバー29のフレームが
最適フレームとなる。 (画像符号化装置全体の動作)以下に、図13に示すよ
うに構成された画像符号化装置について、図16、図1
7および図18を用いてその動作を説明する。
【0234】図16は、実施例3の画像符号化装置の動
作を説明するためのタイミングチャートである。図17
は、実施例3の画像符号化装置における各フレームの復
号例、符号化例および伝送の一例を示す図である。図1
8は、実施例3の画像符号化装置における各フレームの
復号例、符号化例および伝送の他の例を示す図である。
【0235】図16において、フレームナンバー5の画
像データは、フレーム間の予測誤差に基づいて符号化さ
れ、最善の場合、すなわち、伝送エラーによる伝送遅延
がない場合には2フレーム時間(66msec)で伝送
が完了し、平滑化時間T=10フレーム時間(330m
sec)後に受信側の表示装置に表示できるものとす
る。
【0236】ところが、携帯用送信機を用いて動画像を
送信し、無線回線を介して受信側に伝送する場合には、
フェージングによるバーストエラーの発生は避け得な
い。このバーストエラーは移動速度が歩行速度以下の場
合、3〜6フレーム時間に達する。ここでは、フレーム
ナンバー5の伝送中にこのような伝送遅延が100ms
ec(約3フレーム時間)にわたって発生したものとす
る。。
【0237】図16(a)は、符号化部416が前処理
装置411から入力される画像データを画像サンプルす
るタイミングを示す。図16(b)は、前処理装置41
1から入力される画像データのうち符号化部416に画
像サンプルされるフレームのフレームナンバーを示す。
図16(c)は、送信バッファ417に記憶されている
フレームのフレームナンバーを示す。図16(d)は、
各フレームの伝送状態を示す。図16(e)は、平滑化
時間Tを示す。図16(f)は、受信側で復号されたフ
レームが表示装置に表示されるタイミングを示す。
【0238】図16(a)に示すように、符号化部41
6は、前処理装置411から入力される画像データを、
それぞれ66msec間隔(1駒落とし)で画像サンプ
ルする。図16(f)に示すように、受信側で復号され
たフレームが表示装置に表示されるタイミングは、符号
化部416がそのフレームの画像データを画像サンプル
した時間から平滑化時間T後である。ここでは、平滑化
時間T=10フレーム時間である。
【0239】前処理装置411から入力されるフレーム
の画像データが符号化部416によって画像サンプルさ
れてから、この平滑化時間T後までに受信側で復号が完
了した場合、前記フレームはこの時間まで保持された後
に表示される。また前記フレームがこの時間までに復号
できなかった場合、前記フレームの符号化データは廃棄
される。
【0240】なお、実際には画像符号化装置側で必要な
符号化時間および受信側で必要な復号時間を考慮する必
要があるが、ここでは動作説明を分かりやすいものとす
るため考慮しない。図17、図18は、送信バッファ4
17内に記憶されている未送信フレームを復号する場合
の復号方法および符号化方法の例、およびフレームナン
バー17の画像データを画像サンプルした直後の送信バ
ッファ417内に記憶されているフレームのフレームナ
ンバーを示している。 (通常動作)まず、伝送を開始したフレームが順次伝送
を完了し、受信側からの送達確認が取れている間の画像
符号化装置の動作について説明する。
【0241】第3の復号フレームメモリ465には受信
側からの送達確認がとれた、すなわち、伝送済み最新フ
レームが記憶されているものとする。なお、伝送を開始
したフレームが順次伝送を完了し、受信側からの送達確
認が取れている間、第1のスイッチ428は端子2が接
続されており、第2のスイッチ429は端子2が接続さ
れている。
【0242】符号化装置452は、伝送中のフレームが
表示不能と判断されるまでは、従来の符号化装置と同様
にして、差分部426で、画像サンプルされたフレーム
の画像データとフレームメモリ425に記憶されている
参照フレームの復号データとの間でブロック毎に動きベ
クトルを求め、差分をとり、予測誤差を求める。符号化
部416は、求めた予測誤差を符号化し、送信バッファ
417に出力する。
【0243】第2の復号部423は、符号化された予測
誤差を復号し、第2の加算部427に出力する。第2の
加算部427は、フレームメモリ425内の参照フレー
ムと第2の復号部423によって復号された予測誤差と
を加算し、フレームメモリ425に出力する。伝送制御
部418は、送信バッファ417内に記憶されている符
号化データを伝送路430を介して、受信側に伝送す
る。
【0244】伝送制御部418は、さらに、伝送を完了
し、受信側からの送達確認が取れた符号化データを未送
信バッファ431に転送し、送達確認信号をモード切り
換え部419に出力する。第1の復号部422は、モー
ド切り換え部419からの指示により、伝送制御部41
8が受信側からの送達確認をとった符号化データを順
次、復号し第1の加算部424に出力する。メモリ制御
部412は、モード切り換え部419からの指示によ
り、第3の復号フレームメモリ465内に記憶されてい
る伝送済み最新フレームを読み出し、前記符号化データ
の1ブロックに相当するブロックの復号データを第1の
加算部424に出力する。第1の加算部424は、第3
の復号フレームメモリ465から読み出された伝送済み
最新フレームと復号された符号化データとをブロック毎
に加算し、第1の復号フレームメモリ463に記憶して
いく。伝送中のフレームの全てのブロックに関して送達
確認がとれたならば、メモリ制御部412は、第1の復
号フレームメモリ463に記憶されているフレームを伝
送済み最新フレームとして管理する。
【0245】次にフェージング等によりバーストエラー
が発生し、伝送速度が低下した場合の、画像符号化装置
の動作を説明する。 (伝送エラー発生時の動作)図16に示すようにフレー
ムナンバー5の符号化データを伝送中に100msec
におよぶバーストエラーが発生したとする。伝送制御部
418は、この時点で送達不能信号をモード切り換え部
419に出力する。
【0246】また、この時、送信バッファ417内には
フレームナンバー3を参照フレームとして符号化された
フレームナンバー5の符号化データ、フレームナンバー
5を参照フレームとして符号化されたフレームナンバー
7の符号化データ、フレームナンバー7を参照フレーム
として符号化されたフレームナンバー9の符号化デー
タ、フレームナンバー9を参照フレームとして符号化さ
れたフレームナンバー11の符号化データおよびフレー
ムナンバー11を参照フレームとして符号化されたフレ
ームナンバー13の符号化データが記憶されている。
【0247】フレームメモリ425内には、フレームナ
ンバー13の復号データが記憶されている。また第2の
復号フレームメモリ464内には、バーストエラーが発
生するまでに送達確認が取れたブロックまでの再現途中
のフレームナンバー5の復号データが記憶されている。
第1の復号フレームメモリ463には、受信側からの送
達確認がとれた伝送済み最新フレームであるフレームナ
ンバー3の復号データが記憶されているものとする。
【0248】モード切り換え部419は、フレームナン
バー5のフレーム限界値と、送信バッファ417内のフ
レームナンバー5の未送信データの未送信符号量とか
ら、フレームナンバー5の未送信データをフレームナン
バー5の画像を表示すべき時点までに受信側に伝送し終
わることができないと判断すると、すなわち、伝送中の
フレームの表示不能を判断すると、第1のスイッチ42
8を端子2が接続される状態から端子1が接続される状
態へ、第2のスイッチ429を端子2が接続される状態
から端子1が接続される状態へ切り換える。
【0249】ここで、送信バッファ417に記憶されて
いるフレームナンバー7、9、11、13の符号化デー
タは、予測誤差を用いて符号化されているため、フレー
ムナンバー5が表示不能となった時点で無効なデータと
なってしまう。このため、フレームナンバー5の復号を
完了し、フレームナンバー5の画像データを第1の復号
フレームメモリ463内の伝送済み最新フレームである
フレームナンバー3を用いて復号データで再現し、再現
されたフレームナンバー5の復号データから前記各フレ
ームの画像データを復号データで再現する。 (伝送中フレームの再現)伝送制御部418は、送信バ
ッファ417内に記憶されているフレームナンバー5の
未送信データおよびフレームナンバー7、9、11、1
3の符号化データを読みだし、前記各符号化データを未
送信バッファ431に転送する。第1の復号部422
は、未送信バッファ431からフレームナンバー5の未
送信データをブロックごとに読み出して復号し、第1の
加算部424に出力する。
【0250】メモリ制御部412は、モード切り換え部
419からの指示により、第1の復号フレームメモリ4
63から伝送済み最新フレームの復号データを読み出
し、未送信バッファ431から読み出されたブロックに
相当する伝送済み最新フレーム、すなわち、フレームナ
ンバー3の復号データの1ブロックを第1の加算部42
4に転送する。
【0251】第1の加算部424は、前記2個のブロッ
クを加算し、第2の復号フレームメモリ464に出力す
る。これによって、第2の復号フレームメモリ464内
に、フレームナンバー5の未送信部分がすでに記憶され
ている復号データに追加して再現される。 (伝送中フレームに続くフレームの再現)まず、第1の
復号部422は、フレームナンバー7の未送信データを
未送信バッファ431からブロック毎に順次、読みだ
し、読み出したフレームナンバー7の未送信データを復
号する。第1の復号部422は、復号したフレームナン
バー7の1ブロックを第1の加算部424に出力する。
【0252】メモリ制御部412は、モード切り換え部
419からの指示により、第2の復号フレームメモリ4
64からフレームナンバー5の復号データを読み出し、
第1の復号部422によって復号されたブロックに対応
する1ブロックの復号データを第1の加算部424に転
送する。第1の加算部424は、第1の復号部422に
よって復号されたフレームナンバー7のブロックと、第
2の復号フレームメモリ464から転送されたフレーム
ナンバー5のブロックとを加算して第3の復号フレーム
メモリ465に出力する。これによって、第3の復号フ
レームメモリ465内に、未送信フレームであるフレー
ムナンバー7が復号データで再現され、記憶される。 (最適フレーム検出)伝送制御部418は、伝送エラー
が終了し、受信側からの送達確認を受け取ると、モード
切り換え部419に送達確認信号を出力する。
【0253】モード切り換え部419は、伝送制御部4
18からの送達確認信号を検出すると、メモリ制御部4
12に、第1の復号フレームメモリ463内に記憶され
ている伝送済み最新フレームであるフレームナンバー3
の復号データとフレームメモリ425内に記憶されてい
るフレームナンバー13の復号データを差分部426へ
転送するよう指示する。
【0254】差分部426は、フレームナンバー3の復
号データを参照フレーム、フレームナンバー13の復号
データを符号化対象フレームとして予測誤差をとり、符
号化部416に出力する。符号化部416は、前記予測
誤差を符号化する。符号化制御部416aは、前述のフ
レームナンバー13の発生符号量を検出し、モード切り
換え部419に出力する。
【0255】モード切り換え部419は、符号化制御部
416aから出力されたフレームナンバー13の発生符
号量を判断対象フレームの予測符号量として第3の復号
フレームメモリ465内に記憶されているフレームナン
バー7の表示の可否を判断する。モード切り換え部41
9は、表示可能と判断したフレームのうち最もフレーム
ナンバーの小さいものを最適フレームとしてそのフレー
ムナンバーをメモリ制御部412に出力する。
【0256】ここでは、フレームナンバー7は、表示不
能と判断されたものとする。次に、未送信バッファ43
1内に記憶されているフレームナンバー9の符号化デー
タが、第1の復号装置453によって復号され、第2の
復号フレームメモリ464内に復号データで再現され
る。モード切り換え部419は、前述のフレームナンバ
ー13の発生符号量を予測符号量としてフレームナンバ
ー9の表示の可否を判断する。ここで、フレームナンバ
ー9が最適フレームのフレームナンバーとして出力され
たものとする。 (符号化)さらに、モード切り換え部419は、メモリ
制御部412に、第1の復号フレームメモリ463内に
記憶されているフレームナンバー3の復号データをフレ
ームメモリ425へ、第2の復号フレームメモリ464
内に記憶されている最適フレームであるフレームナンバ
ー9の復号データを差分部426へ転送するよう指示す
る。
【0257】差分部426は、フレームナンバー3の復
号データを参照フレーム、フレームナンバー9の復号デ
ータを符号化対象フレームとして予測誤差をとり、符号
化部416に出力する。符号化部416は、前記予測誤
差を符号化して送信バッファ417に出力する。そし
て、符号化中のフレームは、復号され、フレームメモリ
425に格納される。
【0258】以下、前記最適フレーム以後のフレームに
関しても同様に復号データによる再現、表示の可否の判
断および予測符号化が行われ、送信バッファ417に出
力される。ここで、再現されたフレームのすべてが表示
の可否を判断され、予測符号化されて送信バッファ41
7に出力されると、モード切り換え部419は、第1の
スイッチ428を端子1が接続される状態から端子2が
接続される状態へ、第2のスイッチを端子1が接続され
る状態から端子2が接続される状態へ切り換える。 (伝送)この時点で、図17に示すように送信バッファ
417内には、フレームナンバー3を参照フレームとし
て符号化されたフレームナンバー9の符号化データ9
a、フレームナンバー9を参照フレームとして符号化さ
れたフレームナンバー11の符号化データ11a、フレ
ームナンバー11を参照フレームとして符号化されたフ
レームナンバー13の符号化データ13a、フレームナ
ンバー13を参照フレームとして符号化されたフレーム
ナンバー17の符号化データ17が記憶され、受信側に
伝送される。ここで、フレームナンバー17は、伝送エ
ラー終了後に画像サンプルされたフレームである。
【0259】以上のようにして、本実施例によれば、1
00msecに及ぶ伝送エラーを生じた場合でも、図1
7に示すように、受信側ではフレームナンバー5とフレ
ームナンバー7とが駒落しされるだけにとどまる。な
お、本実施例では、復号部を第1の復号部422と第2
の復号部423の2つに分けて説明したが、第1の復号
装置453と第2の復号装置454とは同様な構成であ
るため、を1つとして画像符号化装置を構成してもよ
い。
【0260】また、本実施例では、フレームナンバー
9、11、13、17を伝送した場合について述べた
が、図18に示すように、モード切り換え部419でフ
レームナンバー9を最適フレームとして検出した後、フ
レームナンバー11、13を符号化せずに、伝送エラー
終了後に画像サンプルされるフレームナンバー17を伝
送してもよい。
【0261】また、モード切り換え部419が復号デー
タ記憶装置451内に記憶されたフレームの表示の可否
を判断する場合、送信バッファ417内の未送信フレー
ムのうち、フレームナンバーが中間に位置するフレーム
から順次、表示の可否を判断してもよい。すなわち、図
16に示すように、バーストエラー発生時、送信バッフ
ァ417内にはフレームナンバー5、7、9、11、1
3が記憶されている。この場合、中間に位置するフレー
ムはフレームナンバー9となり、フレームナンバー9か
ら表示の可否を判断していく。結果としては、フレーム
ナンバー9以後が表示可能なフレームとなる。
【0262】なお、図14を用いて説明したモード切り
換え部419は、実施例1および実施例2の画像符号化
装置に備えられてもよい。また、実施例3の画像符号化
装置は、図19に示すように、モード切り換え部419
に代えて、実施例1の画像符号化装置に備えられるフレ
ーム選択部108と同様のフレーム選択部108bを備
えてもよい。
【0263】図19は、他の伝送制御装置455aを備
える実施例3の画像符号化装置の構成図である。図2に
示すフレーム選択部108は、処理時間算出部507を
備えるが、ここでは復号時間を考慮しないので、フレー
ム選択部108bには処理時間算出部507を備えなく
てもよい。
【0264】また、フレーム選択部108bは、発生符
号量予測部503を備えてもよいし、備えなくてもよ
い。前記発生符号量予測部503を備える場合は、符号
化装置452は、制御部509からの指示により、発生
符号量を予測するためのフレーム間差分値を求めて発生
符号量予測部503に出力する。前記フレーム間差分値
は、判断対象フレームと伝送済み最新フレームとの単純
な差分を求めることによって得られる。
【0265】また、前記発生符号量予測部503を備え
ない場合は、符号化装置452は、制御部509からの
指示により、伝送済み最新フレームを参照フレームとし
て判断対象フレームの予測符号化を行なう。さらに、符
号化装置452は、予測符号化された符号化データの発
生符号量を検出し、フレーム選択部108bに出力す
る。
【0266】伝送中のフレームが表示不能となるまで
は、画像符号化装置の動作は、実施例3の画像符号化装
置と同様である。 (伝送中のフレームが表示不能と判断されたときの動
作)以下、画像符号化装置の動作を図2、図16、図1
9を用いて説明する。ここで、第1の復号フレームメモ
リ463内には、伝送済み最新フレームであるフレーム
ナンバー3の符号化データが記憶されているものとす
る。
【0267】フレーム選択部108bによって、伝送中
のフレームの表示不能が判断されると、実施例3と同様
に、図19に示すように伝送中のフレームであったフレ
ームナンバー5の画像データが第2の復号フレームメモ
リ464内に復号データで再現される。次いで、前記第
2の復号フレームメモリ464内のフレームナンバー5
の復号データをもとにして、フレームナンバー7の画像
データが第3の復号フレームメモリ465内に復号デー
タで再現される。 (表示の可否の判断)フレームナンバー7の画像データ
が再現された時点で、前記フレームナンバー7の復号デ
ータが第3の復号フレームメモリ465内から読み出さ
れ、第1のスイッチ428を介して符号化装置452に
転送される。
【0268】伝送済み最新フレームであるフレームナン
バー3の復号データが第1の復号フレームメモリ463
内から読み出され、フレームメモリ425に転送され
る。 (予測発生符号量に基づく判断をする場合)ここで、フ
レーム選択部108bに発生符号量予測部503を備え
る場合には、符号化装置452は、フレームナンバー7
の復号データとフレームナンバー3の復号データとのフ
レーム間差分値を求め、発生符号量予測部503に転送
する。
【0269】発生符号量予測部503は、前記フレーム
間差分値からフレームナンバー7の発生符号量を予測
し、予測発生符号量を第2の判断部508に出力する。
第2の判断部508は、前記予測発生符号量とフレーム
限界値算出部502が算出したフレームナンバー7のフ
レーム限界値とを比較して、前記フレーム限界値から前
記予測発生符号量を減算した値が予め定めるしきい値以
下となる場合にフレームナンバー7を表示可能と判断
し、表示可能信号を制御部509に出力する。表示不能
と判断した場合は、表示不能信号を制御部509に出力
する。
【0270】制御部509は、第2の判断部508から
の表示可能信号を検出すると、符号化装置452に、フ
レームナンバー3を参照フレームとして改めてフレーム
ナンバー7の復号データの予測符号化を行なうよう指示
する。また、制御部509は、第2の判断部508から
の表示不能信号を検出すると、第1の復号装置453
に、次の未送信フレームの復号を行なうよう指示する。 (実際の発生符号量に基づく判断をする場合)また、発
生符号量予測部503を備えない場合には、符号化装置
452は、フレームナンバー3の復号データを参照フレ
ームとしてフレームナンバー7の復号データの予測符号
化を行ない、予測符号化された符号化データの発生符号
量を検出して第2の判断部508に出力する。
【0271】第2の判断部508は、前記発生符号量と
フレーム限界値算出部502が算出したフレームナンバ
ー7のフレーム限界値とを比較して、前記フレーム限界
値から前記発生符号量を減算した値が予め定めるしきい
値以下となる場合にフレームナンバー7を表示可能と判
断し、表示可能信号を制御部509に出力する。表示不
能と判断した場合は、表示不能信号を制御部509に出
力する。
【0272】制御部509は、第2の判断部508から
の表示可能信号を検出すると、符号化装置452に、予
測符号化した符号化データを送信バッファ417に出力
するよう指示する。また、制御部509は、第2の判断
部508からの表示不能信号を検出すると、第1の復号
装置453に、次の未送信フレームの復号を行なうよう
指示する。 (次の未送信フレームの復号)ここで、実施例3と同様
に、フレームナンバー7は表示不能と判断されたものと
する。次に、フレームナンバー9の未送信フレームが復
号され、第2の復号フレームメモリ464内にフレーム
ナンバー9の画像データが復号データで再現される。
【0273】フレームナンバー9の復号データは、符号
化装置452に出力され、伝送済み最新フレームである
フレームナンバー3の復号データとのフレーム間差分値
または予測誤差が求められる。以下同様にして、表示可
能なフレームが検出されるまで、各未送信フレームにつ
いて順次、表示の可否が判断される。
【0274】表示可能な未送信フレームが検出される
と、そのフレームの伝送済み最新フレームを参照フレー
ムとする符号化データが、送信バッファ417に出力さ
れるとともに、そのフレームの復号データが復号データ
記憶装置451aから読み出され、フレームメモリ42
5に記憶される。以下に続くフレームは、実施例3と同
様にして予測符号化され、その符号化データが順次、送
信バッファ417に出力される。
【0275】(実施例4)以下に本発明の実施例4につ
いて図面を参照しながら説明する。図20は、本発明の
実施例4である画像符号化装置の構成図である。図20
に示すように、画像符号化装置は、前処理装置411、
復号データ記憶装置451、画像データ記憶装置45
6、符号化装置452、第1の復号装置453、第2の
復号装置454、伝送制御装置455、第1のスイッチ
443、第2のスイッチ444および第3のスイッチ4
45を備える。
【0276】なお、前処理装置411、復号データ記憶
装置451、符号化装置452、第1の復号装置453
および第2の復号装置454は、実施例3の画像符号化
装置に備えられるものと同様であるので、説明を省略す
る。また、復号メモリ制御部412aは、実施例3の画
像符号化装置に備えられるメモリ制御部412と同様で
ある。
【0277】伝送制御装置455は、送信バッファ41
7、伝送制御部418、モード切り換え部420、タイ
マー130および未送信バッファ431を備える。前記
伝送制御装置455において、送信バッファ417、伝
送制御部418、タイマー130および未送信バッファ
431は、実施例3の画像符号化装置に備えられるもの
と同様であるので説明を省略する。
【0278】画像データ記憶装置456は、実施例1の
画像符号化装置に備えられるものと同様であるので、説
明を省略する。また画像データ記憶装置456は、復号
データ記憶装置451と同様であるので、復号データ記
憶装置451を兼用してもよい。第1のスイッチ44
3、第2のスイッチ444および第3のスイッチ445
は電気的に切り換え可能なスイッチであり、モード切り
換え部420からの制御信号によって切り換えられる。
このうち、第1のスイッチ443は、端子1と端子2を
接続する状態と、端子2と端子3とを接続する状態と、
端子3と端子1とを接続する状態とを選択的に切り換え
ることができる。
【0279】図22は、実施例4の画像符号化装置に備
えられるモード切り換え部420の構成図である。図2
2に示すように、モード切り換え部420は、フレーム
限界値算出部591、最新フレームナンバー記憶部59
2、判断部593および制御部594aを備える。最新
フレームナンバー記憶部592は、復号データ記憶装置
451および画像データ記憶装置456内に記憶されて
いる最新フレームのフレームナンバーを記憶する。フレ
ーム限界値算出部591と判断部593とは実施例3の
画像符号化装置に備えられるものと同様であるので、説
明を省略する。
【0280】制御部594aは、伝送制御部418から
の送達確認信号または送達不能信号を検出し、伝送制御
部418からの送達不能信号を検出した時点で第1のス
イッチ443を端子1と端子3とが接続される状態に切
り換え、画像データ記憶装置456に前処理装置411
から入力される各フレームの画像データを記憶させる。
【0281】また、フレーム限界値算出部591から出
力される伝送中のフレームについての表示不能信号を検
出して、第1のスイッチ443を端子2と端子3とが接
続される状態に切り換える。ここで、制御部594a
は、画像データ記憶装置456に、最新フレームナンバ
ー記憶部592に記憶したフレームナンバーを出力し、
前記フレームナンバーの画像データを読み出して符号化
装置452に転送するよう指示する。
【0282】制御部594aは、伝送エラー終了後、前
記第1のスイッチ443を端子1と端子2とが接続され
る状態に戻す。符号化装置452には、前述のようにし
て画像データ記憶装置456から読み出したフレームの
画像データを伝送済み最新フレームを参照フレームとし
て符号化し、その符号化データの発生符号量を判断部5
93に出力するよう指示する。
【0283】以下に、図20のように構成された画像符
号化装置について、図21を用いてその動作を説明す
る。図21は、本発明の実施例4である画像符号化装置
の動作を説明するためのタイミングチャートである。図
21(a)は、画像メモリ441内に記憶されているフ
レームであって、伝送エラー中に画像サンプルされたフ
レームを示す。図21(b)は、符号化装置452が、
符号化を行うフレームを画像サンプルするタイミングを
示す。図21(c)は、前処理装置411から符号化装
置452に入力されるフレームを示す。図21(d)
は、送信バッファ417に記憶されているフレームを示
す。図21(e)は、各フレームの伝送状態を示す。図
21(f)は、符号化や復号に要する処理時間のばらつ
きや伝送時間の揺らぎによる遅延ジッタを吸収するため
にもうけられた平滑化時間時間Tを示す。図21(g)
は、受信側が復号したフレームを表示装置に表示するタ
イミングを示す。
【0284】図21(b)に示すように、符号化装置4
52は、入力されるフレームを66msec間隔(1駒
落とし)で画像サンプルする。また、図24(f)に示
すように、ここでは平滑化時間Tは330msecであ
る。図21(g)に示すように、受信側が復号したフレ
ームを表示装置に表示するのは、符号化装置がそのフレ
ームを画像サンプルした時点から始まる平滑化時間Tが
終了した時点である。
【0285】なお、実際には画像符号化装置側で必要な
符号化時間および画像符号化装置側で必要な復号時間を
考慮する必要があるが、ここでは動作説明を分かりやす
いものとするため考慮しない。図21(e)に示すよう
に、フレームナンバー5の符号化データを伝送中に10
0msecにおよぶバーストエラーが発生したとする。
この時、送信バッファ417にはフレームナンバー3を
参照フレームとして符号化されたフレームナンバー5の
符号化データ、フレームナンバー5を参照フレームとし
て符号化されたフレームナンバー7の符号化データ、フ
レームナンバー7を参照フレームとして符号化されたフ
レームナンバー9の符号化データ、フレームナンバー9
を参照フレームとして符号化されたフレームナンバー1
1の符号化データ、フレームナンバー11を参照フレー
ムとして符号化されたフレームナンバー13の符号化デ
ータが記憶されている。
【0286】ここで、第1の復号フレームメモリ413
には、受信側からの送達確認がとれた伝送済み最新フレ
ームであるフレームナンバー3の復号データが記憶され
ているものとする。また、第2の復号フレームメモリ4
14には、伝送済み最新フレームであるフレームナンバ
ー3の復号データから再現した再現途中のフレームナン
バー5の復号データが記憶されているものとする。 (画像サンプル)伝送制御部418は、伝送エラーが発
生し、受信側からの送達確認が取れなくなった時点で、
送達不能信号をモード切り換え部420に出力する。モ
ード切り換え部420は、伝送制御部418からの送達
不能信号を検出すると、第1のスイッチ443を端子1
と端子3とが接続される状態に切り換え、入力される画
像データを画像データ記憶装置456に記憶させる。こ
こでは、図21(a)に示すように、フレームナンバー
15の画像データが画像サンプルされる。 (伝送中のフレームが表示不能と判断されたとき)(最
新フレームの発生符号量検出)ここで、伝送制御部41
8が伝送エラーの回復を検出したとする。モード切り換
え部420は、伝送エラー発生後に入力された画像デー
タが画像データ記憶装置456に記憶されると、第1の
スイッチ443を切り換え、画像データ記憶装置456
に、記憶している最新フレームの画像データを符号化装
置452に転送させる。
【0287】同時に、モード切り換え部420は、第3
のスイッチ445を端子2が接続されている状態から端
子1が接続される状態へ切り換え、第1の復号フレーム
メモリ413aに記憶している伝送済み最新フレームの
復号データをフレームメモリ425に転送するよう指示
する。モード切り換え部420は、伝送済み最新フレー
ムの転送後、第3のスイッチを端子2が接続される状態
に戻し、第2のスイッチ444を端子2が接続されてい
る状態から端子1が接続される状態へ切り換える。符号
化装置425は、前記最新フレームを伝送済み最新フレ
ームを参照フレームとして符号化し、発生符号量を検出
する。符号化装置452は、検出した発生符号量をモー
ド切り換え部420に出力する。 (未送信フレームの再現と最適フレームの検出)以後、
画像符号化装置は、実施例3の図13に示す画像符号化
装置と同様にして、復号データ記憶装置451内に未送
信フレームを復号データで順次、再現して記憶させる。
【0288】モード切り換え部420は、前記発生符号
量を予測発生符号量として各未送信フレームの表示の可
否を判断し、表示可能な未送信フレームを検出すると、
そのフレームを最適フレームとしてそのフレームナンバ
ーを復号メモリ制御部412aに出力する。 (最適フレームおよびそれに続くフレームの符号化)こ
れによって、前記最適フレームの復号データが復号デー
タ記憶装置451の記憶領域から読み出され、符号化装
置452に転送される。次いで前記最適フレームは、符
号化装置452によって伝送済み最新フレームを参照フ
レームとして予測符号化され、送信バッファ417に出
力される。
【0289】図21では、フレームナンバー9が最適フ
レームとして検出されている。前記最適フレームの符号
化データが送信バッファ417に出力されると、従来の
画像符号化装置と同様にして、前記最適フレームの予測
誤差が復号され、復号された最適フレームがフレームメ
モリ425に格納される。前記最適フレームより後の未
送信フレームについても順次、予測符号化が行なわれ、
送信バッファ417に出力される。
【0290】なお、画像データ記憶装置456に最新フ
レームナンバー記憶部592に記憶されているフレーム
ナンバーに該当するフレームが格納されていなければ、
実施例3と同様な動作を行う。 (画像データ記憶装置456内のフレームの符号化)モ
ード切り換え部420は、最適フレーム以後の未送信フ
レームがすべて符号化され、送信バッファ417に出力
された時点で、第1のスイッチ443を端子2と端子3
とが接続される状態へ、第2のスイッチ444を端子2
が接続される状態へ、第3のスイッチ445を端子2が
接続される状態へ切り換え、画像データ記憶装置456
内に記憶されている画像データの符号化を行ない、符号
化データを送信バッファ417に出力する。 (伝送)伝送路430の伝送状態が回復し、伝送制御装
置455が受信側の送達確認を受け取ると、伝送制御部
418は、送達確認信号をモード切り換え部420に出
力する。モード切り換え部420は、伝送制御部418
からの送達確認信号を検出すると、第1のスイッチ44
3を端子1と端子2とが接続される状態に切り換え、前
処理装置411から入力される画像データの予測符号化
を符号化装置452に指示する。
【0291】以上のようにして画像符号化装置は、通常
の動作に戻る。この時点で、図21に示すように、送信
バッファ417には、フレームナンバー3を参照フレー
ムとして符号化されたフレームナンバー9の符号化デー
タ9a、フレームナンバー9を参照フレームとして符号
化されたフレームナンバー11の符号化データ11a、
フレームナンバー11を参照フレームとして符号化され
たフレームナンバー13の符号化データ13a、フレー
ムナンバー13を参照フレームとして符号化されたフレ
ームナンバー15の符号化データ15a、フレームナン
バー15aを参照フレームとして符号化されたフレーム
ナンバー17の符号化データ17が記憶され、受信側に
伝送される。ここで、フレームナンバー17は、伝送路
430の伝送状態が回復した後に画像サンプルされたフ
レームである。そのため、図21に示すように、受信側
の表示装置に表示されるフレームは、フレームナンバー
5、7が駒落しされるだけにとどまる。
【0292】なお、モード切り換え部420は、最初に
検出した画像データ記憶装置456内に記憶されている
最新フレームの発生符号量を、別途設けたメモリに予測
発生符号量として記憶しておいてもよい。
【0293】
【発明の効果】以上説明したように、前記構成を備える
ことにより、請求項1記載の本発明によれば、従来の画
像符号化装置では伝送中のフレームが表示不能となった
場合には、伝送済み最新フレームから伝送エラー終了後
に画像サンプルされるフレームまでのフレームがすべて
駒落としされていたのに対し、本発明の画像符号化装置
では、画像記憶手段に記憶している画像データのうちで
表示可能な画像データがあれば、その画像データを伝送
済み最新フレームを参照フレームとして予測符号化し、
受信側に伝送することができる。従って、本発明の画像
符号化装置は、画像記憶手段に画像データを記憶してい
る範囲内で、伝送中のフレームが表示不能となった場合
に発生する表示画像の駒落としを最小限に留めることが
でき、伝送エラー終了後に画像サンプルされるフレーム
より前のフレームが表示可能であれば、従来の画像符号
化装置よりも前記駒落としを減少することができるとい
う効果を奏する。
【0294】同様に、請求項2記載の本発明によれば、
前記画像メモリの数を適切に選ぶことによって、伝送エ
ラーのために伝送中のフレームが表示不能となった場合
でも、伝送済み最新フレームからの駒落としをより少な
くすることができる画像データを記憶しておくことがで
きるという効果を奏する。同様に、請求項3記載の本発
明によれば、第1の判断手段および第2の判断手段は、
変数の少ない簡単な演算で各フレームの表示の可否を判
断するので、判断対象フレームの表示の可否の判断に要
する時間を短時間に留めることができるという効果を奏
する。
【0295】同様に、請求項4記載の本発明によれば、
前記第1の残り時間検出手段と前記第2の残り時間検出
手段とは、タイマーの信号毎に伝送中のフレームと前記
画像記憶手段に記憶している画像データの残り時間を同
時に検出しているので、伝送中のフレームの表示不能が
判断されてから後に、前記第2の判断手段の判断対象フ
レームの残り時間を演算することなく、速やかに表示の
可否を判断することができるという効果を奏する。
【0296】同様に、請求項5記載の本発明によれば、
前記符号量予測手段は、所要時間が長くかかる動きベク
トル検出の処理を行うことなく、前記フレーム間差分値
に基づいて符号量予測対象フレームの符号量を予測する
ので、短時間で符号量予測対象フレームの符号量を予測
することができる。従って、本発明の画像符号化装置
は、前記第2の判断手段の判断時間を短い時間に留める
ことができ、伝送中のフレームが表示不能となった後、
画像記憶手段に記憶している画像データのうちから表示
画像の駒落としを最小限に留めることが可能な画像デー
タを速やかに選択し、伝送することができるという効果
を奏する。
【0297】同様に、請求項6記載の本発明によれば、
第1の判断手段および第2の判断手段は、変数の少ない
簡単な演算で各フレームの表示の可否を判断するので、
表示の可否の判断に要する時間を短時間に留めることが
できるという効果を奏する。同様に、請求項7記載の本
発明によれば、前記符号化データ記憶手段は、すでに予
測符号化した符号化データを記憶しているので、伝送中
のフレームが表示不能となった場合に、前記第2の判断
手段は、速やかに符号量を検出し、表示の可否を判断す
ることができる。また、伝送に際しても改めて符号化す
る必要がなく、表示可能と判断した符号化データを速や
かに伝送することができるという効果を奏する。
【0298】同様に、請求項8記載の本発明によれば、
符号量の少ない符号化データは、表示までの残り時間が
少なくても表示できる場合が発生する。従って、符号化
データメモリの数を適切に選ぶことによって、伝送中の
フレームが表示不能となった場合に発生する表示画像の
駒落としを最小限に留めることができる符号化データ
を、前記符号化データメモリに記憶しておくことができ
るという効果を奏する。
【0299】同様に、請求項9記載の本発明によれ
ば、、前記第1の判断手段および前記第2の判断手段
は、簡単な演算で各フレームの表示の可否を判断するこ
とができ、表示の可否の判断に要する時間を短時間に留
めることができるという効果を奏する。同様に、請求項
10記載の本発明によれば、前記第1の残り時間検出手
段と前記第2の残り時間検出手段とは、タイマーの信号
毎に伝送中のフレームと前記画像記憶手段に記憶してい
る画像データの残り時間を同時に検出することができ、
伝送中のフレームの表示不能が判断されてから後に、前
記第2の判断手段の判断対象フレームの残り時間を演算
することなく、速やかに表示の可否を判断することがで
きるという効果を奏する。
【0300】同様に、請求項11記載の本発明によれ
ば、前記第1から第nの減算部の出力は、伝送中のフレ
ームに続くフレームの残り時間から伝送中のフレームの
未送信符号量が減算された値を示す。伝送中のフレーム
が表示不能と判断される前に、伝送中のフレームに続く
フレームの表示の可否を判断することができる。また、
伝送中のフレームが表示不能と判断されたときは、伝送
中のフレームの送信バッファ内の未送信符号化データは
廃棄されるので、前記第1から第nの減算部に入力され
る未送信符号化データの伝送時間は「0」となり、前記
第1から第nの減算部からは伝送中のフレームに続くフ
レームの残り時間が前記第2のセレクタに出力されると
いう効果を奏する。
【0301】同様に、請求項12記載の本発明によれ
ば、第2の判断手段は、伝送中のフレームより先に画像
サンプルされた画像データの表示の可否を判断すること
ができるという効果を奏する。同様に、請求項13記載
の本発明によれば、従って、符号量の少ない符号化デー
タを前記符号化データメモリ内に記憶しておくことによ
って、その符号化データが表示可能となる場合には、伝
送中のフレームが表示不能となった場合に発生する表示
画像の駒落としを低減することができるという効果を奏
する。
【0302】同様に、請求項14記載の本発明によれ
ば、画像符号化装置は、前記第1の判断手段が伝送中の
フレームを表示不能と判断した後、送信バッファ内に記
憶されている未送信符号化データから符号化前の画像デ
ータを復号データで再現し、再現された画像データのう
ち第2の判断手段によって表示可能と判断されたフレー
ムを符号化して伝送することができる。従って、従来の
画像符号化装置と比較して、伝送中のフレームが表示不
能となった場合の駒落としを低減することができる。ま
た、本発明の画像符号化装置は、再現画像データ記憶手
段を効率よく使用して、伝送中のフレームが表示不能と
なった時点で送信バッファ内に記憶されている未送信符
号化データを再現することができるという効果を奏す
る。
【0303】同様に、請求項15記載の本発明によれ
ば、前記第1の判断手段および前記第2の判断手段は、
変数の少ない簡単な演算で各フレームの表示の可否を判
断することができ、表示の可否の判断に要する時間を短
時間に留めることができるという効果を奏する。同様
に、請求項16記載の本発明によれば、前記符号量予測
手段は、所要時間が長くかかる動きベクトル検出の処理
を行うことなく、前記フレーム間差分値に基づいて符号
量予測対象フレームの符号量を予測するので、前記第2
の判断手段の判断時間を短い時間に留めることができ
る。従って、画像符号化装置は、伝送中のフレームが表
示不能となった後、表示画像の駒落としを最小限に留め
ることが可能な画像データを速やかに伝送することがで
きるという効果を奏する。
【0304】同様に、請求項17記載の本発明によれ
ば、前記判断対象フレームの発生符号量を予測するに
は、前記再現画像記憶手段内に再現された最新フレーム
を、伝送済み最新フレームを参照フレームとして符号化
し、その符号量を検出するだけでよいという効果を奏す
る。同様に、請求項18記載の本発明によれば、従来の
画像符号化装置では伝送エラー中に入力される画像デー
タを記憶しておくための記憶手段を備えていないことに
よって生じていた表示画像の駒落としを防止することが
できるという効果を奏する。
【0305】同様に、請求項19記載の本発明によれ
ば、前記第1の判断手段および前記第2の判断手段は、
変数の少ない簡単な演算で各フレームの表示の可否を判
断することができ、表示の可否の判断に要する時間を短
時間に留めることができるという効果を奏する。同様
に、請求項20記載の本発明によれば、前記第1の残り
時間検出手段と前記第2の残り時間検出手段とは、タイ
マーの信号毎に伝送中のフレームと前記画像記憶手段に
記憶している画像データの残り時間を同時に検出するこ
とができ、伝送中のフレームの表示不能が判断されてか
ら後に、前記第2の判断手段の判断対象フレームの残り
時間を演算することなく、速やかに表示の可否を判断す
ることができるという効果を奏する。
【0306】同様に、請求項21記載の本発明によれ
ば、前記第2の判断手段は、伝送中のフレームが表示不
能と判断される前に、伝送中のフレームに続くフレーム
の表示の可否を判断することができる。また、伝送中の
フレームが表示不能と判断されたときは、伝送中のフレ
ームの送信バッファ内の未送信符号化データは廃棄され
るので、前記第1から第nの減算部に入力される未送信
符号化データの伝送時間は「0」となり、前記第1から
第nの減算部からは伝送中のフレームに続くフレームの
残り時間が前記第2のセレクタに出力されるという効果
を奏する。
【0307】同様に、請求項22記載の本発明によれ
ば、前記符号量予測手段は、所要時間が長くかかる動き
ベクトル検出の処理を行うことなく、前記フレーム間差
分値に基づいて符号量予測対象フレームの符号量を予測
するので、前記第2の判断手段の判断時間を短い時間に
留めることができる。従って、画像符号化装置は、伝送
中のフレームが表示不能となった後、表示画像の駒落と
しを最小限に留めることが可能な画像データを速やかに
伝送することができるという効果を奏する。
【0308】同様に、請求項23記載の本発明によれ
ば、前記第1の判断手段および前記第2の判断手段は、
変数の少ない簡単な演算で各フレームの表示の可否を判
断することができ、表示の可否の判断に要する時間を短
時間に留めることができるという効果を奏する。
【図面の簡単な説明】
【図1】本発明の実施例1である画像符号化装置の構成
図である。
【図2】実施例1の画像符号化装置におけるフレーム選
択部108の構成図である。
【図3】本発明の実施例1である画像符号化装置の動作
を説明するためのタイミングチャートである。
【図4】実験結果から求められる有効ブロック数と発生
情報量との関係を示すグラフである。
【図5】フレーム間差分値から求められる有効ブロック
数と発生情報量との関係を示すグラフである。
【図6】実施例1の画像符号化装置におけるフレーム選
択部108aの構成図である。
【図7】実施例1の画像符号化装置におけるフレーム限
界値算出部502の構成図である。
【図8】実施例1の画像符号化装置におけるフレーム限
界値算出部502の動作を説明するための図である。
【図9】実施例1の画像符号化装置におけるフレーム限
界値算出部502の他の例を示す構成図である。
【図10】本発明の実施例2である画像符号化装置の構
成図である。
【図11】実施例2の画像符号化装置におけるフレーム
選択部308の構成図である。
【図12】本発明の実施例2である画像符号化装置の動
作を説明するためのタイミングチャートである。
【図13】本発明の実施例3である画像符号化装置の構
成図である。
【図14】実施例3の画像符号化装置におけるモード切
り換え部419の構成図である。
【図15】実施例3の画像符号化装置におけるモード切
り換え部419の最適フレーム検出方法を説明するため
のグラフである。
【図16】本発明の実施例3である画像符号化装置の動
作を説明するためのタイミングチャートである。
【図17】実施例3の画像符号化装置における各フレー
ムの復号例、符号化例および伝送の一例を示す図であ
る。
【図18】実施例3の画像符号化装置における各フレー
ムの復号例、符号化例および伝送の他の例を示す図であ
る。
【図19】他の復号データ記憶装置451aおよび他の
伝送制御装置455aを備える実施例3の画像符号化装
置の構成図である。
【図20】本発明の実施例4である画像符号化装置の構
成図である。
【図21】本発明の実施例4である画像符号化装置の動
作を説明するためのタイミングチャートである。
【図22】実施例4の画像符号化装置に備えられるモー
ド切り換え部420の構成図である。
【図23】従来技術である画像符号化装置の構成図であ
る。
【図24】従来技術である画像符号化装置の動作を説明
するためのタイミングチャートである。
【符号の説明】
101 第1から第nの画像メモリ 102 メモリ制御部 103 画像記憶装置 104 符号化部 105 符号化制御部 106 符号化装置 107 伝送制御装置 108 フレーム選択部 109 伝送制御部 110 送信バッファ 112 YC分離A/D変換部 113 NTSC/CIF変換部 114 前処理フィルタ 115 前処理装置 116 動き補償フレーム予測部 117 DCT 118 量子化部 119 第1の可変長符号化部 120 第2の可変長符号化部 121 多重化部 123 第1のアドレスバス 124 第1のデータバス 125 第2のアドレスバス 126 第2のデータバス 127 送信バッファ 128 再送制御部 129 再送用バッファ 130 タイマー 131 フレームメモリ 132 復号部 133 復号装置

Claims (23)

    【特許請求の範囲】
  1. 【請求項1】 動画像を構成するフレームの予測符号化
    を行うとともに、予測誤差の画像データ量によって生じ
    る符号化時間のばらつき、伝送時間のばらつきおよび復
    号時間のばらつきを平滑化するために予め定める平滑化
    時間を設け、それぞれの画像サンプルから始まる前記平
    滑化時間が終了する時点で各フレームを受信側の表示装
    置に表示させる画像符号化装置において、 少なくとも1フレーム分の画像データを記憶する記憶領
    域を備え、予め定める時間間隔で入力される1フレーム
    分の画像データを、mフレーム毎(mは予め定める自然
    数)に画像サンプルして前記記憶領域に記憶する画像記
    憶手段と、 伝送済み最新フレームを記憶する伝送済み最新フレーム
    記憶手段と、 入力された各フレームの画像データを予測符号化する符
    号化手段と、 前記符号化手段によって符号化された符号化データを、
    受信側と連絡を取りながら伝送路を介して受信側に伝送
    する伝送手段と、 予め定める時間毎に、伝送中のフレームの表示の可否
    を、現時点からそのフレームの画像を表示すべき時点ま
    での残り時間とそのフレームの未送信符号量とそのフレ
    ームの復号時間とに基づいて判断する第1の判断手段
    と、 前記画像記憶手段に記憶されている各フレームについ
    て、そのフレームの表示の可否を、現時点からそのフレ
    ームの画像を表示すべき時点までの残り時間とそのフレ
    ームの伝送時間とそのフレームの復号時間とに基づいて
    判断する第2の判断手段と、 前記第1の判断手段が伝送中のフレームを表示不能と判
    断した場合、前記記憶領域に記憶されている画像データ
    を読み出して前記第2の判断手段に転送し、前記第2の
    判断手段が前記フレームを表示可能と判断した場合、前
    記フレームの画像データを前記符号化手段に出力するよ
    う前記画像記憶手段を制御するとともに、伝送済み最新
    フレームを読み出して前記符号化手段に参照フレームと
    して入力するよう前記伝送済み最新フレーム記憶手段を
    制御する制御手段とを含むことを特徴とする画像符号化
    装置。
  2. 【請求項2】 前記画像記憶手段は、 それぞれ1フレーム分の画像データを記憶する記憶領域
    を備える第1から第n(nは自然数)の画像メモリと、 入力される画像データを1フレームずつそれぞれのフレ
    ームナンバーに対応づけて前記画像メモリに順次、書き
    込む書き込み制御手段とを含み、 前記制御手段は、前記第1の判断手段が伝送中のフレー
    ムを表示不能と判断した場合、前記第1から第nの画像
    メモリに記憶されている画像データをフレームナンバー
    の小さいものから順次読み出して前記第2の判断手段に
    転送し、前記第2の判断手段が前記フレームを表示可能
    と判断した場合、前記フレームの画像データを前記第1
    から第nの画像メモリから読み出して前記符号化手段に
    出力するよう前記画像記憶手段を制御することを特徴と
    する請求項1記載の画像符号化装置。
  3. 【請求項3】 前記伝送手段は、 前記符号化手段から出力された符号化データを記憶する
    送信バッファと、 前記送信バッファに記憶された符号化データを先入れ先
    出しで伝送路に出力し、伝送路に出力した符号化データ
    について、受信側からの送達確認が取れた場合は次の符
    号化データを伝送路に出力し、送達確認が取れない場合
    は再送するよう前記送信バッファおよび伝送路を制御す
    る伝送制御手段とを含み、 前記第1の判断手段は、 伝送中のフレームの前記送信バッファ内の未送信符号量
    を検出する未送信符号量検出手段と、 前記未送信符号量検出手段によって検出された未送信符
    号量から、 (未送信符号化データの伝送時間)=(未送信符号量)
    /(予め定める伝送速度) 前記計算式に基づいて、伝送中のフレームの未送信符号
    化データの伝送時間を算出する第1の伝送時間算出手段
    と、 前記符号化手段によって符号化されたフレームの発生符
    号量を検出して記憶し、(そのフレームの復号時間)=
    (発生符号量)/(予め定める復号速度) 前記計算式に基づき、伝送中のフレームの復号時間を算
    出する第1の復号時間算出手段と、 現時点から伝送中のフレームの画像を受信側の表示装置
    に表示すべき時点までの残り時間を検出する第1の残り
    時間検出手段と、 前記復号時間と前記伝送時間との和と前記残り時間とを
    比較する第1の比較手段とを含み、 前記第2の判断手段は、 前記画像記憶手段に記憶されているフレームについて、
    前記フレームの画像データを符号化した際に発生する符
    号量を予測する符号量予測手段と、 前記符号量予測手段によって予測された符号量から、 (そのフレームの伝送時間)=(そのフレームの予測符
    号量)/(予め定める伝送速度) 前記計算式に基づいて、画像記憶手段に記憶されている
    フレームの伝送時間を算出する第2の伝送時間算出手段
    と、 前記符号量予測手段によって予測された予測符号量か
    ら、 (そのフレームの符号化時間)=(そのフレームの予測
    符号量)/(予め定める符号化速度) 前記計算式に基づき、前記画像記憶手段に記憶されてい
    るフレームの符号化時間を算出する符号化時間算出手段
    と、 前記符号量予測手段によって予測された予測符号量か
    ら、 (そのフレームの復号時間)=(そのフレームの予測符
    号量)/(予め定める復号速度) 前記計算式に基づき、前記画像記憶手段に記憶されてい
    るフレームの復号時間を算出する第2の復号時間算出手
    段と、 前記画像記憶手段に記憶されているフレームについて、
    現時点から前記フレームの画像を受信側の表示装置に表
    示すべき時点までの残り時間を検出する第2の残り時間
    検出手段と、 前記符号化時間と前記復号時間と前記伝送時間との和と
    前記残り時間とを比較する第2の比較手段とを含み、 前記第1の判断手段は、 (そのフレームの画像を表示すべき時点までの残り時
    間)>(未送信符号化データの伝送に要する時間)+
    (そのフレームの復号時間) 前記条件式で示される条件を満たすフレームを表示可能
    と判断し、 前記第2の判断手段は、 (そのフレームの画像を表示すべき時点までの残り時
    間)>(そのフレームの符号化時間)+(そのフレーム
    の伝送時間)+(そのフレームの復号時間) 上記条件式で示される条件を満たすフレームを表示可能
    と判断することを特徴とする請求項2記載の画像符号化
    装置。
  4. 【請求項4】 前記第1の残り時間検出手段および第2
    の残り時間検出手段は、 予め定める平滑化時間を出力する初期値出力部と、 予め定める経過時間ごとに信号を出力するタイマーと、 2入力1出力のセレクタであって、前記2入力のうち1
    入力に前記初期値出力部から出力される平滑化時間を入
    力し、前記制御手段からの選択信号により、前記2入力
    のうちから1入力を選択して出力する第1のセレクタ
    と、 前記タイマーからの信号を検出する毎に、前記第1のセ
    レクタの出力から前記経過時間を減算し、前記第1の比
    較手段に出力する経過時間減算部と、 n個の加算部を備え、それぞれ第k(kは1からnまで
    の自然数)の加算部は前記経過時間減算部の出力にそれ
    ぞれk×(前記経過時間)を加算する第1から第nまで
    の加算部と、 前記制御手段からの選択信号により、前記第1から第n
    までの加算部の出力のうちから1信号を選択して前記第
    2の比較手段および第1のセレクタに出力する第2のセ
    レクタとを含み、 前記制御手段は、動作開始時には、第1のセレクタに前
    記2入力のうちから前記初期値出力部の出力を選択する
    選択信号を出力し、 前記第2の判断手段が判断を開始する毎に、前記第2の
    セレクタに前記第1から第nまでの加算部の出力を順次
    選択する選択信号を出力し、 前記第2の判断手段が最初に表示可能と判断したときに
    は、前記第1のセレクタに、そのときの前記第2のセレ
    クタの出力を選択する選択信号を出力することを特徴と
    する請求項3記載の画像符号化装置。
  5. 【請求項5】 前記符号量予測手段は、 符号量予測対象フレームの中の1ブロックの画像データ
    と伝送済み最新フレームの中で前記ブロックと同一位置
    に相当するブロックの復号データとの単純な差分値を求
    めることによって、前記符号量予測対象フレームのフレ
    ーム間差分値を検出するフレーム間差分値検出部と、 前記フレーム間差分値検出部からのフレーム間差分値を
    直交変換する直交変換部と、 前記直交変換部による直交変換の結果、すべての直交変
    換係数が予め定めるしきい値に満たないブロックを無効
    ブロックと判断し、前記符号量予測対象フレームの無効
    ブロック数を検出する無効ブロック検出部と、 前記無効ブロック数検出部によって検出された無効ブロ
    ック数から、有効ブロック数を求め、 (有効ブロック数)=(総ブロック数)−(無効ブロッ
    ク数) (発生符号量)=(直前に符号化されたフレームの有効
    ブロック数に対する発生符号量)×(有効ブロック数) 前記計算式に基づき、符号量予測対象フレームを符号化
    した際に発生する符号量を算出する符号量算出部とを含
    むことを特徴とする請求項3記載の画像符号化装置。
  6. 【請求項6】 前記符号量予測手段は、 前記画像記憶手段に記憶されているフレームのうち最新
    フレームのフレームナンバーを記憶する最新フレームナ
    ンバー記憶部と、 前記第1の判断手段が伝送中のフレームの表示不能を判
    断した時点で、 前記符号化手段に前記最新フレームナンバー記憶手段に
    記憶されているフレームナンバーの画像データを伝送済
    み最新フレームを参照フレームとして符号化しその発生
    符号量を検出するよう指示し、前記発生符号量が前記第
    2の判断手段の判断対象フレームの発生符号量となるも
    のと予測する符号量予測制御部を含むことを特徴とする
    請求項3記載の画像符号化装置。
  7. 【請求項7】 動画像を構成するフレームの予測符号化
    を行うとともに、予測誤差の画像データ量によって生じ
    る符号化時間のばらつき、伝送時間のばらつきおよび復
    号時間のばらつきを平滑化するために予め定める平滑化
    時間を設け、それぞれの画像サンプルから始まる前記平
    滑化時間が終了する時点で、各フレームを受信側の表示
    装置に表示させる画像符号化装置において、 少なくとも1フレーム分の画像データを記憶する記憶容
    量を備え、予め定めるフレームを記憶する参照フレーム
    記憶手段と、 入力されたフレームの画像データを予め定めるフレーム
    間隔で画像サンプルし、画像サンプルした前記画像デー
    タを少なくとも前記参照フレーム記憶手段に記憶されて
    いる伝送済み最新フレームと現在伝送中のフレームとを
    参照フレームとして予測符号化する符号化手段と、 少なくとも1フレーム分の符号化データを記憶する記憶
    領域を備え、前記符号化手段によって符号化された符号
    化データを、予測符号化の参照フレームとされたフレー
    ムと対応付けて記憶する符号化データ記憶手段と、 前記符号化手段によって符号化された符号化データを、
    伝送路を介して受信側に伝送する伝送手段と、 予め定める時間毎に、伝送中のフレームの表示の可否
    を、現時点からそのフレームの画像を表示すべき時点ま
    での残り時間とそのフレームの伝送時間とそのフレーム
    の復号時間とに基づいて判断する第1の判断手段と、 前記符号化データ記憶手段に記憶されている各フレーム
    について、そのフレームの表示の可否を、現時点からそ
    のフレームの画像を表示すべき時点までの残り時間とそ
    のフレームの伝送時間とそのフレームの復号時間とに基
    づいて判断する第2の判断手段と、 前記第1の判断手段が伝送中のフレームを表示不能と判
    断した場合、前記記憶領域に記憶されている符号化デー
    タのうち、予め定めるフレームを参照フレームとする符
    号化データを読みだして前記第2の判断手段に転送し、
    前記第2の判断手段が前記フレームを表示可能と判断し
    た場合、前記フレームの符号化データを前記記憶領域か
    ら読み出して前記伝送手段に出力するよう前記符号化デ
    ータ記憶手段を制御する制御手段とを含むことを特徴と
    する画像符号化装置。
  8. 【請求項8】 前記符号化データ記憶手段は、 それぞれ各フレームの符号化データを記憶する記憶領域
    を備えるn(nは1以上の自然数)個の符号化データメ
    モリと、 前記符号化手段から入力される符号化データを、それぞ
    れのフレームナンバーとその符号化データの参照フレー
    ムとされたフレームのフレームナンバーとに対応づけて
    前記符号化データメモリに順次、書き込む書き込み制御
    手段とを含み、 前記制御手段は、前記第1の判断手段が伝送中のフレー
    ムを表示不能と判断した場合、前記符号化データメモリ
    に記憶されている符号化データをフレームナンバーの小
    さいものから順次読み出して前記第2の判断手段に転送
    し、前記第2の判断手段が転送されてきた前記フレーム
    を表示可能と判断した場合、表示可能と判断された前記
    フレームの符号化データのうち予め定めるフレームを参
    照フレームとする符号化データを前記n個の符号化デー
    タメモリから読み出して前記伝送手段に出力するよう前
    記符号化データ記憶手段を制御することを特徴とする請
    求項7記載の画像符号化装置。
  9. 【請求項9】 前記伝送手段は、 前記符号化手段から出力された符号化データを記憶する
    送信バッファと、 前記送信バッファに記憶された符号化データを先入れ先
    出しで伝送路に出力し、伝送路に出力した符号化データ
    について、受信側からの送達確認が取れた場合は次の符
    号化データを伝送路に出力し、送達確認が取れない場合
    は再送するよう前記送信バッファおよび伝送路を制御す
    る伝送制御手段とを含み、 前記第1の判断手段は、 伝送中のフレームの前記送信バッファ内の未送信符号量
    を検出する未送信符号量検出手段と、 前記未送信符号量検出手段によって検出された未送信符
    号量から、 (未送信符号化データの伝送時間)=(未送信符号量)
    /(予め定める伝送速度) 前記計算式に基づいて、伝送中のフレームの未送信符号
    化データの伝送時間を算出する第1の伝送時間算出手段
    と、 前記符号化手段によって符号化されたフレームの発生符
    号量を検出して記憶し、(そのフレームの復号時間)=
    (発生符号量)/(予め定める復号速度) 前記計算式に基づき、伝送中のフレームの復号時間を算
    出する第1の復号時間算出手段と、 現時点から伝送中のフレームの画像を受信側の表示装置
    に表示すべき時点までの残り時間を検出する第1の残り
    時間検出手段と、 前記復号時間と前記伝送時間との和と前記残り時間とを
    比較する第1の比較手段とを含み、 前記第2の判断手段は、 前記符号化データ記憶手段に記憶されている符号化デー
    タの符号量を検出する符号量検出手段と、 前記符号量検出手段によって検出された符号量から、 (そのフレームの伝送時間)=(そのフレームの符号
    量)/(予め定める伝送速度) 前記計算式に基づいて、符号化データ記憶手段に記憶さ
    れているフレームの伝送時間を算出する第2の伝送時間
    算出手段と、 前記符号量検出手段によって検出された符号量から、 (そのフレームの復号時間)=(そのフレームの符号
    量)/(予め定める復号速度) 前記計算式に基づき、前記符号化データ記憶手段に記憶
    されているフレームの復号時間を算出する第2の復号時
    間算出手段と、 前記符号化データ記憶手段に記憶されている符号化デー
    タについて、現時点から前記符号化データのフレームの
    画像を受信側の表示装置に表示すべき時点までの残り時
    間を検出する第2の残り時間検出手段と、 前記復号時間と前記伝送時間との和と前記残り時間とを
    比較する第2の比較手段とを含み、 前記第1の判断手段は、 (そのフレームの画像を表示すべき時点までの残り時
    間)>(未送信符号化データの伝送に要する時間)+
    (そのフレームの復号時間) 前記条件式で示される条件を満たすフレームを表示可能
    と判断し、 前記第2の判断手段は、 (そのフレームの画像を表示すべき時点までの残り時
    間)>(そのフレームの伝送時間)+(そのフレームの
    復号時間) 上記条件式で示される条件を満たすフレームを表示可能
    と判断することを特徴とする請求項8記載の画像符号化
    装置。
  10. 【請求項10】 前記第1の残り時間検出手段および前
    記第2の残り時間検出手段は、 予め定める平滑化時間を出力する初期値出力部と、 予め定める経過時間ごとに信号を出力するタイマーと、 2入力1出力のセレクタであって、前記2入力のうち1
    入力に前記初期値出力部から出力される平滑化時間を入
    力し、前記制御手段からの選択信号により、前記2入力
    のうちから1入力を選択して出力する第1のセレクタ
    と、 前記タイマーからの信号を検出する毎に、前記第1のセ
    レクタの出力から前記経過時間を減算し、前記第1の比
    較手段に出力する経過時間減算部と、 n個の加算部を備え、それぞれ第k(kは1からnまで
    の自然数)の加算部は前記経過時間減算部の出力にそれ
    ぞれk×(前記経過時間)を加算する第1から第nまで
    の加算部と、 前記制御手段からの選択信号により、前記第1から第n
    までの加算部の出力のうちから1信号を選択して前記第
    2の比較手段および第1のセレクタに出力する第2のセ
    レクタとを含み、 前記制御手段は、動作開始時には、第1のセレクタに前
    記2入力のうちから前記初期値出力部の出力を選択する
    選択信号を出力し、 前記第2の判断手段が判断を開始する毎に、前記第2の
    セレクタに前記第1から第nまでの加算部の出力を順次
    選択する選択信号を出力し、 前記第2の判断手段が最初に表示可能と判断したときに
    は、前記第1のセレクタに、そのときの前記第2のセレ
    クタの出力を選択する選択信号を出力することを特徴と
    する請求項9記載の画像符号化装置。
  11. 【請求項11】 前記第2の残り時間検出手段は、さら
    に、 前記第1から第nまでの加算部の出力から伝送中のフレ
    ームの未送信符号化データの伝送時間を減算し、前記第
    2のセレクタに出力する第1から第nの減算部を含むこ
    とを特徴とする請求項4および請求項10記載の画像符
    号化装置。
  12. 【請求項12】 前記第1の残り時間検出手段および前
    記第2の残り時間検出手段は、前記第1から第nまでの
    加算部および第2のセレクタに代えて、 伝送中のフレームが画像サンプルされた時点から、画像
    記憶手段に記憶されているフレームが画像サンプルされ
    た時点までの時間差を、画像記憶手段に記憶されている
    フレームが伝送中のフレームより先のフレームである場
    合には負の値として検出する時間差検出部と、 前記時間差検出部からの時間差を、前記経過時間減算部
    の出力に加算し前記第2の比較手段と前記第1のセレク
    タとに出力する時間差加算部とを含むことを特徴とする
    請求項4および請求項10記載の画像符号化装置。
  13. 【請求項13】 符号化データ記憶手段は、 1つの符号化データを記憶する記憶領域を備える符号化
    データメモリと、 前記符号化制御手段から入力される符号化データのう
    ち、伝送中のフレームより後に画像サンプルされた予め
    定めるフレームであって、伝送済み最新フレームを参照
    フレームとする符号化データを、それぞれのフレームナ
    ンバーとその符号化データの参照フレームとされたフレ
    ームのフレームナンバーとに対応づけて前記符号化デー
    タメモリに書き込む書き込み制御手段とを含み、 前記制御手段は、前記第1の判断手段が伝送中のフレー
    ムを表示不能と判断した場合、前記符号化データメモリ
    に記憶されている符号化データを読み出して前記第2の
    判断手段に転送し、前記第2の判断手段が前記フレーム
    を表示可能と判断した場合、前記フレームの符号化デー
    タを前記符号化データメモリから読み出して前記伝送手
    段に出力するよう前記符号化データ記憶手段を制御する
    ことを特徴とする請求項7記載の画像符号化装置。
  14. 【請求項14】 動画像を構成するフレームの予測符号
    化を行うとともに、予測誤差の画像データ量によって生
    じる符号化時間のばらつき、伝送時間のばらつきおよび
    復号時間のばらつきを平滑化するために予め定める平滑
    化時間を設け、それぞれの画像サンプルから始まる前記
    平滑化時間が終了する時点で、各フレームを受信側の表
    示装置に表示させる画像符号化装置において、 フレーム順に入力される各フレームを予測符号化する符
    号化手段と、 伝送すべき符号化データを記憶する送信バッファを備
    え、前記符号化手段によって符号化された符号化データ
    を送信バッファに蓄えるとともに、前記送信バッファか
    ら前記符号化データをフレーム順にとりだし、伝送路を
    介して受信側に伝送する伝送手段と、 伝送中のフレームが画像サンプルから平滑化時間後に受
    信側の表示装置に表示可能か否かを判断する第1の判断
    手段と、 前記第1の判断手段が伝送中のフレームを表示不能と判
    断するまでは前記符号化手段が符号化した符号化データ
    について符号化処理と逆の処理を行って入力時のフレー
    ムの画像データを復号データで近似的に再現し、前記第
    1の判断手段が伝送中のフレームを表示不能と判断した
    場合、その時点で送信バッファに残っている全てのフレ
    ームの未送信符号化データについて前述と同様に再現す
    る画像データ再現手段と、 少なくとも4フレーム分の再現された画像データを記憶
    する記憶領域を備え、前記画像データ再現手段によって
    再現されたフレームのうち送達確認がとれた最新のフレ
    ームの再現画像と前記送信バッファ内に最も新しく格納
    されたフレームの再現画像とをそれぞれ予め定める記憶
    領域に格納する再現画像記憶手段と、 前記送信バッファに残っているすべてのフレームについ
    て、画像サンプルから平滑化時間後に受信側の表示装置
    に表示可能か否かを判断する第2の判断手段と、 前記画像データ再現手段で再現した画像データであって
    前記第2の判断手段が表示可能と判断したフレームのう
    ち最初のフレームについて送達確認がとれた最新のフレ
    ームを参照フレームとして符号化し、それに続くフレー
    ムについては新たな入力フレームと同様に直前に符号化
    したフレームを参照フレームとして符号化し、前記伝送
    手段に転送するよう前記符号化手段を制御する制御手段
    とを含むことを特徴とする画像符号化装置。
  15. 【請求項15】 前記第1の判断手段は、 伝送中のフレームの前記送信バッファ内の未送信符号量
    を検出する未送信符号量検出手段と、 前記未送信符号量検出手段によって検出された未送信符
    号量から、 (未送信符号化データの伝送時間)=(未送信符号量)
    /(予め定める伝送速度) 前記計算式に基づいて、伝送中のフレームの未送信符号
    化データの伝送時間を算出する第1の伝送時間算出手段
    と、 前記符号化手段によって符号化されたフレームの発生符
    号量を検出して記憶し、(そのフレームの復号時間)=
    (発生符号量)/(予め定める復号速度) 前記計算式に基づき、伝送中のフレームの復号時間を算
    出する第1の復号時間算出手段と、 現時点から伝送中のフレームの画像を受信側の表示装置
    に表示すべき時点までの残り時間を検出する第1の残り
    時間検出手段と、 前記復号時間と前記伝送時間との和と前記残り時間とを
    比較する第1の比較手段とを含み、 前記第2の判断手段は、 前記再現画像記憶手段に記憶されているフレームについ
    て、前記フレームの再現画像データを符号化した際に発
    生する符号量を予測する符号量予測手段と、 前記符号量予測手段によって予測された符号量から、 (そのフレームの伝送時間)=(そのフレームの予測符
    号量)/(予め定める伝送速度) 前記計算式に基づいて、再現画像記憶手段に記憶されて
    いるフレームの伝送時間を算出する第2の伝送時間算出
    手段と、 前記符号量予測手段によって予測された予測符号量か
    ら、 (そのフレームの符号化時間)=(そのフレームの予測
    符号量)/(予め定める符号化速度) 前記計算式に基づき、前記再現画像記憶手段に記憶され
    ているフレームの符号化時間を算出する符号化時間算出
    手段と、 前記符号量予測手段によって予測された予測符号量か
    ら、 (そのフレームの復号時間)=(そのフレームの予測符
    号量)/(予め定める復号速度) 前記計算式に基づき、前記再現画像記憶手段に記憶され
    ているフレームの復号時間を算出する第2の復号時間算
    出手段と、 前記再現画像記憶手段に記憶されているフレームについ
    て、現時点から前記フレームの画像を受信側の表示装置
    に表示すべき時点までの残り時間を検出する第2の残り
    時間検出手段と、 前記符号化時間と前記復号時間と前記伝送時間との和と
    前記残り時間とを比較する第2の比較手段とを含み、 前記第1の判断手段は、 (そのフレームの画像を表示すべき時点までの残り時
    間)>(未送信符号化データの伝送に要する時間)+
    (そのフレームの復号時間) 前記条件式で示される条件を満たすフレームを表示可能
    と判断し、 前記第2の判断手段は、 (そのフレームの画像を表示すべき時点までの残り時
    間)>(そのフレームの符号化時間)+(そのフレーム
    の伝送に要する時間)+(そのフレームの復号時間) 上記条件式で示される条件を満たすフレームを表示可能
    と判断することを特徴とする請求項14記載の画像符号
    化装置。
  16. 【請求項16】 前記符号量予測手段は、 符号量予測対象フレームの中の1ブロックの画像データ
    と伝送済み最新フレームの中で前記ブロックと同一位置
    に相当するブロックの復号データとの単純な差分値を求
    めることによって、前記符号量予測対象フレームのフレ
    ーム間差分値を検出するフレーム間差分値検出部と、 前記フレーム間差分値検出部からのフレーム間差分値を
    直交変換する直交変換部と、 前記直交変換部による直交変換の結果、すべての直交変
    換係数が予め定めるしきい値に満たないブロックを無効
    ブロックと判断し、前記符号量予測対象フレームの無効
    ブロック数を検出する無効ブロック検出部と、 前記無効ブロック数検出部によって検出された無効ブロ
    ック数から、有効ブロック数を求め、 (有効ブロック数)=(総ブロック数)−(無効ブロッ
    ク数) (発生符号量)=(直前に符号化されたフレームの有効
    ブロック数に対する発生符号量)×(有効ブロック数) 前記計算式に基づき、符号量予測対象フレームを符号化
    した際に発生する符号量を算出する符号量算出部とを含
    むことを特徴とする請求項15記載の画像符号化装置。
  17. 【請求項17】 前記符号量予測手段は、 前記第1の判断手段が伝送中のフレームの表示不能を判
    断した時点で、前記符号化手段に、その直前に符号化さ
    れたフレームであって復号されたものを符号化対象フレ
    ームとして伝送済み最新フレームを参照フレームとして
    符号化しその発生符号量を検出するよう指示し、前記発
    生符号量が前記第2の判断手段の判断対象フレームの発
    生符号量となるものと予測する符号量予測制御部を含む
    ことを特徴とする請求項15記載の画像符号化装置。
  18. 【請求項18】 少なくとも1フレーム分の画像データ
    を記憶する記憶領域を備える画像記憶手段と、 伝送エラー中に入力されるフレームを、前記画像記憶手
    段に記憶させ、前記再現画像記憶手段に記憶されている
    再現画像データのうちの最後のフレームが符号化手段へ
    転送された後、前記画像記憶手段に記憶されている各フ
    レームの画像データを読み出し符号化手段へ転送するメ
    モリ制御手段とを含むことを特徴とする請求項14記載
    の画像符号化装置。
  19. 【請求項19】 前記第1の判断手段は、 伝送中のフレームの前記送信バッファ内の未送信符号量
    を検出する未送信符号量検出手段と、 前記未送信符号量検出手段によって検出された未送信符
    号量から、 (未送信符号化データの伝送時間)=(未送信符号量)
    /(予め定める伝送速度) 前記計算式に基づいて、伝送中のフレームの未送信符号
    化データの伝送時間を算出する第1の伝送時間算出手段
    と、 前記符号化手段によって符号化されたフレームの発生符
    号量を検出して記憶し、(そのフレームの復号時間)=
    (発生符号量)/(予め定める復号速度) 前記計算式に基づき、伝送中のフレームの復号時間を算
    出する第1の復号時間算出手段と、 現時点から伝送中のフレームの画像を受信側の表示装置
    に表示すべき時点までの残り時間を検出する第1の残り
    時間検出手段と、 前記復号時間と前記伝送時間との和と前記残り時間とを
    比較する第1の比較手段とを含み、 第2の判断手段は、 前記再現画像記憶手段および前記画像記憶手段に記憶さ
    れているフレームについて、前記フレームの再現画像デ
    ータおよび画像データを符号化した際に発生する符号量
    を予測する符号量予測手段と、 前記符号量予測手段によって予測された符号量から、 (そのフレームの伝送時間)=(そのフレームの予測符
    号量)/(予め定める伝送速度) 前記計算式に基づいて、前記再現画像記憶手段および前
    記画像記憶手段に記憶されているフレームの伝送時間を
    算出する第2の伝送時間算出手段と、 前記符号量予測手段によって予測された予測符号量か
    ら、 (そのフレームの符号化時間)=(そのフレームの予測
    符号量)/(予め定める符号化速度)前記計算式に基づ
    き、前記再現画像記憶手段および前記画像記憶手段に記
    憶されているフレームの符号化時間を算出する符号化時
    間算出手段と、 前記符号量予測手段によって予測された予測符号量か
    ら、 (そのフレームの復号時間)=(そのフレームの予測符
    号量)/(予め定める復号速度) 前記計算式に基づき、前記再現画像記憶手段および前記
    画像記憶手段に記憶されているフレームの復号時間を算
    出する第2の復号時間算出手段と、 前記再現画像記憶手段および前記画像記憶手段に記憶さ
    れているフレームについて、現時点から前記フレームの
    画像を受信側の表示装置に表示すべき時点までの残り時
    間を検出する第2の残り時間検出手段と、 前記符号化時間と前記復号時間と前記伝送時間との和と
    前記残り時間とを比較する第2の比較手段とを含み、 前記第1の判断手段は、 (そのフレームの画像を表示すべき時点までの残り時
    間)>(未送信符号化データの伝送に要する時間)+
    (そのフレームの復号時間) 前記条件式で示される条件を満たすフレームを表示可能
    と判断し、 前記第2の判断手段は、 (そのフレームの画像を表示すべき時点までの残り時
    間)>(そのフレームの符号化時間)+(そのフレーム
    の伝送に要する時間)+(そのフレームの復号時間) 上記条件式で示される条件を満たすフレームを表示可能
    と判断することを特徴とする請求項18記載の画像符号
    化装置。
  20. 【請求項20】 前記第1の残り時間検出手段および前
    記第2の残り時間検出手段は、 予め定める平滑化時間を出力する初期値出力部と、 予め定める経過時間ごとに信号を出力するタイマーと、 2入力1出力のセレクタであって、前記2入力のうち1
    入力に前記初期値出力部から出力される平滑化時間を入
    力し、前記制御手段からの選択信号により、前記2入力
    のうちから1入力を選択して出力する第1のセレクタ
    と、 前記タイマーからの信号を検出する毎に、前記第1のセ
    レクタの出力から前記経過時間を減算し、前記第1の比
    較手段に出力する経過時間減算部と、 n個の加算部を備え、それぞれ第k(kは1からnまで
    の自然数)の加算部は前記経過時間減算部の出力にそれ
    ぞれk×(前記経過時間)を加算する第1から第nまで
    の加算部と、 前記制御手段からの選択信号により、前記第1から第n
    までの加算部の出力のうちから1信号を選択して前記第
    2の比較手段および第1のセレクタに出力する第2のセ
    レクタとを含み、 前記制御手段は、動作開始時には、第1のセレクタに前
    記2入力のうちから前記初期値出力部の出力を選択する
    選択信号を出力し、 前記第2の判断手段が判断を開始する毎に、前記第2の
    セレクタに前記第1から第nまでの加算部の出力を順次
    選択する選択信号を出力し、 前記第2の判断手段が最初に表示可能と判断したときに
    は、前記第1のセレクタに、そのときの前記第2のセレ
    クタの出力を選択する選択信号を出力することを特徴と
    する請求項15および請求項19記載の画像符号化装
    置。
  21. 【請求項21】 前記第2の残り時間検出手段は、さら
    に、 前記第1から第nまでの加算部の出力から伝送中のフレ
    ームの未送信符号化データの伝送時間を減算し、前記第
    2のセレクタに出力する第1から第nの減算部を含むこ
    とを特徴とする請求項20記載の画像符号化装置。
  22. 【請求項22】 前記符号量予測手段は、 符号量予測対象フレームの中の1ブロックの画像データ
    と伝送済み最新フレームの中で前記ブロックと同一位置
    に相当するブロックの復号データとの単純な差分値を求
    めることによって、前記符号量予測対象フレームのフレ
    ーム間差分値を検出するフレーム間差分値検出部と、 前記フレーム間差分値検出部からのフレーム間差分値を
    直交変換する直交変換部と、 前記直交変換部による直交変換の結果、すべての直交変
    換係数が予め定めるしきい値に満たないブロックを無効
    ブロックと判断し、前記符号量予測対象フレームの無効
    ブロック数を検出する無効ブロック検出部と、 前記無効ブロック数検出部によって検出された無効ブロ
    ック数から、有効ブロック数を求め、 (有効ブロック数)=(総ブロック数)−(無効ブロッ
    ク数) (発生符号量)=(直前に符号化されたフレームの有効
    ブロック数に対する発生符号量)×(有効ブロック数) 前記計算式に基づき、符号量予測対象フレームを符号化
    した際に発生する符号量を算出する符号量算出部とを含
    むことを特徴とする請求項19記載の画像符号化装置。
  23. 【請求項23】 前記符号量予測手段は、 前記画像記憶手段および再現画像記憶手段に記憶されて
    いるフレームのうち最新フレームのフレームナンバーを
    記憶する最新フレームナンバー記憶部と、 前記第1の判断手段が伝送中のフレームの表示不能を判
    断した時点で、前記符号化手段に前記最新フレームナン
    バー記憶手段に記憶されているフレームナンバーの画像
    データと再現画像データとを伝送済み最新フレームを参
    照フレームとして符号化しその発生符号量を検出するよ
    う指示し、前記発生符号量が前記第2の判断手段の判断
    対象フレームの発生符号量となるものと予測する符号量
    予測制御部を含むことを特徴とする請求項19記載の画
    像符号化装置。
JP6177261A 1993-07-30 1994-07-28 画像符号化装置 Pending JPH0795584A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP6177261A JPH0795584A (ja) 1993-07-30 1994-07-28 画像符号化装置
US08/283,241 US5479212A (en) 1993-07-30 1994-07-29 Picture data coding apparatus
EP94305705A EP0637175A3 (en) 1993-07-30 1994-08-01 Image data coding apparatus.

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP5-189986 1993-07-30
JP18998693 1993-07-30
JP6177261A JPH0795584A (ja) 1993-07-30 1994-07-28 画像符号化装置

Publications (1)

Publication Number Publication Date
JPH0795584A true JPH0795584A (ja) 1995-04-07

Family

ID=26497869

Family Applications (1)

Application Number Title Priority Date Filing Date
JP6177261A Pending JPH0795584A (ja) 1993-07-30 1994-07-28 画像符号化装置

Country Status (3)

Country Link
US (1) US5479212A (ja)
EP (1) EP0637175A3 (ja)
JP (1) JPH0795584A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002335530A (ja) * 2001-05-10 2002-11-22 Sony Corp 動画像符号化装置、動画像符号化方法、動画像符号化プログラム格納媒体及び動画像符号化プログラム
KR100538023B1 (ko) * 1996-12-27 2006-03-27 오끼 덴끼 고오교 가부시끼가이샤 화상 부호화장치
KR100670220B1 (ko) * 1997-06-16 2007-07-06 오끼 덴끼 고오교 가부시끼가이샤 부호화장치,복호화장치및전송시스템

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5715009A (en) 1994-03-29 1998-02-03 Sony Corporation Picture signal transmitting method and apparatus
US5550847A (en) * 1994-10-11 1996-08-27 Motorola, Inc. Device and method of signal loss recovery for realtime and/or interactive communications
EP0710033A3 (en) * 1994-10-28 1999-06-09 Matsushita Electric Industrial Co., Ltd. MPEG video decoder having a high bandwidth memory
US5623311A (en) * 1994-10-28 1997-04-22 Matsushita Electric Corporation Of America MPEG video decoder having a high bandwidth memory
US5920352A (en) * 1994-10-28 1999-07-06 Matsushita Electric Industrial Co., Ltd. Image memory storage system and method for a block oriented image processing system
DE69619002T2 (de) * 1995-03-10 2002-11-21 Toshiba Kawasaki Kk Bildkodierungs-/-dekodierungsvorrichtung
US5943096A (en) * 1995-03-24 1999-08-24 National Semiconductor Corporation Motion vector based frame insertion process for increasing the frame rate of moving images
US5671156A (en) * 1995-03-31 1997-09-23 Lucent Technologies Inc. Transmission method and system for JPEG images
JP3068002B2 (ja) 1995-09-18 2000-07-24 沖電気工業株式会社 画像符号化装置、画像復号化装置及び画像伝送システム
JP2942497B2 (ja) * 1996-03-22 1999-08-30 ローム株式会社 画像データ復号表示方法および装置
DE19618351A1 (de) * 1996-05-08 1997-11-13 Thomson Brandt Gmbh Verfahren und Schaltungsanordnung zum speicheroptimierten Verarbeiten eines FBAS-Signals
GB2318244B (en) * 1996-10-09 2000-09-27 Sony Uk Ltd Motion predicted image signal compression
JPH10234033A (ja) * 1997-02-21 1998-09-02 Matsushita Electric Ind Co Ltd 動画像信号の復号方法および動画像信号の復号装置
KR100243865B1 (ko) * 1997-09-30 2000-02-01 전주범 움직임 벡터 부호화 방법 및 그 장치
CA2265089C (en) * 1998-03-10 2007-07-10 Sony Corporation Transcoding system using encoding history information
KR100571687B1 (ko) * 1999-02-09 2006-04-18 소니 가부시끼 가이샤 코딩 시스템 및 방법, 부호화 장치 및 방법, 복호화 장치및 방법, 기록 장치 및 방법, 및 재생 장치 및 방법
JP2001078188A (ja) * 1999-09-01 2001-03-23 Casio Comput Co Ltd 画像圧縮符号化装置、及び記憶媒体
US7849491B2 (en) * 2002-12-10 2010-12-07 Onlive, Inc. Apparatus and method for wireless video gaming
JP4196726B2 (ja) * 2003-05-14 2008-12-17 ソニー株式会社 画像処理装置および画像処理方法、記録媒体、並びに、プログラム
CN113516724B (zh) * 2021-07-13 2023-10-27 东软医疗系统股份有限公司 一种图像数据的传输方法及装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3856461T2 (de) * 1987-04-28 2001-10-31 Mitsubishi Electric Corp System zur Bildcodierung und -decodierung
JP2892358B2 (ja) * 1988-10-07 1999-05-17 日本電信電話株式会社 遅延形情報転送方式
JP2787599B2 (ja) * 1989-11-06 1998-08-20 富士通株式会社 画像信号符号化制御方式
US5260783A (en) * 1991-02-21 1993-11-09 Gte Laboratories Incorporated Layered DCT video coder for packet switched ATM networks
JPH05137131A (ja) * 1991-11-13 1993-06-01 Sony Corp フレーム間動き予測方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100538023B1 (ko) * 1996-12-27 2006-03-27 오끼 덴끼 고오교 가부시끼가이샤 화상 부호화장치
KR100670220B1 (ko) * 1997-06-16 2007-07-06 오끼 덴끼 고오교 가부시끼가이샤 부호화장치,복호화장치및전송시스템
JP2002335530A (ja) * 2001-05-10 2002-11-22 Sony Corp 動画像符号化装置、動画像符号化方法、動画像符号化プログラム格納媒体及び動画像符号化プログラム

Also Published As

Publication number Publication date
EP0637175A3 (en) 1996-02-28
US5479212A (en) 1995-12-26
EP0637175A2 (en) 1995-02-01

Similar Documents

Publication Publication Date Title
JPH0795584A (ja) 画像符号化装置
JP4603695B2 (ja) 映像コーディング
JP3365771B2 (ja) ビデオ信号圧縮装置
KR100945546B1 (ko) 동적 필터 부호화
US6744924B1 (en) Error concealment in a video signal
US20070291131A1 (en) Apparatus and Method for Controlling Image Coding Mode
JPH0686262A (ja) 画像符号化装置
KR19980080602A (ko) 동화상 신호의 부호화 방법 및 장치와, 동화상 신호의 복호화방법 및 장치
KR20060027779A (ko) 영상 블록의 시간상 및 공간상 상관관계를 이용한영상신호의 엔코딩 및 디코딩 방법과 장치
JP3651706B2 (ja) 動画像符号化装置
US6526100B1 (en) Method for transmitting video images, a data transmission system and a multimedia terminal
EP1301038A1 (en) Multimedia communication terminal
KR20050085730A (ko) 탄력 저장
JP3194317B2 (ja) 画像信号用可変レート符号化装置
US20020097797A1 (en) Method and apparatus for decoding picture signal at variable picture rate
JPH06350995A (ja) 動画像処理方法
JP4240200B2 (ja) 動画像符号化装置および動画像符号化方法
JP3483806B2 (ja) 動画像信号の符号化装置及び符号化方法
JP3432886B2 (ja) 階層符号化/復号化装置及び方法及び送受信方式
JPH07193821A (ja) 動画像符号化装置および方法
JPH08154250A (ja) 動画像符号化装置
JPH04326690A (ja) 動画像符号化復号化装置
JPH0884329A (ja) 画像通信端末装置
KR100213283B1 (ko) 동영상 부호화기
KR100397133B1 (ko) 영상 데이터 압축 전송 시스템 및 그 방법