JP3157123B2 - 画像通信システム及び方法 - Google Patents

画像通信システム及び方法

Info

Publication number
JP3157123B2
JP3157123B2 JP17984797A JP17984797A JP3157123B2 JP 3157123 B2 JP3157123 B2 JP 3157123B2 JP 17984797 A JP17984797 A JP 17984797A JP 17984797 A JP17984797 A JP 17984797A JP 3157123 B2 JP3157123 B2 JP 3157123B2
Authority
JP
Japan
Prior art keywords
image
unit
encoding
memory
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP17984797A
Other languages
English (en)
Other versions
JPH1093979A (ja
Inventor
靖浩 富田
司 木村
忠嗣 市川
英明 木全
良太 鈴木
▲高▼明 秋本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP17984797A priority Critical patent/JP3157123B2/ja
Publication of JPH1093979A publication Critical patent/JPH1093979A/ja
Application granted granted Critical
Publication of JP3157123B2 publication Critical patent/JP3157123B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、無線伝送路やLA
N等の、伝送誤りが顕著に生じる可能性のある伝送路を
用いて画像を伝送する画像通信システム及び方法に関す
るものである。
【0002】
【従来の技術】MPEG等に代表される汎用的な画像符
号化方式では、動画像の情報量を圧縮する手法として、
フレーム間の差分をとる方法が一般的である。このフレ
ーム間予測方式(以後、フレーム間符号化と呼ぶ)で
は、前のフレームから現在のフレームを予測し、その予
測差分を伝送する。しかし、1つのフレームに伝送路で
エラーが重畳してデータが誤ると、受信側で誤ったデー
タを使ってフレームを作るので、誤りを含むフレームが
できてしまう。更に、その誤りを含むフレームを基に次
のフレームが予測されるので、それ以降のフレームにエ
ラーが伝播するという問題がある。
【0003】画像データにエラーが重畳するという状況
は、CD−ROM等の蓄積媒体からの読みとりエラーが
ある場合、あるいは、通信路を介するケースでは伝送誤
りが存在する場合に生じる。特に無線伝送路を介する場
合は伝送誤りが顕著に大きい。そのような誤りのある伝
送路上での画像通信方法の第一の従来例として、受信側
で誤りを検出した場合、それを画像送信側に通知し、画
像送信側ではそれを受けてフレーム間予測を用いないで
符号化するフレーム内符号化(一般には、INTRA符
号化とも呼ぶ)方法を説明する。
【0004】図18に、動き補償と離散コサイン変換
(DCT)を組み合わせた一般的な画像符号化方式と、
上記第一の従来例を組み合わせた場合の構成例を示す。
入力画像は101の差分部で参照画像との差分がとら
れ、102のDCT部でDCTが行われる。処理結果の
DCT係数は103の量子化器(Q)で量子化され、1
09のバッファ(buff.)に一時蓄積される。蓄積
されたデータは110の誤り制御部(error co
nt.)からの制御により読み出され、伝送路120を
介して送信される。量子化器103で量子化された信号
は、104の逆量子化器(Q-1)で逆量子化された後、
105の逆DCT部(IDCT)で逆DCTが行われ、
更に、差分部101で差し引かれた信号と同じ参照画像
信号が106の加算部で加算され、107のフレームメ
モリ(FM)に蓄積される。108のフレーム差分制御
部では、フレームメモリ107に蓄積されている1フレ
ーム前の符号化画像を読み出し、参照画像信号として1
01の差分部に送る。誤り制御部110では、受信側か
ら誤りの検出を通知されたら、フレーム差分制御部10
8を介しての差分部101への参照画像信号の入力を取
りやめ、フレーム内符号化方式に切り替える。
【0005】伝送路120を介して送信された情報は、
画像受信側の111の誤り検出部(error det
ector)において受信誤りが無いか判定され、受信
誤りが無い場合には、112の逆量子化部(Q-1)で逆
量子化される。その後、113の逆DCT部(IDC
T)で逆DCTが行われ、114の加算部において11
5のフレームメモリ(FM)に蓄積されている1フレー
ム前の受信画像を参照画像信号として加算され、モニタ
等へ出力されると共に、フレームメモリ115に蓄積さ
れる。誤り検出部111で受信誤りが検出された場合
は、画像送信側に誤りの検出を通知する。
【0006】誤りのある伝送路上での画像通信方法の第
二の従来例として、符号化時にフレーム間差分をとると
きの参照画像を変更することにより、エラーの伝播を防
止する方法を説明する。すなわち、その方法とは、復号
化側で受信したフレームに誤りが検出された場合、エラ
ーが検出されたことと、そのフレーム番号または正しく
受信・復号化された最新のフレーム番号を符号化側に通
知し、次に符号化する時のフレームの参照画像を、誤り
が検出されたフレームではなく、最後に正しく受信され
たフレームとするように変更するものである。
【0007】図19に、動き補償と離散コサイン変換
(DCT)を組み合わせた一般的な画像符号化方式と、
上記第二の従来例を組み合わせた場合の例を示す。な
お、図19中の201〜215、220の各要素は、図
18中の101〜115、120の各要素に対応してい
る。第一の従来例との違いは、符号207および215
で示すように、フレームメモリが複数あること、216
および218のフレームメモリ書き込み部が存在するこ
と、217および219のフレームメモリ選択部が存在
することである。
【0008】まず、画像送信側の構成と動作を説明す
る。入力画像は201の差分部で参照画像との差分がと
られ、202のDCT部でDCTが行われる。処理結果
のDCT係数は203の量子化器で量子化され、209
のバッファに一時蓄積される。蓄積されたデータは21
0の誤り制御部からの制御により読み出され、伝送路2
20を介して送信される。このとき誤り制御部210
は、符号化したフレーム番号と参照画像として使用した
フレームの番号も送信する。量子化器203で量子化さ
れた信号は、204の逆量子化器で逆量子化された後、
205の逆DCT部で逆DCTが行われる。そして、2
06の加算部において、逆DCTが施された信号に、差
分部201で差し引かれた信号と同じ参照画像信号が加
算され、加算後の信号が216のフレームメモリ書き込
み部に送られる。
【0009】フレームメモリ書き込み部216は、送信
されてきたデータ(フレーム)を、図19中のFM1→
FM2→…→FMn→FM1→…の順に207のフレー
ムメモリに蓄積すると共に、どのフレームメモリに何番
目のフレームを書き込んだかをフレームメモリ選択部2
17に通知する。フレームメモリ選択部217は、フレ
ームメモリ書き込み部216から通知されたフレームメ
モリとフレーム番号との対応関係を記憶しておくと共
に、誤り制御部210からの信号により、FM1からF
Mnまでのフレームメモリ207から1つを選択し、そ
こに蓄積されたフレームを読み出し、208のフレーム
差分制御部に送る。フレーム差分制御部208は、読み
出したフレームメモリの内容を参照画像信号として差分
部201に送る。
【0010】誤り制御部210では、伝送路220を介
して画像受信側の誤り検出部211から誤りの検出およ
び誤りがあったフレーム番号を通知された場合、画像受
信側でエラーが検出されたフレーム番号をフレームメモ
リ選択部217に通知する。フレームメモリ選択部21
7は、通知されたフレーム番号より前で最も新しい番号
のフレームをフレームメモリ207から読み出し、フレ
ーム差分制御部208に送る。また、読み出したフレー
ム番号を画像送信側の誤り制御部210に通知する。誤
り制御部210は、通知されたフレーム番号を参照画像
のフレーム番号として、符号化中のフレーム番号と共に
画像受信側に通知する。
【0011】また、フレームメモリ選択部217におい
て、誤り制御部210から通知されたフレーム番号より
前の番号のフレームがフレームメモリ207に存在しな
い場合は、フレーム差分制御部208での差分部201
への参照画像信号の入力を取りやめ、フレーム内符号化
に切り替える。また、誤り制御部210は、受信側の誤
り検出部211から繰り返し通知される、誤りがあった
フレーム番号を示す信号(画像受信側で参照画像を変更
して符号化した画像が受信されるまで、繰り返し送信さ
れる信号)については、これを無視する。
【0012】次に、画像受信側の構成と動作を説明す
る。伝送路220を介して送信された情報(データ)
は、211の誤り検出部において受信誤りが無いか判定
され、受信誤りが無い場合には、212の逆量子化部で
逆量子化された後、213の逆DCT部で逆DCTが行
われる。また、誤り検出部211は、誤り制御部210
から通知される現在の符号化画像が参照画像信号として
使用したフレーム番号をフレームメモリ選択部219に
通知し、そのフレーム番号のフレームをフレームメモリ
215から読み出し、214の加算部に送る。214の
加算部では送られた参照画像信号を受信信号と加算し、
モニタ等へ出力すると共に、218のフレームメモリ書
き込み部に送る。
【0013】フレームメモリ書き込み部218は、画像
送信側のフレームメモリ書き込み部216と全く同じ動
作、すなわち送られてきたデータ(フレーム)をFM1
→FM2→…→FMn→FM1→…の順にフレームメモ
リ215に蓄積すると共に、どのフレームメモリに何番
目のフレームを書き込んだかを219のフレームメモリ
選択部に通知する。219のフレームメモリ選択部は、
フレームメモリ書き込み部218から通知されたフレー
ムメモリとフレーム番号との対応関係を記憶しておくと
共に、誤り検出部211からの信号により、FM1から
FMnのフレームメモリから1つを選択して蓄積された
フレームを読み出し、214の加算部に送る。
【0014】誤り検出部211では、受信誤りが検出さ
れた場合は、画像送信側へ、誤りが検出されたことと、
誤りが検出されたフレーム番号または正しく受信・復号
化された最新のフレーム番号を通知する。また、誤り検
出部211は、誤りが検出されたフレーム番号を記憶し
ておき、そのフレーム番号より前の番号に対応するデー
タを参照画像として符号化した画像データか、あるいは
フレーム内符号化した画像データを受信するまで、記憶
したフレーム番号をフレームメモリ選択部219に通知
し続ける。
【0015】図20は、第二の従来例の動作例を説明す
るための図であり、特に207および215のフレーム
メモリの数が4の時の動作例を時系列に示した図であ
る。同図において、301は画像送信側で符号化を行っ
ているフレームの番号を示しており、303は、1つの
フレームの符号化が終了し、次のフレームの符号化が開
始される時点でのフレームメモリ(FM1〜FM4)2
07の内容を、フレーム番号で示している。また、30
2は画像受信側で復号化を行っているフレーム番号を示
しており、304は、1つのフレームの復号化が終了
し、次のフレームの復号化が開始される時点でのフレー
ムメモリ215の内容を、同様にフレーム番号で示して
いる。また、符号化側の処理フレーム番号301と復号
化側の処理フレーム番号302とがずれているのは、伝
送に要する時間があるからである。また、図中の画像デ
ータを示す矢印(実線)に付した数字については、例え
ば「9/8」は、フレーム番号8のフレームを参照画像
としてフレーム番号9の符号化を行った(画像)データ
を表している。実際には、画像データはデータ量が大き
く送信側から受信側へ連続的に流れているが、図を見や
すくするため、画像データの最後の部分のみを矢印(実
線)で表している。
【0016】図20に示す本動作例では、フレーム番号
10のデータにエラーが生じた場合を示している。誤り
検出部211は、誤りを検出すると誤りが検出されたフ
レーム番号を含むNack信号(図中305参照)を送
出する。また、誤り検出部211は、エラーが生じたフ
レーム番号である10を記憶しておく。このNack信
号(10N)は、画像送信側がフレーム番号12を処理
している途中に誤り制御部210に受信され、誤り制御
部210はフレームメモリ選択部217に対し、誤りが
検出されたフレーム番号10より前で最も新しい番号で
ある9を選択し、それに対応するフレームを参照画像と
して、次のフレーム番号13のフレームが符号化される
ように制御する。同時に、参照画像としてフレーム9を
使用したことを画像受信側に通知する(図中306参
照)。この信号を受信した誤り検出部211は、フレー
ムメモリ選択部219に対し、フレーム番号9を参照画
像として選択して読み出すように指示する。また誤り検
出部211は、フレーム番号11、12の画像データに
対して、たとえそれ自体に誤りが含まれていなくても、
参照画像が10より大きい番号のフレームなので、フレ
ーム番号10を含むNack信号(10N)を送出し続
ける。
【0017】本動作例の場合では、エラーが生じた10
番目のフレーム、およびそれを参照画像として使ってい
る11番目のフレーム、11番目のフレームを参照画像
として使っている12番目のフレームにはエラーが伝播
するが、参照画像を変更した13番目のフレームにはエ
ラーは伝播しない。このように、第二の従来例において
は、エラーが生じてもフレーム内符号化に切り替えずに
エラーの伝播をくい止めることができるという利点があ
る。
【0018】
【発明が解決しようとする課題】上記の第一の従来例で
は、フレーム内符号化を行うことにより、誤りがない場
合に比べて1フレームの伝送に必要なデータ量が著しく
増大し、その結果としての伝送フレーム数の減少、ま
た、量子化ステップ数を荒くすることによる復号画像品
質の劣化を招くという問題があった。加えて、データ量
が多いために、フレーム内符号化データが再びエラーを
含む確率が大きくなり、繰り返しフレーム内符号化を行
わなければならないという悪循環に陥るという問題点も
あった。
【0019】また、上記の第二の従来例では、画像受信
側が画像送信側に送るNack信号が何らかの原因で画
像送信側に届くのが遅れた場合、画像送信側が参照画像
を変更するまでに時間がかかり、変更しようとする時に
は既にフレームメモリ内には適当な参照画像が存在しな
いと言う事態が生じる。そのような状況は、Nack信
号が途中でエラーを含んで画像送信側で認識できない場
合、伝送に要する時間が長い場合、伝送に要する時間に
揺らぎがある場合、さらに、符号化後のデータ量が一定
でない場合に生じる。このような時には、第二の従来例
においてもフレーム内符号化を行うことでしかエラーの
伝播を食い止めることができなくなり、第一の従来例と
同様の問題が生じていた。
【0020】図21は、図20に示したケースと同じ条
件において、画像受信側から画像送信側への信号にエラ
ーが生じて画像送信側で認識できなかった場合の動作例
を示した図である。本動作例において、401は画像送
信側で符号化を行っているフレームの番号を示してお
り、403は、1つのフレームの符号化が終了し、次の
フレームの符号化が開始される時点でのフレームメモリ
207の内容をフレーム番号で示している。また、40
2は受信側で復号化を行っているフレームの番号を示し
ており、404は、1つのフレームの復号化が終了し、
次のフレームの復号化が開始される時点でのフレームメ
モリ215の内容を同様にフレーム番号で示している。
符号化側の処理フレーム番号401と復号化側の処理フ
レーム番号402とがずれているのは、伝送に要する時
間があるからである。
【0021】本動作例では、図20の場合と同じフレー
ム番号10のデータにエラーが生じた場合を示してい
る。誤り検出部211は、誤りを検出すると、誤りが検
出されたフレーム番号を含むNack信号を送出する
(図中405参照)。ここで、このNack信号にエラ
ーが生じ、誤り制御部210で認識できなかったので、
画像送信側は番号12のフレームを参照画像としてフレ
ーム番号13を符号化する。画像受信側では、次に、フ
レーム番号11のデータを受信するが、これは誤りが検
出されたフレーム番号10を参照画像として符号化され
ているので、フレーム番号10を含むNack信号を送
信する(図中406参照)。このNack信号(10
N)が、送信側がフレーム番号13を処理している途中
に誤り制御部210に受信されると、誤り制御部210
は、フレームメモリ選択部217に誤りが検出されたフ
レーム番号10より前で最も新しい番号を選択させ、フ
レーム番号14を符号化しようとするが、この時点で、
フレーム番号10より前のフレームはフレームメモリ2
07内に存在しない。そのため、フレーム番号14のフ
レームについては、フレーム内符号化を行わざるを得な
くなる(図中407参照)。
【0022】次に、図22は、図20に示したケースと
同じ条件において、伝送に要する時間が長い場合の動作
例を示した図である。図20の場合と同じく、フレーム
番号10の画像データに誤りが生じ、それを通知するN
ack信号(10N)が誤り制御部210に受信される
が、その信号の到着が遅れているため(図中505参
照)、画像送信側で符号化する次のフレームはフレーム
番号15に移っており、そのフレーム番号15を符号化
する時点ではフレーム番号10以前のフレームはフレー
ムメモリ207には存在しない。そのため、フレーム番
号15のフレームについてはフレーム内符号化を行わざ
るを得なくなる。
【0023】本発明は、上記の問題点に鑑みてなされた
もので、上記第二の従来例の持つ欠点を除去し、即ち、
画像受信側から画像送信側へ受信エラーを通知する信号
に誤りが生じた場合、あるいは画像受信側から画像送信
側への信号の到着が遅くなった場合等でも、変更すべき
参照画像がフレームメモリ内に存在しないという状況を
防ぐことができ、フレーム内符号化に切り替えて画質を
劣化させたり、フレーム内符号化に切り替えることによ
りデータ量が増大し、再びエラーを含んでしまい、フレ
ーム内符号化を繰り返したりするようなことのない画像
通信システム及び方法を提供することを目的とする。
【0024】
【課題を解決するための手段】上記課題を解決するた
め、本発明は、画像送信側に、 ・入力画像を、フレーム間の差分を用いて圧縮を行うフ
レーム間符号化方式により符号化し、符号化画像データ
を出力する符号化部と、 ・画像受信側で受信された符号化画像データのエラーの
有無とその画像番号とを通知する信号を該画像受信側か
ら受信する信号受信部と、 ・前記符号化部から出力される符号化画像データを、前
記フレーム間符号化方式による符号化に用いる参照画像
として複数保持するためのバッファを有するメモリ部
と、 ・前記メモリ部に少なくとも1枚の画像が記憶されてい
る場合、前記信号受信部が受信した信号が示す内容に基
づき、前記メモリ部に記憶された画像の中から、前記符
号化部が使用する参照画像を選択する参照画像決定部
と、 ・前記符号化部が使用した参照画像の番号を前記画像受
信側に通知する参照画像通知部と、 ・前記符号化部が出力する符号化画像データの画像番号
を通知する画像番号通知部とを有し、一方、画像受信側
に、 ・前記画像送信側の符号化部が出力する前記符号化画像
データを受信し、該画像データのエラーの有無を検出し
て出力する画像データ受信部と、 ・前記画像送信側の画像番号通知部から通知された前記
符号化画像データの画像番号を受信する画像番号受信部
と、 ・前記画像番号受信部が受信した符号化画像データの前
記画像番号と、当該画像データに関する前記画像データ
受信部が検出したエラーの有無とを通知する異常有りも
しくは異常無し信号を前記画像送信側に送信する信号送
出部と、 ・前記画像データ受信部が受信した符号化画像データを
復号化し、復号化画像データを出力する復号化部と、 ・前記復号化部から出力される復号化画像データを、前
記復号化に用いる参照画像として複数保持するためのバ
ッファを有するメモリ部と、 ・前記画像送信側の参照画像通知部から通知された符号
化時の参照画像番号を受信する参照画像番号受信部と、 ・前記メモリ部に少なくとも1枚の画像が記憶されてい
る場合、前記参照画像番号受信部が受信した参照画像番
号に応じて、前記メモリ部に記憶された画像の中から、
前記復号化部が使用する参照画像を選択する参照画像決
定部とを有する画像通信システムであって、前記画像送
信側の信号受信部が受信した信号が示す内容に基づき、
前記符号化部が出力する符号化画像データの前記メモリ
部への書き込み制御を行うメモリ変更手段を更に有し、
該制御は、新たなデータを書き込むか否かの判定、前記
メモリ部内の書き込み位置の決定、前記メモリ部に既に
書き込まれたデータの消去を含むものであり、前記符号
化部が符号化画像データを出力した場合、前記画像送信
側の前記メモリ部に空きが無い場合は、当該メモリ部に
記憶されている画像の中で、前記異常無し信号を受信し
ていない画像が存在するか否かを判定し、存在する場合
には前記異常無し信号を受信していない最も古い画像を
消去する画像通信システムを提供する。
【0025】また、本発明は、画像送信側が、 ・入力画像を、フレーム間の差分を用いて圧縮を行うフ
レーム間符号化方式により符号化し、符号化画像データ
を出力する過程と、 ・画像受信側で受信された符号化画像データのエラーの
有無とその画像番号とを通知する信号を該画像受信側か
ら受信する過程と、 ・前記出力された符号化画像データを前記フレーム間符
号化方式による符号化に用いる参照画像として複数保持
するためのバッファを有するメモリ部に少なくとも1枚
の画像が記憶されている場合、前記画像受信側から受信
した信号が示す内容に基づき、前記メモリ部に記憶され
た画像の中から前記符号化で使用する参照画像を選択す
る過程と、 ・前記符号化において使用した参照画像の番号を前記画
像受信側に通知する過程と、 ・前記出力された符号化画像データの画像番号を通知す
る過程とを有し、一方、画像受信側が、 ・前記画像送信側が出力する前記符号化画像データを受
信し、該画像データのエラーの有無を検出して出力する
過程と、 ・前記画像送信側から通知された前記符号化画像データ
の画像番号を受信する過程と、 ・前記受信された符号化画像データの前記画像番号と、
当該画像データに関する前記検出されたエラーの有無と
を通知する異常有りもしくは異常無し信号を前記画像送
信側に送信する過程と、 ・前記受信された符号化画像データを復号化し、復号化
画像データを出力する過程と、 ・前記画像送信側から通知された符号化時の参照画像番
号を受信する過程と、 ・前記出力された復号化画像データを前記復号化に用い
る参照画像として複数保持するためのバッファを有する
メモリ部に少なくとも1枚の画像が記憶されている場
合、前記受信された参照画像番号に応じて、前記メモリ
部に記憶された画像の中から、前記復号化で使用する参
照画像を選択する過程とを有する画像通信方法であっ
て、前記画像送信側が受信した信号が示す内容に基づ
き、前記出力された符号化画像データの前記メモリ部へ
の書き込み制御を行う過程を更に有し、該制御は、新た
なデータを書き込むか否かの判定、前記メモリ部内の書
き込み位置の決定、前記メモリ部に既に書き込まれたデ
ータの消去を含むものであり、前記符号化過程により符
号化画像データが出力された場合、前記画像送信側の前
記メモリ部に空きが無い場合は、当該メモリ部に記憶さ
れている画像の中で、前記異常無し信号を受信していな
い画像が存在するか否かを判定し、存在する場合には前
記異常無し信号を受信していない最も古い画像を消去す
画像通信方法を提供する。
【0026】これらシステム及び方法によれば、送信側
のメモリ部に、画像受信側で最後に正しく受信された符
号化時の参照画像が必ず一つは保持されるので、画像受
信側から受信エラーが通知された場合に、正しい参照画
像がなくなるという状況が回避される。
【0027】ここで、メモリ変更手段の行う書き込み制
御により、画像受信側で最後に正しく受信された符号化
画像データに対応する参照画像より古い参照画像や、画
像受信側から受信エラーが通知された符号化画像データ
に対応する参照画像を上記メモリ部から消去すること
が、メモリ部のバッファ領域(フレームメモリ数等)を
削減する上で好適である。なお、本発明における画像の
処理単位は、フレーム単位が代表的な例であるが、その
ほかにも、フレームを構成する画像の小領域やその小領
域を構成する画素の集まりの単位を処理単位とすること
もできる。
【0028】以下に、本発明を応用した形態例を挙げ
る。前記画像送信側が、前記信号受信部が、予め設定し
てある時間内に前記画像受信側からの信号を受信したか
否かを判定し、受信しなかったと判定した場合に前記メ
モリ変更手段にその旨を通知するタイマ手段を更に有す
るようにすれば、前記メモリ変更手段の書き込み制御に
より、画像受信側から画像送信側への信号、特に、受信
エラーを通知する信号に誤りが生じて受信できない場
合、あるいは、伝送遅延の増大、画像受信側の処理遅延
等により信号の到着が遅くなった場合等でも、速やかに
参照画像が変更される。
【0029】また、前記画像送信側が、前記符号化部が
予め設定してある量の画像を符号化する間に、前記信号
受信部が前記画像受信側からの信号を受信したか否かを
判定し、受信しなかったと判定した場合に前記メモリ変
更手段にその旨を通知する画像計数手段を更に有するよ
うにすれば、前記メモリ変更手段の書き込み制御によ
り、画像の符号化量にばらつきがあり、かつ画像受信側
からの信号、特に、画像送信側へ受信エラーを通知する
信号に誤りが生じて受信できないような場合、あるいは
伝送遅延の増大、画像受信側の処理遅延等により信号の
到着が遅くなった場合等でも、速やかに参照画像が変更
される。
【0030】また、前記画像送信側が、該送信側のメモ
リ部の内容を監視し、該メモリ部に前記フレーム間符号
化に使用できる参照画像が1つも記憶されていない場合
に、前記符号化部にその旨を通知するメモリ保持状況通
知手段を更に有するようにし、前記符号化部は、前記メ
モリ保持状況通知手段から通知を受けた場合、次の画像
の符号化をフレーム内符号化方式で行うようにしても良
い。
【0031】また、前記符号化部が、前記フレーム間符
号化方式とフレーム内符号化方式とを併用し、いずれか
の方式により符号化を行うものである場合、前記画像送
信側が、前記符号化部がフレーム内符号化を行った場合
に、前記メモリ変更手段にその旨を通知する符号化状況
通知手段を更に有するようにし、前記メモリ変更手段の
書き込み制御により、フレーム内符号化が行われた場合
に、該符号化によるエラー波及防止効果を考慮し、メモ
リ内の不要なデータを消去する等しても良い。
【0032】また、前記画像受信側に、該受信側のメモ
リ部に記憶された画像の情報を前記画像送信側に通知す
るメモリ情報通知手段を更に設け、前記画像送信側に、
前記メモリ情報通知手段から通知された画像情報を受信
し、その内容を前記送信側の参照画像決定部に通知する
メモリ情報受信手段を更に設け、前記画像送信側の参照
画像決定部は、前記参照画像の選択を、前記信号受信部
が受信した信号が示す内容及び前記メモリ情報受信手段
から通知された情報に基づいて行うようしても良い。こ
れにより、画像送信側の参照画像決定部が、画像受信側
のメモリ部内に存在しない画像を参照画像として選択す
ることが防止される。
【0033】また、前記画像受信側に、前記画像データ
受信部が検出したエラーの有無の情報を受け、エラー有
りの場合には前記復号化部からの出力が前記受信側のメ
モリ部に送られず、エラー無しの場合には該復号化部か
らの出力が該メモリ部に送られるように制御する切替手
段を更に設けても良い。これにより、システム内部では
誤りの無い画像データのみが保持されながら、エラー画
像を敢えて利用したシステムの実現が可能になる。
【0034】これら応用形態例により得られる効果は、
各形態の動作に対応する方法の実行によっても、同様に
得られる。また、本発明は、上記システムにおける画像
送信側の各構成要素を有する送信装置、画像受信側の各
構成要素を有する受信装置、及び、これら各装置に対応
する方法、また、上述した各方法を実行するコンピュー
タプログラムを記憶した記憶媒体を提供する。
【0035】
【発明の実施の形態】以下、本発明の実施形態例を、図
面を参照して詳細に説明する。図1は、本発明による第
一の実施形態例の全体構成を示すブロック図である。始
めに、画像送信側1101の構成と動作を説明する。カ
メラ等から入力された画像は、フレーム間の差分を用い
て圧縮を行う画像符号化方式による符号化部601によ
り符号化されると共に、符号化部601からフレームメ
モリ変更部605に送られる。フレームメモリ変更部6
05は、後記する画像受信側からのAck,Nack信
号を受信する信号受信部602からの信号により、符号
化部601からの参照画像用データを、フレームメモリ
部603に書き込むか否か、書き込むとすると複数保持
できるバッファ(フレームメモリ)のどこに書き込む
か、あるいは、消去する場合にはフレームメモリのどの
部分あるいは全部を消去するかを決定する。また、フレ
ーム番号通知部607から通知されるフレーム番号と
(書き込みを行った)符号化部601からの参照画像用
データとを対応させる。具体的な決定方法の例は後述す
る。
【0036】参照画像決定部604は、フレームメモリ
変更部605からの信号により、次に符号化するフレー
ムの参照画像を何にするかを決定し、フレームメモリ部
603から読み出して符号化部601に送る。具体的な
決定方法の例は後述する。また、参照画像通知部606
を介して、符号化に使用した参照画像の番号を画像受信
側に通知する。また、符号化を行ったフレーム番号をフ
レーム番号通知部607を介して画像受信側に通知す
る。
【0037】次に、画像受信側1201の構成と動作を
説明する。画像信号受信部608は、画像送信側から符
号化データを受信し、その符号化データのエラーの有無
を検知し、エラーが検知された場合には、信号送出部6
09に通知する。信号送出部609は、エラーがあった
フレームのフレーム番号を、画像送信側のフレーム番号
通知部607から通知されるフレーム番号を受信するフ
レーム番号受信部610から読み出し、エラーが検出さ
れたというNack信号をそのフレーム番号と共に画像
送信側に通知する。
【0038】また、画像信号受信部608は、エラーが
検出されなかった場合には、それを信号送出部609に
通知する。信号送出部609は、そのときのフレーム番
号をフレーム番号受信部610から読み出し、エラーが
検出されなかったことを示すAck信号をそのフレーム
番号と共に画像送信側に通知する。それ以外の場合は、
エラーが継続していることを画像送出側に通知する。
【0039】画像信号受信部608で受信した符号化デ
ータは復号化部613で復号される。ここで誤り無く復
号可能な場合には、参照画像決定部611は、画像送信
側の参照画像通知部606から通知される符号化データ
の参照画像番号が何かを参照画像番号受信部612を介
して知り、その番号に対応するデータをフレームメモリ
部614から読み出し、復号化部613に送る。
【0040】復号化部613は、画像データを誤りなく
復号してモニタ等へ出力すると共に、フレームメモリ部
614に書き込む。誤りのない画像データが得られなか
った場合は、モニタ等への出力やフレームメモリ部61
4への書き込みは行わない。フレームメモリ部614
は、フレーム番号受信部からフレーム番号を読み出し、
復号化部が書き込む復号した画像との対応を付ける。ま
た、フレームメモリ部614は、参照画像決定部611
に、新たに書き込まれたフレーム番号とその(メモリ内
の)位置を通知する。
【0041】本実施形態例における各部の詳細は、画像
送信側のフレームメモリ変更部605を除いては、第二
の従来例の説明で用いた図19の構成と同様である。た
だし、図19の誤り制御部210、誤り検出部211に
相当する部分の動作が、第二の従来例とは異なる。第二
の従来例で説明した誤り検出部211は、エラーが検出
されたときのみ誤り制御部210にその旨を通知してい
たが、本実施形態例の画像受信側の画像信号受信部60
8は、エラーがない場合も正しく受信したフレーム番号
を含むAck信号を画像送信側の信号受信部602に通
知する。同様に、誤り制御部210は、誤り検出部21
1からエラーを通知された時のみフレームメモリ選択部
219にその旨を通知していたが、本発明の信号受信部
602は、誤りなく受信したことを通知された場合に
も、フレームメモリ変更部605にその旨を通知する。
【0042】次に、本発明の特徴であるフレームメモリ
変更部605の動作を、より詳細に説明する。図2、図
3は、フレームメモリ変更部605の動作フローを表し
たフローチャートである。フレームメモリ変更部605
は、信号受信部602からの入力と符号化部601から
の入力とを監視しており(701,702)、それぞれ
の入力により動作する。具体的な動作については以下
で、システムの動作例と共に説明する。なお、図2中の
は図3中のへ、図3中のは図2中のへ処理の流
れが続くことを表す。
【0043】図4は、本実施形態例の動作例を時系列に
示した図である。図の記載形式及び各符号の意味は図2
0と同様であり、603および614のフレームメモリ
部の内部フレームメモリ(バッファ)数が4の場合の動
作例を時系列に示している。801は、画像送信側で符
号化を行っているフレームの番号を示しており、803
は、1つのフレームの符号化が終了して次のフレームの
符号化が開始される時点での、フレームメモリ部603
の参照バッファ(フレームメモリ(FM1〜FM4))
の内容をフレーム番号で示している。また、802は、
画像受信側で復号化を行っているフレーム番号を示して
おり、804は、1つのフレームの復号化が終了して次
のフレームの復号化が開始される時点での、フレームメ
モリ614の参照バッファ(フレームメモリ(FM1〜
FM4))の内容を、同様にフレーム番号で示してい
る。符号化側の処理フレーム番号801と復号化側の処
理フレーム番号802とがずれているのは、伝送に要す
る時間があるからである。
【0044】また、図中の画像データを示す矢印(実
線)に付した数字については、例えば「9/8」は、フ
レーム番号8のフレームを参照画像としてフレーム番号
9の符号化を行った(画像)データを表している。但
し、参照バッファの表記は、どのフレームが最新かをわ
かりやすく示すために、図20のように古いフレームを
上書きしていくのではなく、最新のフレームがFM4に
存在するようなスタック型のメモリ管理を仮定して記載
している。
【0045】画像受信側からフレーム番号9を含むAc
k信号(9A)を受信した画像送信側の信号受信部60
2は、それをフレームメモリ変更部605に通知する。
フレームメモリ変更部605は、図3のステップ703
の処理に従い、番号9より古いフレームである番号7、
8のフレームをフレームメモリ部603から消去する。
これによりフレームメモリ603の内容は、番号9、1
0のフレームとなる。次に、図3のステップ704の処
理に従い、参照画像決定部604に対し、フレームメモ
リ部603内の最新のフレームを参照画像として使用す
ることを指示する。
【0046】次に、番号11のフレームの符号化が終了
すると、番号11のフレームの画像データが符号化部6
01からフレームメモリ変更部605に送信される。フ
レームメモリ変更部605は、図2のステップ705の
処理に従い、番号11のフレームの画像データをフレー
ムメモリ部603に書き込む。その後、符号化部により
番号12のフレームの符号化が開始されるが、そのとき
のフレームメモリ部603の内容は、図4で符号805
で示すように「9、10、11」となっている。また、
参照画像としてフレームメモリ部603内の最新のフレ
ームを参照画像として使用するように指示されている参
照画像決定部604は、この時点での最新のフレームで
あるフレーム11を、フレーム12の符号化の参照画像
として使用するように働く。
【0047】次に、番号12のフレームの符号化中に番
号10のフレームのNack信号(10N)を受信した
と仮定する。信号受信部602は、それをフレームメモ
リ変更部605に通知する。フレームメモリ変更部60
5は、図3のステップ706の処理に従い、直前のフレ
ーム以外のフレームを参照画像として使用したフレーム
を探すが、フレームメモリ内の番号9、10、11の各
フレームとも直前のフレームを参照画像として使用して
いるので、ステップ707の処理に従い、Nack信号
に書かれている番号10以降のフレーム10、11を、
フレームメモリから消去する。
【0048】また、ステップ708の処理により、現在
符号化中の番号12のフレームはフレームメモリ部60
3に書き込まないようにする。番号12のフレームの符
号化終了時のフレームメモリの内部は、符号806で示
すように、「9」のみとなっている。次に、フレーム1
3の符号化を開始するが、その時の参照画像は、ステッ
プ704の処理により、フレームメモリ内の唯一の最新
フレームであるフレーム9が使用される。
【0049】次に、フレーム13の符号化中にフレーム
10のNack信号(10N)を再び受信した信号受信
部602は、それをフレームメモリ変更部605に通知
する。フレームメモリ変更部605は、図3のステップ
706の処理に従い、直前のフレーム以外のフレームを
参照画像として使用したフレームを探す。今回はフレー
ム13が直前のフレームではなくフレーム9を参照画像
として使用しているので、図3のステップ709(本動
作例では該当する、消去すべきフレームはない)、ステ
ップ704の処理に従い、フレーム13を参照画像とし
てフレーム14を符号化する。
【0050】次のフレーム14の符号化中にフレーム1
0のNack信号(10N)を受信した場合の動作は、
上と同じである。最後に、フレーム15の符号化中にフ
レーム13のAck信号(13A)を受信した信号受信
部602は、それをフレームメモリ変更部605に通知
する。フレームメモリ変更部605は、ステップ703
の処理に従い、Ack信号に書かれたフレーム番号13
より古い番号のフレーム9をフレームメモリ内から消去
する。フレーム16の符号化は、ステップ704の処理
に従い、フレーム15を参照画像として行う。
【0051】図5は、動き補償と離散コサイン変換(D
CT)とを組み合わせた一般的な画像符号化方式と上記
実施形態例とを組み合わせた変形実施形態例である。前
述した実施形態例では、画像をフレーム単位に処理する
例を示したが、画像の処理単位はフレーム単位だけでな
く、GOB(Group of Block:フレーム
を構成する画像の小領域)やMB(Macro Blo
ck:GOBを構成する画素(Cr,Cb,Y)の集まり
の単位)を単位とすることも可能である。
【0052】そこで、本変形実施形態例では、図1の各
部の名称に関し、”フレーム番号”に代えて”画像番
号”を採用し、”フレームメモリ”に代えて複数の画像
メモリ(M1,M2,…M3)からなるメモリを採用
し、”フレームメモリ変更部”に代えて”メモリ変更
部”を採用している。ただし、図5の変形実施形態例で
は、図1に相当する構成部分には、図1と同一の番号を
付してある。なお、従来例における画像送信側の差分
部、離散コサイン変換部(DCT)、量子化器(Q)、
逆量子化器(Q-1)、逆DCT部(IDCT)、加算
部、およびフレーム差分制御部に対応する部分は、図5
では符号化部601として記載されている。また、従来
例の画像受信側の逆量子化器(Q-1)、逆DCT部(I
DCT)、および加算部に対応する部分は、図5では復
号部613として記載されている。また、図5では、画
像メモリ(M1,M2,…M3)とメモリ書き込み部
(614a)を合わせてメモリ614として記載してい
る。
【0053】なお、画像の処理単位をフレームではなく
より小さな単位とする場合、動き補償を行う範囲を、そ
の小単位内に閉じることが必要である。
【0054】上述した第一の実施形態例によれば、参照
画像を変更することによりフレーム間符号化を続けなが
らエラー波及を防止するという従来技術に対し、従来技
術では参照画像がフレームメモリ内に存在しなくなりフ
レーム内符号化を余儀なくされるケースでも、同一のフ
レームメモリ数で、最後に正しく受信されたフレームの
参照画像をフレームメモリ内に保持しておくことがで
き、画像品質の劣化を防ぐことができる。従って、従来
技術ではうまく動作しないような場合でも、問題なく動
作させることができる。
【0055】次に、本発明による第二の実施形態例を説
明する。図6は、第二の実施形態例の全体構成を示すブ
ロック図である。本図においては、第一の実施形態例の
全体構成を示すブロック図である図1と比べて、タイマ
を内蔵するタイマ部615が付加されている。その他の
各部は、第一の実施形態例と同様の構成であるので、そ
れらの各部には図1と同一の符号を付してある。
【0056】図7は、タイマ部615の動作を示す動作
フローである。本実施形態例における動作では、図1の
各部による前述した動作に加え、信号受信部602は、
画像受信側の信号送出部609からのAck,Nack
信号を受信した場合に、それをタイマ部615に通知す
る。タイマ部615は、この信号でタイマリセットを行
って再起動を繰り返すが、この信号が通知されないため
にタイマが満了した場合には、それをフレームメモリ変
更部605に通知する。
【0057】図8、図9は、本第二の実施形態例におけ
るフレームメモリ変更部605の動作フローである。同
フローに示すように、第一実施形態例に示した動作に加
え、タイマ部615からの信号によっても参照画像を変
更する操作が行われる(ステップC01)。なお、図8
中のは図9中のへ、図9中のは図8中のへ、図
8中のは図9中のへ、処理の流れがそれぞれ続くこ
とを表す。図10は、本第二の実施形態例の動作例を時
系列に示した図である。符号の意味は図4と同じであ
り、説明を省略する。
【0058】タイマ部615は、Ack信号あるいはN
ack信号の受信により内蔵するタイマをリセットし、
再起動を繰り返す。本動作例では、図4と同様に、10
フレーム目の画像データにエラーが生じた例を示してい
る。さらに、それに対応するNack信号にもエラーが
生じ、信号が失われてしまった(画像送信側の信号受信
部602で認識できなった)状況を示している。この場
合、タイマ部615では、フレーム9のAck信号の受
信から起動していたタイマが満了するので、タイマ満了
がフレームメモリ変更部605に通知される。これを受
けて、フレームメモリ変更部605は、13フレーム目
に対する参照画像をAck信号を受信している9フレー
ム目の画像に変更する。なお、タイマ部615に設定す
るタイマ値は、信号の往復遅延時間を目安に設定すれば
よい。
【0059】また、図11は、動き補償と離散コサイン
変換(DCT)を組み合わせた一般的な画像符号化方式
と、本第二の実施形態例とを組み合わせた場合の変形実
施形態例である。本図は、図5に示した第一の実施形態
例に関する変形構成例に対応する、第二実施形態例の変
形構成例であり、図5と比べてタイマ部615が付加さ
れている。その他の各部は、図5の(第一実施形態例
の)変形構成例と同様の構成であるので、それらの各部
には図5と同一の符号を付してある。
【0060】本第二の変形実施形態例によれば、タイマ
部を付加することにより、画像受信側からの信号、特に
Nack信号が、エラー等により画像送信側で受信され
なかった場合、あるいは伝送遅延の増大、受信側の処理
遅延等により、画像送信側での受信が遅れた場合に、速
やかに参照画像を変更でき、画像受信側におけるエラー
画像からの復帰を早めることができる。より具体的に
は、図10において、第一実施形態例の構成であれば画
像受信側からのフレーム10に関するNack信号(1
0N)が画像送信側で受信された後、フレーム14に関
する参照画像を変更することになるが、第二実施形態例
の構成では、フレーム13に関する参照画像を変更する
ことが可能となっている。
【0061】次に、本発明による第三の実施形態例を示
す。図12は、第三の実施形態例の全体構成を示すブロ
ック図である。本図においては、第一の実施形態例の全
体構成を示すブロック図である図1と比べて、フレーム
計数部616が付加されている。図13は、フレーム計
数部616の動作を示す動作フローである。本実施形態
例における動作は、図1の各部による前述した動作に加
え、信号受信部602は、信号送出部からのAck,N
ack信号を受信した場合、それをフレーム計数部61
6に通知する。また、フレーム番号通知部607は、符
号化した画像のフレーム番号をフレーム番号受信部61
0に送ると共に、フレーム計数部616にも通知する。
フレーム計数部616は、フレーム番号通知部607か
ら通知されるフレームの数を計数して上記信号の通知を
受けた場合に計数値のリセットを繰り返すが、その信号
が通知されないため計数値がリセットされないで規定枚
数を超えた場合、それをフレームメモリ変更部605に
通知する。
【0062】図14、図15は、本第三の実施形態例に
おけるフレームメモリ変更部605の動作フローであ
る。同フローに示すように、第一の実施形態例における
動作に加え、フレーム計数部616からの信号によって
も参照画像を変更する操作が行われる(ステップH0
1)。なお、図14中のは図15中のへ、図15中
のは図14中のへ、図14中のは図15中の
へ、処理の流れがそれぞれ続くことを表す。
【0063】図16は、本第三の実施形態例の動作例を
時系列に示した図である。符号の意味は図4と同じであ
るので、説明を省略する。本動作例では、フレーム計数
部616に対して、計数値が3に達した場合、それをフ
レームメモリ変更部605に通知するようにしている。
フレーム計数部616は、符号化が進むにつれて、符号
化したフレームの枚数を計数していく。ただし、Ack
信号あるいはNack信号が受信された場合、計数値を
リセットする。
【0064】本動作例では、11フレーム目の画像デー
タにエラーが生じた例を示している。さらに、それに対
するNack信号(11N)にもエラーが生じ、信号が
失われてしまった(画像送信側で認識できなった)状況
が2回続いた場合を示している。この場合、フレーム計
数部616は、フレーム12の符号化終了から計数して
いた計数値が、フレーム14の符号化終了により3にな
ったので、それをフレームメモリ変更部605に通知
し、フレームメモリ変更部605は、15フレーム目の
参照画像をAck信号を受信している10フレーム目の
画像に変更する。なお、フレーム計数部616に設定す
る設定値は、信号の往復遅延時間と符号化する画像デー
タの量を目安に設定すればよい。
【0065】図17は、動き補償と離散コサイン変換
(DCT)を組み合わせた一般的な画像符号化方式と、
本第三実施形態例とを組み合わせた場合の変形実施形態
例である。本図は、図5に示した第一の変形実施形態例
に対応する第三の変形実施形態例を示したものであり、
図5と比べてフレーム計数部に対応する画像信号計数部
616が付加されている。その他の各部は、図5の第一
の変形実施形態例と同様の構成であるので、それらの各
部には図5と同一の符号を付してある。
【0066】本第三の実施形態例によれば、画像信号計
数部を設けることにより、符号化フレームの画像データ
量にばらつきがあり、かつ画像受信側からの信号、特に
Nack信号が、エラー等により画像送信側で受信され
なかった場合、あるいは伝送遅延の増大、受信側の処理
遅延等により、画像送信側での受信が遅れた場合に、速
やかに参照画像を変更でき、画像受信側におけるエラー
画像からの復帰を早めることができる。特に、フレーム
間差分をとる画像符号化方式の場合、解像度を調整して
データ量を一定にするように制御しない限りは、画像の
内容により符号化後のデータ量は一定でないのが普通で
あるので、このようなケースに適用して有効である。
【0067】より具体的には、図16に関し、第二の実
施形態例であれば、フレーム9に対するAck信号(9
A)受信からフレーム10に対するAck信号(10
A)受信までの時間よりもタイマ値を大きくすることが
適当であるが、そのようにすると10A受信により起動
したタイマが満了するのはフレーム15の符号化が終わ
った後で、フレーム16の符号化中になる。従って、参
照画像の変更はフレーム17から行われることになる。
しかし、本第三の実施形態例によれば、フレーム15の
参照画像を変更することが可能となっている。
【0068】次に、本発明による第四の実施形態例を示
す。図23は、第四の実施形態例の全体構成を示すブロ
ック図である。本図においては、第一実施形態例の全体
構成を示すブロック図である図1と比べて、メモリ保持
状況通知部621が付加されている。上記第一実施形態
例の動作において、画像送信側のフレームメモリ部60
3に記憶されたデータを消去する場合があるが、正しく
受信されたフレームの参照画像が1枚も無い等の特殊な
ケースにより、全てのデータが消去されてフレームメモ
リ部603の中身が空になってしまう場合がある。その
ような場合、フレーム間差分をとるフレーム間符号化方
式を行うことが不可能になるので、フレーム内符号化に
切り替えるようにした構成が、本第四実施形態例であ
る。
【0069】即ち、フレームメモリ部603の記憶内容
の情報が、フレームメモリ変更部605を介してメモリ
保持状況通知部621に通知されるようになっており、
メモリ保持状況通知部621は、フレームメモリ部60
3内に参照画像が1つも保持されていない場合に、符号
化部601にその旨を通知する。通知を受けた符号化部
601は、フレーム内符号化により入力画像を符号化す
るようにする。これにより、参照画像が存在しない場合
に入力画像がフレーム間符号化されてしまうような特殊
な事態が防止できる。
【0070】次に、本発明による第五の実施形態例を示
す。図24は、第五の実施形態例の全体構成を示すブロ
ック図である。本図においては、第一実施形態例の全体
構成を示すブロック図である図1と比べて、符号化状況
通知部623が付加されている。本第五実施形態例にお
いて、符号化部601は、フレーム間符号化に加えて条
件によりフレーム内符号化を行う。符号化状況通知部6
23は、符号化部601から送信される符号化に関する
情報に基づき、符号化部601がフレーム内符号化を行
った場合にこれを検知し、フレームメモリ変更部605
にその旨を通知する。
【0071】フレームメモリ変更部605は、信号受信
部602を介して取得する画像受信側からの信号の内容
に加え、符号化状況通知部623からの通知内容にも基
づき、フレームメモリ部603の内容の書き換えを行
う。この場合の、フレームメモリ変更部605の動作例
の部分フローを図25に示す。本図は図2に示した第一
実施形態例の動作に対応するものであり、ステップD0
1及びD02が追加されている以外は、第一実施形態例
と同様であり、即ち、本図25と図3とを組み合わせた
フロー図が、本第五実施形態例におけるフレームメモリ
変更部605の動作例の全体フロー図となる。即ち、本
実施形態例によれば、フレーム内符号化が行われた場合
に、該符号化によるエラー波及防止効果を考慮し、メモ
リ内の不要なデータを消去する等して次の符号化がより
適正に行われるような内容にメモリを書き換えることが
可能となる。
【0072】次に、本発明による第六の実施形態例を示
す。図26は、第六の実施形態例の全体構成を示すブロ
ック図である。本図においては、第一実施形態例の全体
構成を示すブロック図である図1と比べて、メモリ情報
通知部625、メモリ情報受信部626が付加されてい
る。第一実施形態例において、送信側と受信側の動作タ
イミングやエラーの発生等により、参照画像決定部60
4が、画像受信側のフレームメモリ部614内に存在し
ない画像を参照画像として選択するという特殊な事態が
あり得る。
【0073】本第六実施形態例においては、画像受信側
のメモリ情報通知部625は、フレームメモリ部614
に保持している全ての内容、あるいは最古もしくは最新
の内容等についての情報を画像送信側のメモリ情報受信
部626に通知する。通知を受けたメモリ情報受信部6
26は、その情報を参照画像決定部604に伝える。参
照画像決定部604は、フレームメモリ変更部605か
らの信号に加え、メモリ情報受信部626からの情報に
も基づき、次に符号化するフレームの参照画像を何にす
るかを決定する。
【0074】即ち、参照画像決定部604は、フレーム
メモリ変更部605からの信号により、次に符号化する
フレームの参照画像を何にするかを決定するが、ここ
で、画像受信側のメモリ情報通知部625は、フレーム
メモリ部614に保持している全ての内容についての情
報を画像送信側のメモリ情報受信部626に通知するよ
うに設定されているとする。この場合、例えば図3のス
テップ704の処理に従い、参照画像決定部604に対
し、フレームメモリ部603内の最新のフレームを参照
画像として使用することが指示された場合、該当画像が
画像受信側のフレームメモリ部614内に存在しない場
合には、その画像を参照画像として選択せずに、その1
つ前のフレームを参照画像としてフレームメモリ部60
3から読み出して符号化部601に送るようにすること
ができる。このような処理により、参照画像決定部60
4が、画像受信側のフレームメモリ部614内に存在し
ない画像を参照画像として選択することが防止される。
【0075】次に、本発明による第七の実施形態例を示
す。図27は、第七の実施形態例の全体構成を示すブロ
ック図である。本図においては、第一実施形態例の全体
構成を示すブロック図である図1と比べて、切替部62
8が付加されている。上述した第一実施形態例では、誤
りのない画像データが得られなかった場合は、復号化部
613からモニタ等への画像データの出力や、フレーム
メモリ部614へのデータの書き込みは行われない。し
かし、実用形態においては、このような場合においても
モニタ等へ画像データを出力した方が、モニタを観察す
るユーザにとって、システムがより使いやすくなる場合
も多い。但し、この場合、エラーを含む画像がフレーム
メモリ部614に書き込まれることは好ましくない。
【0076】本第七実施形態例においては、画像信号受
信部608から切替部628にエラーの有無が通知され
るとともに、誤りのある画像データであっても、符号化
部613から切替部628にデータが送られる。切替部
628は、画像信号受信部608から通知される内容が
「エラー無し」の場合には復号化部613からの出力を
モニタ等の外部及びフレームメモリ部614の両方に出
力するようにし、「エラー有り」の場合には、復号化部
613からの出力をモニタ等の外部にのみ出力するよう
に働く。これにより、システム内部では誤りの無い画像
データのみが保持されるようにしながら、エラー画像を
敢えて利用した、ユーザにとってより使いやすいシステ
ムの実現が可能になる。
【0077】
【発明の効果】本発明による画像通信システム及び方法
によれば、送信側のメモリ部に、画像受信側で最後に正
しく受信された符号化時の参照画像が必ず一つは保持さ
れるので、画像受信側から受信エラーが通知された場合
に、正しい参照画像がなくなるという状況を回避するこ
とができる。即ち、フレーム間符号化を続けながらエラ
ー波及を防止するという従来技術において、参照画像が
メモリ部内に存在しなくなりフレーム内符号化を余儀な
くされたようなケースでも、同じメモリ規模で、最後に
正しく受信された参照画像をメモリ部内に保持しておく
ことができ、画像品質の劣化を防ぐことができる。
【0078】また、画像送信側に、上記タイマ手段や画
像計数手段を付加することにより、上記メモリ変更手段
の書き込み制御により、画像受信側から画像送信側への
信号、特に、受信エラーを通知する信号に誤りが生じて
受信できない場合、あるいは、伝送遅延の増大、画像受
信側の処理遅延等により信号の到着が遅くなった場合等
でも、速やかに参照画像を変更して画像受信側でのエラ
ー画像からの復帰を早めることが可能になる。
【0079】また、画像送信側に上記メモリ保持状況通
知手段を付加することにより、メモリ部に参照画像が存
在しない場合に入力画像がフレーム間符号化されてしま
うような特殊な事態が防止できる。
【0080】また、画像送信側に上記符号化状況通知手
段を付加することにより、フレーム内符号化が行われた
場合に、該符号化によるエラー波及防止効果を考慮し、
メモリ内の不要なデータを消去する等して次の符号化が
より適正に行われるような内容にメモリを書き換えるこ
とが可能となる。
【0081】また、画像受信側に上記メモリ情報通知手
段を付加し、画像送信側に上記メモリ情報受信手段を付
加することにより、画像送信側の参照画像決定部が、画
像受信側のメモリ部内に存在しない画像を参照画像とし
て選択することを防止できる。
【0082】また、画像受信側に上記切替手段を付加す
ることにより、システム内部では誤りの無い画像データ
のみが保持されるようにしながら、エラー画像を敢えて
利用した、ユーザにとってより使いやすいシステムの実
現が可能になる。なお、これら付加的形態例により得ら
れる効果は、各形態の動作に対応する方法の実行によっ
ても、同様に得られる。
【図面の簡単な説明】
【図1】 本発明の第一の実施例の全体構成を示すブロ
ック図である。
【図2】 図1のフレームメモリ変更部の動作フロー図
(その1)である。
【図3】 図1のフレームメモリ変更部の動作フロー図
(その2)である。
【図4】 第一実施例の動作例の説明図である。
【図5】 一般的な画像符号化方式と第一実施例とを組
み合わせた変形実施例の構成図である。
【図6】 本発明の第二の実施例の全体構成を示すブロ
ック図である。
【図7】 図6のタイマ部の動作フロー図である。
【図8】 図6のフレームメモリ変更部の動作フロー図
(その1)である。
【図9】 図6のフレームメモリ変更部の動作フロー図
(その2)である。
【図10】 第二実施例の動作例の説明図である。
【図11】 一般的な画像符号化方式と第二実施例とを
組み合わせた変形実施例の構成図である。
【図12】 本発明の第三の実施例の全体構成を示すブ
ロック図である。
【図13】 図12のフレーム計数部の動作フロー図で
ある。
【図14】 図12のフレームメモリ変更部の動作フロ
ー図(その1)である。
【図15】 図15は、図12のフレームメモリ変更部
の動作フロー図(その2)である。
【図16】 第三実施例の動作例の説明図である。
【図17】 一般的な画像符号化方式と第三実施例とを
組み合わせた変形実施例の構成図である。
【図18】 一般的な画像符号化方式と第一の従来例と
を組み合わせた場合の構成図である。
【図19】 一般的な画像符号化方式と第二の従来例と
を組み合わせた場合の構成図である。
【図20】 第二の従来例の動作例の説明図である。
【図21】 第二の従来例の別の動作例の説明図であ
る。
【図22】 第二の従来例のさらに別の動作例の説明図
である。
【図23】 本発明の第四の実施例の全体構成を示すブ
ロック図である。
【図24】 本発明の第五の実施例の全体構成を示すブ
ロック図である。
【図25】 図24のフレームメモリ変更部の動作の部
分フロー図である。
【図26】 本発明の第六の実施例の全体構成を示すブ
ロック図である。
【図27】 本発明の第七の実施例の全体構成を示すブ
ロック図である。
【符号の説明】
601…符号化部 602…信号受信部 603…(フレーム)メモリ部 604…参照画像決定部 605…(フレーム)メモリ変更部 606…参照画像通知部 607…フレーム番号通知部(画像番号通知部) 608…画像信号受信部 609…信号送出部 610…フレーム番号受信部(画像番号受信部) 611…参照画像決定部 612…参照画像番号受信部 613…復号化部 614…(フレーム)メモリ部 615…タイマ部 616…フレーム計数部(画像信号計数部) 621…メモリ保持状況通知部 623…符号化状況通知部 625…メモリ情報通知部 626…メモリ情報受信部 628…切替部
───────────────────────────────────────────────────── フロントページの続き (72)発明者 木全 英明 東京都新宿区西新宿三丁目19番2号 日 本電信電話株式会社内 (72)発明者 鈴木 良太 東京都新宿区西新宿三丁目19番2号 日 本電信電話株式会社内 (72)発明者 秋本 ▲高▼明 東京都新宿区西新宿三丁目19番2号 日 本電信電話株式会社内 (56)参考文献 特開 平9−149421(JP,A) (58)調査した分野(Int.Cl.7,DB名) H04N 7/24 - 7/68

Claims (46)

    (57)【特許請求の範囲】
  1. 【請求項1】 画像送信側に、 入力画像を、フレーム間の差分を用いて圧縮を行うフレ
    ーム間符号化方式により符号化し、符号化画像データを
    出力する符号化部と、 画像受信側で受信された符号化画像データのエラーの有
    無とその画像番号とを通知する信号を該画像受信側から
    受信する信号受信部と、 前記符号化部から出力される符号化画像データを、前記
    フレーム間符号化方式による符号化に用いる参照画像と
    して複数保持するためのバッファを有するメモリ部と、 前記メモリ部に少なくとも1枚の画像が記憶されている
    場合、前記信号受信部が受信した信号が示す内容に基づ
    き、前記メモリ部に記憶された画像の中から、前記符号
    化部が使用する参照画像を選択する参照画像決定部と、 前記符号化部が使用した参照画像の番号を前記画像受信
    側に通知する参照画像通知部と、 前記符号化部が出力する符号化画像データの画像番号を
    通知する画像番号通知部とを有し、 画像受信側に、 前記画像送信側の符号化部が出力する前記符号化画像デ
    ータを受信し、該画像データのエラーの有無を検出して
    出力する画像データ受信部と、 前記画像送信側の画像番号通知部から通知された前記符
    号化画像データの画像番号を受信する画像番号受信部
    と、 前記画像番号受信部が受信した符号化画像データの前記
    画像番号と、当該画像データに関する前記画像データ受
    信部が検出したエラーの有無とを通知する異常有りもし
    くは異常無し信号を前記画像送信側に送信する信号送出
    部と、 前記画像データ受信部が受信した符号化画像データを復
    号化し、復号化画像データを出力する復号化部と、 前記復号化部から出力される復号化画像データを、前記
    復号化に用いる参照画像として複数保持するためのバッ
    ファを有するメモリ部と、 前記画像送信側の参照画像通知部から通知された符号化
    時の参照画像番号を受信する参照画像番号受信部と、 前記メモリ部に少なくとも1枚の画像が記憶されている
    場合、前記参照画像番号受信部が受信した参照画像番号
    に応じて、前記メモリ部に記憶された画像の中から、前
    記復号化部が使用する参照画像を選択する参照画像決定
    部とを有する画像通信システムであって、 前記画像送信側の信号受信部が受信した信号が示す内容
    に基づき、前記符号化部が出力する符号化画像データの
    前記メモリ部への書き込み制御を行うメモリ変更手段を
    更に有し、該制御は、新たなデータを書き込むか否かの
    判定、前記メモリ部内の書き込み位置の決定、前記メモ
    リ部に既に書き込まれたデータの消去を含むものであ
    り、前記符号化部が符号化画像データを出力した場合、
    前記画像送信側の前記メモリ部に空きが無い場合は、当
    該メモリ部に記憶されている画像の中で、前記異常無し
    信号を受信していない画像が存在するか否かを判定し、
    存在する場合には前記異常無し信号を受信していない最
    も古い画像を消去する画像通信システム。
  2. 【請求項2】 前記メモリ変更手段の書き込み制御
    は、前記メモリ部に記憶された参照画像の中から、前記
    画像受信側で最後に正しく受信された符号化画像データ
    に対応する参照画像より古い参照画像を消去することを
    含む請求項1に記載の画像通信システム。
  3. 【請求項3】 前記メモリ変更手段の書き込み制御
    は、前記メモリ部に記憶された参照画像の中から、前記
    画像受信側から前記異常有り信号が通知された符号化画
    像データに対応する参照画像を消去することを含む請求
    項1に記載の画像通信システム。
  4. 【請求項4】 前記入力画像の処理単位は、フレーム
    単位、フレームを構成する画像の小領域、及び、該小領
    域を構成する画素の集まりのいずれかである請求項1に
    記載の画像通信システム。
  5. 【請求項5】 前記画像送信側に、 前記信号受信部が、予め設定してある時間内に前記画像
    受信側からの信号を受信したか否かを判定し、受信しな
    かったと判定した場合に前記メモリ変更手段にその旨を
    通知するタイマ手段を更に有し、 前記メモリ変更手段は、前記タイマ手段から通知を受け
    た場合、該通知の内容に基づき前記メモリ部への書き込
    み制御を行う請求項1に記載の画像通信システム。
  6. 【請求項6】 前記画像送信側に、 前記符号化部が予め設定してある量の画像を符号化する
    間に、前記信号受信部が前記画像受信側からの信号を受
    信したか否かを判定し、受信しなかったと判定した場合
    に前記メモリ変更手段にその旨を通知する画像計数手段
    を更に有し、 前記メモリ変更手段は、前記画像計数手段から通知を受
    けた場合、該通知の内容に基づき前記メモリ部への書き
    込み制御を行う請求項1に記載の画像通信システム。
  7. 【請求項7】 前記画像送信側に、 該送信側のメモリ部の内容を監視し、該メモリ部に前記
    フレーム間符号化に使用できる参照画像が1つも記憶さ
    れていない場合に、前記符号化部にその旨を通知するメ
    モリ保持状況通知手段を更に有し、 前記符号化部は、前記メモリ保持状況通知手段から通知
    を受けた場合、次の画像の符号化をフレーム内符号化方
    式で行う請求項1に記載の画像通信システム。
  8. 【請求項8】 前記符号化部は、前記フレーム間符号
    化方式とフレーム内符号化方式とを併用し、いずれかの
    方式により符号化を行うものであり、 前記画像送信側に、 前記符号化部がフレーム内符号化を行った場合に、前記
    メモリ変更手段にその旨を通知する符号化状況通知手段
    を更に有し、 前記メモリ変更手段は、前記符号化状況通知手段から通
    知を受けた場合、該通知の内容に基づき前記メモリ部へ
    の書き込み制御を行う請求項1に記載の画像通信システ
    ム。
  9. 【請求項9】 前記画像受信側に、該受信側のメモリ
    部に記憶された画像の情報を前記画像送信側に通知する
    メモリ情報通知手段を更に有し、 前記画像送信側に、前記メモリ情報通知手段から通知さ
    れた画像情報を受信し、その内容を前記送信側の参照画
    像決定部に通知するメモリ情報受信手段を更に有し、 前記画像送信側の前記参照画像決定部は、前記参照画像
    の選択を、前記信号受信部が受信した信号が示す内容及
    び前記メモリ情報受信手段から通知された情報に基づい
    て行う請求項1に記載の画像通信システム。
  10. 【請求項10】 前記画像受信側に、 前記画像データ受信部が検出したエラーの有無の情報を
    受け、エラー有りの場合には前記復号化部からの出力が
    前記受信側のメモリ部に送られず、エラー無しの場合に
    は該復号化部からの出力が該メモリ部に送られるように
    制御する切替手段を更に有する請求項1に記載の画像通
    信システム。
  11. 【請求項11】 画像送信側が、 入力画像を、フレーム間の差分を用いて圧縮を行うフレ
    ーム間符号化方式により符号化し、符号化画像データを
    出力する過程と、 画像受信側で受信された符号化画像データのエラーの有
    無とその画像番号とを通知する信号を該画像受信側から
    受信する過程と、 前記出力された符号化画像データを前記フレーム間符号
    化方式による符号化に用いる参照画像として複数保持す
    るためのバッファを有するメモリ部に少なくとも1枚の
    画像が記憶されている場合、前記画像受信側から受信し
    た信号が示す内容に基づき、前記メモリ部に記憶された
    画像の中から前記符号化で使用する参照画像を選択する
    過程と、 前記符号化において使用した参照画像の番号を前記画像
    受信側に通知する過程と、 前記出力された符号化画像データの画像番号を通知する
    過程とを有し、 画像受信側が、 前記画像送信側が出力する前記符号化画像データを受信
    し、該画像データのエラーの有無を検出して出力する過
    程と、 前記画像送信側から通知された前記符号化画像データの
    画像番号を受信する過程と、 前記受信された符号化画像データの前記画像番号と、当
    該画像データに関する前記検出されたエラーの有無とを
    通知する異常有りもしくは異常無し信号を前記画像送信
    側に送信する過程と、 前記受信された符号化画像データを復号化し、復号化画
    像データを出力する過程と、 前記画像送信側から通知された符号化時の参照画像番号
    を受信する過程と、 前記出力された復号化画像データを前記復号化に用いる
    参照画像として複数保持するためのバッファを有するメ
    モリ部に少なくとも1枚の画像が記憶されている場合、
    前記受信された参照画像番号に応じて、前記メモリ部に
    記憶された画像の中から、前記復号化で使用する参照画
    像を選択する過程とを有する画像通信方法であって、 前記画像送信側が受信した信号が示す内容に基づき、前
    記出力された符号化画像データの前記メモリ部への書き
    込み制御を行う過程を更に有し、該制御は、新たなデー
    タを書き込むか否かの判定、前記メモリ部内の書き込み
    位置の決定、前記メモリ部に既に書き込まれたデータの
    消去を含むものであり、前記符号化過程により符号化画
    像データが出力された場合、前記画像送信側の前記メモ
    リ部に空きが無い場合は、当該メモリ部に記憶されてい
    る画像の中で、前記異常無し信号を受信していない画像
    が存在するか否かを判定し、存在する場合には前記異常
    無し信号を受信していない最も古い画像を消去する画像
    通信方法。
  12. 【請求項12】 前記メモリ部への書き込み制御は、
    前記メモリ部に記憶された参照画像の中から、前記画像
    受信側で最後に正しく受信された符号化画像データに対
    応する参照画像より古い参照画像を消去することを含む
    請求項11に記載の画像通信方法。
  13. 【請求項13】 前記メモリ部への書き込み制御は、
    前記メモリ部に記憶された参照画像の中から、前記画像
    受信側から前記異常有り信号が通知された符号化画像デ
    ータに対応する参照画像を消去することを含む請求項1
    1に記載の画像通信方法。
  14. 【請求項14】 前記入力画像の処理単位は、フレー
    ム単位、フレームを構成する画像の小領域、及び、該小
    領域を構成する画素の集まりのいずれかである請求項1
    1に記載の画像通信方法。
  15. 【請求項15】 前記画像送信側が、予め設定してあ
    る時間内に前記画像受信側からの信号を受信したか否か
    を判定し、受信しなかったと判定した場合にその旨を示
    す情報を出力する過程を更に有し、 該情報が出力された場合、前記メモリ部への書き込み制
    御を行う過程は、該情報に基づき前記制御を行う請求項
    11に記載の画像通信方法。
  16. 【請求項16】 前記画像送信側が、予め設定してあ
    る量の画像を符号化する間に、前記画像受信側からの信
    号を受信したか否かを判定し、受信しなかったと判定し
    た場合にその旨を示す情報を出力する過程を更に有し、 該情報が出力された場合、前記メモリ部への書き込み制
    御を行う過程は、該情報に基づき前記制御を行う請求項
    11に記載の画像通信方法。
  17. 【請求項17】 前記画像送信側のメモリ部の内容を
    監視し、該メモリ部に前記フレーム間符号化に使用でき
    る参照画像が1つも記憶されていない場合に、その旨を
    示す情報を出力する過程を更に有し、 該情報が出力された場合、前記入力画像を符号化する過
    程は、次の画像の符号化をフレーム内符号化方式で行う
    請求項11に記載の画像通信方法。
  18. 【請求項18】 前記入力画像を符号化する過程は、
    前記フレーム間符号化方式とフレーム内符号化方式とを
    併用し、いずれかの方式により符号化を行い、 前記フレーム内符号化が行われた場合に、その旨を示す
    情報を出力する過程を更に有し、 該情報が出力された場合、前記メモリ部への書き込み制
    御を行う過程は、該情報に基づき前記制御を行う請求項
    11に記載の画像通信方法。
  19. 【請求項19】 前記画像受信側のメモリ部に記憶さ
    れた画像の情報を前記画像送信側に通知する過程と、 該情報を該画像送信側において受信する過程とを更に有
    し、 前記画像送信側において参照画像を決定する過程は、前
    記参照画像の選択を、受信された前記符号化画像データ
    のエラーの有無とその画像番号とを通知する信号及び前
    記画像受信側のメモリ部に記憶された画像の情報とに基
    づいて行う請求項11に記載の画像通信方法。
  20. 【請求項20】 前記画像受信側で検出したエラーの
    有無の情報を受け、エラー有りの場合には前記復号化さ
    れた出力が前記受信側のメモリ部に送られず、エラー無
    しの場合には該復号化された出力が該メモリ部に送られ
    るように制御する過程を更に有する請求項11に記載の
    画像通信方法。
  21. 【請求項21】 入力画像を、フレーム間の差分を用
    いて圧縮を行うフレーム間符号化方式により符号化し、
    符号化画像データを出力する符号化部と、 画像受信側で受信された符号化画像データのエラーの有
    無を通知する異常有りもしくは異常無し信号とその画像
    番号とを通知する信号を該画像受信側から受信する信号
    受信部と、 前記符号化部から出力される符号化画像データを、前記
    フレーム間符号化方式による符号化に用いる参照画像と
    して複数保持するためのバッファを有するメモリ部と、 前記メモリ部に少なくとも1枚の画像が記憶されている
    場合、前記信号受信部が受信した信号が示す内容に基づ
    き、前記メモリ部に記憶された画像の中から、前記符号
    化部が使用する参照画像を選択する参照画像決定部と、 前記符号化部が使用した参照画像の番号を前記画像受信
    側に通知する参照画像通知部と、 前記符号化部が出力する符号化画像データの画像番号を
    通知する画像番号通知部とを有する画像送信装置であっ
    て、 前記信号受信部が受信した信号が示す内容に基づき、前
    記符号化部が出力する符号化画像データの前記メモリ部
    への書き込み制御を行うメモリ変更手段を更に有し、該
    制御は、新たなデータを書き込むか否かの判定、前記メ
    モリ部内の書き込み位置の決定、前記メモリ部に既に書
    き込まれたデータの消去を含むものであり、前記符号化
    部が符号化画像データを出力した場合、前記メモリ部に
    空きが無い場合は、当該メモリ部に記憶されている画像
    の中で、前記異常無し信号を受信していない画像が存在
    するか否かを判定し、存在する場合には前記異常無し信
    号を受信していない最も古い画像を消去する画像送信装
    置。
  22. 【請求項22】 前記メモリ変更手段の書き込み制御
    は、前記メモリ部に記憶された参照画像の中から、前記
    画像受信側で最後に正しく受信された符号化画像データ
    に対応する参照画像より古い参照画像を消去することを
    含む請求項21に記載の画像送信装置。
  23. 【請求項23】 前記メモリ変更手段の書き込み制御
    は、前記メモリ部に記憶された参照画像の中から、前記
    画像受信側から前記異常有り信号が通知された符号化画
    像データに対応する参照画像を消去することを含む請求
    項21に記載の画像送信装置。
  24. 【請求項24】 前記入力画像の処理単位は、フレー
    ム単位、フレームを構成する画像の小領域、及び、該小
    領域を構成する画素の集まりのいずれかである請求項2
    1に記載の画像送信装置。
  25. 【請求項25】 前記信号受信部が、予め設定してあ
    る時間内に前記画像受信側からの信号を受信したか否か
    を判定し、受信しなかったと判定した場合に前記メモリ
    変更手段にその旨を通知するタイマ手段を更に有し、 前記メモリ変更手段は、前記タイマ手段から通知を受け
    た場合、該通知の内容に基づき前記メモリ部への書き込
    み制御を行う請求項21に記載の画像送信装置。
  26. 【請求項26】 前記符号化部が予め設定してある量
    の画像を符号化する間に、前記信号受信部が前記画像受
    信側からの信号を受信したか否かを判定し、受信しなか
    ったと判定した場合に前記メモリ変更手段にその旨を通
    知する画像計数手段を更に有し、 前記メモリ変更手段は、前記画像計数手段から通知を受
    けた場合、該通知の内容に基づき前記メモリ部への書き
    込み制御を行う請求項21に記載の画像送信装置。
  27. 【請求項27】 前記メモリ部の内容を監視し、該メ
    モリ部に前記フレーム間符号化に使用できる参照画像が
    1つも記憶されていない場合に、前記符号化部にその旨
    を通知するメモリ保持状況通知手段を更に有し、 前記符号化部は、前記メモリ保持状況通知手段から通知
    を受けた場合、次の画像の符号化をフレーム内符号化方
    式で行う請求項21に記載の画像送信装置。
  28. 【請求項28】 前記符号化部は、前記フレーム間符
    号化方式とフレーム内符号化方式とを併用し、いずれか
    の方式により符号化を行うものであり、 前記符号化部がフレーム内符号化を行った場合に、前記
    メモリ変更手段にその旨を通知する符号化状況通知手段
    を更に有し、 前記メモリ変更手段は、前記符号化状況通知手段から通
    知を受けた場合、該通知の内容に基づき前記メモリ部へ
    の書き込み制御を行う請求項21に記載の画像送信装
    置。
  29. 【請求項29】 前記画像受信側から通知される、該
    受信側のメモリ部に記憶された画像の情報を受信し、そ
    の内容を前記参照画像決定部に通知するメモリ情報受信
    手段を更に有し、 前記参照画像決定部は、前記参照画像の選択を、前記信
    号受信部が受信した信号が示す内容及び前記メモリ情報
    受信手段から通知された情報に基づいて行う請求項21
    に記載の画像送信装置。
  30. 【請求項30】 画像送信側が出力する、フレーム間
    の差分を用いて圧縮を行うフレーム間符号化方式により
    符号化された画像データを受信し、該画像データのエラ
    ーの有無を検出して出力する画像データ受信部と、 前記画像送信側から通知される前記符号化画像データの
    画像番号を受信する画像番号受信部と、 前記画像番号受信部が受信した符号化画像データの前記
    画像番号と、当該画像データに関する前記画像データ受
    信部が検出したエラーの有無とを通知する信号を前記画
    像送信側に送信する信号送出部と、 前記画像データ受信部が受信した符号化画像データを復
    号化し、復号化画像データを出力する復号化部と、 前記復号化部から出力される復号化画像データを、前記
    復号化に用いる参照画像として複数保持するためのバッ
    ファを有するメモリ部と、 前記画像送信側から通知される符号化時の参照画像番号
    を受信する参照画像番号受信部と、 前記メモリ部に少なくとも1枚の画像が記憶されている
    場合、前記参照画像番号受信部が受信した参照画像番号
    に応じて、前記メモリ部に記憶された画像の中から、前
    記復号化部が使用する参照画像を選択する参照画像決定
    部とを有する画像受信装置であって、 前記メモリ部に記憶された画像の情報を前記画像送信側
    に通知するメモリ情報通知手段を更に有する画像受信装
    置。
  31. 【請求項31】 入力画像を、フレーム間の差分を用
    いて圧縮を行うフレーム間符号化方式により符号化し、
    符号化画像データを出力する過程と、 画像受信側で受信された符号化画像データのエラーの有
    無を通知する異常有りもしくは異常無し信号とその画像
    番号とを通知する信号を該画像受信側から受信する過程
    と、 前記出力された符号化画像データを前記フレーム間符号
    化方式による符号化に用いる参照画像として複数保持す
    るためのバッファを有するメモリ部に少なくとも1枚の
    画像が記憶されている場合、前記画像受信側から受信し
    た信号が示す内容に基づき、前記メモリ部に記憶された
    画像の中から前記符号化で使用する参照画像を選択する
    過程と、 前記符号化において使用した参照画像の番号を前記画像
    受信側に通知する過程と、 前記出力された符号化画像データの画像番号を通知する
    過程とを有する画像送信方法であって、 前記画像送信側が受信した信号が示す内容に基づき、前
    記出力された符号化画像データの前記メモリ部への書き
    込み制御を行う過程を更に有し、該制御は、新たなデー
    タを書き込むか否かの判定、前記メモリ部内の書き込み
    位置の決定、前記メモリ部に既に書き込まれたデータの
    消去を含むものであり、前記符号化過程により符号化画
    像データが出力された場合、前記画像送信側の前記メモ
    リ部に空きが無い場合は、当該メモリ部に記憶されてい
    る画像の中で、前記異常無し信号を受信していない画像
    が存在するか否かを判定し、存在する場合には前記異常
    無し信号を受信していない最も古い画像を消去する画像
    送信方法。
  32. 【請求項32】 前記メモリ部への書き込み制御は、
    前記メモリ部に記憶された参照画像の中から、前記画像
    受信側で最後に正しく受信された符号化画像データに対
    応する参照画像より古い参照画像を消去することを含む
    請求項31に記載の画像送信方法。
  33. 【請求項33】 前記メモリ部への書き込み制御は、
    前記メモリ部に記憶された参照画像の中から、前記画像
    受信側から前記異常有り信号が通知された符号化画像デ
    ータに対応する参照画像を消去することを含む請求項
    に記載の画像送信方法。
  34. 【請求項34】 前記入力画像の処理単位は、フレー
    ム単位、フレームを構成する画像の小領域、及び、該小
    領域を構成する画素の集まりのいずれかである請求項
    に記載の画像送信方法。
  35. 【請求項35】 予め設定してある時間内に前記画像
    受信側からの信号を受信したか否かを判定し、受信しな
    かったと判定した場合にその旨を示す情報を出力する過
    程を更に有し、 該情報が出力された場合、前記メモリ部への書き込み制
    御を行う過程は、該情報に基づき前記制御を行う請求項
    31に記載の画像送信方法。
  36. 【請求項36】 予め設定してある量の画像を符号化
    する間に、前記画像受信側からの信号を受信したか否か
    を判定し、受信しなかったと判定した場合にその旨を示
    す情報を出力する過程を更に有し、 該情報が出力された場合、前記メモリ部への書き込み制
    御を行う過程は、該情報に基づき前記制御を行う請求項
    31に記載の画像送信方法。
  37. 【請求項37】 前記メモリ部の内容を監視し、該メ
    モリ部に前記フレーム間符号化に使用できる参照画像が
    1つも記憶されていない場合に、その旨を示す情報を出
    力する過程を更に有し、 該情報が出力された場合、前記入力画像を符号化する過
    程は、次の画像の符号化をフレーム内符号化方式で行う
    請求項31に記載の画像送信方法。
  38. 【請求項38】 前記入力画像を符号化する過程は、
    前記フレーム間符号化方式とフレーム内符号化方式とを
    併用し、いずれかの方式により符号化を行い、 前記フレーム内符号化が行われた場合に、その旨を示す
    情報を出力する過程を更に有し、 該情報が出力された場合、前記メモリ部への書き込み制
    御を行う過程は、該情報に基づき前記制御を行う請求項
    31に記載の画像送信方法。
  39. 【請求項39】 前記画像受信側のメモリ部に記憶さ
    れた画像の情報を該受信側から受信する過程を更に有
    し、 前記参照画像を決定する過程は、前記参照画像の選択
    を、受信された前記符号化画像データのエラーの有無と
    その画像番号とを通知する信号及び前記画像受信側のメ
    モリ部に記憶された画像の情報とに基づいて行う請求項
    31に記載の画像送信方法。
  40. 【請求項40】 コンピュータに請求項31〜39
    ずれかに記載の方法を実行させるためのプログラムを記
    録したコンピュータ読み取り可能な記録媒体。
  41. 【請求項41】 画像送信側が出力する、フレーム間
    の差分を用いて圧縮を行うフレーム間符号化方式により
    符号化された画像データを受信し、該画像データのエラ
    ーの有無を検出して出力する過程と、 前記画像送信側から通知される前記符号化画像データの
    画像番号を受信する過程と、 前記受信された符号化画像データの前記画像番号と、当
    該画像データに関する前記検出されたエラーの有無とを
    通知する信号を前記画像送信側に送信する過程と、 前記受信された符号化画像データを復号化し、復号化画
    像データを出力する過程と、 前記画像送信側から通知される符号化時の参照画像番号
    を受信する過程と、 前記出力された復号化画像データを前記復号化に用いる
    参照画像として複数保持するためのバッファを有するメ
    モリ部に少なくとも1枚の画像が記憶されている場合、
    前記受信された参照画像番号に応じて、前記メモリ部に
    記憶された画像の中から、前記復号化で使用する参照画
    像を選択する過程とを有する画像受信方法であって、 前記メモリ部に記憶された画像の情報を前記画像送信側
    に通知する過程を更に有する画像受信方法。
  42. 【請求項42】 コンピュータに請求項41に記載の
    方法を実行させるためのプログラムを記録したコンピュ
    ータ読み取り可能な記録媒体。
  43. 【請求項43】 前記メモリ変更手段の書き込み制御
    は、前記メモリ部に記憶された参照画像の中から、前記
    画像受信側から前記異常有り信号が通知された符号化画
    像データに対応する参照画像以降の参照画像を全て消去
    することを含む請求項1に記載の画像通信システム。
  44. 【請求項44】 前記メモリ部への書き込み制御は、前
    記メモリ部に記憶された参照画像の中から、前記画像受
    信側から前記異常有り信号が通知された符号化画像デー
    タに対応する参照画像以降の参照画像を全て消去するこ
    とを含む請求項11に記載の画像通信方法。
  45. 【請求項45】 前記メモリ変更手段の書き込み制御
    は、前記メモリ部に記憶された参照画像の中から、前記
    画像受信側から前記異常有り信号が通知された符号化画
    像データに対応する参照画像以降の参照画像を全て消去
    することを含む請求項21に記載の画像送信装置。
  46. 【請求項46】 前記メモリ部への書き込み制御は、前
    記メモリ部に記憶された参照画像の中から、前記画像受
    信側から前記異常有り信号が通知された符号化画像デー
    タに対応する参照画像以降の参照画像を全て消去するこ
    とを含む請求項31に記載の画像送信方法。
JP17984797A 1996-07-05 1997-07-04 画像通信システム及び方法 Expired - Lifetime JP3157123B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP17984797A JP3157123B2 (ja) 1996-07-05 1997-07-04 画像通信システム及び方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP17605296 1996-07-05
JP8-176052 1996-07-05
JP17984797A JP3157123B2 (ja) 1996-07-05 1997-07-04 画像通信システム及び方法

Publications (2)

Publication Number Publication Date
JPH1093979A JPH1093979A (ja) 1998-04-10
JP3157123B2 true JP3157123B2 (ja) 2001-04-16

Family

ID=26497124

Family Applications (1)

Application Number Title Priority Date Filing Date
JP17984797A Expired - Lifetime JP3157123B2 (ja) 1996-07-05 1997-07-04 画像通信システム及び方法

Country Status (1)

Country Link
JP (1) JP3157123B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9641867B2 (en) 2014-10-24 2017-05-02 Megachips Corporation Image processor

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3606306B2 (ja) * 1998-10-08 2005-01-05 沖電気工業株式会社 画像符号化装置、画像復号化装置及び画像伝送システム
GB2362531A (en) * 2000-05-15 2001-11-21 Nokia Mobile Phones Ltd Indicating the temporal order of reference frames in a video sequence
US7827467B2 (en) * 2006-01-04 2010-11-02 Nokia Corporation Method for checking of video encoder and decoder state integrity
JPWO2012114774A1 (ja) * 2011-02-25 2014-07-07 パナソニック株式会社 動画像符号化装置および動画像復号装置
JP2013247651A (ja) * 2012-05-29 2013-12-09 Canon Inc 符号化装置、符号化方法およびプログラム
US9807407B2 (en) * 2013-12-02 2017-10-31 Qualcomm Incorporated Reference picture selection
JP6490946B2 (ja) * 2014-10-24 2019-03-27 株式会社メガチップス 画像処理装置
JP6490945B2 (ja) * 2014-10-24 2019-03-27 株式会社メガチップス 画像処理装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9641867B2 (en) 2014-10-24 2017-05-02 Megachips Corporation Image processor
US10327009B2 (en) 2014-10-24 2019-06-18 Megachips Corporation Image processor

Also Published As

Publication number Publication date
JPH1093979A (ja) 1998-04-10

Similar Documents

Publication Publication Date Title
KR100538023B1 (ko) 화상 부호화장치
WO1998002002A1 (en) Image communication system and method
JP3923898B2 (ja) 画像符号化方法及び装置
US20070110158A1 (en) Encoding apparatus, encoding method, decoding apparatus, and decoding method
JP3157123B2 (ja) 画像通信システム及び方法
KR100374245B1 (ko) 화상부호화장치,화상복호화장치및화상전송시스템
US7403566B2 (en) System, computer program product, and method for transmitting compressed screen images from one computer to another or many computers
US9467639B2 (en) Video transmission apparatus and control method for video transmission apparatus
WO2004080083A1 (ja) 画像符号化方法および画像復号化方法
JP2007013419A (ja) 画像処理装置、画像処理方法
JP3065251B2 (ja) 動画像復号装置
JP2002027483A (ja) 画像符号化装置、画像復号化装置および記憶媒体
JPH05898B2 (ja)
WO2005079075A1 (en) A method for encoding of decoding video data and an apparatus thereof
JPH07193821A (ja) 動画像符号化装置および方法
JPH1169298A (ja) 監視画像記録装置
US7999853B2 (en) Moving image reproducing apparatus and processing method therefor
JPH10234045A (ja) 動画像通信装置
JP3121411B2 (ja) ファクシミリ蓄積交換装置
JPH11317946A (ja) 画像通信方法、画像通信システム、および、画像通信プログラムを記録した記録媒体
JP4514994B2 (ja) ファクシミリ複合機
JPH05167868A (ja) 画像伝送装置
JP3868148B2 (ja) 符号データ出力装置
JP2798405B2 (ja) データ通信装置
JP3270232B2 (ja) データ圧縮装置

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080209

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090209

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090209

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100209

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110209

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110209

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120209

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130209

Year of fee payment: 12

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term