JPH0787493A - フレーム内挿方法 - Google Patents
フレーム内挿方法Info
- Publication number
- JPH0787493A JPH0787493A JP5228401A JP22840193A JPH0787493A JP H0787493 A JPH0787493 A JP H0787493A JP 5228401 A JP5228401 A JP 5228401A JP 22840193 A JP22840193 A JP 22840193A JP H0787493 A JPH0787493 A JP H0787493A
- Authority
- JP
- Japan
- Prior art keywords
- frame
- interpolation
- patch
- transmission
- motion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
(57)【要約】
【目的】 内挿画像中にぼけ、エッジずれ、濃淡の不連
続性等の画質劣化が発生するという欠点を除去し、画質
の向上を図る。 【構成】 フレーム内挿回路20において、受信側に伝
送された2つの連続する伝送フレームの一方又は両方が
多角形パッチに分割される。さらに、伝送フレームの各
ブロックの動きベクトルに基づき、アフィン変換決定回
路22により、多角形パッチ毎の内挿フレームに対する
アフィン変換が決定される。内挿フレーム走査回路2
3、アフィン変換回路24、及び内挿フレームメモリ2
5により、アフィン変換を用いて伝送フレームデータか
ら内挿フレームデータが作成される。
続性等の画質劣化が発生するという欠点を除去し、画質
の向上を図る。 【構成】 フレーム内挿回路20において、受信側に伝
送された2つの連続する伝送フレームの一方又は両方が
多角形パッチに分割される。さらに、伝送フレームの各
ブロックの動きベクトルに基づき、アフィン変換決定回
路22により、多角形パッチ毎の内挿フレームに対する
アフィン変換が決定される。内挿フレーム走査回路2
3、アフィン変換回路24、及び内挿フレームメモリ2
5により、アフィン変換を用いて伝送フレームデータか
ら内挿フレームデータが作成される。
Description
【0001】
【産業上の利用分野】本発明は、テレビジョン(以下、
TVという)電話、TV会議等の動画像を圧縮して符号
化する際の圧縮符号化方法におけるフレーム内挿方法に
関するものである。
TVという)電話、TV会議等の動画像を圧縮して符号
化する際の圧縮符号化方法におけるフレーム内挿方法に
関するものである。
【0002】
【従来の技術】従来、このような分野の技術としては、
例えば次のような文献に記載されるものがあった。 文献;特開平4−72985号公報 一般に、TV電話やTV会議等の画像通信システムにお
いては、通信路の伝送速度に制限があるため、ある時刻
における画像(これを「フレーム」と呼ぶ)を送信側で
コマ落としすることにより、送信データ量を減らすこと
がある。この場合、受信側では、コマ落としされたフレ
ームを再生するためにフレーム内挿を行う。フレーム内
挿方法としては、前記文献に記載される方法がある。こ
のフレーム内挿方法は、フレームをブロックに分割し、
その分割されたブロック毎に動き補償(以下、MCとい
う)を行い、動きベクトルと動き誤差とを符号化して受
信側に伝送する圧縮符号化方法の受信の処理において、
次のような処理を行う。即ち、注目ブロックとその周辺
ブロックに関する動きベクトルと、動き補償誤差とに基
づいて、該注目ブロックの動きベクトルを修正し、この
動きベクトルを用いて、送信側でコマ落としされたフレ
ームを再生するようになっている。
例えば次のような文献に記載されるものがあった。 文献;特開平4−72985号公報 一般に、TV電話やTV会議等の画像通信システムにお
いては、通信路の伝送速度に制限があるため、ある時刻
における画像(これを「フレーム」と呼ぶ)を送信側で
コマ落としすることにより、送信データ量を減らすこと
がある。この場合、受信側では、コマ落としされたフレ
ームを再生するためにフレーム内挿を行う。フレーム内
挿方法としては、前記文献に記載される方法がある。こ
のフレーム内挿方法は、フレームをブロックに分割し、
その分割されたブロック毎に動き補償(以下、MCとい
う)を行い、動きベクトルと動き誤差とを符号化して受
信側に伝送する圧縮符号化方法の受信の処理において、
次のような処理を行う。即ち、注目ブロックとその周辺
ブロックに関する動きベクトルと、動き補償誤差とに基
づいて、該注目ブロックの動きベクトルを修正し、この
動きベクトルを用いて、送信側でコマ落としされたフレ
ームを再生するようになっている。
【0003】図2は、前記文献に記載された、修正され
た動きベクトルを用いた内挿フレーム作成の様子を説明
する図である。図2の1,3は受信側に伝送された連続
する2つのフレーム、2は内挿フレーム、4,5は内挿
処理に用いるフレーム1,3内のブロック、6は現在の
内挿処理をしている内挿フレーム2内のブロック、及び
7はフレーム1内のブロック4が次のフレーム3におい
てブロック5の位置まで移動したときの動きベクトルを
それぞれ示す。図2において、動きベクトル7に基づい
て、フレーム1内のブロック4に対応する次フレーム3
及び内挿フレーム2内のブロック5,6の位置が明らか
になるので、次式(1)に基づいてブロック6の画像デ
ータBが計算され、内挿フレーム2が再生される。 B=(1−a)・B1 +a・B2 ・・・(1) 但し、B1 ;ブロック4の画像データ B2 ;ブロック5の画像データ a;(内挿フレーム2の時刻−フレーム1の時刻)/
(フレーム3の時刻−フレーム1の時刻) 従って、この種のフレーム内挿方法では、送信側での動
きベクトルの検出精度がある程度悪い場合においても、
該動きベクトルが信頼性の高い周辺ブロックの動きベク
トルによって修正され、このベクトル値に基づいて内挿
画像を生成するので、画像中の対象物が大局的及び局所
的に平行移動する場合に対し、有効である。
た動きベクトルを用いた内挿フレーム作成の様子を説明
する図である。図2の1,3は受信側に伝送された連続
する2つのフレーム、2は内挿フレーム、4,5は内挿
処理に用いるフレーム1,3内のブロック、6は現在の
内挿処理をしている内挿フレーム2内のブロック、及び
7はフレーム1内のブロック4が次のフレーム3におい
てブロック5の位置まで移動したときの動きベクトルを
それぞれ示す。図2において、動きベクトル7に基づい
て、フレーム1内のブロック4に対応する次フレーム3
及び内挿フレーム2内のブロック5,6の位置が明らか
になるので、次式(1)に基づいてブロック6の画像デ
ータBが計算され、内挿フレーム2が再生される。 B=(1−a)・B1 +a・B2 ・・・(1) 但し、B1 ;ブロック4の画像データ B2 ;ブロック5の画像データ a;(内挿フレーム2の時刻−フレーム1の時刻)/
(フレーム3の時刻−フレーム1の時刻) 従って、この種のフレーム内挿方法では、送信側での動
きベクトルの検出精度がある程度悪い場合においても、
該動きベクトルが信頼性の高い周辺ブロックの動きベク
トルによって修正され、このベクトル値に基づいて内挿
画像を生成するので、画像中の対象物が大局的及び局所
的に平行移動する場合に対し、有効である。
【0004】
【発明が解決しようとする課題】しかしながら、従来の
フレーム内挿方法では、次のような問題があり、それを
解決することが困難であった。 (a) 従来のフレーム内挿方法では、画像中の対象物
に回転や変形を伴う変化が存在する場合、動きベクトル
だけではブロックの動きを正確に表現できないため、
(1)式により内挿を行うと、内挿画像中にぼけやエッ
ジずれ等の画質劣化が発生する。 (b) 画像中の対象物に回転や変形を伴う変化が存在
する場合や、動きベクトルに誤差がある場合、(1)式
により内挿処理されたブロックのデータは、本来あるべ
きデータに対して位置のずれたデータとなる。そのた
め、結果的に内挿画像上に濃淡の不連続性が現れる画質
劣化(例えば、ブロック歪みやデータの欠落・重複等)
が発生しやすくなる。 本発明は、前記従来技術が持っていた課題として、内挿
画像中にぼけ、エッジずれ、濃淡の不連続性等の画質劣
化が発生するという点について解決し、画質の優れたフ
レーム内挿方法を提供することを目的とする。
フレーム内挿方法では、次のような問題があり、それを
解決することが困難であった。 (a) 従来のフレーム内挿方法では、画像中の対象物
に回転や変形を伴う変化が存在する場合、動きベクトル
だけではブロックの動きを正確に表現できないため、
(1)式により内挿を行うと、内挿画像中にぼけやエッ
ジずれ等の画質劣化が発生する。 (b) 画像中の対象物に回転や変形を伴う変化が存在
する場合や、動きベクトルに誤差がある場合、(1)式
により内挿処理されたブロックのデータは、本来あるべ
きデータに対して位置のずれたデータとなる。そのた
め、結果的に内挿画像上に濃淡の不連続性が現れる画質
劣化(例えば、ブロック歪みやデータの欠落・重複等)
が発生しやすくなる。 本発明は、前記従来技術が持っていた課題として、内挿
画像中にぼけ、エッジずれ、濃淡の不連続性等の画質劣
化が発生するという点について解決し、画質の優れたフ
レーム内挿方法を提供することを目的とする。
【0005】
【課題を解決するための手段】第1の発明は、前記課題
を解決するために、伝送フレームをブロックに分割し、
分割されたブロック毎に動き補償を行い、動きベクトル
と動き誤差とを符号化して受信側に伝送する圧縮符号化
の受信の処理で、送信側でコマ落としされたフレームを
再生し、フレームレートを増加する処理を行うフレーム
内挿方法において、次のような手段を講じている。即
ち、受信側に伝送された2つの連続する伝送フレームの
一方又は両方を多角形のパッチ(領域)に分割し、さら
に、該伝送フレームの各ブロックの動きベクトルに基づ
いて多角形パッチ毎の内挿フレームに対する幾何学的変
換を決定する。そして、決定された幾何学的変換を用い
て伝送フレームデータから内挿フレームデータを作成す
る。第2の発明では、第1の発明の多角形パッチの分割
の際には、前記伝送フレームの各ブロックの中心位置を
頂点とした多角形パッチを用いる。第3の発明では、第
1の発明の幾何学的変換の決定の際には、前記伝送フレ
ーム内の多角形パッチ毎に内挿フレーム内の対応する領
域との関係をアフィン変換として表現し決定する。第4
の発明では、第1の発明の幾何学的変換の決定の際に
は、伝送された動きベクトルを、注目ブロック及び近傍
ブロックの動きベクトルと動き補償誤差とを考慮して修
正し、その修正されたベクトルに基づいて、前記多角形
パッチ毎の内挿フレームに対する幾何学的変換を決定す
る。
を解決するために、伝送フレームをブロックに分割し、
分割されたブロック毎に動き補償を行い、動きベクトル
と動き誤差とを符号化して受信側に伝送する圧縮符号化
の受信の処理で、送信側でコマ落としされたフレームを
再生し、フレームレートを増加する処理を行うフレーム
内挿方法において、次のような手段を講じている。即
ち、受信側に伝送された2つの連続する伝送フレームの
一方又は両方を多角形のパッチ(領域)に分割し、さら
に、該伝送フレームの各ブロックの動きベクトルに基づ
いて多角形パッチ毎の内挿フレームに対する幾何学的変
換を決定する。そして、決定された幾何学的変換を用い
て伝送フレームデータから内挿フレームデータを作成す
る。第2の発明では、第1の発明の多角形パッチの分割
の際には、前記伝送フレームの各ブロックの中心位置を
頂点とした多角形パッチを用いる。第3の発明では、第
1の発明の幾何学的変換の決定の際には、前記伝送フレ
ーム内の多角形パッチ毎に内挿フレーム内の対応する領
域との関係をアフィン変換として表現し決定する。第4
の発明では、第1の発明の幾何学的変換の決定の際に
は、伝送された動きベクトルを、注目ブロック及び近傍
ブロックの動きベクトルと動き補償誤差とを考慮して修
正し、その修正されたベクトルに基づいて、前記多角形
パッチ毎の内挿フレームに対する幾何学的変換を決定す
る。
【0006】第5の発明では、第1の発明のフレーム内
挿方法において、前記ブロックのうちの動きベクトルが
伝送されないブロック(即ち、動き補償が行われずに伝
送されるブロック)については、近傍ブロックの動きベ
クトルと動き補償誤差とに基づいて動きベクトルを計算
し、あるいは、伝送されたフレームデータ間のパタンマ
ッチングによって動きベクトルを計算する。この計算さ
れた動きベクトルに基づいて前記多角形パッチ毎の内挿
フレームに対する幾何学的変換を決定する。第6の発明
では、第1の発明のフレーム内挿方法において、受信側
に伝送された2つの連続する伝送フレームの両方に基づ
いて各々内挿フレームデータを作成し、この2つの内挿
フレームデータの重み付き加算結果を最終的な内挿フレ
ームデータとする。第7の発明では、第2の発明の多角
形パッチの分割の際には、前記伝送フレームの隣接する
3つのブロックの中心位置を頂点とした三角形パッチを
用いる。第8の発明では、第2の発明の多角形パッチの
分割の際には、前記伝送フレームの隣接する4つのブロ
ックの中心位置を頂点とした正方形パッチを用いる。
挿方法において、前記ブロックのうちの動きベクトルが
伝送されないブロック(即ち、動き補償が行われずに伝
送されるブロック)については、近傍ブロックの動きベ
クトルと動き補償誤差とに基づいて動きベクトルを計算
し、あるいは、伝送されたフレームデータ間のパタンマ
ッチングによって動きベクトルを計算する。この計算さ
れた動きベクトルに基づいて前記多角形パッチ毎の内挿
フレームに対する幾何学的変換を決定する。第6の発明
では、第1の発明のフレーム内挿方法において、受信側
に伝送された2つの連続する伝送フレームの両方に基づ
いて各々内挿フレームデータを作成し、この2つの内挿
フレームデータの重み付き加算結果を最終的な内挿フレ
ームデータとする。第7の発明では、第2の発明の多角
形パッチの分割の際には、前記伝送フレームの隣接する
3つのブロックの中心位置を頂点とした三角形パッチを
用いる。第8の発明では、第2の発明の多角形パッチの
分割の際には、前記伝送フレームの隣接する4つのブロ
ックの中心位置を頂点とした正方形パッチを用いる。
【0007】第9の発明では、第1の発明と同様のフレ
ーム内挿方法において、受信側に伝送された2つの連続
する伝送フレームの一方を多角形パッチに分割し、さら
に、該伝送フレームの各ブロックの動きベクトルに基づ
いて多角形パッチ毎に前記2つの伝送フレーム各々の内
挿フレームに対する幾何学的変換を決定する。この決定
された2つの幾何学的変換を用いて前記2つの伝送フレ
ームデータから内挿フレームデータを作成する。第10
の発明では、第1の発明と同様のフレーム内挿方法にお
いて、内挿フレームを多角形パッチに分割し、受信され
た各ブロックの動きブロックの動きベクトルに基づいて
多角形パッチの頂点毎の動きを推定する。この推定値に
基づいて多角形パッチ毎の伝送フレームに対する幾何学
的変換を決定し、その決定された幾何学的変換を用いて
伝送フレームデータから内挿フレームデータを作成す
る。第11の発明では、第10の発明の多角形パッチの
頂点毎の動きの推定の際には、ブロック毎の動きベクト
ルに基づいて該ブロックに対応する内挿フレーム内のブ
ロック領域の位置を計算する。その後、多角形パッチの
頂点毎に、該頂点を中心とする所定の領域中に含まれる
前記ブロックの領域の、大きさ、対応する動きベクト
ル、及び対応する動き補償誤差の少なくとも一つ以上を
考慮して前記頂点の動きを推定する。第12の発明で
は、第10の発明の多角形パッチの頂点毎の動きの推定
の際には、ブロック毎の動きベクトルに基づいて該ブロ
ックの代表点に対応する内挿フレーム内の代表点の位置
を計算する。その後、多角形パッチの頂点毎に、該頂点
を中心とする所定の領域中に含まれる前記内挿フレーム
内の代表点の、位置、対応する動きベクトル、及び対応
する動き補償誤差の少なくとも一つ以上を考慮して前記
頂点の動きを推定する。
ーム内挿方法において、受信側に伝送された2つの連続
する伝送フレームの一方を多角形パッチに分割し、さら
に、該伝送フレームの各ブロックの動きベクトルに基づ
いて多角形パッチ毎に前記2つの伝送フレーム各々の内
挿フレームに対する幾何学的変換を決定する。この決定
された2つの幾何学的変換を用いて前記2つの伝送フレ
ームデータから内挿フレームデータを作成する。第10
の発明では、第1の発明と同様のフレーム内挿方法にお
いて、内挿フレームを多角形パッチに分割し、受信され
た各ブロックの動きブロックの動きベクトルに基づいて
多角形パッチの頂点毎の動きを推定する。この推定値に
基づいて多角形パッチ毎の伝送フレームに対する幾何学
的変換を決定し、その決定された幾何学的変換を用いて
伝送フレームデータから内挿フレームデータを作成す
る。第11の発明では、第10の発明の多角形パッチの
頂点毎の動きの推定の際には、ブロック毎の動きベクト
ルに基づいて該ブロックに対応する内挿フレーム内のブ
ロック領域の位置を計算する。その後、多角形パッチの
頂点毎に、該頂点を中心とする所定の領域中に含まれる
前記ブロックの領域の、大きさ、対応する動きベクト
ル、及び対応する動き補償誤差の少なくとも一つ以上を
考慮して前記頂点の動きを推定する。第12の発明で
は、第10の発明の多角形パッチの頂点毎の動きの推定
の際には、ブロック毎の動きベクトルに基づいて該ブロ
ックの代表点に対応する内挿フレーム内の代表点の位置
を計算する。その後、多角形パッチの頂点毎に、該頂点
を中心とする所定の領域中に含まれる前記内挿フレーム
内の代表点の、位置、対応する動きベクトル、及び対応
する動き補償誤差の少なくとも一つ以上を考慮して前記
頂点の動きを推定する。
【0008】第13の発明では、第10の発明の多角形
パッチの頂点毎の動きの推定の際には、注目する頂点の
動きを、近傍の頂点の動き及び(又は)動き誤差を考慮
して修正する。第14の発明では、第10の発明の幾何
学的変換の決定の際には、内挿フレーム内の多角形パッ
チ毎に伝送フレーム内の対応する領域との関係をアフィ
ン変換として表現し決定する。第15の発明では、第1
0の発明の内挿フレームデータ作成に用いる伝送フレー
ムデータを、内挿フレームの前後に隣接する2つの伝送
フレームのうちいずれか一方のデータとする。第16の
発明では、第10の発明の内挿フレームデータ作成に用
いる伝送フレームデータを、内挿フレームの前後に隣接
する2つの伝送フレームの両方とし、さらに、2つの伝
送フレームデータの各々から計算される内挿データの重
み付き加算を行うことによって前記内挿フレームデータ
を作成する。第17の発明では、第13の発明の頂点の
動き誤差を、頂点を中心とした内挿フレーム内の局所領
域に対応する、該内挿フレームの前後に隣接する2つの
伝送フレームの領域データに基づいて計算する。
パッチの頂点毎の動きの推定の際には、注目する頂点の
動きを、近傍の頂点の動き及び(又は)動き誤差を考慮
して修正する。第14の発明では、第10の発明の幾何
学的変換の決定の際には、内挿フレーム内の多角形パッ
チ毎に伝送フレーム内の対応する領域との関係をアフィ
ン変換として表現し決定する。第15の発明では、第1
0の発明の内挿フレームデータ作成に用いる伝送フレー
ムデータを、内挿フレームの前後に隣接する2つの伝送
フレームのうちいずれか一方のデータとする。第16の
発明では、第10の発明の内挿フレームデータ作成に用
いる伝送フレームデータを、内挿フレームの前後に隣接
する2つの伝送フレームの両方とし、さらに、2つの伝
送フレームデータの各々から計算される内挿データの重
み付き加算を行うことによって前記内挿フレームデータ
を作成する。第17の発明では、第13の発明の頂点の
動き誤差を、頂点を中心とした内挿フレーム内の局所領
域に対応する、該内挿フレームの前後に隣接する2つの
伝送フレームの領域データに基づいて計算する。
【0009】
【作用】第1の発明によれば、以上のようにフレーム内
挿方法を構成したので、受信側に伝送された2つの連続
する伝送フレームが多角形パッチに分割され、その多角
形パッチが伝送フレーム上に設定され、隣接する多角形
パッチ間で濃淡の連続性が保たれる。さらに、決定され
る幾何学的変換には、平行移動だけでなく、回転や拡大
・縮小等を含むので、画像中の対象物が複雑な動きをし
ても、その動きに対する内挿が行える。第2の発明によ
れば、パッチ頂点とブロック中心とを一致させることに
より、ブロックの動きベクトルをパッチ頂点動き量と見
なせる。第3の発明によれば、パッチ毎のアフィン変換
により、画像の変形の表現が行える。第4の発明によれ
ば、伝送された動きベクトルを修正することにより、送
信時の動きベクトル検出誤差や、パッチ頂点の動き推定
誤差の吸収が行える。第5の発明によれば、動きベクト
ルが伝送されないブロック(即ち、動き補償が行われず
に伝送されるブロック)に対し、動きベクトルが計算さ
れる。第6の発明によれば、受信側に伝送された2つの
連続する伝送フレームの両方に基づいて各々内挿フレー
ムデータが作成されるので、前後フレームとの相関の高
い内挿フレームデータの作成が行える。第7の発明によ
れば、幾何学的変換としてアフィン変換を適用した場
合、三角形パッチに対する方程式の数が例えば6個得ら
れ、その6個のアフィン係数の決定が行える。第8の発
明によれば、正方形パッチを用いることにより、パッチ
総数の減少と、処理時間の短縮化が図れる。
挿方法を構成したので、受信側に伝送された2つの連続
する伝送フレームが多角形パッチに分割され、その多角
形パッチが伝送フレーム上に設定され、隣接する多角形
パッチ間で濃淡の連続性が保たれる。さらに、決定され
る幾何学的変換には、平行移動だけでなく、回転や拡大
・縮小等を含むので、画像中の対象物が複雑な動きをし
ても、その動きに対する内挿が行える。第2の発明によ
れば、パッチ頂点とブロック中心とを一致させることに
より、ブロックの動きベクトルをパッチ頂点動き量と見
なせる。第3の発明によれば、パッチ毎のアフィン変換
により、画像の変形の表現が行える。第4の発明によれ
ば、伝送された動きベクトルを修正することにより、送
信時の動きベクトル検出誤差や、パッチ頂点の動き推定
誤差の吸収が行える。第5の発明によれば、動きベクト
ルが伝送されないブロック(即ち、動き補償が行われず
に伝送されるブロック)に対し、動きベクトルが計算さ
れる。第6の発明によれば、受信側に伝送された2つの
連続する伝送フレームの両方に基づいて各々内挿フレー
ムデータが作成されるので、前後フレームとの相関の高
い内挿フレームデータの作成が行える。第7の発明によ
れば、幾何学的変換としてアフィン変換を適用した場
合、三角形パッチに対する方程式の数が例えば6個得ら
れ、その6個のアフィン係数の決定が行える。第8の発
明によれば、正方形パッチを用いることにより、パッチ
総数の減少と、処理時間の短縮化が図れる。
【0010】第9の発明によれば、2つの前後フレーム
との相関の高い内挿フレームデータの作成が行える。第
10の発明によれば、多角形パッチが内挿フレーム上に
設定され、隣接する多角形パッチ間で濃淡の連続性が保
たれる。さらに、幾何学的変換には、平行移動だけでな
く、回転や拡大・縮小等を含むので、画像中の対象物の
複雑な動きに対しても内挿が行える。第11の発明によ
れば、多角形パッチ頂点の動きは、周辺領域の動きとの
相関が強いので、そのパッチ頂点の動きの推定が行え
る。第12の発明によれば、周辺領域の動きに対して相
関が強い多角形パッチ頂点の動きが推定される。第13
の発明によれば、注目する頂点の動きが修正されるの
で、送信時の動きベクトル検出誤差や、パッチ頂点の動
き推定誤差が吸収される。第14の発明によれば、一般
の画像が画素間相関が強いことから、パッチ毎のアフィ
ン変換によって画像の変形に対する表現が行える。第1
5の発明によれば、内挿フレームの前後に隣接する2つ
の伝送フレームのうちのいずれか一方の伝送フレームを
用いて内挿フレームデータの作成が行われるので、装置
構成の簡略化が図れる。第16の発明によれば、内挿フ
レームの前後に隣接する2つの伝送フレームの両方を用
いて内挿フレームデータが作成されるので、動きの激し
い画像に対してもフレーム間相関の高い内挿フレームデ
ータの作成が行える。第17の発明によれば、内挿フレ
ームの前後に隣接する2つの伝送フレーム間の相関が強
い程、内挿フレーム中の各パッチ頂点の動き推定誤差が
小さくなるので、この関係に基づいた動き誤差の計算が
行われる。従って、前記課題を解決できるのである。
との相関の高い内挿フレームデータの作成が行える。第
10の発明によれば、多角形パッチが内挿フレーム上に
設定され、隣接する多角形パッチ間で濃淡の連続性が保
たれる。さらに、幾何学的変換には、平行移動だけでな
く、回転や拡大・縮小等を含むので、画像中の対象物の
複雑な動きに対しても内挿が行える。第11の発明によ
れば、多角形パッチ頂点の動きは、周辺領域の動きとの
相関が強いので、そのパッチ頂点の動きの推定が行え
る。第12の発明によれば、周辺領域の動きに対して相
関が強い多角形パッチ頂点の動きが推定される。第13
の発明によれば、注目する頂点の動きが修正されるの
で、送信時の動きベクトル検出誤差や、パッチ頂点の動
き推定誤差が吸収される。第14の発明によれば、一般
の画像が画素間相関が強いことから、パッチ毎のアフィ
ン変換によって画像の変形に対する表現が行える。第1
5の発明によれば、内挿フレームの前後に隣接する2つ
の伝送フレームのうちのいずれか一方の伝送フレームを
用いて内挿フレームデータの作成が行われるので、装置
構成の簡略化が図れる。第16の発明によれば、内挿フ
レームの前後に隣接する2つの伝送フレームの両方を用
いて内挿フレームデータが作成されるので、動きの激し
い画像に対してもフレーム間相関の高い内挿フレームデ
ータの作成が行える。第17の発明によれば、内挿フレ
ームの前後に隣接する2つの伝送フレーム間の相関が強
い程、内挿フレーム中の各パッチ頂点の動き推定誤差が
小さくなるので、この関係に基づいた動き誤差の計算が
行われる。従って、前記課題を解決できるのである。
【0011】
【実施例】第1の実施例 図1は、本発明の第1の実施例であるフレーム内挿方法
を実施するための送信側及び受信側の構成図である。送
信側はカメラ11、MC付き符号化回路12、及び多重
化回路13で構成され、それには伝送路14を介して受
信側が接続されている。受信側は、分離回路15、復号
化回路16、フレーム内挿回路20、時間軸多重回路3
1、及びモニタ32で構成されている。送信側におい
て、カメラ11は入力された画像データのディジタルデ
ータを出力するもので、その出力側にMC付き符号化回
路12を介して多重化回路13が接続されている。MC
付き符号化回路12は、カメラ11の出力ディジタルデ
ータを入力し、各フレームをブロックに分割してブロッ
ク毎に動きベクトルS12aと動き誤差信号S12bと
を多重化回路13へ出力する回路である。多重化回路1
3は、動きベクトルS12aと動き誤差信号S12bと
を多重化して伝送路14へ出力する回路である。受信側
において、分離回路15は多重化回路13で多重化され
た信号を伝送路14より入力して動きベクトルS15a
と動き誤差信号S15bとを出力する回路であり、その
出力側に復号化回路16を介してフレーム内挿回路20
が接続されている。復号化回路16は、分離回路15か
ら出力された動きベクトルS15aと動き誤差信号S1
5bとに基づきブロック毎の画像データを計算して伝送
フレームデータS16aを出力し、パッチ番号S21を
入力して動きベクトルS16bを出力し、又伝送フレー
ムアドレスS24を入力して伝送フレームデータS16
cを出力する回路である。フレーム内挿回路20は、パ
ッチ番号S21を出力して動きベクトルS16bを入力
し、伝送フレームアドレスS24を出力して伝送フレー
ムデータS16cを入力し、さらに内挿フレームデータ
S25を出力する回路である。
を実施するための送信側及び受信側の構成図である。送
信側はカメラ11、MC付き符号化回路12、及び多重
化回路13で構成され、それには伝送路14を介して受
信側が接続されている。受信側は、分離回路15、復号
化回路16、フレーム内挿回路20、時間軸多重回路3
1、及びモニタ32で構成されている。送信側におい
て、カメラ11は入力された画像データのディジタルデ
ータを出力するもので、その出力側にMC付き符号化回
路12を介して多重化回路13が接続されている。MC
付き符号化回路12は、カメラ11の出力ディジタルデ
ータを入力し、各フレームをブロックに分割してブロッ
ク毎に動きベクトルS12aと動き誤差信号S12bと
を多重化回路13へ出力する回路である。多重化回路1
3は、動きベクトルS12aと動き誤差信号S12bと
を多重化して伝送路14へ出力する回路である。受信側
において、分離回路15は多重化回路13で多重化され
た信号を伝送路14より入力して動きベクトルS15a
と動き誤差信号S15bとを出力する回路であり、その
出力側に復号化回路16を介してフレーム内挿回路20
が接続されている。復号化回路16は、分離回路15か
ら出力された動きベクトルS15aと動き誤差信号S1
5bとに基づきブロック毎の画像データを計算して伝送
フレームデータS16aを出力し、パッチ番号S21を
入力して動きベクトルS16bを出力し、又伝送フレー
ムアドレスS24を入力して伝送フレームデータS16
cを出力する回路である。フレーム内挿回路20は、パ
ッチ番号S21を出力して動きベクトルS16bを入力
し、伝送フレームアドレスS24を出力して伝送フレー
ムデータS16cを入力し、さらに内挿フレームデータ
S25を出力する回路である。
【0012】復号化回路16及びフレーム内挿回路20
の出力側には、時間軸多重回路31を介してモニタ32
が接続されている。時間軸多重回路31は、伝送フレー
ムデータS16aと内挿フレームデータS25とを入力
し、時間軸に沿ってそれらを多重化してモニタ32へ出
力する回路である。モニタ32は、時間軸多重回路31
で多重化された画像データを表示する機能を有してい
る。フレーム内挿回路20は、パッチ番号カウンタ2
1、アフィン変換決定回路22、内挿フレーム走査回路
23、アフィン変換回路24、及び内挿フレームメモリ
25を有している。パッチ番号カウンタ21は、パッチ
番号S21を出力する回路であり、その出力側に復号化
回路16及びアフィン変換決定回路22が接続されてい
る。アフィン変換決定回路22は、パッチ番号S21、
内挿時刻パラメータa、及び動きベクトルS16bを入
力し、アフィン係数データS22a及び内挿フレーム内
位置データS22bを出力する回路であり、その出力側
に内挿フレーム走査回路23及びアフィン変換回路24
が接続されている。内挿フレーム走査回路23は、内挿
フレーム内位置データS22bを入力して内挿フレーム
アドレスS23を出力する回路であり、その出力側にア
フィン変換回路24及び内挿フレームメモリ25が接続
されている。アフィン変換回路24は、内挿フレームア
ドレスS23とアフィン係数データS22aとを入力
し、アフィン変換された伝送フレームアドレスS24を
計算して復号化回路16へ出力する回路である。内挿フ
レームメモリ25は、内挿フレームアドレスS23と伝
送フレームデータS16cとを入力し、内挿フレームデ
ータS25を時間軸多重回路31へ出力する回路であ
る。
の出力側には、時間軸多重回路31を介してモニタ32
が接続されている。時間軸多重回路31は、伝送フレー
ムデータS16aと内挿フレームデータS25とを入力
し、時間軸に沿ってそれらを多重化してモニタ32へ出
力する回路である。モニタ32は、時間軸多重回路31
で多重化された画像データを表示する機能を有してい
る。フレーム内挿回路20は、パッチ番号カウンタ2
1、アフィン変換決定回路22、内挿フレーム走査回路
23、アフィン変換回路24、及び内挿フレームメモリ
25を有している。パッチ番号カウンタ21は、パッチ
番号S21を出力する回路であり、その出力側に復号化
回路16及びアフィン変換決定回路22が接続されてい
る。アフィン変換決定回路22は、パッチ番号S21、
内挿時刻パラメータa、及び動きベクトルS16bを入
力し、アフィン係数データS22a及び内挿フレーム内
位置データS22bを出力する回路であり、その出力側
に内挿フレーム走査回路23及びアフィン変換回路24
が接続されている。内挿フレーム走査回路23は、内挿
フレーム内位置データS22bを入力して内挿フレーム
アドレスS23を出力する回路であり、その出力側にア
フィン変換回路24及び内挿フレームメモリ25が接続
されている。アフィン変換回路24は、内挿フレームア
ドレスS23とアフィン係数データS22aとを入力
し、アフィン変換された伝送フレームアドレスS24を
計算して復号化回路16へ出力する回路である。内挿フ
レームメモリ25は、内挿フレームアドレスS23と伝
送フレームデータS16cとを入力し、内挿フレームデ
ータS25を時間軸多重回路31へ出力する回路であ
る。
【0013】次に、図1を参照しつつ、(1)送信側の
動作、(2)受信側の動作、及び(3)受信側における
フレーム内挿回路20の動作を説明する。 (1) 送信側の動作 カメラ11は、光学像を入力すると、それを光電変換し
て電気信号に変換し、さらにアナログ/ディジタル(以
下、A/Dという)変換を行い、ディジタル化された動
画像データをMC付き符号化回路12へ出力する。MC
付き符号化回路12は、ディジタル化された動画像デー
タを入力すると、その動画像を構成する各フレームをブ
ロックに分割し、その分割されたブロック毎に動き補償
を行い、動き補償による誤差信号と動きベクトルとを計
算する。さらに、このMC付き符号化回路12では、計
算された誤差信号に含まれる冗長成分を除去するため、
直交変換、例えば離散コサイン変換(以下、DCTとい
う)を行い、その結果得られる動きベクトルS12a及
び動き誤差信号S12bを多重化回路13へ出力する。
多重化回路13は、動きベクトルS12aと動き誤差信
号S12bとを入力して多重化し、可変長符号化(例え
ば、ハフマン符号化)を行って符号長を短くした後、伝
送路14へ出力する。
動作、(2)受信側の動作、及び(3)受信側における
フレーム内挿回路20の動作を説明する。 (1) 送信側の動作 カメラ11は、光学像を入力すると、それを光電変換し
て電気信号に変換し、さらにアナログ/ディジタル(以
下、A/Dという)変換を行い、ディジタル化された動
画像データをMC付き符号化回路12へ出力する。MC
付き符号化回路12は、ディジタル化された動画像デー
タを入力すると、その動画像を構成する各フレームをブ
ロックに分割し、その分割されたブロック毎に動き補償
を行い、動き補償による誤差信号と動きベクトルとを計
算する。さらに、このMC付き符号化回路12では、計
算された誤差信号に含まれる冗長成分を除去するため、
直交変換、例えば離散コサイン変換(以下、DCTとい
う)を行い、その結果得られる動きベクトルS12a及
び動き誤差信号S12bを多重化回路13へ出力する。
多重化回路13は、動きベクトルS12aと動き誤差信
号S12bとを入力して多重化し、可変長符号化(例え
ば、ハフマン符号化)を行って符号長を短くした後、伝
送路14へ出力する。
【0014】(2) 受信側の動作 多重化回路13で多重化された信号が伝送路14より受
信されると、分離回路15は可変長符号化に対する復号
化の処理を行い、ブロック毎に動きベクトルS15a及
び動き誤差信号S15bを復号化回路16へ出力する。
復号化回路16は、MC付き符号化回路12における直
交変換の逆変換を行って動き誤差信号S15bを変換
し、動き補償による誤差信号を求める。さらに、この復
号化回路16では、求められた動き補償による誤差信号
と、動きベクトルS15aと、予め記憶された前フレー
ムについての伝送フレームデータとに基づき、ブロック
毎の再生データを計算して1フレームの画像データを作
成し、これを伝送フレームデータS16a,S16cと
して記憶し、フレーム内挿回路20内の内挿フレームメ
モリ25と時間軸多重回路31へ出力する。フレーム内
挿回路20は、後述する動作に基づいて連続する伝送フ
レーム間に内挿すべきフレーム(内挿フレーム)のデー
タS25を計算し、時間軸多重回路31へ出力する。時
間軸多重回路31は、内挿フレームデータS25を連続
する伝送フレームデータS16a間へ内挿してモニタ3
2へ出力する。モニタ32は、時間軸多重回路31より
入力される伝送フレームデータS16aと内挿フレーム
データS25とからなるフレームデータ列を光学像に変
換して表示する。
信されると、分離回路15は可変長符号化に対する復号
化の処理を行い、ブロック毎に動きベクトルS15a及
び動き誤差信号S15bを復号化回路16へ出力する。
復号化回路16は、MC付き符号化回路12における直
交変換の逆変換を行って動き誤差信号S15bを変換
し、動き補償による誤差信号を求める。さらに、この復
号化回路16では、求められた動き補償による誤差信号
と、動きベクトルS15aと、予め記憶された前フレー
ムについての伝送フレームデータとに基づき、ブロック
毎の再生データを計算して1フレームの画像データを作
成し、これを伝送フレームデータS16a,S16cと
して記憶し、フレーム内挿回路20内の内挿フレームメ
モリ25と時間軸多重回路31へ出力する。フレーム内
挿回路20は、後述する動作に基づいて連続する伝送フ
レーム間に内挿すべきフレーム(内挿フレーム)のデー
タS25を計算し、時間軸多重回路31へ出力する。時
間軸多重回路31は、内挿フレームデータS25を連続
する伝送フレームデータS16a間へ内挿してモニタ3
2へ出力する。モニタ32は、時間軸多重回路31より
入力される伝送フレームデータS16aと内挿フレーム
データS25とからなるフレームデータ列を光学像に変
換して表示する。
【0015】(3) 受信側におけるフレーム内挿回路
20の動作(図3〜図5参照) 本実施例においては、伝送フレームを三角形の領域(こ
れを「パッチ」と呼ぶ)に分割し、パッチ毎に内挿処理
を行う。この内挿処理では、まず、パッチ番号カウンタ
21が各パッチを識別するためのパッチ番号S21を復
号化回路16へ出力し、パッチの内挿処理が終了する度
に、該パッチ番号S21をインクリメント(増分)して
復号化回路16へ出力する。図3は、図1のブロックと
パッチの位置関係を説明する図である。本実施例では、
ブロックの中心を頂点とする三角形の領域を1つのパッ
チとして定義する。図3の説明図では、フレーム41を
正方形ブロック(例えば、図中42)に分割し、その中
心位置(例えば、図中43)を頂点とした2種類の形状
のパッチ(例えば、図中44,45)が示されている。
フレーム内挿回路20内のパッチ番号カウンタ21よ
り、パッチ番号S21が出力されると、復号化回路16
は該パッチ番号S21に基づき、パッチの3つの頂点が
含まれる3つのブロックの位置を計算し、該当する3つ
の動きベクトルS16bをアフィン変換決定回路22へ
出力する。アフィン変換決定回路22は、パッチの3つ
の頂点の各々に対し、動きベクトルS16bに基づき内
挿フレーム内の対応点の位置を計算する。本実施例で
は、内挿フレームを作成するために、例えば、該内挿フ
レームの前後に隣接する2つの伝送フレームF1(前フ
レーム)及びF2(後フレーム)のうち、伝送フレーム
F1を利用する。
20の動作(図3〜図5参照) 本実施例においては、伝送フレームを三角形の領域(こ
れを「パッチ」と呼ぶ)に分割し、パッチ毎に内挿処理
を行う。この内挿処理では、まず、パッチ番号カウンタ
21が各パッチを識別するためのパッチ番号S21を復
号化回路16へ出力し、パッチの内挿処理が終了する度
に、該パッチ番号S21をインクリメント(増分)して
復号化回路16へ出力する。図3は、図1のブロックと
パッチの位置関係を説明する図である。本実施例では、
ブロックの中心を頂点とする三角形の領域を1つのパッ
チとして定義する。図3の説明図では、フレーム41を
正方形ブロック(例えば、図中42)に分割し、その中
心位置(例えば、図中43)を頂点とした2種類の形状
のパッチ(例えば、図中44,45)が示されている。
フレーム内挿回路20内のパッチ番号カウンタ21よ
り、パッチ番号S21が出力されると、復号化回路16
は該パッチ番号S21に基づき、パッチの3つの頂点が
含まれる3つのブロックの位置を計算し、該当する3つ
の動きベクトルS16bをアフィン変換決定回路22へ
出力する。アフィン変換決定回路22は、パッチの3つ
の頂点の各々に対し、動きベクトルS16bに基づき内
挿フレーム内の対応点の位置を計算する。本実施例で
は、内挿フレームを作成するために、例えば、該内挿フ
レームの前後に隣接する2つの伝送フレームF1(前フ
レーム)及びF2(後フレーム)のうち、伝送フレーム
F1を利用する。
【0016】図4は、図1の伝送フレームF1と内挿フ
レームとの位置関係を説明する図である。図4におい
て、51は伝送フレームF1、52は内挿フレーム、5
3は伝送フレームF2、54は伝送フレームF1内のあ
るパッチの頂点位置ri 、55は伝送フレームF2内に
あってパッチの頂点位置ri に対応する位置、56は内
挿フレーム内にあってパッチの頂点位置ri に対応する
位置Ri 、及び57はパッチの頂点位置ri を含むブロ
ックの動きベクトルvi をそれぞれ表す。図4に示すよ
うに、アフィン変換決定回路22は、伝送フレームF1
内の点ri が動きベクトルvi で表現される等速度運動
によって伝送フレームF2内の点55へ移動すると仮定
することにより、内挿フレーム内での対応点の位置Ri
を次式(2)のように計算する。 Ri =ri +avi ・・・(2) 但し、aは内挿時刻パラメータで、(内挿フレームの時
刻−伝送フレームF1の時刻)/(伝送フレームF2の
時刻−伝送フレームF1の時刻)を表す。このアフィン
変換決定回路22では、(2)式に従い、伝送フレーム
F1内のパッチの3つの頂点の各々に対して内挿フレー
ム内の対応する位置を計算し、その計算結果を内挿フレ
ーム走査回路23へ出力すると、次に、伝送フレームF
1と内挿フレームとの幾何学的関係を計算する。
レームとの位置関係を説明する図である。図4におい
て、51は伝送フレームF1、52は内挿フレーム、5
3は伝送フレームF2、54は伝送フレームF1内のあ
るパッチの頂点位置ri 、55は伝送フレームF2内に
あってパッチの頂点位置ri に対応する位置、56は内
挿フレーム内にあってパッチの頂点位置ri に対応する
位置Ri 、及び57はパッチの頂点位置ri を含むブロ
ックの動きベクトルvi をそれぞれ表す。図4に示すよ
うに、アフィン変換決定回路22は、伝送フレームF1
内の点ri が動きベクトルvi で表現される等速度運動
によって伝送フレームF2内の点55へ移動すると仮定
することにより、内挿フレーム内での対応点の位置Ri
を次式(2)のように計算する。 Ri =ri +avi ・・・(2) 但し、aは内挿時刻パラメータで、(内挿フレームの時
刻−伝送フレームF1の時刻)/(伝送フレームF2の
時刻−伝送フレームF1の時刻)を表す。このアフィン
変換決定回路22では、(2)式に従い、伝送フレーム
F1内のパッチの3つの頂点の各々に対して内挿フレー
ム内の対応する位置を計算し、その計算結果を内挿フレ
ーム走査回路23へ出力すると、次に、伝送フレームF
1と内挿フレームとの幾何学的関係を計算する。
【0017】図5は、図1の伝送フレームF1内の三角
形のパッチの内挿フレームに対する幾何学的変換を説明
する図である。図5において、61,62,63は伝送
フレームF1内のパッチの頂点位置r1 ,r2 ,r3 を
表し、64,65,66は頂点位置r1 ,r2 ,r3 に
対応する内挿フレーム内の位置R1 ,R2 ,R3 を表し
ており、i=1,2,3の各々について(2)式が成立
する。アフィン変換決定回路22では、前記の幾何学的
関係を計算するために、該幾何学的変換としてアフィン
変換を適用し、そのパラメータ(これを「アフィン係
数」と呼ぶ)を計算し、出力する。即ち、伝送フレーム
F1内の位置をr=(x,y)、及び内挿フレーム内の
位置をR=(X,Y)とし、アフィン変換を、
形のパッチの内挿フレームに対する幾何学的変換を説明
する図である。図5において、61,62,63は伝送
フレームF1内のパッチの頂点位置r1 ,r2 ,r3 を
表し、64,65,66は頂点位置r1 ,r2 ,r3 に
対応する内挿フレーム内の位置R1 ,R2 ,R3 を表し
ており、i=1,2,3の各々について(2)式が成立
する。アフィン変換決定回路22では、前記の幾何学的
関係を計算するために、該幾何学的変換としてアフィン
変換を適用し、そのパラメータ(これを「アフィン係
数」と呼ぶ)を計算し、出力する。即ち、伝送フレーム
F1内の位置をr=(x,y)、及び内挿フレーム内の
位置をR=(X,Y)とし、アフィン変換を、
【数1】 と定義して、(r,R)=(ri ,Ri )(i=1,
2,3)の各々について(3)式を適用し、この連立方
程式を解いてアフィン係数(β0X,β1X,β2X,β0Y,
β1Y,β2Y)を決定する。これらの決定結果は、内挿フ
レーム走査回路23及びアフィン変換回路24へ送られ
る。内挿フレーム走査回路23は、アフィン変換決定回
路22よりパッチの3つの頂点に対応する内挿フレーム
内の位置データS22b(図5におけるR1 ,R2,R
3 の位置)を入力すると、これら3点を頂点とする三角
形(図5における三角形R1 R2 R3 )の内部を走査
し、その位置R=(X,Y)を内挿フレームアドレスS
23として順次出力し、アフィン変換回路24及び内挿
フレームメモリ25へ送る。アフィン変換回路24で
は、内挿フレームアドレスR=(X,Y)とアフィン係
数(β0X,β1X,β2X,β0Y,β1Y,β2Y)とに基づ
き、(3)式に従って伝送フレームアドレスr=(x,
y)を計算し、復号化回路16へ出力する。復号化回路
16が伝送フレームアドレスr=(x,y)に基づき、
記憶された伝送フレームF1のデータ中から該当する画
素r=(x,y)のデータを読出して出力すると、内挿
フレームメモリ25は内挿フレームアドレスR=(X,
Y)の格納場所に前記の伝送フレームF1内の画素r=
(x,y)のデータを書込み記憶する。次に、パッチ番
号カウンタ21がインクリメントされてパッチ番号S2
1が更新されると、前述と同様の動作により、次のパッ
チに対する内挿データの作成が実行される。このような
動作を繰り返して内挿フレームメモリ25に1フレーム
分のデータが書込まれると、該内挿フレームメモリ25
より内挿フレームデータS25が読出されて時間軸多重
回路31へ出力される。
2,3)の各々について(3)式を適用し、この連立方
程式を解いてアフィン係数(β0X,β1X,β2X,β0Y,
β1Y,β2Y)を決定する。これらの決定結果は、内挿フ
レーム走査回路23及びアフィン変換回路24へ送られ
る。内挿フレーム走査回路23は、アフィン変換決定回
路22よりパッチの3つの頂点に対応する内挿フレーム
内の位置データS22b(図5におけるR1 ,R2,R
3 の位置)を入力すると、これら3点を頂点とする三角
形(図5における三角形R1 R2 R3 )の内部を走査
し、その位置R=(X,Y)を内挿フレームアドレスS
23として順次出力し、アフィン変換回路24及び内挿
フレームメモリ25へ送る。アフィン変換回路24で
は、内挿フレームアドレスR=(X,Y)とアフィン係
数(β0X,β1X,β2X,β0Y,β1Y,β2Y)とに基づ
き、(3)式に従って伝送フレームアドレスr=(x,
y)を計算し、復号化回路16へ出力する。復号化回路
16が伝送フレームアドレスr=(x,y)に基づき、
記憶された伝送フレームF1のデータ中から該当する画
素r=(x,y)のデータを読出して出力すると、内挿
フレームメモリ25は内挿フレームアドレスR=(X,
Y)の格納場所に前記の伝送フレームF1内の画素r=
(x,y)のデータを書込み記憶する。次に、パッチ番
号カウンタ21がインクリメントされてパッチ番号S2
1が更新されると、前述と同様の動作により、次のパッ
チに対する内挿データの作成が実行される。このような
動作を繰り返して内挿フレームメモリ25に1フレーム
分のデータが書込まれると、該内挿フレームメモリ25
より内挿フレームデータS25が読出されて時間軸多重
回路31へ出力される。
【0018】以上のように、本実施例では次のような利
点等がある。 (i) 本実施例のフレーム内挿回路20では、伝送フ
レームF1を三角形パッチに分割し、各パッチ毎に動き
ベクトルを考慮して内挿フレームとの幾何学的関係を計
算し、これに基づいて内挿データを作成する。そのた
め、パッチ間の境界における内挿データは濃淡の連続性
が保障され、しかも、画像のぼけやエッジずれも発生し
ない。従って、本実施例によるフレーム内挿方法は、従
来方法よりも高い画質を実現できる。 (ii) 本実施例では、伝送フレームF1を用いて内挿
フレームデータS25を作成する場合について説明した
が、その伝送フレームF1の代わりに伝送フレームF2
を用いても、本実施例と同様の作用、効果が得られる。 (iii) 前記(ii)において、伝送フレームF1及びF
2の両方を用いて内挿フレームデータS25を作成する
ことも可能である。この場合には、本実施例のように一
方の伝送フレームのみを用いる場合に比べ、内挿フレー
ムにおける濃淡値の精度が向上することが期待できる。
例えば、時間的に明るさの変化する対象物の画像を符号
化し、復号化する場合においては、内挿フレームでの明
るさを伝送フレームF1での明るさと、伝送フレームF
2での明るさとの中間値に設定できるので、視覚的に不
快感を伴わないフレーム内挿が実現可能である。このよ
うな伝送フレームF1及びF2の両方を用いて内挿フレ
ームデータを作成する場合の本発明の第2の実施例を図
6に示す。
点等がある。 (i) 本実施例のフレーム内挿回路20では、伝送フ
レームF1を三角形パッチに分割し、各パッチ毎に動き
ベクトルを考慮して内挿フレームとの幾何学的関係を計
算し、これに基づいて内挿データを作成する。そのた
め、パッチ間の境界における内挿データは濃淡の連続性
が保障され、しかも、画像のぼけやエッジずれも発生し
ない。従って、本実施例によるフレーム内挿方法は、従
来方法よりも高い画質を実現できる。 (ii) 本実施例では、伝送フレームF1を用いて内挿
フレームデータS25を作成する場合について説明した
が、その伝送フレームF1の代わりに伝送フレームF2
を用いても、本実施例と同様の作用、効果が得られる。 (iii) 前記(ii)において、伝送フレームF1及びF
2の両方を用いて内挿フレームデータS25を作成する
ことも可能である。この場合には、本実施例のように一
方の伝送フレームのみを用いる場合に比べ、内挿フレー
ムにおける濃淡値の精度が向上することが期待できる。
例えば、時間的に明るさの変化する対象物の画像を符号
化し、復号化する場合においては、内挿フレームでの明
るさを伝送フレームF1での明るさと、伝送フレームF
2での明るさとの中間値に設定できるので、視覚的に不
快感を伴わないフレーム内挿が実現可能である。このよ
うな伝送フレームF1及びF2の両方を用いて内挿フレ
ームデータを作成する場合の本発明の第2の実施例を図
6に示す。
【0019】第2の実施例 図6は、本発明の第2の実施例を示す受信側の構成図で
あり、第1の実施例を示す図1中の要素と共通の要素に
は共通の符号が付されている。本実施例では、第1の実
施例と同様の分離回路15、時間軸多重回路31、及び
モニタ32を有しているが、復号化回路16A及びフレ
ーム内挿回路20Aの構成が第1の実施例と異なってい
る。復号化回路16Aは、フレーム内挿回路20A内の
第1及び第2のフレーム内挿回路20−1,20−2の
両方に対して独立にデータの受取りを行う構成になって
いる。このフレーム内挿回路20Aは、図1のフレーム
内挿回路20と同様な動作を行う第1と第2のフレーム
内挿回路20−1,20−2と、この第1,第2のフレ
ーム内挿回路20−1,20−2より出力される内挿フ
レームデータS25−1,S25−2の重み付き加算を
行う重み付き加算器26とで、構成されている。第1の
フレーム内挿回路20−1は、伝送フレームF1内のパ
ッチ毎に該パッチ番号S21−1を復号化回路16Aへ
出力し、該復号化回路16Aより該当する3つの動きベ
クトルS16b−1を入力してアフィン変換係数を計算
し、該アフィン変換係数に基づいて伝送フレームF1内
のアドレスS24−1を復号化回路16Aへ出力し、該
当する伝送フレームF1内のデータS16c−1を復号
化回路16Aより入力して内挿フレームデータS25−
1を作成し記憶する。
あり、第1の実施例を示す図1中の要素と共通の要素に
は共通の符号が付されている。本実施例では、第1の実
施例と同様の分離回路15、時間軸多重回路31、及び
モニタ32を有しているが、復号化回路16A及びフレ
ーム内挿回路20Aの構成が第1の実施例と異なってい
る。復号化回路16Aは、フレーム内挿回路20A内の
第1及び第2のフレーム内挿回路20−1,20−2の
両方に対して独立にデータの受取りを行う構成になって
いる。このフレーム内挿回路20Aは、図1のフレーム
内挿回路20と同様な動作を行う第1と第2のフレーム
内挿回路20−1,20−2と、この第1,第2のフレ
ーム内挿回路20−1,20−2より出力される内挿フ
レームデータS25−1,S25−2の重み付き加算を
行う重み付き加算器26とで、構成されている。第1の
フレーム内挿回路20−1は、伝送フレームF1内のパ
ッチ毎に該パッチ番号S21−1を復号化回路16Aへ
出力し、該復号化回路16Aより該当する3つの動きベ
クトルS16b−1を入力してアフィン変換係数を計算
し、該アフィン変換係数に基づいて伝送フレームF1内
のアドレスS24−1を復号化回路16Aへ出力し、該
当する伝送フレームF1内のデータS16c−1を復号
化回路16Aより入力して内挿フレームデータS25−
1を作成し記憶する。
【0020】第2のフレーム内挿回路20−1は、伝送
フレームF2内のパッチ毎に該パッチ番号S21−2を
復号化回路16Aへ出力し、該復号化回路16Aより該
当する3つの動きベクトルS16b−2を入力してアフ
ィン変換係数を計算し、該アフィン変換係数に基づいて
伝送フレームF2内のアドレスS24−2を復号化回路
16Aへ出力し、該当する伝送フレームF2内のデータ
S16c−2を復号化回路16Aより入力して内挿フレ
ームデータS25−2を作成し記憶する。この第2のフ
レーム内挿回路20−2では、アフィン変換を決定する
ために、伝送フレームF2上のパッチの頂点ri'と内挿
フレーム内の対応点Ri との関係を次式(4)により計
算する。 Ri =ri'−(1−a)vi ・・・(4) 但し、aは(2)式で用いた場合と同様の内挿時刻パラ
メータ、vi はパッチ頂点ri'に対する伝送フレームF
1から伝送フレームF2への動きベクトルである。
フレームF2内のパッチ毎に該パッチ番号S21−2を
復号化回路16Aへ出力し、該復号化回路16Aより該
当する3つの動きベクトルS16b−2を入力してアフ
ィン変換係数を計算し、該アフィン変換係数に基づいて
伝送フレームF2内のアドレスS24−2を復号化回路
16Aへ出力し、該当する伝送フレームF2内のデータ
S16c−2を復号化回路16Aより入力して内挿フレ
ームデータS25−2を作成し記憶する。この第2のフ
レーム内挿回路20−2では、アフィン変換を決定する
ために、伝送フレームF2上のパッチの頂点ri'と内挿
フレーム内の対応点Ri との関係を次式(4)により計
算する。 Ri =ri'−(1−a)vi ・・・(4) 但し、aは(2)式で用いた場合と同様の内挿時刻パラ
メータ、vi はパッチ頂点ri'に対する伝送フレームF
1から伝送フレームF2への動きベクトルである。
【0021】図7は、図6において(4)式の関係を示
す伝送フレームF2と内挿フレームとの位置関係を説明
する図である。図7において、71は伝送フレームF
1、72は内挿フレーム、73は伝送フレームF2、7
5は伝送フレームF2内のあるパッチの頂点位置ri'、
74は伝送フレームF1内にあって頂点位置ri'に対応
する位置、76は内挿フレーム内にあって頂点位置ri'
に対応する位置Ri 、及び77は頂点位置ri'を含むブ
ロックの動きベクトルvi をそれぞれ表す。図7に示す
ように、伝送フレームF1内の点74が動きベクトルv
i で表現される等速度運動によって伝送フレームF2内
の点ri'へ移動すると仮定することにより、内挿フレー
ム内での対応点の位置Ri が前式(4)のごとく計算さ
れる。重み付き加算器26では、第1のフレーム内挿回
路20−1に記憶された内挿フレームデータIP1 と、
第2のフレーム内挿回路20−2に記憶された内挿フレ
ームデータIP2 の両方を読出して、次式(5)に基づ
き最終的な内挿フレームデータIPを計算し、時間軸多
重回路31へ出力する。 IP=(1−a)・IP1 +a・IP2 ・・・(5) 但し、aは(2)式で用いた場合と同様の内挿時刻パラ
メータである。この第2の実施例では、伝送フレームF
1に基づく内挿フレームデータS25−1と伝送フレー
ムF2に基づく内挿フレームデータS25−2との両方
に基づき、重み付き加算器26で最終的な内挿フレーム
データS26が決定される。そのため、第1の実施例に
比べ、内挿フレームにおける濃淡値の精度を向上するこ
とが可能となる。この第2の実施例のように、伝送フレ
ームF1及びF2の両方に基づいて内挿フレームデータ
S26を作成する方法は、必ずしも図6の構成例に限定
されるものではなく、本発明の主旨に基づくものであれ
ば、任意好適に構成することができる。その一例を次の
第3の実施例で説明する。
す伝送フレームF2と内挿フレームとの位置関係を説明
する図である。図7において、71は伝送フレームF
1、72は内挿フレーム、73は伝送フレームF2、7
5は伝送フレームF2内のあるパッチの頂点位置ri'、
74は伝送フレームF1内にあって頂点位置ri'に対応
する位置、76は内挿フレーム内にあって頂点位置ri'
に対応する位置Ri 、及び77は頂点位置ri'を含むブ
ロックの動きベクトルvi をそれぞれ表す。図7に示す
ように、伝送フレームF1内の点74が動きベクトルv
i で表現される等速度運動によって伝送フレームF2内
の点ri'へ移動すると仮定することにより、内挿フレー
ム内での対応点の位置Ri が前式(4)のごとく計算さ
れる。重み付き加算器26では、第1のフレーム内挿回
路20−1に記憶された内挿フレームデータIP1 と、
第2のフレーム内挿回路20−2に記憶された内挿フレ
ームデータIP2 の両方を読出して、次式(5)に基づ
き最終的な内挿フレームデータIPを計算し、時間軸多
重回路31へ出力する。 IP=(1−a)・IP1 +a・IP2 ・・・(5) 但し、aは(2)式で用いた場合と同様の内挿時刻パラ
メータである。この第2の実施例では、伝送フレームF
1に基づく内挿フレームデータS25−1と伝送フレー
ムF2に基づく内挿フレームデータS25−2との両方
に基づき、重み付き加算器26で最終的な内挿フレーム
データS26が決定される。そのため、第1の実施例に
比べ、内挿フレームにおける濃淡値の精度を向上するこ
とが可能となる。この第2の実施例のように、伝送フレ
ームF1及びF2の両方に基づいて内挿フレームデータ
S26を作成する方法は、必ずしも図6の構成例に限定
されるものではなく、本発明の主旨に基づくものであれ
ば、任意好適に構成することができる。その一例を次の
第3の実施例で説明する。
【0022】第3の実施例 図8は、本発明の第3の実施例を示すもので、図6に示
す第2の実施例のフレーム内挿と同等の効果を有する他
の受信側の構成図であり、第1の実施例を示す図1中の
要素と共通の要素には共通の符号が付されている。この
受信側では、第1の実施例と同様に分離回路15、時間
軸多重回路31、及びモニタ32を備え、さらに第1の
実施例と構成の異なる復号化回路16B及びフレーム内
挿回路20Bを有している。復号化回路16Bは、分離
回路15から出力される動きベクトルS15a及び動き
誤差信号S15bに基づきブロック毎の画像データを計
算して伝送フレームデータS16aを時間軸多重回路3
1へ出力し、フレーム内挿回路20Bから出力されるパ
ッチ番号S21を入力して該フレーム内挿回路20Bへ
動きベクトルS16bを出力して、該フレーム内挿回路
20Bから出力される伝送フレームアドレスS24−
1,S24−2を入力して画像データS16d−1,S
16d−2を該フレーム内挿回路20Bへ出力する回路
である。フレーム内挿回路20Bは、第1の実施例と同
様のパッチ番号カウンタ21、内挿フレーム走査回路2
3、及び内挿フレームメモリ25を備え、さらに第1の
実施例と構成の異なるアフィン変換決定回路22A、及
びアフィン変換回路24Aと新たな重み付き加算器27
とを有している。
す第2の実施例のフレーム内挿と同等の効果を有する他
の受信側の構成図であり、第1の実施例を示す図1中の
要素と共通の要素には共通の符号が付されている。この
受信側では、第1の実施例と同様に分離回路15、時間
軸多重回路31、及びモニタ32を備え、さらに第1の
実施例と構成の異なる復号化回路16B及びフレーム内
挿回路20Bを有している。復号化回路16Bは、分離
回路15から出力される動きベクトルS15a及び動き
誤差信号S15bに基づきブロック毎の画像データを計
算して伝送フレームデータS16aを時間軸多重回路3
1へ出力し、フレーム内挿回路20Bから出力されるパ
ッチ番号S21を入力して該フレーム内挿回路20Bへ
動きベクトルS16bを出力して、該フレーム内挿回路
20Bから出力される伝送フレームアドレスS24−
1,S24−2を入力して画像データS16d−1,S
16d−2を該フレーム内挿回路20Bへ出力する回路
である。フレーム内挿回路20Bは、第1の実施例と同
様のパッチ番号カウンタ21、内挿フレーム走査回路2
3、及び内挿フレームメモリ25を備え、さらに第1の
実施例と構成の異なるアフィン変換決定回路22A、及
びアフィン変換回路24Aと新たな重み付き加算器27
とを有している。
【0023】次に、第1の実施例と構成の異なる復号化
回路16B、アフィン変換決定回路22A、アフィン変
換回路24A、及び重み付き加算器27等の機能を説明
する。図8のアフィン変換決定回路22Aは、パッチ番
号カウンタ21から出力されるパッチ番号S21に対応
する伝送フレームF2上のパッチの頂点に対する3つの
動きベクトルS16bを復号化回路16Bより入力し、
伝送フレームF1と内挿フレームとの幾何学的関係、及
び伝送フレームF2と内挿フレームとの幾何学的関係
を、各々アフィン変換係数として計算する。図9は、図
8のフレーム内挿の動作説明図であり、この図を参照し
つつ図8のアフィン変換決定回路22Aの動作を説明す
る。図9において、81,82,83は伝送フレームF
2におけるパッチの頂点位置r1',r2',r3'、84,
85,86は頂点位置r1',r2',r3'に対応する内挿
フレーム内の位置R1 ,R2 ,R3 、87,88,89
は頂点位置r1',r2',r3'に対応する伝送フレームF
1内の位置r1 ,r2 ,r3 をそれぞれ表す。アフィン
変換決定回路22Aでは、先ず、頂点位置r1',r2',
r3'及び対応する3つの動きベクトルv1 ,v2 ,v3
に基づき、次式(6)のごとく位置Ri ,ri (i=
1,2,3)を計算する。 Ri =ri'−(1−a)vi ri =ri'−vi ・・・(6) 次に、アフィン変換決定回路22Aは、伝送フレームF
1内の位置をr=(x,y)、内挿フレーム内の位置を
R=(X,Y)、伝送フレームF2内の位置をr' =
(x',y')、及びアフィン変換を、
回路16B、アフィン変換決定回路22A、アフィン変
換回路24A、及び重み付き加算器27等の機能を説明
する。図8のアフィン変換決定回路22Aは、パッチ番
号カウンタ21から出力されるパッチ番号S21に対応
する伝送フレームF2上のパッチの頂点に対する3つの
動きベクトルS16bを復号化回路16Bより入力し、
伝送フレームF1と内挿フレームとの幾何学的関係、及
び伝送フレームF2と内挿フレームとの幾何学的関係
を、各々アフィン変換係数として計算する。図9は、図
8のフレーム内挿の動作説明図であり、この図を参照し
つつ図8のアフィン変換決定回路22Aの動作を説明す
る。図9において、81,82,83は伝送フレームF
2におけるパッチの頂点位置r1',r2',r3'、84,
85,86は頂点位置r1',r2',r3'に対応する内挿
フレーム内の位置R1 ,R2 ,R3 、87,88,89
は頂点位置r1',r2',r3'に対応する伝送フレームF
1内の位置r1 ,r2 ,r3 をそれぞれ表す。アフィン
変換決定回路22Aでは、先ず、頂点位置r1',r2',
r3'及び対応する3つの動きベクトルv1 ,v2 ,v3
に基づき、次式(6)のごとく位置Ri ,ri (i=
1,2,3)を計算する。 Ri =ri'−(1−a)vi ri =ri'−vi ・・・(6) 次に、アフィン変換決定回路22Aは、伝送フレームF
1内の位置をr=(x,y)、内挿フレーム内の位置を
R=(X,Y)、伝送フレームF2内の位置をr' =
(x',y')、及びアフィン変換を、
【数2】 と定義して、(r,R,r' )=(ri ,Ri ,ri')
(i=1,2,3)の各々について(7)式を適用す
る。そして、この連立方程式を解いて2組のアフィン係
数(β0X,β1X,β2X,β0Y,β1Y,β2Y)及び
(γ0X,γ1X,γ2X,γ0Y,γ1Y,γ2Y)を決定し、そ
の決定結果を内挿フレーム走査回路23及びアフィン変
換回路24Aへ送る。アフィン変換回路24Aは、アフ
ィン変換決定回路22Aより2組のアフィン係数データ
S22a−1,S22a−2を入力し、さらに内挿フレ
ーム走査回路23より内挿フレームアドレスR=(X,
Y)を入力して、(7)式に基づき2組の伝送フレーム
アドレスr=(x,y)及びr' =(x',y')を計算
し、復号化回路16Bへ出力する。復号化回路16Bか
ら、2組の伝送フレームアドレスr,r' に対応した伝
送フレーム内の2組の画素データS16d−1,S16
d−2が出力されると、重み付き加算器27は該画素デ
ータS16d−1,S16d−2の重み付き加算値を計
算し、内挿フレームメモリ25内の内挿フレームアドレ
スR=(X,Y)に対応した格納場所にデータを記憶す
る。前記重み付き加算は、伝送フレームアドレスr=
(x,y)に対応した伝送フレームF1の画素データを
p1 、及び伝送フレームアドレスr' =(x',y')に
対応した伝送フレームF2の画素データをp2 として、
次式(8)により計算される。 p=(1−a)p1 +ap2 ・・・(8) 内挿フレームメモリ25に、パッチを構成する全画素の
データが書込まれ、さらにフレームを構成する全パッチ
のデータが書込まれることにより、内挿フレームデータ
S25の作成が終了する。以上のように、この第3の実
施例でも、第2の実施例と同様に、伝送フレームF1及
びF2の両方に基づいて内挿フレームデータS25が決
定されるので、第1の実施例に比べ、内挿フレームにお
ける濃淡値の精度を向上させることが可能となる。
(i=1,2,3)の各々について(7)式を適用す
る。そして、この連立方程式を解いて2組のアフィン係
数(β0X,β1X,β2X,β0Y,β1Y,β2Y)及び
(γ0X,γ1X,γ2X,γ0Y,γ1Y,γ2Y)を決定し、そ
の決定結果を内挿フレーム走査回路23及びアフィン変
換回路24Aへ送る。アフィン変換回路24Aは、アフ
ィン変換決定回路22Aより2組のアフィン係数データ
S22a−1,S22a−2を入力し、さらに内挿フレ
ーム走査回路23より内挿フレームアドレスR=(X,
Y)を入力して、(7)式に基づき2組の伝送フレーム
アドレスr=(x,y)及びr' =(x',y')を計算
し、復号化回路16Bへ出力する。復号化回路16Bか
ら、2組の伝送フレームアドレスr,r' に対応した伝
送フレーム内の2組の画素データS16d−1,S16
d−2が出力されると、重み付き加算器27は該画素デ
ータS16d−1,S16d−2の重み付き加算値を計
算し、内挿フレームメモリ25内の内挿フレームアドレ
スR=(X,Y)に対応した格納場所にデータを記憶す
る。前記重み付き加算は、伝送フレームアドレスr=
(x,y)に対応した伝送フレームF1の画素データを
p1 、及び伝送フレームアドレスr' =(x',y')に
対応した伝送フレームF2の画素データをp2 として、
次式(8)により計算される。 p=(1−a)p1 +ap2 ・・・(8) 内挿フレームメモリ25に、パッチを構成する全画素の
データが書込まれ、さらにフレームを構成する全パッチ
のデータが書込まれることにより、内挿フレームデータ
S25の作成が終了する。以上のように、この第3の実
施例でも、第2の実施例と同様に、伝送フレームF1及
びF2の両方に基づいて内挿フレームデータS25が決
定されるので、第1の実施例に比べ、内挿フレームにお
ける濃淡値の精度を向上させることが可能となる。
【0024】第4の実施例 第1〜第3の実施例では、パッチをブロックの中心を頂
点とする三角形として説明したが、該パッチの形状を三
角形以外の多角形としてもよい。例えば、パッチをブロ
ックの中心を頂点とする正方形としてもよく、この場合
にはフレームを構成するパッチの総数を三角形パッチの
場合に比べ減少させることができるので、フレーム内挿
の処理時間を短縮することができる。この場合、例えば
図1のアフィン変換決定回路22において、アフィン係
数を計算するために(3)式で表現されるアフィン変換
式をパッチの4つの頂点に適用して連立方程式を立てる
と、求めるべきアフィン係数の数(=6)と方程式の数
(=8)とが一致しない。そのため、一般的には解が一
意に定まらないが、従来公知のデータ解析手法を用いて
アフィン係数を計算できる。図10は、本発明の第4の
実施例を示すもので、正方形パッチによる幾何学的変換
を説明する図である。図10において、91,92,9
3,94は伝送フレーム内のパッチの頂点位置r1 ,r
2 ,r3 ,r4 を表し、95,96,97,98は4つ
の頂点位置r1 ,r2 ,r3 ,r4 の各々に対応する内
挿フレーム内の位置R1 ,R2 ,R3,R4 を表す。こ
こでは、回帰分析により、(3)式で表現されるアフィ
ン係数(β0X,β1X,β2X,β0Y,β1Y,β2Y)を計算
するものとすると、ri =(xi,yi),Ri =
(Xi,Yi)(i=1,2,3,4)として、次式
(9)のごとくアフィン係数が得られる。
点とする三角形として説明したが、該パッチの形状を三
角形以外の多角形としてもよい。例えば、パッチをブロ
ックの中心を頂点とする正方形としてもよく、この場合
にはフレームを構成するパッチの総数を三角形パッチの
場合に比べ減少させることができるので、フレーム内挿
の処理時間を短縮することができる。この場合、例えば
図1のアフィン変換決定回路22において、アフィン係
数を計算するために(3)式で表現されるアフィン変換
式をパッチの4つの頂点に適用して連立方程式を立てる
と、求めるべきアフィン係数の数(=6)と方程式の数
(=8)とが一致しない。そのため、一般的には解が一
意に定まらないが、従来公知のデータ解析手法を用いて
アフィン係数を計算できる。図10は、本発明の第4の
実施例を示すもので、正方形パッチによる幾何学的変換
を説明する図である。図10において、91,92,9
3,94は伝送フレーム内のパッチの頂点位置r1 ,r
2 ,r3 ,r4 を表し、95,96,97,98は4つ
の頂点位置r1 ,r2 ,r3 ,r4 の各々に対応する内
挿フレーム内の位置R1 ,R2 ,R3,R4 を表す。こ
こでは、回帰分析により、(3)式で表現されるアフィ
ン係数(β0X,β1X,β2X,β0Y,β1Y,β2Y)を計算
するものとすると、ri =(xi,yi),Ri =
(Xi,Yi)(i=1,2,3,4)として、次式
(9)のごとくアフィン係数が得られる。
【0025】
【数3】 第5の実施例 第1〜第3の実施例では、受信側に伝送された動きベク
トルに基づき、パッチ毎の内挿フレームに対する幾何学
的変換を決定するよう構成する場合について説明した
が、該幾何学的変換の決定のために前記動きベクトルを
修正してもよい。図11は、本発明の第5の実施例を示
すもので、動きベクトルの修正方法についての説明図で
ある。図11中の101は注目ブロックを、102は近
傍ブロックのうちの一つを示している。動きベクトルの
修正方法としては、例えば、注目ブロックの動きベクト
ルをv0 、動き補償誤差をe0 とし、近傍ブロックの動
きベクトルをvi 、動き補償誤差をei (i=1,2,
…,8)として、例えば次式(10)に基づき注目ブロ
ックの動きベクトル修正値v0'を計算すればよい。
トルに基づき、パッチ毎の内挿フレームに対する幾何学
的変換を決定するよう構成する場合について説明した
が、該幾何学的変換の決定のために前記動きベクトルを
修正してもよい。図11は、本発明の第5の実施例を示
すもので、動きベクトルの修正方法についての説明図で
ある。図11中の101は注目ブロックを、102は近
傍ブロックのうちの一つを示している。動きベクトルの
修正方法としては、例えば、注目ブロックの動きベクト
ルをv0 、動き補償誤差をe0 とし、近傍ブロックの動
きベクトルをvi 、動き補償誤差をei (i=1,2,
…,8)として、例えば次式(10)に基づき注目ブロ
ックの動きベクトル修正値v0'を計算すればよい。
【0026】
【数4】 但し、wi (0,1,…,8)は各ブロックの重み係数
であって、注目ブロックに近いブロック程大きい値を持
つ定数とする。このように、動きベクトルを修正するこ
とにより、送信側での動きベクトル検出誤差を吸収して
内挿フレームの画質を高めることができる。又、他の実
施例として、送信側から動きベクトルが伝送されないブ
ロック(即ち、動き補償を行わないブロック)に関する
動きベクトルを、近傍ブロックの動きベクトルを考慮す
ることによって推定できる。前記動き補償を行わないブ
ロックの動きベクトル検出の他の方法としては、受信側
で再生された連続する2つの伝送フレームデータ間のパ
タンマッチングにより、動きベクトルを計算してもよ
い。
であって、注目ブロックに近いブロック程大きい値を持
つ定数とする。このように、動きベクトルを修正するこ
とにより、送信側での動きベクトル検出誤差を吸収して
内挿フレームの画質を高めることができる。又、他の実
施例として、送信側から動きベクトルが伝送されないブ
ロック(即ち、動き補償を行わないブロック)に関する
動きベクトルを、近傍ブロックの動きベクトルを考慮す
ることによって推定できる。前記動き補償を行わないブ
ロックの動きベクトル検出の他の方法としては、受信側
で再生された連続する2つの伝送フレームデータ間のパ
タンマッチングにより、動きベクトルを計算してもよ
い。
【0027】第6の実施例 図12は、本発明の第6の実施例であるフレーム内挿方
法を実施するための送信側及び受信側の構成図であり、
第1の実施例を示す図1中の要素と共通の要素には共通
の符号が付されている。本実施例では、第1の実施例と
同様にカメラ11、MC付き符号化回路12、多重化回
路13、伝送路14、分離回路15、復号化回路16、
時間軸多重回路31、及びモニタ32を備えているが、
該復号化回路16及び時間軸多重回路31に接続される
フレーム内挿回路20Cの構成が第1の実施例と異なっ
ている。フレーム内挿回路20Cは、第1の実施例と同
様のパッチ番号カウンタ21、アフィン変換回路24及
び内挿フレームメモリ25と、第1の実施例と構成の異
なるアフィン変換決定回路22B及び内挿フレーム走査
回路23Aと、新たな重み付き加算器27A及び動き推
定回路28とを、備えている。パッチ番号カウンタ21
は、パッチ番号S21を出力する回路であり、その出力
側に復号化回路16、動き推定回路28及び内挿フレー
ム走査回路23Aが接続されている。動き推定回路28
は、パッチ番号S21、内挿時刻パラメータa、及び復
号化回路16から出力される動きベクトルS16bを入
力し、パッチ頂点の動き量をアフィン変換決定回路22
Bへ出力する回路である。アフィン変換決定回路22B
は、動き推定回路28から出力されるパッチ頂点の動き
量、及び内挿時刻パラメータaを入力し、アフィン係数
データS22aを出力する回路であり、その出力側にア
フィン変換回路24が接続されている。
法を実施するための送信側及び受信側の構成図であり、
第1の実施例を示す図1中の要素と共通の要素には共通
の符号が付されている。本実施例では、第1の実施例と
同様にカメラ11、MC付き符号化回路12、多重化回
路13、伝送路14、分離回路15、復号化回路16、
時間軸多重回路31、及びモニタ32を備えているが、
該復号化回路16及び時間軸多重回路31に接続される
フレーム内挿回路20Cの構成が第1の実施例と異なっ
ている。フレーム内挿回路20Cは、第1の実施例と同
様のパッチ番号カウンタ21、アフィン変換回路24及
び内挿フレームメモリ25と、第1の実施例と構成の異
なるアフィン変換決定回路22B及び内挿フレーム走査
回路23Aと、新たな重み付き加算器27A及び動き推
定回路28とを、備えている。パッチ番号カウンタ21
は、パッチ番号S21を出力する回路であり、その出力
側に復号化回路16、動き推定回路28及び内挿フレー
ム走査回路23Aが接続されている。動き推定回路28
は、パッチ番号S21、内挿時刻パラメータa、及び復
号化回路16から出力される動きベクトルS16bを入
力し、パッチ頂点の動き量をアフィン変換決定回路22
Bへ出力する回路である。アフィン変換決定回路22B
は、動き推定回路28から出力されるパッチ頂点の動き
量、及び内挿時刻パラメータaを入力し、アフィン係数
データS22aを出力する回路であり、その出力側にア
フィン変換回路24が接続されている。
【0028】内挿フレーム走査回路23Aは、パッチ番
号S21を入力して内挿フレームアドレスS23Aを出
力する回路であり、その出力側にアフィン変換回路24
及び内挿フレームメモリ25が接続されている。アフィ
ン変換回路24は、アフィン係数データS22a及び内
挿フレームアドレスS23Aを入力し、アフィン変換さ
れた伝送フレームアドレスS24を計算してそれを復号
化回路16へ出力する回路である。重み付き加算器27
Aは、復号化回路16から出力される伝送フレームデー
タS16cを入力して重み付き加算を行う回路であり、
その出力側に内挿フレームメモリ25が接続されてい
る。内挿フレームメモリ25は、内挿フレームアドレス
S23A、及び重み付き加算の結果を入力し、内挿フレ
ームデータS25を時間軸多重回路31へ出力する回路
である。以上のように構成される図12の送信側及び受
信側では、第1の実施例と同様の送信側及び受信側の動
作を行うが、受信側におけるフレーム内挿回路20Cの
動作が第1の実施例と異なっているので、それを以下説
明する。本実施例では、内挿フレームを三角形のパッチ
に分割し、そのパッチ毎に内挿処理を行う。この内挿処
理では、先ず、パッチ番号カウンタ21が各パッチを識
別するためのパッチ番号S21を復号化回路16、動き
推定回路28及び内挿フレーム走査回路23Aへ出力
し、パッチの内挿処理が終了する毎に、該パッチ番号S
21をインクリメントして出力する。
号S21を入力して内挿フレームアドレスS23Aを出
力する回路であり、その出力側にアフィン変換回路24
及び内挿フレームメモリ25が接続されている。アフィ
ン変換回路24は、アフィン係数データS22a及び内
挿フレームアドレスS23Aを入力し、アフィン変換さ
れた伝送フレームアドレスS24を計算してそれを復号
化回路16へ出力する回路である。重み付き加算器27
Aは、復号化回路16から出力される伝送フレームデー
タS16cを入力して重み付き加算を行う回路であり、
その出力側に内挿フレームメモリ25が接続されてい
る。内挿フレームメモリ25は、内挿フレームアドレス
S23A、及び重み付き加算の結果を入力し、内挿フレ
ームデータS25を時間軸多重回路31へ出力する回路
である。以上のように構成される図12の送信側及び受
信側では、第1の実施例と同様の送信側及び受信側の動
作を行うが、受信側におけるフレーム内挿回路20Cの
動作が第1の実施例と異なっているので、それを以下説
明する。本実施例では、内挿フレームを三角形のパッチ
に分割し、そのパッチ毎に内挿処理を行う。この内挿処
理では、先ず、パッチ番号カウンタ21が各パッチを識
別するためのパッチ番号S21を復号化回路16、動き
推定回路28及び内挿フレーム走査回路23Aへ出力
し、パッチの内挿処理が終了する毎に、該パッチ番号S
21をインクリメントして出力する。
【0029】図13は、図12の内挿フレームとパッチ
の位置関係を説明する図である。本実施例では、図13
に示すように、内挿フレーム(図中111)を2種類の
直角二等辺三角形のパッチ(例えば、図中112,11
3)に分割するものとする。フレーム内挿回路20Cに
おいて、パッチ番号カウンタ21からパッチ番号S21
が復号化回路16、動き推定回路28及び内挿フレーム
走査回路23Aへ出力されると、該復号化回路16で
は、該パッチ番号S21に基づき、パッチの周辺に属す
るブロック群の動きベクトルS16bを動き推定回路2
8へ出力する。動き推定回路28は、ブロック群の動き
ベクトルS16bに基づき、パッチの3つの頂点各々の
動き量を推定する。即ち、この動き推定回路28では、
先ず、ブロック毎に動きベクトルS16bを考慮して内
挿フレーム内の対応領域を計算する。この計算は、図1
4に示す伝送フレームF1,F2と内挿フレームIPと
の位置関係に基づいて実行される。図14において、1
22は内挿フレームIP、121は内挿フレームIPの
前側に隣接する伝送フレームF1、123は内挿フレー
ムIPの後側に隣接する伝送フレームF2、125は伝
送フレームF2内の任意の点の位置ri'、124は点r
i'に対応した伝送フレームF1内の点の位置ri 、12
6は点ri'に対応した内挿フレームIP内の点の位置R
i 、127は点ri'の含まれるブロックに対する伝送フ
レームF1から伝送フレームF2への動きベクトルvi
をそれぞれ表す。
の位置関係を説明する図である。本実施例では、図13
に示すように、内挿フレーム(図中111)を2種類の
直角二等辺三角形のパッチ(例えば、図中112,11
3)に分割するものとする。フレーム内挿回路20Cに
おいて、パッチ番号カウンタ21からパッチ番号S21
が復号化回路16、動き推定回路28及び内挿フレーム
走査回路23Aへ出力されると、該復号化回路16で
は、該パッチ番号S21に基づき、パッチの周辺に属す
るブロック群の動きベクトルS16bを動き推定回路2
8へ出力する。動き推定回路28は、ブロック群の動き
ベクトルS16bに基づき、パッチの3つの頂点各々の
動き量を推定する。即ち、この動き推定回路28では、
先ず、ブロック毎に動きベクトルS16bを考慮して内
挿フレーム内の対応領域を計算する。この計算は、図1
4に示す伝送フレームF1,F2と内挿フレームIPと
の位置関係に基づいて実行される。図14において、1
22は内挿フレームIP、121は内挿フレームIPの
前側に隣接する伝送フレームF1、123は内挿フレー
ムIPの後側に隣接する伝送フレームF2、125は伝
送フレームF2内の任意の点の位置ri'、124は点r
i'に対応した伝送フレームF1内の点の位置ri 、12
6は点ri'に対応した内挿フレームIP内の点の位置R
i 、127は点ri'の含まれるブロックに対する伝送フ
レームF1から伝送フレームF2への動きベクトルvi
をそれぞれ表す。
【0030】本実施例では、伝送フレームF1内の位置
ri が、動きベクトルvi で表現される等速度運動によ
って、伝送フレームF2内の位置ri'へ移動すると仮定
することにより、内挿フレームIP内の対応位置を決定
する。即ち、図14中の129に示されるように、伝送
フレームF2内のブロックの任意画素の位置ri'と動き
ベクトルvi とに基づき、内挿フレーム内の対応位置R
i が次式(4−1)により計算される。 Ri =ri'−(1−a)vi ・・・(4−1) 但し、aは内挿時刻パラメータで、(内挿フレームIP
の時刻−伝送フレームF1の時刻)/(伝送フレームF
2の時刻−伝送フレームF1の時刻)を表す。さらに、
動き推定回路28は、内挿フレーム内のパッチの頂点の
動き量を推定するために、この頂点を中心とする所定の
領域に含まれる、前述のブロック対応領域の大きさ、該
ブロックの動きベクトル、及び動き補償誤差を用いて動
き量を計算する。
ri が、動きベクトルvi で表現される等速度運動によ
って、伝送フレームF2内の位置ri'へ移動すると仮定
することにより、内挿フレームIP内の対応位置を決定
する。即ち、図14中の129に示されるように、伝送
フレームF2内のブロックの任意画素の位置ri'と動き
ベクトルvi とに基づき、内挿フレーム内の対応位置R
i が次式(4−1)により計算される。 Ri =ri'−(1−a)vi ・・・(4−1) 但し、aは内挿時刻パラメータで、(内挿フレームIP
の時刻−伝送フレームF1の時刻)/(伝送フレームF
2の時刻−伝送フレームF1の時刻)を表す。さらに、
動き推定回路28は、内挿フレーム内のパッチの頂点の
動き量を推定するために、この頂点を中心とする所定の
領域に含まれる、前述のブロック対応領域の大きさ、該
ブロックの動きベクトル、及び動き補償誤差を用いて動
き量を計算する。
【0031】図15は、図12の動き推定回路28の動
作を説明する図である。図15において、131は内挿
フレームにおけるパッチの頂点、132は頂点131を
中心とする領域、133〜136は伝送フレームF2内
のブロック群(4ブロック)に対し(4−1)式で計算
される内挿フレーム内の4つの対応領域B1 〜B4 をそ
れぞれ表す。本実施例では、領域Bi (i=1,2,
…,N)に対応するブロックの動きベクトルをvi 、動
き補償誤差をei とし、領域Bi と領域132との共通
領域(図中137〜140)の大きさをSi とし、例え
ば、次式(11)に基づいて頂点131の動き量Vi を
計算する。
作を説明する図である。図15において、131は内挿
フレームにおけるパッチの頂点、132は頂点131を
中心とする領域、133〜136は伝送フレームF2内
のブロック群(4ブロック)に対し(4−1)式で計算
される内挿フレーム内の4つの対応領域B1 〜B4 をそ
れぞれ表す。本実施例では、領域Bi (i=1,2,
…,N)に対応するブロックの動きベクトルをvi 、動
き補償誤差をei とし、領域Bi と領域132との共通
領域(図中137〜140)の大きさをSi とし、例え
ば、次式(11)に基づいて頂点131の動き量Vi を
計算する。
【0032】
【数5】 なお、動き補償誤差ei は、伝送フレームF1と伝送フ
レームF2との対応するブロックデータ間の誤差量であ
り、(11)式を適用する際に、予め計算しておけばよ
い。又、動き推定回路28を、内挿フレーム内のパッチ
の頂点の動き量を推定するために、伝送フレームF2内
のブロックの中心位置に対する内挿フレーム内の対応点
の位置を(4−1)式に基づいて計算し、パッチの頂点
を中心とする所定の領域に含まれる、前記対応点群の位
置、対応するブロックの動きベクトル、及び動き補償誤
差を用いて動き量を計算するよう構成してもよい。図1
6は、上述の構成に基づく動き推定回路28の他の動作
を説明する図である。図16において、141は内挿フ
レームにおけるパッチの頂点、142は頂点141を中
心とする領域、143〜146は伝送フレームF2内の
ブロック群(4ブロック)の各中心に対し(4−1)式
で計算される内挿フレーム内の4つの対応点B1 〜B4
をそれぞれ表す。この場合には、点Bi (i=1,2,
…,N)に対応するブロックの動きベクトルをvi 、動
き補償誤差をei とし、点Biとパッチ頂点141との
距離をLi として、例えば、次式(12)に基づいて頂
点141の動き量Vi を計算する。
レームF2との対応するブロックデータ間の誤差量であ
り、(11)式を適用する際に、予め計算しておけばよ
い。又、動き推定回路28を、内挿フレーム内のパッチ
の頂点の動き量を推定するために、伝送フレームF2内
のブロックの中心位置に対する内挿フレーム内の対応点
の位置を(4−1)式に基づいて計算し、パッチの頂点
を中心とする所定の領域に含まれる、前記対応点群の位
置、対応するブロックの動きベクトル、及び動き補償誤
差を用いて動き量を計算するよう構成してもよい。図1
6は、上述の構成に基づく動き推定回路28の他の動作
を説明する図である。図16において、141は内挿フ
レームにおけるパッチの頂点、142は頂点141を中
心とする領域、143〜146は伝送フレームF2内の
ブロック群(4ブロック)の各中心に対し(4−1)式
で計算される内挿フレーム内の4つの対応点B1 〜B4
をそれぞれ表す。この場合には、点Bi (i=1,2,
…,N)に対応するブロックの動きベクトルをvi 、動
き補償誤差をei とし、点Biとパッチ頂点141との
距離をLi として、例えば、次式(12)に基づいて頂
点141の動き量Vi を計算する。
【0033】
【数6】 図15及び図16のいずれの動き推定回路28によって
も、(11)式あるいは(12)式により計算される動
き量Vi は、内挿フレーム内のパッチの頂点の周辺ブロ
ック群に関する動きベクトルに基づいて計算される量で
あり、該頂点が等速度運動すると仮定した場合の伝送フ
レームF1から伝送フレームF2への動きベクトルを近
似していることがわかる。動き推定回路28がパッチの
各頂点についての動き量を推定してアフィン変換決定回
路22Bへ出力すると、該アフィン変換決定回路22B
では、該動き量に基づいて伝送フレームF1,F2と内
挿フレームとの幾何学的関係を計算する。図17は、図
12のアフィン変換決定回路22Bの動作を説明する図
である。図17において、151,152,153は内
挿フレームにおけるパッチの頂点位置R1 ,R2 ,
R3 、154,155,156は頂点位置R1 ,R2 ,
R3に対応する伝送フレームF1内の位置r1 ,r2 ,
r3 、157,158,159は頂点位置R1 ,R2 ,
R3 に対応する伝送フレームF2内の位置r1',r2',
r3'をそれぞれ表す。動き推定回路28より出力される
パッチ頂点Ri (i=1,2,3)の動き量Vi は、該
頂点Ri に関する伝送フレームF1から伝送フレームF
2への動きベクトルを近似するものであるから、ri 及
びr1'の値は次式(13),(14)により計算され
る。 ri =Ri −aVi ・・・(13) r1'=Ri +(1−a)Vi ・・・(14) 但し、aは(4−1)式の場合と同様の内挿時刻パラメ
ータである。本実施例では、アフィン変換決定回路22
Bが前記幾何学的関係を計算するために、幾何学的関係
をアフィン変換として表現し、そのパラメータ(アフィ
ン係数)を計算して出力する。即ち、伝送フレームF1
内の位置をr=(x,y)、内挿フレーム内の位置をR
=(X,Y)、及び伝送フレームF2内の位置をr'=
(x',y')とし、そのアフィン変換を、
も、(11)式あるいは(12)式により計算される動
き量Vi は、内挿フレーム内のパッチの頂点の周辺ブロ
ック群に関する動きベクトルに基づいて計算される量で
あり、該頂点が等速度運動すると仮定した場合の伝送フ
レームF1から伝送フレームF2への動きベクトルを近
似していることがわかる。動き推定回路28がパッチの
各頂点についての動き量を推定してアフィン変換決定回
路22Bへ出力すると、該アフィン変換決定回路22B
では、該動き量に基づいて伝送フレームF1,F2と内
挿フレームとの幾何学的関係を計算する。図17は、図
12のアフィン変換決定回路22Bの動作を説明する図
である。図17において、151,152,153は内
挿フレームにおけるパッチの頂点位置R1 ,R2 ,
R3 、154,155,156は頂点位置R1 ,R2 ,
R3に対応する伝送フレームF1内の位置r1 ,r2 ,
r3 、157,158,159は頂点位置R1 ,R2 ,
R3 に対応する伝送フレームF2内の位置r1',r2',
r3'をそれぞれ表す。動き推定回路28より出力される
パッチ頂点Ri (i=1,2,3)の動き量Vi は、該
頂点Ri に関する伝送フレームF1から伝送フレームF
2への動きベクトルを近似するものであるから、ri 及
びr1'の値は次式(13),(14)により計算され
る。 ri =Ri −aVi ・・・(13) r1'=Ri +(1−a)Vi ・・・(14) 但し、aは(4−1)式の場合と同様の内挿時刻パラメ
ータである。本実施例では、アフィン変換決定回路22
Bが前記幾何学的関係を計算するために、幾何学的関係
をアフィン変換として表現し、そのパラメータ(アフィ
ン係数)を計算して出力する。即ち、伝送フレームF1
内の位置をr=(x,y)、内挿フレーム内の位置をR
=(X,Y)、及び伝送フレームF2内の位置をr'=
(x',y')とし、そのアフィン変換を、
【数7】 と定義して、(r,R,r' )=(ri ,Ri ,ri')
(i=1,2,3)の各々について(7−1),(7−
2)式を適用する。そして、この連立方程式を解いて伝
送フレームF1に対するアフィン係数(β0X,β1X,β
2X,β0Y,β1Y,β2Y)と、伝送フレームF2に対する
アフィン係数(γ0X,γ1X,γ2X,γ0Y,γ1Y,γ2Y)
とを決定し、その決定結果をアフィン変換回路24へ送
る。一方、内挿フレーム走査回路23Aは、パッチ番号
カウンタ21から出力されるパッチ番号S21を入力す
ると、該当するパッチ(図17における三角形R1R2
R3 )の内部を走査し、その位置R=(X,Y)を内挿
フレームアドレスS23Aとして順次出力し、アフィン
変換回路24及び内挿フレームメモリ25へ送る。アフ
ィン変換回路24は、内挿フレームアドレスR=(X,
Y)とアフィン係数(β0X,β1X,β2X,β0Y,β1Y,
β2Y)とに基づき、(7−1)式に従って伝送フレーム
F1のアドレスr=(x,y)を計算し、同時に、内挿
フレームアドレスR=(X,Y)とアフィン係数
(γ0X,γ1X,γ2X,γ0Y,γ1Y,γ2Y)とに基づき、
(7−2)式に従って伝送フレームF2のアドレスr'
=(x',y')を計算し、これらの伝送フレームアドレ
スr及びr' を復号化回路16へ出力する。復号化回路
16では、前記の伝送フレームアドレスr=(x,y)
に基づいて記憶された伝送フレームF1のデータ中か
ら、該当する画素r=(x,y)のデータp1 を読出
し、さらに、前記の伝送フレームアドレスr' =
(x',y')に基づいて記憶された伝送フレームF2の
データ中から、該当する画素r' =(x',y')のデー
タp2 を読出す。すると、重み付き加算器27Aは、次
式(8−1)に基づいて内挿フレームの画素データpを
計算する。 p=(1−a)p1 +ap2 ・・・(8−1) 但し、aは(4−1)式と同様の内挿時刻パラメータで
ある。内挿フレームメモリ25では、重み付き加算器2
7Aより加算出力データpを入力し、このデータpを前
記内挿フレームアドレスR=(X,Y)の格納場所に書
込み記憶する。
(i=1,2,3)の各々について(7−1),(7−
2)式を適用する。そして、この連立方程式を解いて伝
送フレームF1に対するアフィン係数(β0X,β1X,β
2X,β0Y,β1Y,β2Y)と、伝送フレームF2に対する
アフィン係数(γ0X,γ1X,γ2X,γ0Y,γ1Y,γ2Y)
とを決定し、その決定結果をアフィン変換回路24へ送
る。一方、内挿フレーム走査回路23Aは、パッチ番号
カウンタ21から出力されるパッチ番号S21を入力す
ると、該当するパッチ(図17における三角形R1R2
R3 )の内部を走査し、その位置R=(X,Y)を内挿
フレームアドレスS23Aとして順次出力し、アフィン
変換回路24及び内挿フレームメモリ25へ送る。アフ
ィン変換回路24は、内挿フレームアドレスR=(X,
Y)とアフィン係数(β0X,β1X,β2X,β0Y,β1Y,
β2Y)とに基づき、(7−1)式に従って伝送フレーム
F1のアドレスr=(x,y)を計算し、同時に、内挿
フレームアドレスR=(X,Y)とアフィン係数
(γ0X,γ1X,γ2X,γ0Y,γ1Y,γ2Y)とに基づき、
(7−2)式に従って伝送フレームF2のアドレスr'
=(x',y')を計算し、これらの伝送フレームアドレ
スr及びr' を復号化回路16へ出力する。復号化回路
16では、前記の伝送フレームアドレスr=(x,y)
に基づいて記憶された伝送フレームF1のデータ中か
ら、該当する画素r=(x,y)のデータp1 を読出
し、さらに、前記の伝送フレームアドレスr' =
(x',y')に基づいて記憶された伝送フレームF2の
データ中から、該当する画素r' =(x',y')のデー
タp2 を読出す。すると、重み付き加算器27Aは、次
式(8−1)に基づいて内挿フレームの画素データpを
計算する。 p=(1−a)p1 +ap2 ・・・(8−1) 但し、aは(4−1)式と同様の内挿時刻パラメータで
ある。内挿フレームメモリ25では、重み付き加算器2
7Aより加算出力データpを入力し、このデータpを前
記内挿フレームアドレスR=(X,Y)の格納場所に書
込み記憶する。
【0034】次に、パッチ番号カウンタ21がインクリ
メントされてパッチ番号S21が更新されると、前述と
同様の動作によって、次のパッチに対する内挿データの
作成が実行される。このような動作を繰り返して、内挿
フレームメモリ25に1フレーム分のデータが書込まれ
ると、該内挿フレームメモリ25より内挿フレームデー
タS25が読出されて時間軸多重回路31へ出力され
る。以上のように、この第6の実施例では、次のような
利点等がある。本実施例のフレーム内挿回路20Cで
は、内挿フレームを三角形パッチに分割し、そのパッチ
の頂点に関する動き量を動きベクトルに基づいて推定
し、各パッチ毎に前述の動き量を考慮して2つの伝送フ
レームとの幾何学的関係を計算し、これに基づいて内挿
データを作成する。そのため、パッチ間の境界における
内挿データは濃淡の連続性が保障され、しかも、画像の
ぼけやエッジずれも発生しない。従って、本実施例のフ
レーム内挿方法では、従来方法よりも高い画質を実現で
きる。本実施例では、アフィン変換決定回路22Bを、
動き推定回路28より入力される内挿フレーム内のパッ
チ頂点毎の動き量に基づいて該パッチの伝送フレームに
対する幾何学的変換を決定するよう構成する場合につき
説明したが、該幾何学的変換の決定のために、前記パッ
チ頂点の動き量を修正してもよい。その修正方法を、次
の第7の実施例で説明する。
メントされてパッチ番号S21が更新されると、前述と
同様の動作によって、次のパッチに対する内挿データの
作成が実行される。このような動作を繰り返して、内挿
フレームメモリ25に1フレーム分のデータが書込まれ
ると、該内挿フレームメモリ25より内挿フレームデー
タS25が読出されて時間軸多重回路31へ出力され
る。以上のように、この第6の実施例では、次のような
利点等がある。本実施例のフレーム内挿回路20Cで
は、内挿フレームを三角形パッチに分割し、そのパッチ
の頂点に関する動き量を動きベクトルに基づいて推定
し、各パッチ毎に前述の動き量を考慮して2つの伝送フ
レームとの幾何学的関係を計算し、これに基づいて内挿
データを作成する。そのため、パッチ間の境界における
内挿データは濃淡の連続性が保障され、しかも、画像の
ぼけやエッジずれも発生しない。従って、本実施例のフ
レーム内挿方法では、従来方法よりも高い画質を実現で
きる。本実施例では、アフィン変換決定回路22Bを、
動き推定回路28より入力される内挿フレーム内のパッ
チ頂点毎の動き量に基づいて該パッチの伝送フレームに
対する幾何学的変換を決定するよう構成する場合につき
説明したが、該幾何学的変換の決定のために、前記パッ
チ頂点の動き量を修正してもよい。その修正方法を、次
の第7の実施例で説明する。
【0035】第7の実施例 図18は、本発明の第7の実施例を示すもので、パッチ
頂点の動き修正の方法についての説明図である。図18
において、161は内挿フレーム内の一部分を表す。1
62は注目するパッチ頂点の位置R0 、163はR0 に
隣接する8つのパッチ頂点位置R1 〜R8 のうちの一つ
をそれぞれ表す。ここでは、一例としてパッチ頂点位置
Ri (i=0,1,2,…,8)の、対応する動き量V
i 及び動き誤差Ei とに基づき、注目するパッチ頂点の
動き量を次式(10−1)のように修正する。
頂点の動き修正の方法についての説明図である。図18
において、161は内挿フレーム内の一部分を表す。1
62は注目するパッチ頂点の位置R0 、163はR0 に
隣接する8つのパッチ頂点位置R1 〜R8 のうちの一つ
をそれぞれ表す。ここでは、一例としてパッチ頂点位置
Ri (i=0,1,2,…,8)の、対応する動き量V
i 及び動き誤差Ei とに基づき、注目するパッチ頂点の
動き量を次式(10−1)のように修正する。
【0036】
【数8】 但し、wi (i=0,1,…,8)は各パッチ頂点の重
み係数であって、注目するパッチ頂点に近いパッチ頂点
程大きい定数とする。動き誤差Ei は、パッチ頂点位置
Ri を中心とする内挿フレーム内の所定の領域に対応す
る2つの伝送フレームF1及びF2のデータに基づいて
計算される。図19は、図18のパッチ頂点の動き修正
における動き誤差を計算する方法の説明図である。図1
9において、171は伝送フレームF1、173は伝送
フレームF2、172は内挿フレームIP、174は内
挿フレーム内のパッチ頂点位置Ri 、175はパッチ頂
点位置Ri を中心とする所定の領域A、176は領域A
に対応する伝送フレームF1内の領域A1 、177は領
域Aに対応する伝送フレームF2内の領域A2 、及び1
78はパッチ頂点位置Ri に対する動き推定回路28か
ら出力された動き量Vi をそれぞれ表す。図19に示す
ように、パッチ頂点位置Ri を中心とする領域Aの位置
と該パッチ頂点位置Ri の動き量Vi とが与えられる
と、図中の179及び180のベクトルaVi 及び(1
−a)Vi を用いて、領域Aに対応する伝送フレーム内
の領域(即ち、領域A1 及び領域A2 )の位置が明らか
となる。そのため、領域A1と領域A2 の画素データの
差を用いることによって、動き誤差Ei を計算すること
ができる。このように、パッチ頂点の動き量を、近傍の
パッチ頂点の動き量と動き誤差に応じて修正することに
より、送信側での動きベクトル検出誤差や、動き推定回
路28での動き推定誤差を吸収して内挿フレームの画質
を高めることができる。
み係数であって、注目するパッチ頂点に近いパッチ頂点
程大きい定数とする。動き誤差Ei は、パッチ頂点位置
Ri を中心とする内挿フレーム内の所定の領域に対応す
る2つの伝送フレームF1及びF2のデータに基づいて
計算される。図19は、図18のパッチ頂点の動き修正
における動き誤差を計算する方法の説明図である。図1
9において、171は伝送フレームF1、173は伝送
フレームF2、172は内挿フレームIP、174は内
挿フレーム内のパッチ頂点位置Ri 、175はパッチ頂
点位置Ri を中心とする所定の領域A、176は領域A
に対応する伝送フレームF1内の領域A1 、177は領
域Aに対応する伝送フレームF2内の領域A2 、及び1
78はパッチ頂点位置Ri に対する動き推定回路28か
ら出力された動き量Vi をそれぞれ表す。図19に示す
ように、パッチ頂点位置Ri を中心とする領域Aの位置
と該パッチ頂点位置Ri の動き量Vi とが与えられる
と、図中の179及び180のベクトルaVi 及び(1
−a)Vi を用いて、領域Aに対応する伝送フレーム内
の領域(即ち、領域A1 及び領域A2 )の位置が明らか
となる。そのため、領域A1と領域A2 の画素データの
差を用いることによって、動き誤差Ei を計算すること
ができる。このように、パッチ頂点の動き量を、近傍の
パッチ頂点の動き量と動き誤差に応じて修正することに
より、送信側での動きベクトル検出誤差や、動き推定回
路28での動き推定誤差を吸収して内挿フレームの画質
を高めることができる。
【0037】第8の実施例 第6の実施例では、パッチ形状を三角形として説明した
が、該パッチ形状を三角形以外の多角形としてもよい。
例えば、パッチを正方形としてもよく、この場合には内
挿フレーム走査回路23Aにおける画素走査の順序を単
純化できるので、装置構成を簡単化することが可能であ
る。なお、この場合、アフィン変換決定回路22Bにお
いて、アフィン係数を計算するために(7−1)式又は
(7−2)式で表現されるアフィン変換式を、パッチの
4つの頂点に適用して連立方程式を立てると、求めるべ
きアフィン係数の数(=6)と方程式の数(=8)とが
一致しない。そのため、一般には解が一意に定まらない
が、従来公知のデータ解析方法を用いてアフィン係数を
計算できる。図20は、本発明の第8の実施例を示すも
ので、正方形パッチの場合のアフィン変換決定回路22
Bの動作を説明する図である。図20において、18
1,182,183,184は内挿フレーム内のパッチ
の頂点R1 ,R2 ,R3 ,R4 、185,186,18
7,188は4つの頂点R1 ,R2 ,R3 ,R4 に対応
する伝送フレームF1内の位置r1 ,r2 ,r3,r4
をそれぞれ表す。ここでは、回帰分析により、(7−
1)式で表現されるアフィン係数(β0X,β1X,β2X,
β0Y,β1Y,β2Y)を計算するものとすると、ri =
(xi,yi),Ri =(Xi,Yi)(i=1,2,3,
4)として次式のごとくアフィン係数が得られる。
が、該パッチ形状を三角形以外の多角形としてもよい。
例えば、パッチを正方形としてもよく、この場合には内
挿フレーム走査回路23Aにおける画素走査の順序を単
純化できるので、装置構成を簡単化することが可能であ
る。なお、この場合、アフィン変換決定回路22Bにお
いて、アフィン係数を計算するために(7−1)式又は
(7−2)式で表現されるアフィン変換式を、パッチの
4つの頂点に適用して連立方程式を立てると、求めるべ
きアフィン係数の数(=6)と方程式の数(=8)とが
一致しない。そのため、一般には解が一意に定まらない
が、従来公知のデータ解析方法を用いてアフィン係数を
計算できる。図20は、本発明の第8の実施例を示すも
ので、正方形パッチの場合のアフィン変換決定回路22
Bの動作を説明する図である。図20において、18
1,182,183,184は内挿フレーム内のパッチ
の頂点R1 ,R2 ,R3 ,R4 、185,186,18
7,188は4つの頂点R1 ,R2 ,R3 ,R4 に対応
する伝送フレームF1内の位置r1 ,r2 ,r3,r4
をそれぞれ表す。ここでは、回帰分析により、(7−
1)式で表現されるアフィン係数(β0X,β1X,β2X,
β0Y,β1Y,β2Y)を計算するものとすると、ri =
(xi,yi),Ri =(Xi,Yi)(i=1,2,3,
4)として次式のごとくアフィン係数が得られる。
【0038】
【数9】 なお、伝送フレームF2に対応する(7−2)式で表現
されるアフィン係数(γ0X,γ1X,γ2X,γ0Y,γ1Y,
γ2Y)についても、前述と同様の方法によって計算する
ことができる。
されるアフィン係数(γ0X,γ1X,γ2X,γ0Y,γ1Y,
γ2Y)についても、前述と同様の方法によって計算する
ことができる。
【0039】第9の実施例 第6の実施例では、伝送フレームF1及びF2の両方を
用いて内挿フレームデータを作成するようフレーム内挿
回路20Cを構成する場合につき説明したが、これに限
定されない。例えば、アフィン変換回路24を、2つの
伝送フレームF1,F2のうちいずれか一方のみの伝送
フレームアドレスを出力するよう構成し、さらに、重み
付き加算器27Aを除去して、復号化回路16からの伝
送フレームデータS16cを直接内挿フレームメモリ2
5に書込むようにすれば、一方の伝送フレームだけを用
いて内挿フレームデータを作成するこができる。この場
合には、第6の実施例に比べ、処理速度の向上と、装置
構成の簡単化を実現できる。
用いて内挿フレームデータを作成するようフレーム内挿
回路20Cを構成する場合につき説明したが、これに限
定されない。例えば、アフィン変換回路24を、2つの
伝送フレームF1,F2のうちいずれか一方のみの伝送
フレームアドレスを出力するよう構成し、さらに、重み
付き加算器27Aを除去して、復号化回路16からの伝
送フレームデータS16cを直接内挿フレームメモリ2
5に書込むようにすれば、一方の伝送フレームだけを用
いて内挿フレームデータを作成するこができる。この場
合には、第6の実施例に比べ、処理速度の向上と、装置
構成の簡単化を実現できる。
【0040】
【発明の効果】以上詳細に説明したように、第1の発明
によれば、受信側への伝送フレームを多角形パッチに分
割し、さらに、動きベクトルに基づいて多角形パッチ毎
の内挿フレームに対する幾何学的変換を決定し、該幾何
学的変換を用いて伝送フレームデータから内挿フレーム
データを作成するようにしたので、隣接する多角形パッ
チ間で濃淡の連続性が保たれる。そのため、従来のよう
なブロック歪みや画像データ欠落・重複等の画質劣化の
ないフレーム内挿が実現できる。さらに、幾何学的変換
は、平行移動だけでなく、回転や拡大・縮小等を含むの
で、画像中の対象物の動きが平行移動だけでなく、より
複雑な場合にも、動きの内挿が可能となり、従来に比べ
ぼけやエッジずれの少ないフレーム内挿が実現できる。
第2の発明によれば、多角形パッチの分割の際には、伝
送フレームの各ブロックの中心位置を頂点とした多角形
パッチを用いるようにしたので、パッチ頂点とブロック
中心とを一致させることにより、該ブロックの動きベク
トルをパッチ頂点の動き量と見なせるので、幾何学的変
換の計算が容易かつ安定に行える。第3の発明によれ
ば、幾何学的変換の決定の際には、伝送フレーム内の多
角形パッチ毎に内挿フレーム内の対応する領域との関係
をアフィン変換として表現し決定するようにしたので、
一般の画像が画素間相関が強いため、パッチ毎のアフィ
ン変換によって画像の変形を十分表現できる。しかも、
アフィン変換では、幾何学的変換を少ないパラメータ
(例えば、6個)で表現できる。第4の発明によれば、
幾何学的変換の決定の際には、伝送された動きベクトル
を、注目ブロック及び近傍ブロックの動きベクトルと動
き補償誤差とを考慮して修正し、その修正された動きベ
クトルに基づいて多角形パッチ毎の内挿フレームに対す
る幾何学的変換を決定するようにしたので、送信時の動
きベクトル検出誤差や、パッチ頂点の動き推定誤差を吸
収でき、内挿フレームの画質向上が期待できる。
によれば、受信側への伝送フレームを多角形パッチに分
割し、さらに、動きベクトルに基づいて多角形パッチ毎
の内挿フレームに対する幾何学的変換を決定し、該幾何
学的変換を用いて伝送フレームデータから内挿フレーム
データを作成するようにしたので、隣接する多角形パッ
チ間で濃淡の連続性が保たれる。そのため、従来のよう
なブロック歪みや画像データ欠落・重複等の画質劣化の
ないフレーム内挿が実現できる。さらに、幾何学的変換
は、平行移動だけでなく、回転や拡大・縮小等を含むの
で、画像中の対象物の動きが平行移動だけでなく、より
複雑な場合にも、動きの内挿が可能となり、従来に比べ
ぼけやエッジずれの少ないフレーム内挿が実現できる。
第2の発明によれば、多角形パッチの分割の際には、伝
送フレームの各ブロックの中心位置を頂点とした多角形
パッチを用いるようにしたので、パッチ頂点とブロック
中心とを一致させることにより、該ブロックの動きベク
トルをパッチ頂点の動き量と見なせるので、幾何学的変
換の計算が容易かつ安定に行える。第3の発明によれ
ば、幾何学的変換の決定の際には、伝送フレーム内の多
角形パッチ毎に内挿フレーム内の対応する領域との関係
をアフィン変換として表現し決定するようにしたので、
一般の画像が画素間相関が強いため、パッチ毎のアフィ
ン変換によって画像の変形を十分表現できる。しかも、
アフィン変換では、幾何学的変換を少ないパラメータ
(例えば、6個)で表現できる。第4の発明によれば、
幾何学的変換の決定の際には、伝送された動きベクトル
を、注目ブロック及び近傍ブロックの動きベクトルと動
き補償誤差とを考慮して修正し、その修正された動きベ
クトルに基づいて多角形パッチ毎の内挿フレームに対す
る幾何学的変換を決定するようにしたので、送信時の動
きベクトル検出誤差や、パッチ頂点の動き推定誤差を吸
収でき、内挿フレームの画質向上が期待できる。
【0041】第5の発明によれば、動きベクトルが伝送
されないブロック(即ち、動き補償が行われずに伝送さ
れるブロック)については、近傍ブロックの動きベクト
ルと動き補償誤差とに基づき動きベクトルを計算し、あ
るいは、伝送されたフレームデータ間のパタンマッチン
グによって動きベクトルを計算し、この動きベクトルに
基づいて多角形パッチ毎の内挿フレームに対する幾何学
的変換を決定するようにしているので、動きベクトルが
伝送されないブロックに対して動きベクトルが計算さ
れ、それによって内挿データの品質を向上できる。第6
の発明によれば、受信側に伝送された2つの連続する伝
送フレームの両方に基づいて各々内挿フレームデータを
作成し、この2つの内挿フレームデータの重み付き加算
結果を最終的な内挿フレームデータとしているので、一
方の伝送フレームに基づく場合に比べ、前後フレームと
の相関の高い内挿フレームデータを作成でき、それによ
って画質の向上が期待できる。第7の発明によれば、多
角形パッチの分割の際には、伝送フレームの隣接する3
つのブロックの中心位置を頂点とした三角形パッチを用
いるようにしたので、幾何学的変換として例えばアフィ
ン変換を適用した場合、三角形パッチに対する方程式の
数が例えば6個得られるため、アフィン係数(例えば、
6個)が一意に決定できる。そのため、アフィン変換に
最も適した内挿が実現できる。第8の発明によれば、多
角形パッチの分割の際には、伝送フレームの隣接する4
つのブロックの中心位置を頂点とした正方形パッチを用
いるようにしたので、パッチ総数を減少でき、処理時間
を短縮できる。
されないブロック(即ち、動き補償が行われずに伝送さ
れるブロック)については、近傍ブロックの動きベクト
ルと動き補償誤差とに基づき動きベクトルを計算し、あ
るいは、伝送されたフレームデータ間のパタンマッチン
グによって動きベクトルを計算し、この動きベクトルに
基づいて多角形パッチ毎の内挿フレームに対する幾何学
的変換を決定するようにしているので、動きベクトルが
伝送されないブロックに対して動きベクトルが計算さ
れ、それによって内挿データの品質を向上できる。第6
の発明によれば、受信側に伝送された2つの連続する伝
送フレームの両方に基づいて各々内挿フレームデータを
作成し、この2つの内挿フレームデータの重み付き加算
結果を最終的な内挿フレームデータとしているので、一
方の伝送フレームに基づく場合に比べ、前後フレームと
の相関の高い内挿フレームデータを作成でき、それによ
って画質の向上が期待できる。第7の発明によれば、多
角形パッチの分割の際には、伝送フレームの隣接する3
つのブロックの中心位置を頂点とした三角形パッチを用
いるようにしたので、幾何学的変換として例えばアフィ
ン変換を適用した場合、三角形パッチに対する方程式の
数が例えば6個得られるため、アフィン係数(例えば、
6個)が一意に決定できる。そのため、アフィン変換に
最も適した内挿が実現できる。第8の発明によれば、多
角形パッチの分割の際には、伝送フレームの隣接する4
つのブロックの中心位置を頂点とした正方形パッチを用
いるようにしたので、パッチ総数を減少でき、処理時間
を短縮できる。
【0042】第9の発明によれば、受信側に伝送された
2つの連続する伝送フレームの一方を多角形パッチに分
割し、さらに、該伝送フレームの各ブロックの動きベク
トルに基づいて多角形パッチ毎に前記2つの伝送フレー
ム各々の内挿フレームに対する幾何学的変換を決定し、
該2つの幾何学的変換を用いて前記2つの伝送フレーム
データから内挿フレームのデータを作成するようにした
ので、第6の発明とほぼ同様に、一方の伝送フレームに
基づく場合に比べ、前後フレームとの相関の高い内挿フ
レームデータを作成でき、画質の向上が期待できる。第
10の発明によれば、第1の発明が多角形パッチを伝送
フレーム上に設定しているのに対し、多角形パッチを内
挿フレーム上に設定するようにしたので、装置化した際
の構成が第1の発明と異なるものの、該第1の発明とほ
ぼ同様の効果が得られる。第11の発明によれば、多角
形パッチの頂点毎の動きの推定の際には、ブロック毎の
動きベクトルに基づいて該ブロックに対応する内挿フレ
ーム内のブロック領域の位置を計算した後、多角形パッ
チの頂点毎に、該頂点を中心とする所定の領域中に含ま
れる前記ブロック領域の、大きさ、対応する動きベクト
ル、及び対応する動き補償誤差の少なくとも一つ以上を
考慮して前記頂点の動きを推定するようにしている。多
角形パッチ頂点の動きは、一般的に、周辺領域の動きと
の相関が強い。そこで、この関係に基づき、パッチ頂点
の動きを推定するので、容易かつ安定に実現できる。第
12の発明によれば、多角形パッチの頂点毎の動きの推
定の際には、ブロック毎の動きベクトルに基づいて該ブ
ロックの代表点に対応する内挿フレーム内の代表点の位
置を計算した後、多角形パッチの頂点毎に、該頂点を中
心とする所定の領域中に含まれる前記内挿フレーム内の
代表点の、位置、対応する動きベクトル、及び対応する
動き補償誤差の少なくとも一つ以上を考慮して前記頂点
の動きを推定するようにしている。この第12の発明で
は、第11の発明に対して装置化した際の構成が異なる
だけで、ほぼ同様の効果が得られる。
2つの連続する伝送フレームの一方を多角形パッチに分
割し、さらに、該伝送フレームの各ブロックの動きベク
トルに基づいて多角形パッチ毎に前記2つの伝送フレー
ム各々の内挿フレームに対する幾何学的変換を決定し、
該2つの幾何学的変換を用いて前記2つの伝送フレーム
データから内挿フレームのデータを作成するようにした
ので、第6の発明とほぼ同様に、一方の伝送フレームに
基づく場合に比べ、前後フレームとの相関の高い内挿フ
レームデータを作成でき、画質の向上が期待できる。第
10の発明によれば、第1の発明が多角形パッチを伝送
フレーム上に設定しているのに対し、多角形パッチを内
挿フレーム上に設定するようにしたので、装置化した際
の構成が第1の発明と異なるものの、該第1の発明とほ
ぼ同様の効果が得られる。第11の発明によれば、多角
形パッチの頂点毎の動きの推定の際には、ブロック毎の
動きベクトルに基づいて該ブロックに対応する内挿フレ
ーム内のブロック領域の位置を計算した後、多角形パッ
チの頂点毎に、該頂点を中心とする所定の領域中に含ま
れる前記ブロック領域の、大きさ、対応する動きベクト
ル、及び対応する動き補償誤差の少なくとも一つ以上を
考慮して前記頂点の動きを推定するようにしている。多
角形パッチ頂点の動きは、一般的に、周辺領域の動きと
の相関が強い。そこで、この関係に基づき、パッチ頂点
の動きを推定するので、容易かつ安定に実現できる。第
12の発明によれば、多角形パッチの頂点毎の動きの推
定の際には、ブロック毎の動きベクトルに基づいて該ブ
ロックの代表点に対応する内挿フレーム内の代表点の位
置を計算した後、多角形パッチの頂点毎に、該頂点を中
心とする所定の領域中に含まれる前記内挿フレーム内の
代表点の、位置、対応する動きベクトル、及び対応する
動き補償誤差の少なくとも一つ以上を考慮して前記頂点
の動きを推定するようにしている。この第12の発明で
は、第11の発明に対して装置化した際の構成が異なる
だけで、ほぼ同様の効果が得られる。
【0043】第13の発明によれば、多角形パッチの頂
点毎の動きの推定の際には、注目する頂点の動きを、近
傍の頂点の動き及び(又は)動き誤差を考慮して修正す
るようにしたので、送信時の動きベクトル検出誤差や、
パッチ頂点の動き推定誤差を吸収でき、内挿フレームの
画質向上を期待できる。第14の発明によれば、幾何学
的変換の決定の際には、内挿フレーム内の多角形パッチ
毎に伝送フレーム内の対応する領域との関係をアフィン
変換として表現し決定するようにしている。一般の画像
は画素間相関が強いので、この第14の発明のようにパ
ッチ毎のアフィン変換によって画像の変形を十分表現で
きる。さらに、アフィン変換は、幾何学的変換を少ない
パラメータ(例えば、6個)で表現できる。第15の発
明によれば、内挿フレームデータ作成に用いる伝送フレ
ームデータを、内挿フレームの前後に隣接する2つの伝
送フレームのうちいずれか一方のデータとしているの
で、装置化した場合に構成をより簡略化できる。第16
の発明によれば、内挿フレームデータ作成に用いる伝送
フレームデータを、内挿フレームの前後に隣接する2つ
の伝送フレーム両方とし、さらに、2つの伝送フレーム
データの各々から計算される内挿データの重み付き加算
を行うことによって前記内挿フレームデータを作成する
ようにしているので、動きの激しい画像に対しても、フ
レーム間相関の高い内挿フレームデータを作成できる。
そのため、第15の発明に比べて画質の精度が向上す
る。第17の発明によれば、頂点の動き誤差を、その頂
点を中心とした内挿フレーム内の局所領域に対応する、
該内挿フレームの前後に隣接する2つの伝送フレームの
領域データに基づいて計算するようにしている。内挿フ
レームの前後に隣接する2つの伝送フレーム間の相関が
強い程、一般的に、内挿フレーム中の各パッチ頂点の動
き推定誤差が小さくなる。そこで、この関係に基づいた
動き誤差計算を行うことにより、動き推定誤差を小さく
できる。
点毎の動きの推定の際には、注目する頂点の動きを、近
傍の頂点の動き及び(又は)動き誤差を考慮して修正す
るようにしたので、送信時の動きベクトル検出誤差や、
パッチ頂点の動き推定誤差を吸収でき、内挿フレームの
画質向上を期待できる。第14の発明によれば、幾何学
的変換の決定の際には、内挿フレーム内の多角形パッチ
毎に伝送フレーム内の対応する領域との関係をアフィン
変換として表現し決定するようにしている。一般の画像
は画素間相関が強いので、この第14の発明のようにパ
ッチ毎のアフィン変換によって画像の変形を十分表現で
きる。さらに、アフィン変換は、幾何学的変換を少ない
パラメータ(例えば、6個)で表現できる。第15の発
明によれば、内挿フレームデータ作成に用いる伝送フレ
ームデータを、内挿フレームの前後に隣接する2つの伝
送フレームのうちいずれか一方のデータとしているの
で、装置化した場合に構成をより簡略化できる。第16
の発明によれば、内挿フレームデータ作成に用いる伝送
フレームデータを、内挿フレームの前後に隣接する2つ
の伝送フレーム両方とし、さらに、2つの伝送フレーム
データの各々から計算される内挿データの重み付き加算
を行うことによって前記内挿フレームデータを作成する
ようにしているので、動きの激しい画像に対しても、フ
レーム間相関の高い内挿フレームデータを作成できる。
そのため、第15の発明に比べて画質の精度が向上す
る。第17の発明によれば、頂点の動き誤差を、その頂
点を中心とした内挿フレーム内の局所領域に対応する、
該内挿フレームの前後に隣接する2つの伝送フレームの
領域データに基づいて計算するようにしている。内挿フ
レームの前後に隣接する2つの伝送フレーム間の相関が
強い程、一般的に、内挿フレーム中の各パッチ頂点の動
き推定誤差が小さくなる。そこで、この関係に基づいた
動き誤差計算を行うことにより、動き推定誤差を小さく
できる。
【図1】本発明の第1の実施例の送信側及び受信側の構
成図である。
成図である。
【図2】従来の内挿フレーム方法における内挿フレーム
作成の説明図である。
作成の説明図である。
【図3】図1のブロックとパッチの位置関係の説明図で
ある。
ある。
【図4】図1の伝送フレームF1と内挿フレームとの位
置関係の説明図である。
置関係の説明図である。
【図5】図1の三角形のパッチによる幾何学的変換の説
明図である。
明図である。
【図6】本発明の第2の実施例の受信側の構成図であ
る。
る。
【図7】図6の伝送フレームF2と内挿フレームとの位
置関係の説明図である。
置関係の説明図である。
【図8】本発明の第3の実施例の受信側の構成図であ
る。
る。
【図9】図8のフレーム内挿の動作説明図である。
【図10】本発明の第4の実施例の正方形パッチによる
幾何学的変換の説明図である。
幾何学的変換の説明図である。
【図11】本発明の第5の実施例の動きベクトルの修正
の説明図である。
の説明図である。
【図12】本発明の第6の実施例の送信側及び受信側の
構成図である。
構成図である。
【図13】図12の内挿フレームとパッチの位置関係の
説明図である。
説明図である。
【図14】図12の伝送フレームF1,F2と内挿フレ
ームIPとの位置関係の説明図である。
ームIPとの位置関係の説明図である。
【図15】図12の動き推定回路28の動作説明図であ
る。
る。
【図16】図12の動き推定回路28の他の動作説明図
である。
である。
【図17】図12のアフィン変換決定回路22Bの動作
説明図である。
説明図である。
【図18】本発明の第7の実施例のパッチ頂点の動き修
正の説明図である。
正の説明図である。
【図19】図18のパッチ頂点の動き修正における動き
誤差の説明図である。
誤差の説明図である。
【図20】本発明の第8の実施例の正方形パッチの場合
のアフィン変換決定回路22Bの動作説明図である。
のアフィン変換決定回路22Bの動作説明図である。
11 カメラ 12 MC付き符号化回路 13 多重化回路 14 伝送路 15 分離回路 16,16A,16B 復号化回路 20,20A,20B,20C フレーム内挿回路 20−1,20−2 第1,第2のフレー
ム内挿回路 21 パッチ番号カウンタ 22,22A,22B アフィン変換決定回
路 23,23A 内挿フレーム走査回
路 24,24A アフィン変換回路 25 内挿フレームメモリ 26,27,27A 重み付き加算器 28 動き推定回路
ム内挿回路 21 パッチ番号カウンタ 22,22A,22B アフィン変換決定回
路 23,23A 内挿フレーム走査回
路 24,24A アフィン変換回路 25 内挿フレームメモリ 26,27,27A 重み付き加算器 28 動き推定回路
Claims (17)
- 【請求項1】 伝送フレームをブロックに分割し、分割
されたブロック毎に動き補償を行い、動きベクトルと動
き誤差とを符号化して受信側に伝送する圧縮符号化の受
信の処理で、送信側でコマ落としされたフレームを再生
し、フレームレートを増加する処理を行うフレーム内挿
方法において、 受信側に伝送された2つの連続する伝送フレームの一方
又は両方を多角形パッチに分割し、さらに、該伝送フレ
ームの各ブロックの動きベクトルに基づいて多角形パッ
チ毎の内挿フレームに対する幾何学的変換を決定し、該
幾何学的変換を用いて伝送フレームデータから内挿フレ
ームデータを作成することを特徴とするフレーム内挿方
法。 - 【請求項2】 前記多角形パッチの分割の際には、前記
伝送フレームの各ブロックの中心位置を頂点とした多角
形パッチを用いることを特徴とする請求項1記載のフレ
ーム内挿方法。 - 【請求項3】 前記幾何学的変換の決定の際には、前記
伝送フレーム内の多角形パッチ毎に内挿フレーム内の対
応する領域との関係をアフィン変換として表現し決定す
ることを特徴とする請求項1記載のフレーム内挿方法。 - 【請求項4】 前記幾何学的変換の決定の際には、伝送
された動きベクトルを、注目ブロック及び近傍ブロック
の動きベクトルと動き補償誤差とを考慮して修正し、修
正された動きベクトルに基づいて、前記多角形パッチ毎
の内挿フレームに対する幾何学的変換を決定することを
特徴とする請求項1記載のフレーム内挿方法。 - 【請求項5】 前記ブロックの内の動きベクトルが伝送
されないブロックについては、近傍ブロックの動きベク
トルと動き補償誤差とに基づき動きベクトルを計算し、
あるいは、伝送されたフレームデータ間のパタンマッチ
ングによって動きベクトルを計算し、この動きベクトル
に基づいて前記多角形パッチ毎の内挿フレームに対する
幾何学的変換を決定することを特徴とする請求項1記載
のフレーム内挿方法。 - 【請求項6】 前記受信側に伝送された2つの連続する
伝送フレームの両方に基づいて各々内挿フレームデータ
を作成し、この2つの内挿フレームデータの重み付き加
算結果を最終的な内挿フレームデータとすることを特徴
とする請求項1記載のフレーム内挿方法。 - 【請求項7】 前記多角形パッチの分割の際には、前記
伝送フレームの隣接する3つのブロックの中心位置を頂
点とした三角形パッチを用いることを特徴とする請求項
2記載のフレーム内挿方法。 - 【請求項8】 前記多角形パッチの分割の際には、前記
伝送フレームの隣接する4つのブロックの中心位置を頂
点とした正方形パッチを用いることを特徴とする請求項
2記載のフレーム内挿方法。 - 【請求項9】 伝送フレームをブロックに分割し、分割
されたブロック毎に動き補償を行い、動きベクトルと動
き誤差とを符号化して受信側に伝送する圧縮符号化の受
信の処理で、送信側でコマ落としされたフレームを再生
し、フレームレートを増加する処理を行うフレーム内挿
方法において、 受信側に伝送された2つの連続する伝送フレームの一方
を多角形パッチに分割し、さらに、該伝送フレームの各
ブロックの動きベクトルに基づいて多角形パッチ毎に前
記2つの伝送フレーム各々の内挿フレームに対する幾何
学的変換を決定し、該2つの幾何学的変換を用いて前記
2つの伝送フレームデータから内挿フレームデータを作
成することを特徴とするフレーム内挿方法。 - 【請求項10】 伝送フレームをブロックに分割し、分
割されたブロック毎に動き補償を行い、動きベクトルと
動き誤差とを符号化して受信側に伝送する圧縮符号化の
受信の処理で、送信側でコマ落としされたフレームを再
生し、フレームレートを増加する処理を行うフレーム内
挿方法において、 内挿フレームを多角形パッチに分割し、受信された各ブ
ロックの動きブロックの動きベクトルに基づいて多角形
パッチの頂点毎の動きを推定し、これに基づいて多角形
パッチ毎の伝送フレームに対する幾何学的変換を決定
し、該幾何学的変換を用いて伝送フレームデータから内
挿フレームデータを作成することを特徴とするフレーム
内挿方法。 - 【請求項11】 前記多角形パッチの頂点毎の動きの推
定の際には、ブロック毎の動きベクトルに基づいて該ブ
ロックに対応する内挿フレーム内のブロック領域の位置
を計算した後、多角形パッチの頂点毎に、該頂点を中心
とする所定の領域中に含まれる前記ブロック領域の、大
きさ、対応する動きベクトル及び対応する動き補償誤差
の少なくとも一つ以上を考慮して前記頂点の動きを推定
することを特徴とする請求項10記載のフレーム内挿方
法。 - 【請求項12】 前記多角形パッチの頂点毎の動きの推
定の際には、ブロック毎の動きベクトルに基づいて該ブ
ロックの代表点に対応する内挿フレーム内の代表点の位
置を計算した後、多角形パッチの頂点毎に、該頂点を中
心とする所定の領域中に含まれる前記内挿フレーム内の
代表点の、位置、対応する動きベクトル及び対応する動
き補償誤差の少なくとも一つ以上を考慮して前記頂点の
動きを推定することを特徴とする請求項10記載のフレ
ーム内挿方法。 - 【請求項13】 前記多角形パッチの頂点毎の動きの推
定の際には、注目する頂点の動きを、近傍の頂点の動き
及び又は動き誤差を考慮して修正することを特徴とする
請求項10記載のフレーム内挿方法。 - 【請求項14】 前記幾何学的変換の決定の際には、内
挿フレーム内の多角形パッチ毎に伝送フレーム内の対応
する領域との関係をアフィン変換として表現し決定する
ことを特徴とする請求項10記載のフレーム内挿方法。 - 【請求項15】 前記内挿フレームデータ作成に用いる
伝送フレームデータを、内挿フレームの前後に隣接する
2つの伝送フレームのうちいずれか一方のデータとする
ことを特徴とする請求項10記載のフレーム内挿方法。 - 【請求項16】 前記内挿フレームデータ作成に用いる
伝送フレームデータを、内挿フレームの前後に隣接する
2つの伝送フレームの両方とし、さらに、2つの伝送フ
レームデータの各々から計算される内挿データの重み付
き加算を行うことによって前記内挿フレームデータを作
成することを特徴とする請求項10記載のフレーム内挿
方法。 - 【請求項17】 前記頂点の動き誤差を、頂点を中心と
した内挿フレーム内の局所領域に対応する、該内挿フレ
ームの前後に隣接する2つの伝送フレームの領域データ
に基づいて計算することを特徴とする請求項13記載の
フレーム内挿方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP5228401A JPH0787493A (ja) | 1993-09-14 | 1993-09-14 | フレーム内挿方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP5228401A JPH0787493A (ja) | 1993-09-14 | 1993-09-14 | フレーム内挿方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPH0787493A true JPH0787493A (ja) | 1995-03-31 |
Family
ID=16875894
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP5228401A Pending JPH0787493A (ja) | 1993-09-14 | 1993-09-14 | フレーム内挿方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JPH0787493A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018502480A (ja) * | 2014-11-14 | 2018-01-25 | ホアウェイ・テクノロジーズ・カンパニー・リミテッド | デジタル画像のブロックのマスクベースの処理のためのシステムおよび方法 |
US10523951B2 (en) | 2014-11-14 | 2019-12-31 | Huawei Technologies Co., Ltd. | Systems and methods for processing a digital image |
US10742976B2 (en) | 2014-11-14 | 2020-08-11 | Huawei Technologies Co., Ltd. | Systems and methods for processing a block of a digital image |
CN112866612A (zh) * | 2021-03-10 | 2021-05-28 | 北京小米移动软件有限公司 | 插帧方法、装置、终端及计算机可读存储介质 |
-
1993
- 1993-09-14 JP JP5228401A patent/JPH0787493A/ja active Pending
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018502480A (ja) * | 2014-11-14 | 2018-01-25 | ホアウェイ・テクノロジーズ・カンパニー・リミテッド | デジタル画像のブロックのマスクベースの処理のためのシステムおよび方法 |
US10523951B2 (en) | 2014-11-14 | 2019-12-31 | Huawei Technologies Co., Ltd. | Systems and methods for processing a digital image |
US10602186B2 (en) | 2014-11-14 | 2020-03-24 | Huawei Technologies Co., Ltd. | Systems and methods for mask based processing of a block of a digital image |
US10742976B2 (en) | 2014-11-14 | 2020-08-11 | Huawei Technologies Co., Ltd. | Systems and methods for processing a block of a digital image |
US11153564B2 (en) | 2014-11-14 | 2021-10-19 | Huawei Technologies Co., Ltd. | Systems and methods for processing a block of a digital image |
CN112866612A (zh) * | 2021-03-10 | 2021-05-28 | 北京小米移动软件有限公司 | 插帧方法、装置、终端及计算机可读存储介质 |
CN112866612B (zh) * | 2021-03-10 | 2023-02-21 | 北京小米移动软件有限公司 | 插帧方法、装置、终端及计算机可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
RU2302707C2 (ru) | Кодирующие динамические фильтры | |
AU2002324085C1 (en) | Method for sub-pixel value interpolation | |
JP4243315B2 (ja) | 動画像列の動き補償予測方法 | |
US7224733B1 (en) | Interpolation filtering method for accurate sub-pixel motion assessment | |
JP2005151568A (ja) | 中間映像合成のための時間的平滑化装置及び方法 | |
CN110636312A (zh) | 视频编解码方法和装置及存储介质 | |
JP4761390B2 (ja) | 内挿される画素値の計算方法の改良 | |
JPH06153239A (ja) | 画像の符号化方式 | |
JP3864444B2 (ja) | 画像信号処理装置および方法 | |
JPH06197331A (ja) | 動画像のフレーム内挿方式 | |
JP3764488B2 (ja) | 画像符号化及び復号化方法及び装置 | |
JPH0787493A (ja) | フレーム内挿方法 | |
JP3700230B2 (ja) | 動画像符号化における動き補償方法 | |
JP2002523987A (ja) | ディジタル画像の符号化方法および符号化装置ならびにディジタル画像の復号方法および復号装置 | |
EP1295483A2 (en) | Method of performing motion estimation | |
JP3724008B2 (ja) | 画像情報変換装置および係数データ作成装置 | |
Song et al. | High-resolution image scaler using hierarchical motion estimation and overlapped block motion compensation | |
JP3334384B2 (ja) | 画像予測符号化方法 | |
JP5686316B2 (ja) | カラー動画像動き推定方法及びカラー動画像動き推定装置 | |
JP2616552B2 (ja) | 動画像の符号化・復号化装置 | |
JPH04340886A (ja) | 動画像符号化装置及び動画像復号化装置 | |
JP2006527566A (ja) | 空間的信号変換 | |
JP3107917B2 (ja) | 3次元形状モデルを用いた動画像のフレーム内挿方法及びその装置 | |
JP2695244B2 (ja) | 画像信号符号化装置と画像信号復号化装置及び画像信号符号化方法と画像信号復号化方法 | |
JP6099104B2 (ja) | カラー動画像構造変換方法及びカラー動画像構造変換装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20010410 |