JPH08223536A - 補間画像データ生成装置および方法 - Google Patents

補間画像データ生成装置および方法

Info

Publication number
JPH08223536A
JPH08223536A JP4258195A JP4258195A JPH08223536A JP H08223536 A JPH08223536 A JP H08223536A JP 4258195 A JP4258195 A JP 4258195A JP 4258195 A JP4258195 A JP 4258195A JP H08223536 A JPH08223536 A JP H08223536A
Authority
JP
Japan
Prior art keywords
image data
image
frame
unit area
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP4258195A
Other languages
English (en)
Other versions
JP3577354B2 (ja
Inventor
Ryuji Shirahata
龍司 白幡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Holdings Corp
Original Assignee
Fuji Photo Film Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Photo Film Co Ltd filed Critical Fuji Photo Film Co Ltd
Priority to JP4258195A priority Critical patent/JP3577354B2/ja
Publication of JPH08223536A publication Critical patent/JPH08223536A/ja
Application granted granted Critical
Publication of JP3577354B2 publication Critical patent/JP3577354B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Complex Calculations (AREA)

Abstract

(57)【要約】 【目的】 駒落しにより欠落した駒の画像データを,そ
の前後の駒の画像データに基づいて,像の動きを考慮し
て,滑らかな動きが再生できるように,補間処理により
作成する。 【構成】 駒落しにより欠落した駒の前,後の駒の画像
データがフレーム・メモリ11,12にそれぞれ与えられ
る。それらの画像データにウィンドウが設定され(ウィ
ンドウ回路13,14),そのウィンドウ内において,補間
により生成すべき画素を中心として点対称の位置にある
一対の画素の相関値がそれぞれ算出される(相関演算回
路15)。最も相関の強い一対の画素の画像データを用い
て補間演算により上記中心画素の画像データが生成され
る(選択回路16,補間画素値演算回路17)。

Description

【発明の詳細な説明】
【0001】
【技術分野】この発明は,駒落しにより欠落した駒の画
像データを,その前後の駒の画像データに基づいて補間
処理により作成する装置および方法に関する。
【0002】
【従来技術とその問題点】動画像は連続する多数の駒の
画像によって表わされる。動画像を表わす画像データを
効率的に伝達または蓄積するために画像データの圧縮処
理が行なわれる。この圧縮処理(広義の圧縮処理)の一
環として,連続する駒の中から適数の駒ずつ定期的に
(通常は1駒おきに1駒ずつ)間引く,いわゆる駒落し
が行なわれることがある。駒落し後に残った駒の画像デ
ータが符号化され(データ圧縮),伝送または蓄積され
る。
【0003】図13は連続する複数の(ここでは7個の)
フレームを示すものである。これらの連続する複数のフ
レームから,第2フレーム,第4フレームおよび第6フ
レームの駒落しが実施される。残った第1フレーム,第
3フレーム,第5フレームおよび第7フレームが符号化
される。
【0004】連続する複数フレームにより表わされる動
画像を再生するときには,第1フレーム,第3フレー
ム,第5フレームおよび第7フレームが復号化(データ
伸張)される。駒落しにより欠落されたフレームはその
直前の復号化されたフレームで代用される。すなわち,
再生出力として,まず第1フレームの画像データが出力
され,次に第2フレームの代わりに再び第1フレームの
画像データが出力される。以下同じように,第3フレー
ムの画像データが連続して2回出力され,第5フレーム
の画像データも連続して2回出力され,最後に第7フレ
ームの画像データが出力される。
【0005】フレーム画像についての駒落しを説明した
が,フィールド画像の駒落しが実施されることもある。
【0006】このように動画像の再生にさいして,駒落
しにより欠落したフィールドまたはフレームは,その直
前に駒落しされずに残ったフィールドまたはフレームに
よって代用されるために動画像の連続性が失なわれ,と
くに駒落しされる駒数が多い場合や大きな動きのある動
画像の場合には,動画像の動きがぎこちなく,不自然さ
が生じるという問題点がある。
【0007】この問題点を解決するために,動画像の再
生にさいして,駒落しにより欠落したフレーム画像の画
像データを,その前後のフレーム画像の画像データを用
いて,単純内挿補間により生成することが提案されてい
る(たとえば,特開平6-237444号公報参照)。図13に示
す例で説明すると,第2フレームの各画素の画像データ
を,第1フレームと第3フレームの対応する画素の画像
データを用いて単純補間することにより生成する。同じ
ように,第4フレームの各画素の画像データを,第3フ
レームと第5フレームの対応する画素の画像データを用
いて単純補間することにより生成する。第6フレームの
画像データを第5フレームと第7フレームの対応する画
素間単純補間により生成する。
【0008】しかしこの方法は,駒落しされずに残った
前後のフレーム画像の画像データを用いて対応する画素
間の単純な内挿補間により実施するものであるために,
動画の動きを考慮したものではなく,したがって動きを
充分に滑らかにするものではなかった。
【0009】
【発明の開示】この発明は,動きを考慮した補間処理を
行うことにより,滑らかな動きを表わすことができる画
像データを生成することを目的とする。
【0010】この発明による補間画像データ生成装置
は,それぞれが1駒を構成する第1の画像と第2の画像
と第3の画像とがこの順序で連続しており,かつ第2の
画像が欠落しており,第1の画像を表わす第1の画像デ
ータと第3の画像を表わす第3の画像データとが与えら
れたときに,これらの間の第2の画像を表わす第2の画
像データを,第1の画像データと第3の画像データを用
いて生成する装置であり,第1の画像と第3の画像上の
対応する位置にそれぞれ設定されたウインドウ内におい
て,第2の画像上の上記ウインドウの中心に相当する位
置の中心単位領域を中心として点対称の位置にある単位
領域の画像データを,第1の画像と第3の画像上の単位
領域の位置を変えながら取出す単位領域画像データ取出
手段,上記単位領域画像データ取出手段によって取出さ
れた第1の画像の単位領域画像データと第3の画像の単
位領域画像データとの相関値をそれぞれ算出する相関値
算出手段,および上記相関値算出手段によって算出され
た相関値のうち最も強い相関を表わす相関値を生成した
1対の単位領域画像データに基づいて,上記第2の画像
の中心単位領域の画像データを補間演算する補間演算手
段を備えているものである。
【0011】この発明による補間画像データ生成方法
は,それぞれが1駒を構成する第1の画像と第2の画像
と第3の画像とがこの順序で連続しており,かつ第2の
画像が欠落しており,第1の画像を表わす第1の画像デ
ータと第3の画像を表わす第3の画像データとが与えら
れたときに,これらの間の第2の画像を表わす第2の画
像データを,第1の画像データと第3の画像データを用
いて生成する方法であり,第1の画像と第3の画像上の
対応する位置にそれぞれ設定されたウインドウ内におい
て,第2の画像上の上記ウインドウの中心に相当する位
置の中心単位領域を中心として点対称の位置にある単位
領域の画像データを,第1の画像と第3の画像上の単位
領域の位置を変えながら取出し,取出された第1の画像
の単位領域画像データと第3の画像の単位領域画像デー
タとの相関値をそれぞれ算出し,算出された相関値のう
ち最も強い相関を表わす相関値を生成した1対の単位領
域画像データに基づいて,上記第2の画像の中心単位領
域の画像データを補間演算するものである。
【0012】第1の画像および第3の画像上において上
記ウインドウの位置を,単位領域の水平方向および垂直
方向の大きさ分ずつ水平方向および垂直方向に順次シフ
トしながら,上記ウインドウの各位置で,上記単位領域
画像データの取出し,上記相関演算および上記補間演算
を繰返すことにより,第2の画像を表わすすべての第2
画像データを得ることができる。
【0013】単位領域の画像データの取出しのやり方に
は種々の態様がある。
【0014】その一は単位領域を1画素の大きさに設定
することである。この場合,ウインドウは水平方向およ
び垂直方向に奇数画素(1画素を除く)分の大きさであ
る。画像データが取出される単位領域は1画素分ずつ
(複数画素分ずつでもよい)シフトされることになろ
う。
【0015】その二は単位領域を複数画素を含むブロッ
クとして設定することである。ブロックごとに相関値の
演算が行なわれるので,ノイズに対して強いものとな
る。
【0016】この場合に,単位領域(ブロック)の位置
をブロック単位で変えてもよいし,1画素または複数画
素分ずつ変えてもよい。
【0017】この発明によると,第2の画像上の上記ウ
インドウの中心に相当する位置の中心単位領域を中心と
して点対称の位置にある,第1の画像および第3の画像
上のウインドウ内の単位領域の画像データを取出してい
る。単位領域の位置を変えながら第1の画像および第3
の画像の単位領域画像データを取出し,それらの相関値
を算出している。最も強い相関を表わす相関値を生成し
た一対の単位領域がほぼ同じ像を表わしているといえ
る。最も強い相関を表わす相関値を生成した第1の画像
と第3の画像における一対の単位領域を結ぶ方向が像の
動きの方向であり,これらの単位領域間の距離(時空間
における距離)が動きの程度を表わしていることにな
る。
【0018】このように,像の動きに最も強く関係する
第1の画像と第3の画像の一対の単位領域の画像データ
に基づいて第2の画像を表わす画像データを補間演算に
より算出している。第2の画像の画像データは第1の画
像と第3の画像との中間の位置に,第1の画像と第3の
画像とをつなぐ画像を表わすことになる。
【0019】したがって,第1の画像と第2の画像と第
3の画像とを連続的に再生した場合には,これらの画像
中に像の動きがあれば,その動きは滑らかに表現される
ことになる。
【0020】このようにして,この発明によると,画像
中の像の動きを考慮した補間処理が行なわれるので,再
生したときに滑らかな動きを表わす画像データが得られ
る。
【0021】
【実施例の説明】図1はこの発明の第1の実施例を示す
もので,駒落しにより欠落した画像データを補間によっ
て生成する装置の電気的構成を示すブロック図である。
この実施例は画素間補間を行うものである。
【0022】図13に示すように,偶数フレームのフレー
ム画像データが駒落しにより欠落され,奇数フレームの
フレーム画像データが与えられた場合について説明す
る。前後の奇数フレーム画像データに基づいて,その間
の偶数フレーム画像の画像データが生成される。
【0023】1フレーム分の画像データは切換スイッチ
10を経てフレーム・メモリ11および12のいずれかに入力
し,格納される。切換スイッチ10は1フレーム分の画像
データが通過するごとに切換えられる。したがって,入
力する1フレーム分の画像データはフレーム・メモリ11
または12に交互に与えられることになる。
【0024】たとえば,第1フレーム画像データがフレ
ーム・メモリ11に与えられたとすると,次の第3フレー
ム画像データがフレーム・メモリ12に与えられる。フレ
ーム・メモリ11および12にそれぞれ第1フレームおよび
第3フレーム画像データが格納されている状態で,これ
らの画像データを用いて第2フレームの画像データが生
成される。
【0025】その後,第5フレーム画像データがフレー
ム・メモリ11に与えられる。この状態で,フレーム・メ
モリ12,11に格納されている第3フレーム,第5フレー
ム画像データを用いて,第4フレームの画像データが生
成される。
【0026】その後,第7フレーム画像データがフレー
ム・メモリ12に与えられて記憶される。フレーム・メモ
リ11,12に格納されている第5,第7フレーム画像デー
タを用いて第6フレームの画像データが生成される。
【0027】補間による画像データの生成が動画像表示
のためにリアル・タイムで行なわれるときには,1フレ
ーム分の画像データは1フレーム周期(NTSC方式の
場合には1/30秒)の間に生成される。
【0028】たとえば,第1,第3フレーム画像データ
がフレーム・メモリ11,12にそれぞれ格納された状態
で,1フレーム周期の間に,第1,第3フレーム画像デ
ータを用いて第2フレーム画像データが生成される。続
く1フレーム周期の間に,フレーム・メモリ11に第5フ
レーム画像データが読込まれる。さらにその後に続く1
フレーム周期の間に,第3,第5フレーム画像データを
用いて第4フレーム画像データが生成される。このよう
にして,フレーム・メモリ11または12へのフレーム画像
データの読込みと,補間によるフレーム画像データの生
成とがフレーム周期で交互に繰返されることになる。こ
の場合に,切換スイッチ10は2フレーム周期で交互に切
換えられる。
【0029】切換スイッチ10として有接点のものが図示
されているが,もちろん実際は半導体無接点スイッチ
(ゲート回路等)として実現される。フレーム・メモリ
11および12における指定アドレスを切換えることによっ
ても切換スイッチ10による切換えと同等の機能を達成で
きる(フレーム・メモリ11と12が異なるアドレス空間を
もつ場合)。
【0030】フレーム・メモリ11および12にそれぞれ第
1フレーム画像データおよび第3フレーム画像データが
格納されており,これらの第1,第3フレーム画像デー
タを用いて第2フレームの画像データを補間により生成
する処理について,図2および図3を参照して説明す
る。
【0031】図2および図3は,第1フレーム画像デー
タおよび第3フレーム画像データからウインドウを通し
てそれぞれ抽出された3画素×3画素の画素群を示すも
のである。また,これらの画素群の間に,補間によって
生成されるべき第2フレームの画像データの対応する画
素も図示されている。図2は画素間の対称関係を明確に
するために斜視図的に描かれ,かつ各画素が点(黒丸)
で表わされている。図3は画素配列を分りやすくするた
めに平面的に描かれている。ウインドウの中心にある画
素に対応する第2フレームの画素についての画像データ
が生成される。
【0032】まず,補間により画像データを生成すべき
第2フレームの画素(2,5)を中心として,互いに点
対称の位置関係にある第1フレームの画素と第3フレー
ムの画素との間の相関値を算出する。すなわち,第1フ
レームの画素(1,1)と第3フレームの画素(3,
9)との相関値s1 ,画素(1,2)と画素(3,8)
との相関値s2 ,画素(1,3)と画素(3,7)との
相関値s3 ,画素(1,4)と画素(3,6)との相関
値s4 ,画素(1,5)と画素(3,5)との相関値s
5 ,画素(1,6)と画素(3,4)との相関値s6
画素(1,7)と画素(3,3)との相関値s7 ,画素
(1,8)と画素(3,2)との相関値s8 ,および画
素(1,9)と画素(3,1)との相関値s9 が算出さ
れる。画像データを生成すべき画素(2,5)に対応す
る画素(1,5)と画素(3,5)も,画素(2,5)
を中心として点対称関係にあるとする。
【0033】相関値としては,たとえば2つの画素の画
像データの差の絶対値,差の二乗の値等が用いられる。
【0034】次に,これらの相関値si (i=1〜9)
の中で最も小さい値(最も相関が強いもの)を見付け
る。
【0035】最小の相関値を生じさせる2つの画素(第
1フレームと第3フレームにおける)の画像データを用
いた補間演算が行なわれ,この補間演算結果が第2フレ
ームの画素(2,5)の画像データとなる。補間演算は
公知の演算でよく,たとえば2つの画素の画像データの
平均値を算出する方法が用いられる。
【0036】画像データによって表わされる対象物にあ
る方向への動きがあり,第1フレームから第3フレーム
までの時間(2フレーム周期)の間に2画素分動いたと
する。たとえば,この動きが左下から右上に向う斜めの
方向であるとすると,第1フレームの画素(1,7)に
よって表わされる像は第3フレームでは画素(3,3)
の位置に至る。画素(1,7)の画像データと画素
(3,3)の画像データはほぼ等しい値を示すことにな
るので,相関値s7 は零または零に近い値となる。
【0037】第2フレームの画像データを生成すべき画
素を中心として,互いに点対称の位置関係にある第1フ
レームの画素と第3フレームの画素との相関値の最小値
を見付け出す(相関の強い画素の対を見付け出す)とい
うことは,上述のように画像データによって表わされる
像の動きの方向を検出することを意味する。
【0038】この検出した動きの方向にそって補間演算
が行なわれ,第2フレームの画素(2,5)の画像デー
タが算出される。したがって,画素(2,5)の算出さ
れた画像データは,第1フレームの時点と第3フレーム
の時点との丁度中間の時点において,その画素(2,
5)の位置まで動いてきた像を表わしていることにな
る。
【0039】したがって,上述の処理によって生成され
た第2フレームの画像データを含めて,第1フレームか
ら第3フレームまでの画像データによって表わされる対
象物像をフレーム周期で連続的に再生したとすると,対
象物の動きが滑らかに表現されることになる。
【0040】補間処理のために画像データを切出すべき
ウインドウの大きさは対象物の動きの程度によって定め
ればよい。ウインドウの大きさは3画素×3画素に限ら
ず,5画素×5画素,7画素×7画素,9画素×9画素
のように任意に決定できる。ウインドウを大きくすれば
大きくするほど大きな動きに対処できる。もちろん小さ
な動きにも対処できることになる。
【0041】ウインドウは正方形に限られることはな
い。横方向の動きが大きい場合には3画素(縦方向)×
5画素(横方向),3画素×7画素,5画素×7画素,
5画素×9画素のようにウインドウを横方向に長い長方
形に設定すればよい。縦方向の動きを重要視する場合に
は5画素×3画素,7画素×3画素,7画素×5画素,
9画素×5画素のように縦方向に長いウインドウを設定
すればよい。
【0042】個々の画素の画像データにはノイズの影響
が顕著に現われやすく,相関値もばらつきやすい。そこ
で,見付け出された最小の相関値の妥当性の判定を追加
することが好ましい。たとえば,所定のしきい値を設定
しておき,最小の相関値がこのしきい値よりも小さい場
合にはその相関値は妥当なものとする。このしきい値と
して,ウインドウの中心の画素(1,5)の画像データ
と画素(3,5)の画像データとの平均値を採用するこ
ともできる。上述した相関値演算および最小の相関値の
検出をソフトウェアで実行する場合にもしきい値を用い
ることができる。たとえば,一定の順序で画素対の相関
値を算出し,相関値を算出するごとにしきい値と比較
し,しきい値よりも小さい相関値が見付かった時点で処
理を終了する。しきい値よりも小さい見付かった相関値
を最小のものとみなす。
【0043】多くの種類の画像の中には動きのない,ま
たは殆んどない画像も少なくない。そのような画像につ
いてまで常に上述の処理を行う必要は必ずしもない。そ
こで,まず動きの程度を算出し,動きの程度が所定のし
きい値を超えていた場合にのみ上述の処理を行ない,そ
れ以外の場合には,画素(2,5)の画像データをウイ
ンドウの中心の画素(1,5)と画素(3,5)の画像
データに基づいて算出するようにしてもよい。動きの程
度は,たとえばウインドウの中心の画素(1,5)の画
像データと画素(3,5)の画像データとの相関値によ
って表わせばよい。
【0044】図1に戻って,ウインドウ回路13,14はそ
れぞれフレーム・メモリ11,12に格納されている画像デ
ータに上述したウインドウを設定するものである。この
回路13,14によってそれぞれ設定された各ウインドウに
含まれる画素の画像データは相関演算回路15に与えら
れ,ここで相互に点対称の位置にある画素間の相関値が
算出される。補間参照画素選択回路16において,算出さ
れた相関値のうちの最小値が検出され,この最小値を生
じさせる一対の画素が選択される。選択された一対の画
素の画像データがウインドウ回路13,14から出力され,
これらの画像データに基づいて,補間すべき画素の画像
データが補間画素値演算回路17において算出され,出力
される。
【0045】ウインドウ回路13,14によって設定される
ウインドウは一画素分ずつ水平および垂直方向に走査さ
れる。各走査位置において,補間画像データが算出され
ることになる。したがって,第2フレームのすべての画
素(周辺部の画素については充分な動き検出に基づく補
間は必ずしも行なわれない。)について画像データが生
成されることになる。
【0046】図1の装置がハードウェアで実現される場
合には,ウインドウ回路13,14は,たとえば,それぞれ
複数個(たとえば3個)の縦続接続されたライン・メモ
リから構成されよう。相関演算回路15は複数組(たとえ
ば9組)の減算回路と絶対値回路,または減算回路と二
乗回路により構成されよう。ウインドウ回路13,14の複
数のライン・メモリのウインドウ内のセル(たとえば9
×2=18個)のうち,上述した点対称の位置関係にある
一対のセルが一つの減算回路に接続される。補間参照画
素選択回路16はMIN回路と複数(たとえば9個)の比
較回路を含む。MIN回路は複数の絶対値回路または二
乗回路の出力の最小値を検出する。複数の上記比較回路
にこの最小値に微小値を加えたしきい値が与えられる。
各比較回路には絶対値回路または二乗回路の出力がそれ
ぞれ与えられる。しきい値よりも小さい入力が与えられ
た比較回路から出力が発生する。この出力を発生した比
較回路に対応する画素対が最小の補間値を生成したもの
である。補間画素値演算回路17はウインドウ回路13,14
におけるウインドウ内のセル(9×2=18個)の出力側
に接続されるゲート回路を含む。このゲート回路は一対
ずつ対応する比較回路により制御される。上記の出力を
発生した比較回路によって制御される2つのゲート回路
を通って出力される画像データが上記の最小値を生成し
た画素対の画像データである。演算回路17はさらに平均
値回路を含み,ゲート回路から出力される画像データが
この平均値回路に与えられる。平均値回路の出力が補間
画像データとなる。
【0047】フレーム・メモリ11,12から画像データが
水平走査の順で順次読出され,ウインドウ回路13,14に
それぞれ与えられる。各回路13,14,15,16,17は画素
クロックに同期して動作し,画素クロックごとに補間画
像データが順次出力されることになる。
【0048】図1の装置の機能の一部または全部をソフ
トウェアによって実現することもできる。この場合に
は,上述したウインドウ設定,画素間相関値の演算,最
小の相関値の検出,最小の相関値を生じさせた画素の画
像データを用いた補間値の演算のいずれか一つ,複数,
または全部がプログラムされたコンピュータにより実現
される。
【0049】図4は第2の実施例を示すものである。こ
の実施例ではブロック間処理が行なわれる。
【0050】各画素の画像データは上述のようにノイズ
によって影響されやすい。第2実施例はノイズ等の影響
を極力少なくするために,ブロックを単位として動きを
検出するものである。
【0051】第1実施例と同じように奇数フレームの画
像データが切換スイッチ10を経てフレーム・メモリ11お
よび12に交互に与えられ,かつ格納される。これらのフ
レーム・メモリ11,12にそれぞれ格納されたフレーム画
像データを切出すためのウインドウがウインドウ回路13
A,14Aにそれぞれ設定されている。
【0052】図5はウインドウ回路13Aに設定されたウ
インドウによって切出された第1フレーム画像の画素,
およびウインドウ回路14Aに設定されたウインドウによ
って切出された第2フレーム画像の画素を示すもので,
第1実施例の図3に対応している。図5にはまた,第1
フレーム画像データと第3フレーム画像データとを用い
て画像データが補間により生成される第2フレームの画
素も示されている。
【0053】1ブロックはこの実施例では8画素×8画
素の大きさである。ウインドウは3ブロック×3ブロッ
クの画素を含む大きさに設定されている。第1フレーム
のブロックに[1,1],[1,2],…,[1,9]
の符号を付し,第3フレームのブロックには[3,
1],[3,2],…,[3,9]の符号を付してあ
る。第1フレームおよび第3フレームの各ウインドウに
相当する第2フレームのウインドウを仮想し,この第2
フレームのウインドウの中心のブロックを[2,5]と
する。このブロック[2,5]内の画素の画像データが
補間により生成される。
【0054】1ブロックの大きさを,2画素×2画素,
3画素×3画素,4画素×4画素,3画素×5画素,5
画素×4画素のように任意に設定できる。ウインドウ内
に含まれるブロックも4ブロック×4ブロック,3ブロ
ック×4ブロック,5ブロック×3ブロックのように任
意に設定できる。
【0055】第2フレームのブロック[2,5]を中心
として,互いに点対称の関係にある第1フレームのブロ
ックと第3フレームのブロックとの間の相関値が相関演
算回路15Aにおいて算出される。すなわち,第1フレー
ムのブロック[1,1]と第3フレームのブロック
[3,9]との相関値S1 ,ブロック[1,2]とブロ
ック[3,8]との相関値S2 ,ブロック[1,3]と
ブロック[3,7]との相関値S3 ,ブロック[1,
4]とブロック[3,6]との相関値S4 ,ブロック
[1,5]とブロック[3,5]との相関値S5 ,ブロ
ック[1,6]とブロック[3,4]との相関値S6
ブロック[1,7]とブロック[3,3]との相関値S
7 ,ブロック[1,8]とブロック[3,2]との相関
値S8 ,およびブロック[1,9]とブロック[3,
1]との相関値S9 が算出される。
【0056】これらの相関値Si (i=1〜9)の中で
最も小さい値が補間参照ブロック選択回路16Aにおいて
検出される。最小の相関値を生じされる一対のブロック
が最も相関の強いものである。
【0057】ブロック間の相関値Si はたとえば次のよ
うにして算出される。ブロック[1,1]とブロック
[3,9]との相関値S1 を例にとって説明する。
【0058】これらのブロック[1,1]および[3,
9]にはそれぞれ8×8=64画素が含まれている。ブロ
ック[1,1]と[3,9]において対応する画素間の
相関値sj が算出される。すなわち,ブロック[1,
1]内の画素(1,j)とブロック[3,9]内の画素
(3,j)との相関値がsj (j=1〜64)である。画
素間の相関値は上述のように,2つの画素の画素データ
の差の絶対値,差の二乗値等を求めることにより得られ
る。次に,これらの画素間の相関値sj が1ブロック内
で加算される。1ブロックにおける相関値sj の総和が
ブロック間の相関値Sj となる。総和に代えて平均値で
もよい。
【0059】相関値が最も小さい一対のブロック(第1
フレームにおける1つのブロックと第3フレームにおけ
る1つのブロック)が選択されると,これらの選択され
たブロックの画像データを用いて第2フレームにおける
ウインドウの中央に相当する位置のブロック[2,5]
の画像データが補間演算により生成される。
【0060】たとえば第1フレームのブロック[1,
1]および第3フレームのブロック[3,9]が選択さ
れたとすると,これらのブロックに含まれる画素の画像
データを用いて第2フレームのブロック[2,5]の各
画素の画像データが次のように算出される。ブロック
[2,5]における画素(2,j)の画像データは,ブ
ロック[1,1]の画素(1,j)の画像データとブロ
ック[3,9]の画素(3,j)の画像データを用いた
補間演算(たとえば平均値演算)により得られる。この
補間演算は補間画素値演算回路17Aによって行なわれ
る。この回路17Aからは1ブロック(8×8画素)分の
画像データが出力される。
【0061】第1フレームおよび第3フレームにおける
ウインドウがブロックの一辺の長さ(画素数)を単位と
して順次,水平方向および垂直方向に走査され,各位置
において1ブロックの画素について第2フレームの画像
データが得られることになる。
【0062】図4に示す回路はハードウェアで実現する
こともできるし,その機能の一部または全部をソフトウ
ェアで達成することもできる。いずれの場合にもリアル
タイム処理(たとえばフレーム当り1/30秒の処理時
間)が可能である。ハードウェア回路は図1に関連して
説明した回路を拡張すればよい。ウインドウ回路13A,
14Aは3ブロック(たとえば8×3=24)分の数のライ
ン・メモリから構成されよう。相関演算回路15Aは1ブ
ロックに含まれる画素数(たとえば8×8=64)に相当
する数の減算回路を含み,これらの減算回路の後段にそ
れぞれ絶対値回路または二乗回路が接続されよう。ま
た,これらの絶対値回路または二乗回路の出力の総和を
演算する加算回路が設けられよう。補間参照ブロック選
択回路は最小値検出回路と,ブロック数と同数の比較回
路を含むことになろう。1画素分ずつ補間画像データを
算出する場合には,補間画素値演算回路17Aは1つの平
均値回路を含めばよい。1画素分の算出された画像デー
タが順次出力されることになる。
【0063】図6は動き検出の他のやり方を示してい
る。このやり方においても図4に示す回路が適用され
る。
【0064】第1フレームに設定されたウインドウの左
上のブロック[1,1]内の画像データと第3フレーム
に設定されたウインドウの右下のブロック[3,256 ]
内の画像データとの相関値が算出される。次に,第1フ
レームのウインドウ内においてブロック[1,1]から
右に1画素分シフトした位置にブロック[1,2]が設
定される。同じように第3フレームのウインドウ内にお
いてブロック[3,256 ]から左に1画素分シフトした
位置にブロック[3,255 ]が設定される。これらのブ
ロック[1,2]内の画素データとブロック[3,255
]内の画像データとの相関値が算出される。
【0065】このように,第1フレームにおいてはブロ
ックを1画素分ずつ水平方向に右にシフトしながら,第
3フレームにおいてはブロックを1画素分ずつ水平方向
に左にシフトしながら,各位置において,第1フレーム
のブロック内の画像データと第3フレーム内の画像デー
タとの相関値が算出される。
【0066】第1フレームにおいてブロックが右端に至
り,第3フレームにおいてブロックが左端に至ると,第
1フレームにおいてはブロック[1,1]の位置から1
画素分下方にシフトした位置にブロックが設定され,第
3フレームにおいてはブロック[3,256 ]の位置から
1画素分上方にシフトした位置にブロックが設定され,
これらのブロック内の画像データの相関値が算出され
る。第1フレームにおいてブロックが水平方向に右に,
第3フレームにおいてはブロックが水平方向に左にそれ
ぞれ1画素分ずつシフトされながら,各位置で相関値が
算出される。
【0067】ブロックを第1フレームにおいては,水平
方向には左から右に,垂直方向には上から下に,第3フ
レームにおいては,水平方向には右から左に,垂直方向
には下から上に1画素分ずつシフトしながら,すべての
位置において,第1フレームのブロックの画像データと
第3フレームのブロックの画像データとの相関値が算出
される。第1フレームのブロックと第3フレームのブロ
ックは,第2フレームにおけるウインドウの中央の位置
に相当する位置にあるブロック[2,128 ]を中心とし
て,常に点対称の関係にある。
【0068】ウインドウが正方形でその一辺が24画素,
ブロックが正方形でその一辺が8画素の場合には,256
個の相関値が得られる。これらの相関値のうち最小のも
のが選択される。選択されたブロックの画像データを用
いて,第2フレームのブロック[2,128 ]に含まれる
各画素の画像データが補間演算されること,およびウイ
ンドウを水平方向および垂直方向にブロックの一辺の画
素分ずつシフトしながら上述の処理が行なわれること
は,第2実施例の場合と同じである。
【0069】ブロック間の相関値を演算する場合に,上
述のようにブロックを1画素分ずつシフトするのではな
くて,数画素分ずつシフトするようにしてもよい。この
ことは画素間の相関値を演算する第1実施例においても
あてはまる。
【0070】上記実施例においてはフレーム間補間が行
なわれているが,フィールド画像を単位として補間処理
を行うこともできる。
【0071】欠落したフレーム(またはフィールド)の
前後にあるフレーム(またはフィールド)において,画
像の位置がずれている場合,たとえば上述した第1フレ
ーム内の画像の位置と第3フレーム内の画像の位置とが
ずれている場合(画像の動きによるものではなく,たと
えばカメラを動かしたために2つのフレームにおいて画
像の位置がずれたような場合),このずれ量があらかじ
め分っていれば,このずれをあらかじめいずれかのフレ
ームにおいて補正(ずれ量に相当する分だけ画像データ
をシフトする)したのちに,上述した処理によって補間
画像を生成するようにしてもよい。このずれ補正はウイ
ンドウの設定位置をいずれかのフレームでシフトするこ
とによっても達成できる。もちろん,ずれ補正をしなく
てもよい。ずれ補正をして補間画像を生成したのちずれ
を元に戻してもよい。
【0072】2つのフレーム(またはフィールド)の間
の時間における画像の動きの方向と量があらかじめ分っ
ている場合には,相関値を算出すべき画素対またはブロ
ック対を動きの方向と量に応じて選択し,相関値演算の
回数を減少させることができる。動きの大きさがウイン
ドウ内には収まらないほどに大きい場合には,いずれか
一方のフレーム(フィールド)におけるウインドウの位
置を動きの方向と大きさに応じてあらかじめシフトさせ
るか,または少なくとも一方の画像を動きの方向と大き
さに応じてシフトさせておいた上で,上述した補間画像
データ生成処理を行うようにすることもできる。
【0073】上述した補間画像データ生成処理は,輝度
データのみ,輝度データと色差データの両方,R,G,
Bの色画像データの全部または一部(たとえばB色画像
データのみ)等のいかなる画像データにも適用できる。
この場合,輝度データに基づいて得られた動きの程度と
色差データに基づいて得られた動きの程度とが異なる場
合には,いずれか一方の動き検出結果を用いてもよい
し,重み付け平均値を用いてもよい。
【0074】従来技術の項で説明したように,連続する
多数の駒の画像によって表わされる動画像を効率的に伝
送または蓄積するために,連続する多数の駒の中から,
たとえば一つおきに,駒落しされる。駒落しされたのち
に残った画像の画像データが,適当な画像圧縮アルゴリ
ズムにしたがってデータ圧縮されて伝送または蓄積され
る。
【0075】この発明による補間画像データ生成装置お
よび方法は,このような駒落しにより欠落した駒の画像
を復元するときに有用である。圧縮画像データは伸張処
理ののち,補間画像データ生成装置に与えられる。この
装置において,駒落しにより欠落した駒の画像が生成さ
れる。この結果,連続する駒の画像によって表わされる
元の動画像が再生されることになる。
【0076】この発明による補間画像データ生成装置
は,次に詳述するようなディジタル・ビデオ・テープ・
レコーダまたはディジタル画像データ再生装置において
も好適に利用される。
【0077】ディジタル・ビデオ・テープ・レコーダの
構成および動作の説明に先だち,ディジタル・ビデオ・
テープ・レコーダによる磁気テープへの記録方式に関す
る既存の標準的な業界規格について説明しておく。
【0078】磁気テープの記録フォーマットが図10(A)
および(B) に示されている。図10(A) は磁気テープ28の
トラックTrを示すもので,磁気テープ28の長手方向に
対して斜め方向に一定の角度で多数のトラックTrが形
成される。これらの多数のトラックTrのうち連続する
10個のトラックを用いて1フレーム分のディジタル画像
データが記録される。
【0079】図10(B) にトラック・フォーマットが示さ
れている。1つのトラックTrには,サブコード記録領
域,ビデオ記録領域,補助記録領域,オーディオ記録領
域およびトラック情報記録領域が含まれている。サブコ
ード記録領域には高速検索のためのタイムコードや絶対
トラック番号などの情報が記録される。ビデオ記録領域
には被写体像を表わすディジタル画像データが記録され
る。オーディオ記録領域には音を表わすデータが記録さ
れる。トラック情報記録領域には磁気ヘッドがトラック
Trの中心をトレースするための,トラックTrの基準
となる情報が記録される。補助記録領域は飛び飛びに設
けられ,この補助記録領域には付加情報が記録される。
各領域の間に設けられるギャップは図示が省略されてい
る。
【0080】ディジタル・ビデオ・テープ・レコーダに
用いられるCCDは一般的には水平方向720 画素,垂直
方向480 画素の約35万画素の画素数をもつものが用いら
れる。このようなCCDを用いて得られた1フレーム分
のディジタル画像データが,磁気テープ28の10トラック
に記録される。これが既存の規格である。
【0081】磁気テープ28に記録される画像データによ
って表わされる画像の画質を向上させるためには,画素
数の多いCCDを用いれば良い。しかしながら,ディジ
タル・ビデオ・テープ・レコーダにおいては35万画素の
画素数をもつCCDを用いて被写体を撮像して得られた
ディジタル画像データを,10個のトラックに記録するよ
うにその規格が定められているので,35万画素の画素数
よりも画素数の多いCCDを用いて被写体を撮像して得
られたディジタル画像データを磁気テープ28に記録する
と,この規格から外れてしまう。ここで説明するディジ
タル・ビデオ・テープ・レコーダは,ディジタル・ビデ
オ・テープ・レコーダに一般的に用いられる35万画素の
画素数よりも多い画素数をもつCCDを用いて被写体を
撮像し,かつディジタル・ビデオ・テープ・レコーダの
従来からの記録規格に合致した画像データの記録を可能
とするものである。
【0082】図7は,ディジタル画像データの記録およ
び再生が可能なディジタル・ビデオ・テープ・レコーダ
(DVTR)の電気的構成を示すブロック図である。デ
ィジタル・ビデオ・テープ・レコーダの全体の動作はシ
ステム・コントローラ30によって統括される(制御線は
図示略)。
【0083】このディジタル・ビデオ・テープ・レコー
ダで用いられるCCD31は,図8に示されているように
水平方向1440画素,垂直方向480 画素の約70万画素の画
素数をもつものであり,35万画素CCDの2倍の量の画
像データが得られる。このような70万画素CCD31から
得られる1フレーム分の画像データのデータ量は,35万
画素CCDの2フレーム分の画像データ,すなわち4フ
ィールド分の画像データのデータ量に相当する。
【0084】このディジタル・ビデオ・テープ・レコー
ダではCCD31から得られる1駒分の画像データを4フ
ィールド分の画像データに分け,各2フィールド分をそ
れぞれ10トラックずつを用いて磁気テープ28に記録する
ことにより,高画質撮影を達成しつつ,ディジタル・ビ
デオ・テープ・レコーダの従来からの記録規格に合致し
た画像データの記録を可能とする。
【0085】記録モードにおいて,約70万画素の画素数
をもつCCD31によって1/15秒の一定周期で被写体が
連続的に撮影される。撮影のためのシャッタ速度が適当
(たとえば1/60秒,または必要に応じてこれよりも短
い時間)になるように,いわゆる電子シャッタ制御によ
り定められる。CCD31から1/15秒ごとに被写体像を
表わす映像信号が出力されCDS(correlate double s
amplimg )回路32に与えられる。映像信号はCDS回路
32において増幅され,アナログ/ディジタル変換回路33
においてディジタル画像データに変換される。ディジタ
ル画像データはガンマ補正回路34に与えられ,ガンマ補
正される。ガンマ補正後のディジタル画像データがデー
タ圧縮回路35を介して(このときは,まだデータ圧縮さ
れない)フレーム・メモリ25に与えられ一旦記憶され
る。フレーム・メモリ25は1駒70万画素分のカラー画像
データを記憶できる容量をもつ。
【0086】フレーム・メモリ25に記憶された1駒分の
画像データはフレーム・メモリ25から読出される過程
で,4フィールド分の画像データに分けられる。この分
け方は次の通りである。
【0087】図9はCCD31における画素配列およびこ
れらの画素の画像データが4フィールドに分割される様
子を模式的に表わすものである。水平方向および垂直方
向とも,図示の便宜上,画素数はきわめて少なく描かれ
ている。また,配列方式(モザイク,ストライプ,デル
タ等)はここでは問わない。図9の上部に示すように,
CCD31から出力されかつA/D変換された1駒分の画
像データはCCD31の水平方向および垂直方向のすべて
の画素(水平方向720 画素,垂直方向480 画素)につい
ての画像データを含んでいる。フレーム・メモリ25に
は,CCD31のすべての画素に対応する画像データが記
憶される。画像データは白黒画像を表わす画像データ
(輝度データ)およびカラー画像を表わす画像データ
(R,G,Bの色データ,または輝度データと色差デー
タとの組合せ)を含む概念である。特にカラー画像デー
タの場合に,色データまたは色差データの配列はCCD
のカラー・フィルタ配列,リサンプリングの方式,その
他の処理方式によって異なるであろう。たとえば,一画
素をR,G,Bの三原色データで表わす場合もあるし,
一または二原色データで表わす場合もある。
【0088】これらの画像データのフレーム・メモリ25
からの読出しは第1フィールドから第4フィールドまで
4フィールドにわたって行なわれる(図9の下部参
照)。
【0089】第1回目に読出される第1フィールドの画
像データおよび第3回目に読出される第3フィールドの
画像データは奇数行の画素の画像データである。これら
の奇数行の画像データは黒三角印と白三角印によって表
現されている。黒三角印が奇数列,白三角印が偶数列の
画像データである。第1フィールドの画像データは,奇
数列と偶数列の画像データが垂直方向に交互に繰返すこ
とにより構成される。第3フィールドの画像データは,
偶数列の画像データと奇数列の画像データとが垂直方向
に交互に繰返すことにより構成され,これらは第1フィ
ールドに含まれないものである。
【0090】第2回目に読出される第2フィールドの画
像データおよび第4回目に読出される第4フィールドの
画像データは偶数行の画素の画像データである。これら
の偶数行の画像データは白丸印と黒丸印によって表現さ
れている。白丸印が奇数列,黒丸印が偶数列の画像デー
タである。第2フィールドの画像データは,奇数列と偶
数列の画像データが垂直方向に交互に繰返すことにより
構成される。第4フィールドの画像データは,偶数列の
画像データと奇数列の画像データとが垂直方向に交互に
繰返すことにより構成され,これらは第2フィールドに
含まれないものである。
【0091】このようにして,すべての画素の画像デー
タが1回のみ,いずれかのフィールドにおいて読出され
ることになる。しかも,各フィールドを構成する画像デ
ータの画素は,垂直方向および水平方向に飛び飛びにな
っていて,どのフィールドの画像データによっても被写
体像の全体を表現することができる。第1フィールドと
第2フィールドによって1フレームが構成される。第3
フィールドと第4フィールドによって1フレームが構成
される。これらの各フレームはインタレース走査に適し
ている。したがって,後述する動画の再生において,従
来からの通常インタレース走査による再生と表示が可能
となる。
【0092】これらの4フィールドにわたる画像データ
の読出しはフレーム・メモリ25のアドレッシングの制御
により容易に表現することができる。たとえば,第1フ
ィールドの読出しにおいては,垂直アドレスとして奇数
行を指定する。水平アドレスとしては,(4m+1)行
のときは奇数列を,(4m+3)行のときは偶数列を指
定するアドレス信号を発生させればよい(m=0,1,
2,…)。1フィールド分の画像データの読出しは1/
60秒で行なえばよい。このようなアドレス信号発生はシ
ステム・コントローラ30に行なわせてもよいしカウン
タ,分周回路,論理回路等で構成することもできる。
【0093】フレーム・メモリ25から読出された画像デ
ータは,第1フィールドの画像データから順次データ圧
縮回路35に与えられる。データ圧縮回路35においてDC
T(Discrete Cosine Transform )処理,量子化処理な
どが行なわれることにより,画像データにデータ圧縮が
施される。データ圧縮処理回路35において圧縮された画
像データは誤り訂正符号付加回路36を介して(単に通過
して)フレーム・メモリ26に与えられ一旦記憶される。
【0094】フレーム・メモリ26に記憶された4フィー
ルド分の画像データは順次誤り訂正符号付加回路36に与
えられ,誤り訂正符号が付加される。誤り訂正符号が付
加された画像データは再びフレーム・メモリ26に与えら
れ記憶される。画像データはフレーム・メモリ26から再
び読出され誤り訂正符号付加回路36に与えられる。誤り
訂正符号付加回路36にはシステム・コントローラ30から
記録領域データも与えられている。この記録領域データ
は,1フレームを構成する4つのフィールド・データを
識別するもので,4つのフィールド画像データのそれぞ
れに付加される(補助領域)。
【0095】誤り訂正符号付加回路36から出力される画
像データは記録符号化回路37に与えられ,符号化(たと
えばNRZI符号化)されて記録再生増幅回路27に与え
られる。記録再生増幅回路27において増幅された画像デ
ータは磁気ヘッド38に与えられる。これにより磁気ヘッ
ド38によって磁気テープ28の各トラックのうちビデオ記
録領域A2 に画像データが記録され,補助記録領域A3
に記録領域データが記録される。補助記録領域A3
は,1駒分の画像を4つのフィールドに分けたときに,
これらの4つのフィールドを表わす画像データが磁気テ
ープ28のどこのトラックに記録されたかどうかを表わす
記録領域データが記録される。オーディオ・データやト
ラック情報の記録ももちろん行なわれる。
【0096】70万画素のCCD31を用いて得られた1駒
分の画像データ,すなわち4フィールド分の画像データ
のうち最初の2フィールド分の画像データは,一般的に
用いられる35万画素CCD31を用いて被写体を撮影して
得られた1フレーム分の画像データのデータ量に相当す
るから,連続する10個のトラックのビデオ記録領域A2
に記録される。4フィールド分の画像データのうち残り
の2フィールド分の画像データは,最初の2フィールド
分の画像データが既に記録された画像データの次の10個
のトラックのビデオ記録領域A2 に記録される。70万画
素CCD31を用いて得られた1駒分の画像データは,一
般的に用いられる35万画素CCD31を用いて得られた1
フレーム分の画像データの2倍のデータ量をもつことか
ら,20トラックを用いて磁気テープ28に記録されること
となる。4フィールド分の記録動作は4フィールド分の
撮影動作と同じように1/15秒の周期で行なわれる。
【0097】図7に示すディジタル・ビデオ・テープ・
レコーダは,磁気テープ28に記録されたディジタル画像
データの再生も可能である。再生モードには好ましくは
ムービ再生モードとスチル再生モードとがある。
【0098】ディジタル画像データの再生モードにおい
て,磁気テープ28に記録された画像データ,記録領域デ
ータ,その他のデータが磁気ヘッド41によって読取られ
記録再生増幅回路27に与えられる。記録再生増幅回路27
において増幅されたデータは復調回路42に与えられる。
復調回路42においてデータ復調が行なわれ,誤り訂正回
路43を介してフレーム・メモリ26に与えられ一旦記憶さ
れる。フレーム・メモリ26に記憶されたデータは読み出
され誤り訂正回路43に与えられる。復調回路42において
復調されたデータにデータ誤りがあると,誤り訂正回路
43において誤り訂正処理が行なわれる。誤り訂正処理が
行なわれたデータのうち被写体像を表わすディジタル画
像データはデータ伸張回路44を介してフレーム・メモリ
25に与えられ,記録領域データはシステム・コントロー
ラ30に与えられる。この再生動作も4フィールド分の画
像データについて1/15秒の周期で行なわれる。
【0099】ムービ再生モードにおいては,フレーム・
メモリ25に記憶された画像データはデータ伸張回路44に
与えられ,圧縮された画像データのデータ伸張処理が行
なわれる。
【0100】上述したように1/15秒間隔で撮影するこ
とにより2フレーム分に相当するデータ量の画像データ
(第1フィールドから第4フィールド)が得られ,これ
らの画像データが磁気テープ28の合計20トラックに記録
される。これらの4フィールド分の画像データのうちデ
ータ伸張回路44でデータ伸張された2フィールド分(た
とえば第1フィールドと第2フィールドの画像データが
1/15秒の間隔でこの発明による補間画像データ生成装
置45に与えられるとともに,遅延回路49に与えられる。
残りの2フィールド分の画像データはムービ再生モード
では使用されない。
【0101】補間画像データ生成装置45には1/15秒間
隔(2フレーム周期)で奇数フレーム(図13参照)の画
像データが入力することになるから,時間的に隣接する
これらの2フレーム分の画像データに基づいて,時間的
にそれらの間に位置する偶数フレーム(図13参照)の画
像データが生成される。
【0102】遅延回路49は1フレーム分の画像データを
2フレーム周期遅延するものである。したがって,磁気
テープ28から読出された2フレーム分の画像データのう
ち1フレーム分の画像データ(奇数フレーム)が遅延回
路49から,補間処理により生成された1フレーム分の画
像データ(偶数フレーム)が補間画像データ生成装置45
から,1フレーム周期ごとに交互にモニタ表示装置50に
与えられる。
【0103】モニタ表示装置25に与えられる各フレーム
の画像データに基づいてインタレース走査が行なわれ,
モニタ表示装置25上において動画が再生される。補間画
像データ生成装置45における上述した動きを考慮した補
間処理により,表示される動画における像の動きは滑ら
かとなる。モニタ表示装置50をディジタル・ビデオ・テ
ープ・レコーダに設けてもよい。
【0104】図7に示すディジタル・ビデオ・テープ・
レコーダは動画再生に加えて静止画再生も可能である。
スチル再生モードにおいては,データ伸張回路44におい
てデータ伸張が施された画像データは画像合成回路46に
与えられる。画像合成回路46において,システム・コン
トローラ30に与えられた記録領域データにもとづいて一
つの駒を構成する4つのフィールド・データが識別さ
れ,図11に示すように,識別された4つのフィルード・
データから1駒の画像データが生成される。
【0105】画像合成回路46において生成された1駒の
画像データは垂直補間回路47に与えられる。
【0106】図7に示すディジタル・ビデオ・テープ・
レコーダに用いられるCCD11は水平方向が1440画素あ
り画素数が多いが,垂直方向は480 画素であり,一般的
な画素数(35万画素)をもつCCDの垂直方向の画素数
とあまり変わらない。垂直方向の解像度を高めるため
に,垂直方向に画素のデータを補間する処理を行なって
いる。この補間処理を行なうのが垂直補間回路47であ
る。
【0107】垂直補間回路47において垂直補間処理が行
なわれた画像データはプリンタ48に与えられ,高画質の
静止画がプリントされる。垂直補間処理回路47はプリン
タ48に設けてもよい。
【0108】もっとも,垂直補間処理することなく画像
データをプリンタ48に与えてもよい。画像データ(垂直
補間されたもの,またはされないもの)をモニタ表示装
置50に与え,高画質の静止画を表示するしようにしても
よい。
【0109】垂直補間回路47における垂直補間処理は次
の様にして行なわれる。
【0110】図12は,画素配列の一部を示しており,中
央の画素Sm,n が補間によりその画像データを生成すべ
き画素である。この補間すべき画素の画像データSm,n
(以下,画像データも画素と同じ記号を用いる)を算出
する場合,補間すべき画素Sm,n の上下に隣接する画素
m,n の画像データとDm,n+1 の画像データとの差Δ1
=|Dm,n+1 −Dm,n |,斜め上下に隣接する画素D
m-1,n とDm+1,n+1 との画像データの差Δ2 =|D
m+1,n −Dm-1,n+1 |,ならびにDm+1,n とDm-1,n+1
との差Δ3 =|Dm-1,n+1 −Dm+1,n |がそれぞれ算出
される。
【0111】つづいて,これら算出された画像データの
差Δ1 ,Δ2 およびΔ3 のうち最も小さいものが検出さ
れる。この最も小さい差を算出するのに用いられた2つ
の画像データの相加平均が算出される。この相加平均に
より得られたデータが補間すべき画素Sm,n の画像デー
タとなる。たとえばΔ1 〜Δ3 のうちΔ1 が最も小さい
場合には補間すべき画素の画像データはSm,n =(D
m,n+1 +Dm,n )/2となる。Δ2 が最も小さい場合に
はSm,n =(Dm+1,n +Dm-1,n+1 )/2となり,Δ3
が最も小さい場合にはSm,n =(Dm-1,n+1
m+1,n )/2となる。
【0112】これにより上下または斜め方向に相関が強
くなるように垂直補間が行なわれるので,得られる静止
画のエッジが滑らかになる。
【0113】このような垂直補間処理がすべての列間に
おいて行なわれ,実質的に垂直方向に480 画素の倍の画
素をもつ画像データが得られる(図11の最下部の図を参
照)。
【0114】記録モードと再生モードとを切換える,ま
たは選択するスイッチ(またはキー等)が設けられ,こ
のスイッチにより上述した記録モードと再生モードとの
切換えが行なわれる。また,再生モードのうち,ムービ
再生モードとスチル再生モードとを切換える,または選
択するスイッチが設けられ,このスイッチにより上述し
たムービ再生とスチル再生の切換えが行なわれる。これ
らのスイッチからのモード選択信号はシステム・コント
ローラ10に与えられ,システム・コントローラ30が上述
した各種モードにおける処理が実行されるように各回路
を制御する。
【図面の簡単な説明】
【図1】第1実施例における補間画像データ生成装置を
示すブロック図である。
【図2】補間のための画素の対応関係を斜視図的に示す
ものである。
【図3】補間のための画素の対応関係を平面的に示すも
のである。
【図4】第2実施例における補間画像データ生成装置を
示すブロック図である。
【図5】補間のための画素の対応関係を平面的に示すも
のである。
【図6】ブロックのシフトの様子を示すものである。
【図7】ディジタル・ビデオ・テープ・レコーダの電気
的構成を示すブロック図である。
【図8】CCDの構成を示している。
【図9】1駒分の画像を4つのフィールド画像に分ける
手順を示している。
【図10】(A) は磁気テープの記録フォーマットを示し
ており,(B) はトラックのフォーマットを示している。
【図11】4つのフィールド画像から1駒画像および垂
直補間画像を構成する手順を示している。
【図12】画素配列の一例を示し,垂直補間を説明する
ための図である。
【図13】駒落しされたフレームとその前後のフレーム
とを示すものである。
【符号の説明】
11,12 フレーム・メモリ 13,14,13A,14A ウィンドウ回路 15,15A 相関演算回路 16 補間参照画素選択回路 16A 補間参照ブロック選択回路 17,17A 補間画素値演算回路

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】 それぞれが1駒を構成する第1の画像と
    第2の画像と第3の画像とがこの順序で連続しており,
    かつ第2の画像が欠落しており,第1の画像を表わす第
    1の画像データと第3の画像を表わす第3の画像データ
    とが与えられたときに,これらの間の第2の画像を表わ
    す第2の画像データを,第1の画像データと第3の画像
    データを用いて生成する装置であり,第1の画像と第3
    の画像上の対応する位置にそれぞれ設定されたウインド
    ウ内において,第2の画像上の上記ウインドウの中心に
    相当する位置の中心単位領域を中心として点対称の位置
    にある単位領域の画像データを,第1の画像と第3の画
    像上の単位領域の位置を変えながら取出す単位領域画像
    データ取出手段,上記単位領域画像データ取出手段によ
    って取出された第1の画像の単位領域画像データと第3
    の画像の単位領域画像データとの相関値をそれぞれ算出
    する相関値算出手段,および上記相関値算出手段によっ
    て算出された相関値のうち最も強い相関を表わす相関値
    を生成した1対の単位領域画像データに基づいて,上記
    第2の画像の中心単位領域の画像データを補間演算する
    補間演算手段,を備えた補間画像データ生成装置。
  2. 【請求項2】 第1の画像および第3の画像上において
    上記ウインドウの位置を,単位領域の水平方向および垂
    直方向の大きさ分ずつ水平方向および垂直方向に順次シ
    フトしながら,上記ウインドウの各位置で,上記単位領
    域画像データ取出手段による単位領域画像データ取出動
    作,上記相関演算手段による相関演算,および上記補間
    演算手段による補間演算を繰返すよう制御する手段をさ
    らに備えた請求項1に記載の補間画像データ生成装置。
  3. 【請求項3】 上記単位領域が1画素の大きさであり,
    上記ウインドウが水平方向および垂直方向に奇数画素
    (1画素を除く)分の大きさである,請求項1に記載の
    補間画像データ生成装置。
  4. 【請求項4】 上記単位領域が複数画素を含むブロック
    であり,上記ウインドウが水平方向および垂直方向に奇
    数ブロック(1ブロックを除く)分の大きさである,請
    求項1に記載の補間画像データ生成装置。
  5. 【請求項5】 上記単位領域が複数画素を含むブロック
    であり,上記ウインドウが1ブロックよりも大きく設定
    されており,上記単位領域画像データ取出手段はブロッ
    クの位置を1画素または複数画素分ずつ水平方向および
    垂直方向に変えながら単位領域画像データを取出す,請
    求項1に記載の補間画像データ生成装置。
  6. 【請求項6】 それぞれが1駒を構成する第1の画像と
    第2の画像と第3の画像とがこの順序で連続しており,
    かつ第2の画像が欠落しており,第1の画像を表わす第
    1の画像データと第3の画像を表わす第3の画像データ
    とが与えられたときに,これらの間の第2の画像を表わ
    す第2の画像データを,第1の画像データと第3の画像
    データを用いて生成する方法であり,第1の画像と第3
    の画像上の対応する位置にそれぞれ設定されたウインド
    ウ内において,第2の画像上の上記ウインドウの中心に
    相当する位置の中心単位領域を中心として点対称の位置
    にある単位領域の画像データを,第1の画像と第3の画
    像上の単位領域の位置を変えながら取出し,取出された
    第1の画像の単位領域画像データと第3の画像の単位領
    域画像データとの相関値をそれぞれ算出し,算出された
    相関値のうち最も強い相関を表わす相関値を生成した1
    対の単位領域画像データに基づいて,上記第2の画像の
    中心単位領域の画像データを補間演算する,補間画像デ
    ータ生成方法。
  7. 【請求項7】 第1の画像および第3の画像上において
    上記ウインドウの位置を,単位領域の水平方向および垂
    直方向の大きさ分ずつ水平方向および垂直方向に順次シ
    フトしながら,上記ウインドウの各位置で,上記単位領
    域画像データ取出し処理,上記相関演算,および上記補
    間演算を繰返すことにより,第2の画像を表わすすべて
    の第2画像データを得る,請求項6に記載の補間画像デ
    ータ生成方法。
JP4258195A 1995-02-08 1995-02-08 補間画像データ生成装置および方法 Expired - Fee Related JP3577354B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP4258195A JP3577354B2 (ja) 1995-02-08 1995-02-08 補間画像データ生成装置および方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP4258195A JP3577354B2 (ja) 1995-02-08 1995-02-08 補間画像データ生成装置および方法

Publications (2)

Publication Number Publication Date
JPH08223536A true JPH08223536A (ja) 1996-08-30
JP3577354B2 JP3577354B2 (ja) 2004-10-13

Family

ID=12640046

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4258195A Expired - Fee Related JP3577354B2 (ja) 1995-02-08 1995-02-08 補間画像データ生成装置および方法

Country Status (1)

Country Link
JP (1) JP3577354B2 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006117878A1 (ja) * 2005-04-28 2006-11-09 Hitachi, Ltd. フレームレート変換装置及び映像表示装置
JP2007536817A (ja) * 2004-05-04 2007-12-13 クゥアルコム・インコーポレイテッド 動作補償されたフレームレートアップコンバージョンのための方法および装置
JP2009124637A (ja) * 2007-11-19 2009-06-04 Mitsubishi Electric Corp フレーム補間装置、及びフレーム補間方法
US7586540B2 (en) 2004-10-29 2009-09-08 Hitachi Displays, Ltd. Image interpolation device and a frame rate converter and image display apparatus using the same
WO2011067869A1 (ja) * 2009-12-01 2011-06-09 パナソニック株式会社 画像処理装置及び画像処理方法
JP4890464B2 (ja) * 2004-12-09 2012-03-07 トムソン ライセンシング 動き補償されたピクチャを生成する方法及び装置
US8374246B2 (en) 2004-07-20 2013-02-12 Qualcomm Incorporated Method and apparatus for encoder assisted-frame rate up conversion (EA-FRUC) for video compression
US8553776B2 (en) 2004-07-21 2013-10-08 QUALCOMM Inorporated Method and apparatus for motion vector assignment
US8634463B2 (en) 2006-04-04 2014-01-21 Qualcomm Incorporated Apparatus and method of enhanced frame interpolation in video compression
US8750387B2 (en) 2006-04-04 2014-06-10 Qualcomm Incorporated Adaptive encoder-assisted frame rate up conversion
US8948262B2 (en) 2004-07-01 2015-02-03 Qualcomm Incorporated Method and apparatus for using frame rate up conversion techniques in scalable video coding

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008252591A (ja) * 2007-03-30 2008-10-16 Toshiba Corp 補間フレーム生成装置、補間フレーム生成方法及び放送受信装置

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012075121A (ja) * 2004-05-04 2012-04-12 Qualcomm Inc 動作補償されたフレームレートアップコンバージョンのための方法および装置
JP2007536817A (ja) * 2004-05-04 2007-12-13 クゥアルコム・インコーポレイテッド 動作補償されたフレームレートアップコンバージョンのための方法および装置
JP2011061811A (ja) * 2004-05-04 2011-03-24 Qualcomm Inc 動作補償されたフレームレートアップコンバージョンのための方法および装置
US8369405B2 (en) 2004-05-04 2013-02-05 Qualcomm Incorporated Method and apparatus for motion compensated frame rate up conversion for block-based low bit rate video
US8948262B2 (en) 2004-07-01 2015-02-03 Qualcomm Incorporated Method and apparatus for using frame rate up conversion techniques in scalable video coding
US9521411B2 (en) 2004-07-20 2016-12-13 Qualcomm Incorporated Method and apparatus for encoder assisted-frame rate up conversion (EA-FRUC) for video compression
US8374246B2 (en) 2004-07-20 2013-02-12 Qualcomm Incorporated Method and apparatus for encoder assisted-frame rate up conversion (EA-FRUC) for video compression
US8553776B2 (en) 2004-07-21 2013-10-08 QUALCOMM Inorporated Method and apparatus for motion vector assignment
US7586540B2 (en) 2004-10-29 2009-09-08 Hitachi Displays, Ltd. Image interpolation device and a frame rate converter and image display apparatus using the same
US8355441B2 (en) 2004-12-09 2013-01-15 Thomson Licensing Method and apparatus for generating motion compensated pictures
JP4890464B2 (ja) * 2004-12-09 2012-03-07 トムソン ライセンシング 動き補償されたピクチャを生成する方法及び装置
WO2006117878A1 (ja) * 2005-04-28 2006-11-09 Hitachi, Ltd. フレームレート変換装置及び映像表示装置
US8634463B2 (en) 2006-04-04 2014-01-21 Qualcomm Incorporated Apparatus and method of enhanced frame interpolation in video compression
US8750387B2 (en) 2006-04-04 2014-06-10 Qualcomm Incorporated Adaptive encoder-assisted frame rate up conversion
JP2009124637A (ja) * 2007-11-19 2009-06-04 Mitsubishi Electric Corp フレーム補間装置、及びフレーム補間方法
WO2011067869A1 (ja) * 2009-12-01 2011-06-09 パナソニック株式会社 画像処理装置及び画像処理方法
JP5192087B2 (ja) * 2009-12-01 2013-05-08 パナソニック株式会社 画像処理装置及び画像処理方法

Also Published As

Publication number Publication date
JP3577354B2 (ja) 2004-10-13

Similar Documents

Publication Publication Date Title
JP4887750B2 (ja) 画像処理装置、制御方法及びプログラム
US6185340B1 (en) Adaptive motion vector control
US5825429A (en) Apparatus and method for generating interpolated image data
JP3577354B2 (ja) 補間画像データ生成装置および方法
US6233392B1 (en) Constrained encoded motion vectors
JP3172643B2 (ja) ディジタル記録再生装置
KR100508525B1 (ko) Mpeg 엔코딩된 신호의 트릭 플레이 재생을 위한 장치및 방법
JP4027337B2 (ja) 映像情報記録装置および映像情報記録方法ならびに映像情報再生装置および映像情報再生方法
JP3106485B2 (ja) 映像信号再生装置及び映像信号処理装置
JP3733248B2 (ja) 再生装置及びその方法
JPH06178270A (ja) 映像再生装置
US6778758B1 (en) Image processing apparatus
JP3445869B2 (ja) ディジタル・ビデオ・テープ・レコーダおよびディジタル画像データの記録方法
JP3569564B2 (ja) 補間画像データ生成装置および方法
JP3606634B2 (ja) 画像データ記録装置およびディジタル画像データの記録方法ならびにディジタル画像データの再生装置および方法
JP2707666B2 (ja) 再生装置
JP4373689B2 (ja) テレビジョンカメラ
JP3127642B2 (ja) ディジタルビデオ信号記録装置
JP3365613B2 (ja) デジタル信号再生装置
JP3833285B2 (ja) 画像データ記録装置および方法ならびに画像データ再生装置および方法
JP3298307B2 (ja) 動画像記録装置及び再生装置
JP2000078450A (ja) 撮像装置、再生装置及び撮像記録再生装置
JP3666959B2 (ja) ディジタル画像データ記録装置および方法ならびにディジタル画像データ再生装置および方法
JP2841098B2 (ja) 画像処理方法
JPH0799647A (ja) 画像信号再生装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040706

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040712

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080716

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080716

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080716

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090716

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090716

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100716

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110716

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110716

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120716

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees