JPH11112940A - 動きベクトルの生成方法および装置 - Google Patents

動きベクトルの生成方法および装置

Info

Publication number
JPH11112940A
JPH11112940A JP9290443A JP29044397A JPH11112940A JP H11112940 A JPH11112940 A JP H11112940A JP 9290443 A JP9290443 A JP 9290443A JP 29044397 A JP29044397 A JP 29044397A JP H11112940 A JPH11112940 A JP H11112940A
Authority
JP
Japan
Prior art keywords
motion vector
motion
block
unit
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP9290443A
Other languages
English (en)
Other versions
JP4083266B2 (ja
Inventor
Yasuhiro Hirano
裕弘 平野
Kazuo Ishikura
和夫 石倉
Masahito Sugiyama
雅人 杉山
Yasuhei Nakama
泰平 中間
Takashi Kanehachi
孝至 兼八
Takaaki Matono
孝明 的野
Haruki Takada
春樹 高田
Toshiyuki Kurita
俊之 栗田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP29044397A priority Critical patent/JP4083266B2/ja
Publication of JPH11112940A publication Critical patent/JPH11112940A/ja
Application granted granted Critical
Publication of JP4083266B2 publication Critical patent/JP4083266B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Television Systems (AREA)

Abstract

(57)【要約】 【課題】 動き補正のフレーム数変換を高画質かつ低コ
ストで行うのに好適な動きベクトルの生成方法および装
置を提供する。 【解決手段】 動きベクトル情報にもとづいて動きベク
トルBVを生成する動きベクトル変換部6と、現フレー
ムの信号と前フレームの信号から画像の動きを検出する
動き検出部9と、動きベクトル変換部6及び動き検出部
9の出力を用いてブロック単位の動きベクトルBVCを
生成するブロック単位動きベクトル生成部7と、ブロッ
ク単位動きベクトル生成部7及び動き検出部9の出力を
用いて画素単位の動きベクトルPVを生成する画素単位
動きベクトル生成部8とを備え,これにより生成した動
きベクトルPVを用いて動き補正のフレーム数変換を行
う。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は動きベクトルの生成
方法および装置に係り、特に動き補正の信号処理で内挿
フレーム信号を生成するフレーム数変換に好適な動きベ
クトルの生成方法および装置に関する。
【0002】
【従来の技術】近年、マルチメディアの進展に伴い、各
種方式のテレビジョン信号やパソコン画像などをマルチ
ウィンドウ表示する使用形態が多くなってきた。また、
表示部も従来のCRTの他、PDPやLCDなどの平面
ディスプレイも使用されるようになってきた。しかしな
がら、各種入力ソースでは、画像のフレーム周波数や走
査線数や1画面の画素数が異なっている。また、各種デ
ィスプレイでは、走査形態や表示画素数が様々である。
このため、入力ソースの信号を表示系に合った信号に変
換する画像フォーマット変換の信号処理が必要となる。
【0003】この画像フォーマット変換では、飛び越し
走査−順次走査を変換する走査変換や、フレームレート
を変換するフレーム数変換、あるいは走査線数や画像サ
イズを変換するスケーリング処理の信号処理が必要であ
る。このうち、走査変換やスケーリング処理は、従来技
術を用いて比較的簡単な信号処理で実現できる。これに
対して、フレーム数変換は、単純な駒落としや駒繰り返
しの処理で実現することも可能であるが、この場合には
動き画像で滑らかさが損なわれるモーションジャダーな
どの画質劣化が発生し、画質が大幅に劣化するという問
題がある。
【0004】この問題を解決する技術としては、動き補
正のフレーム数変換法が知られている。これは、動きベ
クトルで前後のフレームの画像位置を移動させて内挿フ
レームの信号を生成するもので、動き画像のモーション
ジャダーの除去には極めて有効である。
【0005】一方、画像の高能率符号化の分野では、国
際標準規格であるMPEG符号化など、動き補償フレー
ム間予測符号化をベースとした方式が主流となり、TV
会議やデジタル放送などに広く用いられるようになって
きた。この動き補償フレーム間予測符号化では、送信側
では、動きベクトルで画像の位置を移動させて生成した
予測フレームと現フレームとの差分を予測誤差成分とし
て抽出し、これと動きベクトルの情報を伝送する。受信
側では、伝送された動きベクトルと予測誤差成分より元
の画像信号を復号する。
【0006】また、テレビ画像のための動き予測方法に
ついては、例えば特開平7−170496号公報に開示
されている。この方法は、1つの注目ブロックの動きベ
クトルおよび3つの隣接するブロックの動きベクトルを
用いて、1つの画素の動きベクトルを計算するものであ
る。これにより、大きなブロックの信頼性という利点
と、より局在的な位置決定の動きベクトルの性能を兼ね
備える装置を提供することができる、とするものであ
る。
【0007】
【発明が解決しようとする課題】従来の動き補正のフレ
ーム数変換法においては、動きベクトルの探索、生成に
膨大な演算量が必要なため、装置規模が大きくなり価格
も極めて高価となっている。このため、その用途は、放
送分野の番組交換などの特殊な用途に限られている。一
方、画像の高能率符号化の分野では、動きベクトル情報
はもっぱら画像信号の復号化処理に使われているにすぎ
ない。また、上述したテレビ画像のための動き予測方法
では、画素単位の動きベクトルの精度に問題があり、正
確な動きベクトルを得ることができず、画質劣化が発生
するおそれがある。
【0008】従って本発明の目的は、動き補正のフレー
ム数変換を高画質かつ低コストで行うのに好適な動きベ
クトルの生成方法および装置を提供することにある。
【0009】
【課題を解決するための手段】上記目的は、動きベクト
ル情報に基づいて変換動きベクトルを生成する工程と、
現フレームの信号と前フレームの信号から画像の動きを
検出する工程と、前記変換動きベクトル及び画像の動き
を用いてブロック単位動きベクトルを生成する工程と、
前記ブロック単位動きベクトル及び画像の動きを用いて
画素単位動きベクトルを生成する工程とを備えた動きベ
クトルの生成方法により、達成される。
【0010】ここで、ブロック単位動きベクトルを生成
する工程は、動き検出により動きを検出しないブロック
にはブロック単位動きベクトルとして0を割り当て、動
きを検出したブロックには変換動きベクトルのうち所定
のブロック単位の動き補正誤差を有するものをブロック
単位動きベクトルとして割り当てる。所定の動き補正誤
差としては最少の動き補正誤差が用いられる。
【0011】また画素単位動きベクトルを生成する工程
は、動き検出により動きを検出しない画素には画素単位
動きベクトルとして0を割り当て、動きを検出した画素
にはブロック単位の動き補正誤差が閾値未満のときはブ
ロック内の画素にブロック単位動きベクトルを割り当
て、閾値以上のときは現ブロックと隣接ブロックの動き
ベクトルを用いてブロックを縮小したミニブロック毎に
所定の動き補正誤差を有するものを画素単位動きベクト
ルとして割り当てる。所定の動き補正誤差としては、ミ
ニブロックを内包する算出領域のうち最少の動き補正誤
差を用いる。
【0012】本発明に係る動きベクトルの生成装置は、
動きベクトル情報にもとづいて動きベクトルを生成する
動きベクトル変換部と、現フレームの信号と前フレーム
の信号から画像の動きを検出する動き検出部と、前記動
きベクトル変換部及び前記動き検出部の出力を用いてブ
ロック単位の動きベクトルを生成するブロック単位動き
ベクトル生成部と、前記ブロック単位動きベクトル生成
部及び前記動き検出部の出力を用いて画素単位の動きベ
クトルを生成する画素単位動きベクトル生成部とを備え
る。
【0013】このような技術的手段により、本発明で
は、動き補正のフレーム数変換に必要な画素単位の動き
ベクトルを、高精度、かつ、極めて少ない演算量で生成
することができる。
【0014】本発明に係るフレーム数変換方法では、動
きベクトル情報から得られた動きベクトルとフレーム差
分信号から得られた画像の動きとを用いて生成したブロ
ック単位動きベクトルに基づいて画素単位動きベクトル
を生成する工程と、画素単位動きベクトルに基づいて求
めた補正補間動きベクトルを用いて内挿フレーム信号を
生成することにより画像信号のフレーム数を変換する工
程とを備える。
【0015】本発明に係るフレーム数変換装置では、動
きベクトル情報にもとづいて動きベクトルを生成する動
きベクトル変換部、現フレームの信号と前フレームの信
号から画像の動きを検出する動き検出部、動きベクトル
変換部及び動き検出部の出力を用いてブロック単位の動
きベクトルを生成するブロック単位動きベクトル生成部
およびブロック単位動きベクトル生成部及び動き検出部
の出力を用いて画素単位の動きベクトルを生成する画素
単位動きベクトル生成部を有する動きベクトル生成部
と、画素単位動きベクトルに基づいて求めた補正補間動
きベクトルを用いて内挿フレーム信号を生成することに
より画像信号のフレーム数を変換する動き補正フレーム
数変換部とを備える。
【0016】これにより、動き補正のフレーム数変換を
高画質かつ低コストで行うことができる。
【0017】本発明では、別の形態として、動き補正の
フレーム内挿処理を、動きの滑らかさが損なわれるモー
ションジャダーの目立ちやすい速度の動きや、上下パン
や水平パンや文字スクロールなどの特殊な動きに対して
のみ行う。また、シーンチェンジ時は、動きベクトルの
探索及び動き補正のフレーム内挿処理の動作を中止す
る。この結果、動き補正処理に固有な動画のエッジ部が
フリッカしたり動きが不自然に見える画質劣化の発生を
抑圧できる。また、シーンチェンジ時での膨大な演算量
の発生を抑圧でき、高画質でしかも低コストのフレーム
数変換装置を実現することができる。
【0018】
【発明の実施の形態】本発明の理解を容易とするため、
始めにMPEG符号化を例として、動き補償予測符号化
の概略を簡単に説明する。
【0019】図21は、MPEG符号化におけるMCフ
レーム間予測の概略図を示すものである。同図に示す時
系列の画像信号シーケンスの各フレームは、記号I,P,
Bで示すIピクチャ、Pピクチャ、Bピクチャに分け
る。そして、Iピクチャではフレーム内の離散コサイン
変換(DCT)符号化を行う。一方、P,Bピクチャで
は動き補償予測符号化を行う。このうち、Pピクチャで
は、図中のPの記号で示すフレームの間で、動きベクト
ルMVpを用いた一方向予測で予測フレームの信号を生成
し、これとの差分成分をDCT符号化する。また、Bピ
クチャでは、図中のBの記号で示すフレームに対して同
図に示す動きベクトルMVbを用いた双方向予測で予測フ
レームの信号を生成し、これとの差分成分をDCT符号
化する。そして、IピクチャではDCT符号化成分、
P,Bピクチャでは動き補償予測に用いた動きベクトル
MVp,MVbの情報とDCT符号化した差分成分を伝送す
る。
【0020】図22は、本発明における動き補正フレー
ム数変換用動きベクトルへの変換動作の概略を示すもの
である。周知の如く、動き補正のフレーム数変換では、
画像信号シーケンスの1フレーム期間での動きベクトル
が必要である。このため、Pピクチャ符号化時の動きベ
クトルMVp(図中のMVp1,MVp2,MVp3)に対しては、それ
をPピクチャ期間のフレーム数(同図では3)で除した
変換動きベクトルBVp(図中のMVp1/3,MVp2/3,MVp3/3)を
生成し、これを1フレーム期間の動きベクトルBVとす
る。一方、Bピクチャ符号化時の動きベクトルMVbに対
しては、その1フレーム期間の動きベクトル(図のMVb1
1,MVb12,MVb21,MVb22,MVb31、MVb32)を用いて変換動きベ
クトルBVbを生成し、これを1フレーム期間の動きベク
トルBVとする。
【0021】以上に述べた動きベクトル変換の技術的手
段で、動き補償予測符号化の動きベクトル情報より動き
補正のフレーム数変換に必要な1フレーム期間の動きベ
クトルを簡単に生成できる。なお、この動きベクトル変
換で得られる動きベクトルは、ブロック単位(水平8画
素x垂直8ライン)あるいはマクロブロック単位(水平
16画素x垂直16ライン)での動きベクトルである。
【0022】動き補正のフレーム数変換では、動きベク
トルの精度が悪い場合には、画像の一部が不適切な画像
に置き換えられる孤立点的な劣化が発生する。これを回
避するため、本発明においては、以下に述べるブロック
単位、画素単位の動きベクトル生成の2段階の信号処理
を採用する。
【0023】ブロック単位動きベクトル生成では、ま
ず、フレーム差分信号で動きを検出しないブロック(静
止ブロック)と、動きを検出したブロック(動画ブロッ
ク)とに分別する。そして、静止ブロックには動きベク
トルBVCに0を割り当てる。一方、動画ブロックに
は、上述した動きベクトル変換の信号処理で生成する動
きベクトルBV(BVp,BVb)のうちで、ブロック単位の動
き補正誤差を演算し、これが最少なものを動きベクトル
BVCに割り当てる。
【0024】画素単位動きベクトル生成では、まず、動
きベクトルBVCで現ブロックでの動き補正誤差を算出
し、閾値THとの大小比較を行う。そして、閾値TH未
満の場合は、動きベクトルBVCは正確と判定し、この
動きベクトルBVCをブロック内の動きを検出した全て
の画素に割り当てる。一方、閾値TH以上の場合は、現
ブロック及びこれに隣接する参照ブロックの動きベクト
ルを用い、ミニブロック(例えば水平MX画素x垂直M
Yライン)毎に、ミニブロックを内包する水平MX+
2、垂直MY+2の算出領域で動き補正誤差を最少にす
る動きベクトルPVを求める。そして、ミニブロック内
の動きを検出した画素には、この動きベクトルPVを割
り当てる。また、フレーム差分信号成分が零の画素に
は、動きベクトルPVに0を割り当てる。
【0025】以上に述べた技術的手段で、動き補正のフ
レーム数変換に必要な画素単位の動きベクトルを、高精
度、かつ、極めて少ない演算量で生成できる。
【0026】図1は、本発明の第1の実施例を示すブロ
ック構成図である。同図の1はMPEGデコーダ部、2
はIP変換部、3は1フレーム遅延部、4は動きベクト
ル生成部、5は動き補正フレーム数変換部である。
【0027】MPEGデコーダ部1は、MPEG符号化
されたビットストリーム信号DSの復号処理を行い、復
号した画像信号シーケンスの信号S1と、動きベクトル
情報MV(P,Bピクチャの動きベクトルMVp,MVbなら
びに符号化パラメタ情報)を出力する。なお、この信号
処理や構成は従来技術で容易に実現出来る。
【0028】IP変換部2は、飛び越し走査の画像信号
に対しては、飛び越し走査で抜けた走査線の信号を補間
処理で生成し、順次走査の画像信号S2に変換する。こ
の信号処理は、例えば従来技術の動き適応型の走査変換
で実現する。
【0029】動きベクトル生成部4は、現フレームの信
号S2と、これを1フレーム遅延部3で1フレーム期間
遅延させた前フレームの信号S3と、動きベクトル情報
MVをもとに、前述した動きベクトル変換、ブロック単
位、画素単位動きベクトル生成の信号処理を行い、動き
補正のフレーム数変換に使用する画素単位の動きベクト
ルPVを生成する。この具体的な構成については後述す
る。
【0030】動き補正フレーム数変換部5は、画素単位
動きベクトルPVをもとに補正補間動きベクトルを作
り、現フレームの信号S3と前フレームの信号S2の画
像の位置を、この補正補間動きベクトルで移動させた信
号で内挿フレームの信号を生成する。そして、この動き
補正のフレーム内挿処理でフレームレートを変換した順
次走査の画像信号S4を出力として得る。なお、この具
体的な構成についても後述する。
【0031】以下、本実施例における主要ブロック部に
ついて説明する。
【0032】図2は動きベクトル生成部4の一構成例を
示す図である。動きベクトル変換部6は、動きベクトル
情報MVをもとに、図22に示した動作の動きベクトル
変換の信号処理を行い、1フレーム期間での動きベクト
ルBVを生成する。この具体的な一構成例を図3に示
す。同図のPピクチャベクトル変換部10は、動きベク
トル情報MVのPピクチャ符号化で使用する動きベクト
ルMVpに対して、1/n(nはPピクチャ間のフレーム
数)に変換する信号処理で変換動きベクトルBVpを生成
する。また、Bピクチャベクトル変換部11は、動きベ
クトル情報MVのBピクチャ符号化で使用する動きベク
トルMVbに対し、1フレーム期間の動きベクトルを選択
して変換動きベクトルBVbを生成する。なお、MVbのうち
の複数フレーム期間(例えばmフレーム)の動きベクト
ルを1/mに変換する信号処理を併せて行い、より多く
の変換動きベクトルBVbを生成することもできる。制御
部12は、動きベクトル情報の符号化パラメタをもと
に、各変換部の動作に必要な制御信号CTを生成する。
【0033】図2に戻り、動き検出部9は、現フレーム
の信号S2と前フレームの信号S3の輝度信号成分の減
算演算を行い、1フレーム間の差分信号成分を抽出す
る。そして、動き検出信号MI1には、この信号レベル
が設定値±Tha未満の場合は静止領域と判定して0、
±Thaを越える場合は動画領域と判定して1の信号を
出力する。また、動き検出信号MI2には、この信号レ
ベルが0の場合は静止と判定して0、それ以外は動画と
判定して1の信号を出力する。
【0034】ブロック単位動きベクトル生成部7は、動
き検出信号MI1全て0のブロックは静止ブロックと判
定し、出力動きベクトルBVCに0を出力する。一方、
動き検出信号MI1に1を含むブロックは動画ブロック
と判定し、動きベクトルBVのうちでブロック単位の動
き補正誤差が最少なものを動きベクトルBVCに出力す
る。
【0035】画素単位動きベクトル生成部8は、動き検
出信号MI2が0の画素には動きベクトルPVに0を出
力する。一方、動き検出信号MI2が1の画素には、動
きベクトルBVCの現ブロックとこれに隣接するブロッ
クの動きベクトルをもとに、動き補正誤差が最少なもの
を動きベクトルPVに出力する。
【0036】次に、ブロック単位動きベクトル生成部7
の一構成例を図4を用いて説明する。図において、補正
誤差算出部13は、動きベクトルBVpによるブロック単
位の動き補正誤差ERpを演算する。則ち、現フレームの
信号S2と、前フレームの信号S3を動きベクトルBVp
で位置を移動させた信号との絶対値差分成分を計算す
る。また、補正誤差算出部14は、動きベクトルBVbに
よるブロック単位の動き補正誤差ERbを演算する。則
ち、現フレームの信号S2と、前フレームの信号S3を
動きベクトルBVbで位置を移動させた信号との絶対値差
分成分を計算する。
【0037】静動ブロック判定部15は、ブロック単位
(例えば16画素x16ラインあるいは8画素x8ライ
ン)で、動き検出信号MI1の1の有無を検出する。そ
して、信号MI1が全て0の時は静止ブロックと判定し
て信号BMに0、それ以外の時は動画ブロックと判定し
て1を出力する。
【0038】設定部16は、信号BMが0の静止ブロッ
クでは、ブロック単位動きベクトル信号BVCに0を出
力する。一方、信号BMが1の動画ブロックでは、動き
補正誤差ERp,ERbの値を最小にする動きベクトルをブロ
ック単位動きベクトル信号BVCに出力する。
【0039】次に、画素単位動きベクトル生成部8の第
1の構成例を図5に示す。これは、以下の図6、図7に
沿った信号処理を行うに好適なものである。
【0040】補正誤差算出部17は、図6に示す信号処
理のフローチャートの第1ステップの処理を行う。則
ち、現フレームの信号S2、前フレームの信号S3の輝
度信号成分に対し、ブロック単位動きベクトルBVCに
よる動き補正誤差を算出する。そして、この誤差の値が
閾値TH未満の場合は信号PMに0、閾値TH以上の場
合は1を出力する。
【0041】制御部18は、信号PMと動き検出信号M
I2を基に、図6の第2、第3ステップの信号処理に必
要な制御信号PC1とPC2を生成する。
【0042】補正誤差算出部20−1、…、20−N
は、図6の第2ステップの閾値以上の場合の信号処理を
行う。則ち、制御信号PC1が閾値以上を示す時、図7
に示すように、参照動きベクトル生成部19で生成す
る、現ブロックの動きベクトルV0と、これに隣接する
参照ブロックに対応する動きベクトルV1、…、VN
で、ミニブロック(例えば水平MX=2、垂直MY=2
の2画素x2ライン)毎に、これを内包する水平4(M
X+2)画素、垂直4(MY+2)ラインの算出領域で
の動き補正誤差ER0、ER1、…、ERNを算出す
る。なお、この動き補正誤差の算出は、現フレ−ムの信
号S2と前フレ−ムの信号S3の輝度信号成分、もしく
は輝度信号成分と色差信号成分、のいずれかに対し、
(数1)に示す演算で実現できる。
【0043】
【数1】 ER0=Σabs{S2(x,y)-S3(V0)}=Σabs{S2(x,y)-S3(x+V0x,y+V0y)} ER1=Σabs{S2(x,y)-S3(V1)}=Σabs{S2(x,y)-S3(x+V1x,y+V1y)} ER2=Σabs{S2(x,y)-S3(V2)}=Σabs{S2(x,y)-S3(x+V2x,y+V2y)} ………………………………………………………………………… ERN=Σabs{S2(x,y)-S3(VN)}=Σabs{S2(x,y)-S3(x+VNx,y+VNy)} (数1) (数1)で、S2(x,y)は算出領域内の現フレームの
画素の信号、S3(VN)は動きベクトルVNで位置を移
動させた前フレームの画素の信号、abs{ }は絶対値、
Σは算出領域内の画素の総和、VNxは動きベクトルV
Nのx成分、VNyはy成分である。
【0044】画素動きベクトル設定部21は、図6の第
2ステップの閾値未満および第3ステップの信号処理を
行う。則ち、制御信号PC2が閾値未満を示す場合は、
現ブロックの動きベクトルV0を画素単位動きベクトル
PVに出力する。一方、PC2が閾値以上を示す場合
は、動き補正誤差ER0、ER1、…、ERNの内で最
少値をとる動きベクトルを各ミニブロック内の画素の動
きベクトルとして出力する。また、制御信号PC2が動
き検出信号MI2が0の画素を示す時は、画素単位動き
ベクトルPVに0を出力する。
【0045】図8は、画素単位動きベクトル生成部8の
第2の構成例を示す図である。そして、図9に示す信号
処理で画素単位の動きベクトルを生成する。
【0046】補正誤差算出部17は、図5に示したもの
と同じで、図9(a)に示す第1ステップの処理を行
い、ブロック単位の動き補正誤差の値が閾値TH未満の
場合は信号PMに0、閾値TH以上の場合は1を出力す
る。
【0047】制御部18は、信号PMと動き検出信号M
I2を基に、図9(a)に示す第2、第3ステップの信
号処理に必要な制御信号PC3、PC2を生成する。
【0048】再探索第1処理部22、再探索第2処理部
23、再探索第3処理部24は、図9(a)の第2ステ
ップの信号処理を行う。則ち、制御信号PC3が閾値以
上を示す時には、動きベクトルの再探索処理を行う。ま
ず、再探索第1処理部22では、図9(b)に示すよう
に、ブロックサイズが水平、垂直とも1/2のサイズに
縮小したサブブロックSB1毎に、動きベクトルBVC
を参照ベクトルとしてブロックマッチング処理を行い、
再探索したSB1単位の動きベクトルPV1を出力す
る。次に、再探索第2処理部23では、サブブロックS
B1を水平、垂直ともに1/2に縮小したサブブロック
SB2毎に、動きベクトルPV1を参照ベクトルとして
ブロックマッチング処理を行い、再探索したSB2単位
の動きベクトルPV2を出力する。再探索第3処理部2
4は、サブブロックSB2を水平、垂直ともに1/nに
縮小したミニブロックサイズのサブブロックSBN毎
に、動きベクトルPV2を参照ベクトルとしてブロック
マッチング処理を行い、再探索したSBN単位の動きベ
クトル、則ち、ミニブロック単位の動きベクトルPV3
を出力する。一方、制御信号PC3が閾値未満を示す時
は、再探索第1処理部22、再探索第2処理部23、再
探索第3処理部24は、再探索処理の動作を中止し、動
きベクトルPV3に現ブロックの動きベクトルBVCを
出力する。
【0049】画素動きベクトル設定部25は、図9
(a)の第3ステップの信号処理を行う。則ち、制御信
号PC2が動き検出信号MI2が0の画素を示す時は、
画素単位動きベクトルPVに強制的に0を出力する。一
方、PC2が動き検出信号MI2が1の画素を示す時
は、画素単位動きベクトルPVにPV3を出力する。
【0050】図10は、画素単位動きベクトル生成部8
の第3の構成例を示す図である。これは、図11に従っ
た信号処理を行うに好適なもので、図5の構成に再探索
処理部26を追加することで実現する。
【0051】再探索処理部26は、制御信号PC4が閾
値以上を示す場合は、ブロックサイズを水平、垂直とも
に1/2に縮小したサブブロックSB1毎に、現ブロッ
クの動きベクトルBVCを参照ベクトルとしたブロック
マッチング処理を行い、再探索したSB1単位の動きベ
クトルPV1を出力する。一方、PC4が閾値未満を示
す場合は、再探索動作を中止して、現ブロックの動きベ
クトルBVCを出力する。そして、図11の第2ステッ
プの閾値以上の信号処理で参照ベクトルとして使用する
サブブロックSB1単位の動きベクトルPV1を生成す
る。
【0052】以降の動作は、図5に示したものと同様で
あるので、説明は省略する。
【0053】図12は、画素単位動きベクトル生成部8
の第4の構成例を示す図で、図13(a)、(b)に示
す信号処理で画素単位の動きベクトルを生成する。
【0054】補正誤差算出部17は、図5に示したもの
と同じで、図13(a)に示すフローチャートの第1ス
テップの処理を行い、ブロック単位の動き補正誤差の値
が閾値TH未満の場合は信号PMに0、閾値TH以上の
場合は1を出力する。
【0055】制御部18は、信号PMと動き検出信号M
I2を基に、図13(a)に示すフローチャートの第
2、第3ステップの信号処理に必要な制御信号PC5、
PC2を生成する。
【0056】再探索第1処理部27、再探索第2処理部
28、再探索第3処理部29は、図13(a)の第2ス
テップの信号処理を行う。則ち、制御信号PC5が閾値
以上を示す時には、図13(b)に示すように、ブロッ
クサイズを縮小したブロックについて動きベクトルの再
探索処理を行う。まず、再探索第1処理部27は、ブロ
ックサイズを水平、垂直とも1/2のサイズに縮小した
サブブロックSB1毎に、動きベクトルBVCを参照ベ
クトルとしてブロックマッチング処理を行い、再探索し
たSB1単位の動きベクトルPV1を出力する。また、
再探索第2処理部28は、ブロックサイズを水平、垂直
ともに1/4に縮小したサブブロックSB2毎に、動き
ベクトルBVCを参照ベクトルとしてブロックマッチン
グ処理を行い、再探索したSB2単位の動きベクトルP
V2を出力する。一方、再探索第3処理部29は、ブロ
ックサイズを水平、垂直ともに1/nに縮小したミニブ
ロックサイズのサブブロックSBN毎に、動きベクトル
BVCを参照ベクトルとしてブロックマッチング処理を
行い、再探索したSBN単位の動きベクトル、則ち、ミ
ニブロック単位の動きベクトルPV3を出力する。一
方、制御信号PC5が閾値未満を示す時は、再探索第1
処理部27、再探索第2処理部28、再探索第3処理部
29は、再探索処理の動作を中止し、PV1、PV2、
PV3に現ブロックの動きベクトルBVCを出力する。
【0057】画素動きベクトル設定部30は、図13
(a)の第2ステップの閾値未満および第3ステップの
信号処理を行う。則ち、制御信号PC2が閾値未満を示
す場合は、現ブロックの動きベクトルPV1を画素単位
動きベクトルPVに出力する。一方、閾値以上を示す場
合は、PV1、PV2、PV3の内で動き補正誤差が最
少値をとる動きベクトルを各ミニブロック内の画素の動
きベクトルとして出力する。
【0058】また、制御信号PC2が動き検出信号MI
2が0の画素を示す時は、画素単位動きベクトルPVに
強制的に0を出力する。
【0059】次に、図1の動き補正フレーム数変換部5
の構成例を、図14乃至図16で説明する。
【0060】図14は、その第1の構成例で、フレーム
順制御部31は、画素単位動きベクトルPVより動き補
正処理に必要な補正補間動きベクトルVctとVprを生成す
る。フレーム周波数50Hzの信号をフレーム周波数が
60Hzの信号にフレーム数変換を行う場合を例に、こ
の動作を図16(a)、(b)に示す。フレーム周波数
50Hzの順次走査信号は、フレーム順の1から5の信
号に対し、同図に示す様に動きベクトルPVを基に補正
型の信号処理で内挿フレームを生成し、フレーム順1か
ら6のフレーム周波数が60Hzの順次走査の信号に変
換する。この際、補正補間動きベクトルは、内挿するフ
レーム位置と合致させる必要がある。そこで、同図に示
す様に、動きベクトル信号PVに係数加重する係数値k
a,kbを変化させ、(数2)に示す演算で補正補間動
きベクトルVpr、Vctを生成する。
【0061】
【数2】 Vpr=PV*ka/(ka+kb) Vct=-PV*kb/(ka+kb) (数2) 則ちフレーム順が2の内挿フレームは、Vpr=PV*5/6,
Vct=−PV*1/6(ka=5,kb=1)、3のものは、Vpr=PV*
4/6,Vct=−PV*2/6(ka=4,kb=2)…の如く、係数値k
a,kbを発生させ、時間方向での位置ずれのない補正
補間動きベクトルを生成する。この結果、時間方向での
揺らぎのないフレーム数変換を実現する。
【0062】動き補正信号生成部32では、現フレーム
の信号S2と補正補間動きベクトルVctで動き補正信号S
ctを生成する。また、動き補正信号生成部33は、前フ
レームの信号S3と補正補間動きベクトルVprで動き補
正信号Sprを生成する。この動作概略を図16(c)に
示す。内挿フレームの点A(x,y)の信号は、前フレーム
の信号S3では、点A(x,y)を補正補間動きベクトルVpr
(水平方向成分Vprx,垂直方向成分Vpry)で移動させた点
A'(x1,y1)=(x+Vprx,y+Vpry)の位置の信号、現フレー
ムの信号S2では点A(x,y)を補正補間動きベクトルVct
(水平方向成分Vctx,垂直方向成分Vcty)で移動させた点
A”(x2,y2)=(x−Vctx,y−Vcty)の位置の信号に対応す
る。従って、動き補正信号SprとSctは、以下の(数3)
で生成する。
【0063】
【数3】 Spr=S3(x+Vprx,y+Vpry) Sct=S2(x−Vctx,y−Vcty) (数3) この信号処理は、動き補正信号生成部に内蔵のメモリ回
路の読み出し動作を制御することで実現する。則ち、読
み出しのためのアドレスを補正補間動きベクトルVpr,Vc
tの位置だけずらせたアドレスを生成し、このアドレス
で点A',A”に対応した画素の信号を読み出す。
【0064】加算部34は、両者の動き補正信号SprとS
ctとの加算平均を行い、その出力に動き補正のフレーム
数変換でフレーム周波数をアップした順次走査の画像信
号S4を得る。
【0065】図15は、動き補正フレーム数変換部5の
第2の構成例を示す図である。これは、モーションジャ
ダー妨害が目立ちやすい速度の動き、あるいは水平パン
や上下パンや文字スクロールなどの特殊な動きの場合の
み、動き補正のフレーム内挿処理を行うものである。
【0066】同図のフレーム順制御部31、動き補正信
号生成部32,33、加算部34は、図14と同じ動作
を行い、加算部34の出力に動き補正のフレーム内挿処
理した信号Smcを得る。
【0067】動き速度検出部35は、画素単位動きベク
トルPVを基に、モーションジャダー妨害が目立ちやす
い速度の動き、あるいは水平パンや上下パンや文字スク
ロールなどの特殊な動きを検出する。
【0068】例えば、モーションジャダー妨害は、1秒
/画面幅、1秒/画面高程度までの視線が追従できる動
きの場合に特に目立ち易いという性質が知られている。
従って、動き速度検出部では、1秒/画面幅、1秒/画
面高程度に相当する速度を閾値とする動きベクトルPV
の速度成分の判定を行い、閾値未満の速度では1、以上
では0の信号SLを出力する第1の動作で、この検出が
できる。
【0069】また、水平パンや上下パンでは画面全体が
一様な速度で動く。従って、動き速度検出部では、画素
単位動きベクトルPV≠0のものの大きさと方向を全画
面領域にわたり計測し、これがほぼ同じ値をとる場合の
み、全ての画面領域で1を信号SLに出力する第2の動
作で、この検出ができる。
【0070】一方、文字スクロールなどでは、動き領域
の形状が帯状で、かつ、この領域での動きベクトルはほ
ぼ同じ値になる。従って、動き速度検出部では、画素単
位動きベクトルPV≠0のものの大きさと方向がほぼ同
一となる帯状の領域を検出し、この領域のみ1を信号S
Lに出力する第3の動作で、この検出ができる。
【0071】なお、動き速度検出部は、第1、第2、第
3のいずれか1つの動作、もしくはこれらを組み合わせ
た動作など、種々の動作形態のもので実現できる。
【0072】スイッチ部36は、信号SLが1の時は、
現フレームの信号S2を選択し、信号SLが0の時は、
信号Smcを選択する。そして、この出力に、モーション
ジャダー妨害が目立ちやすい速度の動き、あるいは水平
パンや上下パンや文字スクロールなどの特殊な動きの領
域のみを動き補正のフレーム内挿処理した順次走査の画
像信号S4を得る。
【0073】以上に述べた如く、本実施例によれば、動
き補償予測符号化の動きベクトル情報を用いることで、
極めて少ない演算量で動き補正のフレーム数変換に必要
な画素単位の動きベクトルを高精度に生成できる。この
ため、動き補正のフレーム数変換の動きベクトルの生
成、および装置の低コスト化、高画質化に顕著な効果が
得られる。
【0074】次に、本発明の第2の実施例について、図
17のブロック構成図で説明する。本実施例は、シーン
チェンジの領域では動き補正処理の信号処理を中止する
動作を行うに好適なものである。
【0075】同図のMPEGデコーダ部1、IP変換部
2、1フレーム遅延部3、動きベクトル生成部4、動き
補正フレーム数変換部5は、図1に示した第1の実施例
と同一の構成、動作を行うので、説明は省略する。
【0076】シーンチェンジ検出部37は、1フレーム
期間でのフレーム間差分信号成分の発生形態よりシーン
チェンジの発生した領域を検出する動作を行う。この一
構成例を図18に示す。減算部38は、現フレームの信
号S2と、前フレームの信号S3の輝度信号成分に対し
て減算演算を行い、1フレーム間の差分成分FDを抽出
する。一般に、シーンチェンジの領域では、画像の内容
が切り替わるため、差分成分FDの信号レベルは比較的
大きな値を持つ。そこで、2値量子化部39は比較的高
いレベルの閾値±Thbで信号FDを画素毎に2値量子
化する。そして、閾値±Thb未満の画素は0、閾値を
越える画素は1を信号QSに出力する。1フレーム累積
部40は、1フレーム期間で信号QSが1のものの画素
の数を計測し、1フレーム期間での累積値AQを出力す
る。判定部41は、画面全体が一様な速度で動く水平パ
ンや上下パンの動きを誤ってシーンチェンジと検出する
誤動作を避けるため、累積値AQの値が全画面の半分以
上の画素数で、かつ、その発生が1フレーム期間に限ら
れる場合をシーンチェンジ領域と判定し、信号SCFに
1フレームの期間にわたり1を出力する。これ以外の場
合は0を出力する。
【0077】なお、動きベクトル生成部4は、信号SC
Fが1の期間は、動きベクトルの生成の動作を中止す
る。また、動き補正フレーム数変換部5は、信号SCF
が1の期間は、優先的に、現フレームの信号S2を選択
してS4に出力する。
【0078】以上に述べた如く、本実施例によれば、動
き補償予測符号化の動きベクトル情報を用いることで、
極めて少ない演算量で動き補正のフレーム数変換に必要
な画素単位の動きベクトルを高精度に生成できる。ま
た、シーンチェンジ領域における動きベクトル探索や生
成のための膨大な演算量の発生が回避できる。このた
め、動き補正のフレーム数変換の動きベクトルの生成、
および装置の更なる低コスト化、高画質化に顕著な効果
が得られる。
【0079】次に、本発明の第3の実施例について、図
19に示すブロック構成図で説明する。本実施例は、図
1の第1の実施例の構成に、更に、画像信号の走査線数
変換や画像サイズの縮小拡大変換の機能を付加したもの
である。
【0080】MPEGデコーダ部1は、MPEG符号化
されたビットストリーム信号DSの復号処理を行い、復
号した画像信号シーケンスの信号S1と、動きベクトル
情報MV(P,Bピクチャの動きベクトルMVp,MVbなら
びに符号化パラメタ情報)を出力する。
【0081】IP変換部2は、飛び越し走査の画像信号
に対しては、飛び越し走査で抜けた走査線の信号を補間
処理で生成し、順次走査の画像信号S2に変換する。こ
の信号処理は、例えば従来技術の動き適応型の走査変換
で実現する。
【0082】動きベクトル生成部4は、現フレームの信
号S2と、これを1フレーム遅延部3で1フレーム期間
遅延させた前フレームの信号S3と、動きベクトル情報
MVをもとに、前述した動きベクトル変換、ブロック単
位、画素単位動きベクトル生成の信号処理を行い、動き
補正のフレーム数変換に使用する画素単位の動きベクト
ルPVを生成する。
【0083】動き補正フレーム数変換部5は、画素単位
動きベクトルPVをもとに補正補間動きベクトルを作
り、現フレームの信号S3と前フレームの信号S4の画
像の位置をこの補正補間動きベクトルで移動させた信号
で、内挿フレームの信号を生成する。そして、この出力
に動き補正のフレーム内挿処理でフレームレートを変換
した順次走査の画像信号S4を得る。
【0084】スケーリング処理部42は、走査線数の変
換(例えばPAL方式やNTSC方式の信号からHDT
V方式の信号への変換、パソコン画像のVGA系やSV
GA系への変換などに必要な走査線数変換)、アスペク
ト比の変換(4:3系と16:9系)、マルチウィンド
ウ表示のための画像サイズの任意拡大縮小などの信号処
理を行う。なお、この構成は従来技術で容易に実現でき
るので説明は省略する。以上に述べた如く、本実施例に
よれば、多種入力ソースの信号を多種ディスプレイに表
示するための画像フォーマット変換信号処理装置を、低
コストで実現できる。
【0085】次に、本発明の第4の実施例について、図
20に示すブロック構成図で説明する。本実施例は、図
17の第2の実施例の構成に、更に、画像信号の走査線
数変換や画像サイズの縮小拡大変換の機能を有するスケ
ーリング処理部42を追加して構成する。
【0086】スケーリング処理部42は、第3の実施例
と同様、走査線数の変換、アスペクト比の変換、マルチ
ウィンドウ表示のための画像サイズの任意拡大縮小など
の信号処理を行う。なお、この構成は従来技術で容易に
実現できるので説明は省略する。以上に述べた如く、本
実施例によれば、多種入力ソースの信号を多種ディスプ
レイに表示するための画像フォーマット変換信号処理装
置を、低コストで実現できる。なお、以上の実施例で
は、フレーム周波数が50Hz−60Hz変換の場合を
例に説明した。しかし、これに限らず、フレーム周波数
24Hzのフィルム画像−フレーム周波数60Hzのフ
レーム数変換や、テレビジョン信号−パソコン画像信号
のフレーム数変換など、各種のフレーム数変換に本実施
例が適用できることは明らかである。
【0087】これらの実施例においては、動き補償予測
符号化の動きベクトル情報を用いることで、極めて少な
い演算量で動き補正のフレーム数変換に必要な画素単位
の動きベクトルを生成できる。このため、動き補正のフ
レーム数変換の動きベクトルの生成、およびフレーム数
変換装置、さらには画像フォーマット変換装置の低コス
ト化、高画質化に顕著な効果が得られる。
【0088】
【発明の効果】本発明によれば、高画質かつ低コストで
動き補正のフレーム数変換を行いうる動きベクトルの生
成方法および装置を得ることができる。
【図面の簡単な説明】
【図1】本発明に係る第1の実施例を示すブロック構成
図である。
【図2】動きベクトル生成部の一構成例を示す図であ
る。
【図3】動きベクトル変換部の一構成例を示す図であ
る。
【図4】ブロック単位動きベクトル生成部の一構成例を
示す図である。
【図5】画素単位動きベクトル生成部の第1の構成例を
示す図である。
【図6】画素単位動きベクトル生成処理のフローチャー
トを示す図である。
【図7】画素単位動きベクトル生成の動作概略を示す図
である。
【図8】画素単位動きベクトル生成部の第2の構成例を
示す図である。
【図9】(a)、(b)はそれぞれ画素単位動きベクト
ル生成方法の概略を示す図である。
【図10】画素単位動きベクトル生成部の第3の構成例
を示す図である。
【図11】画素単位動きベクトル生成方法の概略を示す
図である。
【図12】画素単位動きベクトル生成部の第4の構成例
を示す図である。
【図13】(a)、(b)はそれぞれ画素単位動きベク
トル生成方法の概略を示す図である。
【図14】動き補正フレーム数変換部の第1の構成例を
示す図である。
【図15】動き補正フレーム数変換部の第2の構成例を
示す図である。
【図16】(a)乃至(c)はそれぞれフレーム順制御
部と動き補正信号生成部の動作概略を示す図である。
【図17】本発明に係る第2の実施例を示すブロック構
成図である。
【図18】シーンチェンジ検出部の一構成例を示す図で
ある。
【図19】本発明に係る第3の実施例を示すブロック構
成図である。
【図20】本発明に係る第4の実施例を示すブロック構
成図である。
【図21】MPEG符号化におけるMCフレーム間予測
の概略を示す図である。
【図22】動き補正フレーム数変換用動きベクトルへの
変換動作の概略を示す図である。
【符号の説明】
1 MPEGデコーダ部 2 IP変換部 3 1フレーム遅延部 4 動きベクトル生成部 5 動き補正フレーム数変換部 6 動きベクトル変換部 7 ブロック単位動きベクトル生成部 8 画素単位動きベクトル生成部 9 動き検出部
───────────────────────────────────────────────────── フロントページの続き (72)発明者 杉山 雅人 神奈川県横浜市戸塚区吉田町292番地 株 式会社日立製作所マルチメディアシステム 開発本部内 (72)発明者 中間 泰平 神奈川県横浜市戸塚区吉田町292番地 株 式会社日立製作所マルチメディアシステム 開発本部内 (72)発明者 兼八 孝至 神奈川県横浜市戸塚区吉田町292番地 株 式会社日立製作所映像情報メディア事業部 内 (72)発明者 的野 孝明 神奈川県横浜市戸塚区吉田町292番地 株 式会社日立製作所映像情報メディア事業部 内 (72)発明者 高田 春樹 神奈川県横浜市戸塚区吉田町292番地 株 式会社日立製作所映像情報メディア事業部 内 (72)発明者 栗田 俊之 神奈川県横浜市戸塚区吉田町292番地 株 式会社日立製作所映像情報メディア事業部 内

Claims (31)

    【特許請求の範囲】
  1. 【請求項1】 動きベクトル情報に基づいて変換動きベ
    クトルを生成する工程と、現フレームの信号と前フレー
    ムの信号から画像の動きを検出する工程と、前記変換動
    きベクトル及び画像の動きを用いてブロック単位動きベ
    クトルを生成する工程と、前記ブロック単位動きベクト
    ル及び画像の動きを用いて画素単位動きベクトルを生成
    する工程とを備えたことを特徴とする動きベクトルの生
    成方法。
  2. 【請求項2】 前記ブロック単位動きベクトルを生成す
    る工程は、前記動きを検出する工程により動きを検出し
    ないブロックにはブロック単位動きベクトルとして0を
    割り当て、動きを検出したブロックには前記変換動きベ
    クトルのうち所定のブロック単位の動き補正誤差を有す
    るものをブロック単位動きベクトルとして割り当てるこ
    とを特徴とする請求項1記載の動きベクトルの生成方
    法。
  3. 【請求項3】 前記所定のブロック単位の動き補正誤差
    を有するものとは、前記変換動きベクトルのうち最少の
    動き補正誤差を有するものであることを特徴とする請求
    項2記載の動きベクトルの生成方法。
  4. 【請求項4】 前記画素単位動きベクトルを生成する工
    程は、前記動きを検出する工程により動きを検出しない
    画素には画素単位動きベクトルとして0を割り当て、動
    きを検出した画素には前記ブロック単位の動き補正誤差
    が閾値未満のときはブロック内の画素に前記ブロック単
    位動きベクトルを割り当て、閾値以上のときは現ブロッ
    クと隣接ブロックの動きベクトルを用いて前記ブロック
    を縮小したミニブロック毎に所定の動き補正誤差を有す
    るものを画素単位動きベクトルとして割り当てることを
    特徴とする請求項1記載の動きベクトルの生成方法。
  5. 【請求項5】 前記ミニブロック毎の所定の動き補正誤
    差を有するものとは、ミニブロックを内包する算出領域
    のうち最少の動き補正誤差を有するものであることを特
    徴とする請求項4記載の動きベクトルの生成方法。
  6. 【請求項6】 動きベクトル情報にもとづいて動きベク
    トルを生成する動きベクトル変換部と、現フレームの信
    号と前フレームの信号から画像の動きを検出する動き検
    出部と、前記動きベクトル変換部及び前記動き検出部の
    出力を用いてブロック単位の動きベクトルを生成するブ
    ロック単位動きベクトル生成部と、前記ブロック単位動
    きベクトル生成部及び前記動き検出部の出力を用いて画
    素単位の動きベクトルを生成する画素単位動きベクトル
    生成部とを備えたことを特徴とする動きベクトルの生成
    装置。
  7. 【請求項7】 前記動きベクトル変換部は、MPEG符
    号化におけるPピクチャの動き補償予測符号化に使用す
    る第1の動きベクトル、Bピクチャの動き補償予測符号
    化に使用する第2の動きベクトル、または第1及び第2
    の動きベクトルに係る動きベクトル情報をもとに、動き
    ベクトル生成の信号処理を行うことを特徴とする請求項
    6記載の動きベクトルの生成装置。
  8. 【請求項8】 前記ブロック単位動きベクトル生成部
    は、前記動きベクトル変換部より得られる現ブロックの
    動きベクトルおよび現ブロックの直前のブロックの動き
    ベクトルに基づいて、ブロック単位の動き補正誤差が最
    少となる動きベクトルを選択する信号処理を行うことを
    特徴とする請求項6記載の動きベクトルの生成装置。
  9. 【請求項9】 前記画素単位動きベクトル生成部は、ブ
    ロックサイズを縮小したミニブロックに対し、前記ミニ
    ブロックを内包する領域で算出した動き補正誤差が最少
    の動きベクトルを前記ミニブロック内の動きを検出した
    画素に割り当てる信号処理を行うことを特徴とする請求
    項6記載の動きベクトルの生成装置。
  10. 【請求項10】 前記動き補正誤差の算出を画像信号の
    輝度信号成分を用いて行うことを特徴とする請求項9記
    載の動きベクトルの生成装置。
  11. 【請求項11】 前記動き補正誤差の算出を画像信号の
    輝度信号成分と色成分とを用いて行うことを特徴とする
    請求項9記載の動きベクトルの生成装置。
  12. 【請求項12】 前記画素単位動きベクトル生成部は、
    現ブロックの動きベクトルによるブロック単位の動き補
    正誤差の値が閾値以上の場合は、ブロックサイズを縮小
    したサブブロック毎に前記現ブロックの動きベクトルを
    参照ベクトルとしたブロックマッチング処理でサブブロ
    ックの動きベクトルを再探索し、前記サブブロックの動
    きベクトルと隣接ブロックのブロック単位動きベクトル
    とを参照ベクトルとし、ミニブロックを単位に算出した
    動き補正誤差が最少の参照動きベクトルを画素単位動き
    ベクトルとしてミニブロック内の動きを検出した画素に
    割り当てることを特徴とする請求項6記載の動きベクト
    ルの生成装置。
  13. 【請求項13】 前記画素単位動きベクトル生成部は、
    現ブロックの動きベクトルによるブロック単位の動き補
    正誤差の値が閾値以上の場合は、ブロックサイズを縮小
    した第1サブブロック毎に前記現ブロックの動きベクト
    ルを参照ベクトルとしたブロックマッチング処理で第1
    サブブロックの動きベクトルを再探索し、次に、第1サ
    ブブロックのサイズを縮小した第2サブブロック毎に、
    第1サブブロックの動きベクトルを参照ベクトルとした
    ブロックマッチング処理で第2サブブロックの動きベク
    トルを再探索し、以下、ブロックサイズがミニブロック
    のサイズまでこの動作を逐次繰り返すことにより画素単
    位動きベクトルを生成することを特徴とする請求項6記
    載の動きベクトルの生成装置。
  14. 【請求項14】 前記画素単位動きベクトル生成部は、
    現ブロックの動きベクトルによるブロック単位の動き補
    正誤差の値が閾値以上の場合は、ブロックサイズをミニ
    ブロックのサイズまで段階的に縮小した第1サブブロッ
    ク、第2サブブロック、第nサブブロックに対して、前
    記現ブロックの動きベクトルを参照ベクトルとしたブロ
    ックマッチング処理で第1、第2、第n動きベクトルを
    再探索し、ミニブロックを単位に算出した前記第1、第
    2、第n動きベクトルの内で動き補正誤差が最少なもの
    を画素単位動きベクトルとして割り当てることを特徴と
    する請求項6記載の動きベクトルの生成装置。
  15. 【請求項15】 動きベクトル情報から得られた動きベ
    クトルとフレーム差分信号から得られた画像の動きとを
    用いて生成したブロック単位動きベクトルに基づいて画
    素単位動きベクトルを生成する工程と、前記画素単位動
    きベクトルに基づいて求めた補正補間動きベクトルを用
    いて内挿フレーム信号を生成することにより画像信号の
    フレーム数を変換する工程とを備えたことを特徴とする
    フレーム数変換方法。
  16. 【請求項16】 前記画素単位動きベクトルを生成する
    工程は、前記画像の動きを検出しないブロックにはブロ
    ック単位動きベクトルとして0を割り当て、動きを検出
    したブロックには所定のブロック単位の動き補正誤差を
    有するものをブロック単位動きベクトルとして割り当て
    ることを特徴とする請求項15記載のフレーム数変換方
    法。
  17. 【請求項17】 前記所定のブロック単位の動き補正誤
    差を有するものとは、前記変換動きベクトルのうち最少
    の動き補正誤差を有するものであることを特徴とする請
    求項16記載のフレーム数変換方法。
  18. 【請求項18】 前記画素単位動きベクトルを生成する
    工程は、前記画像の動きを検出しない画素には画素単位
    動きベクトルとして0を割り当て、動きを検出した画素
    には前記ブロック単位の動き補正誤差が閾値未満のとき
    はブロック内の画素に前記ブロック単位動きベクトルを
    割り当て、閾値以上のときは現ブロックと隣接ブロック
    の動きベクトルを用いて前記ブロックを縮小したミニブ
    ロック毎に所定の動き補正誤差を有するものを画素単位
    動きベクトルとして割り当てることを特徴とする請求項
    15記載のフレーム数変換方法。
  19. 【請求項19】 前記ミニブロック毎の所定の動き補正
    誤差を有するものとは、ミニブロックを内包する算出領
    域のうち最少の動き補正誤差を有するものであることを
    特徴とする請求項18記載のフレーム数変換方法。
  20. 【請求項20】 動きベクトル情報にもとづいて動きベ
    クトルを生成する動きベクトル変換部、現フレームの信
    号と前フレームの信号から画像の動きを検出する動き検
    出部、前記動きベクトル変換部及び前記動き検出部の出
    力を用いてブロック単位の動きベクトルを生成するブロ
    ック単位動きベクトル生成部および前記ブロック単位動
    きベクトル生成部及び前記動き検出部の出力を用いて画
    素単位の動きベクトルを生成する画素単位動きベクトル
    生成部を有する動きベクトル生成部と、前記画素単位動
    きベクトルに基づいて求めた補正補間動きベクトルを用
    いて内挿フレーム信号を生成することにより画像信号の
    フレーム数を変換する動き補正フレーム数変換部とを備
    えたことを特徴とするフレーム数変換装置。
  21. 【請求項21】 前記動きベクトル変換部は、MPEG
    符号化におけるPピクチャの動き補償予測符号化に使用
    する第1の動きベクトル、Bピクチャの動き補償予測符
    号化に使用する第2の動きベクトル、または第1及び第
    2の動きベクトルに係る動きベクトル情報をもとに、動
    きベクトル生成の信号処理を行うことを特徴とする請求
    項20記載のフレーム数変換装置。
  22. 【請求項22】 前記ブロック単位動きベクトル生成部
    は、前記動きベクトル変換部より得られる現ブロックの
    動きベクトルおよび現ブロックの直前のブロックの動き
    ベクトルに基づいて、ブロック単位の動き補正誤差が最
    少となる動きベクトルを選択する信号処理を行うことを
    特徴とする請求項20記載のフレーム数変換装置。
  23. 【請求項23】 前記画素単位動きベクトル生成部は、
    ブロックサイズを縮小したミニブロックに対し、前記ミ
    ニブロックを内包する領域で算出した動き補正誤差が最
    少の動きベクトルを前記ミニブロック内の動きを検出し
    た画素に割り当てる信号処理を行うことを特徴とする請
    求項20記載の動きベクトル生成装置。
  24. 【請求項24】 前記動き補正誤差の算出を画像信号の
    輝度信号成分を用いて行うことを特徴とする請求項23
    記載のフレーム数変換装置。
  25. 【請求項25】 前記動き補正誤差の算出を画像信号の
    輝度信号成分と色成分とを用いて行うことを特徴とする
    請求項23記載のフレーム数変換装置。
  26. 【請求項26】 前記画素単位動きベクトル生成部は、
    現ブロックの動きベクトルによるブロック単位の動き補
    正誤差の値が閾値以上の場合は、ブロックサイズを縮小
    したサブブロック毎に前記現ブロックの動きベクトルを
    参照ベクトルとしたブロックマッチング処理でサブブロ
    ックの動きベクトルを再探索し、前記サブブロックの動
    きベクトルと隣接ブロックのブロック単位動きベクトル
    とを参照ベクトルとし、ミニブロックを単位に算出した
    動き補正誤差が最少な上記参照動きベクトルを画素単位
    動きベクトルとしてミニブロック内の動きを検出した画
    素に割り当てることを特徴とする請求項20記載のフレ
    ーム数変換装置。
  27. 【請求項27】 前記画素単位動きベクトル生成部は、
    現ブロックの動きベクトルによるブロック単位の動き補
    正誤差の値が閾値以上の場合は、ブロックサイズを縮小
    した第1サブブロック毎に前記現ブロックの動きベクト
    ルを参照ベクトルとしたブロックマッチング処理で第1
    サブブロックの動きベクトルを再探索し、次に、第1サ
    ブブロックのサイズを縮小した第2サブブロック毎に、
    第1サブブロックの動きベクトルを参照ベクトルとした
    ブロックマッチング処理で第2サブブロックの動きベク
    トルを再探索し、以下、ブロックサイズがミニブロック
    のサイズまでこの動作を逐次繰り返すことにより画素単
    位動きベクトルを生成することを特徴とする請求項20
    記載のフレーム数変換装置。
  28. 【請求項28】 前記画素単位動きベクトル生成部は、
    現ブロックの動きベクトルによるブロック単位の動き補
    正誤差の値が閾値以上の場合は、ブロックサイズをミニ
    ブロックのサイズまで段階的に縮小した第1サブブロッ
    ク、第2サブブロック、第nサブブロックに対して、前
    記現ブロックの動きベクトルを参照ベクトルとしたブロ
    ックマッチング処理で第1、第2、第n動きベクトルを
    再探索し、ミニブロックを単位に算出した前記第1、第
    2、第n動きベクトルの内で動き補正誤差が最少なもの
    を画素単位動きベクトルとして割り当てることを特徴と
    する請求項20記載のフレーム数変換装置。
  29. 【請求項29】 前記動き補正フレーム数変換部は、特
    殊な動きを検出する動き速度検出部を有し、前記動き速
    度検出部の出力を用いて画像信号のフレーム数を変換す
    ることを特徴とする請求項20記載のフレーム数変換装
    置。
  30. 【請求項30】 シーンチェンジを検出するシーンチェ
    ンジ検出器を備え、前記シーンチェンジ検出器によりシ
    ーンチェンジを検出したときには、前記動き補正フレー
    ム数変換部は現フレーム又は前フレームの信号により内
    挿フレーム信号を生成することを特徴とする請求項20
    又は29記載のフレーム数変換装置。
  31. 【請求項31】 走査線数又は画像サイズの変換を行う
    スケーリング処理部を前記動き補正フレーム数変換部の
    出力側に備えたことを特徴とする請求項20、29又は
    30記載のフレーム数変換装置。
JP29044397A 1997-10-07 1997-10-07 動きベクトルの生成方法および装置 Expired - Fee Related JP4083266B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP29044397A JP4083266B2 (ja) 1997-10-07 1997-10-07 動きベクトルの生成方法および装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP29044397A JP4083266B2 (ja) 1997-10-07 1997-10-07 動きベクトルの生成方法および装置

Publications (2)

Publication Number Publication Date
JPH11112940A true JPH11112940A (ja) 1999-04-23
JP4083266B2 JP4083266B2 (ja) 2008-04-30

Family

ID=17756104

Family Applications (1)

Application Number Title Priority Date Filing Date
JP29044397A Expired - Fee Related JP4083266B2 (ja) 1997-10-07 1997-10-07 動きベクトルの生成方法および装置

Country Status (1)

Country Link
JP (1) JP4083266B2 (ja)

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005318621A (ja) * 2004-04-30 2005-11-10 Matsushita Electric Ind Co Ltd ビデオシーケンスでのティッカー処理
JP2007116418A (ja) * 2005-10-20 2007-05-10 Sony Corp 画像変換装置、画像信号処理装置、カメラシステム、および画像信号処理方法
US7343044B2 (en) 2004-01-15 2008-03-11 Kabushiki Kaisha Toshiba Interpolation image generating method and apparatus
JP2008227928A (ja) * 2007-03-13 2008-09-25 Sanyo Electric Co Ltd フレームレート変換装置および映像表示装置
WO2008120330A1 (ja) * 2007-03-28 2008-10-09 Pioneer Corporation 画像処理装置、画像処理方法、画像処理プログラムおよび記録媒体
JP2009094616A (ja) * 2007-10-04 2009-04-30 Sony Corp 画像処理装置および方法、並びにプログラム
US7586540B2 (en) 2004-10-29 2009-09-08 Hitachi Displays, Ltd. Image interpolation device and a frame rate converter and image display apparatus using the same
EP2273792A2 (en) 2004-09-16 2011-01-12 NTT DoCoMo, Inc. Video evaluation device, frame rate determination device, video process device, video evaluation method, and video evaluation program
JP2011035747A (ja) * 2009-08-04 2011-02-17 Nippon Telegr & Teleph Corp <Ntt> 動画像復号方法,動画像復号装置および動画像復号プログラム
US7903126B2 (en) 2009-03-10 2011-03-08 Kabushiki Kaisha Toshiba Image processing apparatus and image processing method thereof
JP2011061811A (ja) * 2004-05-04 2011-03-24 Qualcomm Inc 動作補償されたフレームレートアップコンバージョンのための方法および装置
US7929609B2 (en) 2001-09-12 2011-04-19 Trident Microsystems (Far East) Ltd. Motion estimation and/or compensation
US8159605B2 (en) 2007-07-13 2012-04-17 Fujitsu Limited Frame interpolating apparatus and method
US8320458B2 (en) 2008-09-12 2012-11-27 Fujitsu Limited Frame interpolation device and method, and storage medium
US8553776B2 (en) 2004-07-21 2013-10-08 QUALCOMM Inorporated Method and apparatus for motion vector assignment
US8634463B2 (en) 2006-04-04 2014-01-21 Qualcomm Incorporated Apparatus and method of enhanced frame interpolation in video compression
US8750387B2 (en) 2006-04-04 2014-06-10 Qualcomm Incorporated Adaptive encoder-assisted frame rate up conversion
US8948262B2 (en) 2004-07-01 2015-02-03 Qualcomm Incorporated Method and apparatus for using frame rate up conversion techniques in scalable video coding
US9521411B2 (en) 2004-07-20 2016-12-13 Qualcomm Incorporated Method and apparatus for encoder assisted-frame rate up conversion (EA-FRUC) for video compression

Cited By (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7929609B2 (en) 2001-09-12 2011-04-19 Trident Microsystems (Far East) Ltd. Motion estimation and/or compensation
US7343044B2 (en) 2004-01-15 2008-03-11 Kabushiki Kaisha Toshiba Interpolation image generating method and apparatus
US7697769B2 (en) 2004-01-15 2010-04-13 Kabushiki Kaisha Toshiba Interpolation image generating method and apparatus
JP2005318621A (ja) * 2004-04-30 2005-11-10 Matsushita Electric Ind Co Ltd ビデオシーケンスでのティッカー処理
JP2012075121A (ja) * 2004-05-04 2012-04-12 Qualcomm Inc 動作補償されたフレームレートアップコンバージョンのための方法および装置
JP2011061811A (ja) * 2004-05-04 2011-03-24 Qualcomm Inc 動作補償されたフレームレートアップコンバージョンのための方法および装置
US8948262B2 (en) 2004-07-01 2015-02-03 Qualcomm Incorporated Method and apparatus for using frame rate up conversion techniques in scalable video coding
US9521411B2 (en) 2004-07-20 2016-12-13 Qualcomm Incorporated Method and apparatus for encoder assisted-frame rate up conversion (EA-FRUC) for video compression
US8553776B2 (en) 2004-07-21 2013-10-08 QUALCOMM Inorporated Method and apparatus for motion vector assignment
US7912298B2 (en) 2004-09-16 2011-03-22 Ntt Docomo, Inc. Video evaluation device, frame rate determination device, video process device, video evaluation method, and video evaluation program
EP2273792A2 (en) 2004-09-16 2011-01-12 NTT DoCoMo, Inc. Video evaluation device, frame rate determination device, video process device, video evaluation method, and video evaluation program
US7586540B2 (en) 2004-10-29 2009-09-08 Hitachi Displays, Ltd. Image interpolation device and a frame rate converter and image display apparatus using the same
KR101297773B1 (ko) * 2005-10-20 2013-08-20 소니 주식회사 화상 변환 장치, 화상 신호 처리 장치, 카메라 시스템, 및화상 신호 처리 방법
JP2007116418A (ja) * 2005-10-20 2007-05-10 Sony Corp 画像変換装置、画像信号処理装置、カメラシステム、および画像信号処理方法
US8081255B2 (en) 2005-10-20 2011-12-20 Sony Corporation Image converting apparatus, image signal processing apparatus, camera system and image signal processing method
US8750387B2 (en) 2006-04-04 2014-06-10 Qualcomm Incorporated Adaptive encoder-assisted frame rate up conversion
US8634463B2 (en) 2006-04-04 2014-01-21 Qualcomm Incorporated Apparatus and method of enhanced frame interpolation in video compression
JP2008227928A (ja) * 2007-03-13 2008-09-25 Sanyo Electric Co Ltd フレームレート変換装置および映像表示装置
WO2008120330A1 (ja) * 2007-03-28 2008-10-09 Pioneer Corporation 画像処理装置、画像処理方法、画像処理プログラムおよび記録媒体
JP5038400B2 (ja) * 2007-03-28 2012-10-03 パイオニア株式会社 画像処理装置、画像処理方法、画像処理プログラムおよび記録媒体
US8159605B2 (en) 2007-07-13 2012-04-17 Fujitsu Limited Frame interpolating apparatus and method
US8175162B2 (en) 2007-10-04 2012-05-08 Sony Corporation Image processing apparatus, image processing method, and program
US8837593B2 (en) 2007-10-04 2014-09-16 Sony Corporation Image processing apparatus, image processing method, and program
JP2009094616A (ja) * 2007-10-04 2009-04-30 Sony Corp 画像処理装置および方法、並びにプログラム
US8320458B2 (en) 2008-09-12 2012-11-27 Fujitsu Limited Frame interpolation device and method, and storage medium
US7903126B2 (en) 2009-03-10 2011-03-08 Kabushiki Kaisha Toshiba Image processing apparatus and image processing method thereof
JP2011035747A (ja) * 2009-08-04 2011-02-17 Nippon Telegr & Teleph Corp <Ntt> 動画像復号方法,動画像復号装置および動画像復号プログラム

Also Published As

Publication number Publication date
JP4083266B2 (ja) 2008-04-30

Similar Documents

Publication Publication Date Title
JP4083265B2 (ja) 画像信号の方式変換方法および装置
US7075988B2 (en) Apparatus and method of converting frame and/or field rate using adaptive motion compensation
JP4514081B2 (ja) ビデオ・シーケンスを符号化変換(transcoding)するための動きベクトルの外挿(extrapolation)
JP4083266B2 (ja) 動きベクトルの生成方法および装置
US5784115A (en) System and method for motion compensated de-interlacing of video frames
US5689305A (en) System for deinterlacing digitally compressed video and method
JP5107349B2 (ja) 動きベクトルに基づく画像のスケーリング
US20070200838A1 (en) Image displaying apparatus having frame rate conversion and method thereof
JP4092778B2 (ja) 画像信号の方式変換装置及びテレビジョン受像機
US20080239143A1 (en) Method and apparatus for adaptively converting frame rate based on motion vector, and display device with adaptive frame rate conversion function
KR20100114499A (ko) 후광현상이 줄어든 영상보간 장치 및 방법
JP2000134585A (ja) 動きベクトル決定方法、画像信号のフレーム数変換方法および回路
KR20060047595A (ko) 적응 시간적인 예측을 채용하는 움직임 벡터 추정
JP2002027414A (ja) 両方向動きベクトルを用いたフォーマット変換装置及びその方法
JP2004312680A (ja) スクロールされるテキストまたはグラフィックデータの検出が可能な動き推定装置および方法
JP2009532984A (ja) 補償アーチファクトに対する保護を有する動き補償フレームレート変換
KR20040108053A (ko) 움직임 벡터 생성 장치 및 방법
JP4119092B2 (ja) 画像信号のフレーム数変換方法および装置
US6930728B2 (en) Scan conversion apparatus
JP4092773B2 (ja) 画像信号のフレーム数変換方法および装置
JP2000050212A (ja) 画像表示装置及び画像表示方法
JP2009147670A (ja) 映像処理装置及びそれを用いた映像表示装置
KR20020067192A (ko) 프레임 레이트 변환 기능을 갖는 비디오 디코더 및 그 방법
JP4222090B2 (ja) 動画像時間軸補間方法及び動画像時間軸補間装置
JPH0851599A (ja) 画像情報変換装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041005

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070724

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070921

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071120

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080213

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110222

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110222

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120222

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120222

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130222

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130222

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

LAPS Cancellation because of no payment of annual fees