JP2008035404A - 補間フレーム作成方法及び補間フレーム作成装置 - Google Patents

補間フレーム作成方法及び補間フレーム作成装置 Download PDF

Info

Publication number
JP2008035404A
JP2008035404A JP2006208792A JP2006208792A JP2008035404A JP 2008035404 A JP2008035404 A JP 2008035404A JP 2006208792 A JP2006208792 A JP 2006208792A JP 2006208792 A JP2006208792 A JP 2006208792A JP 2008035404 A JP2008035404 A JP 2008035404A
Authority
JP
Japan
Prior art keywords
motion vector
block
detected
frame
interpolation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006208792A
Other languages
English (en)
Other versions
JP4868968B2 (ja
Inventor
Takashi Sato
考 佐藤
Masaya Yamazaki
雅也 山崎
Keiko Hirayama
桂子 平山
Hiroshi Yoshimura
博 吉村
Yohei Hamakawa
洋平 濱川
Kenichi Michiba
賢一 道庭
Yoshihiko Ogawa
佳彦 小川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2006208792A priority Critical patent/JP4868968B2/ja
Priority to EP20070014048 priority patent/EP1885129A3/en
Priority to US11/882,187 priority patent/US20080025403A1/en
Publication of JP2008035404A publication Critical patent/JP2008035404A/ja
Application granted granted Critical
Publication of JP4868968B2 publication Critical patent/JP4868968B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/521Processing of motion vectors for estimating the reliability of the determined motion vectors or motion vector field, e.g. for smoothing the motion vector field or for correcting motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/533Motion estimation using multistep search, e.g. 2D-log search or one-at-a-time search [OTS]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/57Motion estimation characterised by a search window with variable size or shape
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/577Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】補間フレームを作成するための動きベクトルの検出において、周期的なパターンを含んでいる画像に対して、動きベクトルの検出精度を向上する。
【解決手段】互いに大きさの異なる2つのブロックを用いた動き検出処理を行い、通常時には小さいブロックで検出した動きベクトルを採用する(ST104)。小さいブロックでのベクトル検出時に、信頼し得る動きベクトルの候補が複数見つかった場合(ST103のYES)、大きいブロックを用いて検出されたベクトルを参照し(ST105)、小ブロックにおいて検出された動きベクトルの中から、大ブロックで検出された動きベクトルに最も近いものを、補間フレーム作成に用いる当該ブロックの動きベクトルとして採用する(ST106)。
【選択図】図10

Description

本発明は動画像を構成するフレーム画像の間に補間フレームを作成及び挿入し、物体の動きを滑らかで自然な動きとして表示する技術に関する。
液晶表示装置(LCD)に動画像を表示する場合、LCDは例えば60フレーム/秒のレートでフレーム画像(以下単にフレームと記載する)を表示する。このフレームは例えば60フィールド/秒のインターレースを処理して得られる順次走査信号である。つまりLCDは、1フレームを1/60秒間表示し続ける。
LCDに表示されたこのような映像を視聴する場合、人の目には1フレーム前の画像が残像として残る。このため、映像中の動いている物体がボケて見えるか、物体の動きが不自然に見えることがある。このような現象は、大画面になるほど顕著に表れる。
動画像のこのようなボケを防止するために、連続する2つのフレームの間に、補間フレームを挿入して動画像を表示する方法が知られている(特許文献1)。この方法では、前フレーム及び後フレームの2枚ないしそれ以上の入力フレーム間で、フレームを構成する画像ブロックのマッチングを行うことにより、各ブロックの動きベクトル(物体の動いた方向及び距離)が検出される。各ブロックの動きベクトルを用いて、入力フレーム間に位置する新たな補間フレームが作成される。補間フレームを2枚の入力フレーム間に挿入することにより、フレーム数を増加して動画像を表示する。
上記ブロックマッチングとは、あるフレームにおける所定サイズの画像ブロックが、後のフレーム中のどの画像ブロックに一致するかを検出する方法である。前フレーム中の画像ブロックと、後フレーム中のいずれかの画像ブロックとで、互いに対応する画素間の差分を計算し、これを累積した値(SAD:Sum of Absolute Difference)が最小となる後フレーム中画像ブロックが、前フレーム中画像ブロックに最も類似する画像ブロックとして検出される。前フレームと後フレームで、最も類似する画像ブロックの位置の差が、動きベクトルとして検出される。
SADを用いたブロックマッチングに基づいて物体の動きを推定する時、入力フレーム内に周期的パターンが存在する場合、該周期的パターン内の画像ブロックでは、正確な動きベクトルを推定できない。下記特許文献2では、注目画像が周期的パターンであると判断した場合には、当該画像ブロックの動きベクトルを周辺の画像ブロックの動きベクトルで補正する技術が開示されている。
特開2005−6275号公報 特開2005−56410号公報
前述のように、周期的パターン内の画像ブロックの動きベクトルを周辺ブロックの動きベクトルで補正する方法では、周期的パターンの大きさが画像ブロックより遥かに大きい場合、あるいは周辺ブロックの動きベクトルの信頼性が低い場合、当該ブロックの動きベクトルを適切に補正することはできない。従って信頼性の高い動きベクトルが得られないという問題がある。
本発明の1実施形態では、ブロックマッチングにより動きベクトルの検出を行う補間フレーム作成方法において、互いに大きさの異なる2つのブロックを用いた動きベクトル検出処理を行い、通常時には小さいブロックを用いて検出した動きベクトルを採用する。小さいブロックを用いたベクトル検出時に、信頼し得る動きベクトルの候補が複数見つかった場合に、大きいブロックを用いて検出されたベクトルを参照し、小さいブロックを用いて検出された動きベクトルの中から、大きいブロックを用いて検出された動きベクトルに最も近いものを、補間フレーム作成用の動きベクトルとして採用する。
補間フレームを作成するための動きベクトルの検出において、周期的なパターンを含んでいる画像に対して、動きベクトルの検出精度を向上させることが出来る。
以下、本発明の実施の形態を図面を参照して説明する。
図1は、本発明による補間フレーム作成装置(フレーム数変換装置)の一実施形態を示すブロック構成図である。
補間フレーム作成装置10は、フレームメモリ部10、動きベクトル検出部12、補間画像作成部13を含む。動きベクトル検出部12は、入力画像信号における例えば連続する2フレームから、動きベクトルをブロックマッチング処理にて検出する。入力画像信号のフレームレートは例えば60フレーム/秒である。
補間画像作成部13は、動きベクトル検出部12の検出結果に基づいて補間フレームを作成し、前記2フレームの間に挿入する。補間フレームが挿入された出力画像信号のフレームレートは例えば120フレーム/秒である。動きベクトル検出部12及び補間画像作成部13は、それぞれ個別電子回路を用いたハードウエア、あるいはCPU(図示されず)にて実行されるソフトウエアとして構成できる。
図2はブロックマッチング処理の一例を説明するための図である。前フレーム20と後フレーム22は、連続して入力されるフレームである。
前フレーム20中の注目画像ブロック23と、後フレーム22中の探索範囲24における各画像ブロック25とが比較される。探索範囲24は、前フレーム20内の注目画像ブロック23の位置に一致する後フレーム22内の位置にある画像ブロック25aを中心とする所定サイズの領域である。探索範囲24内で、注目画像ブロック23の画像に最も類似している画像を有する画像ブロック(ここでは画像ブロック25bとする)と、前記注目画像ブロック23とを結ぶベクトルを、注目画像ブロック23の動きベクトルとする。尚、この動きベクトル(大きさと方向を含む)は、図2では説明の都合上3次元のように示されているが、実際の処理においては、フレーム上の2次元で示されるベクトルである。
画像ブロックどうしが類似しているか否かは、注目画像ブロック23内と各画像ブロック25内で、互いに同一位置にある画素の画素値間の差分絶対値を、当該画像ブロック内の全画素について求め、その総和SAD(Sum of Absolute Difference)に基づいて判断される。このSADが最小となる画像ブロック25bが、注目画像ブロック23に最も類似している画像ブロックと判断される。注目画像ブロック23から画像ブロック25bまでのベクトルが、注目画像ブロック23の動きベクトルとして決定される。この動きベクトルと、注目画像ブロック23及び画像ブロック23bの画像データに基づいて、補間フレーム21内の補間画像ブロック24が作成される。
以下、動きベクトル検出部12によるブロックマッチング処理動作を詳細に説明する。
図3Aは、前フレーム20内の物体30が、水平方向に10画素分移動して、後フレーム22内に位置している様子を示す。図3Bはブロックマッチング処理における画像ブロックのシフト量とSADとの関係(SAD特性)を示すグラフである。このブロックマッチング処理は動きベクトル検出部12により行われる。説明を簡単にするため、水平方向のブロックマッチング処理のみについて述べる。
この場合、物体30を含む前フレーム内の注目画像グロック23を、後フレーム22における探索範囲内の中心画像ブロック25aの位置から、1画素単位でシフトすると、図3Bのように10画素分シフトしたところでSADは極小(ここでは最小)となる。この極小点PS0のシフト量S0及びその方向に基づいて、動きベクトルが検出される。従って、ここでは注目画像ブロック23の動きベクトルは、水平方向10画素と検出される。この結果、例えば注目画像ブロック23を補間フレーム内で、対応する同一位置から、水平方向に5画素シフトした画像ブロックが、補間フレーム内画像ブロックとして作成される。尚、シフト量S0及びその方向は、画像ブロック26bの探索範囲24内位置を示す。
ブロックマッチングによる動きベクトル検出を精度良く行うための最適なブロックサイズは、入力されるフレームの解像度やフレーム内に含まれる物体の動き方によって変わってくる。動いている物体のブロックマッチングを行うために、画像ブロックサイズは、物体の形状を識別できる例えば水平方向画素の画素値変化を画像ブロックが含む程度に大きくする必要がある。しかし、ブロックサイズを大きくしすぎると、そのブロック内に複数の動く物体が含まれる可能性が大きくなるという問題が発生する。1画像ブロック内に複数の動く物体が含まれていると、動きベクトルを特定することが困難となる。そこで、ブロックサイズはある程度の大きさに制限せざるを得ない。
しかしながら、このブロックの例えば水平サイズよりも幅の広い、水平方向の周期的パターンが画像内に含まれている場合には、物体の動きと周期的なパターンの繰り返しとが区別できず、正しい動き検出が出来なくなる。
SADの値は周期パターンの含まれていない一般的な自然画像では、図3Bのように、あるベクトルの方向(シフト量)においてただ一つの極小点(=最小点)を持つ。しかし、周期的パターンが画像に含まれる場合には、SADの値が探索範囲内で複数のベクトル方向で極小点を持つという特徴がある。
図4Aは、入力されるフレームが周期的パターンを含む場合の本発明に係るブロックマッチング処理の様子を示す図である。
図4Aの上図は前フレーム20において、三角形パターンの上方に縞模様のような周期的パターン31が表示されていることを示している。図4Aの下図は、前フレーム20内の周期的パターン31が右方向に10画素分移動して、後フレーム22内に表示されているところを示している。図4Bは、図4Aのような入力フレームのブロックマッチング処理における画像ブロックの水平シフト量(垂直シフト量は0とする)とSADの関係を示すグラフである。
動きベクトル検出部12は、前フレーム内画像ブロック23を後フレーム上の対応する同一位置(画像ブロック25aの位置:シフト量0)から1画素ずつ例えば右方向にシフトしながらSADを算出する。図4Aに示すような周期的パターン31が存在すると、図4BのSAD特性α1のように複数のSAD極小点PS1、PS2、PS3が現れる。このように、周期的なパターンがブロックマッチングを行う際の単位ブロックサイズより大きい場合、注目画像ブロック23についての動きベクトルを特定できない。
そこで本発明の一実施形態では、周期的パターン31を水平方向又は垂直方向において全て含むような、すなわち注目画像ブロック23より大きな画像ブロック32を用いてブロックマッチング処理を行う。
図4Aのように、前フレーム内の大ブロック32を後フレーム上の対応する同一位置(画像ブロック33aの位置:シフト量0)から1画素ずつ例えば右方向にシフトしながらSADを算出する。このときのSAD特性としては、図4BのSAD特性β1のように、一般に単一の極小点PL1が現れる。
大ブロック32(33)を用いて検出したSADの極小点PL1に最も近い位置にある小ブロック25bの極小点(この例ではPS1)に基づいて動きベクトルを決定する。尚、ブロックのサイズは、本実施形態のように2種類のみでなく、後述するように、より多くのサイズを用いてもよい。様々なサイズのブロックを用いることにより、動きベクトルの検出精度を向上することができる。
図5は動きベクトル検出部12の構成例を示すブロック図である。
ベクトル検出部12は、小ブロック動きベクトル検出部12a、大ブロック動きベクトル検出部12b及びベクトル決定部12cを含む。小ブロック動きベクトル検出部12a及び大ブロック動きベクトル検出部12bには、共に入力画像信号及びフレームメモリ11からの遅延フレーム信号が入力される。
小ブロック動きベクトル検出部12aは、上記したような画像ブロック23を小ブロックとしてブロックマッチング処理を行い、動きベクトルすなわち極小点(水平方向シフト量及び垂直方向シフト量)を検出する。大ブロック動きベクトル検出部12bは、大ブロック32を用いて上記したようにブロックマッチング処理を行い、動きベクトルを検出する。
ベクトル決定部12cは、通常時には小ブロック検出部12aにより検出された動きベクトルを選択して補間画像作成部13に提供する。小ブロックを用いた動きベクトル検出時に、信頼し得る動きベクトル(極小点のSAD値が所定値より小さい)の候補が複数見つかった場合に、ベクトル決定部12cは大ブロック動きベクトル検出部12bにて検出された動きベクトルを参照する。ベクトル決定部12cは小ブロック動きベクトル検出部12aにて検出された確からしい動きベクトル(極小点)の中から、大ブロック動きベクトル検出部12bにて検出された動きベクトル(極小点)に最も近いベクトルを選択して補間画像作成部13に提供する。
このようにして本実施形態では、フレームに含まれる細かい物体の動きベクトルの検出精度を落とすことなく、周期的なパターンを含んだ画像の動きベクトルの検出精度を向上することが可能となる。
尚、本実施例では、小ブロックを用いた動きベクトル検出と、大ブロックを用いた動きベクトル検出を並行して行ったが、このような動きベクトル検出を直列に行ってもよい。すなわち、小ブロックを用いて動きベクト検出を行い、信頼し得る動きベクトルの候補が複数見つかった場合に、大ブロックを用いて動きベクトル検出を行い、動きベクトル候補から最終的な動きベクトルを決定してもよい。このような直列処理を行うことにより回路規模を縮小することができる。
次に、ブロックマッチング処理の他の方式について説明する。図6は他のブロックマッチング処理を示す図である。
ブロックマッチングを用いた動きベクトルの検出方法としては、図2に示したような前フレーム内画像ブロックを、後フレーム内で単にシフトしてSADを求める方法の他に、図6のように、点対象の位置にある画像ブロックどうしのブロックマッチング処理を介して動きベクトルを求める方法がある。
すなわち図6の方法では、補間フレーム21内の補間画像ブロック41の挿入位置を中心として、それを挟む前フレーム20上及び後フレーム22上で点対象の位置にある画像ブロックどうしを画素毎に比較してSADを算出する。最も類似している(SADが最も小さい)画像ブロックどうしを結ぶベクトルを動きベクトルと決定する。この比較は、前フレーム20中の所定探索範囲40及び後フレーム22内の対応する探索範囲42において行われる。
互いに最も類似している画像ブロックの組み合わせが、例えば画像ブロック43と画像ブロック44であった場合、画像ブロック43から画像ブロック44までのベクトルが、補間画像ブロック41の動きベクトルとして決定される。この動きベクトルと、互いに最も類似している画像ブロック43及び44の画像データに基づいて、補間フレーム21内の補間画像ブロック41が作成される。
次に、画像ブロックのサイズ及び動きベクトルの探索範囲について説明する。
図7は小ブロックのサイズ及びその探索範囲の具体例を示し、図8は大ブロックのサイズ及びその探索範囲の具体例を示す。これらブロック及び探索範囲は、図2及び図6に示したブロックマッチング処理の両方に適用することができる。ここでは、図6に示したブロックマッチング処理に適用した例を詳細に説明する。また、説明を簡単にするため、主に水平方向のブロックマッチング処理について述べる。
図7において、SBは小ブロック、SSRは小ブロックSBの探索範囲である。小ブロックSBのサイズは、例えば64画素×2画素である。この小ブロックSBを前フレーム20上では水平方向に−12画素〜+12画素、垂直方向に−2画素〜+2画素シフトする。同時にこの小ブロックSBを後フレーム22上で水平方向に+12画素〜−12画素、垂直方向に+2画素〜−2画素シフトする。
つまり、補間フレーム21上に挿入される補間画像ブロック41(ここでは小ブロックSBに一致するサイズのブロック)を点対象の中心として、前フレーム20上で小ブロックSBを例えば+12画素シフトした場合は、後フレーム22上で小ブロックSBを−12画素シフトする。両フレーム20、22で対応する画像ブロックどうしを、対応する画素単位で画素値を比較してSADを算出する。従って小ブロックSBを用いたブロックマッチングの場合、前フレーム20上及び後フレーム22上の探索範囲SSRは、ここでは共に88画素×6画素である。
図8のように大ブロックLBのサイズは、例えば640画素×4画素である。この大ブロックLBを小ブロックSBと同様に、前フレーム20上では水平方向に−12画素〜+12画素、垂直方向に−2画素〜+2画素シフトする。同時にこの大ブロックLBを後フレーム22上で水平方向に+12画素〜−12画素、垂直方向に+2画素〜−2画素シフトする。
つまり、補間フレーム21上に挿入される補間画像ブロック41(ここでは大ブロックLBに対応するサイズのブロック)を点対象の中心として、前フレーム20上で大ブロックLBを例えば+12画素シフトした場合は、後フレーム22上で大ブロックLBを−12画素シフトして、両フレーム20、22で対応する画像ブロックどうしを、対応する画素単位で画素値を比較してSADを算出する。従って大ブロックを用いたブロックマッチングの場合、前フレーム20上及び後フレーム22上の探索範囲LSRは、ここでは共に664画素×8画素である。
図9は、図7の小ブロック及び図8の大ブロックを用いて図6のブロックマッチング処理を行ったときの画像ブロックのシフト量とSADとの関係(SAD特性)を示すグラフである。
図9において、横軸は画像ブロックの水平方向シフト量、縦軸はSADである。横軸のシフト量は、前フレーム20上または後フレーム22上の画像ブロックシフト量を示している。また横軸のシフト量は、9領域(領域1〜領域9)に分割されおり、領域5はシフト量が0の領域である。曲線α2は小ブロックを用いて得られたブロックマッチング処理結果、曲線β2は大ブロックを用いて得られたブロックマッチング処理結果を示す。
以下、このブロックマッチング処理について詳細に説明する。動きベクトル検出部12の構成は、図5に示した構成とする。説明を簡単にするため、ここでも水平方向のブロックマッチング処理のみについて述べる。図10は、このブロックマッチング処理におけるベクトル決定部12cの動作を示すフローチャートである。小ブロック動きベクトル検出部12a及び大ブロック動きベクトル検出部12bの動作は、前述と同様であるから詳細な動作は割愛する。
ベクトル決定部12cは、小ブロック動きベクトル検出部12a及び大ブロック動きベクトル検出部12bから、それぞれの検出処理結果(極小点の情報)を取得する(ステップ(ST)101)。
曲線α2のように、小ブロックSBを−12画素から+12画素までシフトすると、ここでは4個の極小点PS10〜PS13が生じている。ベクトル決定部12cは、小ブロック動きベクトル検出部12aから提供されるこれら極小点の極小値群から、さらに探索領域全体での最小値SADminを求める(ST102)。この最小値SADminから所定の範囲THに存在するSAD極小値(PS10、PS11、PS12)が示す動きベクトル、すなわち「 │最小値−極小値│<TH 」を満足する極小値を、信頼し得る動きベクトルの候補として選択する。
尚、信頼し得る動きベクトルの候補が1つのみであった場合(ST103のNO)、ベクトル決定部12cは、当該SAD極小点の情報を動きベクトルとして、補間画像作成部13に供給する(ST104)。
図9のように、信頼し得る動きベクトルが複数存在した場合には(ST103のYES)、探索領域内に周期的パターンが存在すると判断し、大ブロック動きベクトル検出部12bにて検出された動きベクトルを参照する(ST105)。ベクトル決定部12cは、該複数存在する信頼し得る動きベクトル候補の中で、大ブロックLBを用いて検出した極小値PL2に最も近い極小値PS1が示すベクトルを、補間画像ブロック41の作成に用いる動きベクトルして採用する(ST106)。
尚、ステップ106において、大ブロックを用いて検出した極小点が複数存在する場合は、該複数の極小点のうち、最も小さいSADを有する極小点を、最も信頼性の高い極小点(動きベクトル)と判断する。従って、ベクトル決定部12cは、小ブロックSBを用いて検出した複数の極小点(動きベクトル候補)の中で、大ブロックLBを用いて検出した最も信頼性の高い極小点に最も近い極小点を、補間画像ブロック41の作成に用いる動きベクトルして採用する。
図11は動きベクトル検出部12の他の構成例を示すブロック図である。
この動きベクトル検出部は、第1〜第Nブロック動きベクトル検出部12a〜12nを有する。第1〜第Nブロック動きベクトル検出部12a〜12nは、互いにサイズの異なるN個(2<N)のサイズのブロックを用いたブロックマッチング処理を行う。第1ブロック動きベクトル検出部12aは、最も小さいブロックを用いたブロックマッチング処理を行い、第Nブロック動きベクトル検出部12aは、最も大きいブロックを用いたブロックマッチング処理を行う。
ベクトル決定部12pは、第1ブロック動きベクトル検出部12aにより、動きベクトル候補が複数検出された場合には、検出された複数の動きベクトル候補の中で、第2〜第Nブロック動きベクトル検出部12nを用いて検出された動きベクトルのうち、最も信頼度の高い動きベクトルに最も近いものを、当該補間ブロックを作成する際に用いる動きベクトルとして採用する。これにより、周期的パターンを有するフレームに対する動きベクトル検出における更に高い検出精度を実現できる。
以上説明したように、本発明の実施形態によれば、周期的なパターンを含んでいる画像に対して、動きベクトルの検出精度を向上させることが出来る。
以上の説明はこの発明の実施の形態であって、この発明の装置及び方法を限定するものではなく、様々な変形例を容易に実施することができるものである。
本発明による補間フレーム作成装置の一実施形態を示すブロック構成図である。 ブロックマッチング処理の一例を説明するための図である。 前フレーム20内の物体30が、水平方向に10画素分移動して、後フレーム22内に位置している様子を示す図である。 ブロックマッチング処理における画像ブロックのシフト量とSADとの関係を示すグラフである。 入力されるフレームが周期的パターンを含む場合の本発明に係るブロックマッチング処理の様子を示す図である。 図4Aのような入力フレームのブロックマッチング処理における画像ブロックシフト量とSADの関係を示すグラフである。 動きベクトル検出部12の構成例を示すブロック図である。 他のブロックマッチング処理を示す図である。 小ブロックのサイズ及びその探索範囲の具体例を示す図である。 大ブロックのサイズ及びその探索範囲の具体例を示す図である。 図7の小ブロック及び図8の大ブロックを用いて図6のブロックマッチング処理を行ったときの画像ブロックのシフト量とSADとの関係を示すグラフである。 ブロックマッチング処理におけるベクトル決定部12cの動作を示すフローチャートである。 動きベクトル検出部12の他の構成例を示すブロック図である。
符号の説明
10…補間フレーム作成装置、11…フレームメモリ、12…動きベクトル検出部、13…補間画像作成部。

Claims (5)

  1. 入力されるフレーム画像を用いて、入力フレーム画像間に位置する新たな補間フレームを作成する補間フレーム作成方法であって、
    前記入力フレーム画像間のブロックマッチング処理により、フレーム画像内の物体の動きベクトルを検出する工程と、前記検出した動きベクトルを用いて補間フレームを作成して前記入力フレーム画像間に挿入する工程とから成り、
    前記ブロックマッチング処理は、
    サイズの異なる2つのブロックを用いて、補間フレーム内の補間ブロックについて、それぞれ動きベクトル候補を検出する工程と、
    前記サイズの異なる2つのブロックのうち小さいブロックを用いて、前記動きベクトル候補が1つのみ検出された場合には、該動きベクトル候補を、前記補間ブロックを作成する際に用いる動きベクトルとして採用する第1採用工程と、
    前記小さいブロックを用いたブロックマッチング処理において、前記動きベクトル候補が複数検出された場合には、検出された複数の動きベクトル候補の中で、前記2つのブロックのうち大きいブロックを用いて検出された最も信頼度の高い動きベクトルに最も近いものを、前記補間ブロックを作成する際に用いる動きベクトルとして採用する第2採用工程を含むことを特徴とする補間フレーム作成方法。
  2. 前記小さいブロックを用いたブロックマッチング処理は、前記入力フレーム画像の前フレーム画像上及び後フレーム画像上の画像ブロックの互いに対応する画素値どうしの差分絶対値を算出し、該差分絶対値の累積加算値を示すSADが極小となるブロック対の前記探索範囲内位置に基づく動きベクトルを、前記動きベクトル候補として選択することを特徴とする請求項1記載の補間フレーム作成方法。
  3. 前記第1採用工程は、
    前記小さいブロックを用いたブロックマッチング処理において、複数のSAD極小値が検出された場合、該極小値群からさらに前記探索領域全体におけるSAD最小値を求める工程と、
    前記SAD最小値から所定の範囲THに存在するSAD極小値が示す動きベクトルを信頼し得る動きベクトル候補として選択する工程と、
    前記複数の信頼し得る動きベクトル候補のSAD極小値の中で、前記大きいブロックを用いて検出したSAD極小値の位置に最も近いSAD極小値が示すベクトルを、前記補間ブロックの作成に用いる動きベクトルして採用する工程とを含むことを特徴とする請求項2記載の補間フレーム作成方法。
  4. 前記ブロックマッチング処理は、互いにサイズの異なる3つ以上のブロックを用いて、前記補間フレーム内の補間ブロックについて、それぞれ動きベクトル候補を検出する工程を含み、
    最も小さいブロックを用いたブロックマッチング処理において、前記動きベクトル候補が複数検出された場合には、検出された複数の動きベクトル候補の中で、前記最も小さいブロック以外のブロックを用いて検出された動きベクトルのうち、最も信頼度の高い動きベクトルに最も近いものを、前記補間ブロックを作成する際に用いる動きベクトルとして採用する工程を含むことを特徴とする請求項1記載の補間フレーム作成方法。
  5. 入力されるフレーム画像を用いて、入力フレーム画像間に位置する新たな補間フレームを作成する補間フレーム作成装置であって、
    前記入力フレーム画像間のブロックマッチング処理により、フレーム画像内の物体の動きベクトルを検出する動きベクトル検出手段と、
    前記検出した動きベクトルを用いて補間フレームを作成して前記入力フレーム画像間に挿入する手段を含み、
    前記動きベクトル検出手段は、
    サイズの異なる2つのブロックを用いて、補間フレーム内の補間ブロックについて、それぞれ動きベクトル候補を検出する手段と、
    前記サイズの異なる2つのブロックのうち小さいブロックを用いて、前記動きベクトル候補が1つのみ検出された場合には、該動きベクトル候補を、前記補間ブロックを作成する際に用いる動きベクトルとして採用する第1採用手段と、
    前記小さいブロックを用いたブロックマッチング処理において、前記動きベクトル候補が複数検出された場合には、検出された複数の動きベクトル候補の中で、前記2つのブロックのうち大きいブロックを用いて検出された最も信頼度の高い動きベクトルに最も近いものを、前記補間ブロックを作成する際に用いる動きベクトルとして採用する第2採用手段を具備することを特徴とする補間フレーム作成装置。
JP2006208792A 2006-07-31 2006-07-31 補間フレーム作成方法及び補間フレーム作成装置 Active JP4868968B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2006208792A JP4868968B2 (ja) 2006-07-31 2006-07-31 補間フレーム作成方法及び補間フレーム作成装置
EP20070014048 EP1885129A3 (en) 2006-07-31 2007-07-18 Interpolation frame generating method and interpolation frame forming apparatus
US11/882,187 US20080025403A1 (en) 2006-07-31 2007-07-31 Interpolation frame generating method and interpolation frame forming apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006208792A JP4868968B2 (ja) 2006-07-31 2006-07-31 補間フレーム作成方法及び補間フレーム作成装置

Publications (2)

Publication Number Publication Date
JP2008035404A true JP2008035404A (ja) 2008-02-14
JP4868968B2 JP4868968B2 (ja) 2012-02-01

Family

ID=38736047

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006208792A Active JP4868968B2 (ja) 2006-07-31 2006-07-31 補間フレーム作成方法及び補間フレーム作成装置

Country Status (3)

Country Link
US (1) US20080025403A1 (ja)
EP (1) EP1885129A3 (ja)
JP (1) JP4868968B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010011192A (ja) * 2008-06-27 2010-01-14 Toshiba Corp 映像信号処理装置および映像信号処理方法
EP2151802A1 (en) 2008-08-04 2010-02-10 Kabushiki Kaisha Toshiba Image processor and image processing method
EP2151997A2 (en) 2008-08-04 2010-02-10 Kabushiki Kaisha Toshiba Image processing apparatus and image processing method
EP2152003A1 (en) 2008-08-04 2010-02-10 Kabushiki Kaisha Toshiba Image processing apparatus and image processing method
US7787047B2 (en) 2008-08-04 2010-08-31 Kabushiki Kaisha Toshiba Image processing apparatus and image processing method
JP2010256955A (ja) * 2009-04-21 2010-11-11 Victor Co Of Japan Ltd 動きベクトル検出装置及び方法
JP2011223393A (ja) * 2010-04-12 2011-11-04 Canon Inc 符号化装置及び符号化装置の制御方法
JP2013138414A (ja) * 2011-11-28 2013-07-11 Panasonic Corp 演算処理装置

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8218632B2 (en) * 2006-09-20 2012-07-10 Mitsubishi Electric Corporation Frame interpolation apparatus and frame interpolation method
US20080165278A1 (en) * 2007-01-04 2008-07-10 Sony Corporation Human visual system based motion detection/estimation for video deinterlacing
US20080212687A1 (en) * 2007-03-02 2008-09-04 Sony Corporation And Sony Electronics Inc. High accurate subspace extension of phase correlation for global motion estimation
US8553758B2 (en) * 2007-03-02 2013-10-08 Sony Corporation Motion parameter engine for true motion
US8861603B2 (en) * 2007-08-28 2014-10-14 Samsung Electronics Co., Ltd. System and method for motion vector collection based on K-means clustering for motion compensated interpolation of digital video
US8265158B2 (en) 2007-12-20 2012-09-11 Qualcomm Incorporated Motion estimation with an adaptive search range
JP5657391B2 (ja) 2007-12-20 2015-01-21 クゥアルコム・インコーポレイテッドQualcomm Incorporated ハローを低減する画像補間
KR100939917B1 (ko) 2008-03-07 2010-02-03 에스케이 텔레콤주식회사 움직임 예측을 통한 부호화 시스템 및 움직임 예측을 통한부호화 방법
JP4813517B2 (ja) * 2008-05-29 2011-11-09 オリンパス株式会社 画像処理装置、画像処理プログラム、画像処理方法、および電子機器
US8144766B2 (en) * 2008-07-16 2012-03-27 Sony Corporation Simple next search position selection for motion estimation iterative search
US8094714B2 (en) * 2008-07-16 2012-01-10 Sony Corporation Speculative start point selection for motion estimation iterative search
JP4406892B1 (ja) * 2008-11-28 2010-02-03 日本ビクター株式会社 繰り返しオブジェクト検出装置及び方法
US8675736B2 (en) * 2009-05-14 2014-03-18 Qualcomm Incorporated Motion vector processing
US8537283B2 (en) 2010-04-15 2013-09-17 Qualcomm Incorporated High definition frame rate conversion
JP2012049603A (ja) * 2010-08-24 2012-03-08 Olympus Corp 画像処理装置および画像処理プログラム
US8787459B2 (en) * 2010-11-09 2014-07-22 Sony Computer Entertainment Inc. Video coding methods and apparatus
WO2012117464A1 (ja) * 2011-03-03 2012-09-07 パナソニック株式会社 立体映像処理装置および方法ならびに立体映像表示装置
CN103428487B (zh) * 2012-07-16 2017-06-09 上海数字电视国家工程研究中心有限公司 用于高清视频序列帧率提升的块处理方法
JP6025467B2 (ja) * 2012-09-12 2016-11-16 キヤノン株式会社 画像処理装置及び画像処理方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0362692A (ja) * 1989-04-27 1991-03-18 Sony Corp 動き補償映像信号フォーマット変換装置
JPH03140070A (ja) * 1989-10-26 1991-06-14 Canon Inc 動きベクトル検出装置
JPH08329110A (ja) * 1995-06-05 1996-12-13 Matsushita Electric Ind Co Ltd 画像処理方法
JPH09233479A (ja) * 1995-12-22 1997-09-05 Thomson Multimedia Sa 周期構造を有するフレーム間の動きの補正と評価の方法
JP2003111080A (ja) * 2001-09-26 2003-04-11 Hitachi Ltd 動きベクトル検出装置
JP2006178642A (ja) * 2004-12-21 2006-07-06 Olympus Corp 動きベクトル検出装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5353119A (en) * 1990-11-15 1994-10-04 Sony United Kingdom Limited Format conversion of digital video signals, integration of digital video signals into photographic film material and the like, associated signal processing, and motion compensated interpolation of images
KR0178231B1 (ko) * 1995-08-10 1999-05-01 배순훈 계층적인 움직임 추정 기법을 이용하는 움직임 벡터 검출 방법 및 장치
KR100327395B1 (ko) * 1999-09-03 2002-03-13 구자홍 움직임 보상을 기반으로 하는 격행주사 영상의 디인터레이싱 방법
JP4198550B2 (ja) * 2002-09-10 2008-12-17 株式会社東芝 フレーム補間方法およびこのフレーム補間方法を用いた装置
KR100530223B1 (ko) * 2003-05-13 2005-11-22 삼성전자주식회사 프레임 레이트 변환시의 프레임 보간 방법 및 그 장치
US7336707B2 (en) * 2003-06-06 2008-02-26 Samsung Electronics Co., Ltd. Method and apparatus for detecting improper area for motion compensation in video signal
JP4179548B2 (ja) * 2003-09-24 2008-11-12 Kddi株式会社 動きベクトル検出装置
KR100565066B1 (ko) * 2004-02-11 2006-03-30 삼성전자주식회사 중첩된 블록 기반 움직임 추정에 의한 움직임 보상 보간방법 및 그를 적용한 프레임 레이트 변환 장치
PT1797720T (pt) * 2004-10-05 2017-03-13 Vectormax Corp Método e sistema para difusão seletiva multimédia com tolerância de perdas

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0362692A (ja) * 1989-04-27 1991-03-18 Sony Corp 動き補償映像信号フォーマット変換装置
JPH03140070A (ja) * 1989-10-26 1991-06-14 Canon Inc 動きベクトル検出装置
JPH08329110A (ja) * 1995-06-05 1996-12-13 Matsushita Electric Ind Co Ltd 画像処理方法
JPH09233479A (ja) * 1995-12-22 1997-09-05 Thomson Multimedia Sa 周期構造を有するフレーム間の動きの補正と評価の方法
JP2003111080A (ja) * 2001-09-26 2003-04-11 Hitachi Ltd 動きベクトル検出装置
JP2006178642A (ja) * 2004-12-21 2006-07-06 Olympus Corp 動きベクトル検出装置

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010011192A (ja) * 2008-06-27 2010-01-14 Toshiba Corp 映像信号処理装置および映像信号処理方法
EP2151802A1 (en) 2008-08-04 2010-02-10 Kabushiki Kaisha Toshiba Image processor and image processing method
EP2151997A2 (en) 2008-08-04 2010-02-10 Kabushiki Kaisha Toshiba Image processing apparatus and image processing method
EP2152003A1 (en) 2008-08-04 2010-02-10 Kabushiki Kaisha Toshiba Image processing apparatus and image processing method
US7787047B2 (en) 2008-08-04 2010-08-31 Kabushiki Kaisha Toshiba Image processing apparatus and image processing method
EP2355038A1 (en) 2008-08-04 2011-08-10 Kabushiki Kaisha Toshiba Image processor and image processing method
US8373700B2 (en) 2008-08-04 2013-02-12 Kabushiki Kaisha Toshiba Image processing apparatus
JP2010256955A (ja) * 2009-04-21 2010-11-11 Victor Co Of Japan Ltd 動きベクトル検出装置及び方法
JP2011223393A (ja) * 2010-04-12 2011-11-04 Canon Inc 符号化装置及び符号化装置の制御方法
JP2013138414A (ja) * 2011-11-28 2013-07-11 Panasonic Corp 演算処理装置

Also Published As

Publication number Publication date
JP4868968B2 (ja) 2012-02-01
US20080025403A1 (en) 2008-01-31
EP1885129A3 (en) 2008-07-16
EP1885129A2 (en) 2008-02-06

Similar Documents

Publication Publication Date Title
JP4868968B2 (ja) 補間フレーム作成方法及び補間フレーム作成装置
JP4869045B2 (ja) 補間フレーム作成方法および補間フレーム作成装置
JP4869049B2 (ja) 補間フレーム画像作成方法および補間フレーム画像作成装置
JP4398925B2 (ja) 補間フレーム生成方法、補間フレーム生成装置および補間フレーム生成プログラム
US20120093231A1 (en) Image processing apparatus and image processing method
JP2008135980A (ja) 補間フレーム作成方法および補間フレーム作成装置
JP4861114B2 (ja) 映像信号処理装置
JP2008042332A (ja) 補間フレーム作成方法及び補間フレーム作成装置
JP2009060377A (ja) 補間フレーム生成装置及び補間フレーム生成方法
JP4873765B2 (ja) 映像信号処理装置及び映像信号処理方法
WO2012066866A1 (ja) 動きベクトル検出装置、動きベクトル検出方法、フレーム補間装置及びフレーム補間方法
JP5025580B2 (ja) 映像信号処理装置および映像信号処理方法
JP2008245135A (ja) 補間フレーム作成方法および補間フレーム作成装置
JP2010278931A (ja) 画像処理装置
JP2006215657A (ja) 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びプログラム記録媒体
JP4463171B2 (ja) 自己相関値算出方法及び補間画素生成方法、それらの装置並びにそれらのプログラム
JP2005293361A (ja) 画像処理装置
JP2008227826A (ja) 補間フレーム作成方法及び補間フレーム作成装置
JP2010098513A (ja) 補間画像生成装置及び補間画像生成方法
JP2014045338A (ja) 画像処理装置及び方法、並びに画像表示装置及び方法
JP5526918B2 (ja) 映像信号処理装置及び方法
JP5018198B2 (ja) 補間信号生成回路、補間信号生成方法、プログラムおよびビデオ信号処理装置
JP2008022156A (ja) 動きベクトル検出装置及び動きベクトル検出方法
JP5367601B2 (ja) 画像処理装置、画像処理方法及び画像処理用プログラム
JP2020061693A (ja) 補間フレーム生成装置及び方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090612

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110829

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111025

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111115

R151 Written notification of patent or utility model registration

Ref document number: 4868968

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141125

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

Free format text: JAPANESE INTERMEDIATE CODE: R313121

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250