JP2010081411A - フレーム補間装置及びフレーム補間方法 - Google Patents

フレーム補間装置及びフレーム補間方法 Download PDF

Info

Publication number
JP2010081411A
JP2010081411A JP2008248963A JP2008248963A JP2010081411A JP 2010081411 A JP2010081411 A JP 2010081411A JP 2008248963 A JP2008248963 A JP 2008248963A JP 2008248963 A JP2008248963 A JP 2008248963A JP 2010081411 A JP2010081411 A JP 2010081411A
Authority
JP
Japan
Prior art keywords
frame
image
interpolation
motion vector
frame image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008248963A
Other languages
English (en)
Inventor
Himio Yamauchi
日美生 山内
Hiroyuki Michie
寛之 道江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2008248963A priority Critical patent/JP2010081411A/ja
Priority to US12/475,265 priority patent/US20100079665A1/en
Publication of JP2010081411A publication Critical patent/JP2010081411A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/57Motion estimation characterised by a search window with variable size or shape

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Abstract

【課題】 繰り返し模様の誤検出を減少させることにより、高精度なフレーム補間装置を得る。
【解決手段】 動きベクトルを検出する動きベクトル検出手段と、入力フレーム画像の空間周波数成分の分布を検出する分布検出手段と、この分布検出手段によって検出された空間周波数成分の分布から入力画像フレームの特徴を分析する特徴分析手段と、特徴分析手段によって検出された特徴に応じて、前記動きベクトル検出手段を制御する制御手段と、前記特徴分析手段によって検出された特徴に応じて、前記検出した動きベクトルを用いて補間画像を作成する補間フレーム作成手段と、前記入力フレーム画像と、前記補間フレーム作成手段により作成された補間フレーム画像を前記入力フレーム画像の間に挿入してフレーム数を増やした出力フレーム画像を出力する出力手段とを備える。
【選択図】 図1

Description

この発明は、フレーム補間装置及び方法に関する。
従来のフレーム補間装置としては、ブロックマッチングにより求めた動きベクトルと、全画面の動きベクトルを平均した動きベクトルとを比較し、それぞれの動きベクトルが指す領域の絵柄が似通っていれば、その領域に繰り返し模様が存在すると判断し、動きベクトルを変更する(例えば、特許文献1参照)。
特開2007−235403号公報
しかし、特許文献1に記載の技術では、動きベクトルのみから繰り返し模様を検出するために誤検出を起こしやすいという問題があった。
この発明は、上記したような繰り返し模様の誤検出を減少させることにより、高精度なフレーム補間装置及び方法を得ることを目的とする。
上記の目的を達成するために、この発明においては、入力される2枚以上のフレーム画像を用いて、前記入力フレーム画像の間に位置する新たな補間フレーム画像を作成するフレーム補間装置であって、前記入力フレーム画像を複数のブロックに分割し、この分割した領域毎に前記入力フレーム画像間のブロックマッチングによりフレーム画像内の物体の動きベクトルを検出する動きベクトル検出手段と、前記入力フレーム画像の空間周波数成分の分布を検出する分布検出手段と、この分布検出手段によって検出された空間周波数成分の分布から入力画像フレームの特徴を分析する特徴分析手段と、この特徴分析手段によって検出された特徴に応じて、前記動きベクトル検出手段を制御する制御手段と、前記特徴分析手段によって検出された特徴に応じて、前記検出した動きベクトルを用いて補間画像を作成する補間フレーム作成手段と、前記補間フレーム作成手段により作成された補間フレーム画像を前記入力フレーム画像の間に挿入した出力フレーム画像を出力する出力手段とを備えたことを特徴とするフレーム補間装置を提供する。
また、上記の目的を達成するために、この発明においては、入力される2枚以上のフレーム画像を用いて、前記入力フレーム画像の間に位置する新たなフレーム画像を作成するフレーム補間方法であって、前記入力フレーム画像を複数のブロックに分割し、この分割した領域毎に前記入力フレーム画像間のブロックマッチングによりフレーム画像内の物体の動きベクトルを検出する動きベクトル検出ステップと、前記入力フレーム画像の空間周波数成分の分布を検出する分布検出ステップと、この分布検出ステップによって検出された空間周波数成分の分布から入力画像フレームの特徴を分析する特徴分析ステップと、この特徴分析ステップによって検出された特徴に応じて、前記動きベクトル検出手段を制御する制御ステップと、前記特徴分析ステップによって検出された特徴に応じて、前記検出した動きベクトルを用いて補間画像を作成する補間フレーム作成ステップと、前記補間フレーム作成手段により作成された補間フレーム画像を前記入力フレーム画像の間に挿入した出力フレーム画像を出力する出力ステップとを備えたことを特徴とするフレーム補間方法を提供する。
なお、装置に係る本発明は方法に係る発明としても成立し、方法に係る本発明は装置に係る発明としても成立する。
また、装置または方法に係る本発明は、コンピュータに当該発明に相当する手順を実行させるための(あるいはコンピュータを当該発明に相当する手段として機能させるための、あるいはコンピュータに当該発明に相当する機能を実現させるための)プログラムとしても成立し、該プログラムを記録したコンピュータ読み取り可能な記録媒体としても成立する。
この発明によれば、入力画像信号の空間周波数成分の分布に応じて補間フレームの作成方法を変更しているので、より破綻が少ない高精度なフレーム補間装置および方法を得ることができる。
以下、図面を参照しながら本発明の実施形態について説明する。
動画をホールド表示型ディスプレイに表示するときに起こる残像感を軽減したり、映画など1秒当たりのフレーム数が少ない動画を滑らかに表示したりするために、連続する複数のフレームから補間フレームを作成し、元となったフレームの間に作成した補間フレームを挿入して表示する方法が知られている。この方法により、動画の画質を向上させることができる。
ところが、連続する複数のフレーム間に生じる画像の動きがとても大きい場合や、繰り返し模様などによりフレーム間の動きが求めにくい場合に、フレーム補間装置が元画像から誤った動きを検出することがある。このような誤った動きをもとに作成された補間フレームは、本来作られるべき画像と異なる画像となってしまう。このような低精度な補間フレーム画像を元となったフレーム画像間に挿入して表示すると、かえって画質を低下させてしまう。
この発明の目的は、フレーム補間装置が上記した理由による低精度な補間フレームを作成することを防ぎ、高精度な補間フレームを作成することである。
本発明では、上記目的を達成するために、次のような特徴を有するフレーム補間方法を提案する。
まず、補間フレームを作成する元となるフレーム画像信号の空間周波数特性、つまり絵柄の複雑さから、元となるフレーム画像が有する絵柄の特徴を検出する。この検出した絵柄の特徴に応じて、画像信号に相応しい補間フレームの作成方法を選択する。
以下、本発明の大まかな構成と動作について詳細に説明する。この実施形態では、動画の元フレームがどのような特徴を有する画像のとき、どのように補間フレームの作成方法を変更するかによって、高精度な補間フレームを作成しているかを説明する。まず、本発明のフレーム補間装置の構成を述べる。
図1は、本発明のフレーム補間装置の構成を示す図である。
本発明のフレーム補間装置は、入力画像の絵柄の特徴を解析する入力画像空間周波数特性分析部101と、入力画像を格納するフレームメモリ103と、連続する複数のフレーム間の動きを検出する動きベクトル検出部104と、動きベクトル検出部104が検出した動きをもとに補間フレームを生成する補間画像作成部105と、動きベクトル検出部104および補間画像作成部105を制御するフレーム補間処理制御部102と、フレーム補間処理された画像信号118を表示するディスプレイ119とから構成される。
次に、このように構成された本発明のフレーム補間装置の動作について説明する。
まず動画の各フレームの画像信号111を入力画像空間周波数特性分析部101に入力する。入力画像空間周波数特性分析部101では、各フレームにおける画像信号の空間周波数特性、つまり絵柄の複雑さをもとに画像の特徴を抽出し、補間フレームをどのように作成するかの制御信号112をフレーム補間処理制御部102へ送出する。
一方、同じフレーム画像信号111をフレームメモリ103に記録しながら、1つ前のフレーム画像信号113との間の画像の変化を動きベクトル検出部104で探索し、フレーム画像間の動きベクトル115を補間画像作成部105へ送出する。このとき画像を複数の小さなブロックに区切り、各ブロックがフレーム間でどのように動いたかを動きベクトルとして探索するブロックマッチングを行う。フレーム補間処理制御部102が送出する補間フレーム作成方法制御信号116に従い、前記動きベクトル115と、現フレームの画像信号111と前フレームの画像信号113とから、補間画像作成部105にて補間フレーム画像信号117を作成する。そして、元の2フレームの間に補間フレームを挿入し、フレーム補間処理された画像信号118を出力する。
図1では入力フレーム画像を複数の領域に分割したが、全ての領域で同じフレーム補間処理方法を用いた。しかし、入力フレーム画像を複数の領域に分割し、この分割した領域毎にフレーム補間処理方法を変更しても良い。
図2は、このように分割した領域毎にフレーム補間処理方法を変更する本発明のフレーム補間装置の構成を示す図である。なお、図1と同じ部分については説明を省略する。
図2において、入力フレーム画像の各領域に対するフレーム補間処理制御信号101を、画像領域毎のフレーム補間制御方法記憶部201に送出する。補間フレーム作成において、フレーム補間処理制御部102は、画像領域毎のフレーム補間制御方法記憶部201で記憶された制御信号211を参照する。
ここで、図3を用いて入力画像空間周波数特性分析部101の更に詳細な構成と動作について説明する。
図3は、入力画像空間周波数特性分析部101の更に詳細な構成を示す図である。
入力画像空間周波数特性分析部101は、複数の空間周波数域成分を取得するための複数のフィルタ301〜303と、フィルタ301〜303の出力からヒストグラムを生成するヒストグラム取得部304〜306と、これらヒストグラム取得部304〜306から得られるヒストグラムから画像信号の特徴を分析する入力画像空間周波数特性抽出及びフレーム補間方法の制御内容決定部307から構成される。
次に、このように構成された入力画像空間周波数特性分析部101の動作について説明する。
まず、入力画像信号111をそれぞれ特性の異なる複数の空間周波数選択部(フィルタ)301〜303に入力する。それぞれのフィルタの出力信号312〜314はそれぞれのヒストグラム取得部304〜306へ入力され、それぞれヒストグラム315〜317を生成する。このとき、これらのヒストグラムには、入力画像信号における、それぞれ異なる周波数域ごとの成分が現れる。
よって、入力画像信号の空間周波数成分、すなわち画像の絵柄の空間的な変化がどのように分布しているかがわかる。そして、この空間周波数成分の分布を得る入力画像空間周波数特性抽出、およびフレーム補間方法の制御内容決定部307が、入力画像信号に最もふさわしいフレーム補間処理方法を指定する制御信号112を出力する。
以下、本発明のフレーム補間装置において、入力画像の絵柄にどのような特徴があるかを検出し、この結果に応じてどのように補間フレームの作成方法を変更するかについて説明する。
(補間フレーム作成方法の第1の例)
補間フレーム作成方法の第1の例について説明する。
入力画像の空間周波数成分が低周波域のみに集中するとき、画像の絵柄の変化が緩やかである。このとき、入力画像は、画像の縮小にともなう高域の空間周波数成分の削除による画質の低下が小さく、絵柄の細かい変化が失われることが少ない。よって、入力画像のある領域で前記の特徴を検出するとき、その領域では、連続するフレーム間の動き探索を、縮小画像を用いて行うように変更する。そして、得られた動きベクトルと縮小する前の元のフレーム画像信号から補間フレームを作成する。
図4は、補間フレーム作成方法の第1の例を実現するためのフレーム補間装置の構成を示す図である。
図4において、入力フレーム画像信号111を入力画像空間周波数特性分析部101と画像縮小部401に入力する。入力画像空間周波数特性分析部101で、入力画像の特徴を検出し、フレーム補間方法の制御信号112を送出する。前記制御信号112は画像領域毎のフレーム補間制御方法記憶部201に記憶される。前記制御信号112は、前記記憶部201から、フレーム補間処理制御部102に送出される。一方、画像縮小部401で入力画像を縮小する。元の入力画像と、画像縮小部401から送出される縮小された画像信号411を、それぞれフレームメモリ103に格納する。
入力フレーム画像において、空間周波数成分が低周波域のみに集中している領域では、縮小した入力画像411と1フレーム前の縮小した入力画像412から動きを探索する。
それ以外の空間周波数成分が低周波域のみに集中していない領域では、縮小する前の入力画像111と縮小されない前フレームの画像信号113から動きを探索する。
求めた各動きベクトル115と、フレーム画像信号111、縮小されない前フレームの画像信号113から補間画像117を作成する。そして、元フレーム画像の間に補間画像を挿入し、フレーム補間処理された画像信号118を出力する。以上のフレーム補間方法により、作成する補間フレームの精度の低下を防ぎながら、より広い範囲の動きを探索することができるようになる。
(補間フレーム作成方法の第2の例)
補間フレーム作成方法の第2の例を説明する。
入力画像の空間周波数成分が低周波域のみに集中するとき、画像の絵柄の変化は緩やかである。このとき、入力画像には、画像に細かい動きが存在しない。よって、入力画像から前記特徴を検出するとき、連続するフレーム間の動き探索において、図1の動きベクトル検出部104で求めることが許される動きベクトルの種類を変更する。そして、得られた動きベクトルと元のフレーム画像信号から補間フレームを作成する。このように探索できる動きベクトルの種類を変更する例を図5に示す。
図5(a)に示した動きベクトルを求めるときの探索範囲は、図5(a)に示した探索範囲と比べて、動きベクトルの総数は同じまま、より大きな動きベクトルを検出することができる。逆に、図5(a)に示した探索範囲は、図5(a)に示した探索範囲より、隣同士の動きベクトルの間隔がより密になっており、より細かい動きを検出することができる。
よって、前述した補間フレーム作成方法の第2の例において、空間周波数成分が低周波域のみに集中する領域では、図5(b)に示すような、より広大な探索範囲、それ以外の領域では、図5(a)に示すようなより密な探索範囲を選ぶ。以上のフレーム補間方法により、補間フレームの精度の低下を防ぎながら、より広い範囲の動きを探索することができるようになる。
(補間フレーム作成方法の第3の例)
補間フレーム作成方法の第3の例を説明する。入力画像の空間周波数成分が低周波域のみに集中するとき、入力画像の絵柄の変化は緩やかである。このとき、入力画像では、広い範囲にわたって同じような絵柄が続くため、画像のノイズなどに起因してブロックマッチングにおいて本来選ばれるべき動きベクトルとは違う動きベクトルが選ばれやすい。よって、入力画像から前記特徴を検出するとき、連続するフレーム間の動き探索において、より大きな範囲で絵柄の比較を行うために、図1の動きベクトル検出部104において、ブロックマッチングを行うブロックの大きさを拡大する。このようにすると、ブロックマッチングを行うブロック内の絵柄の変化が現れやすくなり、本来選ばれるべき動きベクトルが選ばれやすくなる。そして、得られた動きベクトルと元のフレーム画像信号から補間フレームを作成する。以上のフレーム補間方法により、より正確な補間フレームを作成することができるようになる。
(補間フレーム作成方法の第4の例)
補間フレーム作成方法の第4の例を説明する。入力画像の空間周波数成分がある特定の周波数域に集中して検出されるとき、入力画像に繰り返し模様が存在する。よって、繰り返し模様に起因するフレーム間の動きの誤検出を防ぐようにフレーム補間方法を変更してフレーム補間を行う。
以下、上記(補間フレーム作成方法の第4の例)に関し、繰り返し模様による動きベクトルの誤検出を防ぐ例を順に説明する。
繰り返し模様のある画像で動きベクトルの誤検出を起こしやすい理由は、繰り返し模様がある領域では、何通りもの動きを探索できてしまうため、適切な動きを決定しにくいからである。特に、繰り返し模様の位置が連続する2フレーム間でわずかに動くときや、繰り返し模様がノイズなどにより微小に変化するときは、誤った動きベクトルを求めてしまいやすい。
(繰り返し模様による動きベクトルの誤検出を防ぐ方法の第1の例)
繰り返し模様による動きベクトルの誤検出を防ぐ方法の第1の例は、図1における動きベクトル検出部104において、探索する動きベクトルの範囲を、繰り返し模様より狭く変更することである。なぜなら、ブロックマッチングにおいて、繰り返し模様の次の繰り返しを参照しないことで、動きベクトル探索において候補となる動きベクトルが減り、誤った動きベクトルが選ばれにくくなるためである。この方法により、繰り返し模様による補間フレームの精度の低下を防ぐことができる。
(繰り返し模様による動きベクトルの誤検出を防ぐ方法の第2の例)
繰り返し模様による動きベクトルの誤検出を防ぐ方法の例は、図1における補間画像作成部105で使用できる動きベクトルの範囲を通常より狭く変更することである。
このため補間画像生成部105は、使用できる動きベクトルの範囲を、動きベクトル検出部104により検出される動きベクトルの範囲に対して変更できる装置とする。補間画像作成部105で使用できる動きベクトルの範囲を狭く変更するための技術としては、特開2008−067205号公報に開示されている技術を用いればよい。補間画像作成部105は、検出した動きベクトルの範囲を制限し、その動きベクトルを補間フレームの作成に使用する。
このとき、元の動きベクトルを小さくした動きベクトルを用いて補間フレームを作成することになるので、フレーム補間の効果は小さくなる。しかし、繰り返し模様により誤って検出した動きベクトルによる、補間フレームの精度の低下も小さくなるため、画質の低下もより小さくなる。
(繰り返し模様による動きベクトルの誤検出を防ぐ方法の第3の例)
繰り返し模様による動きベクトルの誤検出を防ぐ方法は、あるブロックの動きベクトルと、その空間的または時間的に隣り合うブロックの動きベクトルとの間の大きな変化を、より許さなくすることである。動きベクトルのスムーズ化については、特開2008−067222号公報に開示されている技術を用いればよい。特開2008−067222号公報には、動きベクトルのフィルタリングにおける機能を、入力画像信号の特徴に応じて制御する技術が開示されている。
図6は、この繰り返し模様による動きベクトルの誤検出を防ぐ方法の第3の例に示す方法を実行できるフレーム補間装置の構成を示す図である。
図6において、動きベクトル検出部104で探索した1フレーム分の動きベクトル115を、動きベクトルメモリ601に記憶する。次のフレームの動きベクトル探索において、動きを探索しているブロックの周囲のブロックと、1フレーム前に検出した同じ位置のブロックの、それぞれの動きベクトル611を、動きベクトルメモリ601から動きベクトル検出部104に送出する。そして、探索した動きベクトルが、周囲の動きベクトル611に対して孤立した値をとらないように変更する。特に、入力フレーム画像から繰り返し模様を検出するときは、周囲の動きベクトルとの違いをより強く矯正する。この方法により、繰り返し模様によって誤検出した動きベクトルが、その周囲の正しく検出された動きベクトルにより修正されるため、作成する補間フレーム117の精度の低下を防ぐことができる。
以上説明したとおり、本発明によれば、入力画像信号の空間周波数成分の分布から、その画像信号の特徴を解析し、この解析結果を補間フレームの作成方法に反映させているので、より破綻が少ない高精度な補間フレーム作成方法および装置を得ることができる。
また、本発明によれば、入力画像信号の空間周波数特性をもとに繰り返し模様を検出する、この検出結果を補間フレームの作成方法に反映させているので、より破綻が少ない高精度な補間フレーム作成方法および装置を得ることができる。
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
本発明のフレーム補間装置の構成を示す図。 分割した領域毎にフレーム補間処理方法を変更する本発明のフレーム補間装置の構成を示す図。 入力画像空間周波数特性分析部101の更に詳細な構成を示す図。 補間フレーム作成方法の第1の例を実現するためのフレーム補間装置の構成を示す図。 動きベクトルを求めるときの探索範囲を示す図。 繰り返し模様による動きベクトルの誤検出を防ぐ方法の第3の例に示す方法を実行できるフレーム補間装置の構成を示す図。
符号の説明
101…入力画像空間周波数特性分析部、103…フレームメモリ、104…動きベクトル検出部、105…補間画像作成部、102…フレーム補間処理制御部、119…ディスプレイ、201…フレーム補間制御方法記憶部、301〜303…フィルタ、304〜306…ヒストグラム取得部、307…入力画像空間周波数特性抽出及びフレーム補間方法の制御内容決定部、401…画像縮小部、601…動きベクトルメモリ。

Claims (7)

  1. 入力される2枚以上のフレーム画像を用いて、前記入力フレーム画像の間に位置する新たな補間フレーム画像を作成するフレーム補間装置であって、
    前記入力フレーム画像を複数のブロックに分割し、この分割した領域毎に前記入力フレーム画像間のブロックマッチングによりフレーム画像内の物体の動きベクトルを検出する動きベクトル検出手段と、
    前記入力フレーム画像の空間周波数成分の分布を検出する分布検出手段と、
    この分布検出手段によって検出された空間周波数成分の分布から入力画像フレームの特徴を分析する特徴分析手段と、
    この特徴分析手段によって検出された特徴に応じて、前記動きベクトル検出手段を制御する制御手段と、
    前記特徴分析手段によって検出された特徴に応じて、前記検出した動きベクトルを用いて補間画像を作成する補間フレーム作成手段と、
    前記補間フレーム作成手段により作成された補間フレーム画像を前記入力フレーム画像の間に挿入した出力フレーム画像を出力する出力手段とを備えたことを特徴とするフレーム補間装置。
  2. 前記特徴分析手段は、前記入力フレーム画像中の空間周波数成分が低周波域に集中していることを検出し、
    前記制御手段は前記動きベクトル検出手段に対して、
    前記特徴分析手段によって検出された特徴が前記入力フレーム画像中の空間周波数成分が低周波域のみに集中している場合に、動きベクトルを検出するための画像を、元の入力フレーム画像から前記画像を縮小した画像に変更するよう制御し、
    前記特徴分析手段によって検出された特徴が前記入力フレーム画像中の空間周波数成分が低周波域のみに集中していない場合に、動きベクトルを検出するための画像を、元の入力フレーム画像から前記画像を縮小した画像に変更しないように制御することを特徴とする請求項1記載のフレーム補間装置。
  3. 前記特徴分析手段は、前記入力フレーム画像中の空間周波数成分が低周波域に集中していることを検出し、
    前記制御手段は前記動きベクトル検出手段に対して、
    前記特徴分析手段によって検出された特徴が前記入力フレーム画像中の空間周波数成分が低周波域のみに集中している場合に、動きベクトルとして選択できるベクトルの種類を変更するよう制御し、
    前記特徴分析手段によって検出された特徴が前記入力フレーム画像中の空間周波数成分が低周波域のみに集中していない場合に、動きベクトルとして選択できるベクトルの種類を変更しないよう制御することを特徴とする請求項1記載のフレーム補間装置。
  4. 前記特徴分析手段は、前記入力フレーム画像中の空間周波数成分が低周波域に集中していることを検出し、
    前記制御手段は前記動きベクトル検出手段に対して、
    前記特徴分析手段によって検出された特徴が前記入力フレーム画像中の空間周波数成分が低周波域のみに集中している場合に、前記ブロックマッチングを行うブロックの大きさを変更するよう制御し、
    前記特徴分析手段によって検出された特徴が前記入力フレーム画像中の空間周波数成分が低周波域のみに集中していない場合に、前記ブロックマッチングを行うブロックの大きさを変更しないように制御することを特徴とする請求項1記載のフレーム補間装置。
  5. 前記特徴分析手段は、前記入力フレーム画像中の空間周波数成分が特定の周波数に集中していることを検出することにより前記入力フレーム画像中に繰り返し模様が存在することを検出し、
    前記制御手段は補間フレーム作成手段に対して、前記特徴分析手段によって検出された前記入力フレーム画像中に繰り返し模様が存在することに応じて、前記検出した動きベクトルを用いて繰り返し模様に起因する誤補間を防ぐようにフレーム補間方法を変更して補間画像を作成させることを特徴とする請求項1記載のフレーム補間装置。
  6. 更に、前記出力フレーム画像を表示する表示手段を備えたことを特徴とする請求項1乃至5のいずれか1項記載のフレーム補間装置。
  7. 入力される2枚以上のフレーム画像を用いて、前記入力フレーム画像の間に位置する新たなフレーム画像を作成するフレーム補間方法であって、
    前記入力フレーム画像を複数のブロックに分割し、この分割した領域毎に前記入力フレーム画像間のブロックマッチングによりフレーム画像内の物体の動きベクトルを検出する動きベクトル検出ステップと、
    前記入力フレーム画像の空間周波数成分の分布を検出する分布検出ステップと、
    この分布検出ステップによって検出された空間周波数成分の分布から入力画像フレームの特徴を分析する特徴分析ステップと、
    この特徴分析ステップによって検出された特徴に応じて、前記動きベクトル検出手段を制御する制御ステップと、
    前記特徴分析ステップによって検出された特徴に応じて、前記検出した動きベクトルを用いて補間画像を作成する補間フレーム作成ステップと、
    前記補間フレーム作成手段により作成された補間フレーム画像を前記入力フレーム画像の間に挿入した出力フレーム画像を出力する出力ステップとを備えたことを特徴とするフレーム補間方法。
JP2008248963A 2008-09-26 2008-09-26 フレーム補間装置及びフレーム補間方法 Pending JP2010081411A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008248963A JP2010081411A (ja) 2008-09-26 2008-09-26 フレーム補間装置及びフレーム補間方法
US12/475,265 US20100079665A1 (en) 2008-09-26 2009-05-29 Frame Interpolation Device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008248963A JP2010081411A (ja) 2008-09-26 2008-09-26 フレーム補間装置及びフレーム補間方法

Publications (1)

Publication Number Publication Date
JP2010081411A true JP2010081411A (ja) 2010-04-08

Family

ID=42057061

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008248963A Pending JP2010081411A (ja) 2008-09-26 2008-09-26 フレーム補間装置及びフレーム補間方法

Country Status (2)

Country Link
US (1) US20100079665A1 (ja)
JP (1) JP2010081411A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101747717B1 (ko) 2010-08-12 2017-06-15 엘지디스플레이 주식회사 영상 표시장치의 구동장치와 그 구동방법

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5149861B2 (ja) * 2009-05-01 2013-02-20 富士フイルム株式会社 中間画像生成装置およびその動作制御方法
US8471959B1 (en) * 2009-09-17 2013-06-25 Pixelworks, Inc. Multi-channel video frame interpolation
US20130235274A1 (en) * 2010-11-17 2013-09-12 Mitsubishi Electric Corporation Motion vector detection device, motion vector detection method, frame interpolation device, and frame interpolation method
JP6037224B2 (ja) * 2012-01-11 2016-12-07 パナソニックIpマネジメント株式会社 画像処理装置、撮像装置、およびプログラム
KR102192488B1 (ko) * 2015-11-25 2020-12-17 삼성전자주식회사 프레임 레이트 변환 장치 및 그 프레임 레이트 변환 방법
JP6545229B2 (ja) * 2017-08-23 2019-07-17 キヤノン株式会社 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0837664A (ja) * 1994-07-26 1996-02-06 Toshiba Corp 動画像符号化/復号化装置
JP2590999B2 (ja) * 1987-12-29 1997-03-19 日本電気株式会社 画像信号の動ベクトル検出装置
JPH11239354A (ja) * 1998-02-23 1999-08-31 Mitsubishi Electric Corp 動きベクトル検出器
JP2000023154A (ja) * 1998-06-30 2000-01-21 Toshiba Corp 動画像符号化装置
JP2006178642A (ja) * 2004-12-21 2006-07-06 Olympus Corp 動きベクトル検出装置
JP2007036738A (ja) * 2005-07-27 2007-02-08 Matsushita Electric Ind Co Ltd 動画像符号化装置、方法、及びプログラム
JP2007259106A (ja) * 2006-03-23 2007-10-04 Fujifilm Corp 撮像画像中の動体の検出方法及びその装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4799330B2 (ja) * 2006-09-08 2011-10-26 株式会社東芝 フレーム補間回路、フレーム補間方法、表示装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2590999B2 (ja) * 1987-12-29 1997-03-19 日本電気株式会社 画像信号の動ベクトル検出装置
JPH0837664A (ja) * 1994-07-26 1996-02-06 Toshiba Corp 動画像符号化/復号化装置
JPH11239354A (ja) * 1998-02-23 1999-08-31 Mitsubishi Electric Corp 動きベクトル検出器
JP2000023154A (ja) * 1998-06-30 2000-01-21 Toshiba Corp 動画像符号化装置
JP2006178642A (ja) * 2004-12-21 2006-07-06 Olympus Corp 動きベクトル検出装置
JP2007036738A (ja) * 2005-07-27 2007-02-08 Matsushita Electric Ind Co Ltd 動画像符号化装置、方法、及びプログラム
JP2007259106A (ja) * 2006-03-23 2007-10-04 Fujifilm Corp 撮像画像中の動体の検出方法及びその装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101747717B1 (ko) 2010-08-12 2017-06-15 엘지디스플레이 주식회사 영상 표시장치의 구동장치와 그 구동방법

Also Published As

Publication number Publication date
US20100079665A1 (en) 2010-04-01

Similar Documents

Publication Publication Date Title
JP2010081411A (ja) フレーム補間装置及びフレーム補間方法
US9591258B2 (en) Image processing apparatus, image processing method, program and storage medium
JP6682559B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム及び記憶媒体
JP2008078818A (ja) 補間フレーム作成装置、動きベクトル検出装置、補間フレーム作成方法、動きベクトル検出方法、補間フレーム作成プログラムおよび動きベクトル検出プログラム
US10321023B2 (en) Image processing apparatus and image processing method
US8411974B2 (en) Image processing apparatus, method, and program for detecting still-zone area
EP1503578A1 (en) Motion detector, image processing system, motion detecting method, program, and recording medium
US8792053B2 (en) Image processing apparatus, image processing method, and program
US20070291138A1 (en) Imaging system and method with intelligent digital zooming
US20090310679A1 (en) Video processing apparatus and methods
US9142031B2 (en) Image processing apparatus with detection of motion vector between images, control method therefor, and storage medium storing control program therefor
US8244055B2 (en) Image processing apparatus and method, and program
US20120008692A1 (en) Image processing device and image processing method
WO2015129250A1 (ja) 画像処理装置及び画像処理方法
JP5962278B2 (ja) 画像処理プログラム、画像処理装置及び画像処理方法
JP4658686B2 (ja) 双方向動きベクトル検出による内挿画像生成装置及びプログラム
US8013935B2 (en) Picture processing circuit and picture processing method
JP2015079329A (ja) 画像処理装置、画像処理方法およびプログラム
US8345157B2 (en) Image processing apparatus and image processing method thereof
JP5188272B2 (ja) 映像処理装置及び映像表示装置
JP2005033788A (ja) フレームレートを変換する時の動作ベクトル検出装置及び方法
JP5762006B2 (ja) 画像処理装置および画像処理方法
KR20130135460A (ko) 색상 차이를 사용한 깊이 영상 보간 장치 및 방법
JP2000350233A (ja) 動画像再生における静止画像処理方式および静止画像処理方法
JP2006023812A (ja) 画像処理装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100323

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20100323

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100427