JP2009118456A - 画像補間装置および方法 - Google Patents
画像補間装置および方法 Download PDFInfo
- Publication number
- JP2009118456A JP2009118456A JP2008129607A JP2008129607A JP2009118456A JP 2009118456 A JP2009118456 A JP 2009118456A JP 2008129607 A JP2008129607 A JP 2008129607A JP 2008129607 A JP2008129607 A JP 2008129607A JP 2009118456 A JP2009118456 A JP 2009118456A
- Authority
- JP
- Japan
- Prior art keywords
- image
- motion vector
- vector
- original image
- correlation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
【解決手段】時間的に異なる2枚の原画像の間に少なくとも1枚の画像を生成し内挿する画像補間装置において、遅延回路7と、時間的に過去画像に相当する第1の原画f(t−1)上を小ブロックに分割し、時間的に未来画像に相当する第2の原画f(t)のある領域を探索することで前方向動きベクトルを求める手段8と、第2の画像f(t)を小ブロックに分割し、第1の画像f(t−1)のある領域を探索することで後方向動きベクトルを求める手段9と、前方向動きベクトルが指ししめす第2の画像f(t)の座標を計算し、後方向動きベクトルと前方向動きベクトルの相関を調べる手段10と、第1の画像f(t−1)上の相関が高いブロックの前方向動きベクトルのみを用いて、内挿座標へのベクトル割付を行う手段11を備えた。
【選択図】図7
Description
今60Hzのプログレッシブ信号を120Hzの表示装置に写す場合を例にとり、図1を用いて説明する。図1は入力される60Hzの原画像と120Hzの出力画像の関係を示す。例えば時間t−1における原画像1と時間tにおける原画像2を用いて、時間的にちょうど半分(中間)の時刻において内挿画像3を作成して出力することにより、フレームレートを増やしている。
N(x)=x+Vx/2 (式1)
となる。このとき、N(x)が含まれる内挿座標の小ブロックに対して、ベクトルVxが割付けられる。この処理を基準原画像のすべてのブロックについて実行することで、内挿座標の小ブロック上にベクトルを割り付けていく。結果、内挿座標の各小ブロックについては、ベクトルが複数割付けられたり、全く割付けられなかったりする箇所が発生するが、通常は複数割付けられた場合は、割付けられたベクトルのうち、そのベクトルを用いて計算したf(t−1)とf(t)の特定領域の相関が最も高いもので代表する。また全く割付けられなかった場合は、ゼロベクトルで代用する。よく知られている処理としては割付けられたベクトルに対してメディアンフィルタ等のフィルタリング処理を施し、最終ベクトルとする。
以下、本発明の第1実施形態を、図を用いて詳細に説明するが、上記従来例と同一部分には同一符号を付し、その説明は省略する。図7に本発明の第1実施形態のブロック図を示す。本ブロック図は、時間tにおいて入力される原画像f(t)と、遅延回路7より供給される、時間的に一つ前の原画像f(t−1)から内挿画像生成に使用する最終ベクトル19を生成する回路を示す。以下、信号の流れにそって処理内容を説明する。f(t)、f(t−1)の2枚の原画像は、動きベクトル検出回路8、9に供給される。動きベクトル検出回路8では、f(t−1)を基準画像として図2のように、動きベクトルを求めるための基準ブロックに分割し、f(t)のエリアを参照することで前方向動きベクトル15を出力する。同様に動きベクトル検出回路9では、f(t)を基準画像として図2のように、動きベクトルを求めるための基準ブロックに分割し、f(t−1)のエリアを参照することで後方向動きベクトル16を出力する。前方向動きベクトル15は統計データ算出回路33に入力される。統計データ算出回路33では、入力されたベクトルデータを用いて、平均ベクトル値算出や、ヒストグラム処理が行われ、統計データ34として出力される。統計データ算出回路33の入力信号として、ここでは前方向動きベクトル15を入力しているが、後方向ベクトル16や、最終ベクトル19、フィルタ処理前の内挿ベクトル18、双方向ベクトル比較回路10の相関データ、動きベクトル検出回路8、9で動きベクトルを求める際に算出した画像相関データなどを入力しても構わない。さらに後述する画像特徴量検出回路の結果でもよい。また統計データとは1画面全体の統計値のみにかぎらず、1画面を小ブロックに分割した領域に対する統計や、数枚の画像に対して算出したデータを含む。
(1)未割付けブロックの周囲にある1つまたは複数の割付ベクトルを用いてそのベクトルが指すf(t−1)、f(t)の特定領域を算出し、その画像間の相関を調べることで、最も相関が高いベクトルを割付ける。
(2)ゼロベクトルとする。
(3)統計データ算出回路33が示す全画面平均ベクトル等の統計データとする。
以上によって、全領域について割付けられた割付ベクトル18を出力する。
SADFAB=Σ|Ai−Bi| (1≦i≦8) (式2)
を画像の相関値とする。なお相関値の計算式は式2の限りではなく、例えばΣ(Ai−Bi)2とする場合もある。以上のように計算した相関値を前方向画像相関値28として前方向割付ベクトル26とともに出力する。一方、割付回路25でも同様の計算が行われ、後方向画像相関値29と後方向割付ベクトル27が出力される。未割付けブロックについては第1実地形態同様の処理を行い、未割付けブロックの画像相関値は極端に大きい値にするなどで、識別可能としておく。
3 内挿画像
4 1ピクセル
5、35 動きベクトルを求める基準ブロック
6、15、16 動きベクトル
7 遅延回路
8、9 動きベクトル検出回路
10、20、21、31、44、45 双方向ベクトル比較回路
11、24、25、32 割付回路
12 ベクトルフィルタ回路
17、22、23 割付用動きベクトル
18、26、27、38 割付ベクトル
19 最終ベクトル
28、29 画像相関値
30 比較回路
33 統計データ算出回路
34 統計データ
36 動きベクトルが指す対象ブロック
37、39 割付ベクトルが指す対象ブロック
40、41 特徴量検出回路
42、43 特徴量検出結果
44、45 双方向ベクトル比較回路
Claims (12)
- 時間的に異なる2枚の原画像の間に少なくとも1枚の画像を生成し内挿する画像補間装置において、
遅延回路と、時間的に過去画像に相当する第1の原画f(t−1)上を小ブロックに分割し、小ブロック単位で時間的に未来画像に相当する第2の原画f(t)のある領域を探索することで前方向動きベクトルを求める手段と、第2の画像f(t)を小ブロックに分割し、小ブロック単位で第1の画像f(t−1)のある領域を探索することで後方向動きベクトルを求める手段と、第1の画像f(t−1)の小ブロック単位で求まった前方向動きベクトルが指ししめす第2の画像f(t)の座標を計算し、その座標上の小ブロックが示す後方向動きベクトルと計算に利用した前方向動きベクトルの相関を調べる手段と、第1の画像f(t−1)上の小ブロックにおいて相関が高いブロックの前方向動きベクトルのみを用いて、内挿座標へのベクトル割付を行う手段を備えたことを特徴とする画像補間装置。 - 時間的に異なる2枚の原画像の間に少なくとも1枚の画像を生成し内挿する画像補間装置において、
時間的に過去画像に相当する第1の原画f(t−1)上を小ブロックに分割し、小ブロック単位で時間的に未来画像に相当する第2の原画f(t)のある領域を探索することで前方向動きベクトルを求める手段と、第2の原画f(t)を小ブロックに分割し、小ブロック単位で第1の原画f(t−1)のある領域を探索することで後方向動きベクトルを求める手段と、第2の原画f(t)の小ブロック単位で求まった後方向動きベクトルが指ししめす第1の原画f(t−1)の座標を計算し、その座標上の小ブロックが示す前方向動きベクトルと計算に利用した後方向動きベクトルの相関を調べる手段と、第2の原画f(t)上の小ブロックにおいて相関が高いブロックの後方向動きベクトルのみを用いて、内挿座標へのベクトル割付を行う手段を備えたことを特徴とする画像補間装置。 - 時間的に異なる2枚の原画像の間に少なくとも1枚の画像を生成し内挿する画像補間装置において、
時間的に過去画像に相当する第1の原画f(t−1)上を小ブロックに分割し、小ブロック単位で時間的に未来画像に相当する第2の原画f(t)のある領域を探索することで前方向動きベクトルを求める手段と、第2の原画f(t)を小ブロックに分割し、小ブロック単位で第1の原画f(t−1)のある領域を探索することで後方向動きベクトルを求める手段と、第1の原画f(t−1)の小ブロック単位で求まった前方向動きベクトルが指ししめす第2の原画f(t)の座標を計算し、その座標上の小ブロックが示す後方向動きベクトルと計算に利用した前方向動きベクトルの相関を調べる手段と、第1の原画f(t−1)上の小ブロックにおいて相関が高いブロックの前方向動きベクトルのみを用いて、内挿座標への前方向ベクトル割付を行う手段と、第2の原画f(t)の小ブロック単位で求まった後方向動きベクトルが指ししめす第1の原画f(t−1)の座標を計算し、その座標上の小ブロックが示す前方向動きベクトルと計算に利用した後方向動きベクトルの相関を調べる手段と、第2の原画f(t)上の小ブロックにおいて相関が高いブロックの後方向動きベクトルのみを用いて、内挿座標への後方向ベクトル割付を行う手段と、内挿座標において前方向ベクトル割付と後方向ベクトル割付がともに行われていて、ベクトルの相関値が異なる場合、割り付けられた前方向ベクトルと後方向ベクトルが指し示す第1の原画f(t−1)および第2の原画f(t)との領域について、特定領域分の相関を算出し、相関の高い方の割付ベクトルを採用する手段を備えたことを特徴とする画像補間装置。 - 時間的に異なる2枚の原画像の間に少なくとも1枚の画像を生成し内挿する画像補間装置において、
時間的に過去画像に相当する第1の原画f(t−1)上を小ブロックに分割し、小ブロック単位で時間的に未来画像に相当する第2の原画f(t)のある領域を探索することで前方向動きベクトルを求める手段と、第2の原画f(t)を小ブロックに分割し、小ブロック単位で第1の原画f(t−1)のある領域を探索することで後方向動きベクトルを求める手段と、第1の原画f(t−1)の小ブロック単位で求まった前方向動きベクトルが指ししめす第2の原画f(t)の座標を計算し、その座標上の小ブロックが示す後方向動きベクトルと計算に利用した前方向動きベクトルの相関を調べる手段と、第2の原画f(t)の小ブロック単位で求まった後方向動きベクトルが指ししめす第1の原画f(t−1)の座標を計算し、その座標上の小ブロックが示す前方向動きベクトルと計算に利用した後方向動きベクトルの相関を調べる手段と、内挿画像を生成する時間比率に応じて時間的に近い側の原画像における相関が高い方のベクトルを利用して割付を行う手段を備えたことを特徴とする画像補間装置。 - 請求項1から4のいずれか1項に記載の画像補間装置において、
前方向ベクトルと後方向ベクトルの相関を求める際は、一方のベクトルが指し示す先の原画像が指す1つのベクトルだけでなく、その周辺の複数ベクトルを利用して相関を求める手段を備えたことを特徴とする画像補間装置。 - 請求項1から5のいずれか1項に記載の画像補間装置において、
前方向ベクトルと後方向ベクトルの相関を求める際の閾値は、全画面または、対象ブロックを含む特定領域の統計的データにもとづいて動的に変更する手段を備えたことを特徴とする画像補間装置。 - 請求項1から6のいずれか1項に記載の画像補間装置において、
前方向ベクトルと後方向ベクトルの相関を求める際は、基準画像の特徴量に応じて相関結果を利用しない手段を備えたことを特徴とする画像補間装置。 - 請求項1から7のいずれか1項に記載の画像補間装置において、
最終的な内挿座標のベクトルの決定は、割付けられたベクトルを候補として、候補ベクトルから算出される第1の原画f(t−1)および第2の原画f(t)の特定領域における相関を求めることで決定する手段を備えたことを特徴とする画像補間装置。 - 請求項1から8のいずれか1項に記載の画像補間装置において、
内挿座標上にベクトルが割付けられていないブロックについては、ゼロベクトルを割付けておく手段を備えたことを特徴とする画像補間装置。 - 請求項1から8のいずれか1項に記載の画像補間装置において、
内挿座標上にベクトルが割付けられていないブロックについては、全画面上もしくは、特定領域の統計的データにもとづくベクトルを割付けておく手段を備えたことを特徴とする画像補間装置。 - 請求項1から10のいずれか1項に記載の画像補間装置において、
割付時間を示す信号N(t)を入力する割付回路を有することを特徴とする画像補間装置。 - 時間的に異なる2枚の原画像の間に少なくとも1枚の画像を生成し内挿する画像補間方法において、
時間的に過去画像に相当する第1の原画f(t−1)上を小ブロックに分割し、小ブロック単位で時間的に未来画像に相当する第2の原画f(t)のある領域を探索することで前方向動きベクトルを求めることと、第2の原画f(t)を小ブロックに分割し、小ブロック単位で第1の原画f(t−1)のある領域を探索することで後方向動きベクトルを求めることと、第1の原画f(t−1)の小ブロック単位で求まった前方向動きベクトルが指ししめす第2の原画f(t)の座標を計算し、その座標上の小ブロックが示す後方向動きベクトルと計算に利用した前方向動きベクトルの相関を調べることと、第2の原画f(t)の小ブロック単位で求まった後方向動きベクトルが指ししめす第1の原画f(t−1)の座標を計算し、その座標上の小ブロックが示す前方向動きベクトルと計算に利用した後方向動きベクトルの相関を調べることと、内挿画像を生成する時間比率に応じて時間的に近い側の原画像における相関が高い方のベクトルを利用して割付を行うことを含むことを特徴とする画像補間方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008129607A JP2009118456A (ja) | 2007-10-18 | 2008-05-16 | 画像補間装置および方法 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007270920 | 2007-10-18 | ||
JP2008129607A JP2009118456A (ja) | 2007-10-18 | 2008-05-16 | 画像補間装置および方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009118456A true JP2009118456A (ja) | 2009-05-28 |
Family
ID=40785030
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008129607A Pending JP2009118456A (ja) | 2007-10-18 | 2008-05-16 | 画像補間装置および方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009118456A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011043433A1 (ja) * | 2009-10-08 | 2011-04-14 | 日本ビクター株式会社 | フレームレート変換装置及び方法 |
JP2011083036A (ja) * | 2011-01-12 | 2011-04-21 | Victor Co Of Japan Ltd | 補間画素データ生成装置及び方法 |
JP2016143912A (ja) * | 2015-01-29 | 2016-08-08 | 日本放送協会 | フレーム補間装置及びプログラム |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08191448A (ja) * | 1995-01-09 | 1996-07-23 | Oki Electric Ind Co Ltd | 動きベクトルによる画面内挿装置および方法 |
JP2001326941A (ja) * | 2000-05-16 | 2001-11-22 | Matsushita Electric Ind Co Ltd | 動画像符号化装置、動画像符号化方法、動画像符号化プログラムを記録している記録媒体、動きベクトル判定装置、動きベクトル判定方法及び動きベクトル判定プログラムを記録している記録媒体 |
JP3363036B2 (ja) * | 1996-08-23 | 2003-01-07 | ケイディーディーアイ株式会社 | 動画像符号化ビットストリーム変換装置 |
JP2005301619A (ja) * | 2004-04-09 | 2005-10-27 | Sony Corp | 画像処理装置および方法、記録媒体、並びにプログラム |
JP2006279413A (ja) * | 2005-03-29 | 2006-10-12 | Seiko Epson Corp | 動きベクトル検出装置、画像表示装置、画像撮像装置、動きベクトル検出方法、プログラムおよび記録媒体 |
-
2008
- 2008-05-16 JP JP2008129607A patent/JP2009118456A/ja active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08191448A (ja) * | 1995-01-09 | 1996-07-23 | Oki Electric Ind Co Ltd | 動きベクトルによる画面内挿装置および方法 |
JP3363036B2 (ja) * | 1996-08-23 | 2003-01-07 | ケイディーディーアイ株式会社 | 動画像符号化ビットストリーム変換装置 |
JP2001326941A (ja) * | 2000-05-16 | 2001-11-22 | Matsushita Electric Ind Co Ltd | 動画像符号化装置、動画像符号化方法、動画像符号化プログラムを記録している記録媒体、動きベクトル判定装置、動きベクトル判定方法及び動きベクトル判定プログラムを記録している記録媒体 |
JP2005301619A (ja) * | 2004-04-09 | 2005-10-27 | Sony Corp | 画像処理装置および方法、記録媒体、並びにプログラム |
JP2006279413A (ja) * | 2005-03-29 | 2006-10-12 | Seiko Epson Corp | 動きベクトル検出装置、画像表示装置、画像撮像装置、動きベクトル検出方法、プログラムおよび記録媒体 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011043433A1 (ja) * | 2009-10-08 | 2011-04-14 | 日本ビクター株式会社 | フレームレート変換装置及び方法 |
JP2011082846A (ja) * | 2009-10-08 | 2011-04-21 | Victor Co Of Japan Ltd | フレームレート変換装置及び方法 |
KR101186143B1 (ko) | 2009-10-08 | 2012-09-27 | 닛뽕빅터 가부시키가이샤 | 프레임 레이트 변환 장치 및 방법 |
US8319889B2 (en) | 2009-10-08 | 2012-11-27 | JVC Kenwood Corporation | Frame rate conversion apparatus and method |
JP2011083036A (ja) * | 2011-01-12 | 2011-04-21 | Victor Co Of Japan Ltd | 補間画素データ生成装置及び方法 |
JP2016143912A (ja) * | 2015-01-29 | 2016-08-08 | 日本放送協会 | フレーム補間装置及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105517671B (zh) | 一种基于光流法的视频插帧方法及系统 | |
US8724022B2 (en) | Frame rate conversion using motion estimation and compensation | |
KR100787675B1 (ko) | 두 개의 기준 프레임 사이에 보간 프레임을 생성하기 위한방법, 컴퓨터 프로그램 제품 및 장치 | |
JP4997281B2 (ja) | イメージ中の推定動きベクトルの決定方法、コンピュータプログラムおよびディスプレイ装置 | |
JP6061834B2 (ja) | 奥行き画像の解像度を増大させる方法とシステム | |
US7936950B2 (en) | Apparatus for creating interpolation frame | |
TWI767985B (zh) | 用於處理影像性質圖的方法及裝置 | |
US10818018B2 (en) | Image processing apparatus, image processing method, and non-transitory computer-readable storage medium | |
WO2010024479A1 (en) | Apparatus and method for converting 2d image signals into 3d image signals | |
US9245316B2 (en) | Image processing device, image processing method and non-transitory computer readable medium | |
US10687076B2 (en) | Refining motion vectors in video motion estimation | |
JP2009200802A (ja) | 映像表示装置 | |
US8860880B2 (en) | Offset interpolation of a sequence of images to obtain a new image | |
US20080239144A1 (en) | Frame rate conversion device and image display apparatus | |
JP2009118456A (ja) | 画像補間装置および方法 | |
JP4890464B2 (ja) | 動き補償されたピクチャを生成する方法及び装置 | |
JP2013098961A (ja) | 画像処理装置及び方法、並びに画像表示装置及び方法 | |
JP5448983B2 (ja) | 解像度変換装置及び方法、走査線補間装置及び方法、並びに映像表示装置及び方法 | |
JP6604783B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6854629B2 (ja) | 画像処理装置、画像処理方法 | |
JP4655214B2 (ja) | 画像処理装置および方法、プログラム並びに記録媒体 | |
JP2009290277A (ja) | 信号処理装置 | |
KR20060115237A (ko) | 에지투영을 이용한 스테레오 매칭방법 | |
JP2007018269A (ja) | 映像中の動き確率計算方法、映像中の動き確率マップ計算方法、変化検出方法、及びプログラム | |
JP2007097028A (ja) | 動きベクトル検出方法および動きベクトル検出回路 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100826 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120409 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120417 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120601 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20120828 |