JPWO2011074121A1 - 動きベクトル検出装置及び方法 - Google Patents
動きベクトル検出装置及び方法 Download PDFInfo
- Publication number
- JPWO2011074121A1 JPWO2011074121A1 JP2011545919A JP2011545919A JPWO2011074121A1 JP WO2011074121 A1 JPWO2011074121 A1 JP WO2011074121A1 JP 2011545919 A JP2011545919 A JP 2011545919A JP 2011545919 A JP2011545919 A JP 2011545919A JP WO2011074121 A1 JPWO2011074121 A1 JP WO2011074121A1
- Authority
- JP
- Japan
- Prior art keywords
- block
- vector
- motion vector
- hierarchy
- candidate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11C—STATIC STORES
- G11C11/00—Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor
- G11C11/56—Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using storage elements with more than two stable states represented by steps, e.g. of voltage, current, phase, frequency
- G11C11/5621—Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using storage elements with more than two stable states represented by steps, e.g. of voltage, current, phase, frequency using charge storage in a floating gate
- G11C11/5642—Sensing or reading circuits; Data output circuits
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/223—Analysis of motion using block-matching
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/53—Multi-resolution motion estimation; Hierarchical motion estimation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/56—Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20016—Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11C—STATIC STORES
- G11C2211/00—Indexing scheme relating to digital stores characterized by the use of particular electric or magnetic storage elements; Storage elements therefor
- G11C2211/56—Indexing scheme relating to G11C11/56 and sub-groups for features not covered by these groups
- G11C2211/563—Multilevel memory reading aspects
- G11C2211/5634—Reference cells
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Hardware Design (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Analysis (AREA)
Abstract
Description
第1の画像及び前記第1の画像とは異なる時刻に表示すべき第2の画像の夫々に対して、設定されるブロックの数を示す解像度が異なる複数の階層を生成する階層化部と、
前記第1の画像に対応するいずれかの階層内の注目ブロックで、前記注目ブロックの属する階層内の第1の参照ブロックに対して、割り当てられている動きベクトルを空間候補ベクトルとして抽出する第1の抽出部と、
前記第1及び第2の画像とは異なる時刻に表示すべき第3の画像に対応する前記注目ブロックの属する階層と同じ階層内の第2の参照ブロックに対して、割り当てられている動きベクトルを時間候補ベクトルとして抽出する第2の抽出部と、
前記第1の画像に対応する階層であって、前記注目ブロックの属する階層よりも前記解像度が低い階層内の第3の参照ブロックに対して割り当てられている動きベクトルを階層候補ベクトルとして抽出する第3の抽出部と、
前記注目ブロックに、前記空間候補ベクトル、時間候補ベクトル及び階層候補ベクトル夫々を割り当てることで特定される前記第2の画像に対応するブロックと、前記注目ブロックとの相関をブロック相関に基づいて前記注目ブロックに割り当てる動きベクトルを決定する動きベクトル決定部と、
を具備することを特徴とする。
図4は、図3に示される第1のフレーム301の第h階層302及び第h−1階層303、並びに第3のフレーム311の第h階層312を抜き出して示している。図2の最適候補選択部202は、上位の階層から順番に、即ち、第1階層から第L階層へ向かって階層毎に動きベクトルを決定する。図4に示されるように、一例として、各階層では、各ブロックの動きベクトルは、左上に位置されるブロックから右下に位置されるブロックに向けて順番に決定される。より具体的には、最も上段の行において、左から右に向かって各ブロックの動きベクトルを決定し、1つ下の行に移行して左から右に向かって各ブロックの動きベクトルを決定する。本明細書では、フレームが表示装置に表示される際の走査線方向に対応する方向を水平方向とし、信号線方向に対応する方向を垂直方向として、上下左右、行及び列を定義する。
最適候補選択部202は、空間候補抽出部104から空間候補ベクトルを、時間候補抽出部105から時間候補ベクトルを、階層候補抽出部106から階層候補ベクトルを受け取る。
ベクトルメモリ102は、注目ブロックを含む階層の各ブロックの動きベクトルを一時的に保存する。このため、ブロック数が最も多い階層、即ち、最も下位の階層に含まれるブロックの数だけ動きベクトルを格納可能な容量が用意されればよい。上述した例のように、最も下位の階層である第3階層の解像度が100ブロック×100ブロックである場合、ベクトルメモリ102には、10000個の動きベクトルを格納することができる容量が用意されればよい。ベクトルメモリ102では、動きベクトルは、ブロックの位置を示す情報と関連づけて記憶される。
まず、ステップS901において、注目ブロックが所定の順序に従って選定される。ステップS902では、空間候補抽出部104によって空間候補ベクトルが、例えば数式1又は数式2に示されるように、特定の参照ブロックから選定される。ステップS903では、時間候補抽出部105によって時間候補ベクトルが、例えば数式3又は数式4に示されるように、特定の参照ブロックから選定される。ステップS904では、階層候補抽出部106によって階層候補ベクトルが、例えば数式5、数式6又は数式7に示されるように、特定の参照ブロックから選定される。ステップS902からS904は、適宜順序を入れ替えることができる。ステップS902からS904では、空間候補ベクトル、時間候補ベクトル及び階層候補ベクトルを含む候補ベクトルが選定される。
まず、ステップS1001では、縮小画像生成部201によって、これから処理する階層に応じた縮小画像が生成される。このステップS1001に示される縮小画像の生成は、フレーム受信時に予め実行されてもよい。ステップS1002では、例えば数式9に示されるように、最適候補選択部202によって、注目ブロックとの相関が最も大きい参照ブロックが特定され、特定された参照ブロックの候補ベクトルが最適候補ベクトルとして選択される。ステップS1003では、例えば数式15及び数式16に示されるように、探索部203によって、選定された最適候補ベクトルに基づいて最適ベクトルが決定される。
Claims (8)
- 第1の画像及び前記第1の画像とは異なる時刻に表示すべき第2の画像の夫々に対して、設定されるブロックの数を示す解像度が異なる複数の階層を生成する階層化部と、
前記第1の画像に対応するいずれかの階層内の注目ブロックで、前記注目ブロックの属する階層内の第1の参照ブロックに対して、割り当てられている動きベクトルを空間候補ベクトルとして抽出する第1の抽出部と、
前記第1及び第2の画像とは異なる時刻に表示すべき第3の画像に対応する前記注目ブロックの属する階層と同じ階層内の第2の参照ブロックに対して、割り当てられている動きベクトルを時間候補ベクトルとして抽出する第2の抽出部と、
前記第1の画像に対応する階層であって、前記注目ブロックの属する階層よりも前記解像度が低い階層内の第3の参照ブロックに対して割り当てられている動きベクトルを階層候補ベクトルとして抽出する第3の抽出部と、
前記注目ブロックに、前記空間候補ベクトル、時間候補ベクトル及び階層候補ベクトル夫々を割り当てることで特定される前記第2の画像に対応するブロックと、前記注目ブロックとの相関をブロック相関に基づいて前記注目ブロックに割り当てる動きベクトルを決定する動きベクトル決定部と、
を具備することを特徴とする動きベクトル検出装置。 - 前記動きベクトル決定部は、前記空間候補ベクトル、時間候補ベクトル及び階層候補ベクトルのうち前記ブロック相関が最も大きくなる1つを最適候補ベクトルに選択し、当該最適候補ベクトルを変化させて複数の局所ベクトルを生成し、当該複数の局所ベクトルのうち、当該複数の局所ベクトルの夫々で特定される前記第1及び第2の画像に対応する画素間の相関が最も大きくなる1つを最適ベクトルとして選択し、当該最適ベクトルを前記注目ブロックに割り当てることを特徴とする請求項1に記載の動きベクトル検出装置。
- 前記階層化部は、前記第1及び第2の画像を縮小することで、或いは、分割するブロックのサイズを変更することで、前記第1及び第2の画像を階層化することを特徴とする請求項2に記載の動きベクトル検出装置。
- 前記階層候補抽出部は、前記注目ブロックが属している前記階層より、上位の複数の階層から前記第3の参照ブロックを選択することを特徴とする請求項2に記載の動きベクトル検出装置。
- 前記動きベクトル決定部は、前記第1、第2及び第3の参照ブロックの各々と、前記注目ブロックとの相関を重みとして加えて、前記ブロック相関を算出することを特徴とする請求項2に記載の動きベクトル検出装置。
- 前記動きベクトル決定部は、前記空間候補ベクトル、時間候補ベクトル及び階層候補ベクトルの各々を変化させて生成される局所ベクトルを含めて、前記ブロック相関を算出して前記最適ベクトルを決定することを特徴とする請求項1に記載の動きベクトル検出装置。
- 前記動きベクトル決定部は、前記階層毎に動きベクトルを決定することを特徴とする請求項1に記載の動きベクトル検出装置。
- 第1の画像及び前記第1の画像とは異なる時刻に表示すべき第2の画像の夫々に対して、設定されるブロックの数を示す解像度が異なる複数の階層を生成し、
前記第1の画像に対応するいずれかの階層内に位置する注目ブロックの属する階層内の第1の参照ブロックに対して、割り当てられている動きベクトルを空間候補ベクトルとして抽出し、
前記第1及び第2の画像とは異なる時刻に表示すべき第3の画像に対応する前記注目ブロックの属する階層と同じ階層内の第2の参照ブロックに対して、割り当てられている動きベクトルを時間候補ベクトルとして抽出し、
前記第1の画像に対応する階層であって、前記注目ブロックの属する階層よりも前記解像度が低い階層内の第3の参照ブロックに対して割り当てられている動きベクトルを階層候補ベクトルとして抽出しと、
前記注目ブロックに、前記空間候補ベクトル、時間候補ベクトル及び階層候補ベクトル夫々を割り当てることで特定される前記第2の画像に対応するブロックと、前記注目ブロックとの相関をブロック相関に基づいて前記注目ブロックに割り当てる動きベクトルを決定する、
ことを特徴とする動きベクトル検出方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2009/071174 WO2011074121A1 (ja) | 2009-12-18 | 2009-12-18 | 動きベクトル検出装置及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2011074121A1 true JPWO2011074121A1 (ja) | 2013-04-25 |
JP5492223B2 JP5492223B2 (ja) | 2014-05-14 |
Family
ID=44166910
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011545919A Expired - Fee Related JP5492223B2 (ja) | 2009-12-18 | 2009-12-18 | 動きベクトル検出装置及び方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9406376B2 (ja) |
JP (1) | JP5492223B2 (ja) |
WO (1) | WO2011074121A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014093602A (ja) * | 2012-11-01 | 2014-05-19 | Toshiba Corp | 画像処理装置、画像処理方法、画像処理プログラム、および立体画像表示装置 |
JP6297822B2 (ja) * | 2013-11-19 | 2018-03-20 | ルネサスエレクトロニクス株式会社 | 検知装置、検知システム及び検知方法 |
JP6532187B2 (ja) * | 2014-03-17 | 2019-06-19 | キヤノン株式会社 | 画像処理装置、その制御方法、および制御プログラム |
JP6223899B2 (ja) | 2014-04-24 | 2017-11-01 | 株式会社東芝 | 動きベクトル検出装置、距離検出装置および動きベクトル検出方法 |
JP6453837B2 (ja) * | 2016-12-08 | 2019-01-16 | 株式会社東芝 | 画像処理装置、画像処理方法、画像処理プログラム、および立体画像表示装置 |
US10891997B2 (en) | 2017-12-28 | 2021-01-12 | Spin Memory, Inc. | Memory array with horizontal source line and a virtual source line |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5072293A (en) | 1989-08-29 | 1991-12-10 | U.S. Philips Corporation | Method of estimating motion in a picture signal |
JP4536325B2 (ja) * | 2003-02-04 | 2010-09-01 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
US7480334B2 (en) * | 2003-12-23 | 2009-01-20 | Genesis Microchip Inc. | Temporal motion vector filtering |
JP2008219141A (ja) * | 2007-02-28 | 2008-09-18 | Sanyo Electric Co Ltd | 動きベクトル検出装置、それを用いた画像符号化装置および撮像装置 |
JP2009295029A (ja) * | 2008-06-06 | 2009-12-17 | Sony Corp | 動き量検出装置及び動き量検出方法 |
-
2009
- 2009-12-18 JP JP2011545919A patent/JP5492223B2/ja not_active Expired - Fee Related
- 2009-12-18 WO PCT/JP2009/071174 patent/WO2011074121A1/ja active Application Filing
-
2012
- 2012-02-27 US US13/405,522 patent/US9406376B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP5492223B2 (ja) | 2014-05-14 |
US20120213285A1 (en) | 2012-08-23 |
WO2011074121A1 (ja) | 2011-06-23 |
US9406376B2 (en) | 2016-08-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6016061B2 (ja) | 画像生成装置、画像表示装置及び画像生成方法並びに画像生成プログラム | |
CN105517671B (zh) | 一种基于光流法的视频插帧方法及系统 | |
RU2454721C2 (ru) | Устройство и способ для формирования изображения, программа для его реализации и носитель информации, который хранит программу | |
TWI455588B (zh) | 以雙向、局部及全域移動評估為基礎之框率轉換 | |
JP4958233B2 (ja) | 多眼視画像作成システム及び多眼視画像作成方法 | |
US7936950B2 (en) | Apparatus for creating interpolation frame | |
JP5492223B2 (ja) | 動きベクトル検出装置及び方法 | |
RU2438179C1 (ru) | Устройство и способ для формирования изображения, программа для его реализации и носитель информации, который хранит программу | |
KR20100139030A (ko) | 이미지들의 수퍼 해상도를 위한 방법 및 장치 | |
EP1815441B1 (en) | Rendering images based on image segmentation | |
JP2000244851A (ja) | 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体 | |
JP7233150B2 (ja) | 奥行推定装置およびそのプログラム | |
JP2007053621A (ja) | 画像生成装置 | |
JP2005252359A (ja) | 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム | |
WO2012066866A1 (ja) | 動きベクトル検出装置、動きベクトル検出方法、フレーム補間装置及びフレーム補間方法 | |
JP2004356747A (ja) | 画像のマッチング方法および装置 | |
JP2014052855A (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP2006215657A (ja) | 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びプログラム記録媒体 | |
JP5400655B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、及び、電子機器 | |
JP2013126123A (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
JP2009187138A (ja) | 対応点探索装置 | |
JP5963166B2 (ja) | 画像復元装置、方法、及びプログラム | |
RU2308817C1 (ru) | Способ и устройство масштабирования динамического видеоизображения | |
US9438908B1 (en) | Motion vector interpolation based on true motion and layer information | |
JP2009004919A (ja) | 動きベクトル処理装置、動きベクトル検出方法、動きベクトル検出プログラム、および該プログラムを記録した記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130528 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130724 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20130924 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131224 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20140108 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140204 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140228 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5492223 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |