JP2014194797A - オプティカルフローの決定のためのデジタル処理方法およびシステム - Google Patents
オプティカルフローの決定のためのデジタル処理方法およびシステム Download PDFInfo
- Publication number
- JP2014194797A JP2014194797A JP2014096424A JP2014096424A JP2014194797A JP 2014194797 A JP2014194797 A JP 2014194797A JP 2014096424 A JP2014096424 A JP 2014096424A JP 2014096424 A JP2014096424 A JP 2014096424A JP 2014194797 A JP2014194797 A JP 2014194797A
- Authority
- JP
- Japan
- Prior art keywords
- optical flow
- pyramid
- image
- flow field
- scale
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/207—Analysis of motion for motion estimation over a hierarchy of resolutions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/12—Systems in which the television signal is transmitted via one channel or a plurality of parallel channels, the bandwidth of each channel being less than the bandwidth of the television signal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/269—Analysis of motion using gradient-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20016—Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Processing (AREA)
Abstract
【解決手段】非オクターブ・ピラミッド係数を使用して、画像の対の各々が画像ピラミッドに分解される。分解された画像の対における画素の明るさの勾配が一定であるという仮定の下に、分解された画像の対は、最初のピラミッド・スケールで、二次導関数表現に変換される。二次導関数画像表現の離散時間導関数が推定される。生のオプティカルフロー場を発生させるために、オプティカルフロー推定処理が離散時間導関数に適用される。生のオプティカルフロー場は、非オクターブ・ピラミッド係数によってスケーリングされる。最後のオプティカルフロー場を発生させるために、すべてのピラミッド・スケールが訪問されるまで、画像の対に対して、別のピラミッド・スケールで、上記のステップが繰り返され、時空間勾配推定は、以前の生のオプティカルフロー推定によってワープされる。
【選択図】図1
Description
本出願は、全体として参照によりその開示が本明細書に組み込まれている、2008年10月15日に出願した米国仮特許出願第61/105,515号の権利を主張するものである。
I(x,y,t)=オブジェクト(x+ut,y+vt) (1)
ただし、x、yおよびtは、観察された光照射野の連続領域時空間位置であり、Iは、x、yおよびtによって指定された位置のオブジェクトの強度または輝度であり、uおよびvは、オブジェクトの並進運動を記述するベクトルを表す。明るさの恒常性の仮定に基づく拘束方程式が、偏導関数に関して、式2で示される。
[∂I(x,y,t)/∂x]・u+[∂I(x,y,t)/∂y]・v+[∂I/(x,y,t)/∂t]=0 (2)
[∂L(x,y,t)/∂x]・u+[∂L(x,y,t)/∂y]・v+[∂L/(x,y,t)/∂t]=0 (3)
bmw
L(x,y,t)=∇(I(x,y,t))
I(x,y,t)=[0.30,0.59,0.11]T・[IR(x,y,t),IG(x,y,t),IB(x,y,t)]T (4)
DRGB(x1,y1,t1,x2,y2,t2)=I1(x1,y1,t1)−I2(x2,y2,t2) (5)
ただし、式5における減算は、R3上の減算のベクトルの向きにおける意味である。色距離関数Dは、3次元の色キューブ内の2つの3ベクトル色の間の距離の大きさを効果的に定義することは、当業者には理解されよう。色距離関数Dを使用する利点は、なお単一のスカラー値に縮小しながら、輝度に加えて、クロミナンス/色を追加の制約として導入することである。大部分のオブジェクトが固有の明るさにおいて変化する場合、これらは固有の色および明るさを変更しないと仮定することは、妥当である。加えて、ビデオおよび画像処理システムに共通している、多数の同時代のGPUおよびDSPハードウェア・プラットフォームは、このタイプの演算を、単一クロックサイクルの原始的なマシン命令として実装する。
LR(x,y,t)=∇(IR(x,y,t)) (6)
LG(x,y,t)=∇(IG(x,y,t))
LB(x,y,t)=∇(IB(x,y,t))
拘束方程式(複数可)はこのとき、したがって、式7のそれになる。
[∂LR(x,y,t)/∂x]・u+[∂LR(x,y,t)/∂y]・v+[∂LR(x,y,t)/∂t]=0
...
[∂LG(x,y,t)/∂x]・u+[∂LG(x,y,t)/∂y]・v+[∂LG(x,y,t)/∂t]=0
...
[∂LB(x,y,t)/∂x]・u+[∂LB(x,y,t)/∂y]・v+[∂LB(x,y,t)/∂t]=0
W’=フロア(floor)(W/N)×ピラミッド_係数N
H’=フロア(W/N)×ピラミッド_係数N (10)
重み(n,m)={0.125,0.75,0.125}×{0.125,0.75,0.125}T (12)
ただし、式15のIは、前述の非線形処理の後で、生のオプティカルフロー場推定からの動きベクトル場の画像サンプルとして解釈される。この手法の利点は、オプティカルフロー場の本来の計算から後処理ステップを分離するL2ノルム全変動の制約と共に非線形統計的演算(メジアンなど)の使用を可能とし、それにより、並列処理のためのさらなる機会を与えることである。
Claims (34)
- 画像の対の間のオプティカルフロー場を決定するための方法であって、
(a)前記画像の対の各々を画像ピラミッドに分解するステップ、
(b)前記分解された画像の対における画素の明るさの勾配が一定であるという仮定の下に、前記分解された画像の対を、最初のピラミッド・スケールで、二次導関数表現に変換するステップ、
(c)前記二次導関数画像表現の離散時間導関数を推定するステップ、
(d)生のオプティカルフロー場を発生させるために、オプティカルフロー推定処理を前記離散時間導関数に適用するステップ、
(e)前記生のオプティカルフロー場をスケーリングするステップ、および
(f)最後のオプティカルフロー場を発生させるために、すべてのピラミッド・スケールが訪問されるまで、前記画像の対に対して、別のピラミッド・スケールで、ステップ(b)〜(e)を繰り返すステップを備え、ステップ(b)における前記分解された画像の対の各々は、以前にスケールされたオプティカルフロー推定において推定された動きベクトルを用いてワープされる方法。 - (g)前記二次導関数画像表現を、色空間からスカラー色距離空間へ変換するステップをさらに備える、請求項1に記載の方法。
- ステップ(g)は、色距離のベクトル減算のラプラシアンを使用して実装される、請求項2に記載の方法。
- ラプラシアン演算子は、前記二次導関数画像表現のすべての色チャネルの強度に別々に適用される、請求項3に記載の方法。
- 最高解像度のピラミッド・スケールが(W’,H’)の整数画像サイズに移ることを保証するために、バイリニア補間を介したプレスケーリング・ステップを採用することをさらに備え、W’およびH’は、
W’=フロア(W/N)×ピラミッド_係数N
H’=フロア(W/N)×ピラミッド_係数N
によって与えられる、請求項1に記載の方法。 - 前記最初のピラミッド・スケールは、最低解像度のピラミッド・スケールであり、別のピラミッド・スケールは、次のより高い解像度のピラミッド・スケールである、請求項1に記載の方法。
- ステップ(c)は、時空間勾配推定方法を使用して実施される、請求項1に記載の方法。
- 前記オプティカルフロー推定処理は、最小二乗適合法を採用する、請求項1に記載の方法。
- 非線形の区分線形制約を前記オプティカルフロー場に課す、少なくとも1つの非線形フィルタにより、前記生のオプティカルフロー場を処理するステップをさらに備える、請求項1に記載の方法。
- 前記少なくとも1つの非線形フィルタは、全変動最小化(L1およびL2ノルム)フィルタ、異方性拡散フィルタ、局所的画像構造に反応する楕円ステアラブル・フィルタ、および、カーネル回帰フィルタのうち、少なくとも1つである、請求項9に記載の方法。
- 画素サンプル毎に、前記生のオプティカルフロー場の逆の無矛盾性をチェックするために、複数画素動き補償および差分二乗和計算を、前記生のオプティカルフロー場において行うステップをさらに備える、請求項1に記載の方法。
- 後続のより低い解像度のピラミッド・スケールで、ピラミッド・スケーリング係数を選択するためのフィードバック機構を提供するために、2D構造テンソル固有システム解析を前記離散時間導関数に適用するステップをさらに備える、請求項1に記載の方法。
- 前記2D構造テンソル固有システム解析中に、他のピラミッド・スケールを超える単一のピラミッド・スケールについて、閾値画素割合を下回る小さい固有値に遭遇するとき、
前記後続のピラミッド・スケールのうち少なくとも1つについて、より細かいピラミッド・スケールが使用される、請求項12に記載の方法。 - 前記生のオプティカルフロー場は逆の順序で処理される、請求項1に記載の方法。
- 動きベクトルは、前記画像の対のうち第2の画像を、ロバートのクロス・コンフィギュレーションの5つ以上の位置においてサンプルするために使用される、請求項14に記載の方法。
- 単一画素アウトライアを除去するために、すべてのピラミッド・スケールについての前記生のオプティカルフロー場を、(非線形)3x3メジアンフィルタ演算によって処理し、前記フィルタされた生のオプティカルフロー場を、L2ノルム全変動演算子により、可変数の反復の間、処理するステップをさらに備える、請求項1に記載の方法。
- 処理システムによりアクセスする場合に以下のステップにより前記処理システムに動作を行わさせる指示を含む非一時的コンピュータ可読記憶媒体であって、
(a)前記画像の対の各々を画像ピラミッドに分解すること、
(b)前記分解された画像の対における画素の明るさの勾配が一定であるという仮定の下に、前記分解された画像の対を、最初のピラミッド・スケールで、二次導関数表現に変換すること、
(c)前記二次導関数画像表現の離散時間導関数を推定すること、
(d)生のオプティカルフロー場を発生させるために、オプティカルフロー推定処理を前記離散時間導関数に適用すること、
(e)前記生のオプティカルフロー場をスケーリングすること、および
(f)最後のオプティカルフロー場を発生させるために、すべてのピラミッド・スケールが訪問されるまで、前記画像の対に対して、別のピラミッド・スケールで、ステップ(b)〜(e)を繰り返すことを行うためのコードを備え、ステップ(b)における前記分解された画像の対の各々は、以前にスケールされたオプティカルフロー推定において推定された動きベクトルを用いてワープされる、非一時的コンピュータ可読記憶媒体。 - 画像対の間のオプティカルフロー場を決定する方法であって、前記方法は、
(a)前記画像の対の各々を画像ピラミッドに分解すること、
(b)前記分解された画像の対における画素の明るさの勾配が一定であるという仮定の下に、前記分解された画像の対を、最初のピラミッド・スケールで、二次導関数表現に変換すること、
(c)前記二次導関数画像表現の離散時間導関数を推定すること、
(d)生のオプティカルフロー場を発生させるために、オプティカルフロー推定処理を前記離散時間導関数に適用すること、
(e)前記生のオプティカルフロー場をスケーリングすること、および
(f)最後のオプティカルフロー場を発生させるために、すべてのピラミッド・スケールが訪問されるまで、前記画像の対に対して、別のピラミッド・スケールで、ステップ(b)〜(e)を繰り返すことを行うためのコードを備え、ステップ(b)における前記分解された画像の対の各々は、以前にスケールされたオプティカルフロー推定において推定された動きベクトルを用いてワープされる、方法。 - (g)前記二次導関数画像表現を、色空間からスカラー色距離空間へ変換するためのステップをさらに備える、請求項18に記載の方法。
- (g)は、色距離のベクトル減算のラプラシアンを使用して実装される、請求項19に記載の方法。
- 前記ラプラシアンオペレータが前記二次導関数画像表現の全色チャネルへ別々に適用される、請求項20に記載の方法。
- 最高解像度のピラミッド・スケールが(W’,H’)の整数画像サイズに移ることを保証するために、バイリニア補間を介したプレスケーリング・ステップを採用することをさらに備え、W’およびH’は、
W’=フロア(W/N)×ピラミッド_係数N
H’=フロア(W/N)×ピラミッド_係数N
によって与えられる、請求項18に記載の方法。 - 前記最初のピラミッド・スケールは、最低解像度のピラミッド・スケールであり、別のピラミッド・スケールは、次のより高い解像度のピラミッド・スケールである、請求項18に記載の方法。
- ステップ(c)は、時空間勾配推定方法を使用して実施される、請求項18に記載の方法。
- 前記オプティカルフロー推定処理は、最小二乗適合法を採用する、請求項18に記載の方法。
- 非線形の区分線形制約を前記オプティカルフロー場に課す、少なくとも1つの非線形フィルタにより、前記生のオプティカルフロー場を処理するステップをさらに備える、請求項18に記載の方法。
- 前記少なくとも1つの非線形フィルタは、全変動最小化(L1およびL2ノルム)フィルタ、異方性拡散フィルタ、局所的画像構造に反応する楕円ステアラブル・フィルタ、および、カーネル回帰フィルタのうち、少なくとも1つである、請求項26に記載の方法。
- 画素サンプル毎に、前記生のオプティカルフロー場の逆の無矛盾性をチェックするために、複数画素動き補償および差分二乗和計算を、前記生のオプティカルフロー場において行うステップをさらに備える、請求項18に記載の方法。
- 後続のより低い解像度のピラミッド・スケールで、ピラミッド・スケーリング係数を選択するためのフィードバック機構を提供するために、2D構造テンソル固有システム解析を前記離散時間導関数に適用するステップをさらに備える、請求項18に記載の方法。
- 前記2D構造テンソル固有システム解析中に、他のピラミッド・スケールを超える単一のピラミッド・スケールについて、閾値画素割合を下回る小さい固有値に遭遇するとき、前記後続のピラミッド・スケールのうち少なくとも1つについて、より細かいピラミッド・スケールが使用される、請求項29に記載の方法。
- 前記生のオプティカルフロー場は逆の順序で処理される、請求項18に記載の方法。
- 動きベクトルは、前記画像の対のうち第2の画像を、ロバートのクロス・コンフィギュレーションの5つ以上の位置においてサンプルするために使用される、請求項31に記載の方法。
- 単一画素アウトライアを除去するために、すべてのピラミッド・スケールについての前記生のオプティカルフロー場を、(非線形)3x3メジアンフィルタ演算によって処理し、前記フィルタされた生のオプティカルフロー場を、L2ノルム全変動演算子により、可変数の反復の間、処理するステップをさらに備える、請求項18に記載の方法。
- 処理システムによりアクセスする場合に以下のステップにより前記処理システムに動作を行わさせる指示を含む非一時的コンピュータ可読記憶媒体であって、
(a)前記画像の対の各々を画像ピラミッドに分解すること、
(b)前記分解された画像の対における画素の明るさの勾配が一定であるという仮定の下に、前記分解された画像の対を、最初のピラミッド・スケールで、二次導関数表現に変換すること、
(c)前記二次導関数画像表現の離散時間導関数を推定すること、
(d)生のオプティカルフロー場を発生させるために、オプティカルフロー推定処理を前記離散時間導関数に適用すること、
(e)前記生のオプティカルフロー場をスケーリングすること、および
(f)最後のオプティカルフロー場を発生させるために、すべてのピラミッド・スケールが訪問されるまで、前記画像の対に対して、別のピラミッド・スケールで、ステップ(b)〜(e)を繰り返すことを行うためのコードを備え、ステップ(b)における前記分解された画像の対の各々は、以前にスケールされたオプティカルフロー推定において推定された動きベクトルを用いて動き補償される、非一時的コンピュータ可読記憶媒体。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US10551508P | 2008-10-15 | 2008-10-15 | |
US61/105,515 | 2008-10-15 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011532112A Division JP5547739B2 (ja) | 2008-10-15 | 2009-09-08 | オプティカルフローの決定のためのデジタル処理方法およびシステム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014194797A true JP2014194797A (ja) | 2014-10-09 |
JP5861949B2 JP5861949B2 (ja) | 2016-02-16 |
Family
ID=42106823
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011532112A Expired - Fee Related JP5547739B2 (ja) | 2008-10-15 | 2009-09-08 | オプティカルフローの決定のためのデジタル処理方法およびシステム |
JP2014096424A Expired - Fee Related JP5861949B2 (ja) | 2008-10-15 | 2014-05-08 | オプティカルフローの決定のためのデジタル処理方法およびシステム |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011532112A Expired - Fee Related JP5547739B2 (ja) | 2008-10-15 | 2009-09-08 | オプティカルフローの決定のためのデジタル処理方法およびシステム |
Country Status (6)
Country | Link |
---|---|
US (3) | US8355534B2 (ja) |
JP (2) | JP5547739B2 (ja) |
KR (1) | KR101498532B1 (ja) |
GB (1) | GB2476397B (ja) |
HK (1) | HK1159291A1 (ja) |
WO (1) | WO2010044963A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112041887A (zh) * | 2018-04-24 | 2020-12-04 | 斯纳普公司 | 高效的并行光流算法和gpu实现 |
JP7487423B2 (ja) | 2021-03-19 | 2024-05-20 | クアルコム,インコーポレイテッド | 学習されたビデオ圧縮のためのマルチスケールオプティカルフロー |
Families Citing this family (91)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2289235A4 (en) * | 2008-05-20 | 2011-12-28 | Pelican Imaging Corp | RECORDING AND PROCESSING IMAGES BY MONOLITHIC CAMERA ARRANGEMENT WITH HETEROGENIC IMAGE TRANSFORMER |
US8866920B2 (en) | 2008-05-20 | 2014-10-21 | Pelican Imaging Corporation | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
US11792538B2 (en) | 2008-05-20 | 2023-10-17 | Adeia Imaging Llc | Capturing and processing of images including occlusions focused on an image sensor by a lens stack array |
US8355534B2 (en) * | 2008-10-15 | 2013-01-15 | Spinella Ip Holdings, Inc. | Digital processing method and system for determination of optical flow |
US8559671B2 (en) * | 2008-12-18 | 2013-10-15 | The Regents Of The University Of California | Training-free generic object detection in 2-D and 3-D using locally adaptive regression kernels |
WO2010098160A1 (ja) * | 2009-02-24 | 2010-09-02 | 国立大学法人 九州工業大学 | 物体運動推定装置、物体運動推定方法、プログラム及び記録媒体 |
JP5161845B2 (ja) * | 2009-07-31 | 2013-03-13 | 富士フイルム株式会社 | 画像処理装置及び方法、データ処理装置及び方法、並びにプログラム |
WO2011063347A2 (en) | 2009-11-20 | 2011-05-26 | Pelican Imaging Corporation | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
US8928793B2 (en) | 2010-05-12 | 2015-01-06 | Pelican Imaging Corporation | Imager array interfaces |
FR2961601B1 (fr) * | 2010-06-22 | 2012-07-27 | Parrot | Procede d'evaluation de la vitesse horizontale d'un drone, notamment d'un drone apte au vol stationnaire autopilote |
US8451384B2 (en) | 2010-07-08 | 2013-05-28 | Spinella Ip Holdings, Inc. | System and method for shot change detection in a video sequence |
US8878950B2 (en) | 2010-12-14 | 2014-11-04 | Pelican Imaging Corporation | Systems and methods for synthesizing high resolution images using super-resolution processes |
JP5801598B2 (ja) * | 2011-05-09 | 2015-10-28 | キヤノン株式会社 | 画像処理装置、画像処理方法、及び、プログラム |
JP5843474B2 (ja) * | 2011-05-09 | 2016-01-13 | キヤノン株式会社 | 画像処理装置、画像処理方法、及び、プログラム |
WO2012155119A1 (en) | 2011-05-11 | 2012-11-15 | Pelican Imaging Corporation | Systems and methods for transmitting and receiving array camera image data |
US8553943B2 (en) | 2011-06-14 | 2013-10-08 | Qualcomm Incorporated | Content-adaptive systems, methods and apparatus for determining optical flow |
EP2724255B1 (en) * | 2011-06-27 | 2020-12-09 | Yissum Research Development Company of The Hebrew University of Jerusalem Ltd. | Applying rapid numerical approximation of convolutions with filters for image processing purposes |
US20130265459A1 (en) | 2011-06-28 | 2013-10-10 | Pelican Imaging Corporation | Optical arrangements for use with an array camera |
WO2013043761A1 (en) | 2011-09-19 | 2013-03-28 | Pelican Imaging Corporation | Determining depth from multiple views of a scene that include aliasing using hypothesized fusion |
KR102002165B1 (ko) | 2011-09-28 | 2019-07-25 | 포토내이션 리미티드 | 라이트 필드 이미지 파일의 인코딩 및 디코딩을 위한 시스템 및 방법 |
US9412206B2 (en) | 2012-02-21 | 2016-08-09 | Pelican Imaging Corporation | Systems and methods for the manipulation of captured light field image data |
US20140063314A1 (en) * | 2012-02-28 | 2014-03-06 | Aswin C Sankaranarayanan | System And Method Of Video Compressive Sensing For Spatial-Multiplexing Cameras |
US9210392B2 (en) | 2012-05-01 | 2015-12-08 | Pelican Imaging Coporation | Camera modules patterned with pi filter groups |
US8942452B2 (en) * | 2012-05-18 | 2015-01-27 | Kabushiki Kaisha Toshiba | Apparatus and method for smoothing random event data obtained from a Positron Emission Tomography scanner |
CN104508681B (zh) | 2012-06-28 | 2018-10-30 | Fotonation开曼有限公司 | 用于检测有缺陷的相机阵列、光学器件阵列和传感器的系统及方法 |
US20140002674A1 (en) | 2012-06-30 | 2014-01-02 | Pelican Imaging Corporation | Systems and Methods for Manufacturing Camera Modules Using Active Alignment of Lens Stack Arrays and Sensors |
CN104662589B (zh) | 2012-08-21 | 2017-08-04 | 派力肯影像公司 | 用于使用阵列照相机捕捉的图像中的视差检测和校正的系统和方法 |
EP2888698A4 (en) | 2012-08-23 | 2016-06-29 | Pelican Imaging Corp | PROPERTY-BASED HIGH-RESOLUTION MOTION ESTIMATION FROM LOW-RESOLUTION IMAGES RECORDED WITH AN ARRAY SOURCE |
WO2014043641A1 (en) | 2012-09-14 | 2014-03-20 | Pelican Imaging Corporation | Systems and methods for correcting user identified artifacts in light field images |
WO2014052974A2 (en) | 2012-09-28 | 2014-04-03 | Pelican Imaging Corporation | Generating images from light fields utilizing virtual viewpoints |
WO2014078443A1 (en) | 2012-11-13 | 2014-05-22 | Pelican Imaging Corporation | Systems and methods for array camera focal plane control |
US9008363B1 (en) | 2013-01-02 | 2015-04-14 | Google Inc. | System and method for computing optical flow |
WO2014130849A1 (en) | 2013-02-21 | 2014-08-28 | Pelican Imaging Corporation | Generating compressed light field representation data |
US9374512B2 (en) | 2013-02-24 | 2016-06-21 | Pelican Imaging Corporation | Thin form factor computational array cameras and modular array cameras |
WO2014138695A1 (en) | 2013-03-08 | 2014-09-12 | Pelican Imaging Corporation | Systems and methods for measuring scene information while capturing images using array cameras |
US8866912B2 (en) | 2013-03-10 | 2014-10-21 | Pelican Imaging Corporation | System and methods for calibration of an array camera using a single captured image |
US9521416B1 (en) | 2013-03-11 | 2016-12-13 | Kip Peli P1 Lp | Systems and methods for image data compression |
US9888194B2 (en) | 2013-03-13 | 2018-02-06 | Fotonation Cayman Limited | Array camera architecture implementing quantum film image sensors |
US9106784B2 (en) | 2013-03-13 | 2015-08-11 | Pelican Imaging Corporation | Systems and methods for controlling aliasing in images captured by an array camera for use in super-resolution processing |
WO2014164550A2 (en) | 2013-03-13 | 2014-10-09 | Pelican Imaging Corporation | System and methods for calibration of an array camera |
US9519972B2 (en) | 2013-03-13 | 2016-12-13 | Kip Peli P1 Lp | Systems and methods for synthesizing images from image data captured by an array camera using restricted depth of field depth maps in which depth estimation precision varies |
US9100586B2 (en) | 2013-03-14 | 2015-08-04 | Pelican Imaging Corporation | Systems and methods for photometric normalization in array cameras |
US9578259B2 (en) | 2013-03-14 | 2017-02-21 | Fotonation Cayman Limited | Systems and methods for reducing motion blur in images or video in ultra low light with array cameras |
US9445003B1 (en) | 2013-03-15 | 2016-09-13 | Pelican Imaging Corporation | Systems and methods for synthesizing high resolution images using image deconvolution based on motion and depth information |
US9497429B2 (en) | 2013-03-15 | 2016-11-15 | Pelican Imaging Corporation | Extended color processing on pelican array cameras |
US9633442B2 (en) | 2013-03-15 | 2017-04-25 | Fotonation Cayman Limited | Array cameras including an array camera module augmented with a separate camera |
US10122993B2 (en) | 2013-03-15 | 2018-11-06 | Fotonation Limited | Autofocus system for a conventional camera that uses depth information from an array camera |
EP2973476A4 (en) | 2013-03-15 | 2017-01-18 | Pelican Imaging Corporation | Systems and methods for stereo imaging with camera arrays |
WO2014150856A1 (en) | 2013-03-15 | 2014-09-25 | Pelican Imaging Corporation | Array camera implementing quantum dot color filters |
WO2014191329A1 (en) * | 2013-05-28 | 2014-12-04 | Thomson Licensing | Image edits propagation to underlying video sequence via dense motion fields |
WO2015048694A2 (en) | 2013-09-27 | 2015-04-02 | Pelican Imaging Corporation | Systems and methods for depth-assisted perspective distortion correction |
EP3066690A4 (en) | 2013-11-07 | 2017-04-05 | Pelican Imaging Corporation | Methods of manufacturing array camera modules incorporating independently aligned lens stacks |
US10119808B2 (en) | 2013-11-18 | 2018-11-06 | Fotonation Limited | Systems and methods for estimating depth from projected texture using camera arrays |
WO2015081279A1 (en) | 2013-11-26 | 2015-06-04 | Pelican Imaging Corporation | Array camera configurations incorporating multiple constituent array cameras |
CN104680551B (zh) * | 2013-11-29 | 2017-11-21 | 展讯通信(天津)有限公司 | 一种基于肤色检测的跟踪方法及装置 |
CN104680552B (zh) * | 2013-11-29 | 2017-11-21 | 展讯通信(天津)有限公司 | 一种基于肤色检测的跟踪方法及装置 |
CN104680122B (zh) * | 2013-11-29 | 2019-03-19 | 展讯通信(天津)有限公司 | 一种基于肤色检测的跟踪方法及装置 |
WO2015134996A1 (en) | 2014-03-07 | 2015-09-11 | Pelican Imaging Corporation | System and methods for depth regularization and semiautomatic interactive matting using rgb-d images |
US9247117B2 (en) | 2014-04-07 | 2016-01-26 | Pelican Imaging Corporation | Systems and methods for correcting for warpage of a sensor array in an array camera module by introducing warpage into a focal plane of a lens stack array |
US9521319B2 (en) | 2014-06-18 | 2016-12-13 | Pelican Imaging Corporation | Array cameras and array camera modules including spectral filters disposed outside of a constituent image sensor |
US9836831B1 (en) * | 2014-07-30 | 2017-12-05 | Google Inc. | Simulating long-exposure images |
EP3001685A1 (en) * | 2014-09-24 | 2016-03-30 | Thomson Licensing | Method and apparatus for estimating absolute motion values in image sequences |
EP3201877B1 (en) | 2014-09-29 | 2018-12-19 | Fotonation Cayman Limited | Systems and methods for dynamic calibration of array cameras |
US9942474B2 (en) | 2015-04-17 | 2018-04-10 | Fotonation Cayman Limited | Systems and methods for performing high speed video capture and depth estimation using array cameras |
AU2015202937A1 (en) * | 2015-05-29 | 2016-12-15 | Canon Kabushiki Kaisha | Systems and methods for registration of images |
US10074151B2 (en) * | 2015-09-30 | 2018-09-11 | Intel Corporation | Dense optical flow acceleration |
US10755380B2 (en) | 2015-11-11 | 2020-08-25 | Texas Instruments Incorporated | Down scaling images in a computer vision system |
JP6838918B2 (ja) * | 2015-11-24 | 2021-03-03 | キヤノン株式会社 | 画像データ処理装置及び方法 |
US10268901B2 (en) * | 2015-12-04 | 2019-04-23 | Texas Instruments Incorporated | Quasi-parametric optical flow estimation |
US10089788B2 (en) | 2016-05-25 | 2018-10-02 | Google Llc | Light-field viewpoint and pixel culling for a head mounted display device |
JP6854629B2 (ja) * | 2016-11-24 | 2021-04-07 | キヤノン株式会社 | 画像処理装置、画像処理方法 |
US10235763B2 (en) | 2016-12-01 | 2019-03-19 | Google Llc | Determining optical flow |
US10424069B2 (en) | 2017-04-07 | 2019-09-24 | Nvidia Corporation | System and method for optical flow estimation |
CN116708829A (zh) | 2017-04-24 | 2023-09-05 | Sk电信有限公司 | 编解码视频数据的装置、发送编码视频数据比特流的方法 |
US10482618B2 (en) | 2017-08-21 | 2019-11-19 | Fotonation Limited | Systems and methods for hybrid depth regularization |
US10977809B2 (en) | 2017-12-11 | 2021-04-13 | Dolby Laboratories Licensing Corporation | Detecting motion dragging artifacts for dynamic adjustment of frame rate conversion settings |
CN108040217B (zh) * | 2017-12-20 | 2020-01-24 | 深圳岚锋创视网络科技有限公司 | 一种视频解码的方法、装置及相机 |
CN109756690B (zh) * | 2018-12-21 | 2020-11-20 | 西北工业大学 | 基于特征级别光流的轻量级视频插值方法 |
WO2021055585A1 (en) | 2019-09-17 | 2021-03-25 | Boston Polarimetrics, Inc. | Systems and methods for surface modeling using polarization cues |
MX2022004163A (es) | 2019-10-07 | 2022-07-19 | Boston Polarimetrics Inc | Sistemas y metodos para la deteccion de estandares de superficie con polarizacion. |
US11176682B2 (en) * | 2019-11-27 | 2021-11-16 | Nvidia Corporation | Enhanced optical flow estimation using a varied scan order |
MX2022005289A (es) | 2019-11-30 | 2022-08-08 | Boston Polarimetrics Inc | Sistemas y metodos para segmentacion de objetos transparentes usando se?ales de polarizacion. |
WO2021154386A1 (en) | 2020-01-29 | 2021-08-05 | Boston Polarimetrics, Inc. | Systems and methods for characterizing object pose detection and measurement systems |
US11797863B2 (en) | 2020-01-30 | 2023-10-24 | Intrinsic Innovation Llc | Systems and methods for synthesizing data for training statistical models on different imaging modalities including polarized images |
WO2021243088A1 (en) | 2020-05-27 | 2021-12-02 | Boston Polarimetrics, Inc. | Multi-aperture polarization optical systems using beam splitters |
CN112381860B (zh) * | 2020-11-21 | 2023-04-11 | 西安交通大学 | 一种旋转叶片动频测量的无标记计算机视觉方法 |
CN112446179B (zh) * | 2020-12-10 | 2024-05-14 | 华中科技大学 | 一种基于变分光流模型的流体速度测量方法 |
US11290658B1 (en) | 2021-04-15 | 2022-03-29 | Boston Polarimetrics, Inc. | Systems and methods for camera exposure control |
US11954886B2 (en) | 2021-04-15 | 2024-04-09 | Intrinsic Innovation Llc | Systems and methods for six-degree of freedom pose estimation of deformable objects |
US11689813B2 (en) | 2021-07-01 | 2023-06-27 | Intrinsic Innovation Llc | Systems and methods for high dynamic range imaging using crossed polarizers |
CN114581493A (zh) * | 2022-03-04 | 2022-06-03 | 三星电子(中国)研发中心 | 双向光流估计方法和装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06168329A (ja) * | 1992-11-27 | 1994-06-14 | Mitsubishi Electric Corp | オプティカルフロー演算回路 |
JP2001222707A (ja) * | 2000-02-08 | 2001-08-17 | Sanyo Electric Co Ltd | 中間画像合成方法、中間画像合成装置、中間画像合成プログラムを記録した記録媒体 |
JP2005128619A (ja) * | 2003-10-21 | 2005-05-19 | Konica Minolta Holdings Inc | 物体計測装置、物体計測方法、およびプログラム |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5680487A (en) * | 1991-12-23 | 1997-10-21 | Texas Instruments Incorporated | System and method for determining optical flow |
US5500904A (en) * | 1992-04-22 | 1996-03-19 | Texas Instruments Incorporated | System and method for indicating a change between images |
US5627905A (en) * | 1994-12-12 | 1997-05-06 | Lockheed Martin Tactical Defense Systems | Optical flow detection system |
GB2311182A (en) * | 1996-03-13 | 1997-09-17 | Innovision Plc | Improved gradient based motion estimation |
JPH09261490A (ja) * | 1996-03-22 | 1997-10-03 | Minolta Co Ltd | 画像形成装置 |
US6847737B1 (en) * | 1998-03-13 | 2005-01-25 | University Of Houston System | Methods for performing DAF data filtering and padding |
JP3960694B2 (ja) * | 1998-10-26 | 2007-08-15 | 富士通株式会社 | 色信号変換方法、色信号変換装置、記録媒体、デバイスドライバ及び色変換テーブル |
EP1438839A1 (en) * | 2001-10-08 | 2004-07-21 | Koninklijke Philips Electronics N.V. | Device and method for motion estimation |
JP4138345B2 (ja) * | 2002-03-22 | 2008-08-27 | セイコーエプソン株式会社 | 画像処理装置および画像出力装置 |
US7558320B2 (en) * | 2003-06-13 | 2009-07-07 | Microsoft Corporation | Quality control in frame interpolation with motion analysis |
US7408986B2 (en) * | 2003-06-13 | 2008-08-05 | Microsoft Corporation | Increasing motion smoothness using frame interpolation with motion analysis |
US20070126932A1 (en) * | 2005-12-05 | 2007-06-07 | Kiran Bhat | Systems and methods for utilizing idle display area |
US8355534B2 (en) * | 2008-10-15 | 2013-01-15 | Spinella Ip Holdings, Inc. | Digital processing method and system for determination of optical flow |
-
2009
- 2009-09-08 US US12/555,472 patent/US8355534B2/en not_active Expired - Fee Related
- 2009-09-08 KR KR1020117011135A patent/KR101498532B1/ko not_active IP Right Cessation
- 2009-09-08 JP JP2011532112A patent/JP5547739B2/ja not_active Expired - Fee Related
- 2009-09-08 WO PCT/US2009/056209 patent/WO2010044963A1/en active Application Filing
- 2009-09-08 GB GB1101399.2A patent/GB2476397B/en not_active Expired - Fee Related
-
2011
- 2011-12-20 HK HK11113736.9A patent/HK1159291A1/xx not_active IP Right Cessation
-
2012
- 2012-12-12 US US13/712,030 patent/US8483438B2/en not_active Expired - Fee Related
-
2013
- 2013-05-30 US US13/905,592 patent/US8712095B2/en not_active Expired - Fee Related
-
2014
- 2014-05-08 JP JP2014096424A patent/JP5861949B2/ja not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06168329A (ja) * | 1992-11-27 | 1994-06-14 | Mitsubishi Electric Corp | オプティカルフロー演算回路 |
JP2001222707A (ja) * | 2000-02-08 | 2001-08-17 | Sanyo Electric Co Ltd | 中間画像合成方法、中間画像合成装置、中間画像合成プログラムを記録した記録媒体 |
JP2005128619A (ja) * | 2003-10-21 | 2005-05-19 | Konica Minolta Holdings Inc | 物体計測装置、物体計測方法、およびプログラム |
Non-Patent Citations (2)
Title |
---|
CSNG200600060012; 安達 栄輔,堀口 進: '"多重解像度解析を用いたオプティカルフロー推定の検討"' 情報処理学会論文誌 Vol.46, No.6, 20050615, p.1501-1511, 社団法人情報処理学会 * |
JPN6015004297; 安達 栄輔,堀口 進: '"多重解像度解析を用いたオプティカルフロー推定の検討"' 情報処理学会論文誌 Vol.46, No.6, 20050615, p.1501-1511, 社団法人情報処理学会 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112041887A (zh) * | 2018-04-24 | 2020-12-04 | 斯纳普公司 | 高效的并行光流算法和gpu实现 |
KR20210002578A (ko) * | 2018-04-24 | 2021-01-08 | 스냅 인코포레이티드 | 효율적인 병렬 광학 흐름 알고리즘 및 gpu 구현 |
KR102545642B1 (ko) | 2018-04-24 | 2023-06-21 | 스냅 인코포레이티드 | 효율적인 병렬 광학 흐름 알고리즘 및 gpu 구현 |
KR20230093076A (ko) * | 2018-04-24 | 2023-06-26 | 스냅 인코포레이티드 | 효율적인 병렬 광학 흐름 알고리즘 및 gpu 구현 |
US11783448B2 (en) | 2018-04-24 | 2023-10-10 | Snap Inc. | Efficient parallel optical flow algorithm and GPU implementation |
KR102655540B1 (ko) | 2018-04-24 | 2024-04-09 | 스냅 인코포레이티드 | 효율적인 병렬 광학 흐름 알고리즘 및 gpu 구현 |
JP7487423B2 (ja) | 2021-03-19 | 2024-05-20 | クアルコム,インコーポレイテッド | 学習されたビデオ圧縮のためのマルチスケールオプティカルフロー |
Also Published As
Publication number | Publication date |
---|---|
US20130101178A1 (en) | 2013-04-25 |
WO2010044963A1 (en) | 2010-04-22 |
US8355534B2 (en) | 2013-01-15 |
HK1159291A1 (en) | 2012-07-27 |
KR101498532B1 (ko) | 2015-03-04 |
GB201101399D0 (en) | 2011-03-09 |
US20130259317A1 (en) | 2013-10-03 |
US20100124361A1 (en) | 2010-05-20 |
JP2012506092A (ja) | 2012-03-08 |
GB2476397A (en) | 2011-06-22 |
KR20110111362A (ko) | 2011-10-11 |
GB2476397B (en) | 2014-04-30 |
US8712095B2 (en) | 2014-04-29 |
JP5547739B2 (ja) | 2014-07-16 |
JP5861949B2 (ja) | 2016-02-16 |
US8483438B2 (en) | 2013-07-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5861949B2 (ja) | オプティカルフローの決定のためのデジタル処理方法およびシステム | |
Takeda et al. | Super-resolution without explicit subpixel motion estimation | |
Papenberg et al. | Highly accurate optic flow computation with theoretically justified warping | |
US20120219229A1 (en) | Image enhancement apparatus and method | |
Wasza et al. | Real-time preprocessing for dense 3-D range imaging on the GPU: defect interpolation, bilateral temporal averaging and guided filtering | |
Sellent et al. | Motion field estimation from alternate exposure images | |
Unger et al. | A convex approach for variational super-resolution | |
Al Ismaeil et al. | Enhancement of dynamic depth scenes by upsampling for precise super-resolution (UP-SR) | |
GB2510709A (en) | Determining an optical flow field between a pair of images by warping spatiotemporal gradient estimations | |
Sadaghiani et al. | Image interpolation based on 2D-DWT with novel regularity-preserving algorithm using RLS adaptive filters | |
Bouzari | An improved regularization method for artifact rejection in image super-resolution | |
Sim et al. | Robust reweighted MAP motion estimation | |
Malczewski et al. | Super resolution for multimedia, image, and video processing applications | |
Choi et al. | Discrete and continuous optimizations for depth image super-resolution | |
Telea et al. | A variational approach to joint denoising, edge detection and motion estimation | |
Guðmundsson et al. | TOF-CCD image fusion using complex wavelets | |
Xiang et al. | Real-time spatial and depth upsampling for range data | |
Balure et al. | Depth image super-resolution: a review and wavelet perspective | |
Metwalli et al. | Combining superresolution and fusion methods for sharpening misrsat-1 data | |
Khan et al. | Comparison of reconstruction and example-based super-resolution | |
Jaiswal et al. | Recent Developments in Super Resolution | |
Lukeš | Super-Resolution Methods for Digital Image and Video Processing | |
Le et al. | A super-resolution imaging method based on dense subpixel-accurate motion fields | |
Laveau et al. | Structuring Elements Following the Optical Flow: Combining Morphology and Motion | |
Li et al. | Spatio-Temporal Consistency in Depth Video Enhancement |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20140827 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20140827 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150129 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150205 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20150501 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20150526 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150925 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20151020 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20151112 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20151203 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20151210 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20151203 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5861949 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |