JP4771186B2 - 移動量抽出装置及びプログラム、画像補正装置及びプログラム並びに記録媒体 - Google Patents
移動量抽出装置及びプログラム、画像補正装置及びプログラム並びに記録媒体 Download PDFInfo
- Publication number
- JP4771186B2 JP4771186B2 JP2010518003A JP2010518003A JP4771186B2 JP 4771186 B2 JP4771186 B2 JP 4771186B2 JP 2010518003 A JP2010518003 A JP 2010518003A JP 2010518003 A JP2010518003 A JP 2010518003A JP 4771186 B2 JP4771186 B2 JP 4771186B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- frame image
- frame
- error function
- movement amount
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Description
藤澤、他2名、「GPUを用いたビデオ映像の安定化」、社団法人情報処理学会、情報処理学会論文誌Vol.49、No.2、p.1−8
図1は、本発明の実施の形態に係る画像補正装置の構成を示すブロック図である。画像補正装置は、被写体を撮像して画像を生成するカメラ10と、カメラ10で生成された画像のぶれをなくすように画像処理を行う画像処理装置20と、を備えている。
映像の安定化行うためにはグローバルモーションを知る必要がある。連続したフレーム間において、隣接したフレーム間での動きを求められれば、カメラ10がどのように動いたか知ることができる。
[振動補正]
画面の動きを滑らかにするために、推定したグローバルモーションに基づく修正のための変換行列を求める必要がある。補正前のフレームから補正後のフレームまでの変換行列Sは、補正の対象となるフレームの前後kフレームまでのアフィン変換を用いて次の式(24)によって表される。
つぎに、本発明の第2の実施形態について説明する。なお、第1の実施形態と同一の部位には同一の符号を付し、重複する説明は省略する。
20 画像処理装置
22 CPU
26 GPU
Claims (13)
- 動画像を構成する複数のフレーム画像のうちの第1のフレーム画像に対して、平行移動量である第1方向への移動量x及び前記第1方向に直交する第2方向への移動量yと、回転移動量θとを含んだアフィン変換パラメータを用いて画像変換処理を行って、第1の変換フレーム画像を生成する画像変換部と、
前記画像変換部により前記平行移動量及び前記回転移動量にそれぞれ所定の値が設定されて前記第1の変換フレーム画像が生成される毎に、前記画像変換部により生成された第1の変換フレーム画像と、前記動画像を構成する複数のフレーム画像のうちの前記第1のフレーム画像と異なる第2のフレーム画像と、の同一座標の各画素値の差分の自乗値を演算し、前記第1の変換フレーム画像及び前記第2のフレーム画像が少なくとも重複するすべての同一座標についての前記自乗値を積算してエラー関数を導出するエラー関数導出部と、
BFGS法を用いて前記エラー関数導出部により導出されたエラー関数の値が最小値となる場合を探索し、前記エラー関数の値が最小値となる場合のアフィン変換パラメータを第2のフレーム画像に対する前記第1のフレーム画像の変化量として抽出する変化量抽出部と、
を備え、
前記変化量抽出部は、前記エラー関数の最小値の探索の際にBFGS法で使用する導関数として、
- 動画像を構成する複数のフレーム画像のうちの第1のフレーム画像に対して、平行移動量である第1方向への移動量x及び前記第1方向に直交する第2方向への移動量yと、回転移動量θと、ズーム方向の倍率zを含んだアフィン変換パラメータを用いて画像変換処理を行って、第1の変換フレーム画像を生成する画像変換部と、
前記画像変換部により前記平行移動量及び前記回転移動量にそれぞれ所定の値が設定されて前記第1の変換フレーム画像が生成される毎に、前記画像変換部により生成された第1の変換フレーム画像と、前記動画像を構成する複数のフレーム画像のうちの前記第1のフレーム画像と異なる第2のフレーム画像と、の同一座標の各画素値の差分の自乗値を演算し、前記第1の変換フレーム画像及び前記第2のフレーム画像が少なくとも重複するすべての同一座標についての前記自乗値を積算してエラー関数を導出するエラー関数導出部と、
BFGS法を用いて前記エラー関数導出部により導出されたエラー関数の値が最小値となる場合を探索し、前記エラー関数の値が最小値となる場合のアフィン変換パラメータを第2のフレーム画像に対する前記第1のフレーム画像の変化量として抽出する変化量抽出部と、
を備え、
前記変化量抽出部は、前記エラー関数の最小値の探索の際にBFGS法で使用する導関数として、
- 前記エラー関数導出部は、前記第1の変換フレーム画像と、前記第1のフレーム画像に隣接する第2のフレーム画像と、の同一座標の各画素値の差分の自乗値を演算する
請求項1又は2に記載の画像変化量抽出装置。 - 前記エラー関数導出部は、前記第1の変換フレーム画像と前記第2のフレーム画像との各々の同一座標について、各画素値の差分の自乗値をそれぞれ独立して並列演算する
請求項1又は2に記載の画像変化量抽出装置。 - 前記画像変換部は、動画像を構成する複数のフレーム画像のうちの最新の第1のフレーム画像に対して、前記画像変換処理を行って第1の変換フレーム画像を逐次生成し、
前記エラー関数導出部は、前記画像変換部により逐次生成された第1の変換フレーム画像と、前記第1のフレーム画像の直前のフレームである第2のフレーム画像と、の同一座標の各画素値の差分の自乗値を演算する
請求項1又は2に記載の画像変化量抽出装置。 - 請求項1又は2に記載の画像変化量抽出装置と、
前記第1のフレーム画像と前記画像変化量抽出装置により抽出された変化量とに基づいて、第1のフレーム画像と前記第2のフレーム画像とのずれが少なくなるように、前記第1のフレーム画像に対して補正処理を行う補正部と、
を備えた画像補正装置。 - 前記第2のフレーム画像に対して、前記補正部により補正処理された前記第1のフレーム画像を合成する画像合成部を更に備えた
請求項6に記載の画像補正装置。 - 請求項6に記載の画像変化量抽出装置と、
前記第1のフレーム画像と前記画像変化量抽出装置により抽出された変化量とに基づいて、第1のフレーム画像と前記第2のフレーム画像とのずれが少なくなるように、前記第1のフレーム画像に対して補正処理を行う補正部と、
前記第2のフレーム画像に対して、前記補正部により補正処理された前記第1のフレーム画像を合成する画像合成部と、を備え、
前記画像変化量抽出装置は、次の第1のフレーム画像に対して、前記画像合成部により合成された画像を前記第2のフレーム画像として、前記次の第1のフレーム画像の変化量を抽出する
画像補正装置。 - 請求項1又は2に記載の画像変化量抽出装置と、
前記第2のフレーム画像と前記画像変化量抽出装置により抽出された変化量とに基づいて、第1のフレーム画像と前記第2のフレーム画像とのずれが少なくなるように、前記第2のフレーム画像に対して補正処理を行う補正部と、
を備えた画像補正装置。 - 前記第1のフレーム画像に対して、前記補正部により補正処理された前記第2のフレーム画像を合成する画像合成部を更に備えた
請求項9に記載の画像補正装置。 - コンピュータを、請求項6または請求項9に記載の画像補正装置の各部として機能させるための画像補正プログラム。
- コンピュータを、
動画像を構成する複数のフレーム画像のうちの第1のフレーム画像に対して、平行移動量である第1方向への移動量x及び前記第1方向に直交する第2方向への移動量yと、回転移動量θとを含んだアフィン変換パラメータを用いて画像変換処理を行って、第1の変換フレーム画像を生成する画像変換手段、
前記画像変換手段より前記平行移動量及び前記回転移動量にそれぞれ所定の値が設定されて前記第1の変換フレーム画像が生成される毎に、前記画像変換手段により生成された第1の変換フレーム画像と、前記動画像を構成する複数のフレーム画像のうちの前記第1のフレーム画像と異なる第2のフレーム画像と、の同一座標の各画素値の差分の自乗値を演算し、前記第1の変換フレーム画像及び前記第2のフレーム画像が少なくとも重複するすべての同一座標についての自乗値を積算してエラー関数を導出するエラー関数導出手段、及び、
BFGS法を用いて前記エラー関数導出手段により導出されたエラー関数の値が最小値となる場合を探索し、前記エラー関数の値が最小値となる場合のアフィン変換パラメータを第2のフレーム画像に対する前記第1のフレーム画像の変化量として抽出する変化量抽出手段、
として機能させるための画像変化量抽出プログラムであって、
前記変化量抽出手段は、前記エラー関数の最小値の探索の際にBFGS法で使用する導関数として、
- コンピュータを、
動画像を構成する複数のフレーム画像のうちの第1のフレーム画像に対して、平行移動量である第1方向への移動量x及び前記第1方向に直交する第2方向への移動量yと、回転移動量θと、ズーム方向の倍率zを含んだアフィン変換パラメータを用いて画像変換処理を行って、第1の変換フレーム画像を生成する画像変換手段、
前記画像変換手段より前記平行移動量及び前記回転移動量にそれぞれ所定の値が設定されて前記第1の変換フレーム画像が生成される毎に、前記画像変換手段により生成された第1の変換フレーム画像と、前記動画像を構成する複数のフレーム画像のうちの前記第1のフレーム画像と異なる第2のフレーム画像と、の同一座標の各画素値の差分の自乗値を演算し、前記第1の変換フレーム画像及び前記第2のフレーム画像が少なくとも重複するすべての同一座標についての自乗値を積算してエラー関数を導出するエラー関数導出手段、及び、
BFGS法を用いて前記エラー関数導出手段により導出されたエラー関数の値が最小値となる場合を探索し、前記エラー関数の値が最小値となる場合のアフィン変換パラメータを第2のフレーム画像に対する前記第1のフレーム画像の変化量として抽出する変化量抽出手段、
として機能させるための画像変化量抽出プログラムであって、
前記変化量抽出手段は、前記エラー関数の最小値の探索の際にBFGS法で使用する導関数として、
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010518003A JP4771186B2 (ja) | 2008-06-20 | 2009-06-22 | 移動量抽出装置及びプログラム、画像補正装置及びプログラム並びに記録媒体 |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008162477 | 2008-06-20 | ||
JP2008162477 | 2008-06-20 | ||
JP2010518003A JP4771186B2 (ja) | 2008-06-20 | 2009-06-22 | 移動量抽出装置及びプログラム、画像補正装置及びプログラム並びに記録媒体 |
PCT/JP2009/061329 WO2009154294A1 (ja) | 2008-06-20 | 2009-06-22 | 移動量抽出装置及びプログラム、画像補正装置及びプログラム並びに記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP4771186B2 true JP4771186B2 (ja) | 2011-09-14 |
JPWO2009154294A1 JPWO2009154294A1 (ja) | 2011-12-01 |
Family
ID=41434205
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010518003A Expired - Fee Related JP4771186B2 (ja) | 2008-06-20 | 2009-06-22 | 移動量抽出装置及びプログラム、画像補正装置及びプログラム並びに記録媒体 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20110135206A1 (ja) |
JP (1) | JP4771186B2 (ja) |
WO (1) | WO2009154294A1 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2010093040A1 (ja) | 2009-02-13 | 2010-08-19 | 国立大学法人静岡大学 | モーションブラー制御装置、方法、及びプログラム |
US9886552B2 (en) * | 2011-08-12 | 2018-02-06 | Help Lighting, Inc. | System and method for image registration of multiple video streams |
JP5412692B2 (ja) * | 2011-10-04 | 2014-02-12 | 株式会社モルフォ | 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体 |
US9020203B2 (en) | 2012-05-21 | 2015-04-28 | Vipaar, Llc | System and method for managing spatiotemporal uncertainty |
CN103020711A (zh) * | 2012-12-25 | 2013-04-03 | 中国科学院深圳先进技术研究院 | 分类器训练方法及其系统 |
US9940750B2 (en) | 2013-06-27 | 2018-04-10 | Help Lighting, Inc. | System and method for role negotiation in multi-reality environments |
WO2016203282A1 (en) | 2015-06-18 | 2016-12-22 | The Nielsen Company (Us), Llc | Methods and apparatus to capture photographs using mobile devices |
WO2018097590A1 (ko) * | 2016-11-22 | 2018-05-31 | 한국전자통신연구원 | 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 |
US11361407B2 (en) | 2017-04-09 | 2022-06-14 | Indiana University Research And Technology Corporation | Motion correction systems and methods for improving medical image data |
JP6423566B1 (ja) * | 2018-06-21 | 2018-11-14 | 株式会社 ディー・エヌ・エー | 画像処理装置、画像処理プログラム、及び、画像処理方法 |
CN109191489B (zh) * | 2018-08-16 | 2022-05-20 | 株洲斯凯航空科技有限公司 | 一种飞行器着陆标志的检测跟踪方法与系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005309558A (ja) * | 2004-04-19 | 2005-11-04 | Sony Corp | 画像処理方法および装置、並びにプログラム |
JP2005331440A (ja) * | 2004-05-21 | 2005-12-02 | Rikogaku Shinkokai | 光位相分布測定方法及び測定システム |
JP2006520042A (ja) * | 2003-03-07 | 2006-08-31 | キネティック リミテッド | スキャニング装置及び方法 |
JP2007035020A (ja) * | 2005-06-22 | 2007-02-08 | Konica Minolta Medical & Graphic Inc | 領域抽出装置、領域抽出方法及びプログラム |
JP2007041752A (ja) * | 2005-08-02 | 2007-02-15 | Casio Comput Co Ltd | 画像処理装置 |
-
2009
- 2009-06-22 US US12/999,828 patent/US20110135206A1/en not_active Abandoned
- 2009-06-22 WO PCT/JP2009/061329 patent/WO2009154294A1/ja active Application Filing
- 2009-06-22 JP JP2010518003A patent/JP4771186B2/ja not_active Expired - Fee Related
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006520042A (ja) * | 2003-03-07 | 2006-08-31 | キネティック リミテッド | スキャニング装置及び方法 |
JP2005309558A (ja) * | 2004-04-19 | 2005-11-04 | Sony Corp | 画像処理方法および装置、並びにプログラム |
JP2005331440A (ja) * | 2004-05-21 | 2005-12-02 | Rikogaku Shinkokai | 光位相分布測定方法及び測定システム |
JP2007035020A (ja) * | 2005-06-22 | 2007-02-08 | Konica Minolta Medical & Graphic Inc | 領域抽出装置、領域抽出方法及びプログラム |
JP2007041752A (ja) * | 2005-08-02 | 2007-02-15 | Casio Comput Co Ltd | 画像処理装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2009154294A1 (ja) | 2009-12-23 |
US20110135206A1 (en) | 2011-06-09 |
JPWO2009154294A1 (ja) | 2011-12-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4771186B2 (ja) | 移動量抽出装置及びプログラム、画像補正装置及びプログラム並びに記録媒体 | |
US10755428B2 (en) | Apparatuses and methods for machine vision system including creation of a point cloud model and/or three dimensional model | |
KR102006043B1 (ko) | 깊이 카메라를 이용한 머리 포즈 추적 기법 | |
JP6170395B2 (ja) | 撮像装置およびその制御方法 | |
US11610331B2 (en) | Method and apparatus for generating data for estimating three-dimensional (3D) pose of object included in input image, and prediction model for estimating 3D pose of object | |
WO2012063468A1 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP6736362B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
US11222409B2 (en) | Image/video deblurring using convolutional neural networks with applications to SFM/SLAM with blurred images/videos | |
JP2009134509A (ja) | モザイク画像生成装置及びモザイク画像生成方法 | |
JP5388072B2 (ja) | モーションブラー制御装置、方法、及びプログラム | |
CN113556464A (zh) | 拍摄方法、装置及电子设备 | |
JP7082713B2 (ja) | ローリングシャッター画像/ビデオのsfm/slamに対するアプリケーションで畳み込みニューラルネットワークを用いる画像/ビデオにおけるローリングシャッター補正 | |
JP6347610B2 (ja) | 画像処理装置および3次元空間情報取得方法 | |
US20230281750A1 (en) | Method of plane tracking | |
JP4017578B2 (ja) | 手ぶれ補正装置、手ぶれ補正方法および手ぶれ補正プログラムを記録した記録媒体 | |
JP6154759B2 (ja) | カメラパラメータ推定装置、カメラパラメータ推定方法及びカメラパラメータ推定プログラム | |
US11954801B2 (en) | Concurrent human pose estimates for virtual representation | |
JP2011242134A (ja) | 画像処理装置、画像処理方法、プログラム、及び電子装置 | |
JP5590680B2 (ja) | 映像合成装置、映像合成方法、および映像合成プログラム | |
US11756177B2 (en) | Temporal filtering weight computation | |
JP2020120362A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP7074694B2 (ja) | 情報端末装置及びプログラム | |
JP7164873B2 (ja) | 画像処理装置及びプログラム | |
JP4286301B2 (ja) | 手ぶれ補正装置、手ぶれ補正方法および手ぶれ補正プログラムを記録した記録媒体 | |
JP2007072593A (ja) | プログラム、数値計算装置及び数値計算方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110510 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110608 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140701 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4771186 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |