JP2016525842A - カメラ動き予測及び修正のための方法 - Google Patents
カメラ動き予測及び修正のための方法 Download PDFInfo
- Publication number
- JP2016525842A JP2016525842A JP2016530053A JP2016530053A JP2016525842A JP 2016525842 A JP2016525842 A JP 2016525842A JP 2016530053 A JP2016530053 A JP 2016530053A JP 2016530053 A JP2016530053 A JP 2016530053A JP 2016525842 A JP2016525842 A JP 2016525842A
- Authority
- JP
- Japan
- Prior art keywords
- state
- acquisition device
- image acquisition
- state prediction
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/689—Motion occurring during a rolling shutter mode
Abstract
Description
ここで、HθとHpは、時刻t+ntrにおける、カメラの位置及び方向についての測定関数のヤコビアンであり、xaは、カメラ−IMU較正、特徴位置、及び、潜在的には、測定関数に現れる任意の追加的変数(例えば、カメラ固有パラメータ)の誤差を含み、Haは、対応するヤコビアンである。式(3)及び(4)を用いて、上記は、以下のように書ける:
誤差表現における項の適切な種類及び数は、計算量の抑制への相対的な改善、及び/あるいは、最終結果の全体的な精度を提供することが出来る。関数
IMUの支援でスキャンカメラからの特徴の測定を処理する方法は、複数の例示的状態予測器に適用可能である。この方法の性能を示すために、ロールシャッタが画像に存在することを説明しないアプローチと比較して、ここに開示の方法は、ハイブリッド予測器と併用して適用される。EKF不整合を防ぐため、ヤコビアンが計算されるとき、ある規定が設けられることが出来る。
図4は、例示的システム400のブロック図である。システム400は、慣性測定ユニット404と画像取得デバイス402を含む。状態予測回路410は、更に、画像取得デバイス402と慣性測定ユニット404に結合されているのが示されている。図4の例の状態予測回路410は、更に、プロセッサ412とメモリモジュール414を含む。一例において、図4に示されるように、システム400は、更に、ユーザインタフェース406と修正モジュール408を含む。ブロック図のコンポーネントは、ここに開示されるようなコンポーネントに対応し、ここに開示される動作と計算を実行するように構成されるということが留意され、強調される。図4に図示されたシステムは、様々なコンポーネントを含むが、様々な例において、そのようなコンポーネントは、任意であり、適切にまたは所望のとおりに含まれても含まれなくてもよいことに留意されたい。
Claims (27)
- ある時間に渡って、画像フレームをスキャンすることによって、画像を取得するように構成された画像取得デバイスと、
前記ある時間の間、前記画像取得デバイスの位置、方向、及び、動きの少なくとも1つを測定し、検出された前記動きの指標を出力するように構成された慣性測定ユニットと、
前記慣性測定ユニットと前記画像取得デバイスとに動作可能なように結合され、前記位置、前記方向、及び、前記動きの前記少なくとも1つに基づいて、前記画像取得デバイスの位置、及び、方向の少なくとも1つに関連した状態を予測するように構成された状態予測モジュールと、
を含むシステム。 - 前記状態予測モジュールは、予測された前記状態を出力するように構成され、更に、前記状態予測モジュールから出力された前記状態を表示するように構成されたユーザインタフェースを含む、請求項1に記載のシステム。
- 前記慣性測定ユニットは、前記画像取得デバイスに堅固に接続されている、請求項1に記載のシステム。
- 前記画像取得デバイスは、ロールシャッタカメラである、請求項1に記載のシステム。
- 前記状態予測モジュールは、前記状態を予測するために、前記動きにパラメータモデルを適用するように構成されたプロセッサを含む、請求項1に記載のシステム。
- 前記慣性測定ユニットは、加速度計、ジャイロスコープ、及び、磁気計の少なくとも1つを含む、請求項1に記載のシステム。
- 前記状態予測モジュールは、予測された前記状態を出力するように構成され、更に、前記状態予測モジュールに動作可能に結合され、前記状態予測モジュールから出力した前記状態に従って、前記画像を修正するように構成された状態修正モジュールを含む、請求項1に記載のシステム。
- 前記状態予測モジュールは、前記状態の更新の計算を実行するために、前記状態の予測において、誤差のパラメータモデルを用いるように構成される、請求項1に記載のシステム。
- 前記状態予測モジュールは、時間的関数に基づいて構成されたパラメータモデルを用いるように構成される、請求項8に記載のシステム。
- ある時間の間、慣性測定ユニットの出力に基づいて計算された、画像取得デバイスの動きの記述を格納するように構成されたメモリモジュールと、
前記画像取得デバイスの位置、及び、方向の少なくとも1つと関連した状態を予測するように構成されたプロセッサと、を含み、
前記画像取得デバイスは、前記ある時間に渡って、画像フレームをスキャンすることによって、前記画像を取得するように構成される、状態予測回路。 - 前記状態予測回路は、予測された前記状態をユーザインタフェースに出力するように構成され、前記ユーザインタフェースは、出力された前記状態を表示するように構成される、請求項10に記載の状態予測回路。
- 前記画像取得デバイスは、ロールシャッタカメラである、請求項10に記載の状態予測回路。
- 前記慣性測定ユニットは、加速度計、ジャイロスコープ、及び、磁気計の少なくとも1つを含む、請求項10に記載の状態予測回路。
- 更に、前記状態に従って、前記画像を修正するように構成される、請求項10に記載の状態予測回路。
- 前記プロセッサは、状態予測を更新するために測定残差を計算するために、前記ある時間の間、前記画像取得デバイスの動きをモデル化するように構成される、請求項10に記載の状態予測回路。
- 前記プロセッサは、状態更新の計算を実行するために、状態予測における1以上の誤差のパラメータモデルを適用するように構成されている、請求項10に記載の状態予測回路。
- 前記プロセッサは、時間的関数に基づいて構成されたパラメータモデルを適用するように構成される、請求項16に記載の状態予測回路。
- ある時間に渡って、画像フレームをスキャンすることによって、画像取得デバイスから画像を取得することと、
前記ある時間の間、前記画像取得デバイスの位置、方向、及び、動きの少なくとも1つを取得するために、慣性測定ユニットを使用することと、
状態予測モジュールによって、前記画像取得デバイスに関連した状態を予測することと、
を含む方法。 - ユーザインタフェース上に、前記状態予測モジュールからの、予測された前記状態を表示すること、を更に含む、請求項18に記載の方法。
- 前記慣性測定ユニットを使用することは、前記画像取得デバイスに堅固に接続された慣性測定ユニットを用いることを含む、請求項18に記載の方法。
- 画像取得デバイスから前記画像を取得することは、ロールシャッタカメラから画像を取得することを含む、請求項18に記載の方法。
- 前記画像取得デバイスに関連した前記状態を予測することは、前記状態を予測するために、前記動きにパラメータモデルを適用するように構成されたプロセッサを使用することを含む、請求項18に記載の方法。
- 前記慣性測定ユニットを使用することは、加速度計、ジャイロスコープ、及び、磁気計の少なくとも1つを使用することを含む、請求項18に記載の方法。
- 更に、前記状態予測モジュールから出力された前記状態に従って、前記画像を修正するための状態修正モジュールを使用することを含む、請求項18に記載の方法。
- 状態を予測することは、状態予測を更新するために測定残差を計算するために、前記ある時間の間、前記画像取得デバイスの動きをモデル化するために、慣性測定を使用することを含む、請求項18に記載の方法。
- 状態を予測することは、状態更新の計算を実行するために、状態予測における1以上の誤差のパラメータモデルを使用することを含む、請求項18に記載の方法。
- 状態を予測することは、時間的関数に基づいて構成されたパラメータモデルを使用することを含む、請求項26に記載の方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201361857922P | 2013-07-24 | 2013-07-24 | |
US61/857,922 | 2013-07-24 | ||
PCT/US2014/048055 WO2015013534A1 (en) | 2013-07-24 | 2014-07-24 | Method for camera motion estimation and correction |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016525842A true JP2016525842A (ja) | 2016-08-25 |
JP6534664B2 JP6534664B2 (ja) | 2019-06-26 |
Family
ID=52393847
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016530053A Expired - Fee Related JP6534664B2 (ja) | 2013-07-24 | 2014-07-24 | カメラ動き予測及び修正のための方法 |
Country Status (7)
Country | Link |
---|---|
US (1) | US9967463B2 (ja) |
EP (1) | EP3025275A4 (ja) |
JP (1) | JP6534664B2 (ja) |
KR (1) | KR20160037972A (ja) |
CN (1) | CN105706112A (ja) |
HK (1) | HK1226515A1 (ja) |
WO (1) | WO2015013534A1 (ja) |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9766074B2 (en) | 2008-03-28 | 2017-09-19 | Regents Of The University Of Minnesota | Vision-aided inertial navigation |
US10254118B2 (en) | 2013-02-21 | 2019-04-09 | Regents Of The University Of Minnesota | Extrinsic parameter calibration of a vision-aided inertial navigation system |
US9607401B2 (en) | 2013-05-08 | 2017-03-28 | Regents Of The University Of Minnesota | Constrained key frame localization and mapping for vision-aided inertial navigation |
EP3025275A4 (en) | 2013-07-24 | 2017-02-15 | The Regents Of The University Of California | Method for camera motion estimation and correction |
US10012504B2 (en) | 2014-06-19 | 2018-07-03 | Regents Of The University Of Minnesota | Efficient vision-aided inertial navigation using a rolling-shutter camera with inaccurate timestamps |
US9658070B2 (en) | 2014-07-11 | 2017-05-23 | Regents Of The University Of Minnesota | Inverse sliding-window filters for vision-aided inertial navigation systems |
US9709404B2 (en) | 2015-04-17 | 2017-07-18 | Regents Of The University Of Minnesota | Iterative Kalman Smoother for robust 3D localization for vision-aided inertial navigation |
US9984301B2 (en) | 2015-04-20 | 2018-05-29 | Qualcomm Incorporated | Non-matching feature-based visual motion estimation for pose determination |
CN105577984A (zh) * | 2015-12-27 | 2016-05-11 | 西南技术物理研究所 | 复合mems-imu的电子稳像装置 |
US10203209B2 (en) | 2016-05-25 | 2019-02-12 | Regents Of The University Of Minnesota | Resource-aware large-scale cooperative 3D mapping using multiple mobile devices |
WO2018026544A1 (en) | 2016-07-22 | 2018-02-08 | Regents Of The University Of Minnesota | Square-root multi-state constraint kalman filter for vision-aided inertial navigation system |
CN108431869A (zh) * | 2016-08-06 | 2018-08-21 | 深圳市大疆创新科技有限公司 | 用于移动平台成像的系统和方法 |
EP3529978B1 (en) * | 2016-10-20 | 2022-05-18 | Spookfish Innovations Pty Ltd. | An image synthesis system |
JP7221203B2 (ja) | 2017-01-23 | 2023-02-13 | オックスフォード ユニヴァーシティ イノヴェーション リミテッド | モバイル装置の位置特定方法 |
US11348274B2 (en) | 2017-01-23 | 2022-05-31 | Oxford University Innovation Limited | Determining the location of a mobile device |
US10907971B2 (en) | 2017-12-08 | 2021-02-02 | Regents Of The University Of Minnesota | Square root inverse Schmidt-Kalman filters for vision-aided inertial navigation and mapping |
US11940277B2 (en) | 2018-05-29 | 2024-03-26 | Regents Of The University Of Minnesota | Vision-aided inertial navigation system for ground vehicle localization |
CN109040525B (zh) * | 2018-08-31 | 2021-10-22 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、计算机可读介质及电子设备 |
US10609288B1 (en) * | 2019-03-04 | 2020-03-31 | Qualcomm Incorporated | Roll compensation and blur reduction in tightly synchronized optical image stabilization (OIS) |
WO2021081707A1 (zh) * | 2019-10-28 | 2021-05-06 | 深圳市大疆创新科技有限公司 | 数据处理方法、装置、可移动平台及计算机可读存储介质 |
CN111935392B (zh) * | 2020-05-26 | 2022-01-07 | 许继集团有限公司 | 用于综合管廊吊轨机器人巡检视频数字防抖的方法和系统 |
US11341412B1 (en) * | 2021-07-01 | 2022-05-24 | Biomech Sensor, Llc | Systems and methods for constructing motion models based on sensor data |
US11468545B1 (en) * | 2022-04-18 | 2022-10-11 | Biomech Sensor, Llc | Systems and methods for motion measurement drift correction |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012253778A (ja) * | 2011-06-06 | 2012-12-20 | Apple Inc | 画像安定化を使用したローリングシャッターの修正 |
JP2013123229A (ja) * | 2012-12-27 | 2013-06-20 | Morpho Inc | 画像処理装置、画像処理方法及び画像処理プログラム |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6272432B1 (en) * | 1999-05-10 | 2001-08-07 | Hughes Electronics Corporation | System and method for correcting star tracker low spatial frequency error in stellar-inertial attitude determination systems |
JP2004510363A (ja) * | 2000-08-31 | 2004-04-02 | ライテック コーポレイション | センサおよびイメージングシステム |
DE102004049676A1 (de) * | 2004-10-12 | 2006-04-20 | Infineon Technologies Ag | Verfahren zur rechnergestützten Bewegungsschätzung in einer Vielzahl von zeitlich aufeinander folgenden digitalen Bildern, Anordnung zur rechnergestützten Bewegungsschätzung, Computerprogramm-Element und computerlesbares Speichermedium |
US8068140B2 (en) * | 2006-08-07 | 2011-11-29 | Avago Technologies General Ip (Singapore) Pte. Ltd. | Still image stabilization suitable for compact camera environments |
US7817187B2 (en) * | 2007-06-27 | 2010-10-19 | Aptina Imaging Corporation | Image blur correction using a secondary camera |
US8896712B2 (en) * | 2007-07-20 | 2014-11-25 | Omnivision Technologies, Inc. | Determining and correcting for imaging device motion during an exposure |
US7978222B2 (en) * | 2008-03-01 | 2011-07-12 | Avago Technologies Ecbu Ip (Singapore) Pte. Ltd. | Systems and methods for image stabilization |
US9766074B2 (en) * | 2008-03-28 | 2017-09-19 | Regents Of The University Of Minnesota | Vision-aided inertial navigation |
EP2489180A1 (en) | 2009-10-14 | 2012-08-22 | CSR Technology Inc. | Method and apparatus for image stabilization |
US9568321B2 (en) * | 2010-04-19 | 2017-02-14 | Honeywell International Inc. | Systems and methods for determining inertial navigation system faults |
US8724906B2 (en) * | 2011-11-18 | 2014-05-13 | Microsoft Corporation | Computing pose and/or shape of modifiable entities |
EP3025275A4 (en) | 2013-07-24 | 2017-02-15 | The Regents Of The University Of California | Method for camera motion estimation and correction |
-
2014
- 2014-07-24 EP EP14829982.9A patent/EP3025275A4/en not_active Withdrawn
- 2014-07-24 CN CN201480052288.5A patent/CN105706112A/zh active Pending
- 2014-07-24 US US14/906,869 patent/US9967463B2/en not_active Expired - Fee Related
- 2014-07-24 WO PCT/US2014/048055 patent/WO2015013534A1/en active Application Filing
- 2014-07-24 JP JP2016530053A patent/JP6534664B2/ja not_active Expired - Fee Related
- 2014-07-24 KR KR1020167004902A patent/KR20160037972A/ko not_active Application Discontinuation
-
2016
- 2016-12-22 HK HK16114589A patent/HK1226515A1/zh unknown
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012253778A (ja) * | 2011-06-06 | 2012-12-20 | Apple Inc | 画像安定化を使用したローリングシャッターの修正 |
JP2013123229A (ja) * | 2012-12-27 | 2013-06-20 | Morpho Inc | 画像処理装置、画像処理方法及び画像処理プログラム |
Also Published As
Publication number | Publication date |
---|---|
HK1226515A1 (zh) | 2017-09-29 |
JP6534664B2 (ja) | 2019-06-26 |
CN105706112A (zh) | 2016-06-22 |
EP3025275A1 (en) | 2016-06-01 |
EP3025275A4 (en) | 2017-02-15 |
KR20160037972A (ko) | 2016-04-06 |
WO2015013534A1 (en) | 2015-01-29 |
US9967463B2 (en) | 2018-05-08 |
US20160165140A1 (en) | 2016-06-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6534664B2 (ja) | カメラ動き予測及び修正のための方法 | |
EP3679549B1 (en) | Visual-inertial odometry with an event camera | |
US10636151B2 (en) | Method for estimating the speed of movement of a camera | |
CN102914293B (zh) | 信息处理设备和信息处理方法 | |
Li et al. | High-fidelity sensor modeling and self-calibration in vision-aided inertial navigation | |
US10109104B2 (en) | Generation of 3D models of an environment | |
JP5987823B2 (ja) | 画像センサおよび運動または位置センサから生じたデータを融合するための方法およびシステム | |
CN110146099B (zh) | 一种基于深度学习的同步定位与地图构建方法 | |
US20180075614A1 (en) | Method of Depth Estimation Using a Camera and Inertial Sensor | |
US8391542B2 (en) | Method for estimating the pose of a PTZ camera | |
KR20150088636A (ko) | 위치 추정 장치 및 방법 | |
US11082633B2 (en) | Method of estimating the speed of displacement of a camera | |
US20180075609A1 (en) | Method of Estimating Relative Motion Using a Visual-Inertial Sensor | |
US9934585B2 (en) | Apparatus and method for registering images | |
JP2010014450A (ja) | 位置測定方法、位置測定装置、およびプログラム | |
CN112184824A (zh) | 一种相机外参标定方法、装置 | |
Kim et al. | Real-time rotational motion estimation with contrast maximization over globally aligned events | |
CN113587934A (zh) | 一种机器人、室内定位方法、装置和可读存储介质 | |
WO2019045722A1 (en) | METHODS, DEVICES AND COMPUTER PROGRAM PRODUCTS FOR 3D CARTOGRAPHY ESTIMATION AND 3D IMAGE POSES | |
Faraji et al. | Simplified active calibration | |
Rehder et al. | A direct formulation for camera calibration | |
CN111052183B (zh) | 利用事件相机的视觉惯性里程计 | |
KR101477009B1 (ko) | 고속 움직임 추정 방법 및 장치 | |
Amanatiadis et al. | A rotational and translational image stabilization system for remotely operated robots | |
Audu et al. | Scene Reconstruction from Multiple Images with Single Centre of Projection |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170718 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180730 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180821 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181116 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190507 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190529 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6534664 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |