JP6605640B2 - 制約ベースの回転平滑化を介してデジタルビデオを安定化するためのシステムおよび方法 - Google Patents
制約ベースの回転平滑化を介してデジタルビデオを安定化するためのシステムおよび方法 Download PDFInfo
- Publication number
- JP6605640B2 JP6605640B2 JP2018020047A JP2018020047A JP6605640B2 JP 6605640 B2 JP6605640 B2 JP 6605640B2 JP 2018020047 A JP2018020047 A JP 2018020047A JP 2018020047 A JP2018020047 A JP 2018020047A JP 6605640 B2 JP6605640 B2 JP 6605640B2
- Authority
- JP
- Japan
- Prior art keywords
- orientation data
- camera
- camera orientation
- user
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 59
- 238000009499 grossing Methods 0.000 title claims description 25
- 230000000087 stabilizing effect Effects 0.000 title description 2
- 230000006870 function Effects 0.000 claims description 28
- 238000003860 storage Methods 0.000 claims description 19
- 230000015654 memory Effects 0.000 claims description 12
- 230000006855 networking Effects 0.000 description 106
- 238000005096 rolling process Methods 0.000 description 39
- 230000006641 stabilisation Effects 0.000 description 34
- 238000011105 stabilization Methods 0.000 description 34
- 230000009471 action Effects 0.000 description 19
- 230000009466 transformation Effects 0.000 description 15
- 230000008569 process Effects 0.000 description 14
- 230000000694 effects Effects 0.000 description 13
- 238000012937 correction Methods 0.000 description 11
- 230000008859 change Effects 0.000 description 10
- 238000005457 optimization Methods 0.000 description 10
- 238000004891 communication Methods 0.000 description 9
- 230000003993 interaction Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000005259 measurement Methods 0.000 description 6
- 230000008439 repair process Effects 0.000 description 6
- 238000000844 transformation Methods 0.000 description 6
- 238000013459 approach Methods 0.000 description 5
- 239000011159 matrix material Substances 0.000 description 5
- 230000006399 behavior Effects 0.000 description 4
- 239000002131 composite material Substances 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 230000009118 appropriate response Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 238000012952 Resampling Methods 0.000 description 1
- 239000008186 active pharmaceutical agent Substances 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 235000014510 cooky Nutrition 0.000 description 1
- 238000011480 coordinate descent method Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000013213 extrapolation Methods 0.000 description 1
- 238000009472 formulation Methods 0.000 description 1
- 239000012634 fragment Substances 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
- G11B27/10—Indexing; Addressing; Timing or synchronising; Measuring tape travel
- G11B27/11—Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information not detectable on the record carrier
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/689—Motion occurring during a rolling shutter mode
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/91—Television signal processing therefor
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
Description
一実施形態では、結果として得られた平滑化画像フレームのセットにおける空き領域の量は、閾値未満に最小化することができる。
一実施形態では、結果として得られた平滑化画像フレームのセットにおける空き領域の量は、閾値未満に最小化することができる。
一実施形態では、関連付けられたタイムスタンプを有するカメラ配向データのセットは、ハンドヘルド式デバイスのジャイロスコープから提供することができる。
一実施形態では、関連付けられたタイムスタンプを有するカメラ配向データのセットは、携帯電話およびデジタルカメラを含むハンドヘルド式デバイスのジャイロスコープから提供することができる。画像フレームのセットは、デジタルカメラから提供することができる。
一実施形態では、平滑化されたカメラ配向データのセットを生成することは、ガウシアンフィルタに基づいてフィルタリングすることを含み得る。
一実施形態では、カメラ配向データのセットは、無変換の回転を含み得る。
一実施形態では、平滑化されたカメラ配向データのセットを生成することは、ソーシャルネットワーキングシステムによって実行される。
ローリングシャッタ補正は、フレーム内のカメラモーションによって生成された画像のゆがみを取り除くための技法である。高性能のカメラは、グローバルシャッタ(GS)を有する電荷結合素子(CCD)センサを使用する。GSカメラでは、多くのDSLRを含めて、CCDセンサ上のすべての画素の読み取りおよびリセットが同時に行われる。したがって、すべての画素が同じ時間間隔の間に光を収集する。結果的に、露光の間のカメラモーションは、これらの素子上である程度の画像ブラーをもたらす。対照的に、低性能のカメラは、通常、相補型金属酸化膜半導体(CMOS)センサを利用する。具体的には、これらのセンサは、ローリングシャッタを使用し、画像行の読み取りおよびリセットが連続的に行われる。この手法は、CCDセンサと比べて、より少ない回路を必要とし得、CMOSセンサの製造をより安くすることができる。その理由のため、CMOSセンサは、携帯電話、音楽プレーヤおよびいくつかの低性能のカムコーダで頻繁に使用される。しかし、連続的な読み取りは、わずかに異なる時間ウインドウの間に各行が露光されることを意味する。その結果、行の読み取りの間のカメラモーションは、ゆがんだ画像を生成することになる。高速の移動被写体もまたひずんで見える。
一実施形態では、ピンホールカメラモデルに基づく回転ローリングシャッタカメラモデルが提供される。図1は、一実施形態による、ピンホールカメラモデル101の例を示す。場面におけるカメラの中心cからポイントxまでの光線は、ポイントxで画像平面と交差する。したがって、画像平面上への空間の投影は、カメラの中心c、焦点距離fおよび画像平面におけるカメラの軸の位置(ox,oy)に依存する。ピンホールカメラでは、同次座標における画像ポイントxと3D空間座標における対応するポイントXとの関係は、方程式の例(1)によって指定することができる。
ここで、λは、未知のスケーリング係数であり、Kは、内部カメラである。K−1は、方程式の例(2)によって指定することができる。
回転行列R(t)∈SO(3)は、カメラ角度Δθ(t)の変化を複合することによって演算することができる。四元数の球面線形補間(SLERP:spherical linear interpolation)は、カメラの向き(カメラ配向)を平滑に補間し、ジンバルロックを回避するために使用することができる。ジャイロスコープのサンプル間の角度の変化は、そのオイラー角が回転四元数と同じ働きをするほど十分に小さいものであり得る。Δθ(t)は、以下の方程式の例(4)によって指定されるように、ジャイロスコープが測定した回転速度ω(t)から直接得ることができる。
ωdは、ジャイロスコープドリフトであり、tdは、ジャイロスコープとフレームサンプルタイムスタンプとの間の遅延である。これらのパラメータは、これも同様に回復することができるそのモデルにおける追加の未知数である。
yは、ポイントxに対応する画像行である。hは、フレームにおける行の総数である。tiは、i番目のフレームのタイムスタンプである。ts項は、フレームの下方に行くほど、ローリングシャッタがその行に到達するのに要する時間が長くなることを示す。したがって、tsは、行ごとに上から下まで全フレームを読み取るのに要する時間である。負のts値は、下から上に向かうローリングシャッタを示すことになる。符号やts値の自動回復については、本明細書でさらに詳細に説明する。
これらの方程式が再構成され、Xが代入された場合、方程式の例(7)によって指定されるように、フレームjにおけるすべてのポイントへのフレームiにおけるすべてのポイントの写像が得られる。
2つのフレーム間の関係について同じビデオと関連して説明してきたが、他の実施形態では、フレームは、R(t)に応じて回転するあるカメラからR’(t)に応じて回転する別のカメラに写像することができる。一実施形態では、両方のカメラの中心は、原点にあると仮定することができる。あるカメラから別のカメラにポイントを写像するゆがみ行列Wは、以下の方程式の例(8)に従って指定することができる。
ここで、以下の方程式の例(9)に従って、方程式7をよりコンパクトに指定することができる。
Wは、画像ポイントxiおよびxjのそれぞれの画像行yiおよびyjの両方に依存する。このゆがみ行列は、両方のフレームにおいてローリングシャッタの効果を考慮に入れながら、フレームiのポイントとフレームjの対応するポイントとを一致させるために使用することができる。
本明細書で説明される未知のカメラおよびジャイロスコープパラメータを回復するための較正技法が提供される。較正により、ジャイロスコープデータからのWの直接演算が可能になり得る。本明細書で説明されるモデルにおける未知のパラメータは、カメラの焦点距離f、ローリングシャッタの持続時間ts、ジャイロスコープとフレームサンプルタイムスタンプとの間の遅延tdおよびジャイロスコープドリフトwdを含み得る。
を使用して特定され得る。外れ値は、例えば、ランダムサンプルコンセンサス(RANSAC:random sample consensus)を使用して破棄することができる。その結果は、キャプチャされたビデオのすべての近隣のフレームに対するポイント対応xiおよびxjのセットであり得る。このグランドトゥルース(ground truth)を前提として、較正は、すべてのポイント対応の平均二乗再投影誤差を最小化することができる最適化問題として公式化することができる。これは、以下の方程式の例(10)で指定される。
ジャイロスコープの向きを発見するため、3本の回転軸を置換することができ、各置換に対してオプティマイザを実行することができる。目的を最適に最小化する置換は、カメラの軸の順序付けに相当し得る。再投影誤差は、誤った置換に対してはかなり大きいものであり得る。したがって、実際には、この方法がうまく機能する。
本開示のいくつかの態様では、空き領域が目に見えないかまたは最小閾値未満であるという制約の下、最適に平滑化されたカメラモーションを演算するためのシステムおよび方法を提供することができる。図4は、実施形態による、デジタルビデオ安定化モジュールの例を示す。デジタルビデオ安定化モジュール400は、入力モジュール401、平滑化モジュール402およびゆがみモジュール403を含めて示される。
一実施形態では、最小化するエネルギー関数Jは、以下の方程式の例(12)によって指定することができる。
低光量で撮られたビデオのデジタルビデオ安定化は、奇妙なモーションブラー・アーチファクトを生成する場合が多い。このモーションブラー・アーチファクトは、モーションブラーを引き起こしたモーション(例えば、手ブレ)が取り除かれた際にモーションブラーが奇妙に見えるため発生し得る。いくつかの例では、モーション跡について説明するために必要な手ブレだけ、安定させたビデオに残すことが必要であり得る。明確な水平モーション跡がフレームにある場合は、跡が意味をなすようにするため、その跡に従って向きを水平に変化させる必要があり得る。水平モーションがない場合は、その跡は、安定させたビデオに理由もなく収まったり飛び出たりするように見え、それにより、目に見えるモーションブラー・アーチファクトを生じ得る。
例えば、許容できるズームファクタ(またはクロップファクタ、修復ファクタ、もしくはデジタルビデオ安定化に余裕を提供するために使用されるアルゴリズムに適用可能な他の任意の対策)は1〜1.25である。所定のビデオに対して、平滑なカメラモーションを生み出せるほど十分な余裕を提供する最も小さなズームファクタを決定することが望ましい場合がある。一実施形態では、結果として得られたカメラモーションの平滑性は、以下の方程式の例(19)によって測定することができる。
勾配降下以外のオプティマイザなどを使用する、近似の導入など、アルゴリズム(1)の効率を向上するための多くの方法がある。一実施形態では、方程式(15)におけるKのカーネルのサイズを低減することができ、以下の方程式の例(20)で指定されるように、勾配を更新することができる。
以下は、リアルタイムの設定にアルゴリズムを採用する実施形態の例として提供される。Nのフレームをメモリに保存して、スライドウィンドウ形式でアルゴリズムが実行される。添え字iは、スライドウィンドウの開始を示し得、i+Nは、スライドウィンドウの終了を示し得る。スライドウィンドウ内部の向きは、アルゴリズムを実行することによって更新することができるという点で、適応性があるものであり得る。これらの向きは、以下のセット(2)によって指定することができる。
図7は、本発明の実施形態による、ウェブサイトまたはアプリケーション上のユーザの関心を推定するためのシステム700の例のネットワーク図を示す。システム700は、1つまたは複数のユーザデバイス710、1つまたは複数の外部システム720、ソーシャルネットワーキングシステム730およびネットワーク750を含む。一実施形態では、上記で説明される実施形態に関連して論じられるソーシャルネットワーキングシステムは、ソーシャルネットワーキングシステム730として実装することができる。例示を目的として、図7によって示されるシステム700の実施形態は、単一の外部システム720および単一のユーザデバイス710を含む。しかし、他の実施形態では、システム700は、より多くのユーザデバイス710および/またはより多くの外部システム720を含み得る。ある実施形態では、ソーシャルネットワーキングシステム730は、ソーシャルネットワークプロバイダによって動作され、外部システム720は、異なる実体によって動作され得るという点で、ソーシャルネットワーキングシステム730から分離される。しかし、様々な実施形態では、ソーシャルネットワーキングシステム730のユーザ(またはメンバー)にソーシャルネットワーキングサービスを提供するため、ソーシャルネットワーキングシステム730および外部システム720は連動する。この意味で、ソーシャルネットワーキングシステム730は、プラットホームまたはバックボーンを提供し、他のシステム(外部システム720など)は、プラットホームまたはバックボーンを使用して、インターネット上でソーシャルネットワーキングサービスおよび機能性をユーザに提供することができる。
ハードウェアの実装
前述のプロセスおよび特徴は、多種多様なマシンおよびコンピュータシステムアーキテクチャによって、ならびに、多種多様なネットワークおよびコンピューティング環境で実装することができる。図8は、本発明の実施形態による、本明細書で説明される実施形態のうちの1つまたは複数の実装に使用することができるコンピュータシステム800の例を示す。コンピュータシステム800は、本明細書で論じられるプロセスおよび特徴をコンピュータシステム800に実行させる命令セットを含む。コンピュータシステム800は、他のマシンに接続(例えば、ネットワーク接続)することができる。ネットワーク接続された配置では、コンピュータシステム800は、クライアントサーバネットワーク環境におけるサーバマシンもしくはクライアントマシンの資格で、または、ピアツーピア(または分散型)ネットワーク環境におけるピアマシンとして動作することができる。本発明の実施形態では、コンピュータシステム800は、本明細書で説明されるソーシャルネットワーキングシステムのコンポーネントであり得る。本発明の実施形態では、コンピュータシステム800は、ソーシャルネットワーキングシステム830のすべてまたは一部を構成する多くのサーバのうちの1つのサーバであり得る。
Claims (13)
- コンピュータにより実施される方法であって、
コンピュータシステムが、ビデオに関連する入力画像フレームを受信するステップと、
前記コンピュータシステムが、ジャイロスコープからのカメラ配向データを受信するステップと、
前記コンピュータシステムが、前記カメラ配向データを平滑化して一組の平滑化されたカメラ配向データを生成するステップであって、前記カメラ配向データを平滑化することは、1つまたは複数の制約を課しつつ、エネルギー関数を最小化することを含む、前記一組の平滑化されたカメラ配向データを生成するステップと、
前記コンピュータシステムが、少なくとも前記入力画像フレームおよび前記一組の平滑化されたカメラ配向データに基づいて安定化された画像フレームを生成するステップとを含むコンピュータにより実施される方法。 - 前記ビデオの画像フレームは、前記入力画像フレームを含む、請求項1に記載の方法。
- 前記入力画像フレームの数は、前記ビデオの画像フレームの数に等しい、請求項1に記載の方法。
- 前記カメラ配向データを平滑化することは、前記一組の平滑化されたカメラ配向データに基づいて再配向された入力画像フレームの空き領域の量を最小化しつつ、連続的な入力画像フレーム間の回転速度を最小化することを含み、前記空き領域の量は、閾値を満たすように最小化される、請求項1に記載の方法。
- 前記カメラ配向データを平滑化することは、カメラモーションと空き領域の制約に基づいてズームを選択することをさらに含む、請求項4に記載の方法。
- 前記安定化された画像フレームを生成するステップは、前記一組の平滑化されたカメラ配向データのセットに基づいて前記入力画像フレームをゆがめることをさらに含む、請求項1に記載の方法。
- 前記コンピュータシステムは、前記ジャイロスコープを含むモバイルデバイスである、請求項1に記載の方法。
- システムであって、
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサに
ビデオに関連する入力画像フレームを受信すること、
ジャイロスコープからのカメラ配向データを受信すること、
前記カメラ配向データを平滑化して一組の平滑化されたカメラ配向データを生成することであって、前記カメラ配向データを平滑化することは、1つまたは複数の制約を課しつつ、エネルギー関数を最小化することを含む、前記一組の平滑化されたカメラ配向データを生成すること、
少なくとも前記入力画像フレームおよび前記一組の平滑化されたカメラ配向データに基づいて安定化された画像フレームを生成することを実行するように指示するように構成された命令を記憶するメモリとを備えるシステム。 - 前記ビデオの画像フレームは、前記入力画像フレームを含む、請求項8に記載のシステム。
- 前記入力画像フレームの数は、前記ビデオの画像フレームの数に等しい、請求項8に記載のシステム。
- コンピュータ実行可能な命令を格納する非一時的コンピュータ記憶媒体であって、前記コンピュータ実行可能な命令は、実行時にコンピュータシステムにコンピュータにより実行される方法を実行させ、前記方法は、
ビデオに関連する入力画像フレームを受信するステップと、
前記コンピュータシステムが、ジャイロスコープからのカメラ配向データを受信するステップと、
前記カメラ配向データを平滑化して一組の平滑化されたカメラ配向データを生成するステップであって、前記カメラ配向データを平滑化することは、1つまたは複数の制約を課しつつ、エネルギー関数を最小化することを含む、前記一組の平滑化されたカメラ配向データを生成するステップと、
少なくとも前記入力画像フレームおよび前記一組の平滑化されたカメラ配向データに基づいて安定化された画像フレームを生成するステップとを含む、非一時的コンピュータ記憶媒体。 - 前記ビデオの画像フレームは、前記入力画像フレームを含む、請求項11に記載の非一時的コンピュータ記憶媒体。
- 前記入力画像フレームの数は、前記ビデオの画像フレームの数に等しい、請求項11に記載の非一時的コンピュータ記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019189053A JP6937809B2 (ja) | 2012-12-11 | 2019-10-16 | 制約ベースの回転平滑化を介してデジタルビデオを安定化するためのシステムおよび方法 |
Applications Claiming Priority (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201261735976P | 2012-12-11 | 2012-12-11 | |
US61/735,976 | 2012-12-11 | ||
US14/101,252 | 2013-12-09 | ||
US14/101,252 US9071756B2 (en) | 2012-12-11 | 2013-12-09 | Systems and methods for digital video stabilization via constraint-based rotation smoothing |
EP13196486.8A EP2744192B1 (en) | 2012-12-11 | 2013-12-10 | Systems and methods for digital video stabilization via constraint-based rotation smoothing |
EP13196486.8 | 2013-12-10 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015547507A Division JP6608700B2 (ja) | 2012-12-11 | 2013-12-11 | 制約ベースの回転平滑化を介してデジタルビデオを安定化するためのシステムおよび方法 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019189053A Division JP6937809B2 (ja) | 2012-12-11 | 2019-10-16 | 制約ベースの回転平滑化を介してデジタルビデオを安定化するためのシステムおよび方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018085775A JP2018085775A (ja) | 2018-05-31 |
JP6605640B2 true JP6605640B2 (ja) | 2019-11-13 |
Family
ID=49726634
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015547507A Active JP6608700B2 (ja) | 2012-12-11 | 2013-12-11 | 制約ベースの回転平滑化を介してデジタルビデオを安定化するためのシステムおよび方法 |
JP2018020047A Expired - Fee Related JP6605640B2 (ja) | 2012-12-11 | 2018-02-07 | 制約ベースの回転平滑化を介してデジタルビデオを安定化するためのシステムおよび方法 |
JP2019189053A Active JP6937809B2 (ja) | 2012-12-11 | 2019-10-16 | 制約ベースの回転平滑化を介してデジタルビデオを安定化するためのシステムおよび方法 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015547507A Active JP6608700B2 (ja) | 2012-12-11 | 2013-12-11 | 制約ベースの回転平滑化を介してデジタルビデオを安定化するためのシステムおよび方法 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019189053A Active JP6937809B2 (ja) | 2012-12-11 | 2019-10-16 | 制約ベースの回転平滑化を介してデジタルビデオを安定化するためのシステムおよび方法 |
Country Status (11)
Country | Link |
---|---|
US (4) | US9071756B2 (ja) |
EP (1) | EP2744192B1 (ja) |
JP (3) | JP6608700B2 (ja) |
KR (1) | KR102003012B1 (ja) |
CN (1) | CN104982027B (ja) |
AU (3) | AU2013359372B2 (ja) |
BR (1) | BR112015013565A2 (ja) |
CA (1) | CA2893802C (ja) |
IL (1) | IL239249B (ja) |
MX (1) | MX345710B (ja) |
WO (1) | WO2014093517A1 (ja) |
Families Citing this family (50)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140184615A1 (en) * | 2012-12-28 | 2014-07-03 | Nokia Corporation | Sequential Rendering For Field-Sequential Color Displays |
US9554048B2 (en) * | 2013-09-26 | 2017-01-24 | Apple Inc. | In-stream rolling shutter compensation |
CN104954631B (zh) * | 2014-03-25 | 2018-02-27 | 腾讯科技(深圳)有限公司 | 一种视频处理方法、装置和系统 |
US9413963B2 (en) | 2014-05-30 | 2016-08-09 | Apple Inc. | Video image stabilization |
US9674438B2 (en) | 2014-07-06 | 2017-06-06 | Apple Inc. | Low light video image stabilization strength modulation |
CN105306804B (zh) * | 2014-07-31 | 2018-08-21 | 北京展讯高科通信技术有限公司 | 智能终端及其视频稳像方法及装置 |
US9596411B2 (en) | 2014-08-25 | 2017-03-14 | Apple Inc. | Combined optical and electronic image stabilization |
US9398217B2 (en) | 2014-10-15 | 2016-07-19 | Microsoft Technology Licensing, Llc | Video stabilization using padded margin pixels |
US9392174B2 (en) * | 2014-12-11 | 2016-07-12 | Facebook, Inc. | Systems and methods for time-lapse selection subsequent to capturing media content |
US9948920B2 (en) | 2015-02-27 | 2018-04-17 | Qualcomm Incorporated | Systems and methods for error correction in structured light |
US10068338B2 (en) | 2015-03-12 | 2018-09-04 | Qualcomm Incorporated | Active sensing spatial resolution improvement through multiple receivers and code reuse |
US9530215B2 (en) | 2015-03-20 | 2016-12-27 | Qualcomm Incorporated | Systems and methods for enhanced depth map retrieval for moving objects using active sensing technology |
US9635339B2 (en) | 2015-08-14 | 2017-04-25 | Qualcomm Incorporated | Memory-efficient coded light error correction |
US9846943B2 (en) | 2015-08-31 | 2017-12-19 | Qualcomm Incorporated | Code domain power control for structured light |
US10084962B2 (en) | 2015-11-16 | 2018-09-25 | Google Llc | Spherical video stabilization based on accelerometer data |
CN105282400B (zh) * | 2015-11-20 | 2018-07-13 | 北京理工大学 | 一种基于几何插值的高效视频稳定方法 |
EP3391642B1 (en) * | 2015-12-16 | 2020-02-05 | GoPro, Inc. | Dynamic synchronization of frame rate to a detected cadence in a time lapse image sequence |
WO2017107075A1 (en) * | 2015-12-22 | 2017-06-29 | SZ DJI Technology Co., Ltd. | System, method, and mobile platform for supporting bracketing imaging |
US11477382B2 (en) * | 2016-02-19 | 2022-10-18 | Fotonation Limited | Method of stabilizing a sequence of images |
EP3417606B1 (en) * | 2016-02-19 | 2020-08-12 | FotoNation Limited | A method of stabilizing a sequence of images |
US9787902B1 (en) | 2016-06-10 | 2017-10-10 | Apple Inc. | Video image stabilization with enforced stabilization constraints |
US11057566B2 (en) | 2016-10-20 | 2021-07-06 | Spookfish Innovations Pty Ltd | Image synthesis system |
US10547784B2 (en) * | 2017-06-19 | 2020-01-28 | SighTour Technologies, Inc. | Image stabilization |
US10477064B2 (en) | 2017-08-21 | 2019-11-12 | Gopro, Inc. | Image stitching with electronic rolling shutter correction |
US11245887B2 (en) | 2017-09-14 | 2022-02-08 | Samsung Electronics Co., Ltd. | Electronic device and operation method therefor |
US10462370B2 (en) | 2017-10-03 | 2019-10-29 | Google Llc | Video stabilization |
US10796185B2 (en) * | 2017-11-03 | 2020-10-06 | Facebook, Inc. | Dynamic graceful degradation of augmented-reality effects |
US10171738B1 (en) | 2018-05-04 | 2019-01-01 | Google Llc | Stabilizing video to reduce camera and face movement |
WO2019222544A1 (en) * | 2018-05-16 | 2019-11-21 | Iooi | System and method for navigating content from multiple users on a digital device |
WO2019222059A1 (en) * | 2018-05-16 | 2019-11-21 | Gopro, Inc. | Systems and methods for providing rotational motion correction |
US10587807B2 (en) * | 2018-05-18 | 2020-03-10 | Gopro, Inc. | Systems and methods for stabilizing videos |
JP2020031264A (ja) * | 2018-08-20 | 2020-02-27 | ソニーセミコンダクタソリューションズ株式会社 | 信号処理装置、撮像装置、信号処理方法 |
US10432864B1 (en) | 2018-09-19 | 2019-10-01 | Gopro, Inc. | Systems and methods for stabilizing videos |
KR102573302B1 (ko) | 2018-10-10 | 2023-08-31 | 삼성전자 주식회사 | 영상의 안정화를 위한 카메라 모듈, 그것을 포함하는 전자 장치 및 전자 장치의 영상 안정화 방법 |
JP7206797B2 (ja) * | 2018-10-22 | 2023-01-18 | 株式会社リコー | 撮像装置、情報処理装置、補正値計算方法およびプログラム |
US10911680B2 (en) * | 2018-12-28 | 2021-02-02 | Intel Corporation | Method and system of geolocation and attitude correction for mobile rolling shutter cameras |
CN109379536B (zh) * | 2018-12-29 | 2020-07-31 | 深圳看到科技有限公司 | 画面生成方法、装置、终端及对应的存储介质 |
CN110235431B (zh) * | 2019-04-30 | 2021-08-24 | 深圳市大疆创新科技有限公司 | 电子增稳方法、图像采集设备、可移动平台 |
US11470254B1 (en) | 2019-06-21 | 2022-10-11 | Gopro, Inc. | Systems and methods for assessing stabilization of videos |
EP3987763A4 (en) * | 2019-06-21 | 2023-07-12 | GoPro, Inc. | VIDEO STABILIZATION SYSTEMS AND METHODS |
KR102176273B1 (ko) * | 2019-07-04 | 2020-11-09 | 재단법인대구경북과학기술원 | 동영상 수평 조정 시스템, 방법 및 컴퓨터 프로그램 |
CN110519507B (zh) * | 2019-07-23 | 2021-03-19 | 影石创新科技股份有限公司 | 一种相机镜头平滑处理方法、装置及便携式终端 |
US11138804B2 (en) | 2019-08-02 | 2021-10-05 | Fmr Llc | Intelligent smoothing of 3D alternative reality applications for secondary 2D viewing |
US11948242B2 (en) | 2019-08-02 | 2024-04-02 | Fmr Llc | Intelligent smoothing of 3D alternative reality applications for secondary 2D viewing |
CN110430365B (zh) * | 2019-08-26 | 2021-10-01 | Oppo广东移动通信有限公司 | 防抖方法、装置、计算机设备和存储介质 |
US11694311B2 (en) * | 2020-03-04 | 2023-07-04 | Nec Corporation | Joint rolling shutter image stitching and rectification |
US11190689B1 (en) | 2020-07-29 | 2021-11-30 | Google Llc | Multi-camera video stabilization |
CN112561839B (zh) * | 2020-12-02 | 2022-08-19 | 北京有竹居网络技术有限公司 | 视频裁剪方法、装置、存储介质及电子设备 |
US11405557B1 (en) * | 2021-07-20 | 2022-08-02 | Locus Robotics Corp. | Rolling shutter compensation for moving digital optical camera sensors |
US11863791B1 (en) | 2021-11-17 | 2024-01-02 | Google Llc | Methods and systems for non-destructive stabilization-based encoder optimization |
Family Cites Families (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AUPO793897A0 (en) | 1997-07-15 | 1997-08-07 | Silverbrook Research Pty Ltd | Image processing method and apparatus (ART25) |
US6552744B2 (en) | 1997-09-26 | 2003-04-22 | Roxio, Inc. | Virtual reality camera |
US7015954B1 (en) | 1999-08-09 | 2006-03-21 | Fuji Xerox Co., Ltd. | Automatic video system using multiple cameras |
US7119837B2 (en) * | 2002-06-28 | 2006-10-10 | Microsoft Corporation | Video processing system and method for automatic enhancement of digital video |
US7495694B2 (en) | 2004-07-28 | 2009-02-24 | Microsoft Corp. | Omni-directional camera with calibration and up look angle improvements |
US8207964B1 (en) | 2008-02-22 | 2012-06-26 | Meadow William D | Methods and apparatus for generating three-dimensional image data models |
US7542034B2 (en) * | 2004-09-23 | 2009-06-02 | Conversion Works, Inc. | System and method for processing video images |
JP4793120B2 (ja) | 2006-06-21 | 2011-10-12 | ソニー株式会社 | 手振れ補正方法、手振れ補正方法のプログラム、手振れ補正方法のプログラムを記録した記録媒体及び手振れ補正装置 |
US20080165280A1 (en) | 2007-01-05 | 2008-07-10 | Deever Aaron T | Digital video stabilization with manual control |
US7817187B2 (en) * | 2007-06-27 | 2010-10-19 | Aptina Imaging Corporation | Image blur correction using a secondary camera |
JP5251410B2 (ja) * | 2008-10-03 | 2013-07-31 | 株式会社ニコン | カメラワーク算出プログラム、撮像装置及びカメラワーク算出方法 |
US8363128B2 (en) * | 2009-08-10 | 2013-01-29 | Samsung Electronics Co., Ltd. | Image processing apparatus and image processing method |
US20110085728A1 (en) * | 2009-10-08 | 2011-04-14 | Yuli Gao | Detecting near duplicate images |
JP2011114649A (ja) * | 2009-11-27 | 2011-06-09 | Sanyo Electric Co Ltd | 撮像装置 |
CN101917602B (zh) * | 2010-08-26 | 2012-07-04 | 四川大学 | 基于高分辨率摄像头的数字视频智能监控设备及数据处理方法 |
US8488010B2 (en) * | 2010-09-21 | 2013-07-16 | Hewlett-Packard Development Company, L.P. | Generating a stabilized video sequence based on motion sensor data |
US8531535B2 (en) | 2010-10-28 | 2013-09-10 | Google Inc. | Methods and systems for processing a video for stabilization and retargeting |
US8964041B2 (en) * | 2011-04-07 | 2015-02-24 | Fr Vision Ab | System and method for video stabilization of rolling shutter cameras |
JP5734082B2 (ja) | 2011-05-11 | 2015-06-10 | キヤノン株式会社 | 撮像装置及びその制御方法、並びにプログラム |
US8823813B2 (en) * | 2011-06-06 | 2014-09-02 | Apple Inc. | Correcting rolling shutter using image stabilization |
US20130107066A1 (en) * | 2011-10-27 | 2013-05-02 | Qualcomm Incorporated | Sensor aided video stabilization |
US20130121559A1 (en) * | 2011-11-16 | 2013-05-16 | Sharp Laboratories Of America, Inc. | Mobile device with three dimensional augmented reality |
US9041819B2 (en) | 2011-11-17 | 2015-05-26 | Apple Inc. | Method for stabilizing a digital video |
US20130162518A1 (en) * | 2011-12-23 | 2013-06-27 | Meghan Jennifer Athavale | Interactive Video System |
-
2013
- 2013-12-09 US US14/101,252 patent/US9071756B2/en active Active
- 2013-12-10 EP EP13196486.8A patent/EP2744192B1/en active Active
- 2013-12-11 AU AU2013359372A patent/AU2013359372B2/en not_active Ceased
- 2013-12-11 KR KR1020157018261A patent/KR102003012B1/ko active IP Right Grant
- 2013-12-11 CN CN201380072682.0A patent/CN104982027B/zh active Active
- 2013-12-11 CA CA2893802A patent/CA2893802C/en not_active Expired - Fee Related
- 2013-12-11 MX MX2015007499A patent/MX345710B/es active IP Right Grant
- 2013-12-11 WO PCT/US2013/074444 patent/WO2014093517A1/en active Application Filing
- 2013-12-11 JP JP2015547507A patent/JP6608700B2/ja active Active
- 2013-12-11 BR BR112015013565A patent/BR112015013565A2/pt not_active Application Discontinuation
-
2014
- 2014-09-15 US US14/486,936 patent/US9554045B2/en active Active
-
2015
- 2015-04-16 US US14/688,916 patent/US9674440B2/en active Active
- 2015-06-04 IL IL239249A patent/IL239249B/en active IP Right Grant
-
2017
- 2017-01-13 AU AU2017200248A patent/AU2017200248B2/en not_active Ceased
- 2017-03-06 US US15/450,586 patent/US10511773B2/en active Active
-
2018
- 2018-02-07 JP JP2018020047A patent/JP6605640B2/ja not_active Expired - Fee Related
- 2018-03-14 AU AU2018201829A patent/AU2018201829B2/en not_active Ceased
-
2019
- 2019-10-16 JP JP2019189053A patent/JP6937809B2/ja active Active
Also Published As
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6605640B2 (ja) | 制約ベースの回転平滑化を介してデジタルビデオを安定化するためのシステムおよび方法 | |
JP6412129B2 (ja) | 画像を変換するためのシステム及び方法 | |
US20190244367A1 (en) | Systems and methods for determining optical flow | |
US9774784B2 (en) | Systems and methods for combining multiple frames to produce media content with simulated exposure effects | |
CN109040525B (zh) | 图像处理方法、装置、计算机可读介质及电子设备 | |
US20160148648A1 (en) | Systems and methods for improving stabilization in time-lapse media content | |
US10725637B2 (en) | Systems and methods for providing image perspective adjustment and automatic fitting | |
US10721419B2 (en) | Ortho-selfie distortion correction using multiple image sensors to synthesize a virtual image |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180207 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190322 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190402 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190520 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190628 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190917 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191016 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6605640 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |