JP2011528533A - 動き推定反復検索のための推測的開始点選択 - Google Patents
動き推定反復検索のための推測的開始点選択 Download PDFInfo
- Publication number
- JP2011528533A JP2011528533A JP2011518746A JP2011518746A JP2011528533A JP 2011528533 A JP2011528533 A JP 2011528533A JP 2011518746 A JP2011518746 A JP 2011518746A JP 2011518746 A JP2011518746 A JP 2011518746A JP 2011528533 A JP2011528533 A JP 2011528533A
- Authority
- JP
- Japan
- Prior art keywords
- distance value
- minimum
- value
- motion vector
- distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/527—Global motion vector estimation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/533—Motion estimation using multistep search, e.g. 2D-log search or one-at-a-time search [OTS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/56—Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
映像圧縮の分野、特に、デジタル映像符号器における改善された動き推定に関する技術を提供する。動き推定反復検索のための推測的開始点選択は、反復の開始位置を推測的に選択することによって整数ピクセル動き推定反復検索の効率及び品質を改善する。開始位置は、0動きベクトル、予測動きベクトル、及びグローバル動きベクトル(GMV)の「絶対差の和(SAD)」値を比較し、最小SAD値を有する位置を選択することによって選択される。閾値を用いた精緻化機構は、いくつかの比較を実施して適正な動きベクトルが選択されることを保証することにより、動き推定反復検索の効率及び品質を改善する。この改善された動き推定検索の用途は、画像を安定させることのみならず、動きベクトルが用いられる多くの他の用途を含む。
【選択図】図6
【選択図】図6
Description
本発明は、映像圧縮の分野に関する。より具体的には、本発明は、デジタル映像符号器における改善された動き推定に関する。
映像シーケンスは、通常、フレームと呼ばれる多くの画像から成る。連続するフレームは非常に類似しており、従って、1つのフレームから次のフレームへと大量の冗長性を含む。映像データは、チャンネルを通じて効率的に送信されるか又はメモリに記憶される前に、帯域幅及びメモリの両方を節約するために圧縮される。目標は、冗長性を排除してより良好な圧縮比を得ることである。第1の映像圧縮手法は、所定のフレームから基準フレームを減算して相対的差異を発生させることである。圧縮されたフレームは、基準フレームよりも少ない情報を含む。相対的差異は、同じ品質を有しながらより低いビットレートで符号化することができる。復号器は、基準フレームに相対的差異を加算することによって元のフレームを復元する。
更に高度な手法は、シーン全体の動き及び映像シーケンスのオブジェクトを近似することである。動きは、ビットストリーム内に符号化されたパラメータによって記述される。予測フレームのピクセルは、基準フレームの適切に変換されたピクセルによって近似される。この手法は、単純な減算よりも改善された予測機能を提供する。しかし、動きモデルのパラメータによって占有されるビットレートは、過度に大きくなってはならない。
一般的に、映像圧縮は、MPEG−1、MPEG−2、及びMPEG−4のような「エムペグ(MPEG)」からの音声及び映像に対する1つ又はそれよりも多くの規格を含む多くの規格に従って実施される。H.264又はAVC(高度映像符号化)とも呼ばれるMPEG−4パート10規格の一部として、付加的な拡張が行われた。MPEG規格の下では、映像データは、最初に符号化され(例えば、圧縮され)、次に、映像システムの符号器側の符号器バッファに記憶される。後に、符号化されたデータは、映像システムの復号器側に送信され、そこで復号器バッファに記憶され、その後、対応する画像を見ることができるように復号される。
H.264/AVC計画の意図は、以前の規格が必要とすると考えられるもの(例えば、MPEG−2、H.263、又はMPEG−4パート2)よりも実質的に低いビットレートで良好な映像品質をもたらすことができる規格を開発することであった。更に、その設計を実施不能にするような大幅な複雑性の増大を伴わずにこれらの改善を加えることが望まれた。付加的な目標は、規格を低ビットレートと高ビットレートの両方、及び低解像度映像と高解像度映像の両方に対して用いることができるように、様々な用途にこの規格を適用することを可能にすると考えられる柔軟な方法でこれらの変更を加えることであった。別の目的は、それが、非常に広範なネットワーク及びシステム上で十分に機能することであった。
H.264/AVC/MPEG−4パート10は、古い規格よりも非常に効率的に映像を圧縮し、様々なネットワーク環境に対する適用に向けてより高い柔軟性をもたらすことを可能にする多くの新しい特徴を含む。一部の主要な特徴は、以前に符号化された画像を基準として用いた多画像動き補償、最大で16×16及び最小で4×4のブロックサイズでの可変ブロックサイズ動き補償(VBSMC)、半ピクセル輝度サンプル予測の導出のための6タップフィルタリング、マクロブロック対構造、動き補償における4分の1ピクセル精度、重み付き予測、ループ内ブロック解除フィルタ、完全符合整数4×4空間ブロック変換、1次空間変換の「DC」係数に対して実行される、高速フーリエ変換に類似の2次アダマール変換、「内部」符号化のための隣接ブロックのエッジからの空間予測、状況適応2進演算符号化(CABAC)、状況適応可変長符号化(CAVLC)、「指数−ゴロム」符号化と呼ばれるCABAC又はCAVLCによっては符号化されない構文要素の多くに対する単純で高度に構造化された可変長符号化(VLC)技術、ネットワーク抽象化層(NAL)定義、スイッチングスライス、柔軟なマクロブロック順序付け、冗長スライス(RS)、補足的拡張情報(SEI)、及び映像使用可能性情報(VUI)、補助画像、フレーム付番、並びに画像順序計数を含む。これらの技術及びいくつかの他のものは、H.264を以前の規格よりも有意に良好に、かつより多くの状況下及びより多くの環境において実施することを可能にする。通常、H.264は、半分のビットレート又は更にそれ以下で同じ品質を得ることでMPEG−2映像よりも良好に機能する。
MPEGは、動画及び関連の音声の汎用符号化に用いられ、一連の3種類の符号化されたデータフレームで構成された圧縮映像ビットストリームを発生させる。3種類のデータフレームは、イントラフレーム(Iフレーム又はI画像と呼ばれる)、双方向予測フレーム(B−フレーム又はB画像と呼ばれる)、及び順方向予測フレーム(Pフレーム又はP画像と呼ばれる)である。これらの3種類のフレームは、GOP(画像の群)構造と呼ばれる指定順序で配置することができる。Iフレームは、画像を復元するのに必要な全ての情報を含む。Iフレームは、動き補償のない通常映像として符号化される。一方、Pフレームは、以前のフレームからの情報を用い、B−フレームは、以前のフレーム、次のフレーム、又はこれらの両方からの情報を用いて画像を復元する。特に、Pフレームは、先行するIフレーム又は直前のPフレームから予測される。
フレームはまた、直後のフレームから予測することができる。この手法で次のフレームを利用するためには、次のフレームを予測フレームの前に符号化すべきである。従って、符号化の順序は、実際のフレームの順序と必ずしも一致しない。そのようなフレームは、通常は、例えば、予測フレームの直前のIフレーム又はPフレーム、又は直後のPフレームという2方向から予測される。これらの双方向予測フレームはBフレームと呼ばれる。
多くの可能なGOP構造が存在する。一般的なGOP構造は、15フレーム長であり、I_BB_P_BB_P_BB_P_BB_P_BB_というシーケンスを有する。類似の12フレームシーケンスも一般的である。Iフレームは、空間冗長性に対して符号化し、Pフレーム及びB−フレームは、時間冗長性と空間冗長性の両方に対して符号化する。映像ストリーム内で隣接するフレームは、多くの場合に非常に相関しているので、Pフレーム及びB−フレームは、Iフレームのサイズの僅かな割合でしかない。しかし、フレームを圧縮することができる圧縮後サイズと、そのような圧縮フレームを符号化するのに必要とされる処理時間及びリソースの間には背反関係が存在する。GOP構造におけるIフレームとPフレームとB−フレームとの比は、映像ストリームの性質及び出力ストリームに対する帯域幅によって判断されるが、同じく符号化時間も問題である可能性がある。多くのBフレームを含むストリームは、Iフレームのみのファイルよりも符号化するのに大幅な時間を消費する場合があるから、上述のことは、限られたコンピュータリソースしか持たないライブ送信及び実時間環境では特に当て嵌まる。
Bフレーム及びPフレームは、一般的に、現在のフレームと、以前のフレーム、次のフレーム、又はこれらの両方のフレームの間の差異に関する差異ビットを含み、画像データを記憶するのにより少ないビットしか必要としない。従って、Bフレーム及びPフレームは、フレームにわたって含まれる冗長性情報を低減するのに用いられる。作動時には、復号器は、符号化されたBフレーム又は符号化されたPフレームを受け取り、以前又は次のフレームを用いて元のフレームを復元する。連続フレームが実質的に類似する場合はフレームにおける差異が小さいので、この処理は極めて容易であり、滑らかなシーン移行を引き起こす。
各映像画像は、輝度(Y)チャンネル及び2つの色度チャンネル(色差信号Cb及びCrとも呼ばれる)に分離される。輝度及び色度の配列のブロックは、イントラフレームの符号化の基本ユニットである「マクロブロック」へと編成される。
Iフレームの場合には、実際の映像データが符号化処理に渡される。しかし、Pフレーム及びBフレームは、最初に、「動き補償」処理を受ける。動き補償は、先行フレームの各マクロブロックが移動した位置に関する連続するフレーム間の差異を説明する手法である。そのような技術は、映像圧縮の映像シーケンスの時間冗長性を低減するのに多くの場合に用いられる。Pフレーム又はBフレーム内の各マクロブロックは、「動きベクトル」を用いて符号器によって選択される以前又は次の映像内で非常に相関している区域に関連付けられる。マクロブロックをその相関する区域にマップする動きベクトルは符号化され、次に、2つの区域の間の差異が符号化処理に渡される。
従来の映像コーデックは、動き補償予測を用いて生の入力映像ストリームを効率的に符号化する。現在のフレーム内のマクロブロックは、以前のフレーム内の移行したマクロブロックから予測される。元のマクロブロックとその予測マクロブロックの間の差異は圧縮され、変位(動き)ベクトルと共に送信される。この技術は、フレーム間符号化と呼ばれ、MPEG規格に用いられる手法である。
符号化処理において最も時間を消費するコンポーネントのうちの1つが動き推定である。動き推定は、動き補償予測を予測誤差の変換符号化との組合せで実施することによって映像信号のビットレートを低減するのに利用される。動き推定に関連するエイリアシングは、フレーム間ピクセル動き推定を用いることによっては回避することができず、エイリアシングは予測効率を劣化させる。劣化問題を解決するために、エイリアシングの影響を低減するように半ピクセル内挿及び4分の1ピクセル内挿が適用される。4分の1ピクセル精度で動きベクトルを推定するには、一般的に、3段階検索が用いられる。第1の段階では、指定検索範囲の各整数ピクセルに対して動き推定が適用され、最良の適合が見出される。次に、第2の段階では、選択された整数ピクセル動きベクトルの周囲の8つの半ピクセル点が調べられ、最良の半ピクセル適合点が見出される。最後に第3の段階で、選択された半ピクセル動きベクトルの周囲の8つの4分の1ピクセル点が調べられ、最良の適合点が最終動きベクトルとして選択される。動き推定の複雑性を考慮すると、整数ピクセル動き推定において全検索が用いられた場合には、整数ピクセル動き推定は、動き推定のうちで主な部分を占める。しかし、高速整数動き推定アルゴリズムが利用される場合には、整数ピクセル動きベクトルは、10個よりも少ない検索点を調べることによって得ることができる。その結果、半ピクセル動きベクトル及び4分の1ピクセル動きベクトルを検索する計算複雑性が大半になる。
Yamauchi,H.他著「81MHz、1280x720ピクセル×30フレーム/s、MPEG−4映像/音声CODECプロセッサ」
動き推定反復検索のための推測的開始点選択は、反復の開始位置を推測的に選択することによって整数ピクセル動き推定反復検索の効率及び品質を改善する。開始位置は、0動きベクトル、予測動きベクトル、及びグローバル動きベクトル(GMV)の「絶対差の和(SAD)」値を比較し、最小SAD値を有する位置を選択することによって選択される。閾値を用いた精緻化機構は、いくつかの比較を実施して適正な動きベクトルが選択されることを保証することにより、動き推定反復検索の効率及び品質を改善する。この改善された動き推定検索の用途は、画像を安定させることのみならず、動きベクトルが用いられる多くの他の用途を含む。
一態様では、コンピュータデバイスを用いた動き推定における反復検索結果を精緻化する方法は、複数の位置の各々に対して距離値を計算する段階、複数の位置の各々の距離値を比較する段階、及び複数の位置の各々の距離値から最小開始距離位置を選択する段階を含む開始位置を判断する段階と、開始位置から始めて最小距離位置に関して反復的に検索する段階と、最小距離位置の最小距離値に動きベクトルコストを加算して合計コストを形成する段階と、合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階と、合計コストと予測動きベクトル距離値とのうちの小さい方の値を選択する段階とを含む。一部の実施形態では、距離値は、「絶対差の和」値である。複数の位置は、第1の位置、第2の位置、及び第3の位置を含む。第1の位置はゼロ(0)動きベクトルであり、第2の位置は予測動きベクトルであり、第3の位置はグローバル動きベクトルである。動きベクトルコストは、予測動きベクトルからの距離に基づいて計算される。小さい方の値は、更に精緻化され、画像を安定させる。反復的に検索する段階は、計数値を指定値に設定する段階と、部分領域の部分領域距離値を計算する段階と、部分領域内の最小領域距離値を選択する段階と、最小領域距離値を以前の最小領域距離と比較する段階と、最小領域距離値と以前の最小領域距離値とのうちの小さい方の領域距離値を保持する段階と、計数値を減分する段階と、計数値がゼロになるまでこれらの段階を繰り返す段階とを更に含む。コンピュータデバイスは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択される。
別の態様では、動き推定における反復検索結果を精緻化するためのシステムは、複数の位置の各々に対して距離値を計算する段階、複数の位置の各々の距離値を比較する段階、及び複数の位置の各々の距離値から最小開始距離位置を選択する段階を含む開始位置を判断する段階と、開始位置から始めて最小距離位置に関して反復的に検索する段階と、最小距離位置の最小距離値に動きベクトルコストを加算して合計コストを形成する段階と、合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階と、合計コストと予測動きベクトル距離値とのうちの小さい方の値を選択する段階とを行うように構成されたアプリケーションを記憶するためのメモリと、アプリケーションを処理するためのプロセッサとを含む。一部の実施形態では、距離値は、「絶対差の和」値である。複数の位置は、第1の位置、第2の位置、及び第3の位置を含む。第1の位置はゼロ(0)動きベクトルであり、第2の位置は予測動きベクトルであり、第3の位置はグローバル動きベクトルである。動きベクトルコストは、予測動きベクトルからの距離に基づいて計算される。反復的に検索する段階は、計数値を指定値に設定する段階と、部分領域の部分領域距離値を計算する段階と、部分領域内の最小領域距離値を選択する段階と、最小領域距離値を以前の最小領域距離値と比較する段階と、最小領域距離値と以前の最小領域距離値とのうちの小さい方の領域距離値を保持する段階と、計数値を減分する段階と、計数値がゼロになるまでこれらの段階を繰り返す段階とを更に含む。小さい方の値は、更に精緻化され、画像を安定させるのに用いられる。プロセッサ及びメモリは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されたデバイス内に収容される。
別の態様では、動き推定における反復検索結果を精緻化するためにプロセッサによって処理されるアプリケーションは、反復検索を開始するための最小開始位置を判断するための開始位置コンポーネントと、最小距離位置に関して反復的に検索するための反復検索コンポーネントと、最小距離位置の最小距離値と動きベクトルコストとを含む合計コストを予測動きベクトル距離値と比較するための比較コンポーネントとを含む。最小開始位置を判断する段階は、複数の位置の各々に対して距離値を計算する段階と、複数の位置の各々の距離値を比較する段階と、複数の位置の各々の距離値から最小開始距離位置を選択する段階とを含む。複数の位置は、第1の位置、第2の位置、及び第3の位置を含む。第1の位置はゼロ(0)動きベクトルであり、第2の位置は予測動きベクトルであり、第3の位置はグローバル動きベクトルである。反復的に検索する段階は、計数値を指定値に設定する段階と、部分領域の部分領域距離値を計算する段階と、部分領域内の最小領域距離値を選択する段階と、最小領域距離値を以前の最小領域距離値と比較する段階と、最小領域距離値と以前の最小領域距離値とのうちの小さい方の領域距離値を保持する段階と、計数値を減分する段階と、計数値がゼロになるまでこれらの段階を繰り返す段階とを更に含む。動きベクトルコストは、予測動きベクトルからの距離に基づいて計算される。画像を安定させるのに用いられる適切な動きベクトルを判断するのに、最良の距離位置が用いられる。アプリケーションは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されたデバイス内に収容される。
更に別の態様では、コンピュータデバイスを用いた動き推定における反復検索結果を精緻化する方法は、複数の位置の各々に対して距離値を計算する段階、複数の位置の各々の距離値を比較する段階、及び複数の位置の各々の距離値から最小開始距離位置を選択する段階を含む開始位置を判断する段階と、開始位置から始めて最小距離位置に関して反復的に検索する段階と、最小距離位置の最小距離値に動きベクトルコストを加算して合計コストを形成する段階と、グローバル動きベクトルが閾値よりも小さいかを判断する段階と、グローバル動きベクトルが閾値よりも小さい場合に、合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階、及び精緻化に向けて合計コストと予測動きベクトル距離値とのうちの小さい方の値を選択する段階を含む付加的な段階を行う段階と、グローバル動きベクトルが閾値よりも大きいか又はそれに等しい場合に、精緻化に向けて最小距離位置の最小距離値を選択する段階とを含む。一部の実施形態では、距離値は、「絶対差の和」値である。複数の位置は、第1の位置、第2の位置、及び第3の位置を含む。第1の位置はゼロ(0)動きベクトルであり、第2の位置は予測動きベクトルであり、第3の位置はグローバル動きベクトルである。動きベクトルコストは、予測動きベクトルからの距離に基づいて計算される。本方法は、画像を安定させる。反復的に検索する段階は、計数値を指定値に設定する段階と、部分領域の部分領域距離値を計算する段階と、部分領域内の最小領域距離値を選択する段階と、最小領域距離値を以前の最小領域距離値と比較する段階と、最小領域距離値と以前の最小領域距離値とのうちの小さい方の領域距離値を保持する段階と、計数値を減分する段階と、計数値がゼロになるまでこれらの段階を繰り返す段階とを更に含む。コンピュータデバイスは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択される。
別の態様では、動き推定における反復検索結果を精緻化するためのシステムは、複数の位置の各々に対して距離値を計算する段階、複数の位置の各々の距離値を比較する段階、及び複数の位置の各々の距離値から最小開始距離位置を選択する段階を含む開始位置を判断する段階と、開始位置から始めて最小距離位置に関して反復的に検索する段階と、最小距離位置の最小距離値に動きベクトルコストを加算して合計コストを形成する段階と、グローバル動きベクトルが閾値よりも小さいかを判断する段階と、グローバル動きベクトルが閾値よりも小さい場合に、合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階、及び精緻化に向けて合計コストと予測動きベクトル距離値とのうちの小さい方の値を選択する段階を含む付加的な段階を行う段階と、グローバル動きベクトルが閾値よりも大きいか又はそれに等しい場合に、精緻化に向けて最小距離位置の最小距離値を選択する段階とを行うように構成されたアプリケーションを記憶するためのメモリと、アプリケーションを処理するためのプロセッサとを含む。一部の実施形態では、距離値は、「絶対差の和」値である。複数の位置は、第1の位置、第2の位置、及び第3の位置を含む。第1の位置はゼロ(0)動きベクトルであり、第2の位置は予測動きベクトルであり、第3の位置はグローバル動きベクトルである。動きベクトルコストは、予測動きベクトルからの距離に基づいて計算される。反復的に検索する段階は、計数値を指定値に設定する段階と、部分領域の部分領域距離値を計算する段階と、部分領域内の最小領域距離値を選択する段階と、最小領域距離値を以前の最小領域距離値と比較する段階と、最小領域距離値と以前の最小領域距離値とのうちの小さい方の領域距離値を保持する段階と、計数値を減分する段階と、計数値がゼロになるまでこれらの段階を繰り返す段階とを更に含む。このシステムは、画像を安定させる。プロセッサ及びメモリは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されたデバイス内に収容される。
別の態様では、動き推定における反復検索結果を精緻化するためにプロセッサによって処理されるアプリケーションは、反復検索を開始するための最小開始位置を判断するための開始位置コンポーネントと、最小距離位置に関して反復的に検索するための反復検索コンポーネントと、最小距離位置の最小距離値と動きベクトルコストとを含む合計コストを予測動きベクトル距離値と比較するための比較コンポーネントと、グローバル動きベクトルを閾値と比較して、比較コンポーネントを実行するか、又は反復検索コンポーネントからの結果を用いるか否かを判断するための閾値コンポーネントとを含む。最小開始位置を判断する段階は、複数の位置の各々に対して距離値を計算する段階と、複数の位置の各々の距離値を比較する段階と、複数の位置の各々の距離値から最小開始距離位置を選択する段階とを含む。一部の実施形態では、距離値は、「絶対差の和」値である。複数の位置は、第1の位置、第2の位置、及び第3の位置を含む。第1の位置はゼロ(0)動きベクトルであり、第2の位置は予測動きベクトルであり、第3の位置はグローバル動きベクトルである。反復的に検索する段階は、計数値を指定値に設定する段階と、部分領域の部分領域距離値を計算する段階と、部分領域内の最小領域距離値を選択する段階と、最小領域距離値を以前の最小領域距離値と比較する段階と、最小領域距離値と以前の最小領域距離値とのうちの小さい方の領域距離値を保持する段階と、計数値を減分する段階と、計数値がゼロになるまでこれらの段階を繰り返す段階とを更に含む。動きベクトルコストは、予測動きベクトルからの距離に基づいて計算される。このアプリケーションは、画像を安定させる。アプリケーションは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されたデバイス内に収容される。
更に別の態様では、コンピュータデバイスを用いた動き推定反復検索において開始位置を選択する方法は、複数の位置の各々に対して距離値を計算する段階と、複数の位置の各々の距離値を比較する段階と、複数の位置の各々の距離値から最小開始距離位置を選択する段階とを含む。一部の実施形態では、距離値は、「絶対差の和」値である。複数の位置は、第1の位置、第2の位置、及び第3の位置を含む。第1の位置はゼロ(0)動きベクトルであり、第2の位置は予測動きベクトルであり、第3の位置はグローバル動きベクトルである。コンピュータデバイスは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択される。最小開始距離位置は、画像を安定させる動き推定反復検索における開始位置として用いられる。
別の態様では、コンピュータデバイスを用いて動きを推定する方法は、複数の位置の各々に対して距離値を計算する段階、複数の位置の各々の距離値を比較する段階、及び複数の位置の各々の距離値から最小開始距離位置を選択する段階を含む開始位置を判断する段階と、開始位置から始めて最小距離位置に関して反復的に検索する段階とを含む。反復的に検索する段階は、計数値を指定値に設定する段階と、部分領域の部分領域距離値を計算する段階と、部分領域内の最小領域距離値を選択する段階と、最小領域距離値を以前の最小領域距離値と比較する段階と、最小領域距離値と以前の最小領域距離値とのうちの小さい方の領域距離値を保持する段階と、計数値を減分する段階と、計数値がゼロになるまでこれらの段階を繰り返す段階とを更に含む。一部の実施形態では、距離値は、「絶対差の和」値である。複数の位置は、第1の位置、第2の位置、及び第3の位置を含む。第1の位置はゼロ(0)動きベクトルであり、第2の位置は予測動きベクトルであり、第3の位置はグローバル動きベクトルである。コンピュータデバイスは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択される。最小距離位置は、画像を安定させるのに用いられる適切な動きベクトルを判断するのに用いられる。
別の態様では、動きを推定するためのシステムは、複数の位置の各々に対して距離値を計算する段階、複数の位置の各々の距離値を比較する段階、及び複数の位置の各々の距離値から最小開始距離位置を選択する段階を含む開始位置を判断する段階と、開始位置から始めて最小距離位置に関して反復的に検索する段階とを行うように構成されたアプリケーションを記憶するためのメモリと、アプリケーションを処理するためのプロセッサとを含む。反復的に検索する段階は、計数値を指定値に設定する段階と、部分領域の部分領域距離値を計算する段階と、部分領域内の最小領域距離値を選択する段階と、最小領域距離値を以前の最小領域距離値と比較する段階と、最小領域距離値と以前の最小領域距離値とのうちの小さい方の領域距離値を保持する段階と、計数値を減分する段階と、計数値がゼロになるまでこれらの段階を繰り返す段階とを更に含む。一部の実施形態では、距離値は、「絶対差の和」値である。複数の位置は、第1の位置、第2の位置、及び第3の位置を含む。第1の位置はゼロ(0)動きベクトルであり、第2の位置は予測動きベクトルであり、第3の位置はグローバル動きベクトルである。プロセッサ及びメモリは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されたデバイス内に収容される。最小距離位置は、画像を安定させるのに用いられる適切な動きベクトルを判断するのに用いられる。
別の態様では、動きを推定するためにプロセッサによって処理されるアプリケーションは、反復検索を開始するための最良の開始位置を判断するための開始位置コンポーネントと、最小距離位置に関して反復的に検索するための反復検索コンポーネントとを含む。反復的に検索する段階は、計数値を指定値に設定する段階と、部分領域の距離値を計算する段階と、部分領域内の最小領域距離値を選択する段階と、最小領域距離値を以前の最小領域距離値と比較する段階と、最小領域距離値と以前の最小領域距離値とのうちの小さい方の領域距離値を保持する段階と、計数値を減分する段階と、計数値がゼロになるまでこれらの段階を繰り返す段階とを更に含む。最良の開始位置を判断する段階は、複数の位置の各々に対して距離値を計算する段階と、複数の位置の各々の距離値を比較する段階と、複数の位置の各々の距離値から最小開始距離位置を選択する段階とを含む。複数の位置は、第1の位置、第2の位置、及び第3の位置を含む。第1の位置はゼロ(0)動きベクトルであり、第2の位置は予測動きベクトルであり、第3の位置はグローバル動きベクトルである。アプリケーションは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されたデバイス内に収容される。最小距離位置は、画像を安定させるのに用いられる適切な動きベクトルを判断するのに用いられる。
更に別の態様では、コンピュータデバイスを用いて動き推定を改善する方法は、複数の位置の各々に対して距離値を計算する段階、複数の位置の各々の距離値を比較する段階、及び複数の位置の各々の距離値から最小開始距離位置を選択する段階を含む開始位置を判断する段階と、開始位置から始めて最小距離位置に関して反復的に検索する段階と、以前の位置を判断する段階、新しい位置を判断する段階、以前の位置と新しい位置とを比較する段階、及び以前の位置と新しい位置との比較に基づいて、新しい位置が以前の位置と反対の方向にある場合は以前の位置に基づき、かつ新しい位置が以前の位置と反対の方向にない場合は新しい位置に基づく新しい検索中心を選択する段階を含む極小値を回避する段階とを含む。
別の態様では、コンピュータデバイスを用いて動き推定を改善する方法は、複数の位置の各々に対して距離値を計算する段階、複数の位置の各々の距離値を比較する段階、及び複数の位置の各々の距離値から最小開始距離位置を選択する段階を含む開始位置を判断する段階と、開始位置から始めて最小距離位置に関して反復的に検索する段階と、最小距離検索値を有する検索区域の位置を判断する段階、最小距離検索値を有する位置に基づいて次の検索区域の中心点に対するオフセットを判断する段階、及びオフセットに基づいて次の検索区域の中心点を選択する段階を含む次の検索区域の中心点を判断する段階とを含む。
別の態様では、コンピュータデバイスを用いて動き推定を改善する方法は、複数の位置の各々に対して距離値を計算する段階、複数の位置の各々の距離値を比較する段階、及び複数の位置の各々の距離値から最小開始距離位置を選択する段階を含む開始位置を判断する段階と、開始位置から始めて最小距離位置に関して反復的に検索する段階と、最小距離検索値を有する検索区域の位置を判断する段階、最小距離検索値を有する位置に基づいて次の検索区域の中心点に対するオフセットを判断する段階、及びオフセットに基づいて次の検索区域の中心点を選択する段階を含む次の検索区域の中心点を判断する段階と、以前の位置を判断する段階、新しい位置を判断する段階、以前の位置と新しい位置とを比較する段階、及び以前の位置と新しい位置との比較に基づいて、新しい位置が以前の位置と反対の方向にある場合は以前の位置に基づき、かつ新しい位置が以前の位置と反対の方向にない場合は新しい位置に基づく新しい検索中心を選択する段階を含む極小値を回避する段階とを含む。
別の態様では、コンピュータデバイスを用いて動き推定を改善する方法は、複数の位置の各々に対して距離値を計算する段階、複数の位置の各々の距離値を比較する段階、及び複数の位置の各々の距離値から最小開始距離位置を選択する段階を含む開始位置を判断する段階と、開始位置から始めて最小距離位置に関して反復的に検索する段階と、最小距離位置の最小距離値に動きベクトルコストを加算して合計コストを形成する段階と、グローバル動きベクトルが閾値よりも小さいかを判断する段階と、グローバル動きベクトルが閾値よりも小さい場合に、合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階、及び精緻化に向けて合計コストと予測動きベクトル距離値とのうちの小さい方の値を選択する段階を含む付加的な段階を行う段階と、グローバル動きベクトルが閾値よりも大きいか又はそれに等しい場合に、精緻化に向けて最小距離位置の最小距離値を選択する段階と、最小距離検索値を有する検索区域の位置を判断する段階、最小距離検索値を有する位置に基づいて次の検索区域の中心点に対するオフセットを判断する段階、及びオフセットに基づいて次の検索区域の中心点を選択する段階を含む次の検索区域の中心点を判断する段階とを含む。
別の態様では、コンピュータデバイスを用いて動き推定を改善する方法は、複数の位置の各々に対して距離値を計算する段階、複数の位置の各々の距離値を比較する段階、及び複数の位置の各々の距離値から最小開始距離位置を選択する段階を含む開始位置を判断する段階と、開始位置から始めて最小距離位置に関して反復的に検索する段階と、最小距離位置の最小距離値に動きベクトルコストを加算して合計コストを形成する段階と、グローバル動きベクトルが閾値よりも小さいかを判断する段階と、グローバル動きベクトルが閾値よりも小さい場合に、合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階、及び精緻化に向けて合計コストと予測動きベクトル距離値とのうちの小さい方の値を選択する段階を含む付加的な段階を行う段階と、グローバル動きベクトルが閾値よりも大きいか又はそれに等しい場合に、精緻化に向けて最小距離位置の最小距離値を選択する段階と、以前の位置を判断する段階、新しい位置を判断する段階、以前の位置と新しい位置とを比較する段階、及び以前の位置と新しい位置との比較に基づいて、新しい位置が以前の位置と反対の方向にある場合は以前の位置に基づき、かつ新しい位置が以前の位置と反対の方向にない場合は新しい位置に基づく新しい検索中心を選択する段階を含む極小値を回避する段階とを含む。
別の態様では、コンピュータデバイスを用いて動き推定を改善する方法は、複数の位置の各々に対して距離値を計算する段階、複数の位置の各々の距離値を比較する段階、及び複数の位置の各々の距離値から最小開始距離位置を選択する段階を含む開始位置を判断する段階と、開始位置から始めて最小距離位置に関して反復的に検索する段階と、最小距離位置の最小距離値に動きベクトルコストを加算して合計コストを形成する段階と、グローバル動きベクトルが閾値よりも小さいかを判断する段階と、グローバル動きベクトルが閾値よりも小さい場合に、合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階、及び精緻化に向けて合計コストと予測動きベクトル距離値とのうちの小さい方の値を選択する段階を含む付加的な段階を行う段階と、グローバル動きベクトルが閾値よりも大きいか又はそれに等しい場合に、精緻化に向けて最小距離位置の最小距離値を選択する段階と、最小距離検索値を有する検索区域の位置を判断する段階、最小距離検索値を有する位置に基づいて次の検索区域の中心点に対するオフセットを判断する段階、及びオフセットに基づいて次の検索区域の中心点を選択する段階を含む次の検索区域の中心点を判断する段階と、以前の位置を判断する段階、新しい位置を判断する段階、以前の位置と新しい位置とを比較する段階、及び以前の位置と新しい位置との比較に基づいて、新しい位置が以前の位置と反対の方向にある場合は以前の位置に基づき、かつ新しい位置が以前の位置と反対の方向にない場合は新しい位置に基づく新しい検索中心を選択する段階を含む極小値を回避する段階とを含む。
別の態様では、コンピュータデバイスを用いて動き推定を改善する方法は、複数の位置の各々に対して距離値を計算する段階、複数の位置の各々の距離値を比較する段階、及び複数の位置の各々の距離値から最小開始距離位置を選択する段階を含む開始位置を判断する段階と、開始位置から始めて最小距離位置に関して反復的に検索する段階と、最小距離位置の最小距離値に動きベクトルコストを加算して合計コストを形成する段階と、グローバル動きベクトルが閾値よりも小さいかを判断する段階と、グローバル動きベクトルが閾値よりも小さい場合に、合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階、及び精緻化に向けて合計コストと予測動きベクトル距離値とのうちの小さい方の値を選択する段階を含む付加的な段階を行う段階と、グローバル動きベクトルが閾値よりも大きいか又はそれに等しい場合に、精緻化に向けて最小距離位置の最小距離値を選択する段階と、最小距離検索値を有する検索区域の位置を判断する段階、最小距離検索値を有する位置に基づいて次の検索区域の中心点に対するオフセットを判断する段階、及びオフセットに基づいて次の検索区域の中心点を選択する段階を含む次の検索区域の中心点を判断する段階と、以前の位置を判断する段階、新しい位置を判断する段階、以前の位置と新しい位置とを比較する段階、及び以前の位置と新しい位置との比較に基づいて、新しい位置が以前の位置と反対の方向にある場合は以前の位置に基づき、かつ新しい位置が以前の位置と反対の方向にない場合は新しい位置に基づく新しい検索中心を選択する段階を含む極小値を回避する段階と、部分領域の部分領域距離値を計算する段階、部分領域の最小距離値を判断する段階、最小距離値を閾値と比較する段階、最小距離値が閾値よりも小さい場合に、早期に終了する段階、及び最小距離値が閾値よりも大きいか又はそれに等しい場合に、計数値がゼロになるまでこれらの段階を繰り返す段階を含む反復的に検索する段階を早期に終了する段階とを含む。
図1は、マクロブロックの映像符号化層100のブロック図を示している。映像符号化層100(例えば、符号器)は、変換符号化と共に時間予測と空間予測との組合せを含む。入力映像102が受け取られ、複数のブロックに分割される。シーケンスの先頭の画像は、通常はそれ自体に含まれる情報のみを用いて「イントラ」符号化される。次に、イントラフレーム内のブロックの各部分は、以前に符号化されたブロックの空間的に隣接するサンプルを用いてイントラ予測モジュール110で予測される。符号化処理は、どの隣接サンプルがイントラ予測において利用され、これらのサンプルがどのように用いられるかを選択する。この処理は、ローカル復号器118、並びに符号器100において実施される。シーケンスのうちの残りの画像に対しては、通常は「インター」符号化が用いられる。インター符号化は、他の以前に復号された画像からの動き補償112を実施する。動き推定モジュール114におけるインター予測/動き推定のための符号化処理は、動きデータを選択する段階と、基準画像及びブロックの全てのサンプルに適用される空間移行を判断する段階とを含む。動きデータは、符号器100及びローカル復号器118によって用いられる付帯情報として送信される。
元のブロックと予測ブロックの間の差異を予測残差と呼ぶ。変換及びスケーリング量子化モジュール104においてこの残差は変換され、変換係数がスケーリング及び量子化される。変換係数の量子化では、スカラー量子化が利用される。各ブロックは、整数変換を用いて変換され、変換係数は量子化され、エントロピー符号化法を用いて送信される。エントロピー符号器116は、量子化された変換係数を除く全ての要素に対してコードワードセットを用いる。量子化された変換係数に対しては、「状況適応可変長符号化(CAVLC)」又は「状況適応2進演算符号化(CABAC)」が利用される。フィルタリングの強度を制御して映像のブロックノイズを低減するために、ブロック解除フィルタ108が実施される。
また、符号器100は、次のブロックに対する予測基準を発生させるローカル復号器118を含む。量子化された変換係数は、符号器側と同じ手法で逆スケーリング及び逆変換され106、それによって復号された予測残差が与えられる。復号された予測残差は、予測に加算され、この組合せは、ブロック解除フィルタ108に誘導され、ブロック解除フィルタ108は、復号された映像を出力として供給する。最終的にエントロピー符号器116が、最初に入力された映像102の圧縮映像ビット120を生成する。
映像符号器の「動き推定(ME)」において最も高価な計算は、予測画像と元の画像の間の「絶対差の和(SAD)」の計算である。特に、整数ピクセル検索のSAD計算がその大半を占める。従って、整数ピクセル検索においてSAD計算の回数を低減することは、ハードウエアサイズ、及び従ってコストを低減するのに重要な役割を有する。図2は、画像を取得し、整数ピクセル検索、半ピクセル輝度検索、及び4分の1ピクセル輝度検索を実行し、動きベクトルを判断する動き推定フロー200を示している。
SAD計算を低減するための一般的な手法は、MEハードウエアが、より少ない回数のSAD計算で同じ検索範囲を検索することができるように、SAD計算の前に基準画像と元の画像とを部分サンプリングすることである。部分サンプリングされた検索範囲内でも、検索は依然として消耗的である。検索は、大雑把な部分サンプリング済み領域内で行われるので、より精密な動きベクトルを得るには精緻化が必要である。
引用によって本明細書に組み込まれているYamauchi,H.他著「81MHz、1280x720ピクセル×30フレーム/s、MPEG−4映像/音声CODECプロセッサ」に説明されている反復動き推定検索法は、検索範囲の一部のみのSADを計算することによってSAD計算の回数を更に低減する。この方法を用いると、システムは、一度に小さい領域のSADしか計算しない。次に、システムは、この領域のSADを比較し、最小SADの位置を選出する。次に、システムは、以前の検索結果に基づいて別の小領域を選択する。システムは、この処理をある一定回数繰り返す。全ての反復の間に最小SAD値を有する検索位置が、最良の適合位置として選択される。反復回数は、ハードウエア性能に依存する。図3は、開始位置300及び判断された最小SAD302を示している例示的な検索であり、各段階が、一度に9個の検索点(3×3)を検索し、5回繰り返すものを示している。
図4は、反復検索の流れ図を示している。段階400において、処理は、Nに等しい計数値で始まり、ここでNは検索を行う回数である。段階402では、ある領域のSADが計算される(例えば、3×3領域)。段階404では、段階402の計算に基づいてこの領域内での最小SAD位置が選択される。段階406では、最小SAD位置が、以前の最良の(例えば、最小)SADと比較され、2つのうちの小さい方が保持される。段階408では、反復を計数するために計数値が1だけ減分される。段階410では、計数値が0であるか否かが判断される。計数値が0であった場合には、処理は終了する。計数値が0ではなかった場合には、段階412において次の検索位置が選択される。その後、段階402で始まり、処理は繰り返す。一部の実施形態では、異なる計数実施又は異なる計数順を用いることができる。
検索範囲の一部しか検索されないので、SAD計算回数は、消耗的な検索と比較して劇的に低減する。部分サンプリング検索では、少数の検索点(3×3グリッド内で9つ等)が一度に検索され、検索は、N回(5回等)繰り返される。「3×3検索」は、「9つの位置」のSAD計算を意味し、「9回のSAD」を意味するのではない。従って、マクロブロック(16×16ピクセル)が1/4サイズ(例えば、8×8ピクセル))で部分サンプリングされる場合には、「1つの位置」に対するSAD回数は8×8=64である。ハードウエアでは、64回のSAD計算は、同時に計算することができる。図5は、例示的な3×3の検索位置500及び8×8ピクセルのマクロブロックの部分サンプル502を示している。3×3の部分サンプル検索を説明したが、検索のサイズは、このサイズに限定されない。
しかし、部分サンプリング反復検索は、検索範囲の位置の全てを調べるわけではないので、この検索には問題がある。つまりこの検索は、可能な最良の解が見出されることになることを保証しない。特に、検索は間違った方向に進む場合があり、及び/又は最良の検索位置が、開始位置から遠過ぎる場合がある。
推測的開始点
上述の問題を解決するために、推測的開始点反復検索が用いられる。推測的検索機構を用いると、反復が始まる前に、システムは、いくつかの「有望な」位置のSADを比較する。次に、「有望な」位置のうちの最良のものが、反復検索の開始位置として用いられる。H.264符号器における実施では、検索は2段階で実行されるが、代替的に、いかなる段階数においても実行することができる。
上述の問題を解決するために、推測的開始点反復検索が用いられる。推測的検索機構を用いると、反復が始まる前に、システムは、いくつかの「有望な」位置のSADを比較する。次に、「有望な」位置のうちの最良のものが、反復検索の開始位置として用いられる。H.264符号器における実施では、検索は2段階で実行されるが、代替的に、いかなる段階数においても実行することができる。
図6は、動きを推定するのに推測的開始点選択を実施する流れ図を示している。段階600では、「グローバル動きベクトル(GMV)」、「ゼロ(0)動きベクトル(0MV)」、及び「予測動きベクトル(PMV)」という3つの位置のSADが計算される。GMVは、以前に符号化されたフレームの統計からフレーム毎に一度計算され、PMVは、現在のフレーム内の隣接マクロブロックからの各マクロブロックに対して推定される。最小SADを有する位置が、以降の反復検索の開始位置として用いられる。「符号器/復号器(CODEC)」によっては、様々な位置を上述したものに限定されない「有望な」位置として選択することができる。上記では3つの位置を説明したが、選択するのに利用可能な位置の個数は、3つに限定されず、それよりも多いか又は少ない位置から選択することができる。
段階602では、システムは、図4で説明した反復検索を実行する。しかし、反復の開始位置は、段階600からの最良の開始位置である。一部の実施形態では、段階600の後に、選択されたSADが、反復検索の他の実施における開始位置として用いられる。段階604では、動きベクトルが精緻化される。段階606では、部分ピクセル検索が実施される。結果は、より短い時間量で処理された滑らかな画像/映像である。
図7は、本発明による例示的なコンピュータデバイス700のブロック図である。コンピュータデバイス700は、映像及び映像のような情報を取得、記憶、計算、通信、及び/又は表示するのに用いることができる。例えば、コンピュータデバイス700は映像を取得し、映像が得られる間に、この改善された動き推定処理が行われる。一般的に、コンピュータデバイス700を実施するのに適切なハードウエア構造は、ネットワークインタフェース702、メモリ704、プロセッサ706、I/Oデバイス708、バス710、及び記憶デバイス712を含む。プロセッサの選択は、十分な速度を有する適切なプロセッサが選択される限り重要ではない。メモリ704は、当業技術で公知のあらゆる従来のコンピュータメモリとすることができる。記憶デバイス712は、ハードドライブ、CDROM、CDRW、DVD、DVDRW、フラッシュメモリカード、又はあらゆる他の記憶デバイスを含むことができる。コンピュータデバイス700は、1つ又はそれよりも多くのネットワークインタフェース702を含むことができる。ネットワークインタフェースの例は、イーサネット(登録商標)又は他の種類のLANに接続したネットワークカードを含む。I/Oデバイス708は、キーボード、マウス、モニタ、ディスプレイ、プリンタ、モデム、タッチスクリーン、ボタンインタフェース、及び他のデバイスのうちの1つ又はそれよりも多くを含むことができる。本発明の方法を実施するのに用いられるアプリケーション730は、記憶デバイス712及びメモリ704に記憶され、アプリケーションが典型的に処理されるように処理される可能性が大きい。アプリケーション730は、開始点を判断するための開始点コンポーネント730’、及び反復検索を実行するための反復検索コンポーネント730’’、並びに他の望ましい又は必要なコンポーネントを含む。コンピュータデバイス700内には、図7に示しているものよりも多いか又は少ないコンポーネントを含めることができる。一部の実施形態では、動き推定情報を処理するために、動き推定ハードウエア720が含まれる。図7のコンピュータデバイス700は、動き推定処理のためのアプリケーション730及びハードウエア720を含むが、改善された動き推定処理は、コンピュータデバイスにおいて、ハードウエア、ファームウエア、ソフトウエア、又はこれらのあらゆる組合せに実施することができる。
適切なコンピュータデバイスの例は、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、ホームエンタテインメントシステム、又はあらゆる他の適切なコンピュータデバイスを含む。
推測的開始点反復検索機構を利用するのに、コンピュータデバイスは通常通りに作動するが、動き推定処理は、処理がより効率的かつより正確であるという点で改善される。ユーザから見たコンピュータデバイスの利用は、標準の動き推定を用いるものと同様又は同じである。例えば、ユーザは、変わらずにデジタルカムコーダーを単純に始動し、カムコーダーを用いて映像を記録する。改善された動き推定処理は、映像品質を自動的に改善することができる。例えば、推測的開始点反復検索機構は、映像安定化装置のような動き推定を必要とするあらゆる場合に用いることができる。多くの他のアプリケーションが、この改善された動き推定処理を利用することができる。
作動時には、推測的開始点反復検索機構を用いることにより、反復検索は、いくつかの点で改善される。改善された反復検索は、可能な最良の開始点から始まるので、完全に間違った位置に進むことを回避する。反復検索は、「静的な位置」(0MV)、カメラパンのような「グローバル移動」(GMV)、及び「オブジェクトの動き」(PMV)の中から選択された開始MVを用いて、検索範囲の可能な最良の位置の近くの位置から始めることができる可能性が高いので、合計反復回数を低減することができる。最良の位置(例えば、MV)が大きい場合であっても、反復がグローバルの動きから始まる場合には検索位置に到達することができる。M.264符号器における推測的開始点反復検索機構は、SAD計算時間を劇的に短縮する。
極小値回避
反復検索の重要な態様は、次の中心点を如何にして選択するかである。システムが、最小SADを有する方向を単純に選択した場合には、システムは、極小値において往来する状況に陥る可能性がある。例えば、ナイーブなシステムは、最小SAD点の方向を選択する可能性がある。図8に示している例では、位置802が5×5区域800の最小SAD値を有する時には右に進むのが妥当である。次の反復は、右にある5×5区域に対する検索である。しかし、検索は、実際の最小値902ではなく、図9に示しているように極小値900に収まる可能性がある。この場合、次の反復の最小SADは、図10に示している5×5区域内の左の中心1002である。次に、ナイーブな選択アルゴリズムは、次の検索が、既に検索済みである左の5×5区域に進むように判断する。以降の検索では、最小SADは、ここでもまた右の中心であり、検索は往来を続け、極小値に留まる。
反復検索の重要な態様は、次の中心点を如何にして選択するかである。システムが、最小SADを有する方向を単純に選択した場合には、システムは、極小値において往来する状況に陥る可能性がある。例えば、ナイーブなシステムは、最小SAD点の方向を選択する可能性がある。図8に示している例では、位置802が5×5区域800の最小SAD値を有する時には右に進むのが妥当である。次の反復は、右にある5×5区域に対する検索である。しかし、検索は、実際の最小値902ではなく、図9に示しているように極小値900に収まる可能性がある。この場合、次の反復の最小SADは、図10に示している5×5区域内の左の中心1002である。次に、ナイーブな選択アルゴリズムは、次の検索が、既に検索済みである左の5×5区域に進むように判断する。以降の検索では、最小SADは、ここでもまた右の中心であり、検索は往来を続け、極小値に留まる。
極小値に留まることを回避するために、極小値回避検索は、解析される次の方向が、前に解析した方向と反対であるか否かを判断する。検索が次の検索中心に進む前に、検索は、現在の検索の最小SAD位置を保持する。図8の場合には、システムは、東に進んでいることを記憶する。
次の検索位置のSAD計算が完了し、最良のSADが選出された後に、システムは、以前の反復との「反対方向」に進もうとするか否かを調べる。図10の場合には、新しい方向は西であり、これは以前の方向と正反対である。これが発生すると、システムは、前に選択した向き(例えば、東)に進むように判断する。反対方向を何回か回避した後に、検索は、極小値1100を脱出することができ、図11に示しているように実際の最小値1102に向けて移動する。
図12から図14は、極小値回避検索の例示的な実施を示している。H.264映像符号器における実施では、システムは、以前の検索の最小SAD位置しか記憶しない。5×5検索1200では、0から24までの番号が保持される。図12は、最小SADが、東の中位位置にある位置14であると判断されていることを示している。
反復における次の段階では、新しい最小SAD位置が計算された後に、新しい位置が以前の最良の位置と比較される。ルックアップテーブル又は他のマッピング機構に基づいて、方法/システムは、どの位置が反対方向にあると見なされるかを把握することができる。例えば、図12では以前の段階における最良の位置は14であり、従って、図13の陰付き表示位置1300は、「以前の最良のものと反対である」と見なされる。
新しい位置が、これらの陰付き表示位置1300のうちのいずれかであった場合には、システムは、この反復を過去の検索位置への「後退」と見なす。この後システムは、基本的な反復規則を無効にして、次の方向として東を選択する。
5×5検索の場合には、一部の適用可能な規則は、図14に示しているパターンに低減されたものである。他の位置は、図を回転させることによって当て嵌めることができる。以前の検索位置に対して陰付き表示位置1400が示されており、対応する禁則位置1402が、陰付き位置1400に対向して示されている。一般的に、コーナ位置は、場合によっては延長が反対であると見なされた場合に反対コーナ位置を生じ、側部/上部/底部の位置は、反対位置としてそれぞれの反対側部/底部/上部を有する。
図15は、単純化された反復検索の流れ図を示している。段階1500では、5×5検索のSADが計算される。段階1502では、最小SAD位置が選択される。次に、段階1504では、新しい検索中心が、現在の検索結果に基づいて選択される。処理は、閾値に達するか又は別の基準が満たされるまで指定回数繰り返される。
極小値回避検索のフローを図16に例示している。新しい検索中心が選択される前に、方向が後退しているか否かを判断するために新しい方向が調べられる。後退している場合には、方向は、以前の方向で置換される。方向は、最小SADの位置によって判断される。例えば、最小SADが東の中位位置である場合には、方向は東である。方向が東の上位位置であった場合には、方向は北東であり、以下同様である。
具体的には、段階1600では、5×5区域の各検索位置のSADが計算される。段階1602では、最小SADを有する位置が選択される。段階1604では、新しい位置の方向が判断される。段階1606では、この方向が以前の方向と反対であるか否かが判断される。この方向が反対ではなかった場合には、段階1608において新しい位置が保持され、段階1610はとばされる。方向が反対であった場合には、段階1610において、新しい位置が以前の位置に設定される。次に、段階1612では、段階1608又は段階1610において判断された位置に基づいて新しい検索中心が選択される。処理は、段階1614において閾値に達するか又は別の基準が満たされるまで指定回数繰り返される。
一部の実施形態では、「後退」が検出された場合に、同じ方向(例えば、以前の向き)が辿られる。一部の実施形態では、「後退」が検出された場合には、以前の方向と新しい方向の間のどこかである調節された方向が取られる。
例証目的で5×5検索を用いたが、あらゆる適切にサイズの検索が可能である。
例証目的で5×5検索を用いたが、あらゆる適切にサイズの検索が可能である。
上述のように、図7は、コンピュータデバイス700を示している。コンピュータデバイスは、推測的開始点法を実行することができることに加えて、他のアプリケーションに加えて、又はその代わりに極小値回避を実行することができる。一部の実施形態では、コンピュータデバイス700は、極小値を回避するための付加的なアプリケーション732を含む。一部の実施形態では、極小値回避法は、推測的開始点選択アプリケーション730と同じアプリケーション内に実施される。一部の実施形態では、コンピュータデバイス「ME HW」720が、極小値を回避するように構成される。極小値回避は、ハードウエア、ファームウエア、ソフトウエア、又はこれらのあらゆる組合せに実施することができる。
極小値回避検索を利用するのに、コンピュータデバイスは通常通りに作動するが、極小値が回避されることになるので、動き推定処理は、処理が、より効率的かつより正確であるという点で改善される。ユーザから見たコンピュータデバイスの利用は、標準の動き推定を用いるものと同様又は同じである。例えば、ユーザは、変わらずにデジタルカムコーダーを単純に始動し、カムコーダーを用いて映像を記録する。極小値回避検索は、映像品質を自動的に改善することができる。例えば、極小値回避検索は、映像安定化装置のような動き推定を必要とするあらゆる場合に用いることができる。多くの他のアプリケーションが、極小値回避処理を利用することができる。
作動時には、極小値回避検索は、反復検索が、連続的に往来して同じ位置を検索することを阻止することによって極小値を回避する。
作動時には、極小値回避検索は、反復検索が、連続的に往来して同じ位置を検索することを阻止することによって極小値を回避する。
次検索位置機構
反復検索は、検索範囲の限られた点しか検索することができないので、検索点が効率的に選択されない場合には、画像品質は大きく劣化する。更に、検索点選択は、反復における全ての段階に実施される。従って、意志判断アルゴリズムは好ましくは、高速である。
次検索位置機構は、最小SADの位置にのみ基づいて次の検索中心を迅速に判断することができる。
反復検索は、検索範囲の限られた点しか検索することができないので、検索点が効率的に選択されない場合には、画像品質は大きく劣化する。更に、検索点選択は、反復における全ての段階に実施される。従って、意志判断アルゴリズムは好ましくは、高速である。
次検索位置機構は、最小SADの位置にのみ基づいて次の検索中心を迅速に判断することができる。
図17は、作動時の次位置セレクタ1702の流れ図を示している。次位置セレクタ1702の入力1700は、現在の検索における最小SADの位置である。3×3の場合には、位置は、図18に示しているように0から8までの番号である。出力1704は、現在の検索中心から新しい検索中心までのオフセットである。次に、反復検索は、出力に基づいて移動する。
例えば、最小SADの位置が、図18の位置のうちで「1」とラベル付けされたものである時には、次の検索中心は、現在の検索中心の3ピクセル北になる。従って、現在の検索の検索中心が、位置(10,10)にあり、3×3検索区域内の最良/最小のSAD位置が位置1にある場合には、次の検索中心は、位置(10,7)に存在することになる。しかし、最小SADが位置5にある場合には、次の検索中心は、3ピクセル東になる。従って、現在の検索中心が位置(10,10)にある場合には、新しい検索中心は、位置(13,10)に存在することになる。
図18〜図20は、現在の検索区域の最小SADを有する位置に基づく次の検索区域を3×3検索区域において例示している。図18は、各位置が番号で示された3×3検索を示している。このパターンは、水平、垂直、及び対角位置のみを含む。図19は、位置1:北(0,−3)、位置3:西(−3,0)、位置7:南(0,3)、及び位置5:東(3,0)という対応する次の検索区域オフセットを有する水平位置(3、5)及び垂直位置(1、7)を示している。図20は、位置0:北西(−2,−2)、位置6:南西(−2,2)、位置8:南東(2,2)、及び位置2:北東(2,−2)という対応する検索区域オフセットを有する対角位置(0、2、6、8)を示している。
3×3検索区域を説明したが、あらゆる適切な検索区域が可能である。
3×3検索区域を説明したが、あらゆる適切な検索区域が可能である。
図21は、次の位置を選択する方法の流れ図を示している。段階3100では、検索区域内で最小SADを有する位置が判断される。一部の実施形態では、検索区域は3×3ピクセルであり、一部の実施形態では、検索区域は異なるサイズのものである。段階3102では、次の検索に向けて、次の検索区域中心点に対するオフセットが、最小SAD位置に基づいて自動的に計算/参照される。一部の実施形態では、次の中心点の実際の位置は、現在の中心点に基づいて計算される。段階3104では、次の検索区域に向けて中心点が選択される。
次位置セレクタによって用いられる規則は、ルックアップテーブルによって実施することができる。一部の実施形態では、規則は、別の手段によって実施される。一部の実施形態では、SADの値自体さえも必要とされない。規則は、最小SADの位置を単純に用いて次の検索区域の中心点を判断する。更に、規則は、ルックアップテーブルに実施されるので、これらの規則は、必要に応じて容易に変更することができる。
図22は、最小SADを有する位置に基づいて次の検索区域の中心点を判断するための例示的なルックアップテーブル3200を示している。上述のように、次の検索区域の中心点に対するオフセットは、最小SAD位置に基づいて判断される。図22に示しているように、最小SADが位置0にある場合に、次の検索区域の中心点は、オフセット(−2,−2)の位置に存在する。他の参照値も同様に示されている。図22は、3×3ピクセルの検索区域を仮定している。他の検索区域では、これらの値は相応に変化することになる。
H.264符号器では、次検索区域選択機構は、簡単な極小値回避検索機構との組合せにおいて、小さいプロセッササイクルで高品質の符号化を提供することができる。
H.264符号器では、次検索区域選択機構は、簡単な極小値回避検索機構との組合せにおいて、小さいプロセッササイクルで高品質の符号化を提供することができる。
上述のように、図7は、コンピュータデバイス700を示している。コンピュータデバイス700は、推測的開始点反復検索機構及び極小値回避法を実行することができることに加えて、他のアプリケーションの代わりに又はそれに加えて次検索位置選択法を実行することができる。一部の実施形態では、コンピュータデバイス700は、次の検索位置を選択するための付加的なアプリケーション734を含む。一部の実施形態では、次検索位置選択法は、アプリケーション732又は推測的開始点選択アプリケーション730のような同じアプリケーション内に実施される。一部の実施形態では、次の検索位置を選択するためのアプリケーション734又はハードウエア720は、検索区域の最小SAD位置を受け取るための入力コンポーネント734’、最小SAD位置に基づくオフセットを参照するためのルックアップテーブルのようなマッピングコンポーネント734’’、次の検索区域の中心点のオフセットを出力するための出力コンポーネント734’’’を含む。一部の実施形態では、オフセットが出力される代わりに又はそれに加えて、次の検索区域の中心点の実際の位置が判断される。一部の実施形態では、コンピュータデバイス「ME HW」720は、次の検索位置を選択するように構成される。次検索位置選択は、ハードウエア、ファームウエア、ソフトウエア、又はこれらのあらゆる組合せに実施することができる。
次位置セレクタを利用するのに、コンピュータデバイスは通常通りに作動するが、より良好な検索される次の位置が選択されることになるので、動き推定処理は、処理が、より効率的及びより正確であるという点で改善される。ユーザから見たコンピュータデバイスの利用は、標準の動き推定を用いるものと同様又は同じである。例えば、ユーザは、変わらずにデジタルカムコーダーを単純に始動し、カムコーダーを用いて映像を記録する。次位置セレクタは、映像品質を自動的に改善することができる。例えば、次位置セレクタは、映像安定化装置のような動き推定を必要とするあらゆる場合に用いることができる。多くの他のアプリケーションが、次位置セレクタを利用することができる。
作動時には、次位置セレクタは、次の検索区域の中心点を判断して動き推定の効率を改善する。更に、次位置セレクタは、簡単な機構を用いるので、それは容易に実施される。
作動時には、次位置セレクタは、次の検索区域の中心点を判断して動き推定の効率を改善する。更に、次位置セレクタは、簡単な機構を用いるので、それは容易に実施される。
精緻化機構
滑らかで平坦な区域では、殆どの位置は、類似のSAD値を有する。従って、あらゆる動きベクトルが良好な候補であるように見えるので、検索アルゴリズムは容易に欺かれる。しかし、MEが任意の動きベクトルを選択した場合には、係数ではなく動きベクトルヘッダに対してより多くのビットが消費され、本質的な画像品質を低下させる。更に、この場合、SN比は、それ程影響を受けないが、滑らかな面における矛盾する動きは、不自然な画像を発生させ、本質的な品質を劣化させる。
滑らかで平坦な区域では、殆どの位置は、類似のSAD値を有する。従って、あらゆる動きベクトルが良好な候補であるように見えるので、検索アルゴリズムは容易に欺かれる。しかし、MEが任意の動きベクトルを選択した場合には、係数ではなく動きベクトルヘッダに対してより多くのビットが消費され、本質的な画像品質を低下させる。更に、この場合、SN比は、それ程影響を受けないが、滑らかな面における矛盾する動きは、不自然な画像を発生させ、本質的な品質を劣化させる。
元の画像が多くのノイズを有する場合には、SADの計算は、ノイズによって容易に欺かれる。時としてこれらの不正確な動きベクトルは、ノイズの理由からより小さいSAD値を有する。しかし、これらの不正確な動きは、人間の目によって容易に見分けられる。
「予測動きベクトル(PMV)」を用いて反復検索を精緻化する機構を説明する。PMVは、隣接マクロブロックから予測される、現在のマクロブロックの最も可能性の高い動きベクトルである。
周辺のマクロブロックの動きベクトルを用いた反復検索のフローを図23に示している。PMV精緻化は、PMV位置に2つの可能性を与える。段階3300では、「グローバル動きベクトル(GMV)」、「ゼロ(0)動きベクトル(0MV)」、及び「予測動きベクトル(PMV)」という3つの位置のSADが計算される。GMVは、以前に符号化されたフレームの統計からフレーム毎に一度計算され、PMVは、現在のフレーム内の隣接マクロブロックからの各マクロブロックに対して推定される。最小SADを有する位置が、以降の反復検索の開始位置として用いられる。「符号器/復号器(CODEC)」によっては、様々な位置を上述したものに限定されない「有望な」位置として選択することができる。上記では3つの位置を説明したが、選択するのに利用可能な位置の個数は、3つに限定されず、それよりも多いか又は少ない位置から選択することができる。
周辺のマクロブロックの動きベクトルを用いた反復検索のフローを図23に示している。PMV精緻化は、PMV位置に2つの可能性を与える。段階3300では、「グローバル動きベクトル(GMV)」、「ゼロ(0)動きベクトル(0MV)」、及び「予測動きベクトル(PMV)」という3つの位置のSADが計算される。GMVは、以前に符号化されたフレームの統計からフレーム毎に一度計算され、PMVは、現在のフレーム内の隣接マクロブロックからの各マクロブロックに対して推定される。最小SADを有する位置が、以降の反復検索の開始位置として用いられる。「符号器/復号器(CODEC)」によっては、様々な位置を上述したものに限定されない「有望な」位置として選択することができる。上記では3つの位置を説明したが、選択するのに利用可能な位置の個数は、3つに限定されず、それよりも多いか又は少ない位置から選択することができる。
段階3302では、システムは、図4で説明した反復検索を実行する。しかし、反復の開始位置は、段階3300からの最良の開始位置である。PMV位置のSAD値が計算され、0MV及びグローバルMVのような他の位置と比較され、上述のように反復の開始位置が判断される。一部の実施形態では、段階3300の後に、選択されたSADが、反復検索の他の実施における開始位置として用いられる。反復検索は、最小SAD位置を生じる。段階3304では、動きベクトルコストが反復検索の検索結果のSADに加算され、それに対してMVコストはPMVのSADには加算されない。次に、段階3306では、動きベクトルコストが加算された反復検索の検索結果(例えば、最小SAD位置)が、PMV位置のSADと再度比較される。動きベクトルコストを有する反復検索結果とPMVのSADとのうちの小さい方が選択される。段階3308では、動きベクトルが精緻化される。その結果は、より短い時間量で処理された滑らかな画像/映像処理である。
MVコストを計算するには様々な手法がある。一般的に、動きベクトルコストは、PMVからの距離に基づいて計算される。従って、MVコストは、pMV位置に加算されない。
MVコストを計算するには様々な手法がある。一般的に、動きベクトルコストは、PMVからの距離に基づいて計算される。従って、MVコストは、pMV位置に加算されない。
図24は、現在のマクロブロック3400を隣接マクロブロック3402及びそれらの動きベクトルと共に例示している。PMVは、隣接マクロブロック3402から計算される。
精緻化機構は、反復検索が勝手な動きベクトルを選択するのを阻止する。この機構は、滑らかな面においても動きベクトルが適合することになるのに役立ち、動きベクトルヘッダに費やされるビットを節約する。それによって本質的な画像品質が改善される。更に、このシステムは、ノイズの多い映像シーケンスにおいてさえも、欺かれる可能性が低い。
精緻化機構は、PMVを計算する手法を限定しない。更に、この精緻化機構は、いかなる種類のMEアプリケーションにも適用することができる。
精緻化機構は、反復検索が勝手な動きベクトルを選択するのを阻止する。この機構は、滑らかな面においても動きベクトルが適合することになるのに役立ち、動きベクトルヘッダに費やされるビットを節約する。それによって本質的な画像品質が改善される。更に、このシステムは、ノイズの多い映像シーケンスにおいてさえも、欺かれる可能性が低い。
精緻化機構は、PMVを計算する手法を限定しない。更に、この精緻化機構は、いかなる種類のMEアプリケーションにも適用することができる。
上述のように、図7は、コンピュータデバイス700を示している。コンピュータデバイス700は、精緻化機構を実行することができる。一部の実施形態では、コンピュータデバイス700は、精緻化機構を実行するための付加的なアプリケーション736を含む。一部の実施形態では、アプリケーション736は、開始位置コンポーネント736’、反復検索コンポーネント736’’、及び付加的な比較コンポーネント736’’’を有する。一部の実施形態では、精緻化機構は、前に解説したアプリケーションのうちの1つと同じアプリケーション内に実施される。一部の実施形態では、コンピュータデバイス「ME HW」720が、精緻化機構を実施するように構成される。精緻化機構は、ハードウエア、ファームウエア、ソフトウエア、又はこれらのあらゆる組合せに実施することができる。
精緻化機構を利用するのに、コンピュータデバイスは通常通りに作動するが、適正な動きベクトルが選択されることになるので、動き推定処理は、特に、滑らかで平坦な区域において、処理が、より効率的で正確であるという点で改善される。ユーザから見たコンピュータデバイスの利用は、標準の動き推定を用いるものと同様又は同じである。例えば、ユーザは、変わらずにデジタルカムコーダーを単純に始動し、カムコーダーを用いて映像を記録する。精緻化機構は、映像品質を自動的に改善することができる。例えば、精緻化機構は、映像安定化装置のような動き推定を必要とするあらゆる場合に用いることができる。多くの他のアプリケーションが、精緻化機構を利用することができる。
作動時には、精緻化機構は、動きベクトルコストを動きベクトルのSADに加算し、この値をPMVのSADと比較することによって適切な動きベクトルを判断する。次に、動きベクトルの精緻化に向けてこれらの2つのうちの低い方が用いられる。この付加的な比較は、映像内の滑らかな平坦区域又はノイズの多い映像から発生する問題を回避するのに役立つ。
閾値を用いた精緻化機構
画像の動きが非常に大きい場合には、上述の精緻化機構は、一部の悪影響を有する。具体的には、システムは、反復検索の検索結果をPMV位置と比較する。しかし、合計コストがPMV位置と比較され、この場合、合計コストは「SAD+MVコスト」であり、それに対してPMVの合計コストはSADのみである。従って、画像内の動きが大きい場合には、MVコストも比較的大きいものである傾向を有する。それによって精緻化機構は、動き推定システムが大きい動きベクトルを生成するのを強く妨害する。
画像の動きが非常に大きい場合には、上述の精緻化機構は、一部の悪影響を有する。具体的には、システムは、反復検索の検索結果をPMV位置と比較する。しかし、合計コストがPMV位置と比較され、この場合、合計コストは「SAD+MVコスト」であり、それに対してPMVの合計コストはSADのみである。従って、画像内の動きが大きい場合には、MVコストも比較的大きいものである傾向を有する。それによって精緻化機構は、動き推定システムが大きい動きベクトルを生成するのを強く妨害する。
閾値が追加された周辺のマクロブロックの動きベクトルを用いる反復検索のフローを図25に示している。PMV精緻化は、PMV位置に2つの可能性を与えるが、閾値は、第2の可能性が有利であるか否かを判断する。段階3500では、「グローバル動きベクトル(GMV)」、「ゼロ(0)動きベクトル(0MV)」、及び「予測動きベクトル(PMV)」という3つの位置のSADが計算される。GMVは、以前に符号化されたフレームの統計からフレーム毎に一度計算され、PMVは、現在のフレーム内の隣接マクロブロックからの各マクロブロックに対して推定される。最小SADを有する位置が、以降の反復検索の開始位置として用いられる。「符号器/復号器(CODEC)」によっては、様々な位置を上述したものに限定されない「有望な」位置として選択することができる。上記では3つの位置を説明したが、選択するのに利用可能な位置の個数は、3つに限定されず、それよりも多いか又は少ない位置から選択することができる。
段階3502では、システムは、図4に説明した反復検索を実行する。しかし、反復の開始位置は、段階3500からの最良の開始位置である。PMV位置のSAD値が計算され、0MV及びグローバルMV(GMV)のような他の位置と比較され、上述のように反復の開始位置が判断される。一部の実施形態では、段階3500の後に、選択されたSADが、反復検索の他の実施における開始位置として用いられる。反復検索は、最小SAD位置を生じる。段階3504では、動きベクトルコストが反復検索の検索結果のSADに加算される。一部の実施形態では、段階3504の順序と段階3506の順序とが入れ替えられる。段階3506では、GMVが閾値と比較される。GMVが閾値よりも低い場合には、段階3508において動きベクトルコストが加算された反復検索の検索結果(例えば、最小SAD位置)が、PMV位置のSADと比較される。反復検索結果とPMVのSADとのうちの小さい方が選択される。段階3510では、選択された動きベクトルが精緻化される。段階3506でGMVが閾値よりも大きいか又はそれに等しい場合には、段階3508における比較は省略され、反復検索の結果は、段階3510で精緻化された動きベクトルである。この結果は、より短い時間量で処理された滑らかな画像/映像である。
閾値を用いた精緻化機構は、反復検索が任意の動きベクトルを選択することを阻止し、また、先行PMVがより大きい動きベクトルを妨害することを阻止する。これは、滑らかな面においてさえも動きベクトルが適合することになることにも役立ち、動きベクトルヘッダに費やされるビットが節約される。それによって画像内の動きが大きい場合に、本質的な画像品質が改善される。
閾値を用いた精緻化機構は、PMVを計算する手法を限定しない。更に、精緻化機構は、いかなる種類のMEアプリケーションにも適用することができる。
閾値を用いた精緻化機構は、PMVを計算する手法を限定しない。更に、精緻化機構は、いかなる種類のMEアプリケーションにも適用することができる。
上述のように、図7は、コンピュータデバイス700を示している。コンピュータデバイス700は、閾値を用いた精緻化機構を実行することができる。一部の実施形態では、コンピュータデバイス700は、閾値を用いた精緻化機構を実行するための付加的なアプリケーション738を含む。一部の実施形態では、アプリケーション738は、開始位置コンポーネント738’、反復検索コンポーネント738’’、閾値コンポーネント738’’’、及び付加的な比較コンポーネント738’’’’を有する。一部の実施形態では、閾値を用いた精緻化機構は、前に解説したアプリケーションのうちの1つと同じアプリケーション内に実施される。一部の実施形態では、コンピュータデバイス「ME HW」720が、閾値を用いた精緻化機構を実施するように構成される。閾値を用いた精緻化機構は、ハードウエア、ファームウエア、ソフトウエア、又はこれらのあらゆる組合せに実施することができる。
閾値を用いた精緻化機構を利用するのに、コンピュータデバイスは通常通りに作動するが、適正な動きベクトルが選択されることになるので、動き推定処理は、特に、滑らかで平坦な区域において、処理が、より効率的かつより正確であるという点で改善される。ユーザから見たコンピュータデバイスの利用は、標準の動き推定を用いるものと同様又は同じである。例えば、ユーザは、変わらずにデジタルカムコーダーを単純に始動し、カムコーダーを用いて映像を記録する。閾値を用いた精緻化機構は、映像品質を自動的に改善することができる。例えば、閾値を用いた精緻化機構は、映像安定化装置のような動き推定を必要とするあらゆる場合に用いることができる。多くの他のアプリケーションが、閾値を用いた精緻化機構を利用することができる。
作動時には、閾値を用いた精緻化機構は、最初に、GMVと閾値との比較に基づいて反復検索結果とPMVとの比較が適切であるか否かを判断する。適切な場合には、次に、閾値を用いた精緻化機構は、動きベクトルコストを動きベクトルのSADに加算し、この値をPMVのSADと比較することによって適切な動きベクトルを判断する。次に、これらの2つのうちで低い方が、動きベクトルの精緻化に用いられる。適切ではない場合には、反復検索結果からの動きベクトルが、精緻化に用いられる。
早期終了機構
反復検索アルゴリズムは、SAD計算の回数を低減するが、システム内ではSADによる電力消費は依然として大きい。従って、反復回数を低減する方法が、次に、電力消費を低減することになる。
反復検索の電力消費を低減するために、反復検索は、「良好な」検索候補が見つかった時に終了される。システムは、1つの段階の最良のSADを閾値と比較する。最良のSAD値が閾値よりも小さい場合には、この値は「良好な」検索候補と見なされ、反復は終了される。そうでなければ、検索は通常通りに続行される。
反復検索アルゴリズムは、SAD計算の回数を低減するが、システム内ではSADによる電力消費は依然として大きい。従って、反復回数を低減する方法が、次に、電力消費を低減することになる。
反復検索の電力消費を低減するために、反復検索は、「良好な」検索候補が見つかった時に終了される。システムは、1つの段階の最良のSADを閾値と比較する。最良のSAD値が閾値よりも小さい場合には、この値は「良好な」検索候補と見なされ、反復は終了される。そうでなければ、検索は通常通りに続行される。
図26は、閾値を用いた反復検索の流れ図を示している。段階3600では、処理は、Nに等しい計数値で始まり、ここでNは検索回数である。段階3602では、ある一定の領域のSADが計算される(例えば、3×3領域)。段階3604では、段階3602の計算に基づいて最小SAD位置が選択される。段階3606では、最小SADが、以前の最良の(例えば、最小の)SADと比較され、2つのうちで低い方が保持される。段階3608では、段階3606における比較を計数するために計数値が1だけ減分される。段階3610では、計数値が0であるか否かが判断される。計数値が0である場合には、処理は終了する。計数値が0でない場合には、段階3612において、保持されたSADが、閾値よりも小さいか否かが判断される。SADが閾値よりも小さかった場合には、処理は終了する。SADが閾値よりも小さくなかった場合には、段階3614において次の検索位置が選択される。その後、段階3602において始まり、処理は繰り返される。一部の実施形態では、計数の別の実施又は計数の別の順序を用いることができる。
上述のように、図7は、コンピュータデバイス700を示している。コンピュータデバイス700は、早期終了機構を実行することができる。一部の実施形態では、コンピュータデバイス700は、早期終了機構を実行するための付加的なアプリケーション740を含む。一部の実施形態では、早期終了機構は、前に解説したアプリケーションのうちの1つと同じアプリケーション内に実施される。一部の実施形態では、アプリケーション740は、反復検索のための反復検索コンポーネント740’、及び閾値条件が満たされた場合の早期終了のための閾値コンポーネント740’’を含む。一部の実施形態では、コンピュータデバイス「ME HW」720が、早期終了機構を実施するように構成される。早期終了機構は、ハードウエア、ファームウエア、ソフトウエア、又はこれらのあらゆる組合せに実施することができる。
早期終了機構を利用するのに、コンピュータデバイスは通常通りに作動するが、動き推定処理は、処理がより効率的である点で改善される。ユーザから見たコンピュータデバイスの利用は、標準の動き推定を用いるものと同様又は同じである。例えば、ユーザは、変わらずにデジタルカムコーダーを単純に始動し、カムコーダーを用いて映像を記録する。早期終了機構は、映像品質を自動的に改善することができる。例えば、早期終了機構は、映像安定化装置のような動き推定を必要とするあらゆる場合に用いることができる。多くの他のアプリケーションが、早期終了機構を利用することができる。
作動時には、早期終了機構は、最良のSADが閾値よりも小さいかを判断する。最良のSADが閾値よりも小さかった場合には、機構は、残りの計数を完了することなく終了する。早期終了機構は、動き推定がハードウエア内に実施される時に反復検索の電力消費を低減する。ソフトウエアに実施される場合には、早期終了機構は、プロセッササイクルを低減し、より高速な符号化速度を生じる。
上述の方法のうちのいずれか及び/又は全てを必要に応じて別々のデバイス又は単一のデバイス上に実施することができる。例えば、デジタルカムコーダーは、推測的開始点法、極小値回避、次検索位置機構、精緻化機構、閾値を用いた精緻化機構、及び早期終了機構を含むことができる。
上述の方法のうちのいずれか及び/又は全てを必要に応じて別々のデバイス又は単一のデバイス上に実施することができる。例えば、デジタルカムコーダーは、推測的開始点法、極小値回避、次検索位置機構、精緻化機構、閾値を用いた精緻化機構、及び早期終了機構を含むことができる。
本明細書では、パターン適合度を計算するために反復検索において実施される距離測定基準としてSADを説明したが、「絶対移動距離の和」及び「平均二乗誤差」を含むがこれらに限定されない誤差値又は他の距離のような用いることができる多くの他の距離測定基準又は誤差測定基準が存在する。
本発明の構成の原理及び作動の理解を容易にするために、詳細内容が組み込まれた特定的な実施形態を用いて本発明を説明した。本明細書における特定的な実施形態及びその詳細内容への参照は、特許請求の範囲を限定することを意図したものではない。当業者には、特許請求によって定められる本発明の精神及び範囲から逸脱せずに、例示的に選択された実施形態に他の様々な修正を加えることができることが容易に明らかであろう。
本発明の構成の原理及び作動の理解を容易にするために、詳細内容が組み込まれた特定的な実施形態を用いて本発明を説明した。本明細書における特定的な実施形態及びその詳細内容への参照は、特許請求の範囲を限定することを意図したものではない。当業者には、特許請求によって定められる本発明の精神及び範囲から逸脱せずに、例示的に選択された実施形態に他の様々な修正を加えることができることが容易に明らかであろう。
600 SADを計算する段階
0MV ゼロ動きベクトル
GMV グローバル動きベクトル
PMV 予測動きベクトル
0MV ゼロ動きベクトル
GMV グローバル動きベクトル
PMV 予測動きベクトル
Claims (84)
- コンピュータデバイスを用いて動き推定のための反復検索結果を精緻化する方法であって、
a.i.複数の位置の各々に対して距離値を計算する段階、
ii.前記複数の位置の各々の前記距離値を比較する段階、及び
iii.前記複数の位置の各々の前記距離値から最小開始距離位置を選択する段階、
を含む開始位置を判断する段階、
b.前記開始位置から始めて最小距離位置に関して反復的に検索する段階、
c.前記最小距離位置の最小距離値に動きベクトルコストを加算して合計コストを形成する段階、
d.前記合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階、及び
e.前記合計コストと前記予測動きベクトル距離値のうちの前記小さい方の値を選択する段階、
を含むことを特徴とする方法。 - 前記距離値は、「絶対差の和」値であることを特徴とする請求項1に記載の方法。
- 前記複数の位置は、第1の位置、第2の位置、及び第3の位置を含むことを特徴とする請求項1に記載の方法。
- 前記第1の位置は、ゼロ(0)動きベクトルであり、前記第2の位置は、予測動きベクトルであり、前記第3の位置は、グローバル動きベクトルであることを特徴とする請求項3に記載の方法。
- 前記動きベクトルコストは、予測動きベクトルからの距離に基づいて計算されることを特徴とする請求項1に記載の方法。
- 前記小さい方の値は、更に精緻化され、かつ画像を安定させることを特徴とする請求項1に記載の方法。
- 反復的に検索する段階は、
a.計数値を指定値に設定する段階、
b.部分領域の部分領域距離値を計算する段階、
c.前記部分領域内の最小領域距離値を選択する段階、
d.前記最小領域距離値を以前の最小領域距離と比較する段階、
e.前記最小領域距離値と前記以前の最小領域距離値のうちの小さい方の領域距離値を保持する段階、
f.前記計数値を減分する段階、及び
g.前記計数値がゼロになるまでb〜fを繰り返す段階、
を更に含む、
ことを特徴とする請求項1に記載の方法。 - 反復的に検索する段階は、
a.部分領域の部分領域距離値を計算する段階、
b.前記部分領域の最小距離値を判断する段階、
c.前記最小距離値を閾値と比較する段階、
d.前記最小距離値が前記閾値よりも小さい場合に、早期に終了する段階、及び
e.前記最小距離値が前記閾値よりも大きいか又はそれに等しい場合に、前記計数値がゼロになるまでa〜dを繰り返す段階、
を更に含む、
ことを特徴とする請求項1に記載の方法。 - 前記コンピュータデバイスは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されることを特徴とする請求項1に記載の方法。
- 動き推定のために反復検索結果を精緻化するためのシステムであって、
a.i.(1)複数の位置の各々に対して距離値を計算する段階、
(2)前記複数の位置の各々の前記距離値を比較する段階、及び
(3)前記複数の位置の各々の前記距離値から最小開始距離位置を選択する段階、
を含む開始位置を判断する段階、
ii.前記開始位置から始めて最小距離位置に関して反復的に検索する段階、
iii.前記最小距離位置の最小距離値に動きベクトルコストを加算して合計コストを形成する段階、
iv.前記合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階、及び
v.前記合計コストと前記予測動きベクトル距離値のうちの前記小さい方の値を選択する段階、
を行うように構成されたアプリケーションを記憶するためのメモリ、及び
b.前記アプリケーションを処理するためのプロセッサ、
を含むことを特徴とするシステム。 - 前記距離値は、「絶対差の和」値であることを特徴とする請求項10に記載のシステム。
- 前記複数の位置は、第1の位置、第2の位置、及び第3の位置を含むことを特徴とする請求項10に記載のシステム。
- 前記第1の位置は、ゼロ(0)動きベクトルであり、前記第2の位置は、予測動きベクトルであり、前記第3の位置は、グローバル動きベクトルであることを特徴とする請求項12に記載のシステム。
- 前記動きベクトルコストは、予測動きベクトルからの距離に基づいて計算されることを特徴とする請求項10に記載のシステム。
- 反復的に検索する段階は、
a.計数値を指定値に設定する段階、
b.部分領域の部分領域距離値を計算する段階、
c.前記部分領域内の最小領域距離値を選択する段階、
d.前記最小領域距離値を以前の最小領域距離値と比較する段階、
e.前記最小領域距離値と前記以前の最小領域距離値のうちの小さい方の領域距離値を保持する段階、
f.前記計数値を減分する段階、及び
g.前記計数値がゼロになるまでb〜fを繰り返す段階、
を更に含む、
ことを特徴とする請求項10に記載のシステム。 - 反復的に検索する段階は、
a.部分領域の部分領域距離値を計算する段階、
b.前記部分領域の最小距離値を判断する段階、
c.前記最小距離値を閾値と比較する段階、
d.前記最小距離値が前記閾値よりも小さい場合に、早期に終了する段階、及び
e.前記最小距離値が前記閾値よりも大きいか又はそれに等しい場合に、前記計数値がゼロになるまでa〜dを繰り返す段階、
を更に含む、
ことを特徴とする請求項10に記載のシステム。 - 前記小さい方の値は、更に精緻化され、かつ画像を安定させるのに用いられることを特徴とする請求項10に記載のシステム。
- 前記プロセッサ及び前記メモリは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されたデバイス内に収容されることを特徴とする請求項10に記載のシステム。
- 動き推定に対して反復検索結果を精緻化するためにプロセッサによって処理されるアプリケーションであって、
a.反復検索を開始するための最小開始位置を判断するための開始位置コンポーネント、
b.最小距離位置に関して反復的に検索するための反復検索コンポーネント、及び
c.前記最小距離位置の最小距離値と動きベクトルコストとを含む合計コストを予測動きベクトル距離値と比較するための比較コンポーネント、
を含むことを特徴とするアプリケーション。 - 最小開始位置の判断は、
a.複数の位置の各々に対して距離値を計算すること、
b.前記複数の位置の各々の前記距離値を比較すること、及び
c.前記複数の位置の各々の前記距離値から最小開始距離位置を選択すること、
を含む、
ことを特徴とする請求項19に記載のアプリケーション。 - 前記複数の位置は、第1の位置、第2の位置、及び第3の位置を含むことを特徴とする請求項19に記載のアプリケーション。
- 前記第1の位置は、ゼロ(0)動きベクトルであり、前記第2の位置は、予測動きベクトルであり、前記第3の位置は、グローバル動きベクトルであることを特徴とする請求項21に記載のアプリケーション。
- 反復的に検索することは、
a.計数値を指定値に設定すること、
b.部分領域の部分領域距離値を計算すること、
c.前記部分領域内の最小領域距離値を選択すること、
d.前記最小領域距離値を以前の最小領域距離値と比較すること、
e.前記最小領域距離値と前記以前の最小領域距離値のうちの小さい方の領域距離値を保持すること、
f.前記計数値を減分すること、及び
g.前記計数値がゼロになるまでb〜fを繰り返すこと、
を更に含む、
ことを特徴とする請求項19に記載のアプリケーション。 - 前記動きベクトルコストは、予測動きベクトルからの距離に基づいて計算されることを特徴とする請求項19に記載のアプリケーション。
- 最良の距離位置を用いて、画像を安定させるのに用いられる適切な動きベクトルを判断することを特徴とする請求項19に記載のアプリケーション。
- パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されたデバイス内に収容されることを特徴とする請求項19に記載のアプリケーション。
- コンピュータデバイスを用いて動き推定のための反復検索結果を精緻化する方法であって、
a.i.複数の位置の各々に対して距離値を計算する段階、
ii.前記複数の位置の各々の前記距離値を比較する段階、及び
iii.前記複数の位置の各々の前記距離値から最小開始距離位置を選択する段階、
を含む開始位置を判断する段階、
b.前記開始位置から始めて最小距離位置に関して反復的に検索する段階、
c.前記最小距離位置の最小距離値に動きベクトルコストを加算して合計コストを形成する段階、
d.グローバル動きベクトルが閾値よりも小さいかを判断する段階、
e.前記グローバル動きベクトルが前記閾値よりも小さい場合に、
i.前記合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階、及び
ii.精緻化に向けて前記合計コストと前記予測動きベクトル距離値のうちの前記小さい方の値を選択する段階、
を含む付加的な段階を行う段階、及び
f.前記グローバル動きベクトルが前記閾値よりも大きいか又はそれに等しい場合に、精緻化に向けて前記最小距離位置の前記最小距離値を選択する段階、
を含むことを特徴とする方法。 - 前記距離値は、「絶対差の和」値であることを特徴とする請求項27に記載の方法。
- 前記複数の位置は、第1の位置、第2の位置、及び第3の位置を含むことを特徴とする請求項27に記載の方法。
- 前記第1の位置は、ゼロ(0)動きベクトルであり、前記第2の位置は、予測動きベクトルであり、前記第3の位置は、グローバル動きベクトルであることを特徴とする請求項27に記載の方法。
- 前記動きベクトルコストは、予測動きベクトルからの距離に基づいて計算されることを特徴とする請求項27に記載の方法。
- 画像を安定させることを特徴とする方請求項27に記載の方法。
- 反復的に検索する段階は、
a.計数値を指定値に設定する段階、
b.部分領域の部分領域距離値を計算する段階、
c.前記部分領域内の最小領域距離値を選択する段階、
d.前記最小領域距離値を以前の最小領域距離値と比較する段階、
e.前記最小領域距離値と前記以前の最小領域距離値のうちの小さい方の領域距離値を保持する段階、
f.前記計数値を減分する段階、及び
g.前記計数値がゼロになるまでb〜fを繰り返す段階、
を更に含む、
ことを特徴とする請求項27に記載の方法。 - 前記コンピュータデバイスは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されることを特徴とする請求項27に記載の方法。
- 動き推定のための反復検索結果を精緻化するためのシステムであって、
a.i.(1)複数の位置の各々に対して距離値を計算する段階、
(2)前記複数の位置の各々の前記距離値を比較する段階、及び
(3)前記複数の位置の各々の前記距離値から最小開始距離位置を選択する段階、
を含む開始位置を判断する段階、
ii.前記開始位置から始めて最小距離位置に関して反復的に検索する段階、
iii.前記最小距離位置の最小距離値に動きベクトルコストを加算して合計コストを形成する段階、
iv.グローバル動きベクトルが閾値よりも小さいかを判断する段階、
v.前記グローバル動きベクトルが前記閾値よりも小さい場合に、
(1)前記合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階、及び
(2)精緻化に向けて前記合計コストと前記予測動きベクトル距離値のうちの前記小さい方の値を選択する段階、
を含む付加的な段階を行う段階、及び
vi.前記グローバル動きベクトルが前記閾値よりも大きいか又はそれに等しい場合に、精緻化に向けて前記最小距離位置の前記最小距離値を選択する段階、
を行うように構成されたアプリケーションを記憶するためのメモリ、及び
b.前記アプリケーションを処理するためのプロセッサ、
を含むことを特徴とするシステム。 - 前記距離値は、「絶対差の和」値であることを特徴とする請求項35に記載のシステム。
- 前記複数の位置は、第1の位置、第2の位置、及び第3の位置を含むことを特徴とする請求項35に記載のシステム。
- 前記第1の位置は、ゼロ(0)動きベクトルであり、前記第2の位置は、予測動きベクトルであり、前記第3の位置は、グローバル動きベクトルであることを特徴とする請求項37に記載のシステム。
- 前記動きベクトルコストは、予測動きベクトルからの距離に基づいて計算されることを特徴とする請求項35に記載の方法。
- 反復的に検索する段階は、
a.計数値を指定値に設定する段階、
b.部分領域の部分領域距離値を計算する段階、
c.前記部分領域内の最小領域距離値を選択する段階、
d.前記最小領域距離値を以前の最小領域距離値と比較する段階、
e.前記最小領域距離値と前記以前の最小領域距離値のうちの小さい方の領域距離値を保持する段階、
f.前記計数値を減分する段階、及び
g.前記計数値がゼロになるまでb〜fを繰り返す段階、
を更に含む、
ことを特徴とする請求項35に記載のシステム。 - 画像を安定させることを特徴とする請求項35に記載のシステム。
- 前記プロセッサ及び前記メモリは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されたデバイス内に収容されることを特徴とする請求項35に記載のシステム。
- 動き推定に対して反復検索結果を精緻化するためにプロセッサによって処理されるアプリケーションであって、
a.反復検索を開始するための最小開始位置を判断するための開始位置コンポーネント、
b.最小距離位置に関して反復的に検索するための反復検索コンポーネント、
c.前記最小距離位置の最小距離値と動きベクトルコストとを含む合計コストを予測動きベクトル距離値と比較するための比較コンポーネント、及び
d.グローバル動きベクトルを閾値と比較して、前記比較コンポーネントを実行するか又は前記反復検索コンポーネントからの結果を用いるか否かを判断するための閾値コンポーネント、
を含むことを特徴とするアプリケーション。 - 最小開始位置の判断は、
a.複数の位置の各々に対して距離値を計算すること、
b.前記複数の位置の各々の前記距離値を比較すること、及び
c.前記複数の位置の各々の前記距離値から最小開始距離位置を選択すること、
を含む、
ことを特徴とする請求項43に記載のアプリケーション。 - 前記複数の位置は、第1の位置、第2の位置、及び第3の位置を含むことを特徴とする請求項43に記載のアプリケーション。
- 前記第1の位置は、ゼロ(0)動きベクトルであり、前記第2の位置は、予測動きベクトルであり、前記第3の位置は、グローバル動きベクトルであることを特徴とする請求項43に記載のアプリケーション。
- 反復的に検索することは、
a.計数値を指定値に設定すること、
b.部分領域の部分領域距離値を計算すること、
c.前記部分領域内の最小領域距離値を選択すること、
d.前記最小領域距離値を以前の最小領域距離値と比較すること、
e.前記最小領域距離値と前記以前の最小領域距離値のうちの小さい方の領域距離値を保持すること、
f.前記計数値を減分すること、及び
g.前記計数値がゼロになるまでb〜fを繰り返すこと、
を更に含む、
ことを特徴とする請求項43に記載のアプリケーション。 - 前記動きベクトルコストは、予測動きベクトルからの距離に基づいて計算されることを特徴とする請求項43に記載のアプリケーション。
- 画像を安定させることを特徴とする請求項43に記載のアプリケーション。
- パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されたデバイス内に収容されることを特徴とする請求項43に記載のアプリケーション。
- コンピュータデバイスを用いて動き推定反復検索のための開始位置を選択する方法であって、
a.複数の位置の各々に対して距離値を計算する段階、
b.前記複数の位置の各々の前記距離値を比較する段階、及び
c.前記複数の位置の各々の前記距離値から最小開始距離位置を選択する段階、
を含むことを特徴とする方法。 - 前記距離値は、「絶対差の和」値であることを特徴とする請求項51に記載の方法。
- 前記複数の位置は、第1の位置、第2の位置、及び第3の位置を含むことを特徴とする請求項51に記載の方法。
- 前記第1の位置は、ゼロ(0)動きベクトルであり、前記第2の位置は、予測動きベクトルであり、前記第3の位置は、グローバル動きベクトルであることを特徴とする請求項53に記載の方法。
- 前記コンピュータデバイスは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されることを特徴とする請求項51に記載の方法。
- 前記最小開始距離位置は、画像を安定させる前記動き推定反復検索のための前記開始位置として用いられることを特徴とする請求項51に記載の方法。
- コンピュータデバイスを用いて動きを推定する方法であって、
a.i.複数の位置の各々に対して距離値を計算する段階、
ii.前記複数の位置の各々の前記距離値を比較する段階、及び
iii.前記複数の位置の各々の前記距離値から最小開始距離位置を選択する段階、
を含む開始位置を判断する段階、及び
b.前記開始位置から始めて最小距離位置に関して反復的に検索する段階、
を含むことを特徴とする方法。 - 前記距離値は、「絶対差の和」値であることを特徴とする請求項57に記載の方法。
- 反復的に検索する段階は、
a.計数値を指定値に設定する段階、
b.部分領域の部分領域距離値を計算する段階、
c.前記部分領域内の最小領域距離値を選択する段階、
d.前記最小領域距離値を以前の最小領域距離値と比較する段階、
e.前記最小領域距離値と前記以前の最小領域距離値のうちの小さい方の領域距離値を保持する段階、
f.前記計数値を減分する段階、及び
g.前記計数値がゼロになるまでb〜fを繰り返す段階、
を更に含む、
ことを特徴とする請求項57に記載の方法。 - 前記複数の位置は、第1の位置、第2の位置、及び第3の位置を含むことを特徴とする請求項57に記載の方法。
- 前記第1の位置は、ゼロ(0)動きベクトルであり、前記第2の位置は、予測動きベクトルであり、前記第3の位置は、グローバル動きベクトルであることを特徴とする請求項60に記載の方法。
- 前記コンピュータデバイスは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されることを特徴とする請求項57に記載の方法。
- 前記最小距離位置は、画像を安定させるのに用いられる適切な動きベクトルを判断するのに用いられることを特徴とする請求項57に記載の方法。
- 動きを推定するためのシステムであって、
a.i.(1)複数の位置の各々に対して距離値を計算する段階、
(2)前記複数の位置の各々の前記距離値を比較する段階、及び
(3)前記複数の位置の各々の前記距離値から最小開始距離位置を選択する段階、
を含む開始位置を判断する段階、及び
ii.前記開始位置から始めて最小距離位置に関して反復的に検索する段階、
を行うように構成されたアプリケーションを記憶するためのメモリ、及び
b.前記アプリケーションを処理するためのプロセッサ、
を含むことを特徴とするシステム。 - 前記距離値は、「絶対差の和」値であることを特徴とする請求項64に記載のシステム。
- 反復的に検索する段階は、
a.計数値を指定値に設定する段階、
b.部分領域の部分領域距離値を計算する段階、
c.前記部分領域内の最小領域距離値を選択する段階、
d.前記最小領域距離値を以前の最小領域距離値と比較する段階、
e.前記最小領域距離値と前記以前の最小領域距離値のうちの小さい方の領域距離値を保持する段階、
f.前記計数値を減分する段階、及び
g.前記計数値がゼロになるまでb〜fを繰り返す段階、
を更に含む、
ことを特徴とする請求項64に記載のシステム。 - 前記複数の位置は、第1の位置、第2の位置、及び第3の位置を含むことを特徴とする請求項64に記載のシステム。
- 前記第1の位置は、ゼロ(0)動きベクトルであり、前記第2の位置は、予測動きベクトルであり、前記第3の位置は、グローバル動きベクトルであることを特徴とする請求項67に記載のシステム。
- 前記プロセッサ及び前記メモリは、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されたデバイス内に収容されることを特徴とする請求項64に記載のシステム。
- 前記最小距離位置は、画像を安定させるのに用いられる適切な動きベクトルを判断するのに用いられることを特徴とする請求項64に記載のシステム。
- 動きを推定するためにプロセッサによって処理されるアプリケーションであって、
a.反復検索を開始するための最良開始位置を判断するための開始位置コンポーネント、及び
b.最小距離位置に関して反復的に検索するための反復検索コンポーネント、
を含むことを特徴とするアプリケーション。 - 反復的に検索することは、
a.計数値を指定値に設定すること、
b.部分領域の距離値を計算すること、
c.前記部分領域内の最小領域距離値を選択すること、
d.前記最小領域距離値を以前の最小領域距離値と比較すること、
e.前記最小領域距離値と前記以前の最小領域距離値のうちの小さい方の領域距離値を保持すること、
f.前記計数値を減分すること、及び
g.前記計数値がゼロになるまでb〜fを繰り返すこと、
を更に含む、
ことを特徴とする請求項71に記載のアプリケーション。 - 前記最良開始位置の判断は、
a.複数の位置の各々に対して距離値を計算すること、
b.前記複数の位置の各々の前記距離値を比較すること、及び
c.前記複数の位置の各々の前記距離値から最小開始距離位置を選択すること、
を含む、
ことを特徴とする請求項71に記載のアプリケーション。 - 前記複数の位置は、第1の位置、第2の位置、及び第3の位置を含むことを特徴とする請求項73に記載のアプリケーション。
- 前記第1の位置は、ゼロ(0)動きベクトルであり、前記第2の位置は、予測動きベクトルであり、前記第3の位置は、グローバル動きベクトルであることを特徴とする請求項74に記載のアプリケーション。
- パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、手持ち式コンピュータ、携帯情報端末、セルラー/モバイル電話、スマート家電、ゲーム専用機、デジタルカメラ、デジタルカムコーダー、カメラ電話、iPod(登録商標)、及びホームエンタテインメントシステムから成る群から選択されたデバイス内に収容されることを特徴とする請求項71に記載のアプリケーション。
- 前記最小距離位置は、画像を安定させるのに用いられる適切な動きベクトルを判断するのに用いられることを特徴とする請求項71に記載のアプリケーション。
- コンピュータデバイスを用いて動き推定を改善する方法であって、
a.i.複数の位置の各々に対して距離値を計算する段階、
ii.前記複数の位置の各々の前記距離値を比較する段階、及び
iii.前記複数の位置の各々の前記距離値から最小開始距離位置を選択する段階、
を含む開始位置を判断する段階、
b.前記開始位置から始めて最小距離位置に関して反復的に検索する段階、及び
c.i.以前の位置を判断する段階、
ii.新しい位置を判断する段階、
iii.前記以前の位置及び新しい位置を比較する段階、及び
iv.前記以前の位置及び前記新しい位置の比較に基づいて、該新しい位置が該以前の位置と反対の方向にある場合は該以前の位置に基づき、かつ該新しい位置が該以前の位置と反対の方向にない場合は該新しい位置に基づく新しい検索中心を選択する段階、
を含む極小値を回避する段階、
を含むことを特徴とする方法。 - コンピュータデバイスを用いて動き推定を改善する方法であって、
a.i.複数の位置の各々に対して距離値を計算する段階、
ii.前記複数の位置の各々の前記距離値を比較する段階、及び
iii.前記複数の位置の各々の前記距離値から最小開始距離位置を選択する段階、
を含む開始位置を判断する段階、
b.前記開始位置から始めて最小距離位置に関して反復的に検索する段階、及び
c.i.最小距離検索値を有する検索区域の位置を判断する段階、
ii.前記最小距離検索値を有する前記位置に基づいて次の検索区域の中心点に対するオフセットを判断する段階、及び
iii.前記オフセットに基づいて前記次の検索区域の前記中心点を選択する段階、
を含む次の検索区域の中心点を判断する段階、
を含むことを特徴とする方法。 - コンピュータデバイスを用いて動き推定を改善する方法であって、
a.i.複数の位置の各々に対して距離値を計算する段階、
ii.前記複数の位置の各々の前記距離値を比較する段階、及び
iii.前記複数の位置の各々の前記距離値から最小開始距離位置を選択する段階、
を含む開始位置を判断する段階、
b.前記開始位置から始めて最小距離位置に関して反復的に検索する段階、
c.i.最小距離検索値を有する検索区域の位置を判断する段階、
ii.前記最小距離検索値を有する前記位置に基づいて次の検索区域の中心点に対するオフセットを判断する段階、及び
iii.前記オフセットに基づいて前記次の検索区域の前記中心点を選択する段階、
を含む次の検索区域の中心点を判断する段階、及び
d.i.以前の位置を判断する段階、
ii.新しい位置を判断する段階、
iii.前記以前の位置及び新しい位置を比較する段階、及び
iv.前記以前の位置及び前記新しい位置の比較に基づいて、該新しい位置が該以前の位置と反対の方向にある場合は該以前の位置に基づき、かつ該新しい位置が該以前の位置と反対の方向にない場合は該新しい位置に基づく新しい検索中心を選択する段階、
を含む極小値を回避する段階、
を含むことを特徴とする方法。 - コンピュータデバイスを用いて動き推定を改善する方法であって、
a.i.複数の位置の各々に対して距離値を計算する段階、
ii.前記複数の位置の各々の前記距離値を比較する段階、及び
iii.前記複数の位置の各々の前記距離値から最小開始距離位置を選択する段階、
を含む開始位置を判断する段階、
b.前記開始位置から始めて最小距離位置に関して反復的に検索する段階、
c.前記最小距離位置の前記最小距離値に動きベクトルコストを加算して合計コストを形成する段階、
d.グローバル動きベクトルが閾値よりも小さいかを判断する段階、
e.前記グローバル動きベクトルが前記閾値よりも小さい場合に、
i.前記合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階、及び
ii.精緻化に向けて前記合計コストと前記予測動きベクトル距離値のうちの前記小さい方の値を選択する段階、
を含む付加的な段階を行う段階、
f.前記グローバル動きベクトルが前記閾値よりも大きいか又はそれに等しい場合に、精緻化に向けて前記最小距離位置の前記最小距離値を選択する段階、及び
g.i.最小距離検索値を有する検索区域の位置を判断する段階、
ii.前記最小距離検索値を有する前記位置に基づいて次の検索区域の中心点に対するオフセットを判断する段階、及び
iii.前記オフセットに基づいて前記次の検索区域の前記中心点を選択する段階、
を含む次の検索区域の中心点を判断する段階、
を含むことを特徴とする方法。 - コンピュータデバイスを用いて動き推定を改善する方法であって、
a.i.複数の位置の各々に対して距離値を計算する段階、
ii.前記複数の位置の各々の前記距離値を比較する段階、及び
iii.前記複数の位置の各々の前記距離値から最小開始距離位置を選択する段階、
を含む開始位置を判断する段階、
b.前記開始位置から始めて最小距離位置に関して反復的に検索する段階、
c.前記最小距離位置の前記最小距離値に動きベクトルコストを加算して合計コストを形成する段階、
d.グローバル動きベクトルが閾値よりも小さいかを判断する段階、
e.前記グローバル動きベクトルが前記閾値よりも小さい場合に、
i.前記合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階、及び
ii.精緻化に向けて前記合計コストと前記予測動きベクトル距離値のうちの前記小さい方の値を選択する段階、
を含む付加的な段階を行う段階、
f.前記グローバル動きベクトルが前記閾値よりも大きいか又はそれに等しい場合に、精緻化に向けて前記最小距離位置の前記最小距離値を選択する段階、及び
g.i.以前の位置を判断する段階、
ii.新しい位置を判断する段階、
iii.前記以前の位置及び新しい位置を比較する段階、及び
iv.前記以前の位置及び前記新しい位置の比較に基づいて、該新しい位置が該以前の位置と反対の方向にある場合は該以前の位置に基づき、かつ該新しい位置が該以前の位置と反対の方向にない場合は該新しい位置に基づく新しい検索中心を選択する段階、
を含む極小値を回避する段階、
を含むことを特徴とする方法。 - コンピュータデバイスを用いて動き推定を改善する方法であって、
a.i.複数の位置の各々に対して距離値を計算する段階、
ii.前記複数の位置の各々の前記距離値を比較する段階、及び
iii.前記複数の位置の各々の前記距離値から最小開始距離位置を選択する段階、
を含む開始位置を判断する段階、
b.前記開始位置から始めて最小距離位置に関して反復的に検索する段階、
c.前記最小距離位置の前記最小距離値に動きベクトルコストを加算して合計コストを形成する段階、
d.グローバル動きベクトルが閾値よりも小さいかを判断する段階、
e.前記グローバル動きベクトルが前記閾値よりも小さい場合に、
i.前記合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階、及び
ii.精緻化に向けて前記合計コストと前記予測動きベクトル距離値のうちの前記小さい方の値を選択する段階、
を含む付加的な段階を行う段階、
f.前記グローバル動きベクトルが前記閾値よりも大きいか又はそれに等しい場合に、精緻化に向けて前記最小距離位置の前記最小距離値を選択する段階、
g.i.最小距離検索値を有する検索区域の位置を判断する段階、
ii.前記最小距離検索値を有する前記位置に基づいて次の検索区域の中心点に対するオフセットを判断する段階、及び
iii.前記オフセットに基づいて前記次の検索区域の前記中心点を選択する段階、
を含む次の検索区域の中心点を判断する段階、及び
h.i.以前の位置を判断する段階、
ii.新しい位置を判断する段階、
iii.前記以前の位置及び新しい位置を比較する段階、及び
iv.前記以前の位置及び前記新しい位置の比較に基づいて、該新しい位置が該以前の位置と反対の方向にある場合は該以前の位置に基づき、かつ該新しい位置が該以前の位置と反対の方向にない場合は該新しい位置に基づく新しい検索中心を選択する段階、
を含む極小値を回避する段階、
を含むことを特徴とする方法。 - コンピュータデバイスを用いて動き推定を改善する方法であって、
a.i.複数の位置の各々に対して距離値を計算する段階、
ii.前記複数の位置の各々の前記距離値を比較する段階、及び
iii.前記複数の位置の各々の前記距離値から最小開始距離位置を選択する段階、
を含む開始位置を判断する段階、
b.前記開始位置から始めて最小距離位置に関して反復的に検索する段階、
c.前記最小距離位置の前記最小距離値に動きベクトルコストを加算して合計コストを形成する段階、
d.グローバル動きベクトルが閾値よりも小さいかを判断する段階、
e.前記グローバル動きベクトルが前記閾値よりも小さい場合に、
i.前記合計コストを予測動きベクトル距離値と比較して小さい方の値を判断する段階、及び
ii.精緻化に向けて前記合計コストと前記予測動きベクトル距離値のうちの前記小さい方の値を選択する段階、
を含む付加的な段階を行う段階、
f.前記グローバル動きベクトルが前記閾値よりも大きいか又はそれに等しい場合に、精緻化に向けて前記最小距離位置の前記最小距離値を選択する段階、
g.i.最小距離検索値を有する検索区域の位置を判断する段階、
ii.前記最小距離検索値を有する前記位置に基づいて次の検索区域の中心点に対するオフセットを判断する段階、及び
iii.前記オフセットに基づいて前記次の検索区域の前記中心点を選択する段階、
を含む次の検索区域の中心点を判断する段階、
h.i.以前の位置を判断する段階、
ii.新しい位置を判断する段階、
iii.前記以前の位置及び新しい位置を比較する段階、及び
iv.前記以前の位置及び前記新しい位置の比較に基づいて、該新しい位置が該以前の位置と反対の方向にある場合は該以前の位置に基づき、かつ該新しい位置が該以前の位置と反対の方向にない場合は該新しい位置に基づく新しい検索中心を選択する段階、
を含む極小値を回避する段階、及び
i.i.部分領域の部分領域距離値を計算する段階、
ii.前記部分領域の最小距離値を判断する段階、
iii.前記最小距離値を閾値と比較する段階、
iv.前記最小距離値が前記閾値よりも小さい場合に、早期に終了する段階、及び
v.前記最小距離値が前記閾値よりも大きいか又はそれに等しい場合に、計数値がゼロになるまでi〜ivを繰り返す段階、
を含む反復的検索を早期に終了する段階、
を含むことを特徴とする方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US12/218,656 | 2008-07-16 | ||
US12/218,656 US8094714B2 (en) | 2008-07-16 | 2008-07-16 | Speculative start point selection for motion estimation iterative search |
PCT/US2009/042785 WO2010008654A1 (en) | 2008-07-16 | 2009-05-05 | Speculative start point selection for motion estimation iterative search |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011528533A true JP2011528533A (ja) | 2011-11-17 |
Family
ID=41530273
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011518746A Withdrawn JP2011528533A (ja) | 2008-07-16 | 2009-05-05 | 動き推定反復検索のための推測的開始点選択 |
Country Status (7)
Country | Link |
---|---|
US (1) | US8094714B2 (ja) |
EP (1) | EP2319237A1 (ja) |
JP (1) | JP2011528533A (ja) |
KR (2) | KR101448440B1 (ja) |
CN (1) | CN102100068B (ja) |
BR (1) | BRPI0915339A2 (ja) |
WO (1) | WO2010008654A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016178592A (ja) * | 2015-03-23 | 2016-10-06 | 日本電気株式会社 | 映像符号化装置、映像符号化方法及び映像符号化プログラム |
Families Citing this family (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100763917B1 (ko) * | 2006-06-21 | 2007-10-05 | 삼성전자주식회사 | 고속으로 움직임을 추정하는 방법 및 장치 |
JP2010028220A (ja) * | 2008-07-15 | 2010-02-04 | Sony Corp | 動きベクトル検出装置、動きベクトル検出方法、画像符号化装置及びプログラム |
JP5141633B2 (ja) * | 2009-04-24 | 2013-02-13 | ソニー株式会社 | 画像処理方法及びそれを用いた画像情報符号化装置 |
US8498493B1 (en) * | 2009-06-02 | 2013-07-30 | Imagination Technologies Limited | Directional cross hair search system and method for determining a preferred motion vector |
KR101712097B1 (ko) * | 2009-08-19 | 2017-03-03 | 삼성전자 주식회사 | 유연한 직교 변환에 기초한 영상 부호화, 복호화 방법 및 장치 |
US10178406B2 (en) | 2009-11-06 | 2019-01-08 | Qualcomm Incorporated | Control of video encoding based on one or more video capture parameters |
US20110292997A1 (en) * | 2009-11-06 | 2011-12-01 | Qualcomm Incorporated | Control of video encoding based on image capture parameters |
US8837576B2 (en) * | 2009-11-06 | 2014-09-16 | Qualcomm Incorporated | Camera parameter-assisted video encoding |
JP5388910B2 (ja) * | 2010-03-10 | 2014-01-15 | パナソニック株式会社 | 画像揺れ補正装置および画像揺れ補正方法 |
GB2480422B (en) * | 2010-02-25 | 2014-07-09 | Imagination Tech Ltd | Object tracking using graphics engine derived vectors in a motion estimation system |
PL2633599T3 (pl) * | 2010-10-27 | 2020-05-18 | The Aes Corporation | Sposoby, adaptery i aparatura do stosowania z urządzeniami elektrycznymi do zarządzania usługami energetycznymi |
CN102685504B (zh) * | 2011-03-10 | 2015-08-19 | 华为技术有限公司 | 视频图像的编解码方法、编码装置、解码装置及其系统 |
JP2012209705A (ja) * | 2011-03-29 | 2012-10-25 | Jvc Kenwood Corp | 画像符号化装置、画像符号化方法及び画像符号化プログラム |
JP2012209706A (ja) * | 2011-03-29 | 2012-10-25 | Jvc Kenwood Corp | 画像復号装置、画像復号方法及び画像復号プログラム |
CN102263958A (zh) * | 2011-07-26 | 2011-11-30 | 中兴通讯股份有限公司 | 基于h264运动估计算法的初始点获取方法及装置 |
US20140321552A1 (en) * | 2011-11-18 | 2014-10-30 | Dolby Laboratories Licensing Corporation | Optimization of Deblocking Filter Parameters |
US20150022626A1 (en) * | 2012-02-10 | 2015-01-22 | Ibrahim Nahla | Data, Multimedia & Video Transmission Updating System |
KR101758685B1 (ko) * | 2012-03-14 | 2017-07-14 | 한화테크윈 주식회사 | 카메라 템퍼링 감지 방법 및 시스템 |
US20140205012A1 (en) * | 2013-01-21 | 2014-07-24 | Mediatek Inc. | Method and apparatus using software engine and hardware engine collaborated with each other to achieve hybrid video encoding |
AU2013202653A1 (en) * | 2013-04-05 | 2014-10-23 | Canon Kabushiki Kaisha | Method, apparatus and system for generating intra-predicted samples |
US9544613B2 (en) * | 2013-04-24 | 2017-01-10 | Sony Corporation | Local detection model (LDM) for recursive motion estimation |
US10057590B2 (en) | 2014-01-13 | 2018-08-21 | Mediatek Inc. | Method and apparatus using software engine and hardware engine collaborated with each other to achieve hybrid video encoding |
KR102290964B1 (ko) | 2014-02-19 | 2021-08-18 | 삼성전자주식회사 | 적응적 서치 레인지를 이용한 비디오 인코딩 장치 및 그 방법 |
US10812791B2 (en) * | 2016-09-16 | 2020-10-20 | Qualcomm Incorporated | Offset vector identification of temporal motion vector predictor |
WO2018128232A1 (ko) * | 2017-01-03 | 2018-07-12 | 엘지전자 주식회사 | 영상 코딩 시스템에서 영상 디코딩 방법 및 장치 |
JP7054007B2 (ja) * | 2018-12-19 | 2022-04-13 | 日本電信電話株式会社 | 符号化装置及びプログラム |
JP6835337B2 (ja) * | 2019-06-20 | 2021-02-24 | Kddi株式会社 | 画像復号装置、画像復号方法及びプログラム |
CN114257756A (zh) * | 2020-09-25 | 2022-03-29 | 瑞昱半导体股份有限公司 | 校正移动向量的视频处理方法 |
Family Cites Families (58)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR950006045B1 (ko) | 1990-05-21 | 1995-06-07 | 마쯔시다덴기산교 가부시기가이샤 | 움직임벡터검출장치 및 화상흔들림보정장치 |
KR100207390B1 (ko) | 1995-09-15 | 1999-07-15 | 전주범 | 계층적인 움직임 추정기법을 이용하는 음직임 벡터 검출방법 |
JPH09121358A (ja) | 1995-10-25 | 1997-05-06 | Matsushita Electric Ind Co Ltd | 画像符号化及び復号化装置と方法 |
EP0840982B1 (en) | 1996-05-24 | 2002-02-13 | Koninklijke Philips Electronics N.V. | Motion estimation |
US6360022B1 (en) | 1997-04-04 | 2002-03-19 | Sarnoff Corporation | Method and apparatus for assessing the visibility of differences between two signal sequences |
US5880784A (en) * | 1997-06-17 | 1999-03-09 | Intel Corporation | Method and apparatus for adaptively switching on and off advanced prediction mode in an H.263 video coder |
US6295367B1 (en) | 1997-06-19 | 2001-09-25 | Emtera Corporation | System and method for tracking movement of objects in a scene using correspondence graphs |
US5990955A (en) * | 1997-10-03 | 1999-11-23 | Innovacom Inc. | Dual encoding/compression method and system for picture quality/data density enhancement |
US6014181A (en) * | 1997-10-13 | 2000-01-11 | Sharp Laboratories Of America, Inc. | Adaptive step-size motion estimation based on statistical sum of absolute differences |
US6307886B1 (en) * | 1998-01-20 | 2001-10-23 | International Business Machines Corp. | Dynamically determining group of picture size during encoding of video sequence |
US6181382B1 (en) | 1998-04-03 | 2001-01-30 | Miranda Technologies Inc. | HDTV up converter |
US6658059B1 (en) | 1999-01-15 | 2003-12-02 | Digital Video Express, L.P. | Motion field modeling and estimation using motion transform |
US7187810B2 (en) | 1999-12-15 | 2007-03-06 | Medispectra, Inc. | Methods and systems for correcting image misalignment |
US6842483B1 (en) | 2000-09-11 | 2005-01-11 | The Hong Kong University Of Science And Technology | Device, method and digital video encoder for block-matching motion estimation |
JP4596227B2 (ja) | 2001-06-27 | 2010-12-08 | ソニー株式会社 | 通信装置および方法、通信システム、記録媒体、並びにプログラム |
KR100439183B1 (ko) * | 2001-08-29 | 2004-07-05 | 한국전자통신연구원 | 확률 샘플링 기반의 움직임 추정 방법 |
DE60141961D1 (de) | 2001-09-10 | 2010-06-10 | Texas Instruments Inc | Verfahren und Vorrichtung zur Bewegungsvektorenabschätzung |
US7113644B2 (en) | 2002-02-13 | 2006-09-26 | Matsushita Electric Industrial Co., Ltd. | Image coding apparatus and image coding method |
KR100474285B1 (ko) * | 2002-04-08 | 2005-03-08 | 엘지전자 주식회사 | 모션벡터결정방법 |
US7224731B2 (en) | 2002-06-28 | 2007-05-29 | Microsoft Corporation | Motion estimation/compensation for screen capture video |
CN1165176C (zh) * | 2002-07-12 | 2004-09-01 | 清华大学 | 基于预测方向校正/统计预判的快速亚象素运动估计方法 |
KR100902315B1 (ko) | 2002-07-25 | 2009-06-12 | 삼성전자주식회사 | 디인터레이싱장치 및 방법 |
KR100534207B1 (ko) * | 2002-12-09 | 2005-12-08 | 삼성전자주식회사 | 비디오 부호화기의 움직임 추정기 및 그 방법 |
US7170934B2 (en) | 2002-12-20 | 2007-01-30 | Lsi Logic Corporation | Method and/or apparatus for motion estimation using a hierarchical search followed by a computation split for different block sizes |
KR100563866B1 (ko) | 2003-05-19 | 2006-03-23 | 매크로영상기술(주) | 영상 신호의 디인터레이스 방법 및 장치 |
US8660182B2 (en) * | 2003-06-09 | 2014-02-25 | Nvidia Corporation | MPEG motion estimation based on dual start points |
WO2005027491A2 (en) * | 2003-09-05 | 2005-03-24 | The Regents Of The University Of California | Global motion estimation image coding and processing |
US7602849B2 (en) | 2003-11-17 | 2009-10-13 | Lsi Corporation | Adaptive reference picture selection based on inter-picture motion measurement |
KR20050061762A (ko) | 2003-12-18 | 2005-06-23 | 학교법인 대양학원 | 부호화 모드 결정방법, 움직임 추정방법 및 부호화 장치 |
US7535515B2 (en) | 2003-12-23 | 2009-05-19 | Ravi Ananthapur Bacche | Motion detection in video signals |
KR100995398B1 (ko) | 2004-01-20 | 2010-11-19 | 삼성전자주식회사 | 수직 및 수평 방향의 패턴을 고려한 전역 움직임 보상순차주사화 방법 |
US7751482B1 (en) | 2004-02-27 | 2010-07-06 | Vbrick Systems, Inc. | Phase correlation based motion estimation in hybrid video compression |
US7894526B2 (en) * | 2004-02-27 | 2011-02-22 | Panasonic Corporation | Motion estimation method and moving picture coding method |
KR100694050B1 (ko) | 2004-06-11 | 2007-03-12 | 삼성전자주식회사 | 움직임 예측 방법 및 그 장치 |
FR2872973A1 (fr) | 2004-07-06 | 2006-01-13 | Thomson Licensing Sa | Procede ou dispositif de codage d'une sequence d'images sources |
KR101127220B1 (ko) | 2004-07-28 | 2012-04-12 | 세종대학교산학협력단 | 움직임 보상 적응형 순차주사화 장치 및 그 방법 |
US7457435B2 (en) | 2004-11-17 | 2008-11-25 | Euclid Discoveries, Llc | Apparatus and method for processing video data |
US7558428B2 (en) | 2004-09-13 | 2009-07-07 | Microsoft Corporation | Accelerated video encoding using a graphics processing unit |
CN100455266C (zh) * | 2005-03-29 | 2009-01-28 | 深圳迈瑞生物医疗电子股份有限公司 | 宽景成像处理方法 |
WO2006124885A2 (en) | 2005-05-12 | 2006-11-23 | Kylintv, Inc. | Codec for iptv |
JP4856954B2 (ja) * | 2005-06-08 | 2012-01-18 | パナソニック株式会社 | 画像符号化装置 |
KR100639995B1 (ko) | 2005-06-14 | 2006-10-31 | 한국전자통신연구원 | 블록 정합 기반의 고속 움직임 예측 장치 및 그 방법 |
US8761258B2 (en) | 2005-06-17 | 2014-06-24 | The Hong Kong University Of Science And Technology | Enhanced block-based motion estimation algorithms for video compression |
KR100676704B1 (ko) * | 2005-07-07 | 2007-02-01 | 삼성전자주식회사 | 움직임 추정장치 및 그 추정방법 |
US8755434B2 (en) * | 2005-07-22 | 2014-06-17 | Lg Electronics Inc. | Method and apparatus for scalably encoding and decoding video signal |
JP4047879B2 (ja) * | 2005-08-23 | 2008-02-13 | 松下電器産業株式会社 | 動きベクトル検出装置および動きベクトル検出方法 |
US7852940B2 (en) | 2005-10-20 | 2010-12-14 | Qualcomm Incorporated | Scalable motion estimation for video encoding |
US8406303B2 (en) | 2005-12-15 | 2013-03-26 | Analog Devices, Inc. | Motion estimation using prediction guided decimated search |
JP2007221662A (ja) * | 2006-02-20 | 2007-08-30 | Fujitsu Ltd | 動きベクトル算出装置 |
US20070217515A1 (en) | 2006-03-15 | 2007-09-20 | Yu-Jen Wang | Method for determining a search pattern for motion estimation |
JP2007279800A (ja) * | 2006-04-03 | 2007-10-25 | Seiko Epson Corp | 動きベクトル検出装置、動きベクトル検出方法、手ぶれ補正装置、手ぶれ補正方法、手ぶれ補正プログラム、及び手ぶれ補正装置を備えた動画像表示装置 |
US7672377B2 (en) | 2006-04-21 | 2010-03-02 | Dilithium Holdings, Inc. | Method and system for video encoding and transcoding |
US8208553B2 (en) * | 2006-05-04 | 2012-06-26 | Altera Corporation | Methods and apparatus for quarter-pel refinement in a SIMD array processor |
KR100763917B1 (ko) | 2006-06-21 | 2007-10-05 | 삼성전자주식회사 | 고속으로 움직임을 추정하는 방법 및 장치 |
JP2008011158A (ja) * | 2006-06-29 | 2008-01-17 | Matsushita Electric Ind Co Ltd | 動きベクトル探索方法及び動きベクトル探索装置 |
JP4868968B2 (ja) * | 2006-07-31 | 2012-02-01 | 株式会社東芝 | 補間フレーム作成方法及び補間フレーム作成装置 |
JP2008135980A (ja) * | 2006-11-28 | 2008-06-12 | Toshiba Corp | 補間フレーム作成方法および補間フレーム作成装置 |
JP4762938B2 (ja) * | 2007-03-06 | 2011-08-31 | 三菱電機株式会社 | データ埋め込み装置、データ抽出装置、データ埋め込み方法およびデータ抽出方法 |
-
2008
- 2008-07-16 US US12/218,656 patent/US8094714B2/en not_active Expired - Fee Related
-
2009
- 2009-05-05 WO PCT/US2009/042785 patent/WO2010008654A1/en active Application Filing
- 2009-05-05 BR BRPI0915339A patent/BRPI0915339A2/pt not_active IP Right Cessation
- 2009-05-05 EP EP09798367A patent/EP2319237A1/en not_active Withdrawn
- 2009-05-05 KR KR1020147002920A patent/KR101448440B1/ko not_active IP Right Cessation
- 2009-05-05 KR KR1020107028344A patent/KR101384437B1/ko active IP Right Grant
- 2009-05-05 JP JP2011518746A patent/JP2011528533A/ja not_active Withdrawn
- 2009-05-05 CN CN2009801280384A patent/CN102100068B/zh not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016178592A (ja) * | 2015-03-23 | 2016-10-06 | 日本電気株式会社 | 映像符号化装置、映像符号化方法及び映像符号化プログラム |
Also Published As
Publication number | Publication date |
---|---|
US8094714B2 (en) | 2012-01-10 |
KR101448440B1 (ko) | 2014-10-13 |
KR101384437B1 (ko) | 2014-04-14 |
CN102100068A (zh) | 2011-06-15 |
CN102100068B (zh) | 2013-11-06 |
US20100014588A1 (en) | 2010-01-21 |
EP2319237A1 (en) | 2011-05-11 |
KR20140026652A (ko) | 2014-03-05 |
KR20110039516A (ko) | 2011-04-19 |
WO2010008654A1 (en) | 2010-01-21 |
BRPI0915339A2 (pt) | 2019-09-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8094714B2 (en) | Speculative start point selection for motion estimation iterative search | |
US8144766B2 (en) | Simple next search position selection for motion estimation iterative search | |
JP5081305B2 (ja) | フレーム間予測符号化の方法および装置 | |
US8743972B2 (en) | Coding adaptive deblocking filter and method for use therewith | |
US20100316129A1 (en) | Scaled motion search section with downscaling filter and method for use therewith | |
KR100739281B1 (ko) | 움직임 추정 방법 및 장치 | |
US20060222074A1 (en) | Method and system for motion estimation in a video encoder | |
US8363728B2 (en) | Block based codec friendly edge detection and transform selection | |
US9729869B2 (en) | Adaptive partition subset selection module and method for use therewith | |
US8379985B2 (en) | Dominant gradient method for finding focused objects | |
US9438925B2 (en) | Video encoder with block merging and methods for use therewith | |
JP5670226B2 (ja) | 動画像符号化装置、動画像符号化方法、およびプログラム | |
US9420308B2 (en) | Scaled motion search section with parallel processing and method for use therewith | |
US20100246682A1 (en) | Scaled motion search section with downscaling and method for use therewith | |
WO2017036422A1 (en) | Method and apparatus of prediction offset derived based on neighbouring area in video coding | |
JP5513333B2 (ja) | 動画像符号化装置、動画像符号化方法、およびプログラム | |
Lee et al. | The video spatial error concealment algorithm using separately-directional interpolation technique | |
Urban et al. | Optimization of the motion estimation for parallel embedded systems in the context of new video standards | |
bing Yin et al. | Hardware oriented algorithm analysis and modification for high definition AVS video encoder VLSI implementation Digest of technical papers | |
Johar et al. | Cache-based motion estimation architecture for real-time HDTV Encoding with H. 264/AVC |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20120807 |