JP2002518897A - ブロック整合法及び統合投射法を用いた階層的動き評価処理及び装置 - Google Patents

ブロック整合法及び統合投射法を用いた階層的動き評価処理及び装置

Info

Publication number
JP2002518897A
JP2002518897A JP2000554131A JP2000554131A JP2002518897A JP 2002518897 A JP2002518897 A JP 2002518897A JP 2000554131 A JP2000554131 A JP 2000554131A JP 2000554131 A JP2000554131 A JP 2000554131A JP 2002518897 A JP2002518897 A JP 2002518897A
Authority
JP
Japan
Prior art keywords
macroblock
candidate
determining
current
super
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000554131A
Other languages
English (en)
Other versions
JP4528441B2 (ja
Inventor
チャン、チン−ファン
尚史 柳原
Original Assignee
ソニー エレクトロニクス インク
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニー エレクトロニクス インク filed Critical ソニー エレクトロニクス インク
Publication of JP2002518897A publication Critical patent/JP2002518897A/ja
Application granted granted Critical
Publication of JP4528441B2 publication Critical patent/JP4528441B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/53Multi-resolution motion estimation; Hierarchical motion estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/533Motion estimation using multistep search, e.g. 2D-log search or one-at-a-time search [OTS]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/56Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/57Motion estimation characterised by a search window with variable size or shape
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Analysis (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Picture Signal Circuits (AREA)

Abstract

(57)【要約】 ビデオ画像データにおける2つのフレーム間の動きベクトルを判定する方法及び装置を開示する。詳しくは、本発明の方法及び装置は、現在のフレームの各ブロックの参照フレームに対する動きベクトルを複数の処理段階により評価する。第1の処理段階では、本発明を実現するアプリケーションは、参照フレームの第1の検索範囲を粗く検索して、現在のフレームにおけるスーパーマクロブロックに最も近似する候補スーパーマクロブロックを判定する(312)。第2の処理段階では、スーパーマクロブロックを複数のマクロブロックに分割する(314)。各マクロブロックを用いて検索範囲を決定し、この検索範囲を検索して、現在のフレームにおけるマクロブロックに最も近似する候補マクロブロックを判定する(322)。マクロブロックの近似の精度を高めるために、さらなる処理段階を実行してもよい。本発明に基づく方法及び装置により、デジタルビデオ符号化器、復号器、ビデオフォーマット変換装置を最適化することができる。

Description

【発明の詳細な説明】
【0001】 発明の背景 本発明は、ビデオ画像処理における動き評価を行う装置及び方法に関し、特に
、粗検索ブロック整合動き予測法(sparse search block-matching motion esti
mation technique)及び統合射影情報(integral projection)に基づく階層的
動き評価法を用いてビデオ画像のフレーム間の動きベクトルを判定する改善され
た装置及び方法に関する。
【0002】 デジタル技術の進歩により、多くのデジタル映像のアプリケーションが開発さ
れている。デジタル映像技術は、現在、デジタル高解像度テレビジョン、ビデオ
会議、コンピュータによる画像処理、高画質ビデオテープレコーダ等に利用され
ている。圧縮されていないデジタル映像信号のデータ量は膨大であり、このよう
なデータの伝送及び記録のためには、広い帯域幅及び大きな記録容量が必要とな
る。そこで、多くのデジタル映像処理装置は、各アプリケーションに最適化され
たデータ圧縮技術を採用し、これによりデジタル映像データのデータ量を削減し
ている。デジタル圧縮装置は、一般に「符号化器(エンコーダ)」と呼ばれ、伸
長処理を行う装置は、「復号器(デコーダ)」と呼ばれる。圧縮及び伸長の両方
を行う装置は「符号化/復号器(コーデック)」と呼ばれる。
【0003】 動画像ビデオデータの圧縮法を標準化するために、MPEG(Motion Picture
Experts Group)は、複数種類のデジタル映像処理標準技術を提唱している。M
PEG−1は、デジタル音声及びデジタル映像のコーディングを行うものであり
、中間のデータレートを必要とする映像装置に広く使用されている。MPEG−
2は、例えば直接放送衛星システム(direct broadcast satellite system)等
における、より高いデータレートを用いる装置に使用されている。
【0004】 動画像映像シーケンスは、連続する複数の静止画像、すなわち「フレーム」か
ら構成され、これらフレームを連続的に表示することにより、連続的な動きが表
現される。各フレームは、画像の要素、すなわち「画素」の2次元的な配列とし
て記述することができる。各画素は、画像における特定の点の輝度及び色を記述
する。画素情報は、デジタル形式で表現又は符号化でき、デジタル的に伝送する
こともできる。
【0005】 映像データの一圧縮法として、映像シーケンスにおいて隣接するフレーム間の
冗長性を利用する手法がある。隣接するフレームは類似する情報を含んでいる傾
向があり、新規なフレームを作成するより、フレーム間の差分を記述する方がデ
ータ量が少なくてすむ場合が多い。例えば、フレーム間に全く動きがない場合、
フレーム全体を再度コーディングするより、フレーム間の差分(ゼロ)をコーデ
ィングする方がデータ量を節減できる。
【0006】 動き評価とは、隣接するフレーム間の変位を評価する処理である。この変位は
、動きベクトルによって表され、動きベクトルは、現在のフレームにおける特定
の領域と、先行する又は後続する参照フレームにおける対応する変位した領域と
の間の最大整合性(best match)を示すものである。現在のフレームにおける特
定の領域と、参照フレームにおける対応する変位された領域の差分を「剰余情報
(residue)」と呼ぶ。
【0007】 動きベクトルを評価するための動き評価には、大きく分けて、画素再帰アルゴ
リズム(pixel-recursive algorithm)及びブロック整合アルゴリズム(block-m
atching algorithm)の2つの手法がある。画素再帰アルゴリズムでは、隣接す
るフレームにおける対応する画素に対する各画素の変位を繰り返し予測する。一
方、ブロック整合アルゴリズムでは、フレーム間の変位をブロック毎に評価し、
差分を最小化するベクトルを選択する。
【0008】 従来のブロック整合処理では、符号化すべき現在の画像を同じサイズの画素情
報を有する複数のブロックに分割する。MPEG映像圧縮標準技術では、画素は
マクロブロックとしてグループ化される。マクロブロックは、それぞれが2つの
色差成分用の8×8サンプルブロックに対応する16×16輝度サンプル配列か
ら構成される。さらに、16×16輝度サンプル配列は、通常圧縮モデルの入力
ブロックとして使用される4つの8×8ブロックから構成される。
【0009】 Fig.1は、従来の1回のブロック整合処理を説明する図である。現在のフ
レーム120は、複数のブロックに分割されている。各ブロックは、いかなるサ
イズであってもよいが、例えばMPEG装置においては、現在のフレーム120
は、通常16×16サイズのマクロブロックに分割される。現在のフレーム12
0をコード化するために、現在のフレーム120内の各ブロックと、先行するフ
レーム110又は後続するフレーム130におけるブロックとの差分をコード化
する。各ブロック整合処理において、現在のブロック100は、先行するフレー
ム110における検索範囲115又は後続するフレーム130における検索範囲
135内の同サイズの候補ブロック("candidate" blocks)と比較される。先行
又は後続するフレーム内の候補ブロックのうち、現在のブロック100と差分が
最も小さいブロックが、Fig.1に示すように、参照ブロック150として選
択される。続いて、参照ブロック150と現在のブロック100間の動きベクト
ル及び剰余情報が算出され、コード化される。現在のフレーム120は、伸長処
理において、参照フレーム110の各ブロックのコードと、現在のフレーム12
0に関する動きベクトル及び剰余情報のコードとを用いて復元される。
【0010】 ブロック間の差分は、周知のいかなる基準に基づいて算出してもよいが、多く
の場合、誤差を最小化する手法又は相関性を最大化する手法が用いられる。さら
に、相関法は、計算量が多いため、誤差算出法が最も多く用いられている。誤差
算出測定の手法には、自乗誤差平均法(mean square error:以下、MSEとい
う。)、絶対歪み平均法(mean absolute distortion:以下、MADという。)
、絶対歪み総和法(sum of absolute distortion:以下、SADという。)等が
ある。これらの判定基準は、インターナショナルトムソンパブリッシング社(In
ternational Thomson Publishing)より1997年に発行された、ジョーン・エ
ル・ミッチェル他(Joan L. Mitchell et al.)著、「MPEG映像圧縮標準技
術(MPEG Video Compression Standard)」の第284〜286頁に記載されて
いる。整合性の判定基準としては、SADが最も多く使用されている。
【0011】 SADは、以下のように定義される。
【0012】
【数1】
【0013】 ここで、ブロックサイズはM×Nであり、r(x,y)は現在のブロックを表
し、s(x+i,y+i)は参照フレームにおける検索範囲115内の候補ブロ
ックを表す。動きベクトルは値(i,j)は、SAD(i,j)を最小とする値
である。
【0014】 現在のブロックと検索範囲内の全ての候補ブロックとを比較するブロック整合
アルゴリズムは、「完全検索(full search)」と呼ばれる。一般的に、検索範
囲を広くすれば、より正確な変位ベクトルを生成することができる。しかしなが
ら、完全検索の計算の複雑性は、検索範囲のサイズに比例して高くなり、いくつ
かの適用例では処理時間が長すぎて使用できない。例えば、±Nの検索範囲にお
いて、1画素の精度で16×16画素サイズのマクロブロックに関する完全検索
ブロック整合アルゴリズムを適用した場合、(2×N+1)回のブロック比較
処理が必要となる。Nを16とした場合、1089回の16×16ブロックの比
較処理が必要となる。各ブロックの比較は、16×16、すなわち256回の計
算を必要とするため、この手法では計算量が膨大で、処理時間が遅くなる。また
、ここで、単に検索範囲を狭くする手法では、最適な整合ブロックを見落として
しまう危険性が高くなってしまう。
【0015】 このため、広い検索範囲で整合ブロックを正しく検出するための高速なアルゴ
リズムの開発が進められてきた。このような手法のいくつかは、上述のジョーン
・エル・ミッチェル他の著書の第301〜311頁に記載されている。最も高速
な検索法は、検索範囲全体に亘って粗サンプリング(sparse sampling)を行い
、この粗サンプルのみに対して変位を算出することにより処理速度を高めている
。例えば、2次元対数検索(2-D logarithmic search)は、最小歪み方向へ移動
する連続するブロックのMSEを算出することにより計算量を低減する。共役方
向検索(conjugate direction search)では、アルゴリズムは、最小歪みを検出
するまで水平方向への検索を行う。さらに、アルゴリズムは、最小歪みを検出し
た点から、垂直方向への検索を開始し、最小歪みを検出する。これら2つの手法
は、いずれも完全検索に比べて高速な処理を実現するが、最適な整合ブロックの
判定に失敗する可能性も高い。
【0016】 完全検索の計算量を低減する他の手法としては、空間領域画素情報を直接用い
る代わりに、統合射影情報(integral projection)を用いてブロック間の変位
を算出する手法がある。画素情報の統合射影情報とは、水平方向又は垂直方向に
沿った画像画素値の総和の1次元の配列である。ブロック整合アルゴリズムにお
いて、画素情報の2次元配列を用いる代わりに、1次元水平射影配列及び1次元
垂直射影配列の2つの1次元射影配列を用いることにより、各ブロック整合処理
における計算の回数を著しく低減することができる。この手法は、1987年に
発表された、アイ・エイチ・リー(I.H.Lee)及びアール・エイチ・パーク(R.H
.Park)による論文「統合射影情報を用いた高速ブロック整合アルゴリズム("A
Fast Block Matching Algorithm Using Integral Projections," Proc. Tencon
'87 Conf)」の第590〜594頁に記載されている。
【0017】 高速の動き評価法は、あるデジタル映像フォーマットを他のデジタル映像フォ
ーマットに変換する際に特に有用である。デジタル映像は、符号化され、圧縮さ
れた形式で保存される。従来の装置を用いて、あるフォーマットを他のフォーマ
ットに変換する場合、デジタル映像は、元のフォーマットに伸長及び復号され、
続いて目的のフォーマットに符号化及び圧縮されて保存又は伝送される。このよ
うな、デジタル映像を一度完全に復号する必要のある変換法は、非常に時間のか
かるものである。
【0018】 このような完全検索の問題点を克服するために階層的検索法を採用した手法が
知られている。この手法では、第1の処理段階において、例えば、適度な広さの
領域に対して粗検索を行う。続いて、行われる従来型の階層的検索処理において
は、検索範囲が縮小される。3段階の階層的検索の例は、1994年8月に発行
された「映像技術のための回路及びシステムに関するIEEEトランザクション
(IEEE Trans. On Circuits and Systems for Video Technology, Vol.4, Augus
t 1994, pp.407-416)」第4巻第407〜第416頁、エイチ・エム・ジョン(
H.M.Jong)他著、「3段階階層的検索ブロック整合アルゴリズムのためのパラレ
ルアーキテクチャ(Parallel Architectures for 3-Step Hierarchical Search
Block-Matching Algorithm)」に開示されている。ここに開示されている階層的
検索法における粗検索処理段階では全ての画素情報を利用しておらず、したがっ
て誤った開始点からより精密な検索を開始してしまうことがあるため、この手法
は、いくつかの適用例においては不適切な処理を行ってしまう。
【0019】 本発明は、動きベクトルの精度を維持しながら、ブロック比較処理の回数を最
小化して高速階層的検索を実行する、改善された動き評価装置及び動き評価方法
を提供することを目的とする。また、本発明は、本発明に基づく階層的検索処理
及び統合射影情報を用いて、さらに計算の回数を低減できる動き評価装置及び動
き評価方法を提供することを目的とする。さらに、本発明は、統合射影情報を用
いて、画素データを完全に復号する必要なく、デジタル映像データをあるフォー
マットから他のフォーマットに変換することにより、データフォーマットの変換
処理時間を大幅に短縮できる階層的動き評価装置及び動き評価方法を提供するこ
とを目的とする。
【0020】 発明の開示 本発明に係るベクトル判定方法は、ビデオ画像データにおける第1及び第2の
フレーム間の動きベクトルを生成する動きベクトル判定方法において、(a)第
1のフレームにおいて、画素情報の2次元配列として構成される現在のマクロブ
ロックを決定するステップと、(b)第1のフレームにおいて、現在のマクロブ
ロックと複数のマクロブロックとから構成される現在のスーパーマクロブロック
を決定するステップと、(c)現在のスーパーマクロブロックと第1の検索範囲
とに基づいて、第2のフレームにおける第1の検索領域を選択するステップと、
(d)変位判定基準と現在のスーパーマクロブロックとに基づいて、第1の検索
範囲における最良候補スーパーマクロブロックを判定するステップと、(e)最
良候補スーパーマクロブロックを複数の候補マクロブロックに分割するステップ
と、(f)複数の候補マクロブロックと第2の検索範囲とに基づいて、第2のフ
レームにおける複数の第2の検索範囲を選択するステップと、(g)変位判定基
準と現在のマクロブロックとに基づいて、第2の検索範囲における最良候補マク
ロブロックを判定するステップと、(h)現在のマクロブロックと第1の最良候
補マクロブロックとの間の距離を表す第1の動きベクトルを判定するステップと
を有する。
【0021】 また、本発明に係る動きベクトル判定装置は、ビデオ画像データにおける第1
及び第2のフレーム間の動きベクトルを生成する動きベクトル判定装置において
、プログラム命令が格納されたメモリと、プログラム命令を実行することにより
、(a)第1のフレームにおいて、画素情報の2次元配列として構成される現在
のマクロブロックを決定するステップと、(b)第1のフレームにおいて、現在
のマクロブロックと複数のマクロブロックとから構成される現在のスーパーマク
ロブロックを決定するステップと、(c)現在のスーパーマクロブロックと第1
の検索範囲とに基づいて、第2のフレームにおける第1の検索領域を選択するス
テップと、(d)変位判定基準と現在のスーパーマクロブロックとに基づいて、
第1の検索範囲における最良候補スーパーマクロブロックを判定するステップと
、(e)最良候補スーパーマクロブロックを複数の候補マクロブロックに分割す
るステップと、(f)複数の候補マクロブロックと第2の検索範囲とに基づいて
、第2のフレームにおける複数の第2の検索範囲を選択するステップと、(g)
変位判定基準と現在のマクロブロックとに基づいて、第2の検索範囲における最
良候補マクロブロックを判定するステップと、(h)現在のマクロブロックと第
1の最良候補マクロブロックとの間の距離を表す第1の動きベクトルを判定する
ステップとを実行するプロセッサとを備える。
【0022】 また、本発明に係るコンピュータプログラム製品は、ビデオ画像データにおけ
る第1及び第2のフレーム間の動きベクトルを生成するコンピュータにより読取
可能なコードが実現されたコンピュータにより使用可能な媒体を備えるコンピュ
ータプログラム製品において、コンピュータにより使用可能な媒体は、(a)第
1のフレームにおいて、画素情報の2次元配列として構成される現在のマクロブ
ロックを決定するコンポーネントと、(b)第1のフレームにおいて、現在のマ
クロブロックと複数のマクロブロックとから構成される現在のスーパーマクロブ
ロックを決定するコンポーネントと、(c)現在のスーパーマクロブロックと第
1の検索範囲とに基づいて、第2のフレームにおける第1の検索領域を選択する
コンポーネントと、(d)変位判定基準と現在のスーパーマクロブロックとに基
づいて、第1の検索範囲における最良候補スーパーマクロブロックを判定するコ
ンポーネントと、(e)最良候補スーパーマクロブロックを複数の候補マクロブ
ロックに分割するコンポーネントと、(f)複数の候補マクロブロックと第2の
検索範囲とに基づいて、第2のフレームにおける複数の第2の検索範囲を選択す
るコンポーネントと、(g)変位判定基準と現在のマクロブロックとに基づいて
、第2の検索範囲における最良候補マクロブロックを判定するコンポーネントと
、(h)現在のマクロブロックと第1の最良候補マクロブロックとの間の距離を
表す第1の動きベクトルを判定するコンポーネントとを備える。
【0023】 さらに、本発明に係る動きベクトル判定システムは、ビデオ画像データにおけ
る第1及び第2のフレーム間の動きベクトルを生成する動きベクトル判定システ
ムにおいて、(a)第1のフレームにおいて、画素情報の2次元配列として構成
される現在のマクロブロックを決定する現在マクロブロック決定手段と、(b)
第1のフレームにおいて、現在のマクロブロックと複数のマクロブロックとから
構成される現在のスーパーマクロブロックを決定する現在スーパーマクロブロッ
ク決定手段と、(c)現在のスーパーマクロブロックと第1の検索範囲とに基づ
いて、第2のフレームにおける第1の検索領域を選択する第1検索領域選択手段
と、(d)変位判定基準と現在のスーパーマクロブロックとに基づいて、第1の
検索範囲における最良候補スーパーマクロブロックを判定する最良候補スーパー
マクロブロック判定手段と、(e)最良候補スーパーマクロブロックを複数の候
補マクロブロックに分割する分割手段と、(f)複数の候補マクロブロックと第
2の検索範囲とに基づいて、第2のフレームにおける複数の第2の検索範囲を選
択する第2検索範囲選択手段と、(g)変位判定基準と現在のマクロブロックと
に基づいて、第2の検索範囲における最良候補マクロブロックを判定するステッ
プ最良候補マクロブロック判定手段と、(h)現在のマクロブロックと第1の最
良候補マクロブロックとの間の距離を表す第1の動きベクトルを判定する第1動
きベクトル判定手段とを備える。
【0024】 発明の好適な実施の形態の説明 以下、添付の図面に示された具体例を参照して、本発明の好適な実施の形態に
ついて詳細に説明する。
【0025】 A.階層的検索処理(Hierarchical Search Process) 動き評価法は、各フレーム全体を符号化する代わりに、隣接するフレームから
の差分に関する情報を符号化することにより、デジタル映像シーケンスを表現す
るために必要なデータ量を圧縮する技術である。映像シーケンスを再生する際に
は、復号器は、参照フレームとともに動きベクトルを用いて現在のフレームを再
構築する。
【0026】 本発明に基づく手法では、複数段の処理(multi-stage operation)により、
現在のフレームの各ブロックについて、参照フレームに対する動きベクトルが評
価される。第1の処理段階では、本発明に基づく方法を実現するアプリケーショ
ンは、参照フレームにおける第1検索範囲を粗検索し、現在のスーパーマクロブ
ロック(supermacroblock)に最も近似する候補スーパーマクロブロックを検出
する。第2の処理段階では、このスーパーマクロブロックを複数のマクロブロッ
クコンポーネントに分割する。これら複数のマクロブロックコンポーネントは、
検索範囲を構成し、この検索範囲において候補マクロブロックが検索される。現
在のマクロブロックに近似に近似するマクロブロックをさらに高精度に検出する
ためのさらなる処理段階を設けてもよい。
【0027】 Fig.2は、現在のフレーム220と参照フレーム210を示す図である。
参照フレームは、先行するフレームであっても、後続するフレームであってもよ
い。現在のフレーム220は、それぞれM×N画素から構成される複数のブロッ
ク225に分割される。M及びNは、2以上のいかなる整数であってもよいが、
この具体例においては、MPEG−1/2映像圧縮標準技術における標準的なマ
クロブロックのサイズと同様に、M=N=16とする。現在のフレーム220を
表すために、現在のフレーム220内の各ブロック225は、現在のフレーム2
20のマクロブロック及び参照フレーム210のマクロブロック間の剰余情報に
より表される。
【0028】 Fig.3A及びFig.3Bは、本発明に基づく階層的検索法により、現在
のフレームにおける1つのマクロブロックのための動きベクトルを導き出す手順
を示すフローチャートである。まず、まず、ステップ302において、Fig.
2に示す現在のフレーム220における現在のマクロブロック230が選択され
る。現在のマクロブロック230は、M×N画素のサイズを有している。M及び
Nは、2以上のいかなる整数であってもよいが、この具体例においては、M=N
=16とする。
【0029】 続いて、Fig.3Aに示すステップ304において、現在のマクロブロック
230を用いて、現在のスーパーマクロブロック235が決定される。現在のス
ーパーマクロブロックは、現在のマクロブロック230と、この現在のマクロブ
ロック230と同じサイズ及び形状を有する隣接するいくつかのマクロブロック
とから構成される。Fig.2に示す例では、現在のスーパーマクロブロック2
35は、現在のフレーム220内において、現在のマクロブロック230を左上
コーナ部とする4つのマクロブロックから構成されている。
【0030】 Fig.3Aに示すステップ306において、参照フレーム210における検
索領域215が選択される。Fig.2に示す検索領域215は、検索範囲(±
,±q)により定義され、現在のフレーム220における現在のスーパー
マクロブロック235の位置に基づいて決定される。検索範囲p,q所定の
値であってもよく、動的に決定されるものであってもよい。また、検索範囲値p ,qは、1以上の正の整数でフレームサイズより小さいいかなる値であって
もよい。通常、検索範囲が広いほどより正確な動きベクトルを生成することがで
きるが、検索範囲の広さに比例して検索処理の複雑性が高くなるため、全フレー
ムサイズより狭い検索範囲値p,qを指定することが望ましい。以下では、
例示的に、検索範囲(±p,±q)を(±32,±24)とする。Fig.
2において、(m,n)として示される点は、現在のフレーム220における現
在のマクロブロック235の左上のコーナの画素に対応する点である。検索範囲
を(±32,±24)とした場合、検索範囲215は、Fig.2に示すように
、(m−32,n−24)(m+32,n−24)(m+32,n+24)(m
−32,n+24)により定義される領域である。検索範囲215は、参照フレ
ーム210内の可能な全てのスーパーマクロブロックの左上コーナを限定するも
のである。
【0031】 本発明に基づく階層的動き予測処理の第1の処理段階では、検索範囲215内
の候補スーパーマクロブロックと現在のスーパーマクロブロック235とを比較
し、検索範囲215内における「最良」候補スーパーマクロブロックを検出する
。「最良」候補スーパーマクロブロックとは、周知の任意の誤差算出法又は相関
判定法を用いて、現在のスーパーマクロブロック235と比較して、最も誤差が
少ない、又は相関性が高いと判定されるスーパーマクロブロックである。
【0032】 ステップ308において、第1の検索処理段階が選択される。候補スーパーマ
クロブロックは、現在知られているいかなるブロック整合検索法により選択して
もよく、例えば完全検索を行ってもよく、あるいは、検索範囲内において所定の
画素検索間隔を適用してスーパーマクロブロックを比較することにより選択して
もよい。ここで、候補スーパーマクロブロックの選択には、1998年5月20
日に出願された、チャン(Chang)他による米国特許出願第09/081,27
9号「粗検索ブロック整合法及び統合射影情報を用いた動き評価処理及び装置(M
otion Estimation Process and System Using Sparse Block-Maching and Integ
ral Projection)」に開示されている手法を用いてもよく、この出願は参照によ
り本願に組み込まれるものとする。
【0033】 従来の完全検索法及びチャン他に記載されている検索法を含む多くの検索法に
おいて、画素シフト間隔としては様々な値を用いることがある。例えば、画素シ
フト間隔Kを1画素分とした場合、各1画素毎にブロック比較を行う精密な検
索を行うことができる。しかしながら、画素シフト間隔を1画素分として、完全
検索を行った場合、計算処理は複雑なものとなり、したがって、この処理段階で
は画素シフト間隔を大きくすることが望ましい。画素シフト間隔Kを4画素分
とした場合、4画素毎に検索処理を行うため、粗検索が実現される。画素シフト
間隔は、水平方向及び垂直方向において異なるものであってもよい。説明のため
、ここでは、両方向に対し、同じ4画素分の画素シフト間隔を用いるものとする
【0034】 続いて、ステップ312において、選択された検索処理及び所定の整合性判定
基準を用いて、現在のスーパーマクロブロック235と、検索範囲215内のス
ーパーマクロブロックとを比較し、第1の検索範囲における最良候補スーパーマ
クロブロックを検出する。絶対歪み総和SADを整合性判定基準(matching cri
teria)として用いると、検索処理全体を以下のように表すことができる。
【0035】
【数2】
【0036】 ここで、−p≦i≦+p、−q≦j≦+q、rは現在の32×32画
素のスーパーマクロブロックを表し、sは候補スーパーマクロブロックを表す。
SAD(i,j)の値を最小化する(i,j)の組により現在のスーパーマクロ
ブロック235の動きベクトルが定義される。例えば、動きベクトル(1,1)
は、参照フレーム内において、現在のスーパーマクロブロック235に対応する
位置から1画素分水平方向に右に移動し、1画素分垂直方向に下に移動したスー
パーマクロブロックが現在のスーパーマクロブロック235に近似することを示
す。
【0037】 上述の各スーパーマクロブロックに関する演算では、32×32回の計算が必
要である。ここで、32×32=1024個の画素のうち選択された下位集合の
みに対してSADを算出することにより、計算回数を低減することができる。ま
た、画素領域情報ではなく統合射影情報を用いてブロック比較を行うことにより
計算の回数をさらに低減することができる。画素情報の統合射影情報は、水平方
向又は垂直方向に沿った複数の画素値の総和を表す情報である。Fig.4Aは
、垂直統合射影情報を説明する図であり、Fig.4Bは、水平統合射影情報を
説明する図である。
【0038】 統合射影情報は、画素情報から1次元の統合射影配列を算出することにより、
あるいは、例えばデジタルビデオ復号器からの離散コサイン変換(discrete cos
ine transform:以下、DCTという。)係数データに基づく統合射影情報を算
出することにより得られる。特に、本発明は、必要な計算処理を低減し、したが
って、1つのデジタル映像フォーマットから他のデジタルフォーマットへの変換
、例えばデジタルビデオフォーマット(digital video:DV)からMPEGフ
ォーマットへの変換に要する計算処理時間を短縮する点で有効である。
【0039】 DCTは、数学的には以下のように表される。
【0040】
【数3】
【0041】 ここで、h=0,1,・・・,7、v=0,1,・・・,7であり、c(h)
及びc(v)は以下の値をとる。
【0042】
【数4】
【0043】 P(x,y)は、8×8ブロックの画素データであり、Q(h,v)は、8×
8ブロックのDCT係数である。数学的には、8×8ブロックのDCT係数を1
次元の水平逆DCTへ入力した場合、演算結果は8×8配列となり、この配列の
第1列は、定数が乗算された各行の画素情報の総和を含む。したがって、この第
1列は、8×8ブロックの画素情報の1次元垂直射影情報に等しい。同様に、同
じ8×8ブロックのDCT係数を1次元垂直逆DCTへ入力した場合、演算結果
の第1行は、元となる8×8ブロックの画素情報の1次元水平射影情報に等しく
なる。垂直統合射影情報及び水平統合射影情報は、動きベクトルの評価に使用す
ることができる。
【0044】 この具体例においては、各スーパーマクロブロックは、4つの隣接するマクロ
ブロックからなり、各マクロブロックは、4つの隣接する8×8ブロックからな
る。したがって、各スーパーマクロブロックは、16個の8×8ブロックから構
成される。各スーパーマクロブロックの比較に必要な計算の回数は、垂直統合射
影情報又は水平統合射影情報を用いることにより低減できる。各8×8ブロック
に対する垂直(又は水平)統合射影情報は、例えば、8×8ブロックにおける第
1〜4行(又は列)の32画素の画素値と第5〜8行(又は列)の32画素の画
素値との和として算出される。DCT領域の情報を利用できる場合、2つの統合
射影情報は、各2次元8×8DCTブロックにおける第1行(又は列)の最も小
さい2つの係数に対する1次元2点逆DCT(one-dimensional 2-point IDCT)
を実行することにより得られる。これにより、各スーパーマクロブロックは、2
×16=32個の垂直(又は水平)統合投影情報により表現される。したがって
、各スーパーマクロブロックの比較に必要な計算の回数は、32回の計算と統合
射影情報の算出に必要な計算とに減少させることができる。
【0045】 統合射影情報は、例えば、8×8ブロックにおいて2つずつの行(又は列)の
総和を求めて、4つの統合射影情報を得るか、又は各行(又は列)について個別
に総和を求めて8つの統合射影情報を得ることによっても算出できることは、当
業者にとって明らかである。同様に、統合射影配列は、DCTブロックの係数に
対する1次元4点逆DCTを実行して得られるDCT領域情報からも得ることが
できる。これらの手法は、上述した2点統合射影配列の算出より多くの計算を必
要とするが、画素情報を用いた同様の手法に比べると計算回数は少ない。
【0046】 Fig.5は、第1の検索処理により得られる最良スーパーマクロブロック5
10を示す図である。最良スーパーマクロブロック510の左上コーナの座標は
(u,v)であり、これは第1の検索処理における現在のスーパーマクロブロッ
クへの動きベクトルである。Fig.5に示すように、スーパーマクロブロック
510は、ステップ314において、複数の候補マクロブロック1,2,3,4
に分割され、本発明に基づく階層的検索処理の第2の処理段階が開始される。ス
テップ316においては、第2の処理段階のための検索範囲(±p,±q
が決定される。各候補マクロブロック1,2,3,4について、候補マクロブロ
ックと検索範囲(±p,±q)とに基づいて、検索範囲が決定される。例え
ば、Fig.6に示す検索範囲610は、候補マクロブロック1と検索範囲(±
,±q)により定義されている。検索範囲(±p,±q)は、所定の
ものであってもよく、動的に決定されるものであってもよい。検索範囲値p
は、全てのフレームについて同一の値であってもよく、現在のフレームと参
照フレームとの時間差によって異なるものとしてもよい。さらに、検索範囲検索
,qは、1以上でフレームサイズ以下のいかなる整数であってもよい。検
索範囲値pをpより小さくし、検索範囲値qをqより小さくすることに
より、第2の検索領域610は、Fig.2に示す第1の検索範囲215より小
さくなる。通常、検索範囲を小さくすると、第1の処理段階により検出された動
きベクトルの精度をさらに高めることができる。
【0047】 ステップ318においては、第2の検索処理が選択され、ステップ320にお
いては、画素シフト間隔Kが選択される。最良候補マクロブロックは、現在知
られているいかなるブロック整合検索法により選択してもよく、例えば完全検索
を行ってもよく、あるいは、検索範囲内において所定の画素検索間隔を適用して
マクロブロックを比較することにより選択してもよい。本発明の1具体例におい
ては、候補マクロブロックは、上述したチャン他による米国特許出願第09/0
81,279号に開示されている手法を用いる。Kは、1以上で検索範囲以下
のいかなる整数であってもよい。K=1とした場合、1画素分ずつ比較処理を
行う完全検索と同様の処理を実行することとなる。
【0048】 ステップ322において、各候補マクロブロック1,2,3,4について、所
定の検索領域に対する選択された検索処理が実行される。絶対歪み総和SADを
整合性判定基準として用いると、各マクロブロックの比較処理は、以下のように
定義することができる。
【0049】
【数5】
【0050】 ここで、−p≦i≦+p、−q≦j≦+q、rは現在の16×16画
素のマクロブロック230を表し、sは検索範囲610における16×16画素
の候補マクロブロックを表す。
【0051】 この具体例において、各マクロブロックは4つの隣接する8×8ブロックから
構成される。各マクロブロックの比較に必要な計算回数は、垂直統合射影情報又
は水平統合射影情報を用いることにより低減できる。各8×8ブロックに対する
垂直(又は水平)統合射影情報は、例えば、8×8ブロックにおける第1〜4行
(又は列)の32画素の画素値と第5〜8行(又は列)の32画素の画素値との
和として算出される。DCT領域の情報を利用できる場合、2つの統合射影情報
は、各2次元8×8DCTブロックにおける第1行(又は列)の最も小さい2つ
の係数に対する1次元2点逆DCTを実行することにより得られる。これにより
、各スーパーマクロブロックは、2×4=8個の垂直(又は水平)統合投影情報
により表現される。したがって、各スーパーマクロブロックの比較に必要な計算
の回数は、8回の計算と統合射影情報の算出に必要な計算とに減少させることが
できる。
【0052】 統合射影情報は、例えば、8×8ブロックにおいて2つずつの行(又は列)の
総和を求めて、4つの統合射影情報を得るか、又は各行(又は列)について個別
に総和を求めて8つの統合射影情報を得ることによっても算出できる。同様に、
統合射影配列は、DCTブロックの係数に対する1次元4点逆DCTを実行して
得られるDCT領域情報からも得ることができる。これらの手法は、上述した2
点統合射影配列の算出より多くの計算を必要とするが、画素情報を用いた同様の
手法に比べると計算回数は少ない。
【0053】 現在のマクロブロックの動きベクトルの精度は、ステップ324において第3
の検索処理段階を実行することによりさらに高められる。第3の検索範囲は、第
2の階層的検索処理及び検索範囲(±p,±q)に基づいて決定される。検
索範囲(±p,±q)は、所定のものであってもよく、動的に決定されるも
のであってもよい。検索範囲値p,qは、全てのフレームについて同一の値
であってもよく、現在のフレームと参照フレームとの時間差によって異なるもの
としてもよい。さらに、検索範囲検索p,qは、1以上でフレームサイズ以
下のいかなる値であってもよい。検索範囲値pをpより小さくし、検索範囲
値qをqより小さくすることにより、第3の検索範囲は、Fig.5に示す
第2の検索範囲510より小さくなる。なお、この処理段階においては、検索範
囲(±1,±1)が推奨される。
【0054】 続いて、第3の検索処理及び画素シフト間隔Kが選択される。画素シフト間
隔Kは、1以上で検索範囲以下のいかなる値であってもよい。なお、階層的検
索処理における第3の処理段階では、画素シフト間隔Kを1とすることが望ま
しい。K=1とすることにより、それぞれ1画素ずつ移動した位置から開始さ
れる比較処理を行う完全検索と同じ処理が実行される。
【0055】 現在のマクロブロックの動きベクトルの精度は、ステップ326において第4
の検索処理段階を実行することによりさらに高められる。第4の検索範囲は、第
3の階層的検索処理及び検索範囲(±p,±q)に基づいて決定される。検
索範囲(±p,±q)は、所定のものであってもよく、動的に決定されるも
のであってもよい。検索範囲値p,qは、全てのフレームについて同一の値
であってもよく、現在のフレームと参照フレームとの時間差によって異なるもの
としてもよい。さらに、検索範囲検索p,qは、0より大きくフレームサイ
ズ以下のいかなる値であってもよい。検索範囲値pをpより小さくし、検索
範囲値qをqより小さくすることにより、第3の検索範囲は、第3の検索範
囲より小さくなる。なお、この処理段階においては、検索範囲(±0.5,±0
.5)が推奨される。
【0056】 続いて、第4の検索処理及び画素シフト間隔Kが選択される。画素シフト間
隔Kは、0より大きく、検索範囲以下のいかなる値であってもよい。なお、階
層的検索処理における第4の処理段階では、画素シフト間隔Kを0.5とする
ことが望ましい。当業者にとって明らかであるが、K=0.5とすることによ
り、半画素検索(half-pixel search)に等しい処理が実行される。
【0057】 第4の階層的検索処理段階が完了すると、この第4の階層的検索処理段階にお
いてSAD(i,j)の値を最小とする(i,j)の組により現在のマクロブロ
ック230の動きベクトルが定義される。例えば、動きベクトル(1,1)は、
参照フレーム内において、現在のマクロブロックに対応する位置から1画素分水
平方向に右に移動し、1画素分垂直方向に下に移動したマクロブロックが現在の
マクロブロックに近似することを示す。ステップ328において、この動きベク
トルは記録され、また一連の画素差分は現在のマクロブロックと候補マクロブロ
ック間の剰余情報として記録される。
【0058】 ステップ324における第3の検索処理及びステップ326における第4の検
索処理は、処理量の低減が望まれるいくつかの実現例においては、省略してもよ
い。
【0059】 B.システム Fig.7は、本発明に基づくシステム705の構成を示す図である。Fig
.7に示すように、プロセッサ710は、任意の適切なデータ接続線を介して、
少なくとも1つの入出力装置720に接続されている。入出力装置720は、プ
ロセッサ710にデータを供給し、また、プロセッサ710からデータを受信す
る能力を有するいかなる装置であってもよい。入出力装置720は、例えばIE
EE1394インターフェイスを介して接続されるデジタルカムコーダであって
もよい。プロセッサ710は、例えばペンティアムプロセッサ(Pentium proces
sor:商標)等、市販されているいかなるデジタルプロセッサであってもよい。
また、プロセッサ710は、単一のプロセッサであっても複数のプロセッサであ
ってもよい。なお、プロセッサ710の処理速度が速いほど、本発明における処
理時間が短くなる。
【0060】 さらに、本発明に基づくシステム705は、プロセッサ710により処理され
、及び入出力装置720に供給され又は入出力装置720から供給されるデータ
を格納するメモリ730を備える。さらに、システム705は、例えば陰極線管
等、情報を表示するための表示装置740を備えていてもよい。プロセッサ71
0、入出力装置720、メモリ730、表示装置740は、標準システムバス7
60を介して相互に接続されている。Fig.7は、各ハードウェアコンポーネ
ントが従来の市販されているコンピュータシステムコンポーネントにより実現さ
れた例示的なネットワークを示している。
【0061】 Fig.8は本発明に基づくプロセッサ710の内部構成を示す図である。プ
ロセッサ710は、例えば1又は複数のメモリ管理部(memory management unit
:以下、MMUという。)810と、1又は複数のプロセッサ要素アレイ(proc
essor element arrays)820と、1又は複数のアキュムレータ(accumulator
unit)830とを備える。プロセッサ要素アレイ820は、プロセッサ要素(図
示せず)のアレイを備える。プロセッサ要素は、例えばブロック間のSADを算
出するための減算及び加算器等から構成される。MMU810は、プロセッサ要
素アレイ820におけるデータバッファとして使用される。アキュムレータ83
0は、例えば、プロセッサ要素825からの出力データを累算するために用いら
れる。
【0062】 本発明の一具体例において、プロセッサ710はメモリ730に格納されてい
る1又は複数の命令シーケンスを実行する。この命令は、例えば入出力装置72
0を介してコンピュータにより読取可能な媒体からメモリ730に読み込まれた
ものである。メモリ730に格納されている命令シーケンスを実行することによ
り、プロセッサ710は、上述した処理を実行する。変形例においては、ソフト
ウェアプログラムにより実現された命令に代えて、あるいはソフトウェアプログ
ラムにより実現された命令に加えて、ハードウェアにより構成された回路を用い
て本発明を実現することもできる。すなわち、本発明の実現形態は、ハードウェ
ア回路及びソフトウェアの特定の組み合わせによって限定されるものではない。
【0063】 ここで、「コンピュータにより読取可能な媒体」とは、プロセッサ710に実
行可能な命令を供給するためのあらゆる媒体を意味するものとする。この媒体は
、いかなる形式のものであってもよく、例えば不揮発性媒体、揮発性媒体、伝送
媒体等が含まれるが、これらに限定されるものではない。不揮発性媒体には、例
えば光ディスク又は磁気ディスク等が含まれる。揮発性媒体には、例えばメモリ
730のようなダイナミックメモリが含まれる。伝送媒体には、システムバス7
60を構成するデータ線を含む、同軸ケーブル、銅線、光ファイバケーブル等が
含まれる。さらに、伝送媒体は、例えば無線電波及び赤外線データ通信により生
成される音波及び光波であってもよい。
【0064】 さらに、通常使用されるコンピュータにより読取可能な媒体は、例えば、フロ
ッピーディスク、フレキシブルディスク、ハードディスク、磁気テープ又はその
他のあらゆる磁気記録媒体、CD−ROM又はその他のあらゆる光記録媒体、パ
ンチカード、紙テープ、所定パターンの穿孔が設けられたあらゆる物理的記録媒
体、RAM、PROM、EPROM、フラッシュEPROM、その他のあらゆる
メモリチップ又はカートリッジ、後述する搬送波、及びコンピュータが読取可能
なその他のあらゆる媒体を含む。情報を伝送するための搬送波の例としては、シ
ステムバス760を介してシステム705への、及びシステム705からのデジ
タルデータ及び可能であればプログラムコードを搬送するネットワーク信号が含
まれる。本発明に基づき、システム705に供給されたプログラムは、供給され
ると同時にプロセッサ710により実行してもよく、及び/又はメモリ730に
記憶してもよく、又は後に実行するために不揮発性記録媒体に記録してもよい。
【0065】 本発明の思想及び範囲から逸脱することなく、本発明に基づく上述の手法及び
システムを様々に修正及び変形できることは当業者にとって明らかである。本発
明の範囲は、添付の請求の範囲により定義される。
【図面の簡単な説明】
【図1】 Fig.1は、従来のブロック整合法を説明する図である。
【図2】 Fig.2は、本発明に基づく、ブロック整合検索における検索領域の選択処
理を説明する図である。
【図3】 Fig.3Aは、本発明に基づく階層的検索処理の手順を示すフローチャート
である。
【図4】 Fig.3Bは、Fig.3Aの続きである。
【図5】 Fig.4Aは、8×8配列からなる画素情報の垂直統合射影情報の算出を説
明する図である。
【図6】 Fig.4Bは、8×8配列からなる画素情報の水平統合射影情報の算出を説
明する図である。
【図7】 Fig.5は、本発明に基づくブロック整合処理の1処理段階を説明する図で
ある。
【図8】 Fig.6は、本発明に基づくブロック整合処理の1処理段階を説明する図で
ある。
【図9】 Fig.7は、本発明に基づくシステムの構成を示す図である。
【図10】 Fig.8は、本発明に基づくプロセッサの構成を示す図である。
───────────────────────────────────────────────────── フロントページの続き (81)指定国 EP(AT,BE,CH,CY, DE,DK,ES,FI,FR,GB,GR,IE,I T,LU,MC,NL,PT,SE),OA(BF,BJ ,CF,CG,CI,CM,GA,GN,GW,ML, MR,NE,SN,TD,TG),AP(GH,GM,K E,LS,MW,SD,SL,SZ,UG,ZW),E A(AM,AZ,BY,KG,KZ,MD,RU,TJ ,TM),AE,AL,AM,AT,AU,AZ,BA ,BB,BG,BR,BY,CA,CH,CN,CU, CZ,DE,DK,EE,ES,FI,GB,GD,G E,GH,GM,HR,HU,ID,IL,IN,IS ,JP,KE,KG,KP,KR,KZ,LC,LK, LR,LS,LT,LU,LV,MD,MG,MK,M N,MW,MX,NO,NZ,PL,PT,RO,RU ,SD,SE,SG,SI,SK,SL,TJ,TM, TR,TT,UA,UG,UZ,VN,YU,ZA,Z W Fターム(参考) 5C021 PA53 PA56 PA57 PA58 PA66 PA72 PA74 PA76 RA01 RA16 5C059 KK19 MA00 MA05 NN02 NN03 NN05 NN10 NN28 NN29 PP05 SS06 SS11 TA63 TB07 TC02 TC04 TD05 TD06 TD11 UA02 UA39 5L096 AA06 BA20 DA02 FA36 GA08 GA19 HA04 JA14 KA07

Claims (32)

    【特許請求の範囲】
  1. 【請求項1】 ビデオ画像データにおける第1及び第2のフレーム間の動きベ
    クトルを生成する動きベクトル判定方法において、 (a)上記第1のフレームにおいて、画素情報の2次元配列として構成される
    現在のマクロブロックを決定するステップ(302)と、 (b)上記第1のフレームにおいて、上記現在のマクロブロックと複数のマク
    ロブロックとから構成される現在のスーパーマクロブロックを決定するステップ
    (304)と、 (c)上記現在のスーパーマクロブロックと第1の検索範囲とに基づいて、上
    記第2のフレームにおける第1の検索領域を選択するステップ(306)と、 (d)変位判定基準と現在のスーパーマクロブロックとに基づいて、上記第1
    の検索範囲における最良候補スーパーマクロブロックを判定するステップ(31
    2)と、 (e)上記最良候補スーパーマクロブロックを複数の候補マクロブロックに分
    割するステップ(314)と、 (f)上記複数の候補マクロブロックと第2の検索範囲とに基づいて、上記第
    2のフレームにおける複数の第2の検索範囲を選択するステップ(316)と、 (g)変位判定基準と現在のマクロブロックとに基づいて、上記第2の検索範
    囲における最良候補マクロブロックを判定するステップ(322)と、 (h)上記現在のマクロブロックと上記第1の最良候補マクロブロックとの間
    の距離を表す第1の動きベクトルを判定するステップ(328)とを有する動き
    ベクトル判定方法。
  2. 【請求項2】 (i)上記第2のフレームにおいて、上記第1の最良候補マク
    ロブロックと第3の検索範囲とに基づいて、第3の検索範囲を選択するステップ
    (324)と、 (j)変位判定基準と現在のマクロブロックとに基づいて、上記第3の検索範
    囲における第2の最良候補マクロブロックを判定するステップ(324)と、 (k)上記現在のマクロブロックと上記第2の最良候補マクロブロックとの間
    の距離を表す第2の動きベクトルを判定するステップ(328)とを有する請求
    項1記載の動きベクトル判定方法。
  3. 【請求項3】 (l)上記第2のフレームにおいて、上記第2の最良候補マク
    ロブロックと第4の検索範囲とに基づいて、第4の検索範囲を選択するステップ
    (326)と、 (m)所定の変位判定基準と現在のスーパーマクロブロックとに基づいて、上
    記第4の検索範囲における第3の最良候補マクロブロックを判定するステップ(
    326)と、 (n)上記現在のスーパーマクロブロックと上記第2の最良候補マクロブロッ
    クとの間の距離を表す第3の動きベクトルを判定するステップ(328)とを有
    する請求項2記載の動きベクトル判定方法。
  4. 【請求項4】 上記最良候補スーパーマクロブックを判定するステップは、 (a)上記現在のスーパーマクロブロックと変位判定基準とに基づいて、各画
    素情報のストリップにおいて少なくとも1つの候補スーパーマクロブロックを選
    択することにより、第1の候補スーパーマクロブロックの組を決定するステップ
    と、 (b)上記現在のスーパーマクロブロックと変位判定基準とに基づいて、上記
    第1の候補スーパーマクロブロックの組に基づいてそれぞれ決定された少なくと
    も1つの第2の検索範囲において少なくとも1つの候補スーパーマクロブロック
    を選択することにより第2の候補スーパーマクロブロックの組を決定するステッ
    プと、 (c)変位判定基準に基づいて、上記第2の候補スーパーマクロブロックの組
    から最良候補スーパーマクロブロックを判定するステップとを有することを特徴
    とする請求項1記載の動きベクトル判定方法。
  5. 【請求項5】 上記第1の最良候補マクロブロックを判定するステップは、 (a)上記現在のスーパーマクロブロックと変位判定基準とに基づいて、各画
    素情報のストリップにおいて少なくとも1つの候補スーパーマクロブロックを選
    択することにより、第1の候補スーパーマクロブロックの組を決定するステップ
    と、 (b)上記現在のスーパーマクロブロックと変位判定基準とに基づいて、上記
    第1の候補スーパーマクロブロックの組に基づいてそれぞれ決定された少なくと
    も1つの第2の検索範囲において少なくとも1つの候補スーパーマクロブロック
    を選択することにより第2の候補スーパーマクロブロックの組を決定するステッ
    プと、 (c)変位判定基準に基づいて、上記第2の候補スーパーマクロブロックの組
    から最良候補スーパーマクロブロックを判定するステップとを有することを特徴
    とする請求項1記載の動きベクトル判定方法。
  6. 【請求項6】 ビデオ画像データにおける第1及び第2のフレーム間の動きベ
    クトルを生成する動きベクトル判定方法において、 (a)画素情報の2次元配列からなる第1のフレームにおける現在のマクロブ
    ロックを決定するステップと、 (b)上記現在のマクロブロックを表す少なくとも1つの統合射影配列を算出
    するステップと、 (c)上記第1のフレームにおいて、上記現在のマクロブロックと複数のマク
    ロブロックとから構成される現在のスーパーマクロブロックを決定するステップ
    と、 (d)上記現在のスーパーマクロブロックを表す少なくとも1つの統合射影配
    列を算出するステップと、 (e)上記現在のスーパーマクロブロックと第1の検索範囲とに基づいて、上
    記第2のフレームにおける第1の検索領域を選択するステップと、 (f)変位判定基準と上記現在のスーパーマクロブロックを表す統合射影配列
    とに基づいて、上記第1の検索範囲における最良候補スーパーマクロブロックを
    判定するステップと、 (g)上記最良候補スーパーマクロブロックを複数の候補マクロブロックに分
    割するステップと、 (h)上記複数の候補マクロブロックと第2の検索範囲とに基づいて、上記第
    2のフレームにおける複数の第2の検索範囲を選択するステップと、 (i)変位判定基準と上記現在のマクロブロックを表す統合射影配列とに基づ
    いて、上記第2の検索範囲における最良候補マクロブロックを判定するステップ
    と、 (j)上記現在のマクロブロックと上記第1の最良候補マクロブロックとの間
    の距離を表す第1の動きベクトルを判定するステップとを有する動きベクトル判
    定方法。
  7. 【請求項7】 (k)上記第2のフレームにおいて、上記第1の最良候補マク
    ロブロックと第3の検索範囲とに基づいて、第3の検索範囲を選択するステップ
    と、 (l)変位判定基準と現在のマクロブロックとに基づいて、上記第3の検索範
    囲における第2の最良候補マクロブロックを判定するステップと、 (m)上記現在のマクロブロックと上記第2の最良候補マクロブロックとの間
    の距離を表す第2の動きベクトルを判定するステップ(328)とを有する請求
    項6記載の動きベクトル判定方法。
  8. 【請求項8】 (n)上記第2のフレームにおいて、上記第2の最良候補マク
    ロブロックと第4の検索範囲とに基づいて、第4の検索範囲を選択するステップ
    と、 (o)所定の変位判定基準と現在のスーパーマクロブロックとに基づいて、上
    記第4の検索範囲における第3の最良候補マクロブロックを判定するステップと
    、 (p)上記現在のスーパーマクロブロックと上記第2の最良候補マクロブロッ
    クとの間の距離を表す第3の動きベクトルを判定するステップとを有する請求項
    7記載の動きベクトル判定方法。
  9. 【請求項9】 上記最良候補スーパーマクロブックを判定するステップは、 (a)上記現在のスーパーマクロブロックと変位判定基準とに基づいて、各画
    素情報のストリップにおいて少なくとも1つの候補スーパーマクロブロックを選
    択することにより、第1の候補スーパーマクロブロックの組を決定するステップ
    と、 (b)上記現在のスーパーマクロブロックを表す統合射影配列と変位判定基準
    とに基づいて、上記第1の候補スーパーマクロブロックの組に基づいてそれぞれ
    決定された少なくとも1つの第2の検索範囲において少なくとも1つの候補スー
    パーマクロブロックを選択することにより第2の候補スーパーマクロブロックの
    組を決定するステップと、 (c)変位判定基準に基づいて、上記第2の候補スーパーマクロブロックの組
    から最良候補スーパーマクロブロックを判定するステップとを有することを特徴
    とする請求項6記載の動きベクトル判定方法。
  10. 【請求項10】 上記第1の最良候補マクロブロックを判定するステップは、 (a)上記現在のスーパーマクロブロックを表す統合射影情報と変位判定基準
    とに基づいて、各画素情報のストリップにおいて少なくとも1つの候補スーパー
    マクロブロックを選択することにより、第1の候補スーパーマクロブロックの組
    を決定するステップと、 (b)上記現在のスーパーマクロブロックを表す統合射影情報と変位判定基準
    とに基づいて、上記第1の候補スーパーマクロブロックの組に基づいてそれぞれ
    決定された少なくとも1つの第2の検索範囲において少なくとも1つの候補スー
    パーマクロブロックを選択することにより第2の候補スーパーマクロブロックの
    組を決定するステップと、 (c)変位判定基準に基づいて、上記第2の候補スーパーマクロブロックの組
    から最良候補スーパーマクロブロックを判定するステップとを有することを特徴
    とする請求項6記載の動きベクトル判定方法。
  11. 【請求項11】 ビデオ画像データにおける第1及び第2のフレーム間の動き
    ベクトルを生成する動きベクトル判定装置において、 プログラム命令が格納されたメモリ(730)と、 上記プログラム命令を実行することにより、 (a)上記第1のフレームにおいて、画素情報の2次元配列として構成される
    現在のマクロブロックを決定するステップと、 (b)上記第1のフレームにおいて、上記現在のマクロブロックと複数のマク
    ロブロックとから構成される現在のスーパーマクロブロックを決定するステップ
    と、 (c)上記現在のスーパーマクロブロックと第1の検索範囲とに基づいて、上
    記第2のフレームにおける第1の検索領域を選択するステップと、 (d)変位判定基準と現在のスーパーマクロブロックとに基づいて、上記第1
    の検索範囲における最良候補スーパーマクロブロックを判定するステップと、 (e)上記最良候補スーパーマクロブロックを複数の候補マクロブロックに分
    割するステップと、 (f)上記複数の候補マクロブロックと第2の検索範囲とに基づいて、上記第
    2のフレームにおける複数の第2の検索範囲を選択するステップと、 (g)変位判定基準と現在のマクロブロックとに基づいて、上記第2の検索範
    囲における最良候補マクロブロックを判定するステップと、 (h)上記現在のマクロブロックと上記第1の最良候補マクロブロックとの間
    の距離を表す第1の動きベクトルを判定するステップと を実行するプロセッサ(710)とを備える動きベクトル判定装置。
  12. 【請求項12】 上記プロセッサは、上記プログラム命令を実行することによ
    り、 (i)上記第2のフレームにおいて、上記第1の最良候補マクロブロックと第
    3の検索範囲とに基づいて、第3の検索範囲を選択するステップと、 (j)変位判定基準と現在のマクロブロックとに基づいて、上記第3の検索範
    囲における第2の最良候補マクロブロックを判定するステップと、 (k)上記現在のマクロブロックと上記第2の最良候補マクロブロックとの間
    の距離を表す第2の動きベクトルを判定するステップと を実行することを特徴とする請求項11記載の動きベクトル判定装置。
  13. 【請求項13】 上記プロセッサは、上記プログラム命令を実行することによ
    り、 (l)上記第2のフレームにおいて、上記第2の最良候補マクロブロックと第
    4の検索範囲とに基づいて、第4の検索範囲を選択するステップと、 (m)所定の変位判定基準と現在のスーパーマクロブロックとに基づいて、上
    記第4の検索範囲における第3の最良候補マクロブロックを判定するステップと
    、 (n)上記現在のスーパーマクロブロックと上記第2の最良候補マクロブロッ
    クとの間の距離を表す第3の動きベクトルを判定するステップと を実行することを特徴とする請求項12記載の動きベクトル判定装置。
  14. 【請求項14】 上記最良候補スーパーマクロブックを判定するステップは、 (a)上記現在のスーパーマクロブロックと変位判定基準とに基づいて、各画
    素情報のストリップにおいて少なくとも1つの候補スーパーマクロブロックを選
    択することにより、第1の候補スーパーマクロブロックの組を決定するステップ
    と、 (b)上記現在のスーパーマクロブロックと変位判定基準とに基づいて、上記
    第1の候補スーパーマクロブロックの組に基づいてそれぞれ決定された少なくと
    も1つの第2の検索範囲において少なくとも1つの候補スーパーマクロブロック
    を選択することにより第2の候補スーパーマクロブロックの組を決定するステッ
    プと、 (c)変位判定基準に基づいて、上記第2の候補スーパーマクロブロックの組
    から最良候補スーパーマクロブロックを判定するステップとを有することを特徴
    とする請求項11記載の動きベクトル判定装置。
  15. 【請求項15】 上記第1の最良候補マクロブロックを判定するステップは、 (a)上記現在のスーパーマクロブロックと変位判定基準とに基づいて、各画
    素情報のストリップにおいて少なくとも1つの候補スーパーマクロブロックを選
    択することにより、第1の候補スーパーマクロブロックの組を決定するステップ
    と、 (b)上記現在のスーパーマクロブロックと変位判定基準とに基づいて、上記
    第1の候補スーパーマクロブロックの組に基づいてそれぞれ決定された少なくと
    も1つの第2の検索範囲において少なくとも1つの候補スーパーマクロブロック
    を選択することにより第2の候補スーパーマクロブロックの組を決定するステッ
    プと、 (c)変位判定基準に基づいて、上記第2の候補スーパーマクロブロックの組
    から最良候補スーパーマクロブロックを判定するステップとを有することを特徴
    とする請求項11記載の動きベクトル判定装置。
  16. 【請求項16】 ビデオ画像データにおける第1及び第2のフレーム間の動きベ
    クトルを生成する動きベクトル判定装置において、 プログラム命令が格納されたメモリと、 上記プログラム命令を実行することにより、 (a)画素情報の2次元配列からなる第1のフレームにおける現在のマクロブ
    ロックを決定するステップと、 (b)上記現在のマクロブロックを表す少なくとも1つの統合射影配列を算出
    するステップと、 (c)上記第1のフレームにおいて、上記現在のマクロブロックと複数のマク
    ロブロックとから構成される現在のスーパーマクロブロックを決定するステップ
    と、 (d)上記現在のスーパーマクロブロックを表す少なくとも1つの統合射影配
    列を算出するステップと、 (e)上記現在のスーパーマクロブロックと第1の検索範囲とに基づいて、上
    記第2のフレームにおける第1の検索領域を選択するステップと、 (f)変位判定基準と上記現在のスーパーマクロブロックを表す統合射影配列
    とに基づいて、上記第1の検索範囲における最良候補スーパーマクロブロックを
    判定するステップと、 (g)上記最良候補スーパーマクロブロックを複数の候補マクロブロックに分
    割するステップと、 (h)上記複数の候補マクロブロックと第2の検索範囲とに基づいて、上記第
    2のフレームにおける複数の第2の検索範囲を選択するステップと、 (i)変位判定基準と上記現在のマクロブロックを表す統合射影配列とに基づ
    いて、上記第2の検索範囲における最良候補マクロブロックを判定するステップ
    と、 (j)上記現在のマクロブロックと上記第1の最良候補マクロブロックとの間
    の距離を表す第1の動きベクトルを判定するステップと を実行するプロセッサとを備える動きベクトル判定装置。
  17. 【請求項17】 上記プロセッサは、上記プログラム命令を実行することによ
    り、 (k)上記第2のフレームにおいて、上記第1の最良候補マクロブロックと第
    3の検索範囲とに基づいて、第3の検索範囲を選択するステップと、 (l)変位判定基準と現在のマクロブロックとに基づいて、上記第3の検索範
    囲における第2の最良候補マクロブロックを判定するステップと、 (m)上記現在のマクロブロックと上記第2の最良候補マクロブロックとの間
    の距離を表す第2の動きベクトルを判定するステップ(328)と を実行することを特徴とする請求項16記載の動きベクトル判定装置。
  18. 【請求項18】 上記プロセッサは、上記プログラム命令を実行することによ
    り、 (n)上記第2のフレームにおいて、上記第2の最良候補マクロブロックと第
    4の検索範囲とに基づいて、第4の検索範囲を選択するステップと、 (o)所定の変位判定基準と現在のスーパーマクロブロックとに基づいて、上
    記第4の検索範囲における第3の最良候補マクロブロックを判定するステップと
    、 (p)上記現在のスーパーマクロブロックと上記第2の最良候補マクロブロッ
    クとの間の距離を表す第3の動きベクトルを判定するステップと を実行することを特徴とする請求項17記載の動きベクトル判定装置。
  19. 【請求項19】 上記最良候補スーパーマクロブックを判定するステップは、 (a)上記現在のスーパーマクロブロックと変位判定基準とに基づいて、各画
    素情報のストリップにおいて少なくとも1つの候補スーパーマクロブロックを選
    択することにより、第1の候補スーパーマクロブロックの組を決定するステップ
    と、 (b)上記現在のスーパーマクロブロックを表す統合射影配列と変位判定基準
    とに基づいて、上記第1の候補スーパーマクロブロックの組に基づいてそれぞれ
    決定された少なくとも1つの第2の検索範囲において少なくとも1つの候補スー
    パーマクロブロックを選択することにより第2の候補スーパーマクロブロックの
    組を決定するステップと、 (c)変位判定基準に基づいて、上記第2の候補スーパーマクロブロックの組
    から最良候補スーパーマクロブロックを判定するステップとを有することを特徴
    とする請求項16記載の動きベクトル判定装置。
  20. 【請求項20】 上記第1の最良候補マクロブロックを判定するステップは、 (a)上記現在のスーパーマクロブロックを表す統合射影情報と変位判定基準
    とに基づいて、各画素情報のストリップにおいて少なくとも1つの候補スーパー
    マクロブロックを選択することにより、第1の候補スーパーマクロブロックの組
    を決定するステップと、 (b)上記現在のスーパーマクロブロックを表す統合射影情報と変位判定基準
    とに基づいて、上記第1の候補スーパーマクロブロックの組に基づいてそれぞれ
    決定された少なくとも1つの第2の検索範囲において少なくとも1つの候補スー
    パーマクロブロックを選択することにより第2の候補スーパーマクロブロックの
    組を決定するステップと、 (c)変位判定基準に基づいて、上記第2の候補スーパーマクロブロックの組
    から最良候補スーパーマクロブロックを判定するステップとを有することを特徴
    とする請求項16記載の動きベクトル判定装置。
  21. 【請求項21】 ビデオ画像データにおける第1及び第2のフレーム間の動き
    ベクトルを生成するコンピュータにより読取可能なコードが実現されたコンピュ
    ータにより使用可能な媒体を備えるコンピュータプログラム製品において、 上記コンピュータにより使用可能な媒体は、 (a)上記第1のフレームにおいて、画素情報の2次元配列として構成される
    現在のマクロブロックを決定するコンポーネントと、 (b)上記第1のフレームにおいて、上記現在のマクロブロックと複数のマク
    ロブロックとから構成される現在のスーパーマクロブロックを決定するコンポー
    ネントと、 (c)上記現在のスーパーマクロブロックと第1の検索範囲とに基づいて、上
    記第2のフレームにおける第1の検索領域を選択するコンポーネントと、 (d)変位判定基準と現在のスーパーマクロブロックとに基づいて、上記第1
    の検索範囲における最良候補スーパーマクロブロックを判定するコンポーネント
    と、 (e)上記最良候補スーパーマクロブロックを複数の候補マクロブロックに分
    割するコンポーネントと、 (f)上記複数の候補マクロブロックと第2の検索範囲とに基づいて、上記第
    2のフレームにおける複数の第2の検索範囲を選択するコンポーネントと、 (g)変位判定基準と現在のマクロブロックとに基づいて、上記第2の検索範
    囲における最良候補マクロブロックを判定するコンポーネントと、 (h)上記現在のマクロブロックと上記第1の最良候補マクロブロックとの間
    の距離を表す第1の動きベクトルを判定するコンポーネントとを備えるコンピュ
    ータプログラム製品。
  22. 【請求項22】 (i)上記第2のフレームにおいて、上記第1の最良候補マ
    クロブロックと第3の検索範囲とに基づいて、第3の検索範囲を選択するコンポ
    ーネントと、 (j)変位判定基準と現在のマクロブロックとに基づいて、上記第3の検索範
    囲における第2の最良候補マクロブロックを判定するコンポーネントと、 (k)上記現在のマクロブロックと上記第2の最良候補マクロブロックとの間
    の距離を表す第2の動きベクトルを判定するコンポーネントとを備える請求項2
    1記載のコンピュータプログラム製品。
  23. 【請求項23】 (l)上記第2のフレームにおいて、上記第2の最良候補マ
    クロブロックと第4の検索範囲とに基づいて、第4の検索範囲を選択するコンポ
    ーネントと、 (m)所定の変位判定基準と現在のスーパーマクロブロックとに基づいて、上
    記第4の検索範囲における第3の最良候補マクロブロックを判定するコンポーネ
    ントと、 (n)上記現在のスーパーマクロブロックと上記第2の最良候補マクロブロッ
    クとの間の距離を表す第3の動きベクトルを判定するコンポーネントとを備える
    請求項22記載のコンピュータプログラム製品。
  24. 【請求項24】 上記最良候補スーパーマクロブックを判定するコンポーネン
    トは、 (a)上記現在のスーパーマクロブロックと変位判定基準とに基づいて、各画
    素情報のストリップにおいて少なくとも1つの候補スーパーマクロブロックを選
    択することにより、第1の候補スーパーマクロブロックの組を決定するコンポー
    ネントと、 (b)上記現在のスーパーマクロブロックと変位判定基準とに基づいて、上記
    第1の候補スーパーマクロブロックの組に基づいてそれぞれ決定された少なくと
    も1つの第2の検索範囲において少なくとも1つの候補スーパーマクロブロック
    を選択することにより第2の候補スーパーマクロブロックの組を決定するコンポ
    ーネントと、 (c)変位判定基準に基づいて、上記第2の候補スーパーマクロブロックの組
    から最良候補スーパーマクロブロックを判定するコンポーネントとを備えること
    を特徴とする請求項21記載のコンピュータプログラム製品。
  25. 【請求項25】 上記第1の最良候補マクロブロックを判定するコンポーネン
    トは、 (a)上記現在のスーパーマクロブロックと変位判定基準とに基づいて、各画
    素情報のストリップにおいて少なくとも1つの候補スーパーマクロブロックを選
    択することにより、第1の候補スーパーマクロブロックの組を決定するコンポー
    ネントと、 (b)上記現在のスーパーマクロブロックと変位判定基準とに基づいて、上記
    第1の候補スーパーマクロブロックの組に基づいてそれぞれ決定された少なくと
    も1つの第2の検索範囲において少なくとも1つの候補スーパーマクロブロック
    を選択することにより第2の候補スーパーマクロブロックの組を決定するコンポ
    ーネントと、 (c)変位判定基準に基づいて、上記第2の候補スーパーマクロブロックの組
    から最良候補スーパーマクロブロックを判定するコンポーネントとを有すること
    を特徴とする請求項21記載のコンピュータプログラム製品。
  26. 【請求項26】 ビデオ画像データにおける第1及び第2のフレーム間の動き
    ベクトルを生成するコンピュータにより読取可能なコードが実現されたコンピュ
    ータにより使用可能な媒体を備えるコンピュータプログラム製品において、 上記コンピュータにより使用可能な媒体は、 (a)画素情報の2次元配列からなる第1のフレームにおける現在のマクロブ
    ロックを決定するコンポーネントと、 (b)上記現在のマクロブロックを表す少なくとも1つの統合射影配列を算出
    するコンポーネントと、 (c)上記第1のフレームにおいて、上記現在のマクロブロックと複数のマク
    ロブロックとから構成される現在のスーパーマクロブロックを決定するコンポー
    ネントと、 (d)上記現在のスーパーマクロブロックを表す少なくとも1つの統合射影配
    列を算出するコンポーネントと、 (e)上記現在のスーパーマクロブロックと第1の検索範囲とに基づいて、上
    記第2のフレームにおける第1の検索領域を選択するコンポーネントと、 (f)変位判定基準と上記現在のスーパーマクロブロックを表す統合射影配列
    とに基づいて、上記第1の検索範囲における最良候補スーパーマクロブロックを
    判定するコンポーネントと、 (g)上記最良候補スーパーマクロブロックを複数の候補マクロブロックに分
    割するコンポーネントと、 (h)上記複数の候補マクロブロックと第2の検索範囲とに基づいて、上記第
    2のフレームにおける複数の第2の検索範囲を選択するコンポーネントと、 (i)変位判定基準と上記現在のマクロブロックを表す統合射影配列とに基づ
    いて、上記第2の検索範囲における最良候補マクロブロックを判定するコンポー
    ネントと、 (j)上記現在のマクロブロックと上記第1の最良候補マクロブロックとの間
    の距離を表す第1の動きベクトルを判定するコンポーネントとを備えるコンピュ
    ータプログラム製品。
  27. 【請求項27】 (k)上記第2のフレームにおいて、上記第1の最良候補マ
    クロブロックと第3の検索範囲とに基づいて、第3の検索範囲を選択するコンポ
    ーネントと、 (l)変位判定基準と現在のマクロブロックとに基づいて、上記第3の検索範
    囲における第2の最良候補マクロブロックを判定するコンポーネントと、 (m)上記現在のマクロブロックと上記第2の最良候補マクロブロックとの間
    の距離を表す第2の動きベクトルを判定するコンポーネント(328)とを有す
    る請求項26記載のコンピュータプログラム製品。
  28. 【請求項28】 (n)上記第2のフレームにおいて、上記第2の最良候補マ
    クロブロックと第4の検索範囲とに基づいて、第4の検索範囲を選択するコンポ
    ーネントと、 (o)所定の変位判定基準と現在のスーパーマクロブロックとに基づいて、上
    記第4の検索範囲における第3の最良候補マクロブロックを判定するコンポーネ
    ントと、 (p)上記現在のスーパーマクロブロックと上記第2の最良候補マクロブロッ
    クとの間の距離を表す第3の動きベクトルを判定するコンポーネントとを備える
    請求項27記載のコンピュータプログラム製品。
  29. 【請求項29】 上記最良候補スーパーマクロブックを判定するコンポーネン
    トは、 (a)上記現在のスーパーマクロブロックと変位判定基準とに基づいて、各画
    素情報のストリップにおいて少なくとも1つの候補スーパーマクロブロックを選
    択することにより、第1の候補スーパーマクロブロックの組を決定するコンポー
    ネントと、 (b)上記現在のスーパーマクロブロックを表す統合射影配列と変位判定基準
    とに基づいて、上記第1の候補スーパーマクロブロックの組に基づいてそれぞれ
    決定された少なくとも1つの第2の検索範囲において少なくとも1つの候補スー
    パーマクロブロックを選択することにより第2の候補スーパーマクロブロックの
    組を決定するコンポーネントと、 (c)変位判定基準に基づいて、上記第2の候補スーパーマクロブロックの組
    から最良候補スーパーマクロブロックを判定するコンポーネントとを有すること
    を特徴とする請求項26記載のコンピュータプログラム製品。
  30. 【請求項30】 上記第1の最良候補マクロブロックを判定するコンポーネン
    トは、 (a)上記現在のスーパーマクロブロックを表す統合射影情報と変位判定基準
    とに基づいて、各画素情報のストリップにおいて少なくとも1つの候補スーパー
    マクロブロックを選択することにより、第1の候補スーパーマクロブロックの組
    を決定するコンポーネントと、 (b)上記現在のスーパーマクロブロックを表す統合射影情報と変位判定基準
    とに基づいて、上記第1の候補スーパーマクロブロックの組に基づいてそれぞれ
    決定された少なくとも1つの第2の検索範囲において少なくとも1つの候補スー
    パーマクロブロックを選択することにより第2の候補スーパーマクロブロックの
    組を決定するコンポーネントと、 (c)変位判定基準に基づいて、上記第2の候補スーパーマクロブロックの組
    から最良候補スーパーマクロブロックを判定するコンポーネントとを備えること
    を特徴とする請求項26記載のコンピュータプログラム製品。
  31. 【請求項31】 ビデオ画像データにおける第1及び第2のフレーム間の動き
    ベクトルを生成する動きベクトル判定システムにおいて、 (a)上記第1のフレームにおいて、画素情報の2次元配列として構成される
    現在のマクロブロックを決定する現在マクロブロック決定手段と、 (b)上記第1のフレームにおいて、上記現在のマクロブロックと複数のマク
    ロブロックとから構成される現在のスーパーマクロブロックを決定する現在スー
    パーマクロブロック決定手段と、 (c)上記現在のスーパーマクロブロックと第1の検索範囲とに基づいて、上
    記第2のフレームにおける第1の検索領域を選択する第1検索領域選択手段と、 (d)変位判定基準と現在のスーパーマクロブロックとに基づいて、上記第1
    の検索範囲における最良候補スーパーマクロブロックを判定する最良候補スーパ
    ーマクロブロック判定手段と、 (e)上記最良候補スーパーマクロブロックを複数の候補マクロブロックに分
    割する分割手段と、 (f)上記複数の候補マクロブロックと第2の検索範囲とに基づいて、上記第
    2のフレームにおける複数の第2の検索範囲を選択する第2検索範囲選択手段と
    、 (g)変位判定基準と現在のマクロブロックとに基づいて、上記第2の検索範
    囲における最良候補マクロブロックを判定するステップ最良候補マクロブロック
    判定手段と、 (h)上記現在のマクロブロックと上記第1の最良候補マクロブロックとの間
    の距離を表す第1の動きベクトルを判定する第1動きベクトル判定手段とを備え
    る動きベクトル判定システム。
  32. 【請求項32】 ビデオ画像データにおける第1及び第2のフレーム間の動き
    ベクトルを生成する動きベクトル判定システムにおいて、 (a)画素情報の2次元配列からなる第1のフレームにおける現在のマクロブ
    ロックを決定する現在マクロブロック決定手段と、 (b)上記現在のマクロブロックを表す少なくとも1つの統合射影配列を算出
    する統合射影配列算出手段と、 (c)上記第1のフレームにおいて、上記現在のマクロブロックと複数のマク
    ロブロックとから構成される現在のスーパーマクロブロックを決定する現在スー
    パーマクロブロック決定手段と、 (d)上記現在のスーパーマクロブロックを表す少なくとも1つの統合射影配
    列を算出する統合射影配列算出手段と、 (e)上記現在のスーパーマクロブロックと第1の検索範囲とに基づいて、上
    記第2のフレームにおける第1の検索領域を選択する第1検索領域選択手段と、 (f)変位判定基準と上記現在のスーパーマクロブロックを表す統合射影配列
    とに基づいて、上記第1の検索範囲における最良候補スーパーマクロブロックを
    判定する最良候補スーパーマクロブロック判定手段と、 (g)上記最良候補スーパーマクロブロックを複数の候補マクロブロックに分
    割する分割手段と、 (h)上記複数の候補マクロブロックと第2の検索範囲とに基づいて、上記第
    2のフレームにおける複数の第2の検索範囲を選択する第2検索範囲選択手段と
    、 (i)変位判定基準と上記現在のマクロブロックを表す統合射影配列とに基づ いて、上記第2の検索範囲における最良候補マクロブロックを判定する最良候
    補マクロブロック判定手段と、 (j)上記現在のマクロブロックと上記第1の最良候補マクロブロックとの間
    の距離を表す第1の動きベクトルを判定する第1動きベクトル判定手段とを備え
    る動きベクトル判定システム。
JP2000554131A 1998-06-09 1999-06-02 ブロック整合法及び統合投射法を用いた階層的動き評価処理及び装置 Expired - Fee Related JP4528441B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US09/093,307 US6130912A (en) 1998-06-09 1998-06-09 Hierarchical motion estimation process and system using block-matching and integral projection
US09/093,307 1998-06-09
PCT/US1999/012083 WO1999065232A1 (en) 1998-06-09 1999-06-02 Hierarchical motion estimation process and system using block-matching and integral projection

Publications (2)

Publication Number Publication Date
JP2002518897A true JP2002518897A (ja) 2002-06-25
JP4528441B2 JP4528441B2 (ja) 2010-08-18

Family

ID=22238229

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000554131A Expired - Fee Related JP4528441B2 (ja) 1998-06-09 1999-06-02 ブロック整合法及び統合投射法を用いた階層的動き評価処理及び装置

Country Status (7)

Country Link
US (1) US6130912A (ja)
EP (1) EP1086580B1 (ja)
JP (1) JP4528441B2 (ja)
KR (1) KR100659704B1 (ja)
AT (1) ATE537660T1 (ja)
AU (1) AU4225199A (ja)
WO (1) WO1999065232A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007148428A1 (ja) * 2006-06-20 2007-12-27 Nikon Corporation 画像処理方法、画像処理装置、及び画像処理プログラム
JP2011504266A (ja) * 2007-11-12 2011-02-03 クゥアルコム・インコーポレイテッド ブロックベースの画像安定化
US8885721B2 (en) 2008-07-20 2014-11-11 Dolby Laboratories Licensing Corporation Encoder optimization of stereoscopic video delivery systems
JP2016514867A (ja) * 2013-03-18 2016-05-23 フォトネーション リミテッド 動き推定の方法及び装置

Families Citing this family (70)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100301833B1 (ko) * 1998-08-20 2001-09-06 구자홍 오류은폐방법
US6735249B1 (en) 1999-08-11 2004-05-11 Nokia Corporation Apparatus, and associated method, for forming a compressed motion vector field utilizing predictive motion coding
KR100601618B1 (ko) * 1999-08-27 2006-07-14 삼성전자주식회사 계층적 움직임 추정기를 위한 최적의 데이터 공급장치 및 그방법
US6442203B1 (en) * 1999-11-05 2002-08-27 Demografx System and method for motion compensation and frame rate conversion
US6690728B1 (en) * 1999-12-28 2004-02-10 Sony Corporation Methods and apparatus for motion estimation in compressed domain
US6876703B2 (en) * 2000-05-11 2005-04-05 Ub Video Inc. Method and apparatus for video coding
CN1284372C (zh) * 2000-08-11 2006-11-08 诺基亚有限公司 用于在电信通信系统中传送视频帧的方法和设备
AU2002213713A1 (en) * 2000-10-24 2002-05-06 Eyeball Networks Inc. Dct-based scalable video compression
US6796733B2 (en) 2000-10-31 2004-09-28 International Imaging Materials Inc. Thermal transfer ribbon with frosting ink layer
US7327787B1 (en) * 2000-11-20 2008-02-05 Intel Corporation Method and apparatus for motion estimation
US6765964B1 (en) 2000-12-06 2004-07-20 Realnetworks, Inc. System and method for intracoding video data
JP4491349B2 (ja) * 2000-12-06 2010-06-30 リアルネットワークス・インコーポレイテッド ビデオ・データのイントラ符号化方法及び装置
KR100778468B1 (ko) * 2000-12-12 2007-11-21 엘지전자 주식회사 움직임 추정 최적화 방법 및 장치
US20020131500A1 (en) * 2001-02-01 2002-09-19 Gandhi Bhavan R. Method for determining a motion vector for a video signal
AU2002250278A1 (en) * 2001-03-07 2002-09-19 Pts Corporation Local constraints for motion estimation
US6782052B2 (en) 2001-03-16 2004-08-24 Sharp Laboratories Of America, Inc. Reference frame prediction and block mode prediction for fast motion searching in advanced video coding
US20030059089A1 (en) * 2001-09-25 2003-03-27 Quinlan James E. Block matching at the fractional pixel level for motion estimation
WO2003090444A2 (en) * 2002-04-15 2003-10-30 The Trustees Of Columbia University In The City Of New York Methods for selecting a subsequence of video frames from a sequence of video frames
US7386048B2 (en) * 2002-05-28 2008-06-10 Sharp Laboratories Of America, Inc. Methods and systems for image intra-prediction mode organization
US7489727B2 (en) * 2002-06-07 2009-02-10 The Trustees Of Columbia University In The City Of New York Method and device for online dynamic semantic video compression and video indexing
US7020201B2 (en) * 2002-11-20 2006-03-28 National Chiao Tung University Method and apparatus for motion estimation with all binary representation
US7170934B2 (en) * 2002-12-20 2007-01-30 Lsi Logic Corporation Method and/or apparatus for motion estimation using a hierarchical search followed by a computation split for different block sizes
FR2850827B1 (fr) * 2003-02-03 2005-11-04 Pagnac Andre Procede et dispositif de compression de parties d'images
US8131095B2 (en) * 2003-02-03 2012-03-06 Actimagine Process and device for the compression of portions of images
KR100601935B1 (ko) * 2003-12-02 2006-07-14 삼성전자주식회사 디지탈 동영상 처리 방법 및 장치
CN100385955C (zh) * 2004-08-06 2008-04-30 瑞昱半导体股份有限公司 区块式位移预测方法
US7496736B2 (en) * 2004-08-27 2009-02-24 Siamack Haghighi Method of efficient digital processing of multi-dimensional data
TWI254571B (en) * 2004-12-07 2006-05-01 Sunplus Technology Co Ltd Method for fast multiple reference frame motion estimation
US7773115B2 (en) * 2004-12-15 2010-08-10 Texas Instruments Incorporated Method and system for deblurring digital camera images using reference image and motion estimation
CN100471280C (zh) * 2005-01-07 2009-03-18 株式会社Ntt都科摩 运动图像编码及译码装置、方法
US7983341B2 (en) * 2005-02-24 2011-07-19 Ericsson Television Inc. Statistical content block matching scheme for pre-processing in encoding and transcoding
US20060198441A1 (en) * 2005-03-02 2006-09-07 Hua-Chang Chi Motion detection method for detecting motion objects in video frames generated from a video surveillance system
US20060215755A1 (en) * 2005-03-24 2006-09-28 Mediatek Incorporation Video encoding methods and systems for battery-powered apparatus
US20060256864A1 (en) * 2005-05-13 2006-11-16 Mediatek Incorporation Motion estimation methods and systems in video encoding for battery-powered appliances
US7755667B2 (en) * 2005-05-17 2010-07-13 Eastman Kodak Company Image sequence stabilization method and camera having dual path image sequence stabilization
US8284842B2 (en) 2005-07-08 2012-10-09 Activevideo Networks, Inc. Video game system using pre-encoded macro-blocks and a reference grid
US9061206B2 (en) * 2005-07-08 2015-06-23 Activevideo Networks, Inc. Video game system using pre-generated motion vectors
US8270439B2 (en) 2005-07-08 2012-09-18 Activevideo Networks, Inc. Video game system using pre-encoded digital audio mixing
US8118676B2 (en) 2005-07-08 2012-02-21 Activevideo Networks, Inc. Video game system using pre-encoded macro-blocks
US7903168B2 (en) * 2006-04-06 2011-03-08 Eastman Kodak Company Camera and method with additional evaluation image capture based on scene brightness changes
US20070237514A1 (en) * 2006-04-06 2007-10-11 Eastman Kodak Company Varying camera self-determination based on subject motion
US20070248330A1 (en) * 2006-04-06 2007-10-25 Pillman Bruce H Varying camera self-determination based on subject motion
US20080018788A1 (en) * 2006-07-20 2008-01-24 Samsung Electronics Co., Ltd. Methods and systems of deinterlacing using super resolution technology
US9826197B2 (en) 2007-01-12 2017-11-21 Activevideo Networks, Inc. Providing television broadcasts over a managed network and interactive content over an unmanaged network to a client device
EP2632164A3 (en) 2007-01-12 2014-02-26 ActiveVideo Networks, Inc. Interactive encoded content system including object models for viewing on a remote device
US8488676B2 (en) * 2007-05-14 2013-07-16 Himax Technologies Limited Motion estimation method
KR101536794B1 (ko) * 2007-12-20 2015-07-14 퀄컴 인코포레이티드 후광현상이 줄어든 영상보간 장치 및 방법
CN101946514B (zh) * 2007-12-20 2014-06-04 高通股份有限公司 使用自适应搜索范围的真实运动矢量估计
US20090207915A1 (en) * 2008-02-15 2009-08-20 Freescale Semiconductor, Inc. Scalable motion search ranges in multiple resolution motion estimation for video compression
US9654792B2 (en) 2009-07-03 2017-05-16 Intel Corporation Methods and systems for motion vector derivation at a video decoder
US8194862B2 (en) 2009-07-31 2012-06-05 Activevideo Networks, Inc. Video game system with mixing of independent pre-encoded digital audio bitstreams
US20110249889A1 (en) * 2010-04-08 2011-10-13 Sreenivas Kothandaraman Stereoscopic image pair alignment apparatus, systems and methods
US8537283B2 (en) 2010-04-15 2013-09-17 Qualcomm Incorporated High definition frame rate conversion
EP2628306B1 (en) 2010-10-14 2017-11-22 ActiveVideo Networks, Inc. Streaming digital video between video devices using a cable television system
US9204203B2 (en) 2011-04-07 2015-12-01 Activevideo Networks, Inc. Reduction of latency in video distribution networks using adaptive bit rates
WO2013030435A1 (en) * 2011-08-29 2013-03-07 Nokia Corporation Method and apparatus for feature computation and object detection utilizing temporal redundancy between video frames
US10409445B2 (en) 2012-01-09 2019-09-10 Activevideo Networks, Inc. Rendering of an interactive lean-backward user interface on a television
US9800945B2 (en) 2012-04-03 2017-10-24 Activevideo Networks, Inc. Class-based intelligent multiplexing over unmanaged networks
US9123084B2 (en) 2012-04-12 2015-09-01 Activevideo Networks, Inc. Graphical application integration with MPEG objects
KR101932916B1 (ko) 2012-06-28 2018-12-27 삼성전자 주식회사 모션 추정 시스템 및 그 방법, 디스플레이 컨트롤러, 및 전자 장치
WO2014145921A1 (en) 2013-03-15 2014-09-18 Activevideo Networks, Inc. A multiple-mode system and method for providing user selectable video content
US9219922B2 (en) 2013-06-06 2015-12-22 Activevideo Networks, Inc. System and method for exploiting scene graph information in construction of an encoded video sequence
EP3005712A1 (en) 2013-06-06 2016-04-13 ActiveVideo Networks, Inc. Overlay rendering of user interface onto source video
US9294785B2 (en) 2013-06-06 2016-03-22 Activevideo Networks, Inc. System and method for exploiting scene graph information in construction of an encoded video sequence
US9788029B2 (en) 2014-04-25 2017-10-10 Activevideo Networks, Inc. Intelligent multiplexing using class-based, multi-dimensioned decision logic for managed networks
EP3311364B1 (en) 2015-09-30 2018-12-26 FotoNation Limited A method and system for tracking an object
US9756248B1 (en) 2016-03-02 2017-09-05 Conduent Business Services, Llc Methods and systems for camera drift correction
US20170332094A1 (en) * 2016-05-16 2017-11-16 Google Inc. Super-wide area motion estimation for video coding
US10511846B1 (en) * 2016-09-01 2019-12-17 Google Llc Real-time adaptive video denoiser with moving object detection
US10097757B1 (en) 2017-03-24 2018-10-09 Fotonation Limited Method for determining bias in an inertial measurement unit of an image acquisition device

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06205403A (ja) * 1992-10-07 1994-07-22 Daewoo Electron Co Ltd インテグラルプロゼクションを利用した動きベクター検出方法
JPH08223578A (ja) * 1995-02-13 1996-08-30 Nippon Telegr & Teleph Corp <Ntt> 動きベクトル探索方法および装置
JPH09224249A (ja) * 1996-02-15 1997-08-26 Nippon Hoso Kyokai <Nhk> 動きベクトル検出装置
JPH10191347A (ja) * 1996-12-27 1998-07-21 Casio Comput Co Ltd 動き検出装置、動き検出方法、及び、記憶媒体

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5710603A (en) * 1992-10-07 1998-01-20 Daewoo Electronics Co., Ltd. Method for detecting motion vectors
JP3277418B2 (ja) * 1993-09-09 2002-04-22 ソニー株式会社 動きベクトル検出装置および方法
DE4342305A1 (de) * 1993-12-11 1995-06-29 Thomson Brandt Gmbh Verfahren zur hierarchischen Bewegungsschätzung in einem Fernsehsignal
US5706059A (en) * 1994-11-30 1998-01-06 National Semiconductor Corp. Motion estimation using a hierarchical search
JP2853616B2 (ja) * 1995-07-07 1999-02-03 日本電気株式会社 動き検出方式
US5699129A (en) * 1995-10-17 1997-12-16 Zapex Technologies, Inc. Method and apparatus for motion vector determination range expansion
US5719642A (en) * 1996-05-07 1998-02-17 National Science Council Of R.O.C. Full-search block matching motion estimation processor
US5721595A (en) * 1996-06-19 1998-02-24 United Microelectronics Corporation Motion estimation block matching process and apparatus for video image processing

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06205403A (ja) * 1992-10-07 1994-07-22 Daewoo Electron Co Ltd インテグラルプロゼクションを利用した動きベクター検出方法
JPH08223578A (ja) * 1995-02-13 1996-08-30 Nippon Telegr & Teleph Corp <Ntt> 動きベクトル探索方法および装置
JPH09224249A (ja) * 1996-02-15 1997-08-26 Nippon Hoso Kyokai <Nhk> 動きベクトル検出装置
JPH10191347A (ja) * 1996-12-27 1998-07-21 Casio Comput Co Ltd 動き検出装置、動き検出方法、及び、記憶媒体

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007148428A1 (ja) * 2006-06-20 2007-12-27 Nikon Corporation 画像処理方法、画像処理装置、及び画像処理プログラム
JP5018775B2 (ja) * 2006-06-20 2012-09-05 株式会社ニコン 画像処理方法、画像処理装置、及び画像処理プログラム
US8379996B2 (en) 2006-06-20 2013-02-19 Nikon Corporation Image processing method using motion vectors, image processing device using motion vectors, and image processing program using motion vectors
JP2011504266A (ja) * 2007-11-12 2011-02-03 クゥアルコム・インコーポレイテッド ブロックベースの画像安定化
US8885721B2 (en) 2008-07-20 2014-11-11 Dolby Laboratories Licensing Corporation Encoder optimization of stereoscopic video delivery systems
JP2016514867A (ja) * 2013-03-18 2016-05-23 フォトネーション リミテッド 動き推定の方法及び装置

Also Published As

Publication number Publication date
EP1086580A1 (en) 2001-03-28
WO1999065232A1 (en) 1999-12-16
ATE537660T1 (de) 2011-12-15
JP4528441B2 (ja) 2010-08-18
KR20010052644A (ko) 2001-06-25
EP1086580A4 (en) 2008-10-22
AU4225199A (en) 1999-12-30
KR100659704B1 (ko) 2006-12-21
US6130912A (en) 2000-10-10
EP1086580B1 (en) 2011-12-14

Similar Documents

Publication Publication Date Title
JP4528441B2 (ja) ブロック整合法及び統合投射法を用いた階層的動き評価処理及び装置
JP4002396B2 (ja) 動きベクトル決定方法及び装置
EP1262073B1 (en) Methods and apparatus for motion estimation using neighboring macroblocks
US6483876B1 (en) Methods and apparatus for reduction of prediction modes in motion estimation
EP1389016B1 (en) Improved motion estimation and block matching pattern
US5818969A (en) Intelligent start for motion estimation search
JP2928708B2 (ja) 運動ベクター検出方法および装置
US6501794B1 (en) System and related methods for analyzing compressed media content
US6430317B1 (en) Method and apparatus for estimating motion using block features obtained from an M-ary pyramid
US6690728B1 (en) Methods and apparatus for motion estimation in compressed domain
JP2003528500A (ja) 動き推定アルゴリズム
JPH09179987A (ja) 動きベクトル検出方法及び動きベクトル検出装置
JP2000050281A (ja) 動きベクトル検出方法および装置、記録媒体
JP2005229600A (ja) 重畳されたブロック基盤の動き推定による動き補償補間方法及びそれを適用したフレームレート変換装置
US9008450B1 (en) Directional cross hair search system and method for determining a preferred motion vector
US8073054B2 (en) Unit for and method of estimating a current motion vector
EP0825778A2 (en) Method for motion estimation
US6909748B2 (en) Method and system for image compression using block size heuristics
US7773673B2 (en) Method and apparatus for motion estimation using adaptive search pattern for video sequence compression
EP0973336A2 (en) Motion vector detecting, picture encoding and recording method and apparatus
JP2004518199A (ja) コーディング
JPH09261661A (ja) 2つの基準ピクチャから双方向コード化ピクチャを形成するための方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060419

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20080605

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20080605

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080626

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090615

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090915

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090925

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20091015

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091021

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20091022

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20091124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100324

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20100413

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100510

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100607

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130611

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees