JP2011151509A - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP2011151509A JP2011151509A JP2010009609A JP2010009609A JP2011151509A JP 2011151509 A JP2011151509 A JP 2011151509A JP 2010009609 A JP2010009609 A JP 2010009609A JP 2010009609 A JP2010009609 A JP 2010009609A JP 2011151509 A JP2011151509 A JP 2011151509A
- Authority
- JP
- Japan
- Prior art keywords
- motion vector
- search range
- block
- image data
- range window
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【解決手段】動きベクトル検出手段1〜10が、処理対象の画像が分割されて生成された複数のブロックの各々毎に、参照画像に設定された探索範囲窓に含まれるブロックの中から最も類似するブロックを探索して、当該探索結果に基づいて動きベクトルを検出する。探索範囲窓設定手段11〜13が、動きベクトルを検出する対象となるブロックに対して、それより前段に位置するブロックについて検出された動きベクトルに基づいて、予測される動き方向のブロックを探索範囲窓内に確保するように予め設定された規定に従って、動きベクトル検出手段により使用される探索範囲窓を設定する。
【選択図】 図1
Description
ここで、SAD値は、画素値差分の絶対和である。
本例の動画像符号化装置は、フレーム内予測画像生成部101、フレーム間予測画像生成部102、予測画像選択部103、符号化部104を備えている。
符号化対象となる画像データがフレーム内予測画像生成部101、フレーム間予測画像生成部102、符号化部104に入力される。
フレーム内予測画像生成部101がフレーム内予測画像を生成するとともに、フレーム間予測画像生成部102がフレーム間予測画像を生成する。生成した両予測画像から、予測画像選択部103が、符号化した際の発生符号量が少なくなるように予測画像を選択する。符号化部104では、選択された予測画像と予測対象画像である入力画像データとの差分がとられ、可変長符号化処理が施される。これにより、符号化データが生成される。
本例のフレ一ム間予測画像生成部102は、フレーム単位で保持する入力画像データ保持メモリ111、予測対象ブロック分割部112、MB(マクロブロック)単位で保持する予測対象ブロックデータ保持メモリ113、参照画像データ保持メモリ114、MBL(マクロブロックレイヤ)単位で保持するラインメモリ(キャッシュ)115、数十のMB単位で保持する探索範囲画像データ保持メモリ116、動きベクトル検出部117、動き補償部118、符号化部119、局所復号化部120を備えている。
なお、概略的には、本例の動作は、後述する実施例に係る図1に示される構成で追加されている処理部11〜13により改良される点を除いては、図1に示される構成の動作と同様である。
動きベクトル検出部117では、図6に示されるように、ある入力画像データ上のブロック(本例では、マクロブロック)131に対して最も類似する(つまり、SAD値が最小となる)参照画像データ上のブロック(本例では、マクロブロック)132を検出し、入力画像データのブロックに対する参照画像データのブロックの移動方向及び移動量を表すベクトルを動きベクトル133として検出する。
図6には、動きベクトルの一例を示してある。
このような場合、従来方式では、例えば、図7(a)、(b)、(c)に示されるように、M×N画素(M、Nはそれぞれ整数値)の予測対象ブロック142、152、162付近の固定領域143、153、163を動きベクトルの探索範囲窓として設定して、動きベクトルの検出が行われる。
図8(a)には、M×N画素の予測対象ブロック171が上方向に大きく動く場合の例を示してあり、また、図8(b)には、M×N画素の予測対象ブロック181が下方向に大きく動く場合の例を示してある。
すなわち、動きベクトル検出手段が、処理対象の画像が分割されて生成された複数のブロックの各々毎に、参照画像に設定された探索範囲窓に含まれるブロックの中から最も類似するブロックを探索して、当該探索結果に基づいて動きベクトルを検出する。
探索範囲窓設定手段が、前記動きベクトル検出手段により動きベクトルを検出する対象となるブロックに対して、それより前段に位置するブロックについて前記動きベクトル検出手段により検出された動きベクトルに基づいて、予測される動き方向のブロックを前記探索範囲窓内に確保するように予め設定された規定に従って、前記動きベクトル検出手段により使用される前記探索範囲窓を設定する。
また、処理対象の画像としては、種々なものが用いられてもよく、例えば、動画像のフレーム毎の画像を用いることができる。
また、参照画像としては、種々なものが用いられてもよく、例えば、処理対象の画像に比べて、過去のフレームの画像などを用いることができる。
また、探索範囲窓としては、種々なものが用いられてもよく、例えば、動きベクトルを検出する対象となるブロックを含んで、そのブロックから見て、縦横のそれぞれに所定数(端数があってもよい)のブロックを有して、全体として複数(端数があってもよい)のブロックからなる矩形領域などを用いることができる(例えば、図3参照。)。
また、複数のブロックの各々毎に動きベクトルを検出する態様としては、例えば、全てのブロックについて動きベクトルを検出する態様が用いられてもよく、或いは、一部のブロック(のみ)について動きベクトルを検出する態様が用いられてもよい。
また、あるブロックに最も類似するブロックを探索する態様としては、例えば、当該あるブロックと他のブロックの各々についてSAD値を算出して、SAD値が最小となった他のブロックを最も類似するブロックとして検出する態様を用いることができる。
また、動きベクトルを検出する対象となるブロックより前段に位置するブロックについて検出される動きベクトルとしては、例えば、複数のブロックについての平均値が用いられてもよい。
また、動きベクトルを検出する対象となるブロックより前段に位置するブロックについて検出される動きベクトルや、予測される動き方向としては、例えば、所定の方向の成分(のみ)が用いられてもよく、一例として、探索範囲窓の更新方向の成分(のみ)を用いることができる(例えば、図3参照。)。
なお、この規定は、予測される動き方向のブロックを(何もしないよりは)探索範囲窓内に確保するように予め(考えられて)設定されるものであるが、実際には必ずしもそれが実現されない場合があってもよい。
図1には、本発明の一実施例に係るフレ一ム間予測画像生成部の構成例を示してある。
ここで、本例のフレ一ム間予測画像生成部は、例えば、図4に示されるような動画像符号化装置のフレ一ム間予測画像生成部102などに適用される。なお、本例では、図4に示される符号化部104と同様な機能を有する符号化部9をフレ一ム間予測画像生成部に備えた場合を示してある。
また、本例では、動画像符号化装置がH.264符号化方式で符号化を行う場合について説明するが、符号化方式としては、本例に限定されず、種々なものが用いられてもよい。
外部から入力された画像データが入力画像データ保持メモリ1及び符号化部9に入力される。
入力画像データ保持メモリ1では、入力された入力画像データがフレーム単位で書き込まれて保持(記憶)される。
予測対象ブロック分割部2は、入力画像データ保持メモリ1に書き込まれた入力画像データを入力して、入力した入力画像データを縦横に切り出して、M×N画素の予測対象ブロック(MB単位)に分割する。
予測対象ブロックデータ保持メモリ3では、分割されたM×N画素の予測対象ブロックのデータが格納されて保持される。
ここで、ラインメモリ5は、参照画像データ保持メモリ4と探索範囲画像データ保持メモリ6との間に位置しており、キャッシュメモリの役割を有している。
動き補償部8は、動きベクトル検出部7から入力された動きベクトルに応じて、動きベクトルに基づいて補償ブロック(動き補償ブロック)を特定し、特定した補償ブロックのデータを探索範囲画像データ保持メモリ6から読み出して、補償ブロックに基づいてフレーム間予測画像データを生成して符号化部9へ出力する。
ここで、補償ブロックについては、M×N画素の予測対象ブロックの動きベクトルを探索範囲画像データ内で探索して、得られた動きベクトルで特定されるブロックを補償ブロックとする。
生成された符号化データは、外部へ出力されるとともに、局所復号化部10に送られて入力される。
参照画像データ保持メモリ4に書き込まれたデータは、必要に応じて適宜、ラインメモリ5へ転送される。
ライン平均動きベクトル算出部12は、ライン動きベクトル保持メモリ11に保持された1スライス分の動きベクトルに基づいて、1スライス分の動きベクトルの平均(平均動きベクトル)を算出して参照画像データ管理部13へ出力する。
本例では、参照画像データ管理部13は、平均動きベクトルに基づいて、M×N画素の予測対象ブロックの動きベクトルを予測し、当該予測の結果に基づいて参照画像データ中で設定する動きベクトル探索範囲窓を適応的に制御する。これにより、保持する参照画像データをM×N画素の予測対象ブロックに対して適応制御する。
まず、入力画像データを入力画像データ保持メモリ1に取り込む(ステップS1)。
次に、予測対象ブロック分割部2が、入力画像データ保持メモリ1に書き込まれているデータを、先頭からMB単位で切り出して、これにより得られたM×N画素の予測対象ブロックのデータを予測対象ブロックデータ保持メモリ3に書き込む(ステップS2)。
ステップS3の評価の結果、真であると判定した場合には、予測対象ブロックに対して固定領域の探索範囲窓(動きベクトルの探索範囲窓)を設定して(ステップS4)、設定された探索範囲内で動きベクトル探索を実行する(ステップS5)。
ステップS7の評価の結果、真であると判定した場合には、適応的に探索範囲窓を設定して(ステップS8)、設定された探索範囲内で動きベクトル探索を実行する(ステップS9)。
ステップS6のチェックの結果、真であると判定した場合には、動きベクトル探索処理を終了する。
一方、ステップS6のチェックの結果、偽であると判定した場合には、次の予測対象ブロックの処理へ移る(ステップS2の処理へ戻る)。
また、本例では、ステップS5、ステップS9、ステップS11の処理のように、動きベクトルを探索(検出)する処理は、動きベクトル検出部7により行われる。
図3には、M×N画素の予測対象ブロックとラインメモリ保持領域との関係の例を示してある。
本例では、1フレームの縦ブロック数が34であり、探索範囲窓の縦ブロック数が5である場合を例として説明する。また、本例では、スライス番号が0、1、2、・・・と割り振られるとする。
従って、本例では、適応的な探索範囲窓の設定処理が実行されるのは、予測対象ブロックのスライス番号が3から31の間においてである。
図3(a)に示されるように、3スライス目の動きベクトル探索時には、2スライス目の各予測対象ブロックの動きベクトルがライン動きベクトル保持メモリ11に保持されている。
図3(a)には、ラインメモリ5の保持領域21、予測対象ブロック22、動きベクトル探索範囲窓23、1MBL分の動きベクトル24を示してある。
本例では、ライン平均動きベクトル算出部12が、(式1)により、前段のスライス目(ここの例では、2スライス目)の動きベクトルのY方向の成分Ynを平均化したY方向平均値(平均動きベクトル)Yaveを算出する。(式1)において、mは1スライス(本例では、1MBL分)の総ブロック数である。
これに対して閾値(例えば、−16、16)を設定し、参照画像データ管理部13が、閾値とY方向平均値Yaveとを比較する。この比較結果に基づいて、参照画像データ管理部13が、ラインメモリ5が保持するデータの更新頻度を制御することにより、動きベクトル探索範囲窓の更新量(スライス番号を増加させる方向でずらしていく量)を適応制御する。
(制御1)Y方向平均値Yaveが16より大きい場合には、図3(b)に示されるように、ラインメモリ5が保持するデータを更新しない。
(制御2)Y方向平均値Yaveが−16以上で16以下である場合には、図3(c)に示されるように、ラインメモリ5が保持するデータを1スライス分更新する。
(制御3)Y方向平均値Yaveが−16より小さい場合には、図3(d)に示されるように、ラインメモリ5が保持するデータを2スライス分更新する。
以降のスライス(ここの例では、4スライス目以降)についても、同様に、Y方向平均値Yaveを求めて、閾値との比較結果に基づいて、ラインメモリ5が保持するデータを制御する。
本例は、動画などの画像データを符号化する際に好適な技術であり、例えば、動画像などの符号化装置、動きベクトル検出装置、フレーム間符号化装置など、種々なものに適用することが可能である。
また、本発明の適用分野としては、必ずしも以上に示したものに限られず、本発明は、種々な分野に適用することが可能なものである。
また、本発明に係るシステムや装置などにおいて行われる各種の処理としては、例えばプロセッサやメモリ等を備えたハードウエア資源においてプロセッサがROM(Read Only Memory)に格納された制御プログラムを実行することにより制御される構成が用いられてもよく、また、例えば当該処理を実行するための各機能手段が独立したハードウエア回路として構成されてもよい。
また、本発明は上記の制御プログラムを格納したフロッピー(登録商標)ディスクやCD(Compact Disc)−ROM等のコンピュータにより読み取り可能な記録媒体や当該プログラム(自体)として把握することもでき、当該制御プログラムを当該記録媒体からコンピュータに入力してプロセッサに実行させることにより、本発明に係る処理を遂行させることができる。
21、31、41、51、141、151、161・・ラインメモリの保持領域、 22、32、42、52、142、152、162、171、181・・予測対象ブロック、 23、33、43、53、143、153、163・・動きベクトル探索範囲窓、 24・・1MBL分の動きベクトル、
101・・フレーム内予測画像生成部、 102・・フレーム間予測画像生成部、 103・・予測画像選択部、
131、132・・ブロック、 133・・動きベクトル、
172、182・・小さいSAD値を与える領域、
Claims (1)
- 画像処理装置において、
処理対象の画像が分割されて生成された複数のブロックの各々毎に、参照画像に設定された探索範囲窓に含まれるブロックの中から最も類似するブロックを探索して、当該探索結果に基づいて動きベクトルを検出する動きベクトル検出手段と、
前記動きベクトル検出手段により動きベクトルを検出する対象となるブロックに対して、それより前段に位置するブロックについて前記動きベクトル検出手段により検出された動きベクトルに基づいて、予測される動き方向のブロックを前記探索範囲窓内に確保するように予め設定された規定に従って、前記動きベクトル検出手段により使用される前記探索範囲窓を設定する探索範囲窓設定手段と、
を備えたことを特徴とする画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010009609A JP5299820B2 (ja) | 2010-01-20 | 2010-01-20 | 画像処理装置及び動画像符号化装置。 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010009609A JP5299820B2 (ja) | 2010-01-20 | 2010-01-20 | 画像処理装置及び動画像符号化装置。 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2011151509A true JP2011151509A (ja) | 2011-08-04 |
JP2011151509A5 JP2011151509A5 (ja) | 2013-02-14 |
JP5299820B2 JP5299820B2 (ja) | 2013-09-25 |
Family
ID=44538124
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010009609A Active JP5299820B2 (ja) | 2010-01-20 | 2010-01-20 | 画像処理装置及び動画像符号化装置。 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5299820B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013157681A (ja) * | 2012-01-27 | 2013-08-15 | Fujitsu Semiconductor Ltd | 動画像復号装置及び動画像復号方法 |
WO2020149159A1 (ja) * | 2019-01-15 | 2020-07-23 | 日本電信電話株式会社 | 参照領域決定装置及びプログラム |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05328333A (ja) * | 1992-05-15 | 1993-12-10 | Toshiba Corp | 動きベクトル検出装置 |
JPH10336666A (ja) * | 1997-05-28 | 1998-12-18 | Nec Corp | 動きベクトル検出装置 |
JP2004048512A (ja) * | 2002-07-12 | 2004-02-12 | Renesas Technology Corp | 動画像符号化方法と動画像符号化回路 |
WO2005036887A1 (ja) * | 2003-10-14 | 2005-04-21 | Nec Corporation | 動きベクトル探索方法、動きベクトル探索装置および動きベクトル探索プログラム |
WO2008136178A1 (ja) * | 2007-04-26 | 2008-11-13 | Panasonic Corporation | 動き検出装置、動き検出方法、及び動き検出プログラム |
JP2009021864A (ja) * | 2007-07-12 | 2009-01-29 | Canon Inc | 動きベクトル探索装置 |
-
2010
- 2010-01-20 JP JP2010009609A patent/JP5299820B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05328333A (ja) * | 1992-05-15 | 1993-12-10 | Toshiba Corp | 動きベクトル検出装置 |
JPH10336666A (ja) * | 1997-05-28 | 1998-12-18 | Nec Corp | 動きベクトル検出装置 |
JP2004048512A (ja) * | 2002-07-12 | 2004-02-12 | Renesas Technology Corp | 動画像符号化方法と動画像符号化回路 |
WO2005036887A1 (ja) * | 2003-10-14 | 2005-04-21 | Nec Corporation | 動きベクトル探索方法、動きベクトル探索装置および動きベクトル探索プログラム |
WO2008136178A1 (ja) * | 2007-04-26 | 2008-11-13 | Panasonic Corporation | 動き検出装置、動き検出方法、及び動き検出プログラム |
JP2009021864A (ja) * | 2007-07-12 | 2009-01-29 | Canon Inc | 動きベクトル探索装置 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013157681A (ja) * | 2012-01-27 | 2013-08-15 | Fujitsu Semiconductor Ltd | 動画像復号装置及び動画像復号方法 |
WO2020149159A1 (ja) * | 2019-01-15 | 2020-07-23 | 日本電信電話株式会社 | 参照領域決定装置及びプログラム |
JP2020113934A (ja) * | 2019-01-15 | 2020-07-27 | 日本電信電話株式会社 | 参照領域決定装置及びプログラム |
US20220124350A1 (en) * | 2019-01-15 | 2022-04-21 | Nippon Telegraph And Telephone Corporation | Reference region determination apparatus and program |
JP7201906B2 (ja) | 2019-01-15 | 2023-01-11 | 日本電信電話株式会社 | 参照領域決定装置及びプログラム |
US11930188B2 (en) * | 2019-01-15 | 2024-03-12 | Nippon Telegraph And Telephone Corporation | Reference region determination apparatus and program |
Also Published As
Publication number | Publication date |
---|---|
JP5299820B2 (ja) | 2013-09-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
AU2011353904B2 (en) | Predictive encoding method, predictive encoding device, and predictive encoding program of motion vector, and, predictive decoding method, predictive decoding device, and predictive decoding program of motion vector | |
US20110013697A1 (en) | Motion vector prediction method, and apparatus and method for encoding and decoding image using the same | |
TW201215161A (en) | Image prediction encoding device, image prediction encoding method, image prediction encoding program, image prediction decoding device, image prediction decoding method, and image prediction decoding program | |
KR20130119465A (ko) | 블록 기반의 샘플링 코딩 시스템 | |
JP2011029863A (ja) | 復号化処理方法 | |
Liu et al. | H. 264/AVC video error concealment algorithm by employing motion vector recovery under cloud computing environment | |
JP2008219141A (ja) | 動きベクトル検出装置、それを用いた画像符号化装置および撮像装置 | |
US10051281B2 (en) | Video coding system with efficient processing of zooming transitions in video | |
JP2003143609A (ja) | 画像処理装置、画像処理方法、記録媒体及びプログラム | |
JP5299820B2 (ja) | 画像処理装置及び動画像符号化装置。 | |
Pan et al. | Predictive and distribution-oriented fast motion estimation for H. 264/AVC | |
KR20150060730A (ko) | 인터-이미지 예측 방법과 디바이스 및 대응하는 인코딩 방법과 디바이스 | |
JP2015111774A (ja) | 映像符号化装置及び映像符号化プログラム | |
JP2007110409A (ja) | 画像処理装置及び画像処理方法をコンピュータに実行させるためのプログラム | |
JP5281597B2 (ja) | 動きベクトル予測方法,動きベクトル予測装置および動きベクトル予測プログラム | |
JP5173946B2 (ja) | 符号化前処理装置、符号化装置、復号装置及びプログラム | |
JP2006254347A (ja) | 画像符号化装置 | |
JP2006033433A (ja) | 動き推定方法及び動き推定装置、並びにプログラム | |
JP2019057886A (ja) | 符号化装置、符号化方法及びプログラム | |
JP2007243391A (ja) | 動画像符号化装置 | |
JP2018125698A (ja) | 符号化処理装置、符号化処理方法、符号化処理プログラム、復号処理装置、復号処理方法、復号処理プログラム、および符号化復号処理方法 | |
JP4003149B2 (ja) | 画像符号化装置及びその方法 | |
AU2017202476B2 (en) | Predictive encoding method, predictive encoding device, and predictive encoding program of motion vector, and, predictive decoding method, predictive decoding device, and predictive decoding program of motion vector | |
JP2008072608A (ja) | 画像符号化装置及び画像符号化方法 | |
Kulkarni et al. | A Two-Step Methodology for Minimization of Computational Overhead on Full Search Block Motion Estimation. |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20110620 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121221 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20121221 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130514 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130521 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130607 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5299820 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |