JP2015226199A - 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム - Google Patents
動画像符号化装置、動画像符号化方法及び動画像符号化プログラム Download PDFInfo
- Publication number
- JP2015226199A JP2015226199A JP2014110040A JP2014110040A JP2015226199A JP 2015226199 A JP2015226199 A JP 2015226199A JP 2014110040 A JP2014110040 A JP 2014110040A JP 2014110040 A JP2014110040 A JP 2014110040A JP 2015226199 A JP2015226199 A JP 2015226199A
- Authority
- JP
- Japan
- Prior art keywords
- image
- motion vector
- reduced
- prefetch
- prefetch method
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【課題】異なるプリフェッチ方式を併用した場合に、外部メモリへのアクセス量とメモリ容量とを適正化できる動画像符号化装置を提供する。
【解決手段】原画像と原画像の動きベクトルを検出する際に参照される複数の参照画像のそれぞれを縮小した縮小画像及び複数の縮小参照画像を利用して、原画像の動きベクトルを階層的に検出する動画像符号化装置100であって、縮小画像及び縮小参照画像に基づいて、縮小画像の動きベクトルを検出する縮小動きベクトル検出部102と、前記検出手段の出力である縮小画像の動きベクトルに基づいて、前記参照画像毎のプリフェッチ方式を決定するプリフェッチ方式決定部103と、を有する。
【選択図】図1
【解決手段】原画像と原画像の動きベクトルを検出する際に参照される複数の参照画像のそれぞれを縮小した縮小画像及び複数の縮小参照画像を利用して、原画像の動きベクトルを階層的に検出する動画像符号化装置100であって、縮小画像及び縮小参照画像に基づいて、縮小画像の動きベクトルを検出する縮小動きベクトル検出部102と、前記検出手段の出力である縮小画像の動きベクトルに基づいて、前記参照画像毎のプリフェッチ方式を決定するプリフェッチ方式決定部103と、を有する。
【選択図】図1
Description
本件は、動画像符号化装置、動画像符号化方法及び動画像符号化プログラムに関する。
動画像の圧縮符号化方式として、フレーム間予測を利用して情報量圧縮を行う技術が一般化している。このような技術は、例えばMoving Picture Experts Group-2(MPEG−2),MPEG−4,H.264/Advanced Video Coding(H.264/AVC)等で使用されている。最新の動画圧縮の規格としてはH.265/High Efficiency Video Coding(H.265/HEVC)が規格化された。H.265/HEVCは、次世代のテレビとして予定されているUltra High Definition Television(UHDTV:超高解像度テレビ)に利用される事が想定されている。UHDTVでは4K2K(例えば4,096×2,160画素または3,840×2,160画素)や8K4K(例えば8,192×4,096画素)といった超高解像度画像が取り扱われる。
フレーム間予測を用いるためには、各符号化対象ブロックに対して、それぞれ動きベクトルを検出する。動きベクトル検出では、符号化対象ブロックごとに、複数の参照画像の中から、最も類似するブロック(以下、候補ブロックという)を網羅的に探索する。動きベクトル検出は大きな探索範囲(参照画像の一部分を切り出した一部領域)に対して、また、多くの参照画像に対して行ったほうが、より類似した候補ブロックを見つけ出す機会を増やすために望ましい。一方で、探索範囲を大きくしたり、参照画像の数を増やしたりするほど、符号化対象ブロックと候補ブロックとの類似度を演算する回数(演算量)が増加するため、参照画像を取得するための外部メモリへのアクセス量が増加する。つまり、適切な動きベクトルを検出することと、演算量・外部メモリへのアクセス量はトレードオフの関係にある。探索範囲を大きくとりながら、演算量と外部メモリへのアクセス量とを削減することが望ましい。
ここで、動きベクトル検出の演算量と外部メモリへのアクセス量を削減する技術として、階層的に動きベクトルを検出する技術が知られている。この技術では、例えば、フレームの画素を間引いて生成した縮小画像を用いて縮小動きベクトルを検出し、検出した縮小動きベクトルを拡大したベクトルを中心にした狭い探索範囲で動きベクトルを検出する。
また、隣接する符号化対象ブロックにおいて、動きベクトル検出で使用する探索範囲の多くの部分が重なるという特徴から、外部メモリへのアクセス量を低減するために、重複する探索範囲を内包する領域を保持しておくプリフェッチメモリが知られている(例えば特許文献1参照)。プリフェッチメモリには、一般的にStatic Random Access Memory(SRAM)が利用される。プリフェッチメモリにおける保持方式には、参照画像の一部領域を帯状の形で保持する方式が知られている(例えば特許文献2参照)。対照的に、参照画像の一部領域を箱状の形で保持する方式も知られている。尚、以下の説明では、前者の方式を帯形プリフェッチ方式といい、後者の方式を箱形プリフェッチ方式と呼ぶ。
ところで、帯形プリフェッチ方式を実現する場合、概ねフレームの横方向の画素数に縦方向の保持範囲(プリフェッチ範囲)を乗じた分のメモリ容量が要求される。近年、画像の高解像度が進んでいるため、帯形プリフェッチ方式を実現するSRAMの面積は、動画像を符号化する符号化LSIの面積の大部分を占有するほどに大きくなりつつあり、符号化LSIのダイサイズにも多大な影響を与えるほどになっている。著しくダイサイズの大きいLSIは、例えば製造時の歩留まりなどから経済的に量産することが難しい。
一方、箱形プリフェッチ方式を実現する場合、例えば縦方向の保持範囲を帯形プリフェッチ方式と同じ範囲にすれば、SRAMの面積は帯形プリフェッチ方式における面積ほど要求されない。このため、符号化LSIを量産可能な大きさにすることができる。ところが、箱形プリフェッチ方式の場合、外部メモリへのアクセス量が帯形プリフェッチ方式と比べて増加する。例えば、箱形プリフェッチ方式の場合、参照画像上の同じ領域を繰り返して取得するため、外部メモリへのアクセス量が帯形プリフェッチ方式と比べて結果的に増加する。
ここで、量産が要求されない製品(例えば業務用放送機器)であれば、帯形プリフェッチ方式のプリフェッチメモリを採用すればよい。逆に、量産が要求される製品(例えばデジタルビデオカメラといった一般消費者用機器)であれば、箱形プリフェッチ方式のプリフェッチメモリを採用すればよい。しかしながら、製品によっては、帯形プリフェッチ方式のプリフェッチメモリと箱形プリフェッチ方式のプリフェッチメモリを併用し、製品に適したメモリシステムの構築が求められる場合もある。この場合、外部メモリへのアクセス量とSRAMの面積、すなわちメモリ容量を適切に調整することが要求される。
そこで、1つの側面では、本件は、異なるプリフェッチ方式を併用した場合に、外部メモリへのアクセス量とメモリ容量とを適正化できる動画像符号化装置、動画像符号化方法及び動画像符号化プログラムを提供することを目的とする。
本明細書に開示の動画像符号化装置は、原画像と前記原画像の動きベクトルを検出する際に参照される複数の参照画像のそれぞれを縮小した縮小画像及び複数の縮小参照画像を利用して、前記原画像の動きベクトルを階層的に検出する動画像符号化装置であって、前記縮小画像及び前記縮小参照画像に基づいて、前記縮小画像の動きベクトルを検出する検出手段と、前記検出手段の出力である縮小画像の動きベクトルに基づいて、前記参照画像毎のプリフェッチ方式を決定する決定手段と、を有する動画像符号化装置である。
本明細書に開示の動画像符号化方法は、原画像と前記原画像の動きベクトルを検出する際に参照される複数の参照画像のそれぞれを縮小した縮小画像及び複数の縮小参照画像を利用して、前記原画像の動きベクトルを階層的に検出する動画像符号化方法であって、前記縮小画像及び前記縮小参照画像に基づいて、前記縮小画像の動きベクトルを検出し、前記検出の出力である縮小画像の動きベクトルに基づいて、前記参照画像毎のプリフェッチ方式を決定する、処理を実行する動画像符号化方法である。
本明細書に開示の動画像符号化プログラムは、原画像と前記原画像の動きベクトルを検出する際に参照される複数の参照画像のそれぞれを縮小した縮小画像及び複数の縮小参照画像を利用して、前記原画像の動きベクトルを階層的に検出する動画像符号化プログラムであって、前記縮小画像及び前記縮小参照画像に基づいて、前記縮小画像の動きベクトルを検出し、前記検出の結果である縮小画像の動きベクトルに基づいて、前記参照画像毎のプリフェッチ方式を決定する、処理をコンピュータに実行させる動画像符号化プログラムである。
本明細書に開示の動画像符号化装置、動画像符号化方法及び動画像符号化プログラムによれば、異なるプリフェッチ方式を併用した場合に、メモリ容量と外部メモリへのアクセス量を適正化できる。
以下、本件を実施するための形態について図面を参照して説明する。
図1は、動画像符号化装置100と外部メモリ200のブロック図の一例である。図2は、帯形プリフェッチ方式の一例を説明するための図である。図3は、箱形プリフェッチ方式の一例を説明するための図である。
動画像符号化装置100は、図1に示すように、縮小画生成部101、縮小動きベクトル検出部(縮小ME)102及びプリフェッチ方式決定部103を有する。また、動画像符号化装置100は、帯形プリフェッチメモリ104、箱形プリフェッチメモリ105、減算部106、直交変換・量子化部(T・Q)107、逆直交変換・逆量子化部(IT・IQ)108、加算部109.フレーム内予測モード決定部110、フレーム内予測部111、ループ内フィルタ部112、等倍動きベクトル検出部(等倍ME)113、フレーム間予測部114、エントロピー符号化部115及びスイッチSWを有する。尚、動画像符号化装置100は例えばハードウェア回路を含むLarge Scale Integration(LSI)で実現される。
図1において、帯形プリフェッチメモリ104と箱形プリフェッチメモリ105は物理的に分かれて示されているが、例えば、1つのプリフェッチメモリの内部で一部を帯形プリフェッチメモリ104として機能させ、残りを箱形プリフェッチメモリ105と機能させるようにしてもよい。
外部メモリ200は、縮小画メモリ201、原画メモリ202及び参照画像メモリ203を含んでいる。外部メモリ200は例えばフレームメモリと呼ばれる。動画像符号化装置100に入力された原画像フレーム(以下、単に原画像という)は原画メモリ202に記憶される。尚、縮小画生成部101と参照画像メモリ203とのパスは便宜上省略されている。外部メモリ200は、DRAM、より詳しくはSynchronous DRAM(SDRAM)で実現される。
縮小画生成部101は、原画メモリ202に記憶された符号化対象の原画像を読み出し、原画像を縮小した縮小符号化対象画像(以下、単に縮小画像という)を生成する。また、縮小画生成部101は、動画像符号化装置100で生成されて参照画像メモリ203に記憶された参照画像を読み出し、参照画像を縮小した縮小参照画像を生成する。縮小画生成部101は、生成した縮小画像及び縮小参照画像をそれぞれ縮小画メモリ201に保存する。したがって、縮小画メモリ201には縮小画像及び縮小参照画像が記憶される。
縮小動きベクトル検出部102は、縮小画像及び縮小参照画像を縮小画メモリ201からそれぞれ読み出す。縮小動きベクトル検出部102は、読み出した縮小画像及び縮小参照画像を用いて、粗い精度の動きベクトル(以下、縮小動きベクトルという)を符号化対象領域毎に検出する。具体的には、縮小動きベクトル検出部102は、縮小参照画像の中から縮小画像における符号化対象領域と同じ大きさを有する複数の参照領域を抽出し、符号化対象領域と各参照領域との間でブロックマッチングを行って両者の類似度を表すSum of Absolute Difference(SAD:差分絶対値和)を算出する。SADが小さいほど類似度は高い。また、縮小動きベクトル検出部102は、そのSADを算出する際に使用された参照領域を採用した場合における縮小動きベクトルから求められるコストを算出する。算出したSADとコストの少なくとも一方を含む指標が最適な参照領域を選択する際の指標となる。縮小動きベクトル検出部102は、最良の指標が得られる参照領域を指し示す動きベクトルを縮小動きベクトルとしてプリフェッチ方式決定部103及び等倍動きベクトル検出部113に出力する。
プリフェッチ方式決定部103は、縮小動きベクトルに基づいて、参照画像毎のプリフェッチ方式を決定する。この結果、参照画像によっては帯形プリフェッチ方式が適用され、参照画像によっては箱形プリフェッチ方式が適用される。尚、プリフェッチ方式決定部103の詳細については後述する。
帯形プリフェッチ方式は、図2に示すように、参照画像10の一部領域を帯状の形で保持する方式である。一部領域は、例えばMacroblock(MB)やCoding Tree Unit(CTU)といった符号化対象領域と同じ位置に対応して保持される対応保持領域11、対応保持領域11以外に保持されている対応外保持領域12を含んでいる。参照画像10における一部領域の範囲が帯形プリフェッチ方式の保持範囲になる。帯形プリフェッチ方式では、探索範囲となる一部領域が原画像の動きベクトルの検出で使用されなくなるまで保持され続ける。これにより、参照画像の読み込みに要する外部メモリ200へのアクセス量(例えばデータ転送量又はDRAM帯域など)が最低限に抑えられる。また、参照画像10は、一部領域以外にも、符号化対象領域の動きベクトル検出処理と並行してプリフェッチされる更新領域13及びプリフェッチ動作で上書きされることにより破棄される破棄領域14を含んでいる。符号化対象領域に対する符号化処理が進む度に、更新領域13が更新され、破棄領域14が破棄される。
したがって、図2(a)がn番目の符号化対象領域を符号化している状態を示している場合、n番目の符号化対象領域の符号化が完了すると、n+1番目の符号化対象領域の符号化が開始される。このため、図2(b)に示すように、図2(a)における更新領域13が更新されて新たに対応外保持領域12になり、新たな対応外保持領域12の右側に隣接する領域が新たに更新領域13になる。一方、図2(a)における破棄領域14が破棄されて破棄領域14の右側に隣接していた対応外保持領域12が新たに破棄領域14になる。
箱形プリフェッチ方式は、図3に示すように、参照画像20の一部領域を箱状の形で保持する方式である。一部領域は、符号化対象領域と同じ位置に対応して保持される対応保持領域21、対応保持領域21以外に保持されている対応外保持領域22を含んでいる。参照画像20における一部領域の範囲が箱形プリフェッチ方式の保持範囲になる。箱形プリフェッチ方式では、連続して符号化される符号化対象領域に対する探索範囲の共通部分が保持される。これにより、参照画像の読み込みに要する外部メモリ200へのアクセス量が抑えられる。また、参照画像20は、一部領域以外にも、符号化対象領域の動きベクトル検出処理と並行してプリフェッチされる更新領域23及びプリフェッチ動作で上書きされることにより破棄される破棄領域24を含んでいる。符号化対象領域に対する符号化処理が進む度に、複数の更新領域23が更新され、複数の破棄領域24が破棄される。
したがって、図3(a)がn番目の符号化対象領域を符号化している状態を示している場合、n番目の符号化対象領域の符号化が完了すると、n+1番目の符号化対象領域の符号化が開始される。このため、図3(b)に示すように、図3(a)における3つの更新領域23が更新されて新たに3つの対応外保持領域22になり、新たな3つの対応外保持領域22の右側に隣接する領域が新たに3つの更新領域23になる。一方、図3(a)における3つの破棄領域24が破棄されて3つの破棄領域24の右側に隣接していた3つの対応外保持領域22が新たに3つの破棄領域24になる。
帯形プリフェッチメモリ104は、帯形プリフェッチ方式を採用するプリフェッチメモリである。したがって、参照画像メモリ203から読み出された参照画像10又は参照画像20の一部領域は帯状の形で保持される。
箱形プリフェッチメモリ105は、箱形プリフェッチ方式を採用するプリフェッチメモリである。したがって、参照画像メモリ203から読み出された参照画像10又は参照画像20の一部領域は箱状の形で保持される。
箱形プリフェッチメモリ105は、箱形プリフェッチ方式を採用するプリフェッチメモリである。したがって、参照画像メモリ203から読み出された参照画像10又は参照画像20の一部領域は箱状の形で保持される。
減算部106は、原画メモリ202から読み出された原画像から、スイッチSWの切り替えにより出力された後述するフレーム間予測画像又はフレーム内予測画像を減算する。減算部106により、原画像とフレーム間予測画像又はフレーム内予測画像との誤差画像が生成される。減算部106は生成した誤差画像を直交変換・量子化部107に出力する。
直交変換・量子化部107は、入力された誤差画像に対し符号化対象領域毎にDiscrete Cosine Transform(DCT:離散コサイン変換)を実行する。これにより、各符号化対象領域は実空間領域から周波数領域に変換される。以下、周波数領域に変換された符号化対象領域をDCT係数と呼ぶ。直交変換・量子化部107は、各DCT係数をそれぞれ量子化パラメータ(QP)に応じて量子化する。量子化パラメータは、視覚特性や目標ビットレートに基づくパラメータである。直交変換・量子化部107は、量子化した各DCT係数を逆直交変換・逆量子化部108及びエントロピー符号化部115に出力する。
逆直交変換・逆量子化部108は、入力された各DCT係数を逆量子化する。これにより、量子化前のDCT係数、すなわち周波数領域が再生される。逆直交変換・逆量子化部108は、各周波数領域に対しInverse Discrete Cosine Transform(IDCT:逆離散コサイン変換)を実行する。これにより、各周波数領域は実空間領域にそれぞれ変換される。すなわち、誤差画像が再生される。逆直交変換・逆量子化部108は、再生した誤差画像を加算部109に出力する。
加算部109は、入力された誤差画像と、フレーム間予測画像又はフレーム内予測画像とを加算する。これにより、DCTにより失われた高周波成分を含まない復号画像が再生される。加算部109は、復号画像をフレーム内予測モード決定部110、フレーム内予測部111及びループ内フィルタ部112に出力する。
フレーム内予測モード決定部110は、符号化対象領域周辺の画素値を用いた複数種類の予測モードを有する。フレーム内予測モード決定部110は、複数種類の予測モードの中から符号化効率を考慮して、符号化対象領域の予測に用いられる最適なフレーム内予測モードを原画像と再生画像に基づいて決定する。フレーム内予測モード決定部110は、決定したフレーム内予測モードをフレーム内予測部111及びエントロピー符号化部115に出力する。
フレーム内予測部111は、入力された復号画像に対し入力された予測モードに従ったフレーム内予測(イントラ予測)を符号化対象領域毎に行って、復号画像の予測結果としてフレーム内予測画像を生成し、スイッチSWに出力する。
ループ内フィルタ部112は、入力された復号画像のノイズを低減する。ループ内フィルタ部112としては、例えばデブロッキングフィルタがある。ループ内フィルタ部112にSample Adaptive Offset(SAO:画素適応オフセット)を含めてもよい。ループ内フィルタ部112は、ノイズを低減した復号画像を参照画像メモリ203に保存する。これにより、復号画像が参照画像メモリに記憶される。ノイズを低減した復号画像は、等倍動きベクトル検出部113において参照画像として利用される。
等倍動きベクトル検出部113は、原画像と参照画像10,20をそれぞれ原画メモリ202及び参照画像メモリ203から読み出す。参照画像10,20はそれぞれプリフェッチ方式決定部103によって決定されたプリフェッチ方式に従って、帯形プリフェッチメモリ104か箱形プリフェッチメモリ105のいずれかに保持される。等倍動きベクトル検出部113は、読み出した原画像と保持された参照画像10,20に基づいて、動きベクトル(以下、等倍動きベクトルという)を検出する。等倍動きベクトル検出部113は、原画像の等倍動きベクトルをフレーム間予測部114及びエントロピー符号化部115に出力する。
フレーム間予測部114は、入力された復号画像と等倍動きベクトル検出部113によって検出された等倍動きベクトルとに基づいて、フレーム間予測(動き補償予測)を行い、予測結果としてのフレーム間予測画像をスイッチSWに出力する。
スイッチSWは、フレーム内予測部111から出力されたフレーム内予測画像とフレーム間予測部114から出力されたフレーム間予測画像の画質を判定し、より良い画質を有するフレーム内予測画像又はフレーム間予測画像のいずれかを減算部106及び加算部109に出力する。
エントロピー符号化部115は、直交変換・量子化部107から出力されたDCT係数と等倍動きベクトル検出部113から出力された等倍動きベクトルをエントロピー符号化する。エントロピー符号化には、例えばハフマン符号化や算術符号化などが利用される。エントロピー符号化部115は、符号化したDCT係数と等倍画像の動きベクトルを多重化し、ビットストリームとして符号出力する。
次に、図4及び図5を参照して、上述したプリフェッチ方式決定部103の動作について説明する。
尚、後述する動作は、プリフェッチ方式決定部103により実行されず、動画像符号化装置100全体の動作を制御する制御部により実行されてもよい。当該制御部は、図示しないが、動画像符号化装置100内に設けられる。制御部としては例えばCentral Processing Unit(CPU)が利用される。
尚、後述する動作は、プリフェッチ方式決定部103により実行されず、動画像符号化装置100全体の動作を制御する制御部により実行されてもよい。当該制御部は、図示しないが、動画像符号化装置100内に設けられる。制御部としては例えばCentral Processing Unit(CPU)が利用される。
図4は、プリフェッチ方式決定部103の動作の一例を示すフローチャートである。図5は、ミスヒットの一例を説明するための図である。
プリフェッチ方式決定部103は、まず、2次元配列変数であるコスト[P][M]を初期化する(ステップS101)。ここで、変数Pは参照する参照画像の枚数を示している。変数Mはプリフェッチ方式の方式数を示している。例えば、参照画像として前方参照画像と後方参照画像の2枚を使用する場合、変数P=2となる。また、プリフェッチ方式として、帯形プリフェッチ方式と箱形プリフェッチ方式の2つの方式を使用する場合、変数M=2となる。したがって、後述する処理によって、コスト[1][1](前方参照画像と帯形プリフェッチ方式),コスト[1][2](前方参照画像と箱形プリフェッチ方式),コスト[2][1](後方参照画像と帯形プリフェッチ方式)及びコスト[2][2](後方参照画像と箱形プリフェッチ方式)の4種類のコストが算出される。
プリフェッチ方式決定部103は、まず、2次元配列変数であるコスト[P][M]を初期化する(ステップS101)。ここで、変数Pは参照する参照画像の枚数を示している。変数Mはプリフェッチ方式の方式数を示している。例えば、参照画像として前方参照画像と後方参照画像の2枚を使用する場合、変数P=2となる。また、プリフェッチ方式として、帯形プリフェッチ方式と箱形プリフェッチ方式の2つの方式を使用する場合、変数M=2となる。したがって、後述する処理によって、コスト[1][1](前方参照画像と帯形プリフェッチ方式),コスト[1][2](前方参照画像と箱形プリフェッチ方式),コスト[2][1](後方参照画像と帯形プリフェッチ方式)及びコスト[2][2](後方参照画像と箱形プリフェッチ方式)の4種類のコストが算出される。
次いで、プリフェッチ方式決定部103は、参照画像に関するループ処理を開始する(ステップS102)。例えば、プリフェッチ方式決定部103は前方参照画像を表す値「1」を変数Pに設定する。次いで、プリフェッチ方式決定部103は、プリフェッチ方式に関するループ処理を開始する(ステップS103)。例えば、プリフェッチ方式決定部103は帯形プリフェッチ方式を表す「1」を変数Mに設定する。次いで、プリフェッチ方式決定部103は、原画像における符号化対照領域に関するループ処理を開始する(ステップS104)。例えば、プリフェッチ方式決定部103は、原画像における符号化対象領域を1つ選択する。
プリフェッチ方式決定部103は、ここで、ミスヒットが発生したか否かを判定する(ステップS105)。具体的には、図5に示すように、符号化対象領域と類似する領域を、縮小動きベクトルMV1によって示される領域50を中心とした探索範囲SA1内において等倍動きベクトル検出を行う場合、探索範囲SA1は、対応保持領域11及び対応外保持領域12を含む保持範囲に完全には収まっていないため、探索範囲SA1内の一部の画素については探索できない。このように、符号化対象領域と類似する領域を探索しようとしても、一部の画素が保持範囲外に存在するために探索が行えない現象をミスヒットと呼ぶ。
プリフェッチ方式決定部103は、ミスヒットが発生したと判定した場合(ステップS105:YES)、探索範囲SA内に存在しているものの、保持範囲外である画素を外部メモリ200から読み出すのに要するアクセス量をコストとして算出する(ステップS106)。プリフェッチ方式決定部103は、算出したアクセス量をコスト[1][1]に加算する。プリフェッチ方式決定部103は、ミスヒットが発生しなかったと判定した場合(ステップS105:NO)、ステップS106の処理をスキップする。
プリフェッチ方式決定部103は、ステップS105及びステップS106の処理を終了すると、次の符号化対象領域を選択し、ステップS105及びステップS106の処理を繰り返す(ステップS107)。このような処理が繰り返されることで、最終的にコスト[1][1]に格納されていたアクセス量が帯形プリフェッチ方式と前方参照画像を利用した場合のアクセス量になる。例えばコスト[1][1]としてアクセス量「100」が求められる。
プリフェッチ方式決定部103は、原画像における符号化対照領域に関するループ処理が終了すると、ループ変数mを繰り上げて、ステップS104及びS105又はステップS104乃至ステップS106の処理を繰り返す(ステップS108)。ループ変数mが繰り上げられることで、箱形プリフェッチ方式を表す値「2」が変数Mに設定される。そして、処理が繰り返されることで、最終的にコスト[1][2]に格納されていたアクセス量が箱形プリフェッチ方式と前方参照画像を利用した場合のアクセス量になる。例えばコスト[1][2]としてアクセス量「80」が求められる。
プリフェッチ方式決定部103は、プリフェッチ方式に関するループ処理が終了すると、ループ変数pを繰り上げて、ステップS103乃至S105又はステップS103乃至S106の処理を繰り返す(ステップS109)。ループ変数pが繰り上げられることで、後方参照画像を表す値「2」が変数Pに設定される。そして、処理が繰り返されることで、最終的にコスト[2][1]及びコスト[2][2]に格納されていたそれぞれのアクセス量が帯形プリフェッチ方式と後方参照画像を利用した場合のアクセス量及び箱形プリフェッチ方式と後方参照画像を利用した場合のアクセス量になる。例えばコスト[2][1]としてアクセス量「20」及びコスト[2][2]のアクセス量「30」が求められる。
プリフェッチ方式決定部103は、参照画像に関するループ処理が終了すると、後述するプリフェッチ方式決定処理を実行し(ステップS110)、処理を終了する。
次に、図6及び図7を参照して、上述したプリフェッチ方式決定処理について説明する。
図6は、プリフェッチ方式決定部103で実行されるプリフェッチ方式決定処理のフローチャートの一例である。図7は、帯形プリフェッチ方式と箱形プリフェッチ方式の組み合わせの一例を説明するための図である。
プリフェッチ方式決定部103は、まず、アクセス量が最小となる組み合わせ番号min_cを空(NULL)に設定し、アクセス量の総和の最小値min_sumを無限大に設定する(ステップS201)。次に、プリフェッチ方式決定部103は、「選択可能なプリフェッチ処理への参照画像割り当て」全てに対するループ処理を開始する(ステップS202)。例えば、メモリ容量(又はキャッシュ量)とアクセス量の制約から、図7に示すように、帯形プリフェッチ方式を実現する帯形プリフェッチメモリ104と箱形プリフェッチ方式を実現する箱形プリフェッチメモリ105を1つずつ搭載し、前方参照画像と後方参照画像の2枚の参照画像を使用して原画像を符号化する場合、選択可能な組み合わせは、以下の2つの組み合わせになる。すなわち、前方参照画像に対し帯形プリフェッチ方式を適用し、後方参照画像に対し箱形プリフェッチ方式を適用する組み合わせ番号「1」と前方参照画像に対し箱形プリフェッチ方式を適用し、後方参照画像に対し帯形プリフェッチ方式を適用する組み合わせ番号「2」の組み合わせがある。組み合わせ番号としてループ変数cが使用される。まず、ループ変数cに値「1」が設定される。すなわち、組み合わせ番号「1」に対し後述の処理が実行される。
プリフェッチ方式決定部103は、アクセス量の総和sumに値「0」を格納し(ステップS203)、参照画像に関するループ処理を開始する(ステップS204)。ループ変数pには前方参照画像を表す値「1」が設定される。プリフェッチ方式決定部103は、現在処理対象の「プリフェッチ処理への参照画像の割り当て」から参照画像の変数mを抽出する(ステップS205)。当該処理により、変数mとして値「1」が抽出される。
プリフェッチ方式決定部103は、ループ変数p(=1)と変数m(=1)に対応するコスト[1][1]のアクセス量(「100」)をアクセス量の総和sumに加算する(ステップS206)。これにより、アクセス量の総和sum「100」が算出される。プリフェッチ方式決定部103は、参照画像に関するループ処理を終了すると(ステップS207)、ループ変数pを繰り上げて、ステップS204及びステップS205の処理を繰り返す。これにより、ループ変数p(=2)と変数m(=2)に対応するコスト[2][2]のアクセス量(「30」)がアクセス量の総和sumに加算される。したがって、アクセス量の総和sum「130」が算出される。
プリフェッチ方式決定部103は、算出したアクセス量の総和sumがアクセス量の総和の最小値min_sum未満であるか否かを判定する(ステップS208)。本実施形態では、アクセス量の総和sum「130」がアクセス量の総和の最小値min_sum未満であるため、プリフェッチ方式決定部103は、算出したアクセス量の総和sumがアクセス量の総和の最小値min_sum未満であると判定する(ステップS208:YES)。
プリフェッチ方式決定部103は、算出したアクセス量の総和sumがアクセス量の総和の最小値min_sum未満であると判定した場合、アクセス量が最小となる組み合わせ番号min_cに組み合わせ番号「1」を格納し、アクセス量の総和の最小値min_sumにアクセス量の総和sum「130」を格納する(ステップS209)。
プリフェッチ方式決定部103は、「選択可能なプリフェッチ処理への参照画像割り当て」全てに対するループ処理を終了すると(ステップS210)、ループ変数cを繰り上げて、ステップS203からステップS209の処理を繰り返す。これにより、ループ変数p(=1)と変数m(=2)に対応するコスト[1][2]のアクセス量(「80」)とループ変数p(=2)と変数m(=1)に対応するコスト[2][1]のアクセス量(「20」)とがアクセス量の総和sumに加算される。したがって、アクセス量の総和sum「100」が算出される。ステップS207の判定処理において、アクセス量の総和の最小値min_sum「130」より算出したアクセス量の総和sum「100」が小さいため、アクセス量が最小となる組み合わせ番号min_cに組み合わせ番号「2」が新たに格納され、アクセス量の総和の最小値min_sumにアクセス量の総和sum「100」が新たに格納される。プリフェッチ方式決定部103は、アクセス量が最小となる組み合わせ番号min_c「2」をプリフェッチ方式として決定する(ステップS211)。このように、帯形プリフェッチ方式と箱形プリフェッチ方式を併用した場合に、メモリ容量を変えずに外部メモリ200へのアクセス量が最低となるプリフェッチ方式を決定することができる。すなわち、帯形プリフェッチ方式と箱形プリフェッチ方式という異なるプリフェッチ方式を併用した場合に、メモリ容量と外部メモリへのアクセス量を適正化できる。
以上の説明では、ミスヒットした参照画像の画素を外部メモリ200から読み出す際のアクセス量をコストとして、コストが最小になるプリフェッチ方式が決定されている。例えば、ミスヒットが発生する場合には、図8に示すように、ミスヒットが発生しない、保持範囲にヒットする別の縮小動きベクトルMV2を縮小動きベクトル検出部102に出力させるようにしてもよい。この場合、出力された縮小動きベクトルMV1(図5参照)と別の縮小動きベクトルMV2のベクトル類似度に関する指標の差をコスト[P][M]を加算するように、上述したステップS106の処理を変更する。また、例えば、ミスヒットが発生する場合には、符号化対象領域をフレーム内予測で符号化するようにしてもよい。この場合、出力された縮小動きベクトルとフレーム内予測の類似度の差をコスト[P][M]を加算するように、上述したステップS106の処理を変更する。このように処理することで、画質の劣化度合いを最小化するプリフェッチ方式を決定することができる。
図9は、実施例を比較例と対比して説明するための図である。
まず、比較例1に示すように、2枚の参照画像をすべて帯形プリフェッチ方式で保持した場合、アクセス量は許容限界を超えないが、プリフェッチメモリのメモリ容量は許容限界を超えてしまう。逆に、比較例2に示すように、2枚の参照画像をすべて箱形プリフェッチ方式で保持した場合、プリフェッチメモリのメモリ容量は許容限界を超えないが、アクセス量は許容限界を超えてしまう。しかしながら、実施例によれば、帯形プリフェッチ方式と箱形プリフェッチ方式が併用され、2枚の参照画像のそれぞれに割り当てられるため、プリフェッチメモリのメモリ容量は許容限界を超えないし、アクセス量も許容限界を超えない。
まず、比較例1に示すように、2枚の参照画像をすべて帯形プリフェッチ方式で保持した場合、アクセス量は許容限界を超えないが、プリフェッチメモリのメモリ容量は許容限界を超えてしまう。逆に、比較例2に示すように、2枚の参照画像をすべて箱形プリフェッチ方式で保持した場合、プリフェッチメモリのメモリ容量は許容限界を超えないが、アクセス量は許容限界を超えてしまう。しかしながら、実施例によれば、帯形プリフェッチ方式と箱形プリフェッチ方式が併用され、2枚の参照画像のそれぞれに割り当てられるため、プリフェッチメモリのメモリ容量は許容限界を超えないし、アクセス量も許容限界を超えない。
(第2実施形態)
続いて、図10を参照して、本件の第2実施形態について説明する。
図10は、プリフェッチ方式の決定手法の一例を説明するための図である。
例えば、プリフェッチ方式決定部103は、保持範囲における縦方向の範囲が帯形プリフェッチ方式と箱形プリフェッチ方式とにおいて等しい場合、符号化対象領域の縮小動きベクトルのx成分の絶対値の総和を「横方向の動きベクトルの大きさの指標」として参照画像毎に算出し、該指標により動きベクトルのx成分の大きさがより大きいと示される参照画像を優先して、帯形プリフェッチ方式を決定する。
続いて、図10を参照して、本件の第2実施形態について説明する。
図10は、プリフェッチ方式の決定手法の一例を説明するための図である。
例えば、プリフェッチ方式決定部103は、保持範囲における縦方向の範囲が帯形プリフェッチ方式と箱形プリフェッチ方式とにおいて等しい場合、符号化対象領域の縮小動きベクトルのx成分の絶対値の総和を「横方向の動きベクトルの大きさの指標」として参照画像毎に算出し、該指標により動きベクトルのx成分の大きさがより大きいと示される参照画像を優先して、帯形プリフェッチ方式を決定する。
すなわち、縦方向の動きベクトルより横方向の動きベクトルが全体的に多い場合には、箱形プリフェッチ方式に決定されると、図10(b)に示すように、縮小動きベクトルMV3に基づく探索範囲SA3は保持範囲内に収まらない可能性が高く、ミスヒットが発生する。したがって、画質の劣化やアクセス量の増加に直結する。しかしながら、帯形プリフェッチ方式に決定されると、図10(a)に示すように、縮小動きベクトルMV3に基づく探索範囲SA3は保持範囲内に収まる可能性が高く、ミスヒットが発生しない。したがって、画質の劣化やアクセス量の増加が発生しにくい。このように、縮小動きベクトルMV3の縦方向と横方向のそれぞれの頻度や大きさを利用することで、簡易的にプリフェッチ方式を決定することができる。
(第3実施形態)
続いて、図11を参照して、本件の第3実施形態について説明する。
図11は、プリフェッチ方式の決定手法の他の一例を説明するための図である。
例えば、プリフェッチ方式決定部103は、保持範囲における縦方向の範囲が帯形プリフェッチ方式より箱形プリフェッチ方式の方を大きい場合、符号化対象領域の縮小動きベクトルのy成分の絶対値の総和を「縦方向の動きベクトルの大きさの指標」として参照画像毎に算出し、該指標により動きベクトルのy成分の大きさがより大きいと示される参照画像を優先して、箱形プリフェッチ方式を決定する。
続いて、図11を参照して、本件の第3実施形態について説明する。
図11は、プリフェッチ方式の決定手法の他の一例を説明するための図である。
例えば、プリフェッチ方式決定部103は、保持範囲における縦方向の範囲が帯形プリフェッチ方式より箱形プリフェッチ方式の方を大きい場合、符号化対象領域の縮小動きベクトルのy成分の絶対値の総和を「縦方向の動きベクトルの大きさの指標」として参照画像毎に算出し、該指標により動きベクトルのy成分の大きさがより大きいと示される参照画像を優先して、箱形プリフェッチ方式を決定する。
すなわち、横方向の動きベクトルより縦方向の動きベクトルが全体的に多い場合には、帯形プリフェッチ方式に決定されると、図11(a)に示すように、縮小動きベクトルMV4に基づく探索範囲SA4は保持範囲内に収まらない可能性が高く、ミスヒットが発生する。したがって、画質の劣化やアクセス量の増加に直結する。しかしながら、箱形プリフェッチ方式に決定されると、図11(b)に示すように、縮小動きベクトルMV4に基づく探索範囲SA4は保持範囲内に収まる可能性が高く、ミスヒットが発生しない。したがって、画質の劣化やアクセス量の増加が発生しにくい。このように、縮小動きベクトルMV4の縦方向と横方向のそれぞれの頻度や大きさを利用することで、簡易的にプリフェッチ方式を決定することができる。
以上、上述した各実施形態では、帯形プリフェッチメモリ104と箱形プリフェッチメモリ105のそれぞれが1つの参照画像の一部領域を保持することを説明したが、例えば、3つの参照画像がある場合には、帯形プリフェッチメモリ104が2つの参照画像の一部領域を保持し、箱形プリフェッチメモリ105が1つの参照画像の一部領域を保持するようにしてもよいし、その逆であってもよい。また、4つの参照画像がある場合には、帯形プリフェッチメモリ104が3つの参照画像の一部領域を保持し、箱形プリフェッチメモリ105が1つの参照画像の一部領域を保持するようにしてもよいし、その逆であってもよいし、それぞれが2つの参照画像の一部領域を保持するようにしてもよい。
また、以上説明した各実施形態では、等倍動きベクトル検出部113は1枚の参照画像を利用して等倍動きベクトルを検出する例を説明したが、参照画像は1枚に限定されず、過去に符号化した複数の参照画像を利用して等倍動きベクトルを検出するようにすることもできる。複数枚の参照画像を利用して等倍動きベクトルを検出する場合、等倍動きベクトルの探索の際に、フレーム間予測で参照可能な全画像領域について、可能な限り、原画像とのマッチングを行うことが望ましい。
例えば、直前に符号化した3枚の画像を参照画像として利用する場合、等倍動きベクトルを検出する処理では、図12に示すように、3枚の画像のそれぞれの内部に、等倍動きベクトルの探索を行うための探索範囲SAが設定される。そして、符号化対象領域と、探索範囲SA内に含まれた、符号化対象領域と同じ大きさを有する全ての領域との類似度に関する指標(例えばSAD)が算出され、最良の指標を示す領域が選択される。最後に、その領域の属する参照画像を示すインデックスと動きベクトルが出力される。
図13は、複数の参照画像を利用して等倍動きベクトルを検出する動作の一例を示すフローチャートである。
まず、等倍動きベクトル検出部113は、指標の最小(最小指標)を「無限大」に設定し、併せて、出力する等倍動きベクトル及び参照画像を示すインデックスを「なし」に設定する(ステップS301)。次に、等倍動きベクトル検出部113は、参照画像に関するループ処理を開始する(ステップS302)。ここで、参照画像のループ対象は、n番目の画像が符号化対象である場合、(n−3)番目の画像、(n−2)番目の画像及び(n−1)番目の画像が参照画像として利用される。
まず、等倍動きベクトル検出部113は、指標の最小(最小指標)を「無限大」に設定し、併せて、出力する等倍動きベクトル及び参照画像を示すインデックスを「なし」に設定する(ステップS301)。次に、等倍動きベクトル検出部113は、参照画像に関するループ処理を開始する(ステップS302)。ここで、参照画像のループ対象は、n番目の画像が符号化対象である場合、(n−3)番目の画像、(n−2)番目の画像及び(n−1)番目の画像が参照画像として利用される。
次いで、等倍動きベクトル検出部113は、符号化対象領域と(n−3)番目から(n−1)番目のいずれかの画像の探索範囲SA内の各領域とに基づく等倍動きベクトルの候補に関するループ処理を開始する(ステップS303)。次いで、等倍動きベクトル検出部113は、符号化対象領域と(n−3)番目から(n−1)番目のいずれかの画像の探索範囲SA内の各領域との指標を算出する(ステップS304)。算出する指標としては例えば以下に挙げられる指標がある。(1)等倍動きベクトルの候補によって示されるインター予測画像と符号化対象領域とのSAD、(2)等倍動きベクトルの候補によって示されるインター予測画像と符号化対象領域とのSum of Transformed Difference(SATD)、(3)(1)又は(2)にさらに、動きベクトルの大きさで決まる値(例えば、等倍動きベクトルのx成分をVx、y成分をVy、予め決められた係数をkx,kyとした場合、kx|Vx|+ky|Vy|など)を加えたもの、(4)(1)または(2)にさらに、等倍動きベクトルを符号化する際の符号量に応じて決まる値を加えたもの、(5)(1),(2),(3)または(4)に、さらに参照画像を示すインデックスを符号化する際の符号量で決まる値を加えたもの。
ここで、等倍動きベクトル検出部113は、算出した指標が指標の最小を下回っているか否かを判断する(ステップS305)。等倍動きベクトル検出部113は、算出した指標が指標の最小を下回っていると判断した場合(ステップS305:YES)、指標の最小に算出した指標を格納し、出力する動きベクトルに処理対象となっている等倍動きベクトルを格納し、出力するインデックスに処理対象となっている参照画像を示すインデックスを格納する(ステップS306)。尚、等倍動きベクトル検出部113は、算出した指標が指標の最小を下回っていないと判断した場合(ステップS305:NO)、ステップS306の処理を実行しない。等倍動きベクトル検出部113は、ステップS303に対するループの終了を判断し(ステップS307)、さらに、ステップS302に対するループの終了を判断する(ステップS308)。等倍動きベクトル検出部113は、ステップS308の処理を完了すると、出力する動きベクトルに格納された動きベクトルを出力し、出力するインデックスに格納されているインデックスを出力する(ステップS309)。このように、上述した各実施形態では、1枚の参照画像を利用して等倍動きベクトルを検出するだけでなく、複数枚の参照画像を利用して等倍動きベクトルを検出することもできる。
(第4実施形態)
続いて、図14を参照して、本件の第4実施形態について説明する。
図14は、情報処理装置300のハードウェア構成の一例である。上述した各種の動作は、ハードウェア回路による実現に代えて、情報処理装置300によって実現されてもよい。情報処理装置300としては、例えばPersonal Computer(PC)がある。
続いて、図14を参照して、本件の第4実施形態について説明する。
図14は、情報処理装置300のハードウェア構成の一例である。上述した各種の動作は、ハードウェア回路による実現に代えて、情報処理装置300によって実現されてもよい。情報処理装置300としては、例えばPersonal Computer(PC)がある。
情報処理装置300は、少なくともCPU301、RAM302、Read Only Memory(ROM)303及び通信I/F(インタフェース)304を含んでいる。RAM302は、プリフェッチメモリとしてのSRAMと外部メモリ200としてのDRAMを含んでいる。当該SRAMはCPU301に含まれていてもよい。情報処理装置300は、必要に応じて、Hard Disk Drive(HDD)305、入力I/F306、出力I/F307、入出力I/F308、ドライブ装置309の少なくとも1つを含んでいてもよい。CPU301,・・・,ドライブ装置309は、内部バス310によって互いに接続されている。少なくともCPU301とRAM302とが協働することによってコンピュータが実現される。情報処理装置300に画像処理を担当するGraphics Processing Unit(GPU)が含まれていてもよい。
入力I/F306には、入力装置410が接続される。入力装置410としては、例えばキーボードやマウスなどがある。
出力I/F307には、表示装置420が接続される。表示装置420としては、例えば液晶ディスプレイがある。
入出力I/F308には、半導体メモリ430が接続される。半導体メモリ430としては、例えばUniversal Serial Bus(USB)メモリやフラッシュメモリなどがある。入出力I/F308は、半導体メモリ430に記憶されたプログラムやデータを読み取る。
入力I/F306及び入出力I/F308は、例えばUSBポートを備えている。出力I/F307は、例えばディスプレイポートを備えている。
出力I/F307には、表示装置420が接続される。表示装置420としては、例えば液晶ディスプレイがある。
入出力I/F308には、半導体メモリ430が接続される。半導体メモリ430としては、例えばUniversal Serial Bus(USB)メモリやフラッシュメモリなどがある。入出力I/F308は、半導体メモリ430に記憶されたプログラムやデータを読み取る。
入力I/F306及び入出力I/F308は、例えばUSBポートを備えている。出力I/F307は、例えばディスプレイポートを備えている。
ドライブ装置309には、可搬型記録媒体440が挿入される。可搬型記録媒体440としては、例えばCompact Disc(CD)−ROM、Digital Versatile Disc(DVD)といったリムーバブルディスクがある。ドライブ装置309は、可搬型記録媒体440に記録されたプログラムやデータを読み込む。
通信I/F304は、例えばポートとPhysical Layer Chip(PHYチップ)とを備えている。情報処理装置300は、通信I/F304を介してネットワークNWと接続される。
通信I/F304は、例えばポートとPhysical Layer Chip(PHYチップ)とを備えている。情報処理装置300は、通信I/F304を介してネットワークNWと接続される。
上述したRAM302は、ROM303やHDD305に記憶されたプログラムを読み込む。RAM302は、可搬型記録媒体440に記録されたプログラムを読み込む。読み込まれたプログラムをCPU301が実行することにより、上述した各種の動作が実行される。尚、プログラムは上述したフローチャートに応じたものとすればよい。
以上、上述した各実施形態では、参照画像メモリ203の参照画像を縮小画生成部101によって縮小した画像を縮小参照画像として用いたが、参照画像に時間的に対応する縮小画像を縮小参照画像として用いても良い。
以上、本発明の好ましい実施形態について詳述したが、本発明に係る特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
なお、以上の説明に関して更に以下の付記を開示する。
(付記1)原画像と前記原画像の動きベクトルを検出する際に参照される複数の参照画像のそれぞれを縮小した縮小画像及び複数の縮小参照画像を利用して、前記原画像の動きベクトルを階層的に検出する動画像符号化装置であって、前記縮小画像及び前記縮小参照画像に基づいて、前記縮小画像の動きベクトルを検出する検出手段と、前記検出手段の出力である縮小画像の動きベクトルに基づいて、前記参照画像毎のプリフェッチ方式を決定する決定手段と、を有する動画像符号化装置。
(付記2)前記決定手段は、前記縮小画像の動きベクトルを利用した前記原画像における符号化対象領域の探索範囲が前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲に収まっていない度合いに基づいて、前記参照画像毎のプリフェッチ方式を決定することを特徴とする付記1に記載の動画像符号化装置。
(付記3)前記決定手段は、前記度合いに基づいて、前記動画像符号化装置の外部に設けられた記憶装置とのアクセス量に関する第1指標を前記プリフェッチ方式毎及び前記参照画像毎に算出し、前記第1指標に基づいて、前記参照画像毎のプリフェッチ方式を決定することを特徴とする付記2に記載の動画像符号化装置。
(付記4)前記決定手段は、前記縮小画像の動きベクトルを利用した前記原画像における符号化対象領域の探索範囲を決める前記縮小画像の動きベクトルと前記探索範囲が前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲に収まる縮小画像の別の動きベクトルとを利用して、画質の劣化の度合いに関する第2指標を前記プリフェッチ方式毎及び前記参照画像毎に算出し、前記第2指標に基づいて、前記参照画像毎のプリフェッチ方式を決定することを特徴とする付記1に記載の動画像符号化装置。
(付記5)前記決定手段は、前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲における縦方向の範囲が前記保持範囲を帯形状に保持する第1のプリフェッチ方式と前記保持範囲を箱形状に保持する第2のプリフェッチ方式とにおいて等しい場合、前記縮小画像の動きベクトルから動きベクトルの横方向の成分の大きさを示す第3指標を前記参照画像毎に算出し、前記第3指標により動きベクトルの横方向の成分の大きさがより大きいと示される参照画像を優先して、前記第1のプリフェッチ方式に決定することを特徴とする付記1に記載の動画像符号化装置。
(付記6)前記決定手段は、前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲における縦方向の範囲が前記保持範囲を帯形状に保持する第1のプリフェッチ方式より前記保持範囲を箱形状に保持する第2のプリフェッチ方式の方が大きい場合、前記縮小画像の動きベクトルから動きベクトルの縦方向の成分の大きさを示す第3指標を前記参照画像毎に算出し、前記第3指標により動きベクトルの縦方向の成分の大きさがより大きいと示される参照画像を優先して、前記第2のプリフェッチ方式に決定することを特徴とする付記1に記載の動画像符号化装置。
(付記7)原画像と前記原画像の動きベクトルを検出する際に参照される複数の参照画像のそれぞれを縮小した縮小画像及び複数の縮小参照画像を利用して、前記原画像の動きベクトルを階層的に検出する動画像符号化方法であって、前記縮小画像及び前記縮小参照画像に基づいて、前記縮小画像の動きベクトルを検出し、前記検出の出力である縮小画像の動きベクトルに基づいて、前記参照画像毎のプリフェッチ方式を決定する、処理を実行する動画像符号化方法。
(付記8)前記決定する処理は、前記縮小画像の動きベクトルを利用した前記原画像における符号化対象領域の探索範囲が前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲に収まっていない度合いに基づいて、前記参照画像毎のプリフェッチ方式を決定することを特徴とする付記7に記載の動画像符号化方法。
(付記9)前記決定する処理は、前記度合いに基づいて、動画像符号化装置の外部に設けられた記憶装置とのアクセス量に関する第1指標を前記プリフェッチ方式毎及び前記参照画像毎に算出し、前記第1指標に基づいて、前記参照画像毎のプリフェッチ方式を決定することを特徴とする付記8に記載の動画像符号化方法。
(付記10)前記決定する処理は、前記縮小画像の動きベクトルを利用した前記原画像における符号化対象領域の探索範囲を決める前記縮小画像の動きベクトルと前記探索範囲が前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲に収まる縮小画像の別の動きベクトルとを利用して、画質の劣化の度合いに関する第2指標を前記プリフェッチ方式毎及び前記参照画像毎に算出し、前記第2指標に基づいて、前記参照画像毎のプリフェッチ方式を決定することを特徴とする付記7に記載の動画像符号化方法。
(付記11)前記決定する処理は、前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲における縦方向の範囲が前記保持範囲を帯形状に保持する第1のプリフェッチ方式と前記保持範囲を箱形状に保持する第2のプリフェッチ方式とにおいて等しい場合、前記縮小画像の動きベクトルから動きベクトルの横方向の成分の大きさを示す第3指標を前記参照画像毎に算出し、前記第3指標により動きベクトルの横方向の成分の大きさがより大きいと示される参照画像を優先して、前記第1のプリフェッチ方式に決定することを特徴とする付記7に記載の動画像符号化方法。
(付記12)前記決定する処理は、前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲における縦方向の範囲が前記保持範囲を帯形状に保持する第1のプリフェッチ方式より前記保持範囲を箱形状に保持する第2のプリフェッチ方式の方が大きい場合、前記縮小画像の動きベクトルから動きベクトルの縦方向の成分の大きさを示す第3指標を前記参照画像毎に算出し、前記第3指標により動きベクトルの縦方向の成分の大きさがより大きいと示される参照画像を優先して、前記第2のプリフェッチ方式に決定することを特徴とする付記7に記載の動画像符号化方法。
(付記13)原画像と前記原画像の動きベクトルを検出する際に参照される複数の参照画像のそれぞれを縮小した縮小画像及び複数の縮小参照画像を利用して、前記原画像の動きベクトルを階層的に検出する動画像符号化プログラムであって、前記縮小画像及び前記縮小参照画像に基づいて、前記縮小画像の動きベクトルを検出し、前記検出の結果である縮小画像の動きベクトルに基づいて、前記参照画像毎のプリフェッチ方式を決定する、処理をコンピュータに実行させる動画像符号化プログラム。
(付記1)原画像と前記原画像の動きベクトルを検出する際に参照される複数の参照画像のそれぞれを縮小した縮小画像及び複数の縮小参照画像を利用して、前記原画像の動きベクトルを階層的に検出する動画像符号化装置であって、前記縮小画像及び前記縮小参照画像に基づいて、前記縮小画像の動きベクトルを検出する検出手段と、前記検出手段の出力である縮小画像の動きベクトルに基づいて、前記参照画像毎のプリフェッチ方式を決定する決定手段と、を有する動画像符号化装置。
(付記2)前記決定手段は、前記縮小画像の動きベクトルを利用した前記原画像における符号化対象領域の探索範囲が前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲に収まっていない度合いに基づいて、前記参照画像毎のプリフェッチ方式を決定することを特徴とする付記1に記載の動画像符号化装置。
(付記3)前記決定手段は、前記度合いに基づいて、前記動画像符号化装置の外部に設けられた記憶装置とのアクセス量に関する第1指標を前記プリフェッチ方式毎及び前記参照画像毎に算出し、前記第1指標に基づいて、前記参照画像毎のプリフェッチ方式を決定することを特徴とする付記2に記載の動画像符号化装置。
(付記4)前記決定手段は、前記縮小画像の動きベクトルを利用した前記原画像における符号化対象領域の探索範囲を決める前記縮小画像の動きベクトルと前記探索範囲が前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲に収まる縮小画像の別の動きベクトルとを利用して、画質の劣化の度合いに関する第2指標を前記プリフェッチ方式毎及び前記参照画像毎に算出し、前記第2指標に基づいて、前記参照画像毎のプリフェッチ方式を決定することを特徴とする付記1に記載の動画像符号化装置。
(付記5)前記決定手段は、前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲における縦方向の範囲が前記保持範囲を帯形状に保持する第1のプリフェッチ方式と前記保持範囲を箱形状に保持する第2のプリフェッチ方式とにおいて等しい場合、前記縮小画像の動きベクトルから動きベクトルの横方向の成分の大きさを示す第3指標を前記参照画像毎に算出し、前記第3指標により動きベクトルの横方向の成分の大きさがより大きいと示される参照画像を優先して、前記第1のプリフェッチ方式に決定することを特徴とする付記1に記載の動画像符号化装置。
(付記6)前記決定手段は、前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲における縦方向の範囲が前記保持範囲を帯形状に保持する第1のプリフェッチ方式より前記保持範囲を箱形状に保持する第2のプリフェッチ方式の方が大きい場合、前記縮小画像の動きベクトルから動きベクトルの縦方向の成分の大きさを示す第3指標を前記参照画像毎に算出し、前記第3指標により動きベクトルの縦方向の成分の大きさがより大きいと示される参照画像を優先して、前記第2のプリフェッチ方式に決定することを特徴とする付記1に記載の動画像符号化装置。
(付記7)原画像と前記原画像の動きベクトルを検出する際に参照される複数の参照画像のそれぞれを縮小した縮小画像及び複数の縮小参照画像を利用して、前記原画像の動きベクトルを階層的に検出する動画像符号化方法であって、前記縮小画像及び前記縮小参照画像に基づいて、前記縮小画像の動きベクトルを検出し、前記検出の出力である縮小画像の動きベクトルに基づいて、前記参照画像毎のプリフェッチ方式を決定する、処理を実行する動画像符号化方法。
(付記8)前記決定する処理は、前記縮小画像の動きベクトルを利用した前記原画像における符号化対象領域の探索範囲が前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲に収まっていない度合いに基づいて、前記参照画像毎のプリフェッチ方式を決定することを特徴とする付記7に記載の動画像符号化方法。
(付記9)前記決定する処理は、前記度合いに基づいて、動画像符号化装置の外部に設けられた記憶装置とのアクセス量に関する第1指標を前記プリフェッチ方式毎及び前記参照画像毎に算出し、前記第1指標に基づいて、前記参照画像毎のプリフェッチ方式を決定することを特徴とする付記8に記載の動画像符号化方法。
(付記10)前記決定する処理は、前記縮小画像の動きベクトルを利用した前記原画像における符号化対象領域の探索範囲を決める前記縮小画像の動きベクトルと前記探索範囲が前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲に収まる縮小画像の別の動きベクトルとを利用して、画質の劣化の度合いに関する第2指標を前記プリフェッチ方式毎及び前記参照画像毎に算出し、前記第2指標に基づいて、前記参照画像毎のプリフェッチ方式を決定することを特徴とする付記7に記載の動画像符号化方法。
(付記11)前記決定する処理は、前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲における縦方向の範囲が前記保持範囲を帯形状に保持する第1のプリフェッチ方式と前記保持範囲を箱形状に保持する第2のプリフェッチ方式とにおいて等しい場合、前記縮小画像の動きベクトルから動きベクトルの横方向の成分の大きさを示す第3指標を前記参照画像毎に算出し、前記第3指標により動きベクトルの横方向の成分の大きさがより大きいと示される参照画像を優先して、前記第1のプリフェッチ方式に決定することを特徴とする付記7に記載の動画像符号化方法。
(付記12)前記決定する処理は、前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲における縦方向の範囲が前記保持範囲を帯形状に保持する第1のプリフェッチ方式より前記保持範囲を箱形状に保持する第2のプリフェッチ方式の方が大きい場合、前記縮小画像の動きベクトルから動きベクトルの縦方向の成分の大きさを示す第3指標を前記参照画像毎に算出し、前記第3指標により動きベクトルの縦方向の成分の大きさがより大きいと示される参照画像を優先して、前記第2のプリフェッチ方式に決定することを特徴とする付記7に記載の動画像符号化方法。
(付記13)原画像と前記原画像の動きベクトルを検出する際に参照される複数の参照画像のそれぞれを縮小した縮小画像及び複数の縮小参照画像を利用して、前記原画像の動きベクトルを階層的に検出する動画像符号化プログラムであって、前記縮小画像及び前記縮小参照画像に基づいて、前記縮小画像の動きベクトルを検出し、前記検出の結果である縮小画像の動きベクトルに基づいて、前記参照画像毎のプリフェッチ方式を決定する、処理をコンピュータに実行させる動画像符号化プログラム。
100 動画像符号化装置
102 縮小動きベクトル検出部(検出手段)
103 プリフェッチ方式決定部(決定手段)
200 外部メモリ
102 縮小動きベクトル検出部(検出手段)
103 プリフェッチ方式決定部(決定手段)
200 外部メモリ
Claims (8)
- 原画像と前記原画像の動きベクトルを検出する際に参照される複数の参照画像のそれぞれを縮小した縮小画像及び複数の縮小参照画像を利用して、前記原画像の動きベクトルを階層的に検出する動画像符号化装置であって、
前記縮小画像及び前記縮小参照画像に基づいて、前記縮小画像の動きベクトルを検出する検出手段と、
前記検出手段の出力である縮小画像の動きベクトルに基づいて、前記参照画像毎のプリフェッチ方式を決定する決定手段と、
を有する動画像符号化装置。 - 前記決定手段は、前記縮小画像の動きベクトルを利用した前記原画像における符号化対象領域の探索範囲が前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲に収まっていない度合いに基づいて、前記参照画像毎のプリフェッチ方式を決定することを特徴とする請求項1に記載の動画像符号化装置。
- 前記決定手段は、前記度合いに基づいて、前記動画像符号化装置の外部に設けられた記憶装置とのアクセス量に関する第1指標を前記プリフェッチ方式毎及び前記参照画像毎に算出し、前記第1指標に基づいて、前記参照画像毎のプリフェッチ方式を決定することを特徴とする請求項2に記載の動画像符号化装置。
- 前記決定手段は、前記縮小画像の動きベクトルを利用した前記原画像における符号化対象領域の探索範囲を決める前記縮小画像の動きベクトルと前記探索範囲が前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲に収まる縮小画像の別の動きベクトルとを利用して、画質の劣化の度合いに関する第2指標を前記プリフェッチ方式毎及び前記参照画像毎に算出し、前記第2指標に基づいて、前記参照画像毎のプリフェッチ方式を決定することを特徴とする請求項1に記載の動画像符号化装置。
- 前記決定手段は、前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲における縦方向の範囲が前記保持範囲を帯形状に保持する第1のプリフェッチ方式と前記保持範囲を箱形状に保持する第2のプリフェッチ方式とにおいて等しい場合、前記縮小画像の動きベクトルから動きベクトルの横方向の成分の大きさを示す第3指標を前記参照画像毎に算出し、前記第3指標により動きベクトルの横方向の成分の大きさがより大きいと示される参照画像を優先して、前記第1のプリフェッチ方式に決定することを特徴とする請求項1に記載の動画像符号化装置。
- 前記決定手段は、前記参照画像のそれぞれにおけるプリフェッチ方式に応じた保持範囲における縦方向の範囲が前記保持範囲を帯形状に保持する第1のプリフェッチ方式より前記保持範囲を箱形状に保持する第2のプリフェッチ方式の方が大きい場合、前記縮小画像の動きベクトルから動きベクトルの縦方向の成分の大きさを示す第3指標を前記参照画像毎に算出し、前記第3指標により動きベクトルの縦方向の成分の大きさがより大きいと示される参照画像を優先して、前記第2のプリフェッチ方式に決定することを特徴とする請求項1に記載の動画像符号化装置。
- 原画像と前記原画像の動きベクトルを検出する際に参照される複数の参照画像のそれぞれを縮小した縮小画像及び複数の縮小参照画像を利用して、
前記原画像の動きベクトルを階層的に検出する動画像符号化方法であって、
前記縮小画像及び前記縮小参照画像に基づいて、前記縮小画像の動きベクトルを検出し、
前記検出の出力である縮小画像の動きベクトルに基づいて、前記参照画像毎のプリフェッチ方式を決定する、
処理を実行する動画像符号化方法。 - 原画像と前記原画像の動きベクトルを検出する際に参照される複数の参照画像のそれぞれを縮小した縮小画像及び複数の縮小参照画像を利用して、
前記原画像の動きベクトルを階層的に検出する動画像符号化プログラムであって、
前記縮小画像及び前記縮小参照画像に基づいて、前記縮小画像の動きベクトルを検出し、
前記検出の結果である縮小画像の動きベクトルに基づいて、前記参照画像毎のプリフェッチ方式を決定する、
処理をコンピュータに実行させる動画像符号化プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014110040A JP2015226199A (ja) | 2014-05-28 | 2014-05-28 | 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014110040A JP2015226199A (ja) | 2014-05-28 | 2014-05-28 | 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015226199A true JP2015226199A (ja) | 2015-12-14 |
Family
ID=54842688
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014110040A Pending JP2015226199A (ja) | 2014-05-28 | 2014-05-28 | 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015226199A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017183844A (ja) * | 2016-03-28 | 2017-10-05 | 富士通株式会社 | 画像圧縮装置、画像圧縮方法、及び画像圧縮プログラム |
JP2019532578A (ja) * | 2016-11-01 | 2019-11-07 | サムスン エレクトロニクス カンパニー リミテッド | 処理装置及びその制御方法 |
JP2021521753A (ja) * | 2018-06-14 | 2021-08-26 | テンセント・アメリカ・エルエルシー | 双方向予測動きベクトル精密化におけるメモリ帯域幅最適化技術 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008061151A (ja) * | 2006-09-04 | 2008-03-13 | Fujitsu Ltd | 動画像処理装置及びプリフェッチ制御方法 |
JP2008141288A (ja) * | 2006-11-30 | 2008-06-19 | Fujitsu Ltd | 動きベクトル検出装置および動きベクトル検出方法 |
JP2010527194A (ja) * | 2007-05-10 | 2010-08-05 | オルゴ エンベッデド システムズ プライベート リミテッド | 動的運動ベクトル分析方法 |
JP2012004710A (ja) * | 2010-06-15 | 2012-01-05 | Fujitsu Ltd | 動きベクトル検出回路、動画像符号化装置及び動きベクトル検出方法 |
US8411749B1 (en) * | 2008-10-07 | 2013-04-02 | Zenverge, Inc. | Optimized motion compensation and motion estimation for video coding |
JP2014042139A (ja) * | 2012-08-22 | 2014-03-06 | Fujitsu Ltd | 符号化装置、符号化方法、及びプログラム |
-
2014
- 2014-05-28 JP JP2014110040A patent/JP2015226199A/ja active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008061151A (ja) * | 2006-09-04 | 2008-03-13 | Fujitsu Ltd | 動画像処理装置及びプリフェッチ制御方法 |
JP2008141288A (ja) * | 2006-11-30 | 2008-06-19 | Fujitsu Ltd | 動きベクトル検出装置および動きベクトル検出方法 |
JP2010527194A (ja) * | 2007-05-10 | 2010-08-05 | オルゴ エンベッデド システムズ プライベート リミテッド | 動的運動ベクトル分析方法 |
US8411749B1 (en) * | 2008-10-07 | 2013-04-02 | Zenverge, Inc. | Optimized motion compensation and motion estimation for video coding |
JP2012004710A (ja) * | 2010-06-15 | 2012-01-05 | Fujitsu Ltd | 動きベクトル検出回路、動画像符号化装置及び動きベクトル検出方法 |
JP2014042139A (ja) * | 2012-08-22 | 2014-03-06 | Fujitsu Ltd | 符号化装置、符号化方法、及びプログラム |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017183844A (ja) * | 2016-03-28 | 2017-10-05 | 富士通株式会社 | 画像圧縮装置、画像圧縮方法、及び画像圧縮プログラム |
JP2019532578A (ja) * | 2016-11-01 | 2019-11-07 | サムスン エレクトロニクス カンパニー リミテッド | 処理装置及びその制御方法 |
JP2021521753A (ja) * | 2018-06-14 | 2021-08-26 | テンセント・アメリカ・エルエルシー | 双方向予測動きベクトル精密化におけるメモリ帯域幅最適化技術 |
JP7061729B2 (ja) | 2018-06-14 | 2022-04-28 | テンセント・アメリカ・エルエルシー | 双方向予測動きベクトル精密化におけるメモリ帯域幅最適化技術 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6193446B2 (ja) | ビデオコード化における係数の走査 | |
TWI556648B (zh) | 解碼影像的方法 | |
KR102121558B1 (ko) | 비디오 이미지의 안정화 방법, 후처리 장치 및 이를 포함하는 비디오 디코더 | |
JP5406222B2 (ja) | 連続的な動き推定を利用した映像符号化並びに復号化方法及び装置 | |
JP2017513342A (ja) | ゼロアウトされた係数を使用した低複雑な順変換のためのシステムおよび方法 | |
WO2010001916A1 (ja) | 画像処理装置および方法 | |
AU2015213343A1 (en) | Video decoder, video encoder, video decoding method, and video encoding method | |
KR102390162B1 (ko) | 데이터 인코딩 장치 및 데이터 인코딩 방법 | |
US20050276330A1 (en) | Method and apparatus for sub-pixel motion estimation which reduces bit precision | |
JP2012034213A (ja) | 画像処理装置、画像処理システムおよび画像処理方法 | |
JP4762938B2 (ja) | データ埋め込み装置、データ抽出装置、データ埋め込み方法およびデータ抽出方法 | |
AU2020201377B2 (en) | Video prediction encoding device, video prediction encoding method, video prediction encoding program, video prediction decoding device, video prediction decoding method, and video prediction decoding program | |
JP6224851B2 (ja) | 低複雑度符号化および背景検出のためのシステムおよび方法 | |
JP2013115583A (ja) | 動画像符号化装置及びその制御方法並びにプログラム | |
JP2015226199A (ja) | 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム | |
JP4686280B2 (ja) | 動画像符号化装置 | |
US8792549B2 (en) | Decoder-derived geometric transformations for motion compensated inter prediction | |
US20130208796A1 (en) | Cache prefetch during a hierarchical motion estimation | |
KR20130006578A (ko) | 비표준 벡터 양자화 코더를 이용한 비디오 표준을 따르는 레지듀얼 코딩 | |
KR20070000702A (ko) | 탐색영역 재설정을 이용한 고속 움직임 예측 장치 및 방법 | |
JP5832263B2 (ja) | 画像符号化装置及び画像符号化方法 | |
EP1683361B1 (en) | Power optimized collocated motion estimation method | |
WO2020129681A1 (ja) | 符号化装置及びプログラム | |
EP3281410A1 (en) | Efficient low-complexity video compression | |
JP2024510433A (ja) | ビデオ圧縮のための時間的構造ベースの条件付き畳み込みニューラルネットワーク |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170206 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20171128 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20171205 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20180605 |