JP5845750B2 - 画像符号化システム、画像符号化装置及び画像符号化プログラム - Google Patents

画像符号化システム、画像符号化装置及び画像符号化プログラム Download PDF

Info

Publication number
JP5845750B2
JP5845750B2 JP2011198719A JP2011198719A JP5845750B2 JP 5845750 B2 JP5845750 B2 JP 5845750B2 JP 2011198719 A JP2011198719 A JP 2011198719A JP 2011198719 A JP2011198719 A JP 2011198719A JP 5845750 B2 JP5845750 B2 JP 5845750B2
Authority
JP
Japan
Prior art keywords
block data
block
code amount
edge
code
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011198719A
Other languages
English (en)
Other versions
JP2013062613A (ja
Inventor
和仁 迫水
和仁 迫水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oki Electric Industry Co Ltd
Original Assignee
Oki Electric Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oki Electric Industry Co Ltd filed Critical Oki Electric Industry Co Ltd
Priority to JP2011198719A priority Critical patent/JP5845750B2/ja
Publication of JP2013062613A publication Critical patent/JP2013062613A/ja
Application granted granted Critical
Publication of JP5845750B2 publication Critical patent/JP5845750B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、画像符号化システム、画像符号化装置及び画像符号化プログラムに関するものであり、例えば、Slepian−Wolf理論およびWyner Ziv理論に基づき画像符号化を行なう画像符号化システム、画像符号化装置及び画像符号化プログラムに適用し得るものである。
画像符号化技術として、例えば、H.264/AVC等の標準化技術がある。これら標準化技術は、符号化装置が予測画像を生成し、符号化装置が、予測画像との差分信号を、直交変換、量子化、エントロピー符号化することで情報量を圧縮する。
これに対して、Slepian−Wolf理論及びWyner−Ziv理論に基づいて画像符号化技術は、復号装置のみが予測画像を生成し、符号化装置は予測画像を生成しない。
一般的に、予測画像の生成には、多くの計算量が必要であるから、Wyner−Ziv符号化を行なうことにより、符号化装置の計算量を削減することができる。
非特許文献1には、WZ符号化技術の全般について詳細に記載されている。一般的に、符号化装置は、Wyner−Ziv符号化を行なうWZ符号化手段と、キーフレーム符号化手段とを有する。
キーフレーム符号化手段は、例えば、JPEGやMPEG等のフレーム内符号化を行ない、その符号化データを復号装置に与えるものである。
WZ符号化手段は、フレーム間符号化を行なうものである。図14は、Slepian−Wolf理論及びWyner−Ziv理論に基づいて画像符号化を行なうWZ符号化部703の入出力関係を示すものである。
図14において、WZ符号化部703は、WZフレーム1が入力されると、WZフレームをWyner Ziv符号化(以下、WZ符号化)し、ビットストリーム2を生成して復号部に与える。
多くのWZ符号化技術は、WZ符号化部703が、原画像あるいはその変換係数を量子化し、量子化した原画像の誤り訂正符号を生成し、その誤り訂正符号を圧縮データとして取り扱う。
つまり、予測画像の生成は、原則として、復号装置のみが行なう。そして、復号装置が、生成した予測画像に含まれる誤りを、符号化装置からの誤り訂正符号によって訂正することで復号を行なう。
このように、WZ符号化技術の場合、予測画像の生成処理を符号化装置が行なわないことで、符号化装置の計算量を削減することができる。以降では、WZ符号化技術における予測画像をSide Informationとも称して説明する。
ところで、一般的に、WZ符号化技術は、Side Infomationの精度に応じた符号量制御が求められる。
例えば、Side Informationの精度が低い(すなわち、誤り率が高い)領域を復号するためには、より多くの符号が必要である。もし符号量が不足していた場合、正しく復号されない可能性があるからである。
一方、Side Informationの精度が高い(すなわち、誤り率が低い)領域を復号するためには、多くの符号を必要とせず、多くの符号を割り当てたとしても、適量の符号量の場合と比べて、復号画像の品質が高くなることはない。つまり、符号が有効には利用されず、無駄になるためである。
上述の理由から、WZ符号化技術において、Side Informationの精度に応じた符号量制御ができなければ、符号化効率の低下が生じ得る。
しかし、WZ符号化技術には、Side Informationの精度に応じた符号量制御が困難であるという問題がある。
なぜならば、上述したとおり、Side Informationを符号化装置が生成しないことに起因する符号化装置の計算量削減効果を実現するためには、WZ符号化器703が、復号装置と同じSide Informationを生成する機能を追加することはできないためである。
標準化技術の場合、復号装置と同等の予測画像を生成する機能を符号化装置に追加することで、符号化装置が、Side Informationの精度に応じた符号量制御を実現することは容易である。
しかし、WZ符号化技術の場合、WZ符号化部がSide Infomationを生成する機能を追加できないので、標準化技術と同じアプローチを採用することはできない。
Side Informationの精度に応じた符号量制御を実現するために、(1)エンコーダサイド符号量制御技術(非特許文献2)や、(2)簡易Side Informationの生成技術(非特許文献3)が提案されている。
非特許文献2の記載技術は、復号装置からフィードバックされる原画像とSide Informationとの関係の過去の傾向(母数)から符号量を推定する技術である。
また、非特許文献3の記載技術は、符号化装置の計算量を削減しながら、符号化装置がSide Informationの生成を行なうものである。
B.Girod,a M.Aaron,S.Rane,and D.Rebollo−Monedero,"Distributed Video Coding",Proceedings of the IEEE,vol.93,Jan.2005,pp.71−83. D.Kubasov,K.Lajnef,and C.Guillemot,"A Hybrid Encoder/Decoder Rate Control for Wyner−Ziv Video Coding with a Feedback Channel",2007 IEEE 9th Workshop on Multimedia Signal Processing,2007,pp.251−254. C.Brites and F.Pereira,"Encoder rate control for transform domain Wyner−Ziv video coding",Image Processing,2007.ICIP 2007,IEEE International Conference on,IEEE,2007,pp.4−7.
しかしながら、非特許文献2の記載技術は、復号装置からフィードバックされる原画像とSide Informationとの関係の過去の傾向(母数)から符号量を推定するものであるため、必ずしも符号化対象フレームに最適化された符号量を求めることはできず、符号量が不足したり過剰になったりすることが起こり得る。
また、非特許文献3の記載技術は、符号化装置が動き推定などの高負荷処理を伴うため、計算量の増加は避けられない上、動き推定などの処理が大幅に簡略化しているため、必ずしも符号化対象フレームに最適化された符号量を求めることはできず、符号量が不足したり過剰になったりすることが起こり得る。
さらに、上述の課題を解決するために、復号可能になるまで、復号部がWZ符号の再送を要求するフィードバックアプローチも提案されている(非特許文献1参照)。
しかし、復号可能になるまで、「WZ符号の追加要求、WZ符号の追加、復号」の処理を繰り返すため、例えば、リアルタイムの画像配信・蓄積システム等の現実的なシステムに適用することが困難である。
その上、WZ符号(誤り訂正符号)を全く割り当てなかった領域あるいはビットプレーンに関しては、符号量の追加を要求するべきかどうかを判断する方法がないため、Side Informationの精度に応じた符号量を割り当てることができず、やはり符号量不足が起こり得る。
以上のように、従来の符号量制御技術又はこれら従来技術の組み合わせ技術は、Side Informationの精度に応じた符号量を割り当てることができず、符号量不足あるいは過剰が起こりうるという問題がある。
また、符号化装置あるいは復号装置の計算量が増加し、例えば、リアルタイム配信・蓄積システム等の現実的なシステムへの適用が困難になる場合もある。
そこで、本発明は、符号化装置において、低演算量で予測画像(Side Information)の精度を推定し、既存の符号量制御技術で生じる符号量不足領域(符号量を追加したときに、追加した符号が有効に活用される領域)を発見し、その領域の符号量を追加する手段を与えることで、既存の符号量制御技術で生じる符号量不足を補おうとするものである。
言い換えれば、本発明は、予測画像(Side Information)の精度に応じた符号量制御を可能にすることで、WZ符号化技術の符号化効率を改善しようとするものである。
かかる課題を解決するために、第1の本発明は、(1)入力された画像フレームを任意サイズの複数のブロックに分割し、各ブロックのブロックデータを生成するブロック生成手段と、(2)各ブロックデータに対応する予測画像の精度を推定する予測画像精度推定手段と、(3)予測画像精度推定手段により各ブロックデータに対応する予測画像の精度が閾値より低い場合に、当該ブロックデータに関する符号量追加信号を出力する符号量追加判断手段と、(4)入力された各ブロックデータに基づいてWyner−Ziv符号化処理を行ない、WZ符号を生成するものであって、ブロックデータに関する符号量追加信号が与えられると、当該ブロックデータに基づいて追加符号を生成して、WZ符号に追加符号を追加して出力する符号化手段とを備え、符号化手段が、ブロックデータに関する符号量追加信号が与えられると、予め定められた符号量のWZ符号を追加符号として追加するものであることを特徴とする画像符号化システムである。
第2の本発明は、(1)入力された画像フレームを任意サイズの複数のブロックに分割し、各ブロックのブロックデータを生成するブロック生成手段と、(2)各ブロックデータに対応する予測画像の精度を推定する予測画像精度推定手段と、(3)予測画像精度推定手段により各ブロックデータに対応する予測画像の精度が閾値より低い場合に、当該ブロックデータに関する符号量追加信号を出力する符号量追加判断手段と、(4)入力された各ブロックデータに基づいてWyner−Ziv符号化処理を行ない、WZ符号を生成するものであって、ブロックデータに関する符号量追加信号が与えられると、当該ブロックデータに基づいて追加符号を生成して、WZ符号に追加符号を追加して出力する符号化手段とを備え、符号化手段が、ブロックデータに関する符号量追加信号が与えられると、予め定められた符号量のWZ符号を追加符号として追加するものであることを特徴とする画像符号化装置である。
第3の本発明は、コンピュータを、(1)入力された画像フレームを任意サイズの複数のブロックに分割し、各ブロックのブロックデータを生成するブロック生成手段、(2)各ブロックデータに対応する予測画像の精度を推定する予測画像精度推定手段、(3)予測画像精度推定手段により各ブロックデータに対応する予測画像の精度が閾値より低い場合に、当該ブロックデータに関する符号量追加信号を出力する符号量追加判断手段、(4)入力された各ブロックデータに基づいてWyner−Ziv符号化処理を行ない、WZ符号を生成するものであって、ブロックデータに関する符号量追加信号が与えられると、当該ブロックデータに基づいて追加符号を生成して、WZ符号に上記追加符号を追加して出力する符号化手段として機能させ、符号化手段が、ブロックデータに関する符号量追加信号が与えられると、予め定められた符号量のWZ符号を追加符号として追加することを特徴とする画像符号化プログラムである。
本発明は、予測画像(Side Information)の精度に応じて符号量を制御することができ、WZ符号化技術の符号化効率を向上させることができる。
第1の実施形態のWyner−Ziv符号化手段の内部構成を示すブロック図である。 第1の実施形態のWyner−Ziv符号化手段による符号化処理の動作を示すフローチャートである。 動き補償のフレーム補間によりSide Informationを生成する場合の処理を説明する説明図である。 第2の実施形態のWyner−Ziv符号化手段の内部構成を示すブロック図である。 第2の実施形態のWyner−Ziv符号化手段による符号化処理の動作を示すフローチャートである。 第3の実施形態のWyner−Ziv符号化手段の内部構成を示すブロック図である。 第3の実施形態のWyner−Ziv符号化手段による符号化処理の動作を示すフローチャートである。 第4の実施形態のWyner−Ziv符号化手段の内部構成を示すブロック図である。 第4の実施形態のWyner−Ziv符号化手段による符号化処理の動作を示すフローチャートである。 第5の実施形態のWyner−Ziv符号化手段の内部構成を示すブロック図である。 第5の実施形態のWyner−Ziv符号化手段による符号化処理の動作を示すフローチャートである。 第6の実施形態のWyner−Ziv符号化手段の内部構成を示すブロック図である。 第6の実施形態のWyner−Ziv符号化手段による符号化処理の動作を示すフローチャートである。 Slepian−Wolf理論及びWyner−Ziv理論に基づいて画像符号化を行なうWZ符号化部の入出力関係を示すものである。 実施形態に係る画像符号化装置の全体構成を示す全体構成図である。
(A)第1の実施形態
以下では、本発明の画像符号化システムの第1の実施形態を、図面を参照しながら詳細に説明する。
(A−1)第1の実施形態の構成
図15は、実施形態に係る画像符号化装置の全体構成を示す全体構成図である。図15において、画像符号化装置9は、例えば、CPU、ROM、RAM、EEPROM、ハードディスク、入出力インタフェース等を有する回路装置からなるものである。画像符号化装置9の機能は、例えば、CPUが、ROMに格納される処理プログラムを実行することにより実現されるものである。このROMに格納される処理プログラムは、ROM等に予めインストールされているものであってもよいし、ネットワークを通じてダウンロードしたものをインストールされたものであってもよい。
図15において、画像符号化装置9は、Wyner−Zivフレーム符号化手段91、キーフレーム符号化手段92を有する。
キーフレーム符号化手段92は、例えば、JPEGやMPEG等のフレーム内符号化を行ない、その符号化データ(例えば、Iフレーム)を復号装置に与えるものである。
Wyner−Ziv符号化手段91は、フレーム間符号化処理を行なうものである。Wyner−Ziv符号化手段91は、例えば、Wyner−Zivフレーム(非キーフレーム:以下、WZフレームともいう)を入力し、原画像、あるいは変数係数領域に変換した後、帯域毎に量子化(2MK Level Quantizer)し、その量子化値に基づく各ビットの情報を、例えば、1フレーム分集めた情報(Extract bit−planes)毎にSlepian−Wolf符号化(例えば、低密度パリティ検査符号、ターボ符号化)を行なう。そして、Wyner−Ziv符号化手段91は、その結果のうち、誤り訂正符号(例えば、パリティビット)のみを復号装置に与えるものである。なお、このWZ符号化技術により生成される符号をWZ符号という。
図1は、第1の実施形態のWyner−Ziv符号化手段91の内部構成を示すブロック図である。
図1において、Wyner−Ziv符号化手段91は、ブロック生成部101、符号量追加判断部102、WZ符号化部103を少なくとも有する。
ブロック生成部101は、入力されたWZフレーム1を任意のサイズのブロックに分割し、各ブロックのブロックデータ11をWZ符号化部103及び符号量追加判断部102に与えるものである。
なお、ブロック生成部101の接続態様を説明する。ブロック生成部101は、WZフレーム1を入力する入力部と、ブロックデータ11を出力する出力部とを備え、出力部は、符号量追加判断部102及びWZ符号化部103に接続する。
符号量追加判断部102は、ブロック生成部101から各ブロックのブロックデータ11を入力し、入力されたブロックデータ11に対応するSide Information(予測画像)の精度を推定するものである。
また、符号量追加判断部102は、Side Informationの精度が低いと判断した場合には、符号量追加信号12をWZ符号化部103に与えるものである。
なお、符号量追加判断部102の接続態様を説明する。符号量追加判断部102は、ブロックデータ11を入力する入力部と、符号量追加信号12を出力する出力部とを備える。入力部はブロック生成部101と接続し、出力部はWZ符号化部103と接続する。
符号量追加判断部102は、図1に示すように、エッジ抽出部104、エッジ強度判断部105を有する。
エッジ抽出部104は、ブロック生成部101からのブロックデータ11に含まれる画像領域の境界(エッジ)を抽出し、エッジデータ13としてエッジ強度判断部105に与えるものである。すなわち、エッジ抽出部104は、ブロックデータ11に基づいて、当該ブロックの画像の中にある領域の境界を抽出するものである。このエッジ抽出部104によるエッジ抽出方法の詳細な説明は、動作の項で詳細に説明する。
なお、エッジ抽出部104の接続態様を説明する。エッジ抽出部104は、ブロックデータ11を入力する入力部と、エッジデータ13を出力する出力部を備え、入力部はブロック生成部101と接続し、出力部はエッジ強度判断部105と接続する。
エッジ強度判断部105は、エッジ抽出部104からのエッジデータ13に基づいて、当該ブロックデータ11に含まれるエッジの強度を判断するものである。例えば、エッジ強度判断部105は、ブロックの画像の中にある領域の境界の画素値の大きさを判断するものである。
そして、エッジ強度判断部105は、ブロックデータ11に含まれるエッジの強度が閾値以上の場合に、符号量追加信号12をWZ符号化部103に出力するものである。なお、エッジ強度判断部105によるエッジ強度の判断方法の詳細な説明は、動作の項で詳細に説明する。
なお、エッジ強度判断部105の接続態様を説明する。エッジ強度判断部10は、エッジデータ13を入力する入力部と、符号量追加信号12を出力する出力部を備え、入力部はエッジ抽出部104と接続し、出力部はWZ符号化部103と接続する。
WZ符号化部103は、ブロック生成部101からのブロックデータに基づいて、各ブロックについてWZ符号化処理を行なうものである。すなわち、WZ符号化部103は、まず、各ブロックについてベースの符号量とするWZ符号化処理を行なう。
ここで、WZ符号化部103によるWZ符号化処理は、既存のWZ符号化処理を適用することができる。例えば、WZ符号化部103は、入力されたブロックのブロックデータを各帯域毎に量子化し、その量子化により2値化されたビット情報をブロック毎にSlepian−Wolf符号化を行なう。そして、WZ符号化部103は、Slepian−Wolf符号化の結果に基づいてWZ符号(誤り訂正符号)を求める。
WZ符号化部103が利用するWZ符号は、種々のものを適用することができるが、例えば、LDPCA(低密度パリティ検査:Low Density Parity Check Accumulactive)符号やターボ符号等の誤り訂正符号を適用することができる。
また、WZ符号化部103は、符号量追加判断部102から符号量追加信号12が与えられると、そのブロックについて所定量の追加のWZ符号を生成し、その生成したWZ符号をベースのWZ符号に追加して出力するものである。なお、WZ符号化部103による追加するWZ符号の符号量の決定方法は、動作の項で詳細に説明する。
なお、WZ符号化部103の接続態様を説明する。WZ符号化部103は、ブロックデータ11及び符号量追加信号12を入力する入力部と、ビットストリーム2を出力する出力部とを備え、ブロックデータ11を入力する入力部はブロック生成部101と接続し、符号量追加信号12を入力する入力部は、符号量追加判断部102と接続する。
(A−2)第1の実施形態の動作
次に、第1の実施形態のWyner−Ziv符号化手段91における符号化処理について図面を参照しながら説明する。
第1の実施形態では、ブロックデータ11のエッジ強度が高い場合、Side Informationの精度が低くなると仮定し、エッジ強度が閾値以上の場合に、Wyner−Ziv符号化手段91が符号量制御を行なう。
上記仮定を利用する理由を、図3を用いて説明する。図3は、動き補償のフレーム補間によりSide Informationを生成する場合の処理を説明する説明図である。
Motion Compensated Interpolation(動き補償によるフレーム補間)では、「Previous Frame」と「Next Frame」を用いて、Current Frameの予測画像、つまりSide Informationを生成する。
Motion Compensated InterpolationによるSide Informationを生成する技術については、例えば、参考文献1「J.Ascenso,C.Brites,and F.Pereira,“Improving frame interpolation with spatial motion smoothing for pixel domain distributed video coding”,5th EURASIP Conference on,2005,pp.1−6.」に記載されている。
Motion Compensated Interpolationでは、「Forward Motion Vector」と「Backward Motion Vector」が対称であることを仮定して、Side Informationを生成する。
WZ符号化技術では、復号装置は、Current Frameに関する情報が全く、あるいはほとんど無い状態で、Current Frameを推定することになる。そのため、復号装置は、Motion Compensated Interpolationを用いる場合に限らず、前記のように何らかのモデルを用いてCurrent Frameを推定することになるのがほとんどである。
例えば、Motion Compensated Interpolationの場合、物体が等速直線運動していることを仮定しているわけであるが、世の中の物体は必ずしも等速直線運動しているわけではない。
従って、前記のようなモデルは常時適合されるものではなく、適合しない場合、特にエッジが含まれる領域で、しばしば推定誤差が発生する。
図3のように、あるブロックが、Previous Frameのとき「位置A」にあり、Current Frameのとき「位置B」にあり、Next Frameのとき「位置C」にあるという状況とする。
この状況で、Current Frameの「位置B」のSide Informationを生成したい場合、本来は、Previous Frameの「位置A」のブロックとNext Frameの「位置C」のブロックとで、それぞれの画素値を平均すると、精度の高いSide Informationを生成することができる。
しかし、Motion Compensated Interpolationの仮定モデルに基づいて、Side Informationを生成する場合は、Forward Motion VectorとBackward Motion Vectorとが対称であることを仮定するので、Previous Frameの「位置A」のブロックとNext Frameの「位置D」のブロックとで、それぞれの画素値を平均することになる。
もし、ブロック内にエッジが含まれていた場合に、Next Frameの「位置C」と「位置D」とに全く同じエッジが存在することは稀であり、その差がSide Informationの推定誤差となって現れてくる。
上記のことから、ブロックデータ11にエッジ強度が高い場合には、Side Informationの精度が低くなると仮定することができ、WZ符号化手段91は、エッジ強度の高いブロックデータ11について符号量を追加するようにする。
図2は、第1の実施形態のWyner−Ziv符号化手段91による符号化処理の動作を示すフローチャートである。
まず、ステップS101では、WZフレーム1がブロック生成部101に入力される。ブロック生成部101では、WZフレーム1が任意のブロックサイズの複数のブロックに分割される。そして、ブロック生成部101により各ブロックのブロックデータ11が生成される。
以下では、分かり易く説明するために、各ブロックのブロックデータ毎の符号化処理を説明する。
ステップS102では、ブロック生成部101により生成されたブロックデータ11が、符号量追加判断部102のエッジ抽出部104に与えられる。エッジ抽出部104は、入力されたブロックデータ11に基づいてエッジデータ13を生成する。
ここで、画像における領域の境界(エッジ)は、隣接画素に比べて画素値(輝度値)が大きく変化する。従って、画素値の変化を検出するために、エッジ抽出部104は、例えば、微分フィルタ、Prewittフィルタ、Sobelフィルタ、二次微分フィルタなどを適用することができる。
また、低演算量なエッジ抽出方法として、エッジ抽出部104は、例えば、隣接画素間の画素値の差の絶対値が予め定められた閾値以上の場合に「1」、隣接画素間の画素値の差の絶対値が予め定められた閾値未満の場合に「0」というように、隣接画素間の画素値の差の絶対値を示す値を出力するフィルタを適用するようにしてもよい。
ステップS103では、エッジ強度判断部105が、エッジデータ13に基づいて、ブロックデータ11のエッジ強度を計算する。そして、求められたブロックデータ11のエッジ強度が閾値以上の場合、エッジ強度判断部105は、ブロックデータ11に対応するSide Informationの精度が低いと判断して符号量追加信号12を出力する。
ここで、エッジ強度判断部105がブロックデータ11のエッジ強度の求める方法は、種々の方法を広く適用することができる。例えば、エッジ強度判断部105は、(1)エッジデータ13に含まれる画素毎のエッジの強度(画素値)の絶対値の総和を求める方法を適用してもよいし、(2)エッジデータ13に含まれる画素毎のエッジの強度の絶対値の平均値を求める方法を適用するようにしてもよいし、(3)エッジデータ13に含まれる画素毎のエッジの強度の絶対値の最大値あるいは最小値を求める方法を適用するようにしてもよい。
ステップS104で、WZ符号化部103は、入力されたブロックデータ11に基づいて、まずは、当該ブロックのベースの符号量でWZ符号を生成する。また、WZ符号化部103は、エッジ強度判断部105から符号量追加信号12を受け取ると、追加のWZ符号を生成する。
ここで、WZ符号化部103によるWZ符号の追加方法は、追加が必要なブロックについて、追加生成したWZ符号の符号量を追加する方法であれば、種々の方法を広く適用することができる。例えば、WZ符号化部103は、(1)予め定められた符号量のWZ符号(誤り訂正符号)を生成し、その生成した予め定められた符号量のWZ符号を追加するようにしてもよいし、(2)量子化処理あるいは既存の符号量制御技術によって削減されていた下位ビット若しくは下位ビットプレーンをWZ符号化して追加のWZ符号とするようにしてもよい。
上記(2)の量子化処理によって削減されていた下位ビット若しくは下位ビットプレーンをWZ符号化して追加のWZ符号とする場合、追加のWZ符号の符号量は、ベースの符号量の計算と同様に、既存のWZ符号化部103の符号量制御手段を用いて決定することができる。
(A−3)第1の実施形態の効果
以上のように、第1の実施形態によれば、ブロック内のエッジ強度に基づいて符号量を割り当てることで、Side Informationの精度に応じた符号量を割り当てができるようになり、符号化効率が向上する。
(B)第2の実施形態
次に、本発明の画像符号化システムの第2の実施形態について図面を参照しながら説明する。
(B−1)第2の実施形態の構成
第2の実施形態が、第1の実施形態と異なる点は、Wyner−Ziv符号化手段91の構成である。そこで、以下では、第2の実施形態の特徴的な構成要素の構成を詳細に説明する。
図4は、第2の実施形態のWyner−Ziv符号化手段91の構成を示す構成図である。
図4において、第2の実施形態のWyner−Ziv符号化手段91は、ブロック生成部101、符号量追加判断部202、WZ符号化部103、参照ブロック生成部206を有する。
ブロック生成部101は、WZフレーム1を任意のブロックサイズのブロックに分割し、各ブロックのブロックデータ11を、WZ符号化部103及び符号量追加判断部202に与えるものである。
参照ブロック生成部206は、参照フレーム3を入力し、その参照フレーム3をブロック生成部101によるブロックサイズで分割して、参照ブロックデータ21を符号量追加判断部202に与えるものである。
ここで、参照フレーム3は、WZフレーム1より時間的に前又は後に位置するフレームを用いることができる。例えば、参照フレーム3は、キーフレームのローカルデコードフレームを利用することができる。例えば、キーフレーム符号化手段92が復号したキーフレームを用いるようにしてもよい。
符号量追加判断部202は、ブロックデータ11と参照ブロックデータ21とに基づいて、ブロックデータ11に対応するSide Informationの精度を推定するものである。また、符号量追加判断部202は、Side Informationの精度が低いと判断した場合は、符号量追加信号12をWZ符号化部103に与えるものである。
符号量追加判断部202は、図4に示すように、エッジ抽出部104、エッジ強度判断部205、参照エッジ抽出部207を有する。
エッジ抽出部104は、ブロックデータ11に基づいて、当該ブロックに含まれる画像の領域の境界(エッジ)を抽出し、そのエッジデータ13をエッジ強度判断部205に与えるものである。なお、エッジ抽出部104によるエッジ抽出方法は第1の実施形態で説明した方法を適用できる。
参照エッジ抽出部207は、参照ブロック生成部206からの参照ブロックデータ21に基づいて、当該参照ブロックに含まれる画像の領域の境界(エッジ)を抽出し、その参照エッジデータ22をエッジ強度判断部205に与えるものである。なお、参照エッジ抽出部207によるエッジ抽出方法は、エッジ抽出部104と同じ方法を適用することができる。
エッジ強度判断部205は、エッジデータ13と参照エッジデータ22とに基づいて、ブロックデータ11に含まれる動きのあるエッジの強度を計算し、ブロックデータ11のエッジの強度が閾値以上の場合に、符号量追加信号12をWZ符号化部103に与えるものである。
WZ符号化部103は、ブロックデータ11に基づいて、まずは当該ブロックのベースの符号量でWZ符号を生成し、符号量追加信号12が入力されたときは、追加のWZ符号を生成してビットストリーム2を出力するものである。
(B−2)第2の実施形態の動作
図5は、第2の実施形態のWyner−Ziv符号化手段91における符号化処理の動作を示すフローチャートである。
ステップS101では、第1の実施形態と同様に、ブロック生成部101により各ブロックのブロックデータ11が生成される。
ステップS102では、第1の実施形態と同様に、エッジ抽出部104が、入力されたブロックデータ11に基づいてエッジデータ13を生成される。
ステップS201では、参照フレームが参照ブロック生成部206に入力される。参照ブロック生成部206は、ブロック生成部101と同じブロックサイズで参照フレームを分割して、参照ブロックデータ21を生成する。
ステップS202では、参照エッジ抽出部207が、参照ブロックデータ21に基づいて、当該参照ブロックに含まれている画像領域の境界を抽出して、参照エッジデータ22を生成する。
ステップS203では、エッジ強度判断部205が、エッジデータ13と参照エッジデータ22とに基づいて、ブロックデータ11において動きのあるエッジの強度を計算し、ブロックデータ11の動きのあるエッジの強度が閾値以上の場合には、対応するSide Informationの精度が低いと判断して符号量追加信号12をWZ符号化部103に与える。
ここで、エッジ強度判断部205は、当該ブロックにおいて動きのあるエッジの強度を判断するものである。
これは、当該ブロックに画像領域のエッジが多く含まれている場合でも、当該ブロックにおいてほとんど動かないものである場合には、Side Informationの精度は高くなり得る。
そこで、第2の実施形態では、エッジ強度判断部205が、WZフレーム1のブロックのエッジデータ13と、当該WZフレームの前又は後の参照フレームの対応する参照ブロックの参照エッジデータ22とを比較して、当該ブロックにおいて動きのあるエッジであるか否かを判断する。
ここで、動きのあるエッジ強度であるか否かの判断方法は、例えば、(1)エッジデータ13に含まれる画素毎のエッジの強度と、参照エッジデータ22に含まれる画素毎のエッジの強度との差分の絶対値の総和を求める方法を適用したり、(2)エッジデータ13に含まれる画素毎のエッジの強度と、参照エッジデータ22に含まれる画素毎のエッジの強度との差分の絶対値の平均値を求める方法を適用したり、(3)エッジデータ13に含まれる画素毎のエッジの強度と、参照エッジデータ22に含まれる画素毎のエッジの強度との差分の絶対値の最大値あるいは最小値等を用いる方法等を適用できる。
ステップS104では、第1の実施形態と同様に、WZ符号化部103が、入力されたブロックデータ11に基づいて、まずは、当該ブロックのベースの符号量でWZ符号を生成し、エッジ強度判断部105から符号量追加信号12を受け取タ場合には、第1の実施形態と同様にしてWZ符号を追加したものを生成する。
(B−3)第2の実施形態の効果
以上のように、第2の実施形態によれば、第1の実施形態の効果に加えて、フレーム間で動きのあるエッジの強度を用いることができるので、Side Informationの精度に応じた符号量制御を更に正確に行なうことができる。
なぜならば、たとえ、あるブロックに多くのエッジが含まれていたとしても、そのブロックに動きがほとんどない場合は、Side Informationの精度は高くなるという事実も利用した符号量制御になっているためである。
また、第1の実施形態によれば、Side Informationの精度に応じた符号量制御が更に正確になることで、符号化効率が改善する。
(C)第3の実施形態
次に、本発明の画像符号化システムの第3の実施形態について図面を参照しながら詳細に説明する。
(C−1)第3の実施形態の構成
第3の実施形態が、第1の実施形態と異なる点は、Wyner−Ziv符号化手段91の構成である。そこで、以下では、第3の実施形態の特徴的な構成要素の構成を詳細に説明する。
図6は、第3の実施形態のWyner−Ziv符号化手段91の構成を示す構成図である。
図6において、第3の実施形態のWyner Ziv符号化手段91は、ブロック生成部101、符号量追加判断部302、WZ符号化部303、事前判断部308を有する。
ブロック生成部101は、入力されたWZフレーム1を任意サイズの複数のブロックに分割し、各ブロックのブロックデータ11をWZ符号化部303及び符号量追加判断部302に与えるものである。
事前判断部308は、WZ符号化部303がブロックデータ11の符号化制御に係る符号量であるレート31に基づいて、符号量が不足するブロックを事前に判断するものである。また、事前判断部308は、レート31が予め定められた閾値以上の場合、事前判断信号32を符号量追加判断部302に与えるものである。
符号量追加判断部302は、事前判断信号32が入力されたときに、ブロック生成部101からのブロックデータ11に基づいて、対応するSide Informationの精度を推定するものである。また、符号量追加判断部302は、Side Informationの精度が低いと判断した場合は、符号量追加信号12をWZ符号化部303に与えるものである。
WZ符号化部303は、ブロックデータ11に基づいて、当該ブロック領域のベースとなる符号量でWZ符号を生成する。このとき、WZ符号化部303は、生成したWZ符号の全部又は一部の符号量をレート31として事前判断部308に与えるものである。
また、WZ符号化部303は、符号量追加判断部302から符号量追加信号12を受けた場合には、追加のWZ符号を生成してビットストリーム2として出力するものである。
(C−2)第3の実施形態の動作
図7は、第3の実施形態のWyner−Ziv符号化手段91における符号化処理の動作を示すフローチャートである。
ステップS101では、第1の実施形態と同様に、ブロック生成部101によりブロックデータ11が生成される。
ステップS301では、ブロック生成部101により生成されたブロックデータ11が、WZ符号化部303に与えられる。WZ符号化部303は、入力されたブロックデータ11に基づいて、当該ブロック領域についてベースの符号量で符号化を行なう。
また、WZ符号化部303は、当該ブロック領域のベースの符号量の全部又は一部をレート31として、事前判断部308に与える。
ここで、レート31は、WZ符号化部303がブロックデータ11について行なう符号化制御に係る符号量である。レート31は、例えば、(1)WZ符号部303が出力するブロックデータ11のベースの符号量としたり、(2)WZ符号部303が出力するブロックデータ11の最下位ビットプレーンのベースの符号量等としたりすることができる。
ステップS302では、事前判断部308が、WZ符号化部303からのレート31が予め定められた閾値以上の場合には、事前判断信号32を符号量追加判断部302に与える。
つまり、事前判断部308は、レート31に基づいて符号量の多いブロック領域を符号量追加判断部302に通知することができる。これにより、符号量の多いブロック領域についてのみ、符号量追加判断部302による符号量追加の判断をさせることができる。
ステップS303では、事前判断信号32が符号量追加判断部302に入力されると、符号量追加判断部302は、ブロックデータ11に対応するSide Informationの精度を推定するものである。すなわち、符号量追加判断部302は、事前判断信号32が入力されたときのみ、Side informationの精度を推定する。その結果、計算量を削減するができる。
また、符号量追加判断部302は、Side Informationの精度が低いと判断した場合に、符号量追加信号12をWZ符号化部303に与える。
ここで、符号量追加判断部302によるSide Informationの精度の判断方法は、第1の実施形態の符号量追加判断部102の判断方法を適用することができる。
ステップS304では、符号量追加信号12がWZ符号化部303に与えられると、WZ符号化部303は、対応するブロックデータのWZ符号を追加して生成し、この追加したWZ符号を出力する。
(C−3)第3の実施形態の効果
以上のように、第3の実施形態によれば、WZ符号化部の出力するレートが予め定められた閾値以上である場合にのみ、符号量追加判断部におけるSide Informationの精度を推定する処理を実行することで、計算量を削減する。
これは、従来の符号量制御技術は、符号量不足あるいは過剰を起こし得るが、まったく相関のない推定を行なうわけではない。
そのため、レートを用いて符号量が不足する可能性の高い領域を限定し、符号量が不足する可能性が高い領域でのみ、符号量追加判断部における処理を行なうことで、符号化効率の低下を抑制しながら計算量を削減することができる。
(D)第4の実施形態
次に、本発明の画像符号化システムの第4の実施形態について図面を参照しながら詳細に説明する。
(D−1)第4の実施形態の構成
第4の実施形態が、第1の実施形態と異なる点は、Wyner−Ziv符号化手段91の構成である。そこで、以下では、第4の実施形態の特徴的な構成要素の構成を詳細に説明する。
図8は、第4の実施形態のWyner−Ziv符号化手段91の構成を示す構成図である。
図8において、第4の実施形態のWyner−Ziv符号化手段91は、ブロック生成部101、符号量追加判断部402、WZ符号化部303、事前判断部308、参照ブロック生成部406を有する。
ブロック生成部101は、WZフレーム1を任意サイズの複数のブロックに分割し、各ブロックのブロックデータ11をWZ符号化部303及び符号量追加判断部402に与えるものである。
事前判断部308は、WZ符号化部30からレート31を受け取り、レート31が予め定められた閾値以上の場合に、事前判断信号32を、符号量追加判断部402及び参照ブロック生成部406に与えるものである。
参照ブロック生成部406は、事前判断信号32が入力されたときに、参照フレームを、ブロック生成部101と同じサイズのブロックに分割し、参照ブロックデータ21を符号量追加判断部402に与えるものである。
符号量追加判断部402は、事前判断信号32が入力されたときに、参照ブロック生成部406からの参照ブロックデータ21とブロックデータ11とに基づいて、対応するSide Informationの精度を推定し、Side Informationの精度が低いと判断した場合に、符号量追加信号12をWZ符号化部303に与えるものである。
WZ符号化部303は、ブロックデータ11に基づいて、当該ブロック領域のベースとなる符号量でWZ符号を生成する。このとき、WZ符号化部303は、生成したWZ符号の全部又は一部の符号量をレート31として事前判断部308に与えるものである。
また、WZ符号化部303は、符号量追加判断部302から符号量追加信号12を受けた場合には、追加のWZ符号を生成してビットストリーム2として出力するものである。
(D−2)第4の実施形態の動作
図7は、第3の実施形態のWyner−Ziv符号化手段91における符号化処理の動作を示すフローチャートである。
ステップS101では、第1の実施形態と同様に、ブロック生成部101によりブロックデータ11が生成される。
ステップS301では、WZ符号化部303が、入力されたブロックデータ11に基づいて当該ブロック領域についてベースの符号量で符号化を行なう。
また、WZ符号化部303は、当該ブロック領域のベースの符号量の全部又は一部をレート31として、事前判断部308に与える。
なお、レート31は、第3の実施形態と同様に、例えば、(1)WZ符号部303が出力するブロックデータ11のベースの符号量としたり、(2)WZ符号部303が出力するブロックデータ11の最下位ビットプレーンのベースの符号量等としたりすることができる。
ステップS302では、事前判断部308が、WZ符号化部303からのレート31が予め定められた閾値以上の場合には、事前判断信号32を符号量追加判断部402及び参照ブロック生成部406に与える。
つまり、事前判断部308は、レート31に基づいて符号量の多いブロック領域を符号量追加判断部302に通知することができる。これにより、符号量の多いブロック領域についてのみ、符号量追加判断部402及び参照ブロック生成部406による処理計算量を削減することができる。
ステップS401では、事前判断信号32が参照ブロック生成部406に入力されると、参照ブロック生成部406は、入力された参照ブロックを、ブロック生成部101と同じブロックサイズで参照フレームを分割して、参照ブロックデータ21を生成する。
ステップS402では、事前判断信号32が符号量追加判断部402に入力されると、符号量追加判断部402が、ブロックデータ11と参照ブロックデータ21とに基づいて、Side Informationの精度を推定し、Side Informationの精度が低いと判断した場合には、符号量追加信号12をWZ符号化部303に与える。
なお、符号量追加判断部402によるSide Informationの精度の推定の方法は、第2の実施形態と同様の方法を適用することができる。
ステップS304では、符号量追加信号12がWZ符号化部303に与えられると、WZ符号化部303は、対応するブロックデータのWZ符号を追加して生成し、この追加したWZ符号を出力する。
(D−3)第4の実施形態の効果
以上のように、第4の実施形態によれば、WZ符号化部の出力するレートが予め定められた閾値以上である場合にのみ、符号量追加判断部におけるSide nformationの精度を推定する処理と、参照ブロック生成部におけるブロック分割処理とを実行することで、計算量を削減する。
これは、従来の符号量制御技術は、符号量不足あるいは過剰を起こし得るが、まったく相関のない推定をおこなうわけではない。
そのため、レートを用いて符号量が不足する可能性の高い領域を限定し、符号量が不足する可能性が高い領域でのみ、符号量追加判断部と参照ブロック生成部とにおける処理をおこなうことで、符号化効率の低下を抑制しながら計算量を削減することができる。
(E)第5の実施形態
次に、本発明の画像符号化システムの第5の実施形態について、図面を参照しながら説明する。
(E−1)第5の実施形態の構成
第5の実施形態が、第1の実施形態と異なる点は、Wyner−Ziv符号化手段91の構成である。そこで、以下では、第5の実施形態の特徴的な構成要素の構成を詳細に説明する。
図10は、第5の実施形態のWyner−Ziv符号化手段91の構成を示す構成図である。
図10において、第5の実施形態のWyner−Ziv符号化手段91は、ブロック生成部101、WZ符号化部103、対応ブロック生成部509、符号量追加判断部502を有する。
ブロック生成部101は、入力されたWZフレーム1を任意サイズの複数のブロックに分割し、各ブロックのブロックデータ11をWZ符号化部103に与えるものである。
対応ブロック生成部509は、対応フレーム4を入力し、その入力された対応フレーム4を、ブロック生成部101によるブロックの分割数が等しくなるように分割するものである。また、対応ブロック生成部509は、生成したブロックデータを対応ブロックデータ51として符号量追加判断部502に与えるものである。
ここで、対応フレーム4とは、WZフレーム1と同じ空間を映した異なるフレームであり、例えば、解像度変換等の画像処理により、解像度が異なるフレームである。例えば、対応フレーム4は、原画像を縮小したフレーム等を生成した場合に、その縮小したフレームを対応フレーム4とすることができる。
符号量追加判断部502は、対応ブロック生成部509から対応ブロックデータ51を入力し、その対応ブロックデータ51に基づいて、対応するSide Informationの精度を推定するものである。また、符号量追加判断部502は、Side Informationの精度が低いと判断した場合、符号量追加信号12をWZ符号化部103に与えるものである。
WZ符号化部103は、まずはブロックデータ11に基づいてベースの符号量のWZ符号を生成し、符号量追加判断部502から符号量追加信号12が入力されると、追加のWZ符号を生成するものである。
(E−2)第5の実施形態の動作
次に、第5の実施形態のWyner−Ziv符号化手段91の符号化動作について図面を参照しながら説明する。
図11は、第5の実施形態のWyner−Ziv符号化手段91の符号化処理の動作を示すフローチャートである。
ステップS101では、第1の実施形態と同様に、ブロック生成部101により各ブロックのブロックデータ11が生成される。
ステップS501では、WZフレーム1と同じ空間を映したものであって、例えば解像度が異なる対応フレーム4が、対応ブロック生成部509に入力される。対応ブロック生成部509では、入力された対応フレーム4に基づいて、ブロックの分割数がブロック生成部101と等しくなるように分割する。
そして、対応ブロック生成部509により分割された各ブロックの対応ブロックデータ51が、符号量追加判断部502に与えられる。
ここで、対応ブロックデータ51は、ブロックデータ11と同じ空間を映したブロックデータとなるようにすることである。
例えば、対応フレーム4が、WZフレーム1を解像度変換し、縦横それぞれ0.5倍したものであるとする。この場合、対応ブロック生成部509は、ブロック生成部101のブロックサイズを縦横それぞれ0.5倍したブロックサイズで対応フレーム4を分割する。つまり、対応フレーム4はWZフレーム1を0.5倍に縮小したものであるが、ブロックの分割数が等しくなるようにする。これにより、それぞれ対応するブロックデータ11と対応ブロックデータ51とは、それぞれ同じ空間を映した異なる解像度のブロックデータとなる。
ステップS502では、符号量追加判断部502が、対応ブロックデータ51に基づいて、ブロックデータ11に対応するSide Informationの精度を推定し、Side Informationの精度が低い場合、符号量追加信号12がWZ符号化部103に与える。
符号量追加判断部502は、対応ブロックデータ51に基づいて、Side Informationの精度を求めることになる。
つまり、対応フレーム4は、WZフレーム1よりも解像度が低いものであるから、Side Informationの精度の演算量を小さくすることができる。
また、ブロックデータ11は対応ブロックデータ51に同じ空間を映した対応するものであるから、対応ブロックデータ51を利用しても、同じ空間を映した対応ブロックデータ51からSide Informationの精度を推定することができる。
ステップS104で、WZ符号化部103は、入力されたブロックデータ11に基づいて、まずは、当該ブロックのベースの符号量でWZ符号を生成する。また、WZ符号化部103は、符号量追加判断部502から符号量追加信号12を受け取ると、追加のWZ符号を生成する。
(E−3)第5の実施形態の効果
以上のように、第5の実施形態によれば、符号量追加判断部は、WZフレームと同じ空間を映した異なる解像度のフレームである対応フレームを用いて、Side Informationの精度を推定することで、計算量を削減する。
例えば、スケーラブルな画像符号化システムの符号化部において、原画像を縮小したフレームが生成される場合、第5の実施形態によれば、このフレームを対応フレームとして利用することが可能である。
この場合、対応フレームは、WZフレームよりも解像度が低いため、符号量追加判断部に含まれる、例えばエッジ抽出処理などを低演算量で実施できる。
(F)第6の実施形態
次に、本発明の画像符号化システムの第6の実施形態について図面を参照しながら説明する。
(F−1)第6の実施形態の構成
第6の実施形態が、第1の実施形態と異なる点は、Wyner−Ziv符号化手段91の構成である。そこで、以下では、第6の実施形態の特徴的な構成要素の構成を詳細に説明する。
図12は、第6の実施形態のWyner−Ziv符号化手段91の構成を示す構成図である。
図12において、第6の実施形態のWyner−Ziv符号化手段91は、ブロック生成部101、WZ符号化部103、対応ブロック生成部509、符号量追加判断部602、対応参照ブロック生成部606を有する。
ブロック生成部101は、入力されたWZフレーム1を任意サイズの複数のブロックに分割し、各ブロックのブロックデータ11をWZ符号化部103に与えるものである。
対応ブロック生成部509は、第5の実施形態と同様に、対応フレーム4を入力し、その入力された対応フレーム4を、ブロック生成部101によるブロックの分割数が等しくなるように分割するものである。また、対応ブロック生成部509は、生成したブロックデータを対応ブロックデータ51として符号量追加判断部502に与えるものである。
対応参照ブロック生成部606は、対応参照フレーム5を入力し、その対応参照フレーム5を、対応ブロック生成部509と同じサイズのブロックに分割して、対応参照ブロックデータ61を符号量追加判断部602に与えるものである。
ここで、対応参照フレーム5は、WZフレーム1より時間的に前又は後のフレームであって、対応フレーム4と同じ解像度のフレームである。
対応参照ブロック生成部606に入力するフレーム(参照フレーム)の解像度が対応フレーム4と異なる場合は、任意の方法で前記参照フレームの解像度を対応フレーム4と同じにし、対応参照フレーム5として入力するようにしてもよい。
符号量追加判断部602は、対応ブロックデータ51と対応参照ブロックデータ61とを用いてブロックデータ11に対応するSide Informationの精度を推定し、Side Informationの精度が低いと判断した場合は、符号量追加信号12をWZ符号化部103に与えるものである。
WZ符号化部103は、まずはブロックデータ11に基づいてベースの符号量のWZ符号を生成し、符号量追加判断部602から符号量追加信号12が入力されると、追加のWZ符号を生成するものである。
(F−2)第6の実施形態の動作
次に、第6の実施形態のWyner−Ziv符号化手段91の符号化動作について図面を参照しながら説明する。
図13は、第6の実施形態のWyner−Ziv符号化手段91の符号化処理の動作を示すフローチャートである。
ステップS101では、第1の実施形態と同様に、ブロック生成部101により各ブロックのブロックデータ11が生成される。
ステップS501では、WZフレーム1と同じ空間を映したものであって、例えば解像度が異なる対応フレーム4が、対応ブロック生成部509に入力される。対応ブロック生成部509では、入力された対応フレーム4に基づいて、ブロックの分割数がブロック生成部101と等しくなるように分割する。
そして、対応ブロック生成部509により分割された各ブロックの対応ブロックデータ51が、符号量追加判断部502に与えられる。
なお、対応ブロックデータ51は、第5の実施形態と同様に、ブロックデータ11と同じ空間を映したブロックデータとなるようにすることである。
ステップS601では、対応参照ブロックフレーム5が、対応参照ブロック生成部606に入力される。対応参照ブロック生成部606は、対応参照フレーム5を、対応ブロック生成部509と同じサイズのブロックに分割し、対応参照ブロックデータ61を生成する。
ステップS601で、符号量追加判断部602において、ブロックデータ11に対応するSide Informationの精度を、対応ブロックデータ51と対応参照ブロックデータ61とに基づいて推定する。そして、符号量追加判断部602は、Side Informationの精度が低いと判断した場合には、符号量追加信号12をWZ符号化部103に出力する。
なお、符号量追加判断部602によるSide Informationの精度の推定の方法は、第2の実施形態の符号量追加判断部202が、ブロックデータ11及び参照ブロックデータ21に代えて、ブロックデータ11とサイズ等は異なる場合であるがブロックデータ11と同じ空間を映した対応ブロックデータ51と、参照ブロックデータ21とサイズ等は異なる場合があるが、参照ブロックデータ21と同じ空間を映した対応参照ブロックデータ61とに基づいて、Side Informationの精度を推定する。
ステップS104で、WZ符号化部103は、入力されたブロックデータ11に基づいて、まずは、当該ブロックのベースの符号量でWZ符号を生成する。また、WZ符号化部103は、エッジ強度判断部105から符号量追加信号12を受け取ると、追加のWZ符号を生成する。
(F−3)第6の実施形態の効果
以上のように、第6の実施形態によれば、符号量追加判断部は、対応フレームと対応参照フレームとを用いて、Side Informationの精度を推定することで、計算量を削減する。
例えば、スケーラブルな画像符号化システムの符号化部において、原画像を縮小したフレームが生成される場合、第6の実施形態によれば、このフレームを対応フレームおよび対応参照フレームとして利用することが可能である。
この場合、対応フレームおよび対応参照フレームは、WZフレームよりも解像度が低いため、符号量追加判断部に含まれる、例えばエッジ抽出処理などを低演算量で実施できる。
(G)他の実施形態
(G−1)第2の実施形態の符号量追加判断部202と、第4の実施形態の符号量追加判断部402と、第6の実施形態の符号量追加判断部602とは、ブロックデータ11と参照ブロックデータ21とでSAD(Sum Of Absolute Difference)やSSD(Sum Of Squared Difference)などの類似性尺度を計算し、類似性尺度が予め与えられた閾値以上の場合に符号量追加信号12を出力することでも、符号化効率を改善する効果が得られる。
なぜならば、エッジが動いた領域では、フレーム間のSADやSSDなどの類似性尺度も増加するため、SADやSSDなどによっても動きのあるエッジ強度を求めることができるからである。
ただし、類似性尺度によっては、エッジを抽出するよりも計算量を削減できるというメリットが生じる一方で、映像フレームの性質(動き量)や参照フレーム3の劣化具合によって、エッジ強度の強い領域と弱い領域を分ける閾値が変化するというデメリットも生じる。
そのため、映像フレームの性質(動き量)や参照フレーム3の劣化具合が変化するような映像に対して本発明を実施する場合は、第2の実施形態における符号量追加判断部202や、第4の実施形態における符号量追加判断部402、第6の実施形態における符号量追加判断部602を用いたほうが、平均的な符号化効率を改善することができる。
(G−2)本発明の画像符号化装置は、例えば、ネットワークを介して画像配信を行なう画像配信装置の一部の構成要素としてもよいし、また例えば、通信路を経由せず、ハードディスク等の記録媒体に記録するデータを符号化するものであってもよい。
101、303…ブロック生成部、
102、202、302、402、502、602…符号量追加判断部、
103…WZ符号化部、104…エッジ抽出部、
105、205…エッジ強度判断部、
206、406、606…参照ブロック生成部、
207…参照エッジ抽出部、308…事前判断部、
509…対応ブロック生成部、
9…符号化装置、
91…Wyner Ziv符号化手段、92…キーフレーム符号化手段。

Claims (19)

  1. 入力された画像フレームを任意サイズの複数のブロックに分割し、各ブロックのブロックデータを生成するブロック生成手段と、
    上記各ブロックデータに対応する予測画像の精度を推定する予測画像精度推定手段と、
    上記予測画像精度推定手段により上記各ブロックデータに対応する上記予測画像の精度が閾値より低い場合に、当該ブロックデータに関する符号量追加信号を出力する符号量追加判断手段と、
    入力された上記各ブロックデータに基づいてWyner−Ziv符号化処理を行ない、WZ符号を生成するものであって、上記ブロックデータに関する符号量追加信号が与えられると、当該ブロックデータに基づいて追加符号を生成して、上記WZ符号に上記追加符号を追加して出力する符号化手段と
    を備え、
    上記符号化手段が、上記ブロックデータに関する符号量追加信号が与えられると、予め定められた符号量のWZ符号を上記追加符号として追加するものである
    ことを特徴とする画像符号化システム。
  2. 上記符号化手段が、上記ブロックデータに関する符号量追加信号が与えられると、量子化処理あるいは符号量制御処理によって削減されていた下位ビット若しくは下位ビットプレーンを上記追加符号として追加するものであることを特徴とする請求項1に記載の画像符号化システム。
  3. 上記符号量追加判断手段が、
    上記各ブロックデータに含まれる画像領域のエッジを抽出して、エッジデータを出力するエッジ抽出部と、
    上記エッジ抽出部からの上記エッジデータに基づいて、当該ブロックデータに含まれるエッジ強度を求め、求めたエッジ強度が閾値以上の場合に、上記ブロックデータに関する符号量追加信号を出力するエッジ強度判断部と
    を有することを特徴とする請求項1又は2に記載の画像符号化システム。
  4. 上記エッジ強度判定部は、上記エッジデータに含まれる画素毎のエッジの強度の絶対値の総和を、当該ブロックデータに含まれる当該エッジ強度として求めるものであることを特徴とする請求項3に記載の画像符号化システム。
  5. 上記エッジ強度判定部は、上記エッジデータに含まれる画素毎のエッジの強度の絶対値の平均値を、当該ブロックデータに含まれる当該エッジの強度として求めるものであることを特徴とする請求項3に記載の画像符号化システム。
  6. 上記エッジ強度判定部は、上記エッジデータに含まれる画素毎のエッジの強度の絶対値の最大値あるいは最小値を、当該ブロックデータに含まれる当該エッジの強度として求めることを特徴とする請求項3に記載の画像符号化システム。
  7. 上記ブロック生成手段が分割するサイズと同じサイズで、入力された参照フレームを複数のブロックに分割して、各参照ブロックの参照ブロックデータを生成する参照ブロック生成手段を更に備え、
    上記予測画像精度推定手段が、上記ブロックデータと上記参照ブロックデータとに基づいて、当該ブロックデータに対応する予測画像の精度を推定し、
    上記符号量追加判断手段が、上記ブロックデータに対応する予測画像の精度が閾値より低いと判断した場合は、当該ブロックデータに関する符号量追加信号を上記符号化手段に与える
    ことを特徴とする請求項1又は2に記載の画像符号化システム。
  8. 上記符号量追加判断手段が、上記ブロックデータと上記参照ブロックデータとに基づいて類似性を求め、その類似性が予め与えられた閾値以上の場合に、上記符号量追加信号を上記符号化手段に与えるものであることを特徴とする請求項7に記載の画像符号化システム。
  9. 前上記符号量追加判断手段が、
    上記ブロックデータに含まれる画像領域のエッジを抽出し、エッジデータを出力するエッジ抽出部と、
    上記参照ブロックデータに含まれる画像領域のエッジを抽出し、参照エッジデータを出力する参照エッジ抽出部と、
    上記エッジデータと上記参照エッジデータとに基づいて、当該ブロックデータに含まれる動きのあるエッジの強度を判断し、当該ブロックデータの当該エッジの強度が閾値以上の場合に、上記符号量追加信号を上記符号化手段に与えるエッジ強度判断部と
    を有することを特徴とする請求項7に記載の画像符号化システム。
  10. 上記エッジ強度判定部は、上記エッジデータに含まれる画素毎のエッジの強度と、上記参照エッジデータに含まれる画素毎のエッジの強度との差分の絶対値の総和を、当該ブロックデータに含まれる当該エッジの強度として求めることを特徴とする請求項9に記載の画像符号化システム。
  11. 上記エッジ強度判定部は、上記エッジデータに含まれる画素毎のエッジの強度と、上記参照エッジデータに含まれる画素毎のエッジの強度との差分の絶対値の平均値を、当該ブロックデータに含まれる当該エッジの強度として求めることを特徴とする請求項9に記載の画像符号化システム。
  12. 上記エッジ強度判定部は、上記エッジデータに含まれる画素毎のエッジの強度と、上記参照エッジデータに含まれる画素ごとのエッジの強度との差分の絶対値の最大値あるいは最小値を、当該ブロックデータに含まれる当該エッジの強度として求めることを特徴とする請求項9に記載の画像符号化システム。
  13. 上記符号化手段による上記各ブロックデータに基づくWyner−Ziv符号化処理の上記WZ符号の全てあるいは一部の符号量が、予め定められた閾値以上の場合に事前判断信号を出力する事前判断手段を更に備え、
    上記予測画像精度推定手段が、上記事前判断信号が与えられたときに、上記ブロックデータに対応する予測画像の精度を推定し、
    上記符号量追加判断手段が、上記ブロックデータに対応する予測画像の精度が閾値より低いと判断した場合、当該ブロックデータに関する符号量追加信号を上記符号化手段に与える
    ことを特徴とする請求項1〜請求項6のいずれかに記載の画像符号化システム。
  14. 上記符号化手段による上記各ブロックデータに基づくWyner−Ziv符号化処理の上記WZ符号の全てあるいは一部の符号量が、予め定められた閾値以上の場合に事前判断信号を出力する事前判断手段を更に備え、
    上記参照ブロック生成手段が、上記事前判断信号が与えられたときに、入力された上記参照フレームを、上記ブロック生成手段が分割するサイズと同じサイズで複数のブロックに分割し、各参照ブロックの参照ブロックデータを生成し、
    上記予測画像精度推定手段が、上記事前判断信号が与えられたときに、上記ブロックデータに対応する予測画像の精度を推定し、
    上記符号量追加判断手段が、上記ブロックデータに対応する予測画像の精度が閾値より低いと判断した場合は、上記符号量追加信号を上記符号化手段に与える
    ことを特徴とする請求項7〜12のいずれかに記載の画像符号化システム。
  15. 上記ブロック生成手段により分割されたブロック分割数と等しくなるように、入力された対応フレームを分割し、各対応ブロックの対応ブロックデータを生成する対応ブロック生成手段を更に備え、
    上記予測画像精度推定手段が、上記対応ブロックデータを用いて、上記ブロックデータに対応する予測画像の精度を推定し、
    上記符号量追加判断手段が、上記ブロックデータに対応する予測画像の精度が閾値より低いと判断した場合は、上記符号量追加信号を上記符号化手段に与える
    ことを特徴とする請求項1〜6又は請求項13のいずれかに記載の画像符号化システム。
  16. 上記ブロック生成手段により分割されたブロック分割数と等しくなるように、入力された対応フレームを分割し、各対応ブロックの対応ブロックデータを生成する対応ブロック生成手段と、
    入力された対応参照フレームを、上記対応ブロック生成手段と同じサイズの複数のブロックに分割し、各対応参照ブロックの対応参照ブロックデータを生成する対応参照ブロック生成部と
    を更に備え、
    上記予測画像精度推定手段が、上記対応ブロックデータと上記対応参照ブロックデータとを用いて、上記ブロックデータに対応する予測画像の精度を推定し、
    上記符号量追加判断手段が、上記ブロックデータに対応する予測画像の精度が閾値より低いと判断した場合は、上記符号量追加信号を上記符号化手段に与える
    ことを特徴とする請求項7〜12又は請求項14のいずれかに記載の画像符号化システム。
  17. 上記符号化手段が、LDPCA符号又はターボ符号を用いて符号化することを特徴とする請求項1〜16のいずれかに記載の画像符号化システム。
  18. 入力された画像フレームを任意サイズの複数のブロックに分割し、各ブロックのブロックデータを生成するブロック生成手段と、
    上記各ブロックデータに対応する予測画像の精度を推定する予測画像精度推定手段と、
    上記予測画像精度推定手段により上記各ブロックデータに対応する上記予測画像の精度が閾値より低い場合に、当該ブロックデータに関する符号量追加信号を出力する符号量追加判断手段と、
    入力された上記各ブロックデータに基づいてWyner−Ziv符号化処理を行ない、WZ符号を生成するものであって、上記ブロックデータに関する符号量追加信号が与えられると、当該ブロックデータに基づいて追加符号を生成して、上記WZ符号に上記追加符号を追加して出力する符号化手段と
    を備え、
    上記符号化手段が、上記ブロックデータに関する符号量追加信号が与えられると、予め定められた符号量のWZ符号を上記追加符号として追加するものである
    ことを特徴とする画像符号化装置。
  19. コンピュータを、
    入力された画像フレームを任意サイズの複数のブロックに分割し、各ブロックのブロックデータを生成するブロック生成手段、
    上記各ブロックデータに対応する予測画像の精度を推定する予測画像精度推定手段、
    上記予測画像精度推定手段により上記各ブロックデータに対応する上記予測画像の精度が閾値より低い場合に、当該ブロックデータに関する符号量追加信号を出力する符号量追加判断手段、
    入力された上記各ブロックデータに基づいてWyner−Ziv符号化処理を行ない、WZ符号を生成するものであって、上記ブロックデータに関する符号量追加信号が与えられると、当該ブロックデータに基づいて追加符号を生成して、上記WZ符号に上記追加符号を追加して出力する符号化手段
    として機能させ、
    上記符号化手段が、上記ブロックデータに関する符号量追加信号が与えられると、予め定められた符号量のWZ符号を上記追加符号として追加する
    ことを特徴とする画像符号化プログラム。
JP2011198719A 2011-09-12 2011-09-12 画像符号化システム、画像符号化装置及び画像符号化プログラム Expired - Fee Related JP5845750B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011198719A JP5845750B2 (ja) 2011-09-12 2011-09-12 画像符号化システム、画像符号化装置及び画像符号化プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011198719A JP5845750B2 (ja) 2011-09-12 2011-09-12 画像符号化システム、画像符号化装置及び画像符号化プログラム

Publications (2)

Publication Number Publication Date
JP2013062613A JP2013062613A (ja) 2013-04-04
JP5845750B2 true JP5845750B2 (ja) 2016-01-20

Family

ID=48186933

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011198719A Expired - Fee Related JP5845750B2 (ja) 2011-09-12 2011-09-12 画像符号化システム、画像符号化装置及び画像符号化プログラム

Country Status (1)

Country Link
JP (1) JP5845750B2 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5071413B2 (ja) * 2009-03-02 2012-11-14 沖電気工業株式会社 動画像符号化装置、方法及びプログラム、並びに、動画像符号化システム
JP5333128B2 (ja) * 2009-09-29 2013-11-06 沖電気工業株式会社 動画像符号化装置及びプログラム、並びに、動画像配信システム
JP5233939B2 (ja) * 2009-09-30 2013-07-10 沖電気工業株式会社 動画像符号化装置及びプログラム、並びに、動画像配信システム

Also Published As

Publication number Publication date
JP2013062613A (ja) 2013-04-04

Similar Documents

Publication Publication Date Title
JP6498679B2 (ja) 動きベクトル精度の選択
JP5071413B2 (ja) 動画像符号化装置、方法及びプログラム、並びに、動画像符号化システム
TWI720750B (zh) 動態影像編碼裝置及動態影像編碼方法
JP4528694B2 (ja) 動画像符号化装置
JP5131224B2 (ja) 動画像復号装置、方法及びプログラム、動画像符号化装置、方法及びプログラム、並びに、動画像符号化システム
JP5545783B2 (ja) 画像シーケンスを表す符号化されたデータのストリームを復号する方法および画像シーケンスを符号化する方法
KR20140042845A (ko) 지각적 비디오 코딩을 위한 구조적 유사성 기반의 레이트-왜곡 최적화 방법 및 시스템
US20110150074A1 (en) Two-pass encoder
JP2013501451A (ja) 映像の符号化方法及び装置、その復号化方法及び装置
CN105850124B (zh) 使用量化误差的额外的控制编码、解码视频信号的方法和装置
JP2017195638A (ja) 符合化及び復号化のための方法及び装置
CN107343202B (zh) 基于附加码率的无反馈分布式视频编解码方法
Huang et al. Improved side information generation for distributed video coding
KR20080041972A (ko) 현재 영상의 복원영역을 참조하는 동영상 부호화/복호화장치 및 그 방법
CN108028938A (zh) 视频编码方法及装置
KR100915097B1 (ko) 오류정정을 이용한 분산비디오부호화 영상의 복호화 장치및 그 방법
KR101639434B1 (ko) 와이너-지브 부호화 및 복호화 시스템 및 방법
JP5845750B2 (ja) 画像符号化システム、画像符号化装置及び画像符号化プログラム
KR101035746B1 (ko) 동영상 인코더와 동영상 디코더에서의 분산적 움직임 예측 방법
KR101668133B1 (ko) 화상 데이터의 블록을 예측하는 방법, 이 방법을 실행하는 복호 장치 및 부호화 장치
KR101500300B1 (ko) 부호화기와 복호화기 사이에 상호작용이 가능한 선택적 저전력 비디오 코덱 장치, 이를 이용한 부호화 및 복호화 방법
JP2013066092A (ja) 動画像符号化装置及びプログラム
KR101311410B1 (ko) 픽쳐 그룹의 구조를 변화시키는 분산 비디오 부호화/복호화 방법 및 이러한 방법을 수행하는 장치
Kodavalla et al. Distributed video coding: feedback-free architecture and implementation
JP2018186419A (ja) トランスコーダ、トランスコード方法、及びトランスコードプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140515

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150421

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150622

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20150622

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150811

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150811

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151027

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151109

R150 Certificate of patent or registration of utility model

Ref document number: 5845750

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees