JP5232182B2 - 画面分割符号化装置およびそのプログラム、並びに、画面分割復号装置およびそのプログラム - Google Patents

画面分割符号化装置およびそのプログラム、並びに、画面分割復号装置およびそのプログラム Download PDF

Info

Publication number
JP5232182B2
JP5232182B2 JP2010041217A JP2010041217A JP5232182B2 JP 5232182 B2 JP5232182 B2 JP 5232182B2 JP 2010041217 A JP2010041217 A JP 2010041217A JP 2010041217 A JP2010041217 A JP 2010041217A JP 5232182 B2 JP5232182 B2 JP 5232182B2
Authority
JP
Japan
Prior art keywords
image
divided
screen
overlapping
sampling
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010041217A
Other languages
English (en)
Other versions
JP2011181980A (ja
Inventor
崇弘 豊田
善明 鹿喰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2010041217A priority Critical patent/JP5232182B2/ja
Publication of JP2011181980A publication Critical patent/JP2011181980A/ja
Application granted granted Critical
Publication of JP5232182B2 publication Critical patent/JP5232182B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Description

本発明は、動画像や静止画像の画面を分割して符号化および復号する画面分割符号化装置およびそのプログラム、並びに、画面分割復号装置およびそのプログラムに関する。
近年、ハイビジョン(登録商標)の解像度を超える、走査線が4000本超のスーパーハイビジョンの動画像や、高解像度の静止画像を扱うカメラ、プロジェクタ等が開発されてきている。
このように、動画像や静止画像は高解像度化が進んでおり、高解像度画像を符号化/復号するには、多くの計算量やメモリ量が必要とされる。さらに、このような高解像度画像をリアルタイムで撮像、記録、表示等するには、高速な処理も要求される。そのため、符号化/復号装置は、高価で大規模なものになる傾向にある。
そこで、動画像や静止画像の1画面分をそのまま符号化/復号するのではなく、1画面の画像を複数の画像に分割し、その各々について符号化/復号する技術が開発されてきた。これによって、それぞれの符号化/復号処理の負荷を軽減でき、高速処理も可能となる。
しかし、このように画面を分割して符号化した場合、復号後の画像において、分割した境界領域で画質が劣化するという問題が生じる。この画質劣化の原因の1つは、分割領域をまたぐ領域間の不連続によるものである。
例えば、動画像を、動き補償を利用して符号化する場合、画面を分割して分割画像ごとに符号化すると、分割境界において、動きベクトルの向きが制約されてしまう。すなわち、動画像の一方の分割画像では、正しい動きベクトルがその分割画像内に存在するため精度よく動き補償ができるが、隣接する他方の分割画像では、正しい動きベクトルがその分割画像内に存在しないため精度よく動き補償ができない。このため、復号後の画像において、2つの分割画像間の画質に差が生じ、分割境界付近における画像の不連続が顕著となる。
また、例えば、静止画像の場合、画面を分割すると、高周波成分を多く含む複雑な分割画像や、平坦部分の多い単純な分割画像のように複雑さの異なる画像に分割される場合がある。このとき、同等の符号量で符号化すると、複雑な分割画像は、復号後の画質が大きく劣化するが、単純な分割画像の劣化は小さい。このため、復号後の画像において、2つの分割画像間の画質に差が生じ、分割境界付近における画像の不連続が顕著となる。
そこで、分割境界付近での画質劣化を低減させるため、画面を分割する際に、分割境界を中心として重複領域を設け、その重複領域を隣接する分割画像間で共有させる動画像符号化/復号装置が提案されている(特許文献1参照)。
この技術では、動画像符号化装置が、隣接する分割画像を符号化する際に、それぞれの重複領域を含めて符号化する。そして、動画像復号装置が、符号化データを復号し、画面を再構成して表示する際に、重複領域を共有する一方の分割画像について分割境界を越えた他方の分割画像に含まれる重複領域を表示しないようにする。また、他方の分割画像についても同様に、分割境界を越えた一方の分割画像に含まれる重複領域を表示しないようにする。このようにして、従来の動画像符号化/復号装置は、分割境界付近における画質劣化を抑制している。
特開平10−234043号公報
前記したように、特許文献1に係る従来の動画像符号化/復号装置は、分割境界に分割画像間で重複領域を設けることで、分割境界付近での不連続による画質劣化を抑制する。
しかし、従来の動画像符号化/復号装置は、分割画像間に重複領域を設けることで、符号化対象の画素数を重複領域分増加させてしまう。そのため、従来の動画像符号化/復号装置は、符号化/復号を行う際の処理コスト、例えば、使用するメモリ量や処理に要する時間等を増加させてしまうという問題がある。
また、符号化対象の画素数が増加すると、既存の動画像符号化/復号装置で処理可能な画素数の上限を超えてしまい、既存の動画像符号化/復号装置を使用できなくなることがあるという問題がある。
なお、分割画像の画素数の増加を避けるため、分割画像を切り出す前に、予め原画像を縮小しておくことも考えられる。しかし、そのためには、画像全体を縮小する処理が追加され、処理コストが増加する。また、縮小により画像全体にわたり画質が低下するという問題も新たに発生する。
本発明は以上のような問題点に鑑みてなされたものである。本発明は動画像や静止画像の画面を、重複領域を設けて分割して符号化/復号するが、その場合でも、分割画像の符号化対象の画素数を増加させずに分割画像間の画質劣化を抑えることが可能な画面分割符号化装置およびそのプログラム、並びに、画面分割復号装置およびそのプログラムを提供することを課題とする。
本発明は前記課題を解決するために創案されたものである。まず、請求項1に記載の画面分割符号化装置は、画像を予め定めた大きさに画面分割して符号化する画面分割符号化装置であって、画面重複分割手段と、重複領域サンプリング手段と、符号化手段とを備える構成とした。
かかる構成において、画面分割符号化装置は、画面重複分割手段によって、画像を予め定めた大きさの画像に画面分割する際に、分割境界を挟んで予め定めた範囲をそれぞれ隣接する分割画像に重複して含むように画像を画面分割する。これによって、個々の分割画像には、分割境界を挟んで隣接する他の分割画像の領域の一部が部分的に含まれることになる。
そして、画面分割符号化装置は、重複領域サンプリング手段によって、画面重複分割手段で画面分割された分割画像の重複領域を、当該重複領域を含む他の分割画像と不連続となるようにサブサンプリングする。このようにして、画素数を減少させ、分割画像を予め定めた大きさに変換する。すなわち、重複領域サンプリング手段は、重複領域をサブサンプリングし、水平方向においては重複領域の幅を半分に、垂直方向においては重複領域の高さを半分にすることで、分割画像を、重複領域を持たないように画面を分割した際の大きさ(予め定めた大きさ)に変換する。
そして、画面分割符号化装置は、符号化手段によって、重複領域サンプリング手段で変換された複数の分割画像をそれぞれ符号化して符号化データを生成する。なお、個々の分割画像には、一部分隣接した分割画像の画像データが含まれているため、符号化手段は、隣接した分割画像の画質や動きを反映して符号化することになる。
また、請求項2に記載の画面分割符号化装置は、画像を予め定めた大きさに画面分割して符号化する画面分割符号化装置であって、前記画像を前記予め定めた大きさの画像に画面分割する際に、分割境界を挟んで予め定めた範囲をそれぞれ隣接する分割画像に重複して含むように前記画像を画面分割する画面重複分割手段と、この画面重複分割手段で画面分割された分割画像の重複領域をサブサンプリングして、前記分割画像を前記予め定めた大きさに変換する重複領域サンプリング手段と、この重複領域サンプリング手段で変換された複数の分割画像をそれぞれ符号化して符号化データを生成する符号化手段と、を備え、前記重複領域サンプリング手段が、1次元水平重複領域サンプリング手段と、1次元垂直重複領域サンプリング手段とを備えることを特徴とする。
かかる構成において、画面分割符号化装置は、重複領域サンプリング手段の1次元水平重複領域サンプリング手段によって、水平方向に隣接する分割画像間で重複する重複領域について、当該重複領域を水平方向にサブサンプリングする。これによって、水平方向に隣接する分割画像間で重複する重複領域が、水平方向に半分の画素数に変換される。また、水平方向に画素数が半減した重複領域の半分には、重複領域を持たずに分割した際の水平方向に隣接する分割画像の一部が含まれることになる。
また、画面分割符号化装置は、重複領域サンプリング手段の1次元垂直重複領域サンプリング手段によって、垂直方向に隣接する分割画像間で重複する重複領域について、当該重複領域を垂直方向にサブサンプリングする。これによって、垂直方向に隣接する分割画像間で重複する重複領域が、垂直方向に半分の画素数に変換される。また、垂直方向に画素数が半減した重複領域の半分には、重複領域を持たずに分割した際の垂直方向に隣接する分割画像の一部が含まれることになる。
このように、画面分割符号化装置は、1次元水平重複領域サンプリング手段と1次元垂直重複領域サンプリング手段とによって、隣接する分割画像の一部を含み、かつ、重複領域を含まないで分割した際の大きさと同じ大きさの分割画像を符号化対象の画像として生成することができる。
また、請求項3に記載の画面分割符号化装置は、画像を予め定めた大きさに画面分割して符号化する画面分割符号化装置であって、前記画像を前記予め定めた大きさの画像に画面分割する際に、分割境界を挟んで予め定めた範囲をそれぞれ隣接する分割画像に重複して含むように前記画像を画面分割する画面重複分割手段と、この画面重複分割手段で画面分割された分割画像の重複領域をサブサンプリングして、前記分割画像を前記予め定めた大きさに変換する重複領域サンプリング手段と、この重複領域サンプリング手段で変換された複数の分割画像をそれぞれ符号化して符号化データを生成する符号化手段と、を備え、前記重複領域サンプリング手段が、2次元重複領域サンプリング手段を備える構成とした。
かかる構成において、画面分割符号化装置は、重複領域サンプリング手段の2次元重複領域サンプリング手段によって、分割画像の重複領域を水平方向および垂直方向それぞれの方向にサンプル点を交互に設定してサブサンプリングする。これによって、分割画像の重複領域は、水平方向および垂直方向に画素数が半分になる。また、画素数が半減した重複領域には、重複領域を持たずに分割した際の隣接する分割画像の一部が含まれることになる。
このように、画面分割符号化装置は、2次元重複領域サンプリング手段によって、隣接する分割画像の一部を含み、かつ、重複領域を含まないで分割した際の大きさと同じ大きさの分割画像を符号化対象の画像として生成することができる。
さらに、請求項4に記載の画面分割符号化装置は、請求項1から請求項3のいずれか一項に記載の画面分割符号化装置において、前記重複領域サンプリング手段が、前記重複領域の各画素を、当該画素の周辺画素との間でフィルタリングを行った後、サブサンプリングを行う構成とした。
かかる構成において、画面分割符号化装置の重複領域サンプリング手段は、サブサンプリングを行う際に、当該サブサンプリングを行う画素と、当該画素の周辺画素とでフィルタリングを行った後にサンプリングを行う。これによって、重複領域サンプリング手段は、サンプリングによって抽出する画像に含まれる折り返し歪みを低減させることができる。
また、請求項5に記載の画面分割符号化プログラムは、画像を予め定めた大きさに画面分割して符号化するために、コンピュータを、画面重複分割手段、重複領域サンプリング手段、符号化手段として機能させる構成とした。
かかる構成において、画面分割符号化プログラムは、画面重複分割手段によって、画像を予め定めた大きさの画像に画面分割する際に、分割境界を挟んで予め定めた範囲をそれぞれ隣接する分割画像に重複して含むように画像を画面分割する。これによって、個々の分割画像には、分割境界を挟んで隣接する他の分割画像の領域の一部が部分的に含まれることになる。
そして、画面分割符号化プログラムは、重複領域サンプリング手段によって、画面重複分割手段で画面分割された分割画像の重複領域を、当該重複領域を含む他の分割画像と不連続となるようにサブサンプリングする。このようにして、画素数を減少させ、分割画像を、重複領域を持たないように画面を分割した際の大きさに変換する。
そして、画面分割符号化プログラムは、符号化手段によって、重複領域サンプリング手段で変換された複数の分割画像をそれぞれ符号化して符号化データを生成する。
さらに、請求項6に記載の画面分割復号装置は、画像を予め定めた大きさの画像に画面分割する際に、分割境界を挟んで予め定めた範囲をそれぞれ隣接する分割画像に重複して含むように前記画像を画面分割する画面重複分割手段と、この画面重複分割手段で画面分割された分割画像の重複領域をサブサンプリングして、前記分割画像を前記予め定めた大きさに変換する重複領域サンプリング手段と、この重複領域サンプリング手段で変換された複数の分割画像をそれぞれ符号化して符号化データを生成する符号化手段と、を備えた画面分割符号化装置で符号化された符号化データを復号する画面分割復号装置であって、復号手段と、重複領域拡張手段と、画面合成手段とを備えることを特徴とする。
かかる構成において、画面分割復号装置は、復号手段によって、符号化データをそれぞれの分割画像のデータに復号する。
そして、画面分割復号装置は、重複領域拡張手段によって、復号手段で復号されたそれぞれの分割画像において、画面分割符号化装置でサブサンプリングされた領域に、サブサンプリングの間隔でダミーデータを挿入する。これによって、各分割画像には、画面分割符号化装置でサブサンプリングされる前の重複領域の大きさが再現されることになる。なお、重複領域拡張手段で拡張された重複領域におけるダミーデータの実際の画素は、隣接する分割画像の重複領域に含まれている。
そこで、画面分割復号装置は、画面合成手段によって、重複領域拡張手段で拡張された重複領域におけるダミーデータを隣接する分割画像間で補完することで、分割画像を合成して画面を再構成する。
これによって、画面分割復号装置は、重複領域を持たないように画面を分割した際の大きさで分割画像を復号することができる。
また、請求項7に記載の画面分割復号プログラムは、画像を予め定めた大きさの画像に画面分割する際に、分割境界を挟んで予め定めた範囲をそれぞれ隣接する分割画像に重複して含むように前記画像を画面分割する画面重複分割手段と、この画面重複分割手段で画面分割された分割画像の重複領域をサブサンプリングして、前記分割画像を前記予め定めた大きさに変換する重複領域サンプリング手段と、この重複領域サンプリング手段で変換された複数の分割画像をそれぞれ符号化して符号化データを生成する符号化手段と、を備えた画面分割符号化装置で符号化された符号化データを復号するために、コンピュータを、復号手段、重複領域拡張手段、画面合成手段として機能させる構成とした。
かかる構成において、画面分割復号プログラムは、復号手段によって、符号化データをそれぞれの分割画像のデータに復号する。
そして、画面分割復号プログラムは、重複領域拡張手段によって、復号手段で復号されたそれぞれの分割画像において、画面分割符号化装置でサブサンプリングされた領域に、サブサンプリングの間隔でダミーデータを挿入する。これによって、各分割画像には、画面分割符号化装置でサブサンプリングされる前の重複領域の大きさが再現される。
そして、画面分割復号プログラムは、画面合成手段によって、重複領域拡張手段で拡張された重複領域におけるダミーデータを隣接する分割画像間で補完することで、分割画像を合成して画面を再構成する。
これによって、画面分割復号プログラムは、重複領域を持たないように画面を分割した際の大きさで分割画像を復号することができる。
本発明は、以下に示す優れた効果を奏するものである。
請求項1,5〜7に記載の発明によれば、隣接する分割画像の重複領域の一部を含んで符号化/復号を行うため、符号化データにおいて、隣接する分割画像の分割境界付近における画質や動きの変化を共有することができる。このため、分割境界付近における画像の不連続を軽減でき、画質の劣化が抑制できる。
また、請求項1,5〜7に記載の発明によれば、重複領域をサブサンプリングして、符号化対象となる画像の画素数を、重複領域を持たないように分割した分割画像と同じにすることができる。このため、処理対象の上限画素数が定められている既存の符号化/復号装置であっても、変更なしで利用することができる。
さらに、請求項1,5〜7に記載の発明によれば、重複領域のみをサブサンプリングするため、画像全体を縮小する手法と比べて処理コストを低減できる。また、画像全体にわたる画質の劣化を抑制することができる。
請求項2に記載の発明によれば、重複領域を水平方向と垂直方向とにそれぞれ個別にライン単位でサブサンプリングするだけの構成であるため、単純な構成でサンプリングを行うことができる。
請求項3に記載の発明によれば、重複領域を水平垂直交互にサンプリングする。このため、例えば、重複領域に水平1ラインや垂直1ラインの1ラインで構成された模様が存在する場合であっても、その1ラインの模様は、隣接する分割画像のいずれか一方のみの符号化対象となることがなく、隣接する分割画像の両方の符号化対象となる。これによって、本発明は、隣接する分割画像の分割境界付近における画質や動きの変化を精度よく捉え、分割境界付近における画像の不連続を軽減することができる。
請求項4に記載の発明によれば、重複領域をサンプリングする前にフィルタリングを行う。このため、サンプリングに伴う折り返し歪みを低減でき、精度よく画像を符号化できる。
本発明の第1(第2)実施形態に係る画面分割符号化装置および画面分割復号装置を含んだ画像伝送システムの構成を示すブロック図である。 本発明の第1実施形態に係る画面分割符号化装置の構成を示すブロック図である。 本発明の第1実施形態に係る画面分割復号装置の構成を示すブロック図である。 本発明の第1(第2)実施形態に係る画面分割符号化装置の画面重複分割手段における画面を分割する例を模式的に示す模式図である。 分割画像の重複領域を説明するための説明図である。 本発明の第1実施形態に係る画面分割符号化装置の重複領域サンプリング手段におけるサンプリングの例を模式的に示す模式図である。 本発明の第1(第2)実施形態に係る画面分割符号化装置の重複領域サンプリング手段におけるフィルタの構成例を示す図である。 本発明の第1(第2)実施形態に係る画面分割符号化装置の動作を示すフローチャートである。 本発明の第1(第2)実施形態に係る画面分割復号装置の動作を示すフローチャートである。 本発明の第2実施形態に係る画面分割符号化装置の構成を示すブロック図である。 本発明の第2実施形態に係る画面分割復号装置の構成を示すブロック図である。 本発明の第2実施形態に係る画面分割符号化装置の重複領域サンプリング手段におけるサンプリングの例を模式的に示す模式図である。
以下、本発明の実施形態について図面を参照して説明する。
[画像伝送システムの構成]
まず、図1を参照して、本発明の実施形態に係る画面分割符号化装置および画面分割復号装置を含んだ画像伝送システムの構成について説明する。
図1に示すように、画像伝送システムSは、符号化側の画面分割符号化装置1と復号側の画面分割復号装置2とで構成される。
画面分割符号化装置1は、動画像Aを構成する画面(フレーム画像)ごとに、当該画面を、重複領域を設けて分割し、それぞれの分割画像の重複領域をサブサンプリングした後にそれぞれの分割画像を符号化するものである。
画面分割復号装置2は、画面分割符号化装置1で符号化されたデータ(符号化データ;多重ビットストリームD)をそれぞれの分割画像ごとに復号し、符号化側でサブサンプリングした重複領域を再現し、重複領域を含んだ分割画像を合成することで動画像(再構成動画像G)を再構成するものである。
なお、本実施形態においては、符号化/復号対象の画像を動画像として説明するが、当該画像は、動画像に限られず静止画像であっても構わない。動画像は複数の静止画像の列であって、本実施形態においては、動画像を構成するフレーム画像(静止画像)を単位として動作するからである。
以下、本発明の実施形態に係る画面分割符号化装置および画面分割復号装置の構成および動作について詳細に説明を行う。
≪第1実施形態≫
[画面分割符号化装置の構成]
まず、図2を参照して、本発明の第1実施形態に係る画面分割符号化装置1の構成について説明する。ここでは、画面分割符号化装置1は、画面重複分割手段10と、重複領域サンプリング手段11と、符号化手段12と、を備える。
画面重複分割手段10は、符号化対象となる動画像Aを入力とし、動画像Aを構成する画面ごとに、分割境界を挟んで予め定めた範囲を重複領域として、それぞれ隣接する分割画像の一部を重複して含むように画面を分割するものである。
この画面重複分割手段10が分割する画面の分割数は任意の数(n個)とすることができる。例えば、画面を水平に3分割、垂直に3分割し、3×3個の分割画像に分割する。
また、分割境界を挟んだ重複領域の範囲についても任意の範囲とすることができる。ただし、隣接する分割画像の画質、動き等を抽出できる範囲が望ましい。例えば、後記する符号化手段12における符号化方式でMPEG(Moving Picture Experts Group)−2等を用いる場合、隣接する分割画像の動きベクトルを反映できるように、マクロブロック分(例えば、16画素)の領域をそれぞれの分割画像で重複させることが考えられる。
このように重複領域を含んで分割された分割画像は、それぞれ分割画像のデータ列(分割画像列B;B〜B)として重複領域サンプリング手段11に出力される。
ここで、図4を参照(適宜図2参照)して、画面重複分割手段10が行う画面分割の処理を具体的に説明する。図4は、動画像Aを構成する1つの画面Rを分割する例を模式的に示している。
図4(a)に示すように、画面重複分割手段10は、予め定めた分割数で定まる分割境界Lを基準に画面Rの分割を行うが、それぞれの分割画像(R〜R)には、隣接する分割画像との間で領域が一部重複するように、水平重複範囲Oおよび垂直重複範囲Oを含んで分割を行うこととする。例えば、水平重複範囲Oおよび垂直重複範囲Oは、分割境界Lを挟んでそれぞれマクロブロック分(マクロブロック2個分)の範囲とする。
すなわち、画面重複分割手段10は、実際の分割境界Lで分割するのではなく、水平方向においては、水平重複範囲Oを含んだ水平分割範囲C、垂直方向においては、垂直重複範囲Oを含んだ垂直分割範囲Cの画像を分割画像として分割する。なお、画面R内において、隣接する分割画像が存在しない場合は、重複領域は存在しない。
このように、画面重複分割手段10は、画面Rを、図4(b)に示すように、分割境界Lで分割する範囲よりも隣接する分割画像の一部(図中、灰色部分)を多く含んだ範囲で分割する。例えば、分割画像Rは、分割境界Lで分割する場合に比べ、図中右側には分割画像Rの一部、図中下側には分割画像Rの一部、図中右下には分割画像Rの一部が重複していることになる。
図2に戻って、画面分割符号化装置1の構成について説明を続ける。
重複領域サンプリング手段11は、画面重複分割手段10で画面分割された分割画像の重複領域をサブサンプリングして、分割画像を予め定めた大きさに変換するものである。なお、ここで、予め定めた大きさとは、画面重複分割手段10で画面を分割する際の分割数に応じた実際の画像の大きさである。すなわち、図4(a)に示した分割境界Lで区分される画像の大きさである。ここでは、重複領域サンプリング手段11は、1次元水平重複領域サンプリング手段111と、1次元垂直重複領域サンプリング手段112と、を備えている。
1次元水平重複領域サンプリング手段111は、画面重複分割手段10で画面分割された分割画像(分割画像列B;B〜B)を入力とし、水平方向に隣接する分割画像間で重複する重複領域について、当該重複領域を水平方向にサブサンプリングするものである。なお、サブサンプリングとは、一定の規則でサンプリングを行うことをいう。
この1次元水平重複領域サンプリング手段111は、画面の水平方向に重複領域を整数で2分割することが可能な画素数単位で規則的にサンプリングする。例えば、1次元水平重複領域サンプリング手段111は、重複領域の水平方向の画素数が32画素であれば、1,2,4画素等の画素数単位でサンプリングを行う。
このように、1次元水平重複領域サンプリング手段111は、水平方向に重複領域をサブサンプリングすることで、水平方向の画素数を減少させ、分割画像の画像幅を、分割境界L(図4(a)参照)で区分される画像の幅とすることができる。
また、1次元水平重複領域サンプリング手段111は、サブサンプリングした分割画像を、それぞれ分割画像のデータ列(分割画像列b;b〜b)として1次元垂直重複領域サンプリング手段112に出力する。
1次元垂直重複領域サンプリング手段112は、1次元水平重複領域サンプリング手段111で水平方向にサンプリングされた分割画像(分割画像列b;b〜b)を入力とし、垂直方向に隣接する分割画像間で重複する重複領域について、当該重複領域を垂直方向にサブサンプリングするものである。
この1次元垂直重複領域サンプリング手段112は、画面の垂直方向に重複領域を整数で2分割することが可能な画素数単位で規則的にサンプリングする。例えば、1次元垂直重複領域サンプリング手段112は、重複領域の垂直方向の画素数が32画素であれば、1次元水平重複領域サンプリング手段111と同様、1,2,4画素等の画素数単位でサンプリングを行う。なお、このサンプリングの画素数は、1次元水平重複領域サンプリング手段111と、1次元垂直重複領域サンプリング手段112とで同じである必要はない。
このように、1次元垂直重複領域サンプリング手段112は、垂直方向に重複領域をサブサンプリングすることで、垂直方向の画素数を減少させ、分割画像の画像高を、分割境界L(図4(a)参照)で区分される画像の高さとすることができる。
また、1次元垂直重複領域サンプリング手段112は、サブサンプリングした分割画像を、それぞれ分割画像のデータ列(分割画像列C;C〜C)として符号化手段12に出力する。
ここで、図5および図6を参照(適宜図2参照)して、重複領域サンプリング手段11が行うサンプリングの処理について具体的に説明する。なお、ここでは、一例として、図4で示した分割画像Rについて、図中右側に隣接する分割画像Rとの水平方向に重複する重複領域と、図中下側に隣接する分割画像Rとの垂直方向に重複する重複領域をサンプリングする例について説明する。
図6(a)の(a−1)は、分割画像Rと分割画像Rとが水平方向に隣接した部分である図5(a)の領域を部分的に示している。
この場合、1次元水平重複領域サンプリング手段111は、水平重複範囲Oの重複領域から、水平方向に予め定めた画素数(例えば、1,2画素等)単位でサブサンプリングする。これによって、水平重複範囲Oの重複領域から、分割画像Rに含まれる画素と、分割画像Rに含まれる画素とが、水平方向に列単位でサンプリングされる。そして、(a−2)に示すように、分割画像Rは、分割画像Rの画像を一部含んだ状態で、分割画像Rと分割画像Rとの重複領域を含まない分割境界Lまで水平方向の画素数が減少することになる。
図6(b)の(b−1)は、分割画像Rと分割画像Rとが垂直方向に隣接した部分である図5(b)の領域を部分的に示している。
この場合、1次元垂直重複領域サンプリング手段112は、垂直重複範囲Oの重複領域から、垂直方向に予め定めた画素数(例えば、1,2画素等)単位でサブサンプリングする。これによって、垂直重複範囲Oの重複領域から、分割画像Rに含まれる画素と、分割画像Rに含まれる画素とが、垂直方向に行単位でサンプリングされる。そして、(b−2)に示すように、分割画像Rは、分割画像Rの画像を一部含んだ状態で、分割画像Rと分割画像Rとの重複領域を含まない分割境界Lまで垂直方向の画素数が減少することになる。
図6(c)の(c−1)は、分割画像R,R,R,Rが隣接した部分である図5(c)の領域を部分的に示している。
この場合、分割画像Rは、図6(a)と同様に、1次元水平重複領域サンプリング手段111によって、分割画像Rを一部含んで水平方向にサブサンプリングされる。よって、1次元垂直重複領域サンプリング手段112によって、垂直重複範囲Oの重複領域を含んだ分割画像Rを垂直方向にサブサンプリングすることで、図6(c)の(c−1)、(c−2)に示すように、分割画像Rは、分割画像R,R,Rの一部を含んで、重複領域を含まない分割境界Lまで画素数が減少することになる。
このように、重複領域サンプリング手段11は、重複領域をサブサンプリングすることで、重複領域を含んだ分割画像から、隣接する他の分割画像の一部画像を含んで、分割境界Lで区分される大きさの画像を生成することができる。
なお、重複領域サンプリング手段11が行うサブサンプリングの手法を特定する情報(重複領域の範囲、サンプリングの間隔)は、予め記憶手段(図示せず)に記憶しておくこととしてもよいし、外部からキーボード等の入力装置(図示せず)を介して入力することとしてもよい。また、このサブサンプリングの手法を特定する情報は、復号側の画面分割復号装置2においても既知とする。なお、このサブサンプリングの手法を特定する情報(重複領域の範囲、サンプリングの間隔)は、後記する符号化手段12によって、付加情報として、符号化ビットストリーム(多重ビットストリーム)に多重化して、画面分割復号装置2に通知することとしてもよい。
図2に戻って、画面分割符号化装置1の構成について説明を続ける。
符号化手段12は、重複領域サンプリング手段11で変換されたサンプリング後の複数の分割画像をそれぞれ符号化して多重化することで符号化データを生成するものである。ここでは、符号化手段12は、符号化処理手段121と、ビットストリーム多重化手段122と、を備えている。
符号化処理手段121は、重複領域サンプリング手段11で変換されたサンプリング後の複数の分割画像(分割画像列C;C〜C)を入力とし、分割画像ごとに符号化するものである。この符号化処理手段121が行う符号化方式は、画像を符号化する符号化方式であれば特に限定するものではく、任意の符号化方式を用いることができる。例えば、符号化処理手段121は、MPEG−2、MPEG−4、H.264/AVC(Advanced Video Coding)等を用いることができる。
なお、この符号化方式は、復号側の画面分割復号装置2と対応するものであって、予め符号化側と復号側とで既知とする。
ここで、符号化処理手段121に入力される分割画像は、隣接する他の分割画像の一部がサブサンプリングされて含まれている。よって、符号化処理手段121が用いる符号化方式が、例えば、MPEG−2のような動き補償を利用する符号化方式である場合、分割画像を個別に符号化しても、隣接する他の分割画像を動きベクトルで参照することができる。
また、符号化対象が静止画像であった場合、それぞれの分割画像は、隣接する他の分割画像の一部がサブサンプリングされて含まれているため、分割画像の境界近傍は、それぞれの分割画像間で画質(複雑度、色等)の変化が少なくなり、分割画像の境界を目立たなくさせることができる。
この符号化処理手段121は、個々の分割画像を符号化したデータ(符号化ビットストリームd;d〜d)を、ビットストリーム多重化手段122に出力する。
ビットストリーム多重化手段122は、符号化処理手段121から個々の分割画像を符号化したデータ(符号化ビットストリームd;d〜d)を入力とし、多重化することで、1つの符号化データである多重ビットストリームDを生成するものである。
このビットストリーム多重化手段122が行う多重化方式は、複数のビットストリームを1つのビットストリームに変換するものであれば、任意の多重化方式を用いることができる。例えば、多重化方式として、MPEG−2TS等を用いることができる。なお、この多重化方式は、復号側の画面分割復号装置2においても既知とする。
このビットストリーム多重化手段122で生成された多重ビットストリームDは、伝送路を介して、画面分割復号装置2に出力される。なお、この伝送路は、符号化データを伝送する媒体であればよく、例えば、通信回線、放送波等である。
このように画面分割符号化装置1を構成することで、画面分割符号化装置1は、動画像Aを画面ごとに重複領域を含んで分割し、その重複領域をサブサンプリングするため、分割画像単独で符号化する際に、隣接する他の分割画像の画質や動きを符号化に反映させることができる。これにより分割画像間で画質の変化(劣化)を抑制できる。
また、画面分割符号化装置1は、重複領域をサブサンプリングして、重複領域を持たない場合と同じ大きさの分割画像を符号化対象とするため、符号化手段12として、処理可能な画素数の上限が分割画像の画素数であるような既存の符号化装置であっても、変更なしで利用することができる。
なお、画面分割符号化装置1は、図示を省略したCPUやメモリを搭載した一般的なコンピュータで実現することができる。このとき、画面分割符号化装置1は、コンピュータを、前記した各手段として機能させる画面分割符号化プログラムによって動作する。
[画面分割復号装置の構成]
次に、図3を参照して、本発明の第1実施形態に係る画面分割復号装置2の構成について説明する。ここでは、画面分割復号装置2は、復号手段20と、重複領域拡張手段21と、画面合成手段22と、を備えている。
復号手段20は、画面分割符号化装置1で符号化されたデータ(多重ビットストリームD)を分割画像ごとに分離して復号するものである。ここでは、復号手段20は、ビットストリーム分離手段201と、復号処理手段202と、を備えている。
ビットストリーム分離手段201は、伝送路を介して入力される、画面分割符号化装置1で符号化された多重ビットストリームDを、分割画像ごとのビットストリーム(符号化ビットストリームe;e〜e)に分離するものである。なお、このビットストリーム分離手段201が行うビットストリームの分離は、画面分割符号化装置1のビットストリーム多重化手段122が行う多重化方式に対応したものである。例えば、ビットストリーム多重化手段122が、MPEG−2TSにより多重化を行う場合、ビットストリーム分離手段201は、MPEG−2TSに準拠した形式でビットストリームの分離を行う。
このビットストリーム分離手段201は、分離した分割画像ごとのビットストリーム(符号化ビットストリームe;e〜e)を、復号処理手段202に出力する。
復号処理手段202は、ビットストリーム分離手段201で分離された分割画像ごとのビットストリーム(符号化ビットストリームe;e〜e)を入力とし、分割画像に復号するものである。この復号処理手段202が行う復号は、画面分割符号化装置1の符号化処理手段121が行う符号化方式に対応したものである。例えば、符号化処理手段121がMPEG−2符号化方式によって分割画像を符号化する場合、復号処理手段202は、MPEG−2に準拠した形式で符号化ビットストリームを復号する。
この復号処理手段202は、復号した個々の分割画像のデータ列(分割画像列E;E〜E)を重複領域拡張手段21に出力する。
重複領域拡張手段21は、復号手段20で復号されたそれぞれの分割画像において、画面分割符号化装置1でサブサンプリングされた領域を、サブサンプリングの間隔でダミーデータを挿入して再配置することで、分割画像の重複領域を拡張するものである。ここでは、重複領域拡張手段21は、1次元垂直重複領域拡張手段211と、1次元水平重複領域拡張手段212と、を備えている。
1次元垂直重複領域拡張手段211は、復号手段20で復号された分割画像(分割画像列E;E〜E)を入力とし、符号化側で垂直方向にサブサンプリングされた領域を垂直方向に拡張させるものである。すなわち、1次元垂直重複領域拡張手段211は、符号化側でサブサンプリングされた領域を、サブサンプリングした間隔で再配置することで、サブサンプリングされた領域を拡張した分割画像を生成する。
例えば、1次元垂直重複領域拡張手段211は、図6(b)の(b−2)に示した垂直方向にサブサンプリングされた分割画像Rにおいて、サンプリングされた領域をサブサンプリングした間隔で再配置し、符号化側でサンプリングにより間引かれた領域には任意の値(ダミーデータ;例えば、“0”)を挿入することで、垂直重複範囲Oの重複領域を拡張する。なお、この段階では、垂直重複範囲Oの重複領域には、分割画像Rの画素値は含まれていないことになる。
この1次元垂直重複領域拡張手段211によって、分割画像を垂直方向に拡張することで、分割画像の垂直方向の画素数は、符号化側でサブサンプリングする前の分割画像の垂直方向の画素数と同じになる。
また、1次元垂直重複領域拡張手段211は、垂直方向に拡張した分割画像を、それぞれ分割画像のデータ列(分割画像列f;f〜f)として1次元水平重複領域拡張手段212に出力する。
1次元水平重複領域拡張手段212は、1次元垂直重複領域拡張手段211で垂直方向に拡張された分割画像(分割画像列f;f〜f)を入力とし、符号化側で水平方向にサブサンプリングされた領域を水平方向に拡張させるものである。すなわち、1次元水平重複領域拡張手段212は、1次元垂直重複領域拡張手段211と同様、符号化側でサブサンプリングされた領域を、サブサンプリングした間隔で再配置することで、サブサンプリングされた領域を拡張した分割画像を生成する。
例えば、1次元水平重複領域拡張手段212は、図6(a)の(a−2)に示した水平方向にサブサンプリングされた分割画像Rにおいて、サンプリングされた領域をサブサンプリングした間隔で再配置し、符号化側でサンプリングにより間引かれた領域には任意の値(ダミーデータ;例えば、“0”)を挿入することで、水平重複範囲Oの重複領域を拡張する。なお、この段階では、水平重複範囲Oの重複領域には、分割画像Rの画素値は含まれていないことになる。
この1次元水平重複領域拡張手段212によって、分割画像を水平方向に拡張することで、分割画像の水平方向の画素数は、符号化側でサブサンプリングする前の分割画像の水平方向の画素数と同じになる。
また、1次元水平重複領域拡張手段212は、水平方向に拡張した分割画像を、それぞれ分割画像のデータ列(分割画像列F;F〜F)として画面合成手段22に出力する。
画面合成手段22は、重複領域拡張手段21で拡張された重複領域を含んだ分割画像を合成して画面を再構成するものである。
なお、重複領域拡張手段21で拡張された分割画像の重複領域において、符号化側でサンプリングにより間引かれた領域には任意の値(例えば、“0”)が挿入されている。また、当該分割画像に隣接する他の分割画像の重複領域においても、符号化側でサンプリングにより間引かれた領域には任意の値(例えば、“0”)が挿入されている。しかし、隣接する分割画像の重複領域同士は、それぞれの画素を有意な画素で補完することで、重複領域を再現できる。
よって、画面合成手段22は、分割画像を、図4(a)に示すように、分割境界Lごとに図示を省略したメモリ上に配置し、重複領域については、それぞれ隣接する分割画像の重複領域を相互に補完して生成し、メモリ上に配置する。これによって、画面合成手段22は、画像を構成する画面(フレーム画像)を順次再構成し、再構成動画像Gとして出力する。
このように画面分割復号装置2を構成することで、画面分割復号装置2は、画面分割符号化装置1で符号化された動画像データ(多重ビットストリーム)を、復号することができる。
なお、画面分割復号装置2は、図示を省略したCPUやメモリを搭載した一般的なコンピュータで実現することができる。このとき、画面分割復号装置2は、コンピュータを、前記した各手段として機能させる画面分割復号プログラムによって動作する。
[画面分割符号化装置の動作]
次に、図8を参照(構成については適宜図2参照)して、本発明の第1実施形態に係る画面分割符号化装置1の動作について説明する。
まず、画面分割符号化装置1は、画面重複分割手段10によって、入力された符号化対象となる動画像Aを構成する画面ごとに、予め定めた分割数で、分割境界を挟んで隣接する分割画像の一部領域が重複するように画面を分割する(図4参照;ステップS1)。
そして、画面分割符号化装置1は、重複領域サンプリング手段11によって、ステップS1で画面分割された分割画像の重複領域をサブサンプリングして、分割画像を予め定めた大きさの画像(サンプリング後分割画像)に変換する(ステップS2)。すなわち、重複領域サンプリング手段11は、重複領域を含んだ分割画像を、重複領域を含まないで分割した際の大きさに変換する。
具体的には、まず、画面分割符号化装置1は、重複領域サンプリング手段11の1次元水平重複領域サンプリング手段111によって、ステップS1で画面分割された分割画像の水平方向の重複領域を、水平方向にサブサンプリングする。これによって、各分割画像の水平方向の画素数は、隣接する分割画像の一部を含みながら、重複領域を含まないで分割した際の水平方向の画素数に減少される(図6(a)参照)。
そして、画面分割符号化装置1は、重複領域サンプリング手段11の1次元垂直重複領域サンプリング手段112によって、水平方向に重複領域がサブサンプリングされた分割画像の垂直方向の重複領域を、垂直方向にサブサンプリングする。これによって、各分割画像の垂直方向の画素数は、隣接する分割画像の一部を含みながら、重複領域を含まないで分割した際の垂直方向の画素数に減少される(図6(b)参照)。
その後、画面分割符号化装置1は、符号化手段12の符号化処理手段121によって、ステップS2で重複領域がサブサンプリングされた分割画像を、予め定めた符号化方式、例えば、MPEG−2等で符号化し、符号化ビットストリームdを生成する(ステップS3)。これによって、個々の分割画像が個別に符号化されることになる。
そして、画面分割符号化装置1は、符号化手段12のビットストリーム多重化手段122によって、ステップS3で生成された符号化ビットストリームdを、分割画像の数だけ多重化し、多重ビットストリームDを生成する(ステップS4)。
以上の動作によって、画面分割符号化装置1は、動画像Aを構成する画面を分割して符号化することができる。また、画面分割符号化装置1は、隣接する他の分割画像の画質や動きを符号化に反映させることができ、分割画像間で画質の変化(劣化)を抑えることができる。
[画面分割復号装置の動作]
次に、図9を参照(構成については適宜図3参照)して、本発明の第1実施形態に係る画面分割復号装置2の動作について説明する。
まず、画面分割復号装置2は、復号手段20のビットストリーム分離手段201によって、画面分割符号化装置1(図2参照)で符号化された多重ビットストリームDを、分割画像ごとの符号化ビットストリームeに分離する(ステップS10)。
そして、画面分割復号装置2は、復号手段20の復号処理手段202によって、ステップS10で分離された分割画像ごとの符号化ビットストリームeをそれぞれ復号する(ステップS11)。これによって、図8のステップS2で生成したサンプリング後の分割画像が復号されることになる。
その後、画面分割復号装置2は、重複領域拡張手段21によって、ステップS11で復号されたそれぞれの分割画像において、画面分割符号化装置1でサブサンプリングされた領域を、サブサンプリングの間隔で再配置することで、分割画像の重複領域を拡張する(ステップS12)。
具体的には、まず、画面分割復号装置2は、重複領域拡張手段21の1次元垂直重複領域拡張手段211によって、符号化側で垂直方向にサブサンプリングされた重複領域を、サブサンプリングした間隔で再配置する。これによって、各分割画像は、垂直方向に重複領域を含むように拡張される。ただし、この重複領域のうち、拡張した画素には、実際の画像の画素は含まれておらず、1次元垂直重複領域拡張手段211は、当該画素に任意の値(例えば、“0”)を挿入する。
そして、画面分割復号装置2は、重複領域拡張手段21の1次元水平重複領域拡張手段212によって、符号化側で水平方向にサブサンプリングされた重複領域を、サブサンプリングした間隔で再配置する。これによって、各分割画像は、水平方向に重複領域を含むように拡張される。ただし、この重複領域のうち、拡張した画素には、実際の画像の画素は含まれておらず、1次元水平重複領域拡張手段212は、当該画素に任意の値(例えば、“0”)を挿入する。
そして、画面分割復号装置2は、画面合成手段22によって、ステップS12で重複領域が拡張された分割画像を合成して画面を再構成する(ステップS13)。すなわち、画面合成手段22は、分割画像の重複領域を、隣接する分割画像の有意な画素で補完することで、重複領域を含んだ分割画像を1つの画面に合成する。
以上の動作によって、画面分割復号装置2は、画面分割符号化装置1で符号化された動画像データ(多重ビットストリーム)を、復号することができる。
以上、本発明の第1実施形態に係る画面分割符号化装置1および画面分割復号装置2の構成および動作について説明したが、第1実施形態に係る画面分割符号化装置1および画面分割復号装置2は、以下に示すように種々変形した実施形態とすることができる。
ここでは、画面分割符号化装置1の重複領域サンプリング手段11が、水平方向のサブサンプリングを行った後、垂直方向のサブサンプリングを行ったが、先に垂直方向のサブサンプリングを行い、その後、水平方向のサブサンプリングを行っても同様の結果となる。よって、重複領域サンプリング手段11は、1次元水平重複領域サンプリング手段111と、1次元垂直重複領域サンプリング手段112とを入れ替えて構成してもよい。
また、画面分割復号装置2の重複領域拡張手段21においても、同様に、1次元垂直重複領域拡張手段211と、1次元水平重複領域拡張手段212とを入れ替えて構成してもよい。
また、ここでは、符号化手段12が、ビットストリーム多重化手段122によって、符号化処理手段121で符号化された符号化ビットストリームを多重化して1つの多重ビットストリームとした。しかし、符号化ビットストリームを多重化せずに、時間をずらしてそれぞれの符号化ビットストリームを伝送してもよい。また、別々の伝送路を介して、それぞれの符号化ビットストリームを復号側に出力してもよい。この場合、画面分割符号化装置1から、ビットストリーム多重化手段122を省き、符号化処理手段121が、個々の符号化ビットストリームを出力する。また、この場合、画面分割復号装置2から、ビットストリーム分離手段201を省き、復号処理手段202が、個々の符号化ビットストリームを入力として受け取る。
また、ここでは、図2に示した重複領域サンプリング手段11(1次元水平重複領域サンプリング手段111,1次元垂直重複領域サンプリング手段112)、符号化処理手段121や、図3に示した復号処理手段202、重複領域拡張手段21(1次元垂直重複領域拡張手段211,1次元水平重複領域拡張手段212)を、それぞれ1つの手段として構成したが、これらは、それぞれ、分割画像の数だけ、多重化した構成とし、並列して動作させることとしてもよい。これによって、画面分割符号化装置1および画面分割復号装置2は、符号化/復号処理を高速に行える。
また、ここでは、重複領域サンプリング手段11(1次元水平重複領域サンプリング手段111,1次元垂直重複領域サンプリング手段112)が、単純に画素値のサブサンプリングを行うものとしたが、重複領域サンプリング手段11は、重複領域のサブサンプリングを行う際に、重複領域の任意の画素を、当該画素の周辺画素との間でフィルタリングを行い、フィルタリング後の画素値に対してサブサンプリングを行うこととしてもよい。
例えば、図7に示したフィルタによって、周辺画素を近傍8画素としたとき、任意の中心画素の重みを2/10、近傍8画素の重みを1/10として、画素値の加重和を算出し、その加重和を、サブサンプリングを行う際のサンプル値とする。
このように、近傍8画素の画素値が中心画素の画素値に加重され、平滑化されることで、符号化手段12が符号化を行う際に、サンプリングされなかった画素の画素値が加味されて符号化されることになる。これによって、分割画像間の画質や動きが平滑化され、折り返し歪みが低減され、分割境界における画質劣化をさらに抑えることができる。なお、このフィルタは、加重和以外にも、任意の線形・非線形のフィルタを使用することができる。
また、このフィルタの情報は、画面分割復号装置2においても既知とし、重複領域拡張手段21(1次元垂直重複領域拡張手段211,1次元水平重複領域拡張手段212)において、画面分割符号化装置1が行ったフィルタリングに対して逆フィルタリングを行うことで、元の画素値とする。また、このフィルタの情報は、付加情報として、画面分割符号化装置1から、画面分割復号装置2に通知する形態であっても構わない。
また、ここでは、画面合成手段22の出力を再構成動画像として出力したが、さらに後段に、後処理を行う合成画像後処理手段(図示せず)を備える構成としてもよい。この後処理は、例えば、平滑化処理等である。
≪第2実施形態≫
[画面分割符号化装置の構成]
次に、図10を参照して、本発明の第2実施形態に係る画面分割符号化装置1Bの構成について説明する。ここでは、画面分割符号化装置1Bは、画面重複分割手段10と、重複領域サンプリング手段11Bと、符号化手段12と、を備えている。重複領域サンプリング手段11B以外の構成については、図2で説明した画面分割符号化装置1と同一の構成であるため、同一の符号を付して説明を省略する。
重複領域サンプリング手段11Bは、画面重複分割手段10で画面分割された分割画像の重複領域をサブサンプリングして、分割画像を予め定めた大きさに変換するものである。この重複領域サンプリング手段11Bは、図2で説明した画面分割符号化装置1の重複領域サンプリング手段11における1次元水平重複領域サンプリング手段111と1次元垂直重複領域サンプリング手段112とを、2次元重複領域サンプリング手段113に替えて構成している。
2次元重複領域サンプリング手段113は、画面重複分割手段10で画面分割された分割画像(分割画像列B;B〜B)を入力とし、分割画像の重複領域を水平方向および垂直方向それぞれの方向にサンプル点を交互に設定してサブサンプリングするものである。すなわち、2次元重複領域サンプリング手段113は、すべての重複領域に対して、任意のブロック単位で2次元的にサブサンプリングを行う。
このブロックの横の画素数は、重複領域を水平方向に整数で2分割することが可能な画素数とし、ブロックの縦の画素数は、重複領域を垂直方向に整数で2分割することが可能な画素数とする。例えば、縦横ともに1画素の正方形ブロックや、縦1画素、横2画素の横長ブロック等を用いることができる。
このように、2次元重複領域サンプリング手段113は、水平方向および垂直方向に重複領域をサブサンプリングすることで、分割画像の画像幅、画像高を、分割境界L(図4(a)参照)で区分される画像幅、画像高とすることができる。
また、2次元重複領域サンプリング手段113は、サブサンプリングした分割画像を、それぞれ分割画像のデータ列(分割画像列C;C〜C)として符号化手段12に出力する。
ここで、図5および図12を参照(適宜図10参照)して、重複領域サンプリング手段11B(2次元重複領域サンプリング手段113)が行うサンプリングの処理について具体的に説明する。なお、ここでは、一例として、図4で示した分割画像Rについて、図中右側に隣接する分割画像Rとの水平方向に重複する重複領域と、図中下側に隣接する分割画像Rとの垂直方向に重複する重複領域をサンプリングする例について説明する。
なお、2次元重複領域サンプリング手段113は、サンプリング対象の重複領域が、水平方向に隣接している分割画像間の重複領域か、垂直方向に隣接している分割画像間の重複領域かを区別することなく、すべての重複領域に対して、2次元的にサブサンプリングを行う。ここでは、図6と対比しやすいように、便宜上、隣接状態を個別に図示している。
図12(a)の(a−1)は、分割画像Rと分割画像Rとが水平方向に隣接した部分である図5(a)の領域を部分的に示している。また、図12(b)の(b−1)は、分割画像Rと分割画像Rとが垂直方向に隣接した部分である図5(b)の領域を部分的に示している。また、図12(c)の(c−1)は、分割画像R,R,R,Rが隣接した部分である図5(c)の領域を部分的に示している。
いずれの場合も、分割画像Rは、2次元重複領域サンプリング手段113によって、水平重複範囲Oおよび垂直重複範囲Oで示される重複領域を、ブロック単位で2次元的にサブサンプリングされることで、図12(a−2),(b−2),(c−2)に示すように、隣接する分割画像を一部含んだ状態で、分割境界Lまで水平方向および垂直方向の画素数が減少することになる。
このように、重複領域サンプリング手段11Bは、重複領域をサブサンプリングすることで、重複領域を含んだ分割画像から、隣接する他の分割画像の一部画像を含んで、分割境界Lで区分される大きさの画像を生成することができる。なお、重複領域サンプリング手段11Bが行うサブサンプリングの手法を特定する情報(重複領域の範囲、ブロックの形状・サイズ)は、復号側の画面分割復号装置2Bにおいて既知としてもよいし、付加情報として、画面分割復号装置2Bに通知することとしてもよい。
[画面分割復号装置の構成]
次に、図11を参照して、本発明の第2実施形態に係る画面分割復号装置2Bの構成について説明する。ここでは、画面分割復号装置2Bは、復号手段20と、重複領域拡張手段21Bと、画面合成手段22Bと、を備えている。復号手段20は、図3で説明した画面分割復号装置2と同一の構成であるため、同一の符号を付して説明を省略する。
重複領域拡張手段21Bは、復号手段20で復号されたそれぞれの分割画像において、画面分割符号化装置1Bでサブサンプリングされた領域を、サブサンプリングの間隔でダミーデータを挿入して再配置することで、分割画像の重複領域を拡張するものである。この重複領域拡張手段21Bは、図3で説明した画面分割復号装置2の重複領域拡張手段21における1次元垂直重複領域拡張手段211と1次元水平重複領域拡張手段212とを、2次元重複領域拡張手段213に替えて構成している。
2次元重複領域拡張手段213は、復号手段20で復号された分割画像(分割画像列E;E〜E)を入力とし、符号化側で水平方向および垂直方向に2次元的にサブサンプリングされた領域を水平方向および垂直方向に拡張させるものである。すなわち、2次元重複領域拡張手段213は、符号化側でサブサンプリングされた領域を、サブサンプリングした間隔で再配置することで、サブサンプリングされた領域を拡張した分割画像を生成する。
例えば、2次元重複領域拡張手段213は、図12(a−2),(b−2),(c−2)に示したサブサンプリングされた分割画像Rにおいて、サンプリングされた領域をサブサンプリングした間隔で再配置し、符号化側でサンプリングにより間引かれた領域には任意の値(例えば、“0”)を挿入することで、水平重複範囲Oおよび垂直重複範囲Oで特定される重複領域を拡張する。なお、この段階では、重複領域には、分割画像R以外の画素値は含まれていないことになる。
この2次元重複領域拡張手段213によって、分割画像を水平方向および垂直方向に拡張することで、分割画像の画素数は、符号化側でサブサンプリングする前の分割画像の画素数と同じになる。
また、2次元重複領域拡張手段213は、拡張した分割画像を、それぞれ分割画像のデータ列(分割画像列F;F〜F)として画面合成手段22Bに出力する。
画面合成手段22Bは、重複領域拡張手段21Bで拡張された重複領域を含んだ分割画像を合成して画面を再構成するものである。
なお、重複領域拡張手段21Bで拡張された分割画像の重複領域において、符号化側でサンプリングにより間引かれた領域にはブロック単位で交互に任意の値(例えば、“0”)が挿入されている。また、当該分割画像に隣接する他の分割画像の重複領域においても、符号化側でサンプリングにより間引かれた領域にはブロック単位で交互に任意の値(例えば、“0”)が挿入されている。しかし、隣接する分割画像の重複領域同士は、それぞれの画素を有意な画素で補完することで、重複領域を再現できる。
以上、本発明の第2実施形態に係る画面分割符号化装置1Bおよび画面分割復号装置2Bの構成について説明したが、画面分割符号化装置1Bおよび画面分割復号装置2Bは、それぞれ、図示を省略したCPUやメモリを搭載した一般的なコンピュータで実現することができる。このとき、画面分割符号化装置1Bは、コンピュータを、前記した各手段として機能させる画面分割符号化プログラムによって動作し、画面分割復号装置2Bは、コンピュータを、前記した各手段として機能させる画面分割復号プログラムによって動作する。
また、画面分割符号化装置1Bおよび画面分割復号装置2Bの動作については、重複領域を1次元方向にサブサンプリングするか、2次元方向にサブサンプリングするかの違いのみであって、基本的に図8および図9で説明した画面分割符号化装置1および画面分割復号装置2の動作と同じであるため、説明を省略する。
また、画面分割符号化装置1Bは、画面分割符号化装置1の変形例と同様に、符号化ビットストリームを多重化せずに、時間をずらして伝送したり、別々の伝送路を介して、復号側に出力したりしてもよい。また、画面分割符号化装置1Bは、重複領域のサブサンプリングを行う際に、重複領域の任意の画素と、当該画素の周辺画素とでフィルタリングを行い、フィルタリング後の画素値に対してサブサンプリングを行うこととしてもよい。
1 画面分割符号化装置
10 画面重複分割手段
11 重複領域サンプリング手段
111 1次元水平重複領域サンプリング手段
112 1次元垂直重複領域サンプリング手段
113 2次元重複領域サンプリング手段
12 符号化手段
121 符号化処理手段
122 ビットストリーム多重化手段
2 画面分割復号装置
20 復号手段
201 ビットストリーム分離手段
202 復号処理手段
21 重複領域拡張手段
211 1次元垂直重複領域拡張手段
212 1次元水平重複領域拡張手段
213 2次元重複領域拡張手段
22 画面合成手段

Claims (7)

  1. 画像を予め定めた大きさに画面分割して符号化する画面分割符号化装置であって、
    前記画像を前記予め定めた大きさの画像に画面分割する際に、分割境界を挟んで予め定めた範囲をそれぞれ隣接する分割画像に重複して含むように前記画像を画面分割する画面重複分割手段と、
    この画面重複分割手段で画面分割された分割画像の重複領域を、当該重複領域を含む他の分割画像と不連続となるようにサブサンプリングして、当該分割画像を前記予め定めた大きさに変換する重複領域サンプリング手段と、
    この重複領域サンプリング手段で変換された複数の分割画像をそれぞれ符号化して符号化データを生成する符号化手段と、
    を含むことを特徴とする画面分割符号化装置。
  2. 画像を予め定めた大きさに画面分割して符号化する画面分割符号化装置であって、
    前記画像を前記予め定めた大きさの画像に画面分割する際に、分割境界を挟んで予め定めた範囲をそれぞれ隣接する分割画像に重複して含むように前記画像を画面分割する画面重複分割手段と、
    この画面重複分割手段で画面分割された分割画像の重複領域をサブサンプリングして、前記分割画像を前記予め定めた大きさに変換する重複領域サンプリング手段と、
    この重複領域サンプリング手段で変換された複数の分割画像をそれぞれ符号化して符号化データを生成する符号化手段と、を備え、
    前記重複領域サンプリング手段は、
    水平方向に隣接する前記分割画像間で重複する重複領域について、当該重複領域を水平方向にサブサンプリングする1次元水平重複領域サンプリング手段と、
    垂直方向に隣接する前記分割画像間で重複する重複領域について、当該重複領域を垂直方向にサブサンプリングする1次元垂直重複領域サンプリング手段と、
    を備えることを特徴とする画面分割符号化装置。
  3. 画像を予め定めた大きさに画面分割して符号化する画面分割符号化装置であって、
    前記画像を前記予め定めた大きさの画像に画面分割する際に、分割境界を挟んで予め定めた範囲をそれぞれ隣接する分割画像に重複して含むように前記画像を画面分割する画面重複分割手段と、
    この画面重複分割手段で画面分割された分割画像の重複領域をサブサンプリングして、前記分割画像を前記予め定めた大きさに変換する重複領域サンプリング手段と、
    この重複領域サンプリング手段で変換された複数の分割画像をそれぞれ符号化して符号化データを生成する符号化手段と、を備え、
    前記重複領域サンプリング手段は、
    前記分割画像の重複領域を水平方向および垂直方向それぞれの方向にサンプル点を交互に設定してサブサンプリングする2次元重複領域サンプリング手段を備えることを特徴とする画面分割符号化装置。
  4. 前記重複領域サンプリング手段は、前記重複領域の各画素を、当該画素の周辺画素との間でフィルタリングを行った後、サブサンプリングを行うことを特徴とする請求項1から請求項3のいずれか一項に記載の画面分割符号化装置。
  5. 画像を予め定めた大きさに画面分割して符号化するために、コンピュータを、
    前記画像を前記予め定めた大きさの画像に画面分割する際に、分割境界を挟んで予め定めた範囲をそれぞれ隣接する分割画像に重複して含むように前記画像を画面分割する画面重複分割手段、
    この画面重複分割手段で画面分割された分割画像の重複領域を、当該重複領域を含む他の分割画像と不連続となるようにサブサンプリングして、当該分割画像を前記予め定めた大きさに変換する重複領域サンプリング手段、
    この重複領域サンプリング手段で変換された複数の分割画像をそれぞれ符号化して多重化することで符号化データを生成する符号化手段、
    として機能させるための画面分割符号化プログラム。
  6. 画像を予め定めた大きさの画像に画面分割する際に、分割境界を挟んで予め定めた範囲をそれぞれ隣接する分割画像に重複して含むように前記画像を画面分割する画面重複分割手段と、この画面重複分割手段で画面分割された分割画像の重複領域をサブサンプリングして、前記分割画像を前記予め定めた大きさに変換する重複領域サンプリング手段と、この重複領域サンプリング手段で変換された複数の分割画像をそれぞれ符号化して符号化データを生成する符号化手段と、を備えた画面分割符号化装置で符号化された符号化データを復号する画面分割復号装置であって、
    前記符号化データをそれぞれの分割画像のデータに復号する復号手段と、
    この復号手段で復号されたそれぞれの分割画像において、前記画面分割符号化装置でサブサンプリングされた領域に、前記サブサンプリングの間隔でダミーデータを挿入することで、当該分割画像に対応した重複領域を拡張する重複領域拡張手段と、
    この重複領域拡張手段で拡張された重複領域におけるダミーデータを隣接する分割画像間で補完することで、前記分割画像を合成して画面を再構成する画面合成手段と、
    を備えることを特徴とする画面分割復号装置。
  7. 画像を予め定めた大きさの画像に画面分割する際に、分割境界を挟んで予め定めた範囲をそれぞれ隣接する分割画像に重複して含むように前記画像を画面分割する画面重複分割手段と、この画面重複分割手段で画面分割された分割画像の重複領域をサブサンプリングして、前記分割画像を前記予め定めた大きさに変換する重複領域サンプリング手段と、この重複領域サンプリング手段で変換された複数の分割画像をそれぞれ符号化して符号化データを生成する符号化手段と、を備えた画面分割符号化装置で符号化された符号化データを復号するために、コンピュータを、
    前記符号化データをそれぞれの分割画像のデータに復号する復号手段、
    この復号手段で復号されたそれぞれの分割画像において、前記画面分割符号化装置でサブサンプリングされた領域に、前記サブサンプリングの間隔でダミーデータを挿入することで、当該分割画像に対応した重複領域を拡張する重複領域拡張手段、
    この重複領域拡張手段で拡張された重複領域におけるダミーデータを隣接する分割画像間で補完することで、前記分割画像を合成して画面を再構成する画面合成手段、
    として機能させるための画面分割復号プログラム。
JP2010041217A 2010-02-26 2010-02-26 画面分割符号化装置およびそのプログラム、並びに、画面分割復号装置およびそのプログラム Expired - Fee Related JP5232182B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010041217A JP5232182B2 (ja) 2010-02-26 2010-02-26 画面分割符号化装置およびそのプログラム、並びに、画面分割復号装置およびそのプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010041217A JP5232182B2 (ja) 2010-02-26 2010-02-26 画面分割符号化装置およびそのプログラム、並びに、画面分割復号装置およびそのプログラム

Publications (2)

Publication Number Publication Date
JP2011181980A JP2011181980A (ja) 2011-09-15
JP5232182B2 true JP5232182B2 (ja) 2013-07-10

Family

ID=44693082

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010041217A Expired - Fee Related JP5232182B2 (ja) 2010-02-26 2010-02-26 画面分割符号化装置およびそのプログラム、並びに、画面分割復号装置およびそのプログラム

Country Status (1)

Country Link
JP (1) JP5232182B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101841122B1 (ko) * 2011-09-29 2018-03-23 엘지전자 주식회사 블록 기반의 동영상 옵티컬 플로 추정
US10116944B2 (en) 2014-02-10 2018-10-30 Nec Corporation Video encoding device, video encoding method, and program
WO2017051492A1 (ja) * 2015-09-24 2017-03-30 日本電気株式会社 映像符号化装置及び映像復号装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01225293A (ja) * 1988-03-04 1989-09-08 Fuji Photo Film Co Ltd 画像信号の直交変換符号化装置および伸長再生装置
JPH0846961A (ja) * 1994-08-03 1996-02-16 Nippon Telegr & Teleph Corp <Ntt> 画像符号化復号化方法
JP2947085B2 (ja) * 1994-08-30 1999-09-13 日本電気株式会社 領域拡大を用いた画像の反復変換符号化装置及び復号装置
JP2007088836A (ja) * 2005-09-22 2007-04-05 Victor Co Of Japan Ltd 画像伝送装置および画像伝送方法

Also Published As

Publication number Publication date
JP2011181980A (ja) 2011-09-15

Similar Documents

Publication Publication Date Title
JP6909223B2 (ja) 空間スケーラブル・ビデオ・コーディング
TWI416938B (zh) 用於產生,傳送和接收立體影像之方法及相關裝置
JP4779434B2 (ja) 動画像変換装置、動画像復元装置、および方法、並びにコンピュータ・プログラム
US20120268558A1 (en) Method and apparatus for video encoding using inter layer prediction with pre-filtering, and method and apparatus for video decoding using inter layer prediction with post-filtering
JP6019520B2 (ja) 立体画像を生成、送信、および、受信するための方法、および関連するデバイス
JP5909305B2 (ja) 符号化方法および符号化装置
JP5232182B2 (ja) 画面分割符号化装置およびそのプログラム、並びに、画面分割復号装置およびそのプログラム
JP2010226672A (ja) 画像分割装置、分割画像符号化装置及びプログラム
JP5909306B2 (ja) 復号方法および復号装置
JP2014517606A (ja) 立体画像を生成、送信、受信する方法、および関連する装置
JP2005110113A (ja) 多視点画像伝送システムと方法、多視点画像圧縮装置と方法、多視点画像伸長装置と方法およびプログラム
JP2018011198A (ja) 映像符号化装置、映像符号化方法及び映像符号化プログラム
US20110052138A1 (en) Image recording device, camera, image reproduction device, image recording method, image reproduction method, program, and integrated circuit
JP2006340300A (ja) 信号処理方法及び信号処理装置、並びに信号処理プログラム及び情報記録媒体
WO2017051492A1 (ja) 映像符号化装置及び映像復号装置
JP6254851B2 (ja) 並列符号化装置および並列復号装置ならびにそれらのプログラム
JP5361799B2 (ja) 映像符号化装置、映像復号化装置、映像符号化方法、映像復号化方法、及びプログラム
KR100938553B1 (ko) 스케일러블 영상 부/복호화기에서 주변 블록 정보를 이용한바운더리 처리 방법 및 장치
JP2008035012A (ja) 動画像変換装置、動画像復元装置、および方法、並びにコンピュータ・プログラム
JP2005244696A (ja) 動画像符号化装置及びプログラム、並びに動画像復号化装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120321

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130108

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130226

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130322

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160329

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5232182

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees