JP2014090261A - エンコード装置、デコード装置、エンコード方法、およびデコード方法 - Google Patents
エンコード装置、デコード装置、エンコード方法、およびデコード方法 Download PDFInfo
- Publication number
- JP2014090261A JP2014090261A JP2012238135A JP2012238135A JP2014090261A JP 2014090261 A JP2014090261 A JP 2014090261A JP 2012238135 A JP2012238135 A JP 2012238135A JP 2012238135 A JP2012238135 A JP 2012238135A JP 2014090261 A JP2014090261 A JP 2014090261A
- Authority
- JP
- Japan
- Prior art keywords
- image
- magnification
- base
- component information
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 63
- 238000006243 chemical reaction Methods 0.000 claims abstract description 99
- 238000004364 calculation method Methods 0.000 abstract description 120
- 230000008569 process Effects 0.000 description 44
- 230000005540 biological transmission Effects 0.000 description 41
- 238000010586 diagram Methods 0.000 description 17
- 230000008707 rearrangement Effects 0.000 description 11
- 230000006835 compression Effects 0.000 description 6
- 238000007906 compression Methods 0.000 description 6
- 230000009466 transformation Effects 0.000 description 5
- 239000000284 extract Substances 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000001427 coherent effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 239000004615 ingredient Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4092—Image resolution transcoding, e.g. by using client-server architectures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Television Systems (AREA)
Abstract
【課題】簡易な計算により様々に解像度変換した画像を利用可能とするエンコード装置、デコード装置、エンコード方法、およびデコード方法を提供する。
【解決手段】入力画像を予め定められた第1の倍率でダウンコンバートしてベース画像を生成するベース画像生成部と、入力画像を第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、ベース画像から入力画像を復元するために必要な情報の一部である第1の画像成分情報を生成する第1の画像成分生成部と、入力画像を第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、第1の画像成分情報と共に用いてベース画像から入力画像を復元するために必要な第2の画像成分情報を生成する第2の画像成分生成部と、ベース画像、第1の画像成分情報および第2の画像成分情報を出力する出力部とを具備する。
【選択図】図3
【解決手段】入力画像を予め定められた第1の倍率でダウンコンバートしてベース画像を生成するベース画像生成部と、入力画像を第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、ベース画像から入力画像を復元するために必要な情報の一部である第1の画像成分情報を生成する第1の画像成分生成部と、入力画像を第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、第1の画像成分情報と共に用いてベース画像から入力画像を復元するために必要な第2の画像成分情報を生成する第2の画像成分生成部と、ベース画像、第1の画像成分情報および第2の画像成分情報を出力する出力部とを具備する。
【選択図】図3
Description
本技術は、複数の解像度の画像データの伝送に好適なエンコード装置およびデコード装置に関する。
近年、テレビ放送は高解像度化が進み、4Kハイビジョンや8Kスーパーハイビジョンなどの高解像度の画像が扱われるようになってきている。また、スマートフォンなどの携帯型端末の普及が進み、高解像度から低解像度まで様々な解像度の画像を表示する要求が高まってきている。
また、現在、高解像度画像を圧縮して伝送するためには、ウェーブレット変換を用いることが一般的に行われている。
従来のウェーブレット変換・逆変換は、その性質上、2のべき乗でしか解像度を縮小又は拡大(スケーリング)することができないとされていたが、例えば原画像の解像度が大きくなると上記2のべき乗以外の解像度でデコードする要求も増えて来ると考えられる。すなわち、2のべき乗だけでなくそれ以外も含む任意有理数の解像度でデコード(復号化)することができるようになれば、端末側の制約条件に左右されることが無くなるため、非常に用途が広まると考えられた。
そこで、例えば、特許文献1に開示されているウェーブレット復号化装置では、ウェーブレット逆変換部に、アップサンプラ、ダウンサンプラ及び合成フィルタを、所定の解像度変換の倍率に応じて適応的に配置することにより、任意有理数倍率の解像度変換機能を実現している。なお、以下の説明では、解像度変換を行う機構の名称としてアップサンプラおよびダウンサンプラの用語に代わりアップコンバータ(アップコンバート)およびダウンコンバータ(ダウンコンバート)の用語を用いている。
特許文献1に記載されている復号化装置(デコード装置)では、入力される画像はウェーブレット変換されたものであることが前提であった。デコード装置において、ウェーブレット逆変換により画像を復号する場合、垂直方向の逆変換および水平方向の逆変換の2回の逆変換を行わなければならず、更に一方の逆変換のみを行った段階での中間画像は、縦方向または横方向に間延びした画像となっており、そのまま出力して利用することはできなかった。以上のように、上記のデコード装置などにおいては、得られる画像の解像度や品質に制限があり、その他、様々な面での改善が要求されている。
以上のような事情に鑑み、本技術の目的は、簡易な計算により様々に解像度変換した画像を利用可能とするエンコード装置、デコード装置、エンコード方法、およびデコード方法を提供することにある。
(1)上記目的を達成するため、本技術の一形態に係るエンコード装置は、入力画像を予め定められた第1の倍率でダウンコンバートしてベース画像を生成するベース画像生成部と、前記入力画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記入力画像を復元するために必要な情報の一部である第1の画像成分情報を生成する第1の画像成分生成部と、前記入力画像を前記第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記入力画像を復元するために必要な第2の画像成分情報を生成する第2の画像成分生成部と、前記ベース画像、前記第1の画像成分情報および第2の画像成分情報を出力する出力部とを具備する。
本技術では、デコード装置側において、入力画像を第1の倍率、第2の倍率、および第3の倍率でダウンコンバートした3つの画像および元の入力画像の、合計4つの解像度の画像を出力する。そのために、エンコード装置側では、ベース画像、第1の画像成分情報、および第2の画像成分情報の3つのみを生成し、デコード装置に送る。これらの成分は、簡単な計算により生成でき、また簡単な計算によりダウンコンバートされた3つの画像および元の入力画像とすることができる。それ故、本技術のエンコード装置およびデコード装置では、簡易な計算により様々に解像度変換した画像を利用することができる。
(2)上記目的を達成するため、本技術の一形態に係るエンコード装置は、前記第1の画像成分情報と、前記ベース画像の各画素との第1のオフセット値を計算し、この第1のオフセット値を符号化し、前記第2の画像成分情報と、前記ベース画像の各画素との第2のオフセット値を計算し、この第2のオフセット値を符号化する符号化部をさらに具備し、前記第1の出力部は、前記ベース画像、前記符号化された第1のオフセット値、および前記符号化された第2のオフセット値を出力する構成でもよい。
本技術では、ベース画像の各画素の画素値と、第1の画像成分情報の値および第2の画像成分情報の値との差分すなわちオフセット値を計算する。ここで計算されたオフセット値は、ゼロになる事が多い。そのため、符号化すると効率よく圧縮することができる。
(3)上記目的を達成するため、本技術の一形態に係るエンコード装置は、前記ベース画像の全画素に対して均等な画質調整を行う画質調整部をさらに具備し、前記符号化部は、前記画質調整が行われたベース画像から前記オフセット値を計算する構成でもよい。
本技術では、入力された画像の画質調整を行う場合、入力された時点で調整するのではなく、ベース画像が生成された時点で、ベース画像のみに画質調整を行う。ベース画像のみに対して行われた画質調整の効果は、オフセット計算を経てデコード装置から出力される全ての解像度の画像に反映される。そのため、画質調整の対象となる画素数を削減できる。
(4)本技術の一形態に係るエンコード装置では、前記入力画像の垂直解像度は2160であり、前記第1の倍率は、1/3倍であり、前記第2の倍率は、1/2倍であり、前記第3の倍率は、2/3倍であってもよい。
(5)上記目的を達成するため、本技術の一形態に係るデコード装置は、元画像を予め定められた第1の倍率でダウンコンバートして得られたベース画像と、前記元画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記元画像を復元するために必要な情報の一部である第1の画像成分情報と、前記元画像を前記第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記元画像を復元するために必要な第2の画像成分情報とを入力する入力部と、前記入力されたベース画像を出力する出力部とを具備する。
本技術では、デコード装置に入力された、ベース画像、第1の画像成分情報、および第2の画像成分情報から簡単な構成と処理により、ベース画像を取り出すことができる。
(6)本技術の一形態に係るデコード装置では、前記出力部から出力されるベース画像の垂直解像度は720であってもよい。
(7)上記目的を達成するため、本技術の一形態に係るデコード装置は、元画像を予め定められた第1の倍率でダウンコンバートして得られたベース画像と、前記元画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記元画像を復元するために必要な情報の一部である第1の画像成分情報と、前記元画像を前記第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記元画像を復元するために必要な第2の画像成分情報とを入力する入力部と、前記入力された第1の画像成分情報を用いて前記元画像の前記第2の倍率でのダウンコンバート画像を生成するダウンコンバート部と、前記ダウンコンバートされた画像を出力する出力部とを具備する。
本技術では、デコード装置に入力された、ベース画像、第1の画像成分情報、および第2の画像成分情報から簡単な計算により、第2の倍率でのダウンコンバート画像を取り出すことができる。
(8)本技術の一形態に係るデコード装置では、前記出力部から出力される画像の垂直解像度は1080であってもよい。
(9)上記目的を達成するため、本技術の一形態に係るデコード装置は、元画像を予め定められた第1の倍率でダウンコンバートして得られたベース画像と、前記元画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記元画像を復元するために必要な情報の一部である第1の画像成分情報と、前記元画像を前記第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記元画像を復元するために必要な第2の画像成分情報とを入力する入力部と、前記入力されたベース画像および第2の画像成分情報を用いて前記元画像の前記第3の倍率でのダウンコンバート画像を生成するダウンコンバート部と、前記ダウンコンバートされた画像を出力する出力部とを具備する。
本技術では、デコード装置に入力された、ベース画像、第1の画像成分情報、および第2の画像成分情報から簡単な計算により、第3の倍率でのダウンコンバート画像を取り出すことができる。
(10)本技術の一形態に係るデコード装置では、前記出力部から出力される画像の垂直解像度は1440であってもよい。
(11)上記目的を達成するため、本技術の一形態に係るデコード装置は、元画像を予め定められた第1の倍率でダウンコンバートして得られたベース画像と、前記元画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記元画像を復元するために必要な情報の一部である第1の画像成分情報と、前記元画像を前記第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記元画像を復元するために必要な第2の画像成分情報とを入力する入力部と、前記入力されたベース画像、第1の画像成分情報、および第2の画像成分情報を用いて前記元画像を復元する復元部と、前記復元された元画像を出力する出力部とを具備する。
本技術では、デコード装置に入力された、ベース画像、第1の画像成分情報、および第2の画像成分情報から簡単な計算により、復元された元画像を取り出すことができる。
(12)本技術の一形態に係るデコード装置では、前記出力部から出力される前記入力画像の垂直解像度は2160であってもよい。
(13)上記目的を達成するため、本技術の一形態に係るデコード装置は、元画像を予め定められた第1の倍率でダウンコンバートして得られたベース画像と、前記元画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記元画像を復元するために必要な情報の一部である第1の画像成分情報と、前記元画像を前記第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記元画像を復元するために必要な第2の画像成分情報とを入力する入力部と、前記入力された第1の画像成分情報を用いて前記元画像の前記第2の倍率での第1のダウンコンバート画像を生成する第1のダウンコンバート部と、前記入力されたベース画像および第2の画像成分情報を用いて前記元画像の前記第3の倍率での第2のダウンコンバート画像を生成する第2のダウンコンバート部と、前記入力されたベース画像、第1の画像成分情報、および第2の画像成分情報を用いて前記元画像を復元する復元部と、前記入力されたベース画像と、前記第1のダウンコンバート画像と、前記第2のダウンコンバート画像と、前記復元された元画像とを出力する出力部とを具備する。
本技術では、デコード装置に入力された、ベース画像、第1の画像成分情報、および第2の画像成分情報から簡単な計算により、ベース画像と、前記第1のダウンコンバート画像と、前記第2のダウンコンバート画像と、前記復元された元画像とを取り出すことができる。
(14)本技術の一形態に係るデコード装置では、前記出力部から出力される、ベース画像の垂直解像度は720であり、前記第1のダウンコンバート画像の垂直解像度は1080であり、前記第2のダウンコンバート画像の垂直解像度は1440であり、前記復元された元画像の垂直解像度は2160であってもよい。
(15)上記目的を達成するため、本技術の一形態に係るエンコード方法では、入力画像を予め定められた第1の倍率でダウンコンバートしてベース画像を生成し、前記入力画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記入力画像を復元するために必要な情報の一部である第1の画像成分情報を生成し、前記入力画像を前記第1および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記入力画像を復元するために必要な第2の画像成分情報を生成する。
(16)上記目的を達成するため、本技術の一形態に係るデコード方法では、元画像を予め定められた第1の倍率でダウンコンバートして得られたベース画像と、前記元画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記元画像を復元するために必要な情報の一部である第1の画像成分情報と、前記元画像を前記第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記元画像を復元するために必要な第2の画像成分情報とを受け付け、前記第1の画像成分情報を用いて前記元画像の前記第2の倍率でのダウンコンバート画像を生成し、前記ベース画像および第2の画像成分情報を用いて前記元画像の前記第3の倍率でのダウンコンバート画像を生成し、前記ベース画像、第1の画像成分情報、および第2の画像成分情報を用いて前記元画像を復元する。
以上のように、本技術によれば、簡易な計算により様々に解像度変換した画像を利用可能となる。
以下、本技術に係る2つの実施形態を、図面を参照しながら説明する。
<第1の実施形態>
本技術の特徴は、大きく分けて2つある。1つは、エンコード装置に入力された画像を所定の倍率でダウンコンバートするために、画素同士の加減乗除による計算を行う事である。もう1つは、エンコード装置からデコード装置に対してデータを効率よく圧縮して伝送するために、入力画像をベース画像とベース画像からのオフセット値とに分解し、オフセット値部分の符号化により伝送するデータを効率よく圧縮する事である。
本技術の特徴は、大きく分けて2つある。1つは、エンコード装置に入力された画像を所定の倍率でダウンコンバートするために、画素同士の加減乗除による計算を行う事である。もう1つは、エンコード装置からデコード装置に対してデータを効率よく圧縮して伝送するために、入力画像をベース画像とベース画像からのオフセット値とに分解し、オフセット値部分の符号化により伝送するデータを効率よく圧縮する事である。
以下の説明では、最初に、エンコード装置に入力された画像を所定の倍率でダウンコンバートするための画素同士の加減乗除による計算について説明し、その後、オフセット値の計算までを含めた計算について説明する。
[ダウンコンバートのための計算(概略)]
最初に、エンコード装置に入力された画像を所定の倍率でダウンコンバートするための画素同士の加減乗除による計算の概略について説明する。
最初に、エンコード装置に入力された画像を所定の倍率でダウンコンバートするための画素同士の加減乗除による計算の概略について説明する。
以下の説明では、画素の位置を区別するために、画像を3×3または6×6の画素群に分け、その画素群を一つの単位として説明を行う。なお、以下の説明では、図1に示すように各画素に、3×3の画素群では、D0からD8までの番号を振る。
また、図2に示すように、6×6の画素群では、左上の3×3の画素群を第1象限の画素として、これらにD10からD18までの番号を振る。同様に、右上の3×3の画素群を第2象限の画素として、これらにD20からD28までの番号を振り、第3象限および第4象限も同様に番号を振る。
また、以下の説明では、(水平解像度)×(垂直解像度)が3840×2160P(Progressive)の画像を2160P画像と呼ぶ。同様に1920×1080P、1280×720P、960×540P、640×360P、2560×1440Pの画像をそれぞれ、1080P画像、720P画像、540P画像、360P画像、1440P画像と呼ぶ。
また、垂直解像度が720×2n(nは整数)である画像を、720系の画像と呼び、垂直解像度が1080×2m(mは整数)である画像を1080系の画像と呼ぶ。
図3は、本実施形態において、エンコード装置に入力された画像の解像度が、どのような処理を経て、デコード装置からの各解像度の出力画像になるかを示す図である。
一番左側が入力画像である2160P画像10であり、その右側の矢印部分がエンコード装置において行われる演算処理を表し、その右側の720P画像20、第1の画像成分30、および第2の画像成分40が、エンコード装置からデコード装置に伝送されるデータである。その右側の矢印部分がデコード装置において行われる演算処理を表し、最も右側の720P画像60、2160P画像70、1080P画像80、および1440P画像90が、デコード装置から直接的に出力される画像である。ここで直接的と表現したのは、デコード装置側でローカルにダウンコンバートまたはアップコンバートを行うことにより、この図に表した解像度以外の720系の画像や1080系の画像、さらにこれらの系列に当てはまらない解像度の画像でも出力を行うことができるからである。
以下では、入力画像である2160P画像10が、出力画像である720P画像60、2160P画像70、1080P画像80、および1440P画像90となるまでの経路について、1つずつ説明を行う。
(720P画像の生成経路)
まず、入力画像である2160P画像10から出力画像である720P画像60までの経路に沿って説明する。
まず、入力画像である2160P画像10から出力画像である720P画像60までの経路に沿って説明する。
エンコード装置に入力される入力画像は、2160P画像10であり、その中の3×3の画素群には、画素D0から画素D8までが含まれている。
エンコード装置からデコード装置への伝送データに含まれる720P画像20は、2160P画像10に対して1/3倍ダウンコンバートを行う事により生成される。720P画像20は、間引きによる1/3倍ダウンコンバートの場合、2160P画像10の画素D4に基づいて生成される。
なお、図では、720P画像20の、エンコード処理により生成される画素D4’は、画素D4から生成される事を示している。なお、以下の説明では、ダッシュが付いた画素は、画素の位置はダッシュが付かないものと同じであるが、その画素値は、各種処理が行われたものとなり、元の画素値とは意味が異なるものであることを示している。
720P画像20は、デコード装置に伝送され、そのまま出力された場合、720P画像60となる。
(1080P画像の生成経路)
次に、入力画像である2160P画像10から出力画像である1080P画像80までの経路に沿って説明する。
次に、入力画像である2160P画像10から出力画像である1080P画像80までの経路に沿って説明する。
エンコード装置への入力画像は、2160P画像10であり上記と同じである。
2160P画像10に対して、1/2倍ダウンコンバートを行って得られる1080P画像80をデコード装置において生成するための計算処理を途中まで行って第1の画像成分30が生成される。第1象限に位置する3×3画素群の場合、画素D0’は画素D0、D1、D3、D4から計算される。同様に画素D2’、D6’、およびD8’が計算される。なお、図では、便宜上6×6の画素番号ではなく、3×3の画素番号を用いて示している。
計算された第1の画像成分30は、デコード装置に伝送された後、1080P画像80を生成するために、1/2倍ダウンコンバートの後半の計算が行われ、最終的に1080P画像80となってデコード装置から出力される。
(1440P画像の生成経路)
次に、入力画像である2160P画像10から出力画像である1440P画像90までの経路に沿って説明する。
次に、入力画像である2160P画像10から出力画像である1440P画像90までの経路に沿って説明する。
エンコード装置への入力画像は、2160P画像10であり上記と同じである。
2160P画像10から画素D1、D3、D5、D7を抽出し、それらをエンコード処理により生成された画素D1’、D3’、D5’、D7’として、第2の画像成分が生成される。第2の画像成分は、デコード装置に伝送される。そして、デコード装置において、同じくエンコード装置から伝送された720P画像20の画素D4’と共に、補間2/3倍ダウンコンバートが行われ、1440P画像90が生成され、出力される。
ここで1440P画像90は、画素D1’、D3’、D4’、D5’、およびD7’を用いてダウンコンバート計算されるが、D0’、D2’、D6’、D8’の位置の画素値を用いることが出来ないため、これらの画素の分を補間してダウンコンバートが行われる。それ故、この1440P画像90は、2160P画像10に対してそのまま2/3倍ダウンコンバート処理を行った画像とは異なるので、疑似1440P画像の位置づけとなる。
(2160P画像の復元経路)
次に、入力画像である2160P画像10から出力画像である2160P画像70までの経路に沿って説明する。
次に、入力画像である2160P画像10から出力画像である2160P画像70までの経路に沿って説明する。
エンコード装置への入力画像は、2160P画像10であり上記と同じである。また、エンコード装置からデコード装置に伝送される伝送データに含まれる、720P画像20、第1の画像成分30、および第2の画像成分40は、上記と同じである。
デコード装置では、受信した720P画像20、第1の画像成分30、および第2の画像成分40に含まれるエンコード処理された画素D0’からD8’までの画素値を用いて、連立方程式を解くことにより、入力画像の画素D0からD8までの値を逆算し、2160P画像70を生成(復元)して、出力する。
以上、ダウンコンバートのための計算の概略について説明した。
[ダウンコンバートのための計算(詳細)]
エンコード装置に入力された画像を所定の倍率でダウンコンバートするための画素同士の加減乗除による計算の詳細について説明する。
エンコード装置に入力された画像を所定の倍率でダウンコンバートするための画素同士の加減乗除による計算の詳細について説明する。
(720P画像の計算)
まず、720P画像60の生成に関し説明する。図4は、入力画像の各画素が、どのように出力画像である720P画像に使われるかを示す図である。
まず、720P画像60の生成に関し説明する。図4は、入力画像の各画素が、どのように出力画像である720P画像に使われるかを示す図である。
図の左側は、入力画像の3×3の画素の配置を示しており、そのうちの画素D4のみが間引きによる1/3倍ダウンコンバートの対象となりD4’となる。よって画素D4’を求める計算式は、
D4’=D4 (1)
となる。図の中央は、伝送データ中の3×3の画素配置における画素D4’の位置を示している。そして、デコード装置に送られた伝送データ中の画素D4’は、デコード処理により抽出され、1×1のD4のみで表された720P画像60となる。ここでは、計算式
D4=D4’ (2)
の逆算が行われていると考えることができる。
D4’=D4 (1)
となる。図の中央は、伝送データ中の3×3の画素配置における画素D4’の位置を示している。そして、デコード装置に送られた伝送データ中の画素D4’は、デコード処理により抽出され、1×1のD4のみで表された720P画像60となる。ここでは、計算式
D4=D4’ (2)
の逆算が行われていると考えることができる。
以上が、720P画像60の生成方法である。
(1080P画像の計算)
次に、1080P画像80の生成に関し説明する。図5は、入力画像の各画素が、点線により示した区分けに従って、どのように出力画像である1080P画像に使われるかを示す図である。
次に、1080P画像80の生成に関し説明する。図5は、入力画像の各画素が、点線により示した区分けに従って、どのように出力画像である1080P画像に使われるかを示す図である。
図の左側は、入力画像の6×6の画素の配置を示している。そして、以下の数式により、図の中央に示す伝送データ(第1の画像成分)内の画素D10’、D12’、D16’、D18’、D20’、D22’、D26’、D28’、D30’、D32’、D36’、D38’、D40’、D42’、D46’、およびD48’の値が求められる。
第1象限の場合、
D10’=(D10+D11+D13+D14)/4 (3)
D12’=(D12+D15)/2 (4)
D16’=(D16+D17)/2 (5)
D18’=D18 (6)
D10’=(D10+D11+D13+D14)/4 (3)
D12’=(D12+D15)/2 (4)
D16’=(D16+D17)/2 (5)
D18’=D18 (6)
第2象限の場合、
D20’=(D20+D23)/2 (7)
D22’=(D21+D22+D24+D25)/4 (8)
D26’=D26 (9)
D28’=(D27+D28)/2 (10)
D20’=(D20+D23)/2 (7)
D22’=(D21+D22+D24+D25)/4 (8)
D26’=D26 (9)
D28’=(D27+D28)/2 (10)
第3象限の場合、
D30’=(D30+D31)/2 (11)
D32’=D32 (12)
D36’=(D33+D34+D36+D37)/4 (13)
D38’=(D35+D38)/2 (14)
D30’=(D30+D31)/2 (11)
D32’=D32 (12)
D36’=(D33+D34+D36+D37)/4 (13)
D38’=(D35+D38)/2 (14)
第4象限の場合、
D40’=D40 (15)
D42’=(D41+D42)/2 (16)
D46’=(D43+D46)/2 (17)
D48’=(D44+D45+D47+D48)/4 (18)
D40’=D40 (15)
D42’=(D41+D42)/2 (16)
D46’=(D43+D46)/2 (17)
D48’=(D44+D45+D47+D48)/4 (18)
図の右側に示すように、デコード装置に送られた上記の第1の画像成分を元に、さらに以下の計算が行われ、出力画像である1080P画像80の3×3画素を構成する画素A0からA8までの値が求められる。
A0=D10’ (19)
A1=(D12’+D20’)/2 (20)
A2=D22’ (21)
A3=(D16’+D30’)/2 (22)
A4=(D18’+D26’+D32’+D40’)/4 (23)
A5=(D28’+D42’)/2 (24)
A6=D36’ (25)
A7=(D38’+D46’)/2 (26)
A8=D48’ (27)
A1=(D12’+D20’)/2 (20)
A2=D22’ (21)
A3=(D16’+D30’)/2 (22)
A4=(D18’+D26’+D32’+D40’)/4 (23)
A5=(D28’+D42’)/2 (24)
A6=D36’ (25)
A7=(D38’+D46’)/2 (26)
A8=D48’ (27)
以上が、1080P画像80の生成方法である。
(1440P画像の計算)
次に、1440P画像90の生成に関し説明する。図6は、入力画像の各画素が、点線により示した区分けに従って、どのように出力画像である1440P画像に使われるかを示す図である。
次に、1440P画像90の生成に関し説明する。図6は、入力画像の各画素が、点線により示した区分けに従って、どのように出力画像である1440P画像に使われるかを示す図である。
図の左側は、入力画像の3×3の画素の配置を示している。そして、以下の数式により、図の中央に示す伝送データ(第2の画像成分)内の画素D1’、D3’、D4’、D5’、D7’の値が求められる。
D1’=D1 (28)
D3’=D3 (29)
D5’=D5 (30)
D7’=D7 (31)
D3’=D3 (29)
D5’=D5 (30)
D7’=D7 (31)
なお、D4’の値は、上記の数式(1)のとおり、720P画像20を生成する過程で求めているので、ここでは改めて求めることは行わない。
図の右側に示すように、デコード装置に送られた上記の第2の画像成分を元に、さらに以下の計算が行われ、出力画像である1440P画像の2×2画素を構成する画素B0からB3までの値が求められる。
B0=(D1’/2+D3’/2+D4’/4)×4/5 (32)
B1=(D1’/2+D5’/2+D4’/4)×4/5 (33)
B2=(D3’/2+D7’/2+D4’/4)×4/5 (34)
B3=(D5’/2+D7’/2+D4’/4)×4/5 (35)
B1=(D1’/2+D5’/2+D4’/4)×4/5 (33)
B2=(D3’/2+D7’/2+D4’/4)×4/5 (34)
B3=(D5’/2+D7’/2+D4’/4)×4/5 (35)
以上が、1440P画像90の生成方法である。
(2160P画像の計算)
次に、2160P画像70の復元に関し説明する。第1象限から第4象限まで、同様に計算を行うので、ここでは第1象限についての計算のみ説明を行う。なお、6×6の画像群の第1象限の画素D10’からD18’までは、3×3の画素群のD0’からD8’までと同じなので、以下では、D10’=D0’などの数式は省略する。
次に、2160P画像70の復元に関し説明する。第1象限から第4象限まで、同様に計算を行うので、ここでは第1象限についての計算のみ説明を行う。なお、6×6の画像群の第1象限の画素D10’からD18’までは、3×3の画素群のD0’からD8’までと同じなので、以下では、D10’=D0’などの数式は省略する。
まず、画素D14の値は、数式(2)より、
D14=D14’ (36)
である。また、画素D1、D3、D5、D7の値は、数式(28)から(31)より、
D11=D11’ (37)
D13=D13’ (38)
D15=D15’ (39)
D17=D17’ (40)
である。
D14=D14’ (36)
である。また、画素D1、D3、D5、D7の値は、数式(28)から(31)より、
D11=D11’ (37)
D13=D13’ (38)
D15=D15’ (39)
D17=D17’ (40)
である。
また、第1象限なので、数式(6)より、
D18=D18’ (41)
である。画素D12の値は、数式(4)より、
D12=2×D12’−D15 (42)
である。画素D16の値は、数式(5)より、
D16=2×D16’−D17 (43)
である。そして、画素D10の値は、数式(3)より、
D10=4×D10’−(D11+D13+D14) (44)
から求まる。
D18=D18’ (41)
である。画素D12の値は、数式(4)より、
D12=2×D12’−D15 (42)
である。画素D16の値は、数式(5)より、
D16=2×D16’−D17 (43)
である。そして、画素D10の値は、数式(3)より、
D10=4×D10’−(D11+D13+D14) (44)
から求まる。
以上の計算により、第1象限の9個の画素についてその値が求まる。第2象限から第4象限まで同様にして画素の値を求めると、2160P画像70を復元することが出来る。
[オフセット値の計算]
本技術では、上記のダウンコンバートの為の画素同士の演算に加えて、エンコード装置からデコード装置に伝送データを送信する際に、伝送データを効率よく圧縮するために、第1の画像成分および第2の画像成分の符号化を行っている。
本技術では、上記のダウンコンバートの為の画素同士の演算に加えて、エンコード装置からデコード装置に伝送データを送信する際に、伝送データを効率よく圧縮するために、第1の画像成分および第2の画像成分の符号化を行っている。
符号化は、これらの画像成分に対して直接符号化を行うのではなく、圧縮率を高めるために、ベース画像となる720P画像20と第1の画像成分および第2の画像成分との間でオフセット値を求め、このオフセット値に対する符号化を行っている。符号化には、ハフマン符号化や算術符号化を利用することができる。
具体的には、3×3の画素群では、ベース画像の画素D4’と、第1の画像成分の画素D0’、D2’、D6’、およびD8’と、第2の画像成分の画素D1’、D3’、D5’、およびD7’との間で差分を取っている。
オフセット値は、画像の低周波領域では、多くの値が0となるため、符号化する際の圧縮率を高めることが出来、効率的な圧縮を行うことができる。そのため、エンコード装置から出力される伝送データを、複数の解像度の画像をまとめた単一のLLVC(Low Latency Video Codec)ストリームとして、10Gbpsの帯域幅でデコード装置に送ることが出来る。
別の言い方をすれば、2種類のコヒーレントな信号成分をマイナス合成すると、相関性の高い部分が弱めあいほぼゼロになることで符号化圧縮を効率的に行う事が可能になったと言える。
なお、オフセット値を計算する事には、符号化の圧縮率を高める以外にも利点がある。例えば、ホワイトバランス処理などの、全画素に対して均等に画質調整する処理を行う場合、本技術では、入力画像である2160P画像の全ての画素に対して演算を行う代わりに、ベース画像の画素のみに対して処理を行えばよい。ベース画像はオフセット値を求める基準となる画像なので、この基準のホワイトバランスなどを変更すれば、全ての解像度の画像に対して処理をおこなったのと同じ効果が得られる。
以下では、これまでに述べたダウンコンバートの為の画素同士の計算式に、オフセット値の計算を含めて、実際の計算式がどうなるかを説明する。
(720P画像の計算)
まず、720P画像20に関しては、これ自体がベース画像となるので、これ自体に対してはオフセット値の計算は行わない。ベース画像の画素値D4’が、以下の計算で用いられることになる。
まず、720P画像20に関しては、これ自体がベース画像となるので、これ自体に対してはオフセット値の計算は行わない。ベース画像の画素値D4’が、以下の計算で用いられることになる。
なお、1080P画像および2160P画像を生成する際に、6×6画素群を用いる場合、ベース画像の画素D4’は、上述のとおり、第1象限では、画素D14’となる。
(1080P画像の計算)
次に、1080P画像80を生成する場合の計算式を挙げる。まず第1の画像成分の計算は、第1象限の場合、以下のようになる。第2象限以下は同様なので省略する。
次に、1080P画像80を生成する場合の計算式を挙げる。まず第1の画像成分の計算は、第1象限の場合、以下のようになる。第2象限以下は同様なので省略する。
D10’=(D10+D11+D13+D14)/4−D14’ (45)
D12’=(D12+D15)/2−D14’ (46)
D16’=(D16+D17)/2−D14’ (47)
D18’=D18−D14’ (48)
D12’=(D12+D15)/2−D14’ (46)
D16’=(D16+D17)/2−D14’ (47)
D18’=D18−D14’ (48)
そして、出力画像である1080P画像80の3×3画素を構成する画素A0からA8までの値は以下のようになる。
A0=D10’+D14’ (49)
A1=(D12’+D20’)/2+D14’ (50)
A2=D22’ +D14’ (51)
A3=(D16’+D30’)/2+D14’ (52)
A4=(D18’+D26’+D32’+D40’)/4+D14’ (53)
A5=(D28’+D42’)/2+D14’ (54)
A6=D36’ +D14’ (55)
A7=(D38’+D46’)/2+D14’ (56)
A8=D48’ +D14’ (57)
A1=(D12’+D20’)/2+D14’ (50)
A2=D22’ +D14’ (51)
A3=(D16’+D30’)/2+D14’ (52)
A4=(D18’+D26’+D32’+D40’)/4+D14’ (53)
A5=(D28’+D42’)/2+D14’ (54)
A6=D36’ +D14’ (55)
A7=(D38’+D46’)/2+D14’ (56)
A8=D48’ +D14’ (57)
以上が、1080P画像80の計算方法である。
(1440P画像の計算)
次に、1440P画像90を生成する場合の計算式を挙げる。まず第2の画像成分の計算は、以下のようになる。
次に、1440P画像90を生成する場合の計算式を挙げる。まず第2の画像成分の計算は、以下のようになる。
D1’=D1−D4’ (58)
D3’=D3−D4’ (59)
D5’=D5−D4’ (60)
D7’=D7−D4’ (61)
D3’=D3−D4’ (59)
D5’=D5−D4’ (60)
D7’=D7−D4’ (61)
そして、出力画像である1440P画像90の2×2画素を構成する画素B0からB3までの値は以下のようになる。
B0=(D1’/2+D3’/2+D4’×5/4)×4/5 (62)
B1=(D1’/2+D5’/2+D4’×5/4)×4/5 (63)
B2=(D3’/2+D7’/2+D4’×5/4)×4/5 (64)
B3=(D5’/2+D7’/2+D4’×5/4)×4/5 (65)
B1=(D1’/2+D5’/2+D4’×5/4)×4/5 (63)
B2=(D3’/2+D7’/2+D4’×5/4)×4/5 (64)
B3=(D5’/2+D7’/2+D4’×5/4)×4/5 (65)
以上が、1440P画像90の計算方法である。
(2160P画像の計算)
次に、2160P画像70を復元する場合の計算式を挙げる。計算式は、以下のようになる。なお、ここでは第1象限のみについて説明する。
次に、2160P画像70を復元する場合の計算式を挙げる。計算式は、以下のようになる。なお、ここでは第1象限のみについて説明する。
まず、画素D14の値は、数式(2)より、
D14=D14’ (66)
である。また、画素D1、D3、D5、D7の値は、数式(58)から(61)より、
D11=D11’+D14’ (67)
D13=D13’+D14’ (68)
D15=D15’+D14’ (69)
D17=D17’+D14’ (70)
である。
D14=D14’ (66)
である。また、画素D1、D3、D5、D7の値は、数式(58)から(61)より、
D11=D11’+D14’ (67)
D13=D13’+D14’ (68)
D15=D15’+D14’ (69)
D17=D17’+D14’ (70)
である。
また、第1象限なので、数式(48)より、
D18=D18’+D14’ (71)
である。画素D12の値は、数式(46)より、
D12=2×(D12’+D14’)−D15 (72)
である。画素D16の値は、数式(47)より、
D16=2×(D16’+D14’)−D17 (73)
である。そして、画素D10の値は、数式(45)より、
D10=4×(D10’+D14’)−(D11+D13+D14) (74)
となる。
D18=D18’+D14’ (71)
である。画素D12の値は、数式(46)より、
D12=2×(D12’+D14’)−D15 (72)
である。画素D16の値は、数式(47)より、
D16=2×(D16’+D14’)−D17 (73)
である。そして、画素D10の値は、数式(45)より、
D10=4×(D10’+D14’)−(D11+D13+D14) (74)
となる。
以上が、2160P画像70の計算方法である。
[伝送データの画素の並び替えについて]
本技術では、エンコード装置から送られる伝送データに含まれる720P画像20をデコード装置側で取り出しやすくするため、また、エンコード処理を多重に行う際に計算をし易くするため、伝送データの生成時に、画素の並べ替えを行う。
本技術では、エンコード装置から送られる伝送データに含まれる720P画像20をデコード装置側で取り出しやすくするため、また、エンコード処理を多重に行う際に計算をし易くするため、伝送データの生成時に、画素の並べ替えを行う。
図7は、入力画像に対してエンコード処理と並べ替え処理を行う様子を示す図である。図の左側が入力画像である。図の中央は、一度エンコード処理を行った後に、720P画像が伝送データの中央に来るように並べ替えを行った様子を示している。図の右側は、再度エンコード処理と並べ替えを行った場合の様子を示しており、伝送データの中央には、720P画像の代わりに、再度エンコード処理を行うことによって生成された第1の画像成分および第2の画像成分と、240P画像が含まれている事がわかる。
図8は、画素の並び替え方法の具体例を示す図である。第1象限の3×3の画素群の中央にある画素D14と、それぞれの象限にある画素D24、D34、D44がベース画像720P20を構成する画素である。図中、これらの画素には下線を引いて示してある。これらを伝送データの中央に集めた様子が、図の右側に示すものである。下線で示した画素D14、D24、D34、D44が、伝送データの中央に集まっていることが分かる。
以上、伝送データにおけるベース画像である720P画像20の並べ替えについて説明した。
[エンコード装置の構成について]
次に、エンコード装置の構成について説明する。図9は、エンコード装置100の構成を示すブロック図である。
次に、エンコード装置の構成について説明する。図9は、エンコード装置100の構成を示すブロック図である。
エンコード装置100は、生成部110、オフセット計算部120、符号化部130、送信部140(出力部)、および画質調整部150を備えている。なお、生成部110は、ベース画像生成部110a、第1の画像成分生成部110b、および第2の画像成分生成部110cを含んで構成される。
エンコード装置100には、例えば、4Kハイビジョンカメラ1が接続される。接続された4Kハイビジョンカメラ1から、4Kハイビジョン画像が入力される。
エンコード装置100に入力された4Kハイビジョン画像は、生成部110に渡される。
生成部110は、上述のとおり、4Kハイビジョン画像(2160P画像10)を1/3倍ダウンコンバートし、ベース画像(720P画像20)を生成する。生成されたベース画像は、画質調整部150に渡される。
生成部110は、また、上述のとおり、4Kハイビジョン画像(2160P画像10)を途中まで1/2倍ダウンコンバートし第1の画像成分を生成すると共に、一部の画素の抽出を行い第2の画像成分を生成する。生成された第1および第2の画像成分は、オフセット計算部120に渡される。
画質調整部150は、生成部110から渡されたベース画像に対し、ホワイトバランス処理などの画像全体に均等に処理を施す画質調整を行う。画質調整されたベース画像は、オフセット計算部120および送信部140に渡される。
オフセット計算部120は、上述のとおり、画質調整部150から渡されたベース画像に対して、同じく生成部110から渡された第1および第2の画像成分のオフセット値を計算する。計算された第1および第2の画像成分のオフセット値は、符号化部130に渡される。
符号化部130は、オフセット計算部120から渡された第1および第2の画像成分のオフセット値を符号化する。符号化方法には上述のとおり、ハフマン符号化や算術符号化などを用いればよい。符号化された第1および第2の画像成分のオフセット値は、送信部140に渡される。
送信部140は、生成部110から渡されたベース画像と、符号化部130から渡された符号化された第1および第2の画像成分のオフセット値とを、伝送データとしてデコード装置に送信する。
なお、上記の説明では、エンコード装置100は、生成部110、オフセット計算部120、符号化部130、および送信部140を備えているとしたが、伝送データを圧縮せずに送信する場合には、生成部110および送信部140のみを備えた構成でもよい。
以上、エンコード装置100の構成について説明を行った。
[デコード装置の構成について]
次に、デコード装置の構成について説明する。図10は、デコード装置200の構成を示すブロック図である。
次に、デコード装置の構成について説明する。図10は、デコード装置200の構成を示すブロック図である。
デコード装置200は、受信部210(入力部)、出力部220、逆符号化部230、オフセット逆計算部240、1/2ダウンコンバート部(後半計算用)250(ダウンコンバート部、第1のダウンコンバート部)、1/2ダウンコンバート部251、252、253、254、補間2/3ダウンコンバート部260(ダウンコンバート部、第2のダウンコンバート部)、復元部270を備えている。
上記の構成では、デコード装置200から、2160P画像、1440P画像、1080P画像、720P画像、540P画像、270P画像、360P画像、および180P画像を出力することが出来る。
なお、1/2ダウンコンバート部251、252、253、および254は、必須の構成要素ではなく、デコード装置200からそれぞれ540P画像、270P画像、360P画像、180P画像を出力させる場合にのみ備えればよいものである。
また、例えば、270P画像をさらに1/2倍ダウンコンバートした135P画像の出力が必要な場合は、もう1段ダウンコンバートを行うための1/2ダウンコンバート部を、1/2ダウンコンバート部252の後段に設けてもよい。
また、上記では、複数の1/2ダウンコンバート部を用意したが、1/2倍のダウンコンバート処理を行う1/2ダウンコンバート部は1つのみとして、この1/2ダウンコンバート部からの出力を、再度1/2ダウンコンバート部の入力に戻すことにより、複数回の1/2倍ダウンコンバート処理を行ってもよい。
このように、デコード装置200の構成は、出力させる画像の解像度の種類の増減により、種々変更されることになる。
例えば、出力画像として720P画像のみが必要な場合、必須の構成要素は、受信部210および出力部220のみとなる。例えば、出力画像として360P画像が必要な場合、720P画像を1/2倍ダウンコンバートするので、1/2ダウンコンバート部253が構成に追加される。
出力画像として1080P画像のみが必要な場合、必須の構成要素は、受信部210、逆符号化部230、オフセット逆計算部240、1/2ダウンコンバート部(後半計算用)250、および出力部220のみとなる。例えば、出力画像として540P画像が必要な場合、1080P画像を1/2倍ダウンコンバートするので、1/2ダウンコンバート部251が構成に追加される。
出力画像として1440P画像のみが必要な場合、必須の構成要素は、受信部210、逆符号化部230、オフセット逆計算部240、補間2/3ダウンコンバート部260、および出力部220のみとなる。
出力画像として2160P画像のみが必要な場合、必須の構成要素は、受信部210、逆符号化部230、オフセット逆計算部240、復元部270、および出力部220のみとなる。
以下では、デコード装置200の各ブロックの説明を行う。
受信部210は、エンコード装置100から送られてきた、ベース画像と、符号化された第1および第2の画像成分のオフセット値とを受信し、受信したベース画像を出力部220と、オフセット逆計算部240と、補間2/3ダウンコンバート部260と、復元部270とに渡す。また、受信した符号化された第1および第2の画像成分のオフセット値を逆符号化部230に渡す。
出力部220は、受信部210、1/2ダウンコンバート部(後半計算用)250、補間2/3ダウンコンバート部260、復元部270からそれぞれ渡された、720P画像、1080P画像、1440P画像、2160P画像を外部に出力する。出力部220は、1/2ダウンコンバート部251、252を備えている場合、それぞれ540P画像および270P画像を外部に出力する。
逆符号化部230は、受信部210から渡された符号化された第1および第2の画像成分のオフセット値を復号する。復号は、エンコード装置100の符号化部130において行われた符号化の逆の演算により行う。復号された第1および第2の画像成分のオフセット値は、オフセット逆計算部240に渡される。
オフセット逆計算部240は、受信部210から渡されたベース画像の各画素値と、逆符号化部230から渡された第1および第2の画像成分のオフセット値とから、オフセット値をオフセット前の元の値に戻し、第1および第2の画像成分を算出する。オフセット逆計算部240は、算出した第1の画像成分を1/2ダウンコンバート部(後半計算用)250および復元部270に渡す。また、算出した第2の画像成分を補間2/3ダウンコンバート部260および復元部270に渡す。
1/2ダウンコンバート部(後半計算用)250は、第1の画像成分をオフセット逆計算部240から受け取る。そして、上述のとおり、2160P画像を1/2倍ダウンコンバートして1080P画像を生成するための計算が途中まで行われた第1の画像成分に基づいて、1080P画像を生成するまでの残りの計算を行う。1/2ダウンコンバート部(後半計算用)250は、生成した1080P画像を出力部220に渡す。また、540P画像や270P画像が必要な場合、1/2ダウンコンバート部(後半計算用)250は、生成した1080P画像を1/2ダウンコンバート部251に渡す。
なお、1/2ダウンコンバート部251、252、253、および254は、入力された画像を1/2倍ダウンコンバート処理した画像を出力するものである。
補間2/3ダウンコンバート部260は、受信部210から渡されたベース画像と、オフセット逆計算部240から渡された第2の画像成分とを用いて、上述のとおり、補間しながら2/3倍ダウンコンバート計算を行い、1440P画像を生成する。補間2/3ダウンコンバート部260は、生成した1440P画像を出力部220に渡す。
復元部270は、受信部210から渡されたベース画像と、オフセット逆計算部240から渡された第1および第2の画像成分とを用いて、上述のとおり、2160P画像を復元する。復元部270は、復元した2160P画像を出力部220に渡す。
以上、デコード装置200の構成について説明した。
[エンコード処理の流れについて]
次に、エンコード装置100における入力画像のエンコード処理の流れについて説明する。図11は、エンコード装置100におけるエンコード処理の流れについて説明するフローチャートである。
次に、エンコード装置100における入力画像のエンコード処理の流れについて説明する。図11は、エンコード装置100におけるエンコード処理の流れについて説明するフローチャートである。
まず、エンコード装置100が、エンコード処理を開始する前に、各部の初期化を行う(ステップS1)。
次に、生成部110が、外部からの画像の入力を受け付ける(ステップS2)。
次に、生成部110が、入力画像から、ベース画像、第1の画像成分、および第2の画像成分を抽出する(ステップS3)。抽出方法は、上述のとおりである。
次に、オフセット計算部120が、第1および第2の画像成分の、ベース画像の画素値からのオフセット値を計算する(ステップS4)。
次に、符号化部130が、ステップS4において計算されたオフセット値の符号化を行う(ステップS5)。
次に、送信部140が、ステップ3において抽出されたベース画像と、ステップ5において符号化された第1および第2の画像成分のオフセット値とを、デコード装置200へ送信する(ステップS6)。
最後に、エンコード装置100は、エンコード処理が終了したか否かを判断する(ステップS7)。終了していない場合(ステップS7のNo)は、ステップS2に戻り、次の画像の入力を受け付けてエンコード処理を継続する。
以上、エンコード装置100におけるエンコード処理の流れについて説明した。
[デコード処理の流れについて]
次に、デコード装置200における受信画像のデコード処理の流れについて説明する。
次に、デコード装置200における受信画像のデコード処理の流れについて説明する。
(720P画像、360P画像、および180P画像)
図12は、デコード装置200における、720P画像、360P画像、および180P画像のデコード処理の流れについて説明するフローチャートである。
図12は、デコード装置200における、720P画像、360P画像、および180P画像のデコード処理の流れについて説明するフローチャートである。
まず、デコード装置200は、デコード処理を開始する前に、各部の初期化を行う(ステップS11)。
次に、受信部210が、伝送データ、すなわち、ベース画像と、符号化された第1および第2の画像成分のオフセット値との受信を行う(ステップS12)。
720P画像に関しては、ステップS12の次に、出力部220が、受信したベース画像(720P画像)を外部に出力する(ステップS13)。
360P画像に関しては、ステップS12の次に、1/2ダウンコンバート部253が、受信したベース画像の1/2倍ダウンコンバート処理を行う(ステップS14)。次いで、出力部220が、ダウンコンバートした360P画像を外部に出力する(ステップS15)。
180P画像に関しては、ステップS14の次に、1/2ダウンコンバート部254が、1/2倍ダウンコンバート処理された画像に対して、さらに1/2倍ダウンコンバート処理を行う(ステップS16)。次いで、出力部220が、ダウンコンバートした180P画像を外部に出力する(ステップS17)。
ステップS13、S15、およびS17における画像の外部出力の後、デコード装置200は、デコード処理が終了したか否かの判断を行う(ステップS18)。終了していない場合(ステップS18のNo)は、ステップS12に戻り、次の画像を受信してデコード処理を継続する。
以上が、デコード装置200における、720P画像、360P画像、および180P画像のデコード処理の流れである。
(1080P画像、540P画像、および270P画像)
図13は、デコード装置200における、1080P画像、540P画像、および270P画像のデコード処理の流れについて説明するフローチャートである。
図13は、デコード装置200における、1080P画像、540P画像、および270P画像のデコード処理の流れについて説明するフローチャートである。
まず、デコード装置200は、デコード処理を開始する前に、各部の初期化を行う(ステップS21)。
次に、受信部210が、伝送データ、すなわち、ベース画像と、符号化された第1および第2の画像成分のオフセット値との受信を行う(ステップS22)。
次に、逆符号化部230が、符号化された第1の画像成分のオフセット値の復号を行う(ステップS23)。
次に、オフセット逆計算部240が、復号された第1の画像成分のオフセット値と、受信部210が受信したベース画像とから、第1の画像成分をオフセット値からオフセット前の元の値に戻す(ステップS24)。
次に、1/2ダウンコンバート部(後半計算用)250が、第1の画像成分を用いて、1/2倍ダウンコンバート計算の後半を行い、1080P画像を生成する(ステップS25)。
1080P画像に関しては、ステップS25の次に、出力部220が、生成された1080P画像を外部に出力する(ステップS26)。
540P画像に関しては、ステップS25の次に、1/2ダウンコンバート部251が、生成された1080P画像の1/2倍ダウンコンバート処理を行う(ステップS27)。次いで、出力部220が、ダウンコンバートした540P画像を外部に出力する(ステップS28)。
270P画像に関しては、ステップS27の次に、1/2ダウンコンバート部252が、1/2倍ダウンコンバート処理された画像に対して、さらに1/2倍ダウンコンバート処理を行う(ステップS29)。次いで、出力部220が、ダウンコンバートした270P画像を外部に出力する(ステップS30)。
ステップS26、S28、およびS30における画像の外部出力の後、デコード装置200は、デコード処理が終了したか否かの判断を行う(ステップS31)。終了していない場合(ステップS31のNo)は、ステップS22に戻り、次の画像を受信してデコード処理を継続する。
以上が、デコード装置200における、1080P画像、540P画像、および270P画像のデコード処理の流れである。
(1440P画像)
図14は、デコード装置200における、1440P画像のデコード処理の流れについて説明するフローチャートである。
図14は、デコード装置200における、1440P画像のデコード処理の流れについて説明するフローチャートである。
まず、デコード装置200は、デコード処理を開始する前に、各部の初期化を行う(ステップS41)。
次に、受信部210が、伝送データ、すなわち、ベース画像と、符号化された第1および第2の画像成分のオフセット値との受信を行う(ステップS42)。
次に、逆符号化部230が、符号化された第2の画像成分のオフセット値の復号を行う(ステップS43)。
次に、オフセット逆計算部240が、復号された第2の画像成分のオフセット値と、受信部210が受信したベース画像とから、第2の画像成分をオフセット値からオフセット前の元の値に戻す(ステップS44)。
次に、補間2/3ダウンコンバート部260が、ベース画像および第2の画像成分を用いて、補間による2/3倍ダウンコンバート計算を行い、1440P画像を生成する(ステップS45)。
次に、出力部220が、生成された1440P画像を外部に出力する(ステップS46)。
次に、デコード装置200は、デコード処理が終了したか否かの判断を行う(ステップS47)。終了していない場合(ステップS47のNo)は、ステップS42に戻り、次の画像を受信してデコード処理を継続する。
以上が、デコード装置200における、1440P画像のデコード処理の流れである。
(2160P画像)
図15は、デコード装置200における、2160P画像のデコード処理の流れについて説明するフローチャートである。
図15は、デコード装置200における、2160P画像のデコード処理の流れについて説明するフローチャートである。
まず、デコード装置200は、デコード処理を開始する前に、各部の初期化を行う(ステップS51)。
次に、受信部210が、伝送データ、すなわち、ベース画像と、符号化された第1および第2の画像成分のオフセット値との受信を行う(ステップS52)。
次に、逆符号化部230が、符号化された第1および第2の画像成分のオフセット値の復号を行う(ステップS53)。
次に、オフセット逆計算部240が、復号された第1および第2の画像成分のオフセット値と、受信部210が受信したベース画像とから、第1および第2の画像成分をオフセット値からオフセット前の元の値に戻す(ステップS54)。
次に、復元部270が、ベース画像と第1および第2の画像成分とを用いて、連立方程式を解くことにより、2160P画像を復元する(ステップS55)。
次に、出力部220が、復元された2160P画像を外部に出力する(ステップS56)。
次に、出力部220が、復元された2160P画像を外部に出力する(ステップS56)。
次に、デコード装置200は、デコード処理が終了したか否かの判断を行う(ステップS57)。終了していない場合(ステップS57のNo)は、ステップS52に戻り、次の画像を受信してデコード処理を継続する。
以上が、デコード装置200における、2160P画像のデコード処理の流れである。
以上、本技術における第1の実施形態について説明した。
以上、本技術における第1の実施形態について説明した。
<第2の実施形態>
次に、本技術における第2の実施形態について説明する。なお、以下の説明では、第1の実施形態と異なる部分についてのみ説明を行う。
次に、本技術における第2の実施形態について説明する。なお、以下の説明では、第1の実施形態と異なる部分についてのみ説明を行う。
[第1の実施形態との違い(概略)]
第1の実施形態では、1440P画像を求めるために、画素D1、D3、D4、D5、およびD7のみを用いたので、2/3倍ダウンコンバートを行う際には、画素D0、D2、D6、およびD8の分は、補間により補った。それ故、生成された1440P画像は、疑似1440P画像であった。
第1の実施形態では、1440P画像を求めるために、画素D1、D3、D4、D5、およびD7のみを用いたので、2/3倍ダウンコンバートを行う際には、画素D0、D2、D6、およびD8の分は、補間により補った。それ故、生成された1440P画像は、疑似1440P画像であった。
第2の実施形態では、1440P画像を求めるために、画素D0からD8までの全ての画素値を用いる。それ故、生成された1440P画像は、正確な2/3倍ダウンコンバート画像となっている。但し、1440P画像の計算方法を変えたために、2160P画像を復元する際の連立方程式を解くために、もう1つ、元の画素値が必要になる。以下の説明では、例として画素D5の画素値を、伝送データに含むことにしているが、D4以外の画素であればいずれの画素でもよい。
[ダウンコンバートのための計算(概略)]
図16は、本実施形態において、エンコード装置101に入力された画像の解像度が、どのような処理を経て、デコード装置201からの各解像度の出力画像になるかを示す図である。
図16は、本実施形態において、エンコード装置101に入力された画像の解像度が、どのような処理を経て、デコード装置201からの各解像度の出力画像になるかを示す図である。
第1の実施形態との違いは、1440P画像の生成経路と、2160P画像の復元経路である。720P画像および1080P画像に関する経路は同じなので説明は省略する。
(1440P画像の生成経路)
まず、入力画像である2160P画像10から出力画像である1440P画像91までの経路に沿って説明する。
まず、入力画像である2160P画像10から出力画像である1440P画像91までの経路に沿って説明する。
エンコード装置100に入力される入力画像は、2160P画像10であり、その中の3×3の画素群には、画素D0から画素D8までが含まれている。
本実施形態では、エンコード装置101側において、2/3倍ダウンコンバートの演算処理を行う。すなわち、例えば、画素D0、D1、D3、D4から、ダウンコンバート後の2×2の画素群の画素B0の値を算出する。但し、画素B0の値を、ダウンコンバート後の2×2の画素配置における画素B0の位置に配置するのは、デコード装置201側において行う。それ故、伝送データ上では、求めた画素B0の値は、元の3×3の画素群の画素D1’の画素位置に置かれて伝送される。
このように、2/3倍ダウンコンバート演算により求められたダウンコンバート後の2×2の画素群の画素B0からB3の値は、元の3×3の画素群の画素D1’、D3’、D5’、D7’の位置に格納され、伝送される。そしてデコード装置201において、2×2画素群の適切な画素位置に配置しなおされ、1440P画像が生成される。
(2160P画像の復元経路)
次に、入力画像である2160P画像10から出力画像である2160P画像70までの経路に沿って説明する。
次に、入力画像である2160P画像10から出力画像である2160P画像70までの経路に沿って説明する。
エンコード装置への入力画像は、2160P画像10であり上記と同じである。また、エンコード装置からデコード装置に伝送される伝送データに含まれる、720P画像20および第1の画像成分30は、第1の実施形態と同じである。
第2の画像成分41は、1440P画像の生成経路において説明したとおり、2160P画像10を2/3倍ダウンコンバートした画像成分である。
第2の画像成分41は、1440P画像の生成経路において説明したとおり、2160P画像10を2/3倍ダウンコンバートした画像成分である。
そして、第3の画像成分50は、上記のとおり、3×3の画素群における例えば画素D5を集めたものである。画素D5の抽出は、入力画像である2160P画像10に対して、間引きによる1/3倍ダウンコンバート処理を行うことにより得られる。
このように、第2の実施形態では、ベース画像(720P画像20)、第1および第2の画像成分に加えて、第3の画像成分も伝送データとしてデコード装置201に送られる。
デコード装置201では、受信した720P画像20、第1の画像成分30、および第2の画像成分41に含まれるエンコード処理された画素D0’からD8’までの画素値と、同じく受信した第3の画像成分50に含まれる画素D5’の画素値を用いて、連立方程式を解くことにより、入力画像の画素D0からD8までの値を逆算し、2160P画像70を生成(復元)して、出力する。
以上、ダウンコンバートのための計算の概略について説明した。
[ダウンコンバートのための計算(詳細)]
エンコード装置101に入力された画像を所定の倍率でダウンコンバートするための画素同士の加減乗除による計算の詳細について説明する。なお、720P画像および1080P画像に関しては第1の実施形態と同じなので、説明は省略する。
エンコード装置101に入力された画像を所定の倍率でダウンコンバートするための画素同士の加減乗除による計算の詳細について説明する。なお、720P画像および1080P画像に関しては第1の実施形態と同じなので、説明は省略する。
(1440P画像の計算)
まず、1440P画像90の生成に関し説明する。図17は、入力画像の各画素が、点線により示した区分けに従って、どのように出力画像である1440P画像に使われるかを示す図である。
まず、1440P画像90の生成に関し説明する。図17は、入力画像の各画素が、点線により示した区分けに従って、どのように出力画像である1440P画像に使われるかを示す図である。
図の左側は、入力画像の3×3の画素の配置を示している。そして、以下の数式により、図の中央に示す伝送データ(第2の画像成分)内の画素D1’、D3’、D5’、D7’の値が求められる。
D1’={D0+(D1+D3)/2+D4/4}×4/9 (75)
D3’={D2+(D1+D5)/2+D4/4}×4/9 (76)
D5’={D6+(D3+D7)/2+D4/4}×4/9 (77)
D7’={D8+(D7+D5)/2+D4/4}×4/9 (78)
D3’={D2+(D1+D5)/2+D4/4}×4/9 (76)
D5’={D6+(D3+D7)/2+D4/4}×4/9 (77)
D7’={D8+(D7+D5)/2+D4/4}×4/9 (78)
図の右側に示すように、デコード装置に送られた上記の第2の画像成分を元に、画素位置の配置換えが行われ、出力画像である1440P画像の2×2画素を構成する画素B0からB3までの値が求められる。
B0=D1’ (79)
B1=D3’ (80)
B2=D5’ (81)
B3=D7’ (82)
B1=D3’ (80)
B2=D5’ (81)
B3=D7’ (82)
以上が、1440P画像91の生成方法である。
(2160P画像の計算)
次に、2160P画像70の復元に関し説明する。第1象限から第4象限まで、同様に計算を行うので、ここでは第1象限についての計算のみ説明を行う。
次に、2160P画像70の復元に関し説明する。第1象限から第4象限まで、同様に計算を行うので、ここでは第1象限についての計算のみ説明を行う。
まず、画素D14の値は、数式(2)より、
D14=D14’ (83)
である。また、第3の画像成分は、入力画像2160P画像の画素D15(画素D5)そのままであるので、画素D15の値は、
D15=D15’ (84)
である。また、数式(6)より、画素D18の値は、
D18=D18’ (85)
である。また、画素D12の値は、数式(4)より、
D12=2×D12’−D15 (86)
である。また、画素D17の値は、数式(78)より、
D17=(D17’×9/4−D14/4−D15/2−D18)×2 (87)
である。また、画素D16の値は、数式(5)より、
D16=D16’×2−D17 (88)
である。また、画素D11の値は、数式(76)より、
D11=(D13’×9/4−D14/4−D15/2−D12)×2 (89)
である。また、画素D13の値は、数式(77)より、
D13=(D15’×9/4−D14/4−D17/2−D16)×2 (90)
である。また、画素D10の値は、数式(75)より、
D10=D11’×9/4−(D11+D13)/2−D14/4 (91)
である。
D14=D14’ (83)
である。また、第3の画像成分は、入力画像2160P画像の画素D15(画素D5)そのままであるので、画素D15の値は、
D15=D15’ (84)
である。また、数式(6)より、画素D18の値は、
D18=D18’ (85)
である。また、画素D12の値は、数式(4)より、
D12=2×D12’−D15 (86)
である。また、画素D17の値は、数式(78)より、
D17=(D17’×9/4−D14/4−D15/2−D18)×2 (87)
である。また、画素D16の値は、数式(5)より、
D16=D16’×2−D17 (88)
である。また、画素D11の値は、数式(76)より、
D11=(D13’×9/4−D14/4−D15/2−D12)×2 (89)
である。また、画素D13の値は、数式(77)より、
D13=(D15’×9/4−D14/4−D17/2−D16)×2 (90)
である。また、画素D10の値は、数式(75)より、
D10=D11’×9/4−(D11+D13)/2−D14/4 (91)
である。
以上の計算により、第1象限の9個の画素についてその値が求まる。第2象限から第4象限まで同様にして画素の値を求めると、2160P画像70を復元することが出来る。
[オフセット値の計算]
本実施形態では、3×3の画素群では、ベース画像の画素D4’と、第1の画像成分の画素D0’、D2’、D6’、およびD8’との間で差分を取り、また、ベース画像の画素D4’と、第2の画像成分の画素D1’、D3’、D5’、およびD7’との間で差分を取っている。さらに、ベース画像の画素D4’と、第3の画像成分の画素D5’との間でも差分を取っている。
本実施形態では、3×3の画素群では、ベース画像の画素D4’と、第1の画像成分の画素D0’、D2’、D6’、およびD8’との間で差分を取り、また、ベース画像の画素D4’と、第2の画像成分の画素D1’、D3’、D5’、およびD7’との間で差分を取っている。さらに、ベース画像の画素D4’と、第3の画像成分の画素D5’との間でも差分を取っている。
以下では、これまでに述べたダウンコンバートの為の画素同士の計算式に、オフセット値の計算を含めて、実際のどうなるかを説明する。なお、720P画像および1080P画像については、第1の実施形態と同じなので説明は省略する。
(1440P画像の計算)
次に、1440P画像90を生成する場合の計算式を挙げる。まず第2の画像成分の計算は、以下のようになる。
D1’={D0+(D1+D3)/2+D4/4}×4/9−D4’ (92)
D3’={D2+(D1+D5)/2+D4/4}×4/9−D4’ (93)
D5’={D6+(D3+D7)/2+D4/4}×4/9−D4’ (94)
D7’={D8+(D7+D5)/2+D4/4}×4/9−D4’ (95)
次に、1440P画像90を生成する場合の計算式を挙げる。まず第2の画像成分の計算は、以下のようになる。
D1’={D0+(D1+D3)/2+D4/4}×4/9−D4’ (92)
D3’={D2+(D1+D5)/2+D4/4}×4/9−D4’ (93)
D5’={D6+(D3+D7)/2+D4/4}×4/9−D4’ (94)
D7’={D8+(D7+D5)/2+D4/4}×4/9−D4’ (95)
そして、出力画像である1440P画像91の2×2画素を構成する画素B0からB3までの値は以下のようになる。
B0=D1’+D4’ (96)
B1=D3’+D4’ (97)
B2=D5’+D4’ (98)
B3=D7’+D4’ (99)
B0=D1’+D4’ (96)
B1=D3’+D4’ (97)
B2=D5’+D4’ (98)
B3=D7’+D4’ (99)
以上が、1440P画像91の生成方法である。
(2160P画像の計算)
次に、2160P画像70の復元に関し説明する。第1象限から第4象限まで、同様に計算を行うので、ここでは第1象限についての計算のみ説明を行う。
まず、画素D14の値は、数式(2)より、
D14=D14’ (100)
である。また、第3の画像成分は、入力画像2160P画像の画素D15(画素D5)そのままであるので、画素D15の値は、
D15=D15’+D14’ (101)
である。また、数式(48)より、画素D18の値は、
D18=D18’+D14’ (102)
である。また、画素D12の値は、数式(46)より、
D12=2×(D12’+D14’)−D15 (103)
である。また、画素D17の値は、数式(95)より、
D17={(D17’+D14’)×9/4−D14/4−D15/2−D18}×2 (104)
である。また、画素D16の値は、数式(47)より、
D16=(D16’+D14’)×2−D17 (105)
である。また、画素D11の値は、数式(93)より、
D11={(D13’+D14’)×9/4−D14/4−D15/2−D12}×2 (106)
である。また、画素D13の値は、数式(94)より、
D13={(D15’+D14’)×9/4−D14/4−D17/2−D16)×2 (107)
である。また、画素D10の値は、数式(92)より、
D10=(D11’+D14’)×9/4−(D11+D13)/2−D14/4 (108)
である。
次に、2160P画像70の復元に関し説明する。第1象限から第4象限まで、同様に計算を行うので、ここでは第1象限についての計算のみ説明を行う。
まず、画素D14の値は、数式(2)より、
D14=D14’ (100)
である。また、第3の画像成分は、入力画像2160P画像の画素D15(画素D5)そのままであるので、画素D15の値は、
D15=D15’+D14’ (101)
である。また、数式(48)より、画素D18の値は、
D18=D18’+D14’ (102)
である。また、画素D12の値は、数式(46)より、
D12=2×(D12’+D14’)−D15 (103)
である。また、画素D17の値は、数式(95)より、
D17={(D17’+D14’)×9/4−D14/4−D15/2−D18}×2 (104)
である。また、画素D16の値は、数式(47)より、
D16=(D16’+D14’)×2−D17 (105)
である。また、画素D11の値は、数式(93)より、
D11={(D13’+D14’)×9/4−D14/4−D15/2−D12}×2 (106)
である。また、画素D13の値は、数式(94)より、
D13={(D15’+D14’)×9/4−D14/4−D17/2−D16)×2 (107)
である。また、画素D10の値は、数式(92)より、
D10=(D11’+D14’)×9/4−(D11+D13)/2−D14/4 (108)
である。
以上の計算により、第1象限の9個の画素についてその値が求まる。第2象限から第4象限まで同様にして画素の値を求めると、2160P画像70を復元することが出来る。
[伝送データの画素の並び替えについて]
伝送データの画素の並び替え方法については、ベース画像と、第1および第2の画像成分の並び替えは、第1の実施形態のものと同じである。本実施形態では、これらに加えて、第3の画像成分が伝送データに追加される。
伝送データの画素の並び替え方法については、ベース画像と、第1および第2の画像成分の並び替えは、第1の実施形態のものと同じである。本実施形態では、これらに加えて、第3の画像成分が伝送データに追加される。
[エンコード装置の構成について]
次に、エンコード装置101の構成について説明する。エンコード装置101の構成を示すブロック図は、図9と同じなので省略する。
次に、エンコード装置101の構成について説明する。エンコード装置101の構成を示すブロック図は、図9と同じなので省略する。
第1の実施形態との違いは、生成部111である。生成部111は、上述のとおり、4Kハイビジョン画像(2160P画像10)を1/3倍ダウンコンバートし、ベース画像(720P画像20)を生成する。生成されたベース画像は、オフセット計算部120および送信部140に渡される。生成部110は、また、上述のとおり、4Kハイビジョン画像(2160P画像10)を途中まで1/2倍ダウンコンバートし第1の画像成分を生成する。この点は第1の実施形態と同じである。
生成部111に関して第1の実施形態と異なるのは、生成部111が、4Kハイビジョン画像(2160P画像10)を2/3倍ダウンコンバートし第2の画像成分を生成する事と、4Kハイビジョン画像(2160P画像10)を間引いて1/3倍ダウンコンバートし第3の画像成分を生成する事である。
生成された第1、第2および第3の画像成分は、オフセット計算部120に渡されて処理された後、ベース画像と共に、伝送データとしてデコード装置201に送信される。
[デコード装置の構成について]
次に、デコード装置201の構成について説明する。図18は、デコード装置201の構成を示すブロック図である。
次に、デコード装置201の構成について説明する。図18は、デコード装置201の構成を示すブロック図である。
デコード装置201は、受信部210、出力部220、逆符号化部230、オフセット逆計算部240、1/2ダウンコンバート部(後半計算用)250、1/2ダウンコンバート部251、252、253、254、1440P画像生成部261、復元部271を備えている。
第1の実施形態との大きな違いは、1440P画像生成部261および復元部271である。
1440P画像生成部261は、上述のとおり、エンコード装置100において、2160P画像10を2/3倍ダウンコンバートして得られた画素値を、3×3の画素群の画素D1’、D3’、D5’、D7’の位置に格納しておいたものを、2×2の画素群の画素B0からB3の画素位置に配置しなおす。
復元部271は、上述のとおり、エンコード装置100から送られたベース画像、第1、第2および第3の画像成分に基づき、連立方程式を解くことにより、2160P画像70を復元する。
以上、本技術における第2の実施形態について説明した。
<第3の実施形態>
次に、本技術における第3の実施形態について説明する。なお、以下の説明では、第1の実施形態と異なる部分についてのみ説明を行う。
次に、本技術における第3の実施形態について説明する。なお、以下の説明では、第1の実施形態と異なる部分についてのみ説明を行う。
[第1の実施形態との違い(概略)]
第1の実施形態では、720P画像20を求めるために、画素D0からD8のうち、画素D4以外を間引くことにより、1/3倍ダウンコンバート処理を行った。本実施形態では、間引くのではなく、画素D0からD8までの平均値を求めることにより、1/3倍ダウンコンバート処理を行う。
第1の実施形態では、720P画像20を求めるために、画素D0からD8のうち、画素D4以外を間引くことにより、1/3倍ダウンコンバート処理を行った。本実施形態では、間引くのではなく、画素D0からD8までの平均値を求めることにより、1/3倍ダウンコンバート処理を行う。
すなわち、第1の実施形態では、画素D4’の値は、数式(1)にあるように、
D4’=D4 (1)
であったが、本実施形態では、画素D4’の値は、
D4’=(D0+D1+D2+D3+D4+D5+D6+D7+D8)/9 (109)
となる。数式(109)から分かるように、この式から画素D4の値を一意に定めることはできないので、2160P画像を復元するために連立方程式を解く際には、第2の実施形態と同様に、もう1つの画素の値、例えば画素D5の値を、第3の画像成分としてデコード装置202に送る必要がある。
D4’=D4 (1)
であったが、本実施形態では、画素D4’の値は、
D4’=(D0+D1+D2+D3+D4+D5+D6+D7+D8)/9 (109)
となる。数式(109)から分かるように、この式から画素D4の値を一意に定めることはできないので、2160P画像を復元するために連立方程式を解く際には、第2の実施形態と同様に、もう1つの画素の値、例えば画素D5の値を、第3の画像成分としてデコード装置202に送る必要がある。
[ダウンコンバートのための計算(概略)]
図19は、本実施形態において、エンコード装置102に入力された画像の解像度が、どのような処理を経て、デコード装置202からの各解像度の出力画像になるかを示す図である。
図19は、本実施形態において、エンコード装置102に入力された画像の解像度が、どのような処理を経て、デコード装置202からの各解像度の出力画像になるかを示す図である。
第1の実施形態との違いの1点目は、ベース画像(720P画像)を構成する画素D4’が画素D0からD8を用いて求められている点である。2点目は、伝送データに、例えば画素D5から構成される第3の画像成分50が含まれる点である。3点目は、2160P画像を復元するために、ベース画像21と、第1、第2および第3の画像成分30、40、50を用いる点である。
なお、数式による計算の詳細や、エンコード装置102、デコード装置202の詳細は、第1の実施形態および第2の実施形態から同様に導かれるので、説明は省略する。
なお、第3の実施形態では、第1の実施形態を基に、画素D4’の計算式を数式(1)から数式(109)に変更したが、これに限らず、第2の実施形態を基に、画素D4’の計算式を数式(109)に変更してもよい。
[補足事項]
その他、本技術は、上述の実施形態にのみ限定されるものではなく、本技術の要旨を逸脱しない範囲内において種々変更を加え得ることは勿論である。
その他、本技術は、上述の実施形態にのみ限定されるものではなく、本技術の要旨を逸脱しない範囲内において種々変更を加え得ることは勿論である。
10…2160P画像
20、21…720P画像
30…第1の画像成分
40、41…第2の画像成分
50…第3の画像成分
60…720P画像
70…2160P画像
80…1080P画像
90、91…1440P画像
100〜102…エンコード装置
110、111…生成部
120…オフセット計算部
130…符号化部
140…送信部
200〜202…デコード装置
210…受信部
220…出力部
230…逆符号化部
240…オフセット逆計算部
250…1/2ダウンコンバート部(後半計算用)
251〜254…1/2ダウンコンバート部
260…補間2/3ダウンコンバート部
261…1440P画像生成部
270、271…復元部
20、21…720P画像
30…第1の画像成分
40、41…第2の画像成分
50…第3の画像成分
60…720P画像
70…2160P画像
80…1080P画像
90、91…1440P画像
100〜102…エンコード装置
110、111…生成部
120…オフセット計算部
130…符号化部
140…送信部
200〜202…デコード装置
210…受信部
220…出力部
230…逆符号化部
240…オフセット逆計算部
250…1/2ダウンコンバート部(後半計算用)
251〜254…1/2ダウンコンバート部
260…補間2/3ダウンコンバート部
261…1440P画像生成部
270、271…復元部
Claims (16)
- 入力画像を予め定められた第1の倍率でダウンコンバートしてベース画像を生成するベース画像生成部と、
前記入力画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記入力画像を復元するために必要な情報の一部である第1の画像成分情報を生成する第1の画像成分生成部と、
前記入力画像を前記第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記入力画像を復元するために必要な第2の画像成分情報を生成する第2の画像成分生成部と、
前記ベース画像、前記第1の画像成分情報および第2の画像成分情報を出力する出力部と
を具備するエンコード装置。 - 請求項1に記載のエンコード装置であって、
前記第1の画像成分情報と、前記ベース画像の各画素との第1のオフセット値を計算し、この第1のオフセット値を符号化し、前記第2の画像成分情報と、前記ベース画像の各画素との第2のオフセット値を計算し、この第2のオフセット値を符号化する符号化部
をさらに具備し、
前記第1の出力部は、
前記ベース画像、前記符号化された第1のオフセット値、および前記符号化された第2のオフセット値を出力する
エンコード装置。 - 請求項2に記載のエンコード装置であって、
前記ベース画像の全画素に対して均等な画質調整を行う画質調整部
をさらに具備し、
前記符号化部は、
前記画質調整が行われたベース画像から前記オフセット値を計算する
エンコード装置。 - 請求項1に記載のエンコード装置であって、
前記入力画像の垂直解像度は2160であり、
前記第1の倍率は、1/3倍であり、
前記第2の倍率は、1/2倍であり、
前記第3の倍率は、2/3倍である
エンコード装置。 - 元画像を予め定められた第1の倍率でダウンコンバートして得られたベース画像と、
前記元画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記元画像を復元するために必要な情報の一部である第1の画像成分情報と、
前記元画像を前記第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記元画像を復元するために必要な第2の画像成分情報と
を入力する入力部と、
前記入力されたベース画像を出力する出力部と
を具備するデコード装置。 - 請求項5に記載のデコード装置であって、
前記出力部から出力されるベース画像の垂直解像度は720である
デコード装置。 - 元画像を予め定められた第1の倍率でダウンコンバートして得られたベース画像と、
前記元画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記元画像を復元するために必要な情報の一部である第1の画像成分情報と、
前記元画像を前記第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記元画像を復元するために必要な第2の画像成分情報と
を入力する入力部と、
前記入力された第1の画像成分情報を用いて前記元画像の前記第2の倍率でのダウンコンバート画像を生成するダウンコンバート部と、
前記ダウンコンバートされた画像を出力する出力部と
を具備するデコード装置。 - 請求項7に記載のデコード装置であって、
前記出力部から出力される画像の垂直解像度は1080である
デコード装置。 - 元画像を予め定められた第1の倍率でダウンコンバートして得られたベース画像と、
前記元画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記元画像を復元するために必要な情報の一部である第1の画像成分情報と、
前記元画像を前記第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記元画像を復元するために必要な第2の画像成分情報と
を入力する入力部と、
前記入力されたベース画像および第2の画像成分情報を用いて前記元画像の前記第3の倍率でのダウンコンバート画像を生成するダウンコンバート部と、
前記ダウンコンバートされた画像を出力する出力部と
を具備するデコード装置。 - 請求項9に記載のデコード装置であって、
前記出力部から出力される画像の垂直解像度は1440である
デコード装置。 - 元画像を予め定められた第1の倍率でダウンコンバートして得られたベース画像と、
前記元画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記元画像を復元するために必要な情報の一部である第1の画像成分情報と、
前記元画像を前記第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記元画像を復元するために必要な第2の画像成分情報と
を入力する入力部と、
前記入力されたベース画像、第1の画像成分情報、および第2の画像成分情報を用いて前記元画像を復元する復元部と、
前記復元された元画像を出力する出力部と
を具備するデコード装置。 - 請求項11に記載のデコード装置であって、
前記出力部から出力される前記入力画像の垂直解像度は2160である
デコード装置。 - 元画像を予め定められた第1の倍率でダウンコンバートして得られたベース画像と、
前記元画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記元画像を復元するために必要な情報の一部である第1の画像成分情報と、
前記元画像を前記第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記元画像を復元するために必要な第2の画像成分情報と
を入力する入力部と、
前記入力された第1の画像成分情報を用いて前記元画像の前記第2の倍率での第1のダウンコンバート画像を生成する第1のダウンコンバート部と、
前記入力されたベース画像および第2の画像成分情報を用いて前記元画像の前記第3の倍率での第2のダウンコンバート画像を生成する第2のダウンコンバート部と、
前記入力されたベース画像、第1の画像成分情報、および第2の画像成分情報を用いて前記元画像を復元する復元部と、
前記入力されたベース画像と、前記第1のダウンコンバート画像と、前記第2のダウンコンバート画像と、前記復元された元画像とを出力する出力部と
を具備するデコード装置。 - 請求項13に記載のデコード装置であって、
前記出力部から出力される、ベース画像の垂直解像度は720であり、
前記第1のダウンコンバート画像の垂直解像度は1080であり、
前記第2のダウンコンバート画像の垂直解像度は1440であり、
前記復元された元画像の垂直解像度は2160である
デコード装置。 - 入力画像を予め定められた第1の倍率でダウンコンバートしてベース画像を生成し、
前記入力画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記入力画像を復元するために必要な情報の一部である第1の画像成分情報を生成し、
前記入力画像を前記第1および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記入力画像を復元するために必要な第2の画像成分情報を生成する
エンコード方法。 - 元画像を予め定められた第1の倍率でダウンコンバートして得られたベース画像と、
前記元画像を前記第1の倍率とは異なる予め定められた第2の倍率でダウンコンバートするために必要な情報であって、前記ベース画像から前記元画像を復元するために必要な情報の一部である第1の画像成分情報と、
前記元画像を前記第1の倍率および第2の倍率とは異なる予め定められた第3の倍率でダウンコンバートするために必要な情報であって、前記第1の画像成分情報と共に用いて前記ベース画像から前記元画像を復元するために必要な第2の画像成分情報とを受け付け、
前記第1の画像成分情報を用いて前記元画像の前記第2の倍率でのダウンコンバート画像を生成し、
前記ベース画像および第2の画像成分情報を用いて前記元画像の前記第3の倍率でのダウンコンバート画像を生成し、
前記ベース画像、第1の画像成分情報、および第2の画像成分情報を用いて前記元画像を復元する
デコード方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012238135A JP2014090261A (ja) | 2012-10-29 | 2012-10-29 | エンコード装置、デコード装置、エンコード方法、およびデコード方法 |
CN201310499109.XA CN103796020A (zh) | 2012-10-29 | 2013-10-22 | 编码装置、解码装置、编码方法及解码方法 |
US14/061,014 US20140119670A1 (en) | 2012-10-29 | 2013-10-23 | Encoding apparatus, decoding apparatus, encoding method, and decoding method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012238135A JP2014090261A (ja) | 2012-10-29 | 2012-10-29 | エンコード装置、デコード装置、エンコード方法、およびデコード方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014090261A true JP2014090261A (ja) | 2014-05-15 |
Family
ID=50547265
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012238135A Pending JP2014090261A (ja) | 2012-10-29 | 2012-10-29 | エンコード装置、デコード装置、エンコード方法、およびデコード方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20140119670A1 (ja) |
JP (1) | JP2014090261A (ja) |
CN (1) | CN103796020A (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6689821B2 (ja) * | 2014-08-12 | 2020-04-28 | シンジェンタ パーティシペーションズ アーゲー | 硫黄含有置換基を有する殺有害生物的に活性な複素環式誘導体 |
WO2018142159A1 (en) * | 2017-02-03 | 2018-08-09 | Tv One Limited | Method of video transmission and display |
US11297203B2 (en) * | 2018-05-09 | 2022-04-05 | Panamorph, Inc. | Image processing system and method |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5125045A (en) * | 1987-11-20 | 1992-06-23 | Hitachi, Ltd. | Image processing system |
CN100440982C (zh) * | 2001-07-10 | 2008-12-03 | 索尼株式会社 | 判定视频信号的设备和方法 |
GB2412519B (en) * | 2004-03-23 | 2010-11-03 | British Broadcasting Corp | Monitoring system |
-
2012
- 2012-10-29 JP JP2012238135A patent/JP2014090261A/ja active Pending
-
2013
- 2013-10-22 CN CN201310499109.XA patent/CN103796020A/zh active Pending
- 2013-10-23 US US14/061,014 patent/US20140119670A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
CN103796020A (zh) | 2014-05-14 |
US20140119670A1 (en) | 2014-05-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CA2635898C (en) | Resampling and picture resizing operations for multi-resolution video coding and decoding | |
EP2524505B1 (en) | Edge enhancement for temporal scaling with metadata | |
US9734557B2 (en) | Method and apparatus for generating 3K-resolution display image for mobile terminal screen | |
US20090231487A1 (en) | Image processing apparatus and method for format conversion | |
JP2012257148A (ja) | 動きベクトル検出装置、符号化装置、復号装置、及びこれらのプログラム | |
JP5449398B2 (ja) | 映像処理システムにおける映像を変換する装置及び方法 | |
US20210329246A1 (en) | Architecture for signal enhancement coding | |
JP2012235383A (ja) | エンコーダ、デコーダ、エンコーダシステム、デコーダシステム、伝送アダプタ、エンコード方法、デコード方法、および撮像装置 | |
JP2014090261A (ja) | エンコード装置、デコード装置、エンコード方法、およびデコード方法 | |
JP2009044538A (ja) | 監視システムおよびこれに用いる撮像装置 | |
EP3785445A1 (en) | Video decoder chipset | |
JP5945816B2 (ja) | 映像処理システム | |
WO2013035358A1 (ja) | 動画像符号化装置およびその方法、ならびに動画像復号装置およびその方法 | |
KR20100043955A (ko) | 블록 단위 스케러블 부호화기, 복호화기 및 그 방법 | |
JP2010028218A (ja) | 画像符号化装置、画像復号装置、画像帯域分割装置及び画像帯域合成装置 | |
JP2017098753A (ja) | 符号化装置、撮像装置、符号化装置の制御方法、プログラム及び記憶媒体 | |
JP2014160972A (ja) | 画像処理装置及びプログラム |