JP2015076624A - 符号化システム、符号化装置、復号化装置、および、符号化および復号化方法 - Google Patents
符号化システム、符号化装置、復号化装置、および、符号化および復号化方法 Download PDFInfo
- Publication number
- JP2015076624A JP2015076624A JP2013209396A JP2013209396A JP2015076624A JP 2015076624 A JP2015076624 A JP 2015076624A JP 2013209396 A JP2013209396 A JP 2013209396A JP 2013209396 A JP2013209396 A JP 2013209396A JP 2015076624 A JP2015076624 A JP 2015076624A
- Authority
- JP
- Japan
- Prior art keywords
- image
- signal
- encoding
- unit
- encoded
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Devices (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【課題】より高効率であり、かつ主観画質を低下させない、撮像素子から出力された信号を符号化および復号化する処理を実現する。【解決手段】符号化システムは、画像信号を符号化した符号化信号を出力する符号化装置と、符号化信号を復号化する復号化装置とを備えている。符号化装置は、複数の緑画素の画像信号を非圧縮で符号化し、複数の赤画素の画像信号および複数の青画素の画像信号を圧縮して符号化し、それぞれを符号化信号として出力するR/B符号化部と、各符号化信号を出力する符号化信号出力部とを備える。復号化装置は、各符号化信号を復号化して、各復号化信号を生成するR/B復号部と、画像信号とR/B復号部によって生成された各復号化信号との誤差を推定する誤差推定部と、推定された誤差情報、および色相関を利用して画像を復元する画像復元部と、復元された画像を出力する復号化信号出力部とを備える。【選択図】図1B
Description
本開示は、撮像素子や撮像モジュールのメモリを利用して、撮像データを圧縮する技術に関する。
近年、1920画素x1080画素の解像度を有するフルハイビジョン映像を超える、より高解像度・高フレームレートの映像を再生可能なシステムが普及しはじめている。例えば、フルハイビジョン映像と比べて縦横それぞれ2倍の解像度を有する4K2Kとよばれる映像の再生を可能にしたテレビが販売されている。また、フルハイビジョン映像と比べて縦横それぞれ4倍の解像度をもつスーパーハイビジョン映像の撮影や再生のための技術開発も進んでいる。さらに、フルハイビジョン映像を、120fpsや240fpsで撮影可能なカメラや表示可能なテレビが販売されている。
このような高解像度・高フレームレートの映像を処理する撮像システムでは、撮像素子や撮像モジュールから読み出されるデータの情報量や、それらから転送されるデータの情報量が膨大になる。その結果、転送帯域の拡大が必要となり、伝送周波数の高周波化や、データ転送の並列化といった対策が行われている。しかし、これらの対策は、特に小型化が要求される撮像素子や撮像モジュールにとって、ノイズの増加による画質の低下や、回路サイズ増加によるコストの増大という問題を生じさせる。そのため、データ転送量の削減が望まれている。
一方、3次元実装やThrough−Silicon Via(TSV)などの半導体実装分野の新しい技術発展に伴い、チップ上でより高度な画像処理を実現する撮像素子の開発が進んでいる。そのため、圧縮符号化によるデータ削減を、撮像素子上に実装する技術が望まれている。
非特許文献1は、データ削減の要求に対応するため、圧縮センシングの概念を利用した固体撮像素子を開示している。この固体撮像素子は、非特許文献2の圧縮センシング技術を利用し、圧縮撮像することにより、データ転送量の削減を可能にする。さらに、複数の画素それぞれに複数の異なる配線を接続し、複数の画素を、位相をずらしたタイミングで順に駆動して信号を読みだす。この構成により、サンプルおよびホールド回路が不要となり、追加の回路を削減している。
また、転送されるデータの情報量を削減するために、JPEGやMPEGなどの高効率圧縮手法が広く利用されている。さらに特許文献1に記載されているように、近年、RAW圧縮といわれる、イメージセンサ出力をそのまま圧縮する手法も開発されている。
Y. Oike and A. E. Gamal, "A 256×256 CMOS Image Sensor with ΔΣ-Based Single-Shot Compressed Sensing", IEEE International Solid−State Circuits Conference (ISSCC) Dig. Of Tech. Papers, pp.386−387, 2012
J. Ma, "Improved Iterative Curvelet Thresholding for Compressed Sensing and Measurement", IEEE Transactions on Instrumentation and Measurement, vol.60, no.1, pp.126−136, 2011
K. He, J. Sun and X. Tang, "Guided image filtering", Proc. Of the 11th European Conf. on Computer Vision (ECCV), 6311, pp.1−14, 2010
しかしながら、上述した従来の技術では、さらなる画像圧縮効率の向上が求められていた。
本願の、限定的ではない例示的なある実施の形態は、より高効率の画像圧縮技術を実現する符号化システムを提供する。
上記課題を解決するために、本発明の一態様は、画像信号を符号化した符号化信号を出力する符号化装置と、前記符号化信号を復号化する復号化装置とを備えた符号化システムであって、前記符号化装置は、前記画像信号を取得する画像取得部と、前記画像取得部によって取得された前記画像信号のうち、複数の緑画素の画像信号を非圧縮で符号化し、複数の赤画素の画像信号および複数の青画素の画像信号を圧縮して符号化し、それぞれを符号化信号として出力するR/B符号化部と、前記R/B符号化部が出力した各符号化信号を出力する符号化信号出力部とを備え、前記復号化装置は、前記各符号化信号を受信する符号化信号受信部と、前記符号化信号受信部によって受信された前記各符号化信号を復号化して、各復号化信号を生成するR/B復号部と、前記画像信号と前記R/B復号部によって生成された前記各復号化信号との誤差を推定する誤差推定部と、前記誤差推定部によって推定された誤差情報、および色相関を利用して画像を復元する画像復元部と、前記画像復元部によって復元された画像を出力する復号化信号出力部とを備えた符号化システムを含む。
本発明の一態様にかかる符号化システムは、人間の視覚感度特性を利用し、緑(Green)画素のみを圧縮なしまたは低圧縮率で符号化し、赤(Red)/青(Blue)画素は高効率に圧縮符号化し、さらに色情報を利用した画像復元処理を行う。これにより、簡単な処理で高効率の圧縮処理を実現する。
従来の技術は、復元処理をも考慮した場合には、現時点では圧縮効率が悪かった。
たとえば非特許文献1に開示された圧縮方法では、圧縮センシングの復元処理が非常に膨大になってしまうため、復元処理の実装が困難という課題がある。
JPEGやMPEGのような高効率圧縮手法においても、データ処理量が大きいため、大きな追加回路が必要となり、撮像素子上で実装するのは困難である。
また、RAW圧縮では、隣接画素との差分処理や、エントロピー符号化を組み合わせたものが多く、十分なデータ削減性能を有していない。
本願の、限定的ではない例示的なある実施の形態は、人間の感度特性を利用することにより、非常に簡易な処理でありながら、高効率の画像圧縮技術を提供する。
本発明の一態様の概要は以下のとおりである。
本発明の一態様である符号化システムは、画像信号を符号化した符号化信号を出力する符号化装置と、前記符号化信号を復号化する復号化装置とを備えた符号化システムであって、前記符号化装置は、前記画像信号を取得する画像取得部と、前記画像取得部によって取得された前記画像信号のうち、複数の緑画素の画像信号を非圧縮で符号化し、複数の赤画素の画像信号および複数の青画素の画像信号を圧縮して符号化し、それぞれを符号化信号として出力するR/B符号化部と、前記R/B符号化部が出力した各符号化信号を出力する符号化信号出力部とを備え、前記復号化装置は、前記各符号化信号を受信する符号化信号受信部と、前記符号化信号受信部によって受信された前記各符号化信号を復号化して、各復号化信号を生成するR/B復号部と、前記画像信号と前記R/B復号部によって生成された前記各復号化信号との誤差を推定する誤差推定部と、前記誤差推定部によって推定された誤差情報、および色相関を利用して画像を復元する画像復元部と、前記画像復元部によって復元された画像を出力する復号化信号出力部とを備えている。
本発明の他の一態様である符号化システムは、画像信号を符号化した符号化信号を出力する符号化装置と、前記符号化信号を復号化する復号化装置とを備えた符号化システムであって、前記符号化装置は、前記画像信号を取得する画像取得部と、前記画像取得部によって取得された前記画像信号のうち、複数の赤画素の画像信号および複数の青画素の画像信号を所定の圧縮率で圧縮して符号化し、それぞれの符号化信号を生成するR/B符号化部と、前記画像取得部によって取得された前記画像信号のうち、複数の緑画素の画像信号を前記所定の圧縮率よりも低い圧縮率で圧縮して符号化し、符号化信号を生成するG符号化部と、前記R/B符号化部および前記G符号化部によって生成された各符号化信号を出力する符号化信号出力部とを備え、前記復号化装置は、前記各符号化信号を受信する符号化信号受信部と、前記符号化信号受信部によって受信された、緑画素に関する符号化信号を復号化して復号化信号を生成するG復号部と、前記符号化信号受信部によって受信された、赤画素および青画素に関する各符号化信号を復号化して、各復号化信号を生成するR/B復号部と、前記画像信号と前記R/B復号部によって生成された前記各復号化信号との誤差を推定する誤差推定部と、前記誤差推定部によって推定された誤差情報、および色相関を利用して画像を復元する画像復元部と、前記画像復元部によって復元された画像を出力する復号化信号出力部とを備えている。
ある実施形態において、前記G符号化部は、前記画像取得部によって取得された前記画像信号の着目緑画素と近傍画素との差分信号を検出するG差分検出部と、前記差分信号を利用して、前記複数の緑画素の画像信号を圧縮して符号化するG差分符号化部とを備えている。
ある実施形態において、前記複数の緑画素は、第1の緑画素および第2の緑画素を含んでおり、前記G符号化部は、前記第1の緑画素の画像信号を圧縮して符号化し、前記第2の緑画素の画像信号を非圧縮で符号化する。
ある実施形態において、前記R/B符号化部は、前記画像取得部によって取得された前記画像信号の着目画素と近傍画素との差分である差分信号を検出する差分検出部と、前記差分信号を利用して、前記複数の緑画素の画像信号を非圧縮で符号化し、前記複数の赤画素の画像信号および前記複数の青画素の画像信号を圧縮して符号化するR/B差分符号化部とを備えている。
ある実施形態において、前記G符号化部は、前記第1の緑画素の画像信号を1行または1列ごとに圧縮して符号化する。
ある実施形態において、前記画像復元部は、ガイデッド・フィルタ(Guided Filter)を利用して前記画像を復元する。
本発明のさらに他の一態様である符号化装置は、画像信号を取得する画像取得部と、前記画像取得部によって取得された前記画像信号のうち、複数の緑画素の画像信号を非圧縮で符号化し、複数の赤画素の画像信号および複数の青画素の画像信号を圧縮して符号化し、それぞれを符号化信号として出力するR/B符号化部と、前記R/B符号化部から出力された各符号化信号を出力する符号化信号出力部とを備えている。
本発明のさらに他の一態様である符号化装置は、画像信号を取得する画像取得部と、前記画像取得部によって取得された前記画像信号のうち、複数の赤画素の画像信号および複数の青画素の画像信号を所定の圧縮率で圧縮して符号化し、それぞれの符号化信号を生成するR/B符号化部と、前記画像取得部によって取得された前記画像信号のうち、複数の緑画素の画像信号を前記所定の圧縮率よりも低い圧縮率で圧縮して符号化し、符号化信号を生成するG符号化部と、前記R/B符号化部および前記G符号化部によって生成された各符号化信号を出力する符号化信号出力部とを備えている。
本発明のさらに他の一態様である符号化装置は、符号化装置から、緑画素、赤画素および青画素のそれぞれに関する符号化信号を受信する符号化信号受信部であって、前記緑画素に関する符号化信号は、複数の緑画素の画像信号を非圧縮で符号化した信号であり、前記赤画素および青画素のそれぞれに関する符号化信号は、複数の赤画素の画像信号および複数の青画素の画像信号を圧縮して符号化した信号である、符号化信号受信部と、前記符号化信号受信部によって受信された前記各符号化信号を復号化して各復号化信号を生成するR/B復号部と、前記符号化装置によって符号化される前の画像信号と前記R/B復号部によって生成された前記各復号化信号との誤差を推定する誤差推定部と、前記誤差推定部によって推定された誤差情報、および色相関を利用して画像を復元する画像復元部と、前記画像復元部によって復元された画像を出力する復号化信号出力部とを備えている。
本発明のさらに他の一態様である符号化および復号化方法は、画像信号を符号化した符号化信号を出力する符号化装置と、前記符号化信号を復号化する復号化装置とを備えた符号化システムにおける符号化および復号化方法であって、前記符号化装置を用いて、前記画像信号を取得し、取得された前記画像信号のうち、複数の緑画素の画像信号を非圧縮で符号化し、複数の赤画素の画像信号および複数の青画素の画像信号をそれぞれ圧縮して符号化し、符号化された各符号化信号を出力し、前記復号化装置を用いて、前記各符号化信号を受信し、受信された前記各符号化信号を復号化して、各復号化信号を生成し、前記画像信号と前記各復号化信号との誤差を推定し、推定された誤差情報、および色相関を利用して画像を復元し、復元された前記画像を出力する。
以下、添付の図面を参照しながら、本発明の一実施形態にかかる符号化システムを説明する。
なお、以下の各実施の形態の説明では、イメージセンサの画素のうち、赤色(Red)の光を受ける画素を「R画素」と略記し、同様に、緑色(Green)および青色(blue)の光をそれぞれ受ける画素を「G画素」および「B画素」と略記する。
(実施の形態1)
図1Aは、本実施の形態にかかる撮像システム100の構成を示すブロック図である。撮像システム100は、撮像装置50と、復号化装置2とを備えている。撮像装置50は、撮影の結果得られた画像信号を符号化して出力する。復号化装置2は、撮像装置50から送信された、符号化された画像信号を用いて画像を復号化および復元する。
図1Aは、本実施の形態にかかる撮像システム100の構成を示すブロック図である。撮像システム100は、撮像装置50と、復号化装置2とを備えている。撮像装置50は、撮影の結果得られた画像信号を符号化して出力する。復号化装置2は、撮像装置50から送信された、符号化された画像信号を用いて画像を復号化および復元する。
本発明の一態様における撮像システム100の撮像装置50は、圧縮センシングの手法を用いて、撮像素子(後述する光電変換部51)から出力されたアナログ信号を、デジタルデータへと変換する前に、すなわちAD変換前に、圧縮して情報量を削減する。復号化装置2は圧縮されたアナログ信号を復元する。
撮像素子から出力されたアナログ信号をAD変換前に圧縮することにより、ADコンバータの負荷を低減させることが可能となる。その結果、ADコンバータの動作周波数の低減、相対的な高速AD変換、S/N改善および感度の向上、消費電力の低減が可能になる。
圧縮処理および復元処理は、最終的に出力される画質に大きく影響するため、如何にそれらの処理を行うかが問題である。本開示においては、人間の視覚特性を利用し、画質劣化が少ない非可逆圧縮を、簡易な方法で実現する。その概要は以下のとおりである。
まず、圧縮処理を行う撮像装置50においては、AD変換前の回路系の演算量を削減する。具体的には、撮像装置50は、青または赤の画素信号に関しては、誤差を含んだ状態で圧縮する。圧縮効率を向上できるため、処理する情報量を低減できる。これにより、上述したADコンバータの負荷低減や、複雑な回路に起因するノイズの重畳などを低減できる。一方、撮像装置50は、緑の画素信号に関しては、圧縮しないか、または相対的に低い圧縮率で圧縮する。人の視覚は、色変化に鈍感であり、また、人の視覚感度は赤、青よりも緑に対して高い。それらを考慮して、色に応じて処理を変化させている。
符号化装置1は、演算量が大きい画像処理を実行する。具体的には、符号化装置1は、誤差を含む画素に対しては、画像復元技術を利用して画像を復元する。詳細な処理は後述する。
本明細書で説明する処理によれば、画質、圧縮率、および演算量のトレードオフを解決することが可能である。そして、三次元実装処理可能な差分および比較処理のみによる実装を実現できる。以下、本実施の形態にかかる構成および動作を具体的に説明する。
撮像装置50は、光電変換部51と、電荷保持部52と、符号化装置1とを備えている。
光電変換部51はイメージセンサである。図4は、光電変換部51に相当する、単板ベイヤー配列のイメージセンサの画素の一部を模式的に示す。図4に示されるように、光電変換部51は複数の画素を有している。各画素は、受光した光を、その光量に応じた電気信号に変換する。電荷保持部52は、光電変換部51によって得られた電気信号を一定時間蓄積し、電荷信号として保持する。
次に、符号化装置1および復号化装置2の機能および詳細な構成を、図1Bを参照しながら説明する。本実施の形態では、符号化装置1および復号化装置2によって構成されるシステムを、「符号化システム」と呼ぶ。
図1Bは、本実施の形態にかかる符号化システム10の構成を示すブロック図である。また、図2は、本実施の形態における符号化装置1の処理の手順を示すフローチャートである。さらに、図3は、本実施の形態における復号化装置2の処理の手順を示すフローチャートである。
符号化装置1は、画像取得部101と、R/B符号化部102と、符号化信号出力部105を備えている。R/B符号化部102は、差分検出部103と、R/B差分符号化部104とを有する。
復号化装置2は、符号化信号受信部106と、R/B復号部107と、誤差推定部108と、画像復元部109と、復号化信号出力部110とを備えている。
上述のように、本実施の形態にかかる符号化システム10では、R画素、G画素、およびB画素のうち、撮影時の分光感度特性が人間の視覚感度特性に最も近いG画素からの出力信号は圧縮せず、R画素とB画素からの出力信号を圧縮符号化する。これにより、主観画質を保持しながら、圧縮率を向上させることが可能となる。
以下、符号化装置1の各構成要素を詳細に説明する。
画像取得部101は、電荷保持部52に保持されているアナログの画像信号を取得し、符号化装置1に取り込む(ステップS101)。この画像信号の各画素の信号値を、以下では「画素値」と呼ぶ。
なお、上述の画像取得部101は符号化装置1が信号を取得するためのインタフェースであることを想定しているが、この構成は一例に過ぎない。たとえば、図1Aに示す光電変換部51、および電荷保持部52を包括する構成を、画像取得部101と呼んでもよい。
上述した図4は、画像取得部101が取得した画像信号に含まれる複数の画素の位置関係を示している。本実施の形態では、図4に示した通り、単板ベイヤー配列のイメージセンサを利用し、ラスタスキャン順に符号化・復号化処理を行う。また、以下の説明では、図4における中央部の太枠で囲まれて示されている2つの画素(Bi,j画素とRi-1,j+1画素)の信号をそれぞれ符号化する処理を例に挙げて説明する。符号化処理の対象となる画素を「着目画素」とも呼ぶことがある。ここで、着目画素Bi,jは画素位置(i,j)におけるB画素の画素値を示し、着目画素Ri-1,j+1は画素位置(i−1,j+1)におけるR画素の画素値を示している。
前述のように、符号化処理はラスタスキャン順に行う。そのため、Bi,j画素を符号化する際には、B0,0, B2,0, B4,0, …, Bi-4,j, Bi-2,jの各B画素(図4における白色のB画素)はすでに符号化されている。一方、Bi+2,j以降のB画素(図4における斜線を記載したB画素)はまだ符号化が行われていない。同様に、Ri-1,j+1画素を符号化する際には、R1,1, R3,1, R5,1, …, Ri-5,j+1, Ri-3,j+1の各R画素(図4における白色のR画素)はすでに符号化されている。Ri+1,j+1以降のR画素(図4における斜線を記載したR画素)はまだ符号化が行われていない。
差分検出部103は、着目画素であるR画素およびB画素(以下、「着目R/B画素」とも記述する。)近傍のG画素間の差分信号を計算し、着目画素に関する縦方向と横方向の相対的なエッジ強度を計算する(ステップS102)。Bi,j画素を符号化する際には、横方向のエッジ強度Eh(i,j)、および、縦方向のエッジ強度Ev(i,j)は、相対的に次式で計算される。
ここで、Gbi+1,jは画素位置(i+1,j)におけるG画素の画素値を、Gri,j+1は画素位置(i,j+1)におけるG画素の画素値を示している。なお、エッジ強度は本来、(数1)と(数2)を2で除算することによって計算される。ただし本実施の形態の符号化システム10では相対的なエッジ強度を取得できれば十分であるため、実装上の都合で2の除算を省略している。また、以下の説明においても、相対的なエッジ強度として、2の除算を省略して計算している。正確なエッジ強度を求める必要があれば2の除算を行ってもよい。
Ri-1,j+1画素を符号化する際には、横方向のエッジ強度Eh(i−1,j+1)、および、縦方向のエッジ強度Ev(i−1,j+1)は、相対的に次式で計算される。
次に、差分検出部103は、着目R/B画素に関する縦方向と横方向の相対的なエッジ強度値を利用して、着目R/B画素の各々と、近傍画素との差分信号を計算する(ステップS103)。たとえばBi,j画素を符号化する際には、差分信号DB(i,j)は、G画素の(i,j)でのテーラー展開における1次微分項を利用することにより、次式で計算される。
ここで、B'i-2,jは後述する通り、1つ前に符号化された画素位置(i−2,j)におけるB画素の復号化信号の画素値を示している。なお、処理開始直後や画像左端などにおいてはB'i-2,j等に相当する符号化画素が存在しない場合がある。その場合には、所定の初期値(たとえば画素値0)を与えたり、差分値を利用せずに画素値そのものを送信すればよい。
なお、差分信号DB(i,j)は、次式の(数6)または(数7)で計算してもかまわない。
差分信号DB(i,j)を求めるために、(数5)の計算では(j−3)行から(j+1)行までの5行分の画素値を格納するメモリが必要であったが、(数6)の計算では、(j−2)行から(j+1)行まで4行分のメモリしか利用しない。(数6)を利用することで回路サイズを削減することができる。同様に、(数5)では(i−3)列から(i+1)列まで5列分のメモリが必要であったが、(数7)では、(i−2)列から(i+1)列まで4列分のメモリしか利用しない。(数7)を利用することで回路サイズを削減することができる。
また、Ri-1,j+1画素を符号化する際には、差分信号DR(i−1,j+1)は、G画素の(i-1,j+1)でのテーラー展開における1次微分項を利用することにより、次式で計算される。
ここで、R'i-3,j+1は後述する通り、画素位置(i−3,j+1)におけるR画素の復号化信号画素値を示している。
なお、差分信号DR(i−1,j+1)は、次式の(数9)または(数10)で計算してもかまわない。
差分信号DR(i−1,j+1)を計算するために、(数8)では(j−2)行から(j+2)行まで5行分のメモリが必要であったが、(数9)では、(j−1)行から(j+2)行まで4行分のメモリしか利用しない。(数9)を利用することで回路サイズを削減することができる。同様に、(数8)では(i−4)列から(i)列まで5列分のメモリが必要であったが、(数10)では、(i−3)列から(i)列まで4列分のメモリしか利用しない。(数10)を利用することで回路サイズを削減することができる。
本実施形態においては、上述のとおり計算された各差分信号は、たとえば14ビット以上の情報量で表現される数値として得られる。
R/B差分符号化部104は、差分検出部103が計算した差分信号DB(i,j)、DR(i−1,j+1)を圧縮符号化し、符号化差分信号DB’(i,j)、DR’(i−1,j+1)を計算する(ステップS104)。
図5は、R/B差分符号化部104が利用する符号化/復号化テーブルの模式図である。例えば、入力値である差分信号の信号値が−16以上15以下の場合、圧縮せず、そのままの値を符号値として採用する。また、差分信号の信号値が77である場合は符号値を23とし、−155である場合は符号値を−32とする。図5に示すテーブルを用いて差分信号の信号を符号値に割り当てる処理までが符号化処理である。図5の符号化/復号化テーブルを利用することにより、差分信号が小さい場合には符号化誤差が小さくなるように符号化される。よって、主観画質を保持しながら、圧縮率を向上させることが可能である。また、本実施の形態の符号化システム10では、撮影時の分光感度特性が人間の視覚感度特性に最も近いG画素に関しては、符号化処理を行わないため、主観画質を低下させにくい圧縮が可能である。
符号化信号出力部105は、R/B差分符号化部104が符号化した符号化差分信号DB’(i,j)、DR’(i−1,j+1)と近傍G画素間の差分信号を出力する(ステップS105)。
図5の符号化/復号化テーブルは−32から31の7ビットの符号値を利用している。元信号である画像の階調が14ビットの場合、本実施の形態の符号化システム10では、R/B画素は7ビットの信号値に符号化され、Gr/Gb画素は14ビットの信号値に符号化される。そのため、(7+7+14+14)/(14+14+14+14)=0.75より、本実施の形態の符号化システム10では、25%の情報量の削減が可能である。
本実施の形態では、上述した符号化後の情報量の削減だけではなく、その途中において差分信号を求めることによっても情報量の削減を行っている。通常の値を取り扱うよりも差分値を取り扱う方が情報量を削減することが可能である。これは差分圧縮と呼ばれるように、圧縮処理の一つと言える。
次に、復号化装置2の各構成要素を詳細に説明する。
符号化信号受信部106は、符号化信号出力部105が出力した符号化信号およびG画素の差分信号を受信する(ステップS106)。
R/B復号部107は、符号化信号受信部106が受信したR/B画素の符号化差分信号DB’(i,j)、DR’(i−1,j+1)を復号化し、復号化差分信号DBei,jとDRei-1,j+1を計算する(ステップS107)。R/B復号部107は、図5の符号化/復号化テーブルを利用してこの復号化処理を行う。符号化差分信号が−16以上15以下の場合、符号化による圧縮は行われていないため、そのままの値を復号化差分信号の値として採用する。また、符号値が23である場合は75を、符号値が−32である場合は−140をそれぞれ復号化差分信号の値として採用する。
図5の符号化/復号化テーブルを利用することにより、差分信号が小さい場合には符号化誤差が小さくなるように符号化できる。そのため、本実施の形態の符号化システム10では、主観画質を向上させた圧縮符号化を実現できる。
また、本実施の形態の符号化システム10では、撮影時の分光感度特性が人間の視覚感度特性に最も近いG画素に関しては圧縮を行わない。これにより、主観画質を低下させにくい圧縮が可能である。
R/B復号部107は、ステップS102と同様に、着目R/B画素の近傍G画素間の差分信号を計算し、着目R/B画素に関する縦方向と横方向の相対的なエッジ強度を計算する(ステップS108)。Bi,j画素を復号化する際には、横方向のエッジ強度Eh(i,j)、および、縦方向のエッジ強度Ev(i,j)は、相対的に、(数1)、(数2)で計算される。また、Ri-1,j+1画素を符号化する際には、横方向のエッジ強度Eh(i−1,j+1)、および、縦方向のエッジ強度Ev(i−1,j+1)は、相対的に、(数3)、(数4)で計算される。
次に、R/B復号部107は、着目R/B画素に関する縦方向と横方向の相対的なエッジ強度値と、近傍画素間の差分信号とを利用して、R/B差分信号の復号値から、R/B画素信号を復号化する(ステップS109)。Bi,j画素信号を復号化する場合、復号化信号B'i,jは次式で計算される。
なお、ステップS103において、差分信号DB(i,j)を(数6)、(数7)で計算した場合、それぞれ次の(数12)、(数13)により復号化信号B'i,jを計算する。
Ri-1,j+1画素を復号化する際には、復号化信号R'i-1,j+1は、次式で計算される。
また、ステップS103において、差分信号DR(i−1,j+1)を(数9)、(数10)で計算した場合、それぞれ次の(数15)、(数16)により復号化信号B'i,jを計算する。
誤差推定部108は、R/B復号部107の復号情報を利用して、復号化信号の符号化誤差を推定する(ステップS110)。この処理は、図5の符号化/復号化テーブルを利用すればよい。図5より、符号化信号受信部106が受信したR/B画素の符号化信号が−16以上15以下の場合、本実施の形態の符号化処理により、符号化誤差は生じないことがわかる。また、R/B画素の符号化信号が−31以上−17以下または16以上30以下だった場合、最大4階調の符号化誤差が生じる可能性がある。さらに、R/B画素の符号化信号が−32または31だった場合、より大きな符号化誤差が生じる可能性がある。このように、R/B復号部107の情報から、符号化誤差を推定することができる。誤差推定部108が推定した誤差の情報は誤差情報として出力される。
画像復元部109は、誤差情報と、色相関情報を利用して、画像を復元する(ステップS111)。具体的には、画像復元部109は、復元処理を行う画素を、誤差推定部108が推定した誤差情報を利用して選択する。つまり、画像復元部109は、符号化誤差が生じていない画素に関しては復号化信号をそのまま出力する。そして、画像復元部109は、誤差が生じている画素のみに関して画像復元処理を行う。符号化誤差が生じている画素は、画像復元処理が有効な画素である。そのような画素に対してのみ処理を行うことができるため、従来の画像復元処理に比べて復元精度の高い処理が可能である。ここで、画像復元処理としては、非特許文献3に記載されているガイデッド・フィルタ(Guided Filter)を利用すればよい。
図6は、画像復元部109の復元処理の流れの詳細を示したフローチャートである。まず、画像復元部109は、圧縮されていないG画素を拡大することで、R/B画素位置のG画素値を推定する(ステップS201)。これは、バイリニア補間やバイキュービック補間などの公知の補間手法を利用すればよい。
次に、画像復元部109は、Guided filterを利用してR/Bの復元画素値を計算する(ステップS202)。Guided filterを用いる画像復元処理は、参照画像の画素値を利用することにより、高精度な画像補間が可能な手法である。画像復元部109は、圧縮誤差の生じていないG画像を参照画像とすることで、R/Bの復元画素値を計算する。
こうして求まった復元R/B画素値を復号化信号と比較し、その誤差が、誤差推定部108が推定した誤差範囲内かどうかを検出する(ステップS203)。例えば、符号化信号受信部106が受信した符号化信号が27であった場合、元信号である差分信号の値は図5の符号化/復号化テーブルより104〜111と推定される。そこで復元画素値から求めた差分信号がこの範囲であった場合(ステップS203でYes)、画像復元部109は復元画素値を復号化画素値とする(ステップS204)。一方、復元画素値から求めた差分信号がこの範囲外であった場合(ステップS203でNo)、復号化画素値は変更しない(ステップS205)。ここで、Bi,j画素を復元する場合、復元差分信画像復元部109は次式で計算される。
ここで、B"i,jは、画素位置(i,j)におけるB画素の復元画素値を示している。
また、Ri-1,j+1画素を符号化する際には、復元差分信号DR"(i-1,j+1)は次式で計算される。
ここで、R"i-1,j+1は、画素位置(i−1,j+1)におけるR画素の復元画素値を示している。
復号化信号出力部110は、画像復元部109で処理した復号化画像信号とG画像信号とを出力する(ステップS112)。
以上説明したように本実施の形態によると、撮影によって得られた画像信号のG画素の信号は圧縮せず、R/B画素の信号をR/B差分符号化部104によって圧縮符号化する。そして、R/B復号部107によって符号化信号を復号化した後、誤差推定部108によって、復号化信号の符号化誤差を推定し、画像復元部109によって推定した誤差情報と色相関情報を利用してR/B復号化画素の画像復元を行う。
本実施の形態の符号化システム10は、人間の視覚特性に近いG画素に関しては圧縮せず、そのままの信号を出力することで、主観画質を低下させにくい圧縮符号化が可能である。さらに、符号化誤差が生じないため画質が高いG画素を利用してR/B復号化画素の画像復元を行うことにより、高効率でありながら、主観画質を低下させない符号化を実現できる。
以上の説明では、差分検出部103は、G画素から求めた着目画素に関する縦方向と横方向の相対的なエッジ強度値を利用して、近傍画素間の差分信号を計算するようにしたが、エッジ情報を利用しなくてもかまわない。この処理について説明する。Bi,j画素を符号化する際には、差分信号DB(i,j)は次式で計算される。
また、Ri-1,j+1画素を符号化する際には、差分信号DR(i−1,j+1)は次式で計算される。
ところで、R/B差分符号化部104は、図5の符号化/復号化テーブルを利用したが、もちろん、別の符号化/復号化テーブルを利用して符号化してもかまわない。図7は、R/B差分符号化部104が利用する別の符号化/復号化テーブルの模式図を示している。この符号化/復号化テーブルでは、差分信号である入力信号の値が小さくなるほど、符号化誤差が小さくなるように符号化することが可能である。近傍画素との差分が大きいエッジ領域では、正確な階調を表現しなくても、主観的な画質劣化につながりにくい。そのため、このような符号化/復号化テーブルを利用することで、高効率でありながら、主観画質を低下させない符号化を実現できる。
もちろん、R/B差分符号化部104は、符号化/復号化テーブルを利用して符号化するのではなく、公知のエントロピー符号化手法を利用してもかまわない。エントロピー符号化手法としては、ハフマン符号化やランレングス符号化などを利用すればよい。また、Pulse Code Modulation (PCM)やAdaptive Differential Pulse Code Modulation(ADPCM)のような公知の圧縮手法を利用してもかまわない。
また、画像復元部109は、Guided Filterに限らず、彩度補正やノイズ除去、超解像、さらには画像修復(image inpainting)などの公知の画像補正手法を利用して、画像復元を行うようにしてもかまわない。彩度補正処理を利用する場合、誤差推定部108によって、復号化信号の符号化誤差を推定し、誤差が閾値より大きいと推測された場合、対応する画素のR/G/B画素値を彩度が低くなるように補正すればよい。このような画像補正を行うことにより、符号化誤差により色ずれが生じ、主観画質が低下する問題を解決することが可能である。
また、以上の処理は、ベイヤー配列の画像に対する符号化・復号化について説明したが、符号化する入力画像の形式はベイヤー配列によるもの限られない。例えば、Y/Cb/Cr形式のセンサによって撮像された画像に対しても、Y画素のみは圧縮を行わないことで同等の処理が可能である。さらに、3板式センサによって撮像された画像に対しても、G画素のみは圧縮を行わないことで同等の処理が可能である。
また、以上の説明では、R/B符号化部102は差分情報を利用したが、差分情報を利用せず、輝度値そのものを図5の符号化/復号化テーブルを利用して、圧縮符号化してもかまわない。
(実施の形態2)
図8は、本実施の形態における符号化システム20の構成を示すブロック図である。また、図9は、本実施の形態における符号化装置21の処理の手順を示すフローチャートである。さらに、図10は、本実施の形態における復号化装置22の処理の手順を示すフローチャートである。図8、図9、図10において、図1、図2、図3と同じ構成要素については同じ符号を用い、説明を省略する。
図8は、本実施の形態における符号化システム20の構成を示すブロック図である。また、図9は、本実施の形態における符号化装置21の処理の手順を示すフローチャートである。さらに、図10は、本実施の形態における復号化装置22の処理の手順を示すフローチャートである。図8、図9、図10において、図1、図2、図3と同じ構成要素については同じ符号を用い、説明を省略する。
本実施の形態における符号化システム20は、図1Bに示される符号化システム10に代えて、図1Aに示す撮像システム100に組み込まれ得る。
符号化システム20は、符号化装置21と、復号化装置22とを有する。
符号化装置21は、画像取得部101と、G符号化部111と、R/B符号化部102と、符号化信号出力部105を備えている。G符号化部111は、G差分検出部112と、G差分符号化部113とを有する。R/B符号化部102は、差分検出部114と、R/B差分符号化部115とを有する。
復号化装置22は、符号化信号受信部106と、G復号部116と、R/B復号部117と、誤差推定部118と、画像復元部119と、復号化信号出力部110を備えている。
本実施の形態の符号化システム20では、撮影時の分光感度特性が人間の視覚感度特性に最も近いG画素の圧縮率を、R/B画素と比較して抑えているため、主観画質を保持しながら、圧縮率を向上させることが可能である。以下の説明では、Gb画素は圧縮せず、Gr/R/B画素のみを圧縮符号化する符号化システム20を説明する。
以下、符号化装置21の各構成要素を詳細に説明する。
画像取得部101は、光電変換部51であるイメージセンサが受光した信号を電気信号に変換し、符号化装置21に取り込む(ステップS101)。図11は、画像取得部101が取得した画像信号の位置関係と符号化順を示した模式図である。図11において、図4と同じ構成要素については同じ符号を用い、説明を省略する。イメージセンサは図11に示した通り、単板ベイヤー配列のものを利用し、ラスタスキャン順に処理を行う。また、以下の説明では、図11における中央部の太枠で囲まれて示されている3つの画素(Gri,j+1画素とBi,j画素とRi-1,j+1画素)の信号をそれぞれ符号化する処理を例に挙げて説明する。前述のように、符号化処理はラスタスキャン順に行うため、Gri,j+1画素を符号化する際には、Gr0,1, Gr2,1, Gr4,1, …, Gri-4,j+1, Gri-2,j+1の各Gr画素(図11における白色のGr画素)はすでに符号化されており、Gri+2,j+1以降のGr画素(図11における斜線を記載したGr画素)はまだ符号化が行われていない。
G差分検出部112は、着目Gr画素近傍のGb画素間の差分信号を計算し、着目画素の相対的なエッジ強度を計算する(ステップS113)。Gri,j+1画素を符号化する際には、エッジ強度E1(i,j+1)、およびE2(i,j+1)は、相対的に、次式で計算される。
次に、G差分検出部112は、着目Gr画素のエッジ強度値を利用して、近傍画素との差分信号を計算する(ステップS114)。Gri,j+1画素を符号化する際には、差分信号DGr(i,j+1)は、次式で計算される。
G差分符号化部113は、G差分検出部112が計算した差分信号DGr(i,j+1)を符号化し、符号化差分信号DGr’(i,j+1)を計算する(ステップS115)。図12は、G差分符号化部113が利用する符号化/復号化テーブルの模式図である。例えば、入力値である差分信号の信号値が−32以上31以下の場合、圧縮せず、そのままの値を符号値として採用する。また、差分信号の信号値が76である場合は符号値を43とし、−170である場合は符号値を−64とする。図12に示すテーブルを用いて差分信号の信号を符号値に割り当てる処理までが符号化処理である。図12の符号化/復号化テーブルを利用することにより、差分信号が小さい場合には符号化誤差が生じないように符号化される。よって、主観画質を保持しながら、圧縮率を向上させることが可能である。また、Gb画素に関しては、圧縮を行わず、そのままの信号を送付することで、主観画質を低下させにくい圧縮が可能である。
次に、差分検出部114は、着目R/B画素近傍の符号化Gr画素間とGb画素間の差分信号を計算し、着目画素に関する縦方向と横方向の相対的なエッジ強度を計算する(ステップS116)。Bi,j画素を符号化する際には、横方向のエッジ強度Eh(i,j)、および、縦方向のエッジ強度Ev(i,j)は、相対的に、次式で計算される。
また、Ri-1,j+1画素を符号化する際には、横方向のエッジ強度Eh(i−1,j+1)、および、縦方向のエッジ強度Ev(i−1,j+1)は、相対的に、次式で計算される。
次に、差分検出部114は、着目R/B画素に関する縦方向と横方向の相対的なエッジ強度値を利用して、着目R/B画素における近傍画素との差分信号を計算する(ステップS117)。Bi,j画素を符号化する際には、差分信号DB(i,j)は、次式で計算される。
なお、差分信号DB(i,j)は、次式の(数29)または(数30)で計算してもかまわない。
差分信号DB(i,j)を計算するために、(数28)では(j−3)行から(j+1)行まで5行分のメモリが必要であった。しかしながら(数29)では、(j−2)行から(j+1)行まで4行分のメモリしか利用しない。そのため、(数29)を利用することで回路サイズを削減することができる。同様に、(数28)では(i−3)列から(i+1)列まで5列分のメモリが必要であったが、(数30)では、(i−2)列から(i+1)列まで4列分のメモリしか利用しない。そのため、(数30)を利用することで回路サイズを削減することができる。
また、Ri-1,j+1画素を符号化する際には、差分信号DR(i−1,j+1)は、次式で計算される。
なお、差分信号DR(i−1,j+1)は、次式の(数32)または(数33)で計算してもかまわない。
差分信号DR(i−1,j+1)を計算するために、(数31)では(j−2)行から(j+2)行まで5行分のメモリが必要であったが、(数32)では、(j−1)行から(j+2)行まで4行分のメモリしか利用しない。そのため、(数32)を利用することで回路サイズを削減することができる。同様に、(数31)では(i−4)列から(i)列まで5列分のメモリが必要であったが、(数33)では、(i−3)列から(i)列まで4列分のメモリしか利用しない。そのため、(数33)を利用することで回路サイズを削減することができる。
R/B差分符号化部115は、差分検出部114が計算した差分信号DB(i,j)、DR(i−1,j+1)を符号化し、符号化差分信号DB’(i,j)、DR’(i−1,j+1)を計算する(ステップS104)。符号化には図5の符号化/復号化テーブルを利用すればよい。
ところで、G画素の符号化に利用する図12の符号化/復号化テーブルは−64から63の8ビットで表現できる情報量を割り当てて符号化する一方、R/B画素の符号化に利用する図5の符号化/復号化テーブルは−32から31の7ビットで表現できる情報量を割り当てている。つまり、G画素の圧縮率は、R/Bに比べて、圧縮率を低く抑えている。G画素は人間の視覚特性に最も影響が大きいため、このように圧縮率をG/R/Bで変更することで、主観画質を低下させにくい圧縮符号化が可能である。
ここで、図12のGrに対する符号化/復号化テーブルは−64から63の8ビットを利用し、図5のR/Bに対する符号化/復号化テーブルは−32から31の7ビットを利用している。元信号である画像の階調が14ビットの場合、本実施の形態の符号化システム20では、R/B画素7ビット、Gr画素8ビット、Gb画素14ビットのデータ量となるため、(7+7+8+14)/(14+14+14+14)=0.64より、36%のデータ削減が可能である。
符号化信号出力部105は、G差分符号化部113とR/B差分符号化部115が符号化した符号化信号とGb画素値を出力する(ステップS105)。
次に、復号化装置22の各構成要素を詳細に説明する。
符号化信号受信部106は、符号化信号出力部105が出力した符号化信号を受信する(ステップS106)。
G復号部116は、符号化信号受信部106が受信したGr画素の符号化差分信号を復号化し、復号化差分信号DGrei,j+1を計算する(ステップS118)。この処理は、図12の符号化/復号化テーブルを利用すればよい。例えば、入力値である符号値が−32以上31以下の場合、符号化による圧縮は行われていないため、そのままの値を復号化差分信号の値として採用する。また、符号値が43である場合は77を、符号値が−64である場合は−158をそれぞれ復号化差分信号の値として採用する。
図12の符号化/復号化テーブルを利用することにより、差分信号が小さい場合には符号化誤差が生じないように符号化できるため、主観画質を保持しながら、圧縮率を向上させることが可能である。また、Gb画素に関しては、圧縮を行っていないため、主観画質を低下させにくい圧縮が可能である。
G復号部116は、ステップS113と同様に、着目Gr画素の近傍Gb画素間の差分信号を計算し、着目Gr画素の相対的なエッジ強度を計算する(ステップS119)。Gri,j+1画素を符号化する際には、エッジ強度E1(i,j+1)、およびE2(i,j+1)は、相対的に、(数21)、(数22)で計算される。
次に、G復号部116は、着目Gr画素のエッジ強度値と、近傍画素間の差分信号を利用して、復号化した差分信号から、Gr画素信号を復号化する(ステップS120)。Gri,j+1画素信号を復号化する場合、復号化信号Gr'i,j+1は、次式で計算される。
R/B復号部117は、符号化信号受信部106が受信したR/B画素の符号化差分信号を復号化し、復号化差分信号DBei-1,j+1とDRei-1,j+1を計算する(ステップS107)。これは、図5の符号化/復号化テーブルを利用すればよい。
R/B復号部117は、ステップS116と同様に、着目R/B画素近傍の符号化されたGr画素間の差分信号とGb画素間の差分信号とを計算し、着目画素に関する縦方向と横方向の相対的なエッジ強度を計算する(ステップS121)。Bi,j画素を復号化する際には、横方向のエッジ強度Eh(i,j)、および、縦方向のエッジ強度Ev(i,j)は、相対的に、(数24)、(数25)で計算される。また、Ri-1,j+1画素を符号化する際には、横方向のエッジ強度Eh(i−1,j+1)、および、縦方向のエッジ強度Ev(i−1,j+1)は、相対的に、(数26)、(数27)で計算される。
次に、R/B復号部117は、着目画素のエッジ強度値と、近傍画素間の差分信号を利用して、R/B差分信号の復号値から、R/B画素信号を復号化する(ステップS122)。Bi,j画素信号を復号化する場合、復号化信号B'i,jは、次式で計算される。
なお、ステップS117において、差分信号DB(i,j)を(数29)、(数30)で計算した場合、それぞれ次の(数36)、(数37)により復号化信号B'i,jを計算する。
また、Ri-1,j+1画素を復号化する際には、復号化信号R'i-1,j+1は、次式で計算される。
なお、ステップS117において、差分信号DR(i−1,j+1)を(数32)、(数33)で計算した場合、それぞれ次の(数39)、(数40)により復号化信号R'i-1,j+1を計算する。
誤差推定部118は、G復号部116とR/B復号部117の復号情報を利用して、復号化信号の符号化誤差を推定する(ステップS123)。この処理は、図12および図5の符号化/復号化テーブルを利用すればよい。図12より、符号化信号受信部106が受信したGr画素の符号化信号が−32以上31以下だった場合、本実施の形態の符号化処理により、符号化誤差は生じないことがわかる。また、Gr画素の符号化信号が−63以上−33以下または32以上62以下だった場合、最大4階調の符号化誤差が生じる可能性がある。さらに、Gr画素の符号化信号が−64または63だった場合、より大きな符号化誤差が生じる可能性がある。このように、G復号部116の復号情報から、Gr画素の符号化誤差を推定することが可能である。同様に、図5より、符号化信号受信部106が受信したR/B画素の符号化信号が−16以上15以下だった場合、本実施の形態の符号化処理により、符号化誤差は生じないことがわかる。また、R/B画素の符号化信号が−31以上−17以下または16以上30以下だった場合、最大4階調の符号化誤差が生じる可能性がある。さらに、R/B画素の符号化信号が−32または31だった場合、より大きな符号化誤差が生じる可能性がある。このように、R/B復号部117の復号情報から、R/B画素の符号化誤差を推定することが可能である。誤差推定部118が推定した誤差の情報は誤差情報として出力される。
画像復元部119は、誤差情報と色相関情報を利用して、画像を復元する(ステップS124)。この処理には、ステップS111同様、Guided filterを利用すればよい。
復号化信号出力部110は、画像復元部119で処理を行った復号画像信号を出力する(ステップS112)。
以上説明したように本実施の形態によると、画像取得部101によって得られた画像信号に対し、Gb画素は圧縮せず、Gr/R/B画素のみをG差分符号化部113およびR/B差分符号化部115によって圧縮符号化する。そしてG復号部116およびR/B復号部117で符号化信号を復号化した後、誤差推定部118によって、復号化信号の符号化誤差を推定し、画像復元部119によって推定した誤差情報と色相関情報を利用してGr/R/B復号化画素の画像復元を行う。人間の視覚特性に近いG画素に関しては、R/B画素と比較し、圧縮率を抑えているため、主観画質を低下させにくい圧縮が可能である。さらに、R/B画素と比較して符号化誤差が小さいG画素を利用してR/G/B復号化画素の画像復元を行うことにより、高効率でありながら、主観画質を低下させない符号化を実現できる。
以上の説明では、差分検出部103は、G画素から求めた着目画素に関する縦方向と横方向の相対的なエッジ強度値を利用して、近傍画素間の差分信号を計算するようにしたが、エッジ情報を利用しなくてもかまわない。この処理について説明する。Bi,j画素を符号化する際には、差分信号DB(i,j)は、次式で計算される。
また、Ri-1,j+1画素を符号化する際には、差分信号DR(i−1,j+1)は、次式で計算される。
以上の説明では、G画素の符号化において、Gb画素を圧縮せずGr画素のみを圧縮したが、もちろん、Gr画素を圧縮せず、Gb画素のみを圧縮してもかまわない。
また、符号化装置は、G画素に関する差分信号を出力し、復号化装置はその差分信号を取得すると説明したが、これは一例である。符号化装置は、G画素に関する差分信号ではなく、そのままの信号(全信号)を出力してもよい。そして復号化装置は、その全信号を取得すればよい。差分信号を用いないため、G画素に関する処理では情報量の削減効果が失われるが、その代わり、差分演算に要する演算処理時間を削減できる。
また、以上の説明では、G符号化部111は差分情報を利用したが、差分情報を利用せず、輝度値そのものを図12の符号化/復号化テーブルを利用して、圧縮符号化してもかまわない。
本発明の一実施形態にかかる符号化システムは、主観的な符号化誤差を減少させることができるため、高効率な圧縮処理を実現するために有用である。
101 画像取得部
102 R/B符号化部
103 差分検出部
104 R/B差分符号化部
105 符号化信号出力部
106 符号化信号受信部
107 R/B復号部
108 誤差推定部
109 画像復元部
110 復号化信号出力部
111 G符号化部
112 G差分検出部
113 G差分符号化部
114 差分検出部
115 R/B差分符号化部
116 G復号部
117 R/B復号部
118 誤差推定部
119 画像復元部
102 R/B符号化部
103 差分検出部
104 R/B差分符号化部
105 符号化信号出力部
106 符号化信号受信部
107 R/B復号部
108 誤差推定部
109 画像復元部
110 復号化信号出力部
111 G符号化部
112 G差分検出部
113 G差分符号化部
114 差分検出部
115 R/B差分符号化部
116 G復号部
117 R/B復号部
118 誤差推定部
119 画像復元部
Claims (11)
- 画像信号を符号化した符号化信号を出力する符号化装置と、前記符号化信号を復号化する復号化装置とを備えた符号化システムであって、
前記符号化装置は、
前記画像信号を取得する画像取得部と、
前記画像取得部によって取得された前記画像信号のうち、複数の緑画素の画像信号を非圧縮で符号化し、複数の赤画素の画像信号および複数の青画素の画像信号を圧縮して符号化し、それぞれを符号化信号として出力するR/B符号化部と、
前記R/B符号化部が出力した各符号化信号を出力する符号化信号出力部と
を備え、
前記復号化装置は、
前記各符号化信号を受信する符号化信号受信部と、
前記符号化信号受信部によって受信された前記各符号化信号を復号化して、各復号化信号を生成するR/B復号部と、
前記画像信号と前記R/B復号部によって生成された前記各復号化信号との誤差を推定する誤差推定部と、
前記誤差推定部によって推定された誤差情報、および色相関を利用して画像を復元する画像復元部と、
前記画像復元部によって復元された画像を出力する復号化信号出力部と
を備えた符号化システム。 - 画像信号を符号化した符号化信号を出力する符号化装置と、前記符号化信号を復号化する復号化装置とを備えた符号化システムであって、
前記符号化装置は、
前記画像信号を取得する画像取得部と、
前記画像取得部によって取得された前記画像信号のうち、複数の赤画素の画像信号および複数の青画素の画像信号を所定の圧縮率で圧縮して符号化し、それぞれの符号化信号を生成するR/B符号化部と、
前記画像取得部によって取得された前記画像信号のうち、複数の緑画素の画像信号を前記所定の圧縮率よりも低い圧縮率で圧縮して符号化し、符号化信号を生成するG符号化部と、
前記R/B符号化部および前記G符号化部によって生成された各符号化信号を出力する符号化信号出力部とを備え、
前記復号化装置は、
前記各符号化信号を受信する符号化信号受信部と、
前記符号化信号受信部によって受信された、緑画素に関する符号化信号を復号化して復号化信号を生成するG復号部と、
前記符号化信号受信部によって受信された、赤画素および青画素に関する各符号化信号を復号化して、各復号化信号を生成するR/B復号部と、
前記画像信号と前記R/B復号部によって生成された前記各復号化信号との誤差を推定する誤差推定部と、
前記誤差推定部によって推定された誤差情報、および色相関を利用して画像を復元する画像復元部と、
前記画像復元部によって復元された画像を出力する復号化信号出力部と
を備えた、符号化システム。 - 前記G符号化部は、
前記画像取得部によって取得された前記画像信号の着目緑画素と近傍画素との差分信号を検出するG差分検出部と、
前記差分信号を利用して、前記複数の緑画素の画像信号を圧縮して符号化するG差分符号化部と
を備えている、請求項2に記載の符号化システム。 - 前記複数の緑画素は、第1の緑画素および第2の緑画素を含んでおり、
前記G符号化部は、前記第1の緑画素の画像信号を圧縮して符号化し、前記第2の緑画素の画像信号を非圧縮で符号化する、請求項2または3に記載の符号化システム。 - 前記R/B符号化部は、
前記画像取得部によって取得された前記画像信号の着目画素と近傍画素との差分である差分信号を検出する差分検出部と、
前記差分信号を利用して、前記複数の緑画素の画像信号を非圧縮で符号化し、前記複数の赤画素の画像信号および前記複数の青画素の画像信号を圧縮して符号化するR/B差分符号化部と
を備えている、請求項1から4のいずれかに記載の符号化システム。 - 前記G符号化部は、前記第1の緑画素の画像信号を1行または1列ごとに圧縮して符号化する、請求項4に記載の符号化システム。
- 前記画像復元部は、ガイデッド・フィルタ(Guided Filter)を利用して前記画像を復元する、請求項1または2に記載の符号化システム。
- 画像信号を取得する画像取得部と、
前記画像取得部によって取得された前記画像信号のうち、複数の緑画素の画像信号を非圧縮で符号化し、複数の赤画素の画像信号および複数の青画素の画像信号を圧縮して符号化し、それぞれを符号化信号として出力するR/B符号化部と、
前記R/B符号化部から出力された各符号化信号を出力する符号化信号出力部と
を備えた符号化装置。 - 画像信号を取得する画像取得部と、
前記画像取得部によって取得された前記画像信号のうち、複数の赤画素の画像信号および複数の青画素の画像信号を所定の圧縮率で圧縮して符号化し、それぞれの符号化信号を生成するR/B符号化部と、
前記画像取得部によって取得された前記画像信号のうち、複数の緑画素の画像信号を前記所定の圧縮率よりも低い圧縮率で圧縮して符号化し、符号化信号を生成するG符号化部と、
前記R/B符号化部および前記G符号化部によって生成された各符号化信号を出力する符号化信号出力部と
を備えた符号化装置。 - 符号化装置から、緑画素、赤画素および青画素のそれぞれに関する符号化信号を受信する符号化信号受信部であって、前記緑画素に関する符号化信号は、複数の緑画素の画像信号を非圧縮で符号化した信号であり、前記赤画素および青画素のそれぞれに関する符号化信号は、複数の赤画素の画像信号および複数の青画素の画像信号を圧縮して符号化した信号である、符号化信号受信部と、
前記符号化信号受信部によって受信された前記各符号化信号を復号化して各復号化信号を生成するR/B復号部と、
前記符号化装置によって符号化される前の画像信号と前記R/B復号部によって生成された前記各復号化信号との誤差を推定する誤差推定部と、
前記誤差推定部によって推定された誤差情報、および色相関を利用して画像を復元する画像復元部と、
前記画像復元部によって復元された画像を出力する復号化信号出力部と
を備えた、復号化装置。 - 画像信号を符号化した符号化信号を出力する符号化装置と、前記符号化信号を復号化する復号化装置とを備えた符号化システムにおける符号化および復号化方法であって、
前記符号化装置を用いて、
前記画像信号を取得し、
取得された前記画像信号のうち、複数の緑画素の画像信号を非圧縮で符号化し、
複数の赤画素の画像信号および複数の青画素の画像信号をそれぞれ圧縮して符号化し、
符号化された各符号化信号を出力し、
前記復号化装置を用いて、
前記各符号化信号を受信し、
受信された前記各符号化信号を復号化して、各復号化信号を生成し、
前記画像信号と前記各復号化信号との誤差を推定し、
推定された誤差情報、および色相関を利用して画像を復元し、
復元された前記画像を出力する、
符号化および復号化方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013209396A JP2015076624A (ja) | 2013-10-04 | 2013-10-04 | 符号化システム、符号化装置、復号化装置、および、符号化および復号化方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013209396A JP2015076624A (ja) | 2013-10-04 | 2013-10-04 | 符号化システム、符号化装置、復号化装置、および、符号化および復号化方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015076624A true JP2015076624A (ja) | 2015-04-20 |
Family
ID=53001204
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013209396A Pending JP2015076624A (ja) | 2013-10-04 | 2013-10-04 | 符号化システム、符号化装置、復号化装置、および、符号化および復号化方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015076624A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7410748B2 (ja) | 2020-02-27 | 2024-01-10 | キヤノン株式会社 | 撮像装置及びその制御方法及びプログラム |
-
2013
- 2013-10-04 JP JP2013209396A patent/JP2015076624A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7410748B2 (ja) | 2020-02-27 | 2024-01-10 | キヤノン株式会社 | 撮像装置及びその制御方法及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105791672B (zh) | 拍摄装置、拍摄系统、复原装置、拍摄方法以及计算机程序 | |
JP6361965B2 (ja) | 撮像システム、撮像装置、符号化装置、および撮像方法 | |
US20080247653A1 (en) | Method and apparatus for parallelization of image compression encoders | |
KR20070089085A (ko) | 촬상장치, 촬상회로 및 촬상방법 | |
US9398273B2 (en) | Imaging system, imaging apparatus, and imaging method | |
JP5520122B2 (ja) | データ変換装置 | |
JPH07184226A (ja) | 改良された色処理のための画像圧縮フィードバックを使用した電子カメラ | |
CN111869213A (zh) | 编码装置、解码装置、编码方法、解码方法、编码程序及解码程序 | |
US10158809B2 (en) | Image capturing device, image sensor, and method of controlling image capturing device | |
US20150206280A1 (en) | Image processing apparatus, image processing method, and program | |
US10375299B2 (en) | Imaging device and imaging method using compressed sensing | |
JP2010147508A (ja) | 撮影装置及び再生装置 | |
JP4822475B2 (ja) | 映像信号伝送装置 | |
JP2015144339A (ja) | 画像処理装置、画像処理方法およびプログラム | |
US20140118580A1 (en) | Image processing device, image processing method, and program | |
JP2006049950A (ja) | 動画像変換装置、動画像復元装置、および方法、並びにコンピュータ・プログラム | |
JP2015076624A (ja) | 符号化システム、符号化装置、復号化装置、および、符号化および復号化方法 | |
JP2008141326A (ja) | 撮像システム及びカメラユニット | |
JP2015195526A (ja) | 画像処理装置、および画像処理方法 | |
JP6135865B2 (ja) | 撮像システム、撮像装置、および撮像方法 | |
US8698907B2 (en) | Image capture apparatus | |
JP6152642B2 (ja) | 動画像圧縮装置、動画像復号装置およびプログラム | |
JP2019022225A (ja) | 画像圧縮装置およびプログラム | |
US10791334B2 (en) | Image processing apparatus and image processing method | |
JP2014143488A (ja) | 画像圧縮装置、画像復号装置およびプログラム |