JP2012054882A - 画像符号化方法、画像復号化方法、画像符号化装置及び画像復号化装置 - Google Patents

画像符号化方法、画像復号化方法、画像符号化装置及び画像復号化装置 Download PDF

Info

Publication number
JP2012054882A
JP2012054882A JP2010197834A JP2010197834A JP2012054882A JP 2012054882 A JP2012054882 A JP 2012054882A JP 2010197834 A JP2010197834 A JP 2010197834A JP 2010197834 A JP2010197834 A JP 2010197834A JP 2012054882 A JP2012054882 A JP 2012054882A
Authority
JP
Japan
Prior art keywords
pixel
quantization
value
quantization width
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010197834A
Other languages
English (en)
Other versions
JP5529685B2 (ja
JP2012054882A5 (ja
Inventor
Masayoshi Ogawa
真由 小川
Shinji Kitamura
臣二 北村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2010197834A priority Critical patent/JP5529685B2/ja
Priority to CN201180041297.0A priority patent/CN103081469B/zh
Priority to PCT/JP2011/002286 priority patent/WO2012029208A1/ja
Publication of JP2012054882A publication Critical patent/JP2012054882A/ja
Priority to US13/778,663 priority patent/US10223811B2/en
Publication of JP2012054882A5 publication Critical patent/JP2012054882A5/ja
Application granted granted Critical
Publication of JP5529685B2 publication Critical patent/JP5529685B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/008Vector quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Abstract

【課題】画像符号化方法及び画像符号化装置において、平坦部とエッジ部とが混在している場合に、エッジ部の量子化誤差が平坦領域に伝播するのを防ぐ。
【解決手段】予測画素生成部302は、圧縮対象の画素の周辺に位置する少なくとも1つの周辺画素から画素データの予測値を生成する。量子化処理部304は、前記画素データと前記生成された予測値との間の差分値を、前記画素データよりも少ないビット数である量子化値へと量子化して、前記画素データを前記量子化値へと圧縮する。量子化幅決定部306は、グループ内の前記差分値の特性から平坦部とエッジ部とが混在しているか否かをエッジ判定部309で判定すると共に、前記差分値から前記グループを構成する画素中におけるエッジ部の画素と平坦部の画素とをエッジ画素判別部310で判別し、前記量子化処理部304における量子化幅を決定する。
【選択図】図3

Description

本発明は、デジタルスチルカメラやネットワークカメラ等のように画像を扱う装置において、画像圧縮によるデータ転送の高速化やメモリの使用量削減を目的とした画像符号化方法とその装置に関するものである。
近年、デジタルスチルカメラやデジタルビデオカメラなどの撮像装置に用いられる撮像素子の高画素化に伴い、装置に搭載される集積回路が処理する画像データ量が増大している。多くのデータ量の画像データを扱うには、集積回路内のデータ転送のバス幅を確保するために、動作周波数の高速化、メモリの大容量化等が考えられるが、これらはコストアップに直接繋がってしまう。
また、一般的にデジタルカメラやデジタルビデオカメラなどの撮像装置では、集積回路内での全ての画像処理を終えると、SDカード等の外部記録装置に記録する。そして、その記録の際には、記録対象の画像に圧縮処理を行い、非圧縮のときに比べてより大きな画像サイズ、より多くの枚数の画像データを、同じ容量の外部記録装置に格納している。ここで、この圧縮処理には、JPEG、MPEGといった符号化方式が用いられている。
特許文献1では、画像データの圧縮処理を、撮像素子から入力される画素信号(RAWデータ)に対しても展開することにより、撮像素子の多画素化が進んで信号処理の負荷が増大する場合でも、メモリへの書き込み及び読み出しの際に必要なバス帯域を削減し、高速操作を可能にすることを目的としている。また、バス帯域の保証と圧縮処理量の削減のために固定長符号化方式を採用している。その実装方法については、任意の画像領域の画素データから最大値と最小値を算出し、領域内の局所的なダイナミックレンジを求め、領域内の全ての画素から、算出された最小値を減算した値を、求められたダイナミックレンジに応じた量子化幅で量子化することにより、画像データの固定長符号化を行っている。
また、特許文献2では、一般的に連写枚数は、バッファメモリに格納可能なRAWデータの枚数に依存するため、RAWデータを圧縮することによりメモリの使用量を抑え、連写枚数を増やすことを目的としている。特許文献2においても、連写枚数の保証のため固定長符号化を採用しており、その実装方法については、隣接画素との差分値から量子化幅を決定し、その量子化幅から一意に求まるオフセット値を圧縮対象の画素値から減算することにより、被量子化処理値を決定するため、メモリを必要とせず、低い符号化演算処理負荷を確保した状態で、圧縮処理を実現する画像符号化装置及び復号化装置を提供している。
特許文献3においても、RAWデータの圧縮について述べられており、撮像素子の欠陥画素の扱いを課題としている。特許文献3では、欠陥画素であるという情報を含む画素データが入力された場合でも、後段の画像処理において欠陥画素を正しく検出し、補正できるように符号化する画像符号化装置を提供している。その実装方法については、欠陥画素である場合は、特定の量子化代表値に割り当て、欠陥画素以外の場合には、特定の量子化代表値を除く量子化値に割り当てて符号化することにより、欠陥画素である情報を、可逆的に符号化・復号化し、後段の処理において確実に復元させて、正しく補正することを可能としている。
特開2007−228515号公報 特開2007−036566号公報 特開2007−104525号公報
しかしながら、特許文献1に記載の撮像装置では、同一領域内における最小値との差分値を量子化しており、領域内のダイナミックレンジが大きいほど量子化幅も大きくなる。これは、領域内のダイナミックレンジが広い場合は、画像として大きく変化している可能性が高く、細かいレベル変化は視覚的に感知しにくいという視覚特性を利用している。しかし、暗い画像中に白傷などの撮像素子の欠陥画素が存在した場合、欠陥画素が含まれる領域では、最大値と最小値との差が極端に大きくなってしまう。この場合、被写体の変化にかかわらず、欠陥画素が含まれる領域は、ダイナミックレンジが広いと判断される。そして、領域に含まれる画素は全て、大きな量子化幅を用いて一律量子化され、視覚的に大きな劣化として捉えられるという問題がある。
また、特許文献2においても、圧縮対象画素と直前の画素との差分値の最大値により量子化幅を決定し、量子化するため、同様の原理により問題が生じる。
図1は、特許文献3の画像符号化、復号化装置を含むデジタル信号処理回路100の構成を示すブロック図である。特許文献3では、RAWデータのメモリへの書き込み及び読み出しの際のバス帯域の削減による、処理の高速化を目的としている。従って、前処理部103で前処理された画素データを画像符号化装置101により圧縮して、メモリ105上に格納し、画像復号化装置102では、メモリ105に格納された画素データを伸張して信号処理部104に送る。このとき、特許文献3では、画像符号化装置101において、画素値が特定の画素値である場合には、欠陥画素であるとして、特定の量子化代表値に割り当てて符号化する。そして、画像復号化装置102では、符号化された量子化代表値が特定の量子化代表値である場合には、これを欠陥画素として特定の画素値を割り当てて復号化することにより、欠陥画素であるという情報を、可逆的に符号化、復号化している。しかし、特許文献3では、予め前処理部103において、画像中の欠陥画素の位置を検出し、その画素値を、特定の画素値に割り当ててあることを前提としており、欠陥画素の画素値が、そのまま画像符号化装置101に入力されてきた場合については、言及されていない。
その一方で、一般的にデジタルスチルカメラ等に搭載される集積回路内の画像処理においては、撮像素子から入力された画素データを、SDRAM(Synchronous Dynamic Random Access Memory)等のメモリに一時記憶させる。そして、一時記憶された画素データに対して所定の画像処理や、YC信号生成、拡大・縮小等のズーム処理等を行い、処理後の画素データを、再度SDRAMに一時記憶する。その際、画像の任意の領域を切り出す場合や、画素の上下間の参照・相関を必要とする画像信号処理を行う場合など、任意領域の画素データをメモリから読み出すよう要求されることが多い。この際、可変長符号データでは、符号データの途中から任意領域を読み出すことはできず、ランダムアクセス性を損なうことになる。そのため、特許文献2においては、量子化処理により固定長の符号へと変換し、メモリの使用量と、メモリのアクセス量とを削減している。
本発明は上記の問題を鑑みたものであり、その目的は、固定長符号化を採用した画像符号化方法により、ランダムアクセス性は維持したまま、量子化処理における量子化幅を、画素単位で適応的に切り替えることにより、欠陥画素や急峻なエッジの発生による影響が平坦な領域に伝播するのを抑圧することにある。
上記目的を達成するために、本発明の画像符号化方法は、圧縮対象の画素の画素データを入力し、入力された前記画素データを圧縮する画像符号化方法であって、圧縮対象の画素の周辺に位置する少なくとも1つの周辺画素から、前記画素データの予測値を生成する予測画素生成ステップと、前記画素データと、前記予測画素生成ステップで生成された前記予測値との間の差分値を、前記画素データよりも少ないビット数である量子化値へと量子化することにより、前記画素データを、前記量子化値へと圧縮する量子化ステップと、前記量子化ステップにおける量子化幅を決定する量子化幅決定ステップと、を含み、前記量子化幅決定ステップは、複数の前記画素から構成するグループ単位で、平坦部とエッジ部とが混在しているか否かを判定し、判定結果に基づいて前記量子化ステップにおける量子化幅を画素単位で適応的に切り替えることを特徴とする。
従って、本発明では、平坦部とエッジ部とが混在しているか否かを判定し、その判定結果に基づいて量子化処理における量子化幅を画素単位で適応的に切り替えるので、欠陥画素や急峻なエッジが発生している領域においても、量子化誤差が平坦な領域にまで伝播するのを抑えることが可能となる。
また、本発明では、画像符号化方法が固定長符号化でも実現可能であるので、生成された複数の固定長の符号化データを例えばメモリ等に記憶させた場合にも、画像内の特定の箇所の画素に対応した符号化データを容易に特定することができ、その結果、符号化データに対するランダムアクセス性を維持することができる。すなわち、本発明では、メモリへのランダムアクセス性は維持したまま、従来よりも、欠陥画素や急峻なエッジが発生している領域の画質劣化を、抑圧することができる。
以上説明したように、本発明の画像符号化方法によれば、欠陥画素や急峻なエッジが発生している領域においても、量子化誤差が平坦な領域にまで伝播するのを抑えることが可能である。
更に、本発明によれば、メモリへのランダムアクセス性は維持したまま、従来よりも欠陥画素や急峻なエッジが発生している領域の画質劣化を抑圧することが可能である。
特許文献3のデジタル信号処理回路を説明するブロック図である。 本発明の実施形態1における画像符号化方法を示すフローチャート図である。 同実施形態における画像符号化装置の構成を示すブロック図である。 同実施形態における画像符号化方法での量子化幅の決定方法を示すフローチャート図である。 同画像符号化装置に備える予測画素生成部における予測式を説明する図である。 同実施形態における画像符号化処理例と各演算結果を示す図である。 同実施形態を適用しない従来の画像符号化処理例と各演算結果を示す図である。 画像符号化処理における差分値と量子化値のビットイメージを示し、同図(a)は平坦部とエッジ部とが同グループに混在しないと判断された符号化対象画素に対応する差分値Dと量子化値のビットイメージを示す図、同図(b)はエッジ画素のビットイメージを示す図、同図(c)はエッジ画素以外の画素のビットイメージを示す図である。 同実施形態における量子化情報を示す図である。 (a)は画像符号化前のビットイメージを示す図、同図(b)は画像符号化後のビットイメージを示す図である。 同実施形態における画像復号化処理を示すフローチャート図である。 同実施形態における画像復号化装置の構成を示すブロック図である。 同実施形態における画像復号化処理例と各演算結果を示す図である。 本発明の実施形態2におけるエッジ部量子化幅及び平坦部量子化幅の選択パターンを示す図である。 同実施形態における差分値と量子化値のビットイメージを示し、同図(a)はエッジ画素のビットイメージを示す図、同図(B)はエッジ画素以外の画素のビットイメージを示す図である。 同実施形態における量子化情報を示す図である。 本発明の実施形態3におけるデジタルスチルカメラの構成を示すブロック図である。 本発明の実施形態4におけるデジタルスチルカメラの構成を示すブロック図である。 本発明の実施形態5における監視カメラの構成を示すブロック図である。 本発明の実施形態6における監視カメラの構成を示すブロック図である。 本発明の実施形態1における画像復号化方法での量子化幅の決定方法を示すフローチャート図である。
以下、本発明の実施形態について図面を参照しながら説明する。尚、以下の各実施形態や各変形例の説明において、一度説明した構成要素と同様の機能を有する構成要素については、同一の符号を付してその説明を省略する。
(実施形態1)
本実施形態における画像符号化装置の符号化処理、及び画像復号化装置の復号化処理の全て又は一部は、LSI(Large Scale Integration)などのハードウェアや、CPU(Central Processing Unit)等により実行されるプログラムによって構成され、これは以下の実施形態でも同様である。
<画像符号化処理>
先ず、図2及び図3を参照し、画像符号化装置300が行なう、画像を符号化するための処理(以下、画像符号化処理という)について説明する。前記図3に示す画像符号化装置300は例えば固体撮像素子に備えられる。
図2は、本発明の実施形態1における画像符号化方法を示すフローチャートである。また、図3は、本発明の実施形態1における画像符号化装置の構成を示すブロック図である。
符号化対象となる画素(以下、符号化対象画素という)は、処理対象画素値入力部301に入力される。本実施形態において、各画素データはNビット長のデジタルデータとし、各々の画素データに対応した量子化後の画素データ(以下、量子化値という)をMビット長とする。また、少なくとも1画素以上の先頭の符号化対象画素の画素値(以降、初期画素値という)と、複数の画素データに対応した量子化値と、量子化値の量子化幅の情報を表す符号(以下、量子化情報という)を、パッキング部305によりSビット長にパッキングする。そして、パッキングされたパッキングデータを、画像符号化装置300から出力する。
尚、ここで、自然数N、M、Sは、予め決められているものとする。
処理対象画素値入力部301に入力された画素データは、適切なタイミングで予測画素生成部302と、差分演算部303とへと、処理対象画素値入力部301から出力される。但し、着目している符号化対象画素が、初期画素値として入力された場合(図2のステップS101でYESの場合)、処理対象画素値入力部301は、量子化処理を省き、受信した符号化対象画素をNビット長の初期画素値として、直接、パッキング部305に出力する。初期画素値は、差分を演算する上で基準となる値であり、本実施形態においては、Sビット長のパッキングデータ毎に少なくとも一つ挿入する。
着目している符号化対象画素が、初期画素値でない場合(図2のステップS101でNOの場合)は、予測画素生成処理に移行する。予測画素生成処理において、予測画素生成部302に入力される画素データは、着目している符号化対象画素よりも先に入力された初期画素値、又は、以前の符号化対象画素又は先に符号化されて後述する画像復号化装置に送られて復号化された画素データの何れかである。予測画素生成部302は、入力された画素データを用いて、着目している符号化対象画素の予測値を生成する(図2のステップ(予測画素生成ステップ)S102)。
尚、ここで、画素データに対する符号化方法として予測符号化がある。予測符号化とは、符号化対象画素に対する予測値を生成し、符号化対象画素の画素値と予測値の差分値を符号化する符号化の方式である。予測符号化では、入力が画素データの場合、着目している符号化対象画素の値と、近接する画素の値が同一である、又は、近い可能性が高いということに基づき、近傍の画素データの画素値から、符号化対象画素の値を予測することにより、差分値をできるだけ小さくして量子化幅を抑える効果がある。
図5は、予測値の算出に用いられる近接する画素の配置を示す図である。図5中の“x”は着目している符号化対象画素の画素値を示す。また、“a”、“b”、“c”は、符号化対象画素の予測値“y”を求めるための、3つの近接画素の画素値である。以下に、一般的に用いられる予測式(1)〜(7)を示す。
y=a …(1)
y=b …(2)
y=c …(3)
y=a+b−c …(4)
y=a+(b−c)/2 …(5)
y=b+(a−c)/2 …(6)
y=(a+b)/2 …(7)
予測画素生成部302は、このように、符号化対象画素の近接画素の画素値“a”、“b”、“c”を用いて符号化対象画素の予測値”y”を求める。そして、予測画素生成部302は、この予測値“y”と符号化対象画素の画素値“x”との予測誤差Δ(=y−x)を求め、この予測誤差Δを符号化する。予測画素生成部302では、前記した予測符号化で用いられる予測式(1)〜(7)の何れかの予測式を用いて予測値を算出し、差分値演算部303に出力する。尚、前記した予測式に限らず、圧縮処理で利用可能な、内部のメモリバッファが確保できる場合は、符号化対象画素に隣接している画素以外の周辺画素もメモリバッファに保持しておき、予測に使用することにより、予測精度を向上することも可能である。本実施形態においては、一例として、ステップS102において予測式(1)を使用する。
差分値演算部303は、処理対象画素値入力部301から受信した符号化対象画素の画素値と、予測画素生成部302から受信した予測値との差分値Dを算出し、予測誤差を求める。図2のステップS103で算出された差分値は、量子化幅決定部306と、量子化処理部(量子化部)304に出力される。
量子化幅決定部306は、先ず、差分値演算部303から受信した各符号化対象画素に対応する差分値Dに基づき、着目している符号化対象画素の差分値Dの量子化幅(以下、単位量子化幅Qという)を求める。
この単位量子化幅Qとは、差分値Dの絶対値(以下、差分絶対値という)をバイナリコードで表した際の桁数(ビット数)に1を加えた値から、量子化値のビット長Mを引いた値を指す。つまり、差分値Dの符号つき整数バイナリ表現に必要なビット数と、量子化値のビット長Mとの差に等しい。ここで、Qは正の整数であり、差分値Dのビット数がMよりも小さい値をとる場合は、Qは“0”とする(図1のステップS104)。尚、単位量子化幅Qは、実質的な量子化幅を決定するための値であり、量子化処理における量子化幅そのものではない。算出された単位量子化幅Qは、量子化幅決定部306内の初期量子化幅算出部307と、エッジ部量子化幅算出部308、エッジ判定部309、エッジ画素判別部310に入力される。
ステップS105では、量子化幅決定部306が、予め決められた所定の画素数Pix_Gの画素データ(複数の符号化対象画素)について、単位量子化幅Qが全て決定されたか否かの判定を行う。
ここで、画素数Pix_Gは、数が多いほど、他の画素データの影響を受けるため、量子化誤差による画質劣化が発生し易くなるというデメリットがあるが、同じビット長Sで送信可能になる画素数が増え、圧縮率が向上するというメリットがある。
ステップS105において、この判定の判定結果がNOならば、処理はステップS102に移行し、次に処理対象画素値入力部301が受信した符号化対象画素に対して、ステップS102〜ステップS104までの少なくとも一つの処理を実行する。一方、ステップS105において、その判定結果がYESならば、ステップS106に移行する。
図4は、本実施形態における量子化幅の決定方法を示すフローチャートであり、ステップ(量子化幅決定ステップ)S106における処理の詳細を示している。図4を参照して、ステップS106の量子化幅決定処理について説明する。
ステップS106では、量子化幅決定部306内において、量子化幅選択部311が、符号化対象画素に対応する量子化幅を、初期量子化幅算出部307の出力結果である初期量子化幅と、エッジ部量子化幅算出部308の出力結果であるエッジ部量子化幅及び平坦部量子化幅とから選択する。
図4の量子化幅決定ステップでは、先ず、ステップS201の処理が行われる。ステップ(初期量子化幅算出ステップ)S201では、初期量子化幅算出部307が、画素数Pix_Gから構成されるグループ単位で、そのグループの何れの符号化対象画素の量子化でも利用される、共通の量子化幅を初期量子化幅(第1量子化幅)として算出、決定する。具体的には、グループ内のPix_G個の符号化対象画素に対応する、Pix_G個の単位量子化幅Qの中から、最大の幅である量子化幅Q_MAXを、初期量子化幅とする。ステップS201において、初期量子化幅を決定すると、処理はステップS202に移行する。
ステップ(エッジ部量子化幅算出ステップ)S202では、グループの絵柄が、平坦部とエッジ部とが混在している場合に使用する量子化幅を、エッジ部量子化幅算出部308が算出する。即ち、エッジ部量子化幅算出部308は、エッジ部の量子化処理における量子化幅であるエッジ部量子化幅(第2量子化幅)と、平坦部の量子化処理における量子化幅である平坦部量子化幅(第3量子化幅)との2つの量子化幅を算出する。具体的には、エッジ部量子化幅算出部308では、初期量子化幅に1加算した量子化幅をエッジ部量子化幅とし、初期量子化幅よりも小さい値を、平坦部量子化幅として設定する。ステップS202において、エッジ部量子化幅及び平坦部量子化幅を決定すると、処理はステップS203に移行する。
ステップ(エッジ判定ステップ)S203では、エッジ判定部309が、符号化対象画素が属するグループの絵柄が、平坦部とエッジ部とが混在しているか否かを判定する。エッジ判定部309は、グループ内のPix_G個の符号化対象画素に対応するPix_G個の単位量子化幅Qの最大の幅である量子化幅Q_MAXと、最小の幅である量子化幅Q_MINとの差分をとる。そして、その差が、所定の閾値(第1の閾値)TH1以上である場合は、着目しているグループ内の絵柄が、平坦部とエッジ部とが混在していると判断する。量子化幅Q_MAXと、量子化幅Q_MINとの値が所定の閾値TH1以上離れているということは、グループ内に、予測値との差分の大きい符号化対象画素と、差分の小さい符号化対象画素とが混在していると判断でき、即ち、平坦な領域とエッジが混在していると想定できるからである。ステップS203において、平坦部とエッジ部とが混在しているか否かを判定すると、処理はステップS204に移行する。
ステップ(エッジ画素判別ステップ)S204では、エッジ画素判別部310において、グループ内の各符号化対象画素が、エッジが発生している画素(以下、エッジ画素という)か否かを判別する。エッジ画素においては、符号化対象画素の画素値と予測値との差分値が十分に大きくなるため、符号化対象画素に対応する単位量子化幅Qの値が所定の閾値(第4の閾値)TH2以上である場合に、エッジ画素と判断する。グループ内のエッジ画素を判別すると、処理はステップS205に移行する。
尚、ステップS201〜ステップS204における処理は、並行して行っても構わない。
次に、ステップS205において、エッジ判定部309の判定結果により、符号化対象画素が属するグループの絵柄が、平坦部とエッジ部とが混在していると判定された場合(ステップS205でYESの場合)、処理はステップS207に移行する。一方、ステップS205において、判定結果がNOならば、処理は後述するステップS206に移行する。
ステップS207では、エッジ画素判別部310の判別結果により、着目している符号化対象画素がエッジ画素の場合は、処理はステップS208に移行する。
ステップS208では、着目している符号化対象画素がエッジ画素であるため、符号化対象画素に対応する量子化幅として、エッジ部量子化幅算出部308により算出されたエッジ部量子化幅を選択する。ステップS207において、この判定の判定結果がNOならば、処理はステップS209に移行する。
ステップS209では、エッジ判定部309の判定結果と、エッジ画素判別部310の判別結果により、着目している符号化対象画素は、エッジが近接する平坦部であると判断できるため、符号化対象画素に対応する量子化幅として、エッジ部量子化幅算出部308により算出された平坦部量子化幅を選択する。
ステップS205において、この判定の判定結果がNOならば、符号化対象画素が属するグループの絵柄が、全体的に平坦か、又は、予測値と符号化対象画素の画素値との差分値が大きくなるような変化が、複数領域に発生しているような複雑な絵柄であると判断できる。即ち、初期量子化幅が、元々、小さい量子化幅であるか、又は、絵柄が複雑であるため、グループ内の全ての符号化対象画素が、大きい量子化幅で一律量子化しても、視覚的に劣化が感知されにくい条件であると言える。そのため、ステップS206では、グループ内の符号化対象画素に対応する量子化幅は全て、初期量子化幅算出部307により算出された初期量子化幅とする。
各画素に対応する量子化幅が決定されると、処理はステップS107に移行する。
ステップ(量子化ステップ)S107では、量子化処理部304において量子化処理が施される。量子化処理部304は、量子化幅選択部311で決定した量子化幅により、差分値演算部303から受信した、符号化対象画素の画素値と、その予測値との差分値Dを量子化する量子化処理を行う。尚、量子化処理とは、差分値Dを量子化幅の数だけ下位にビットシフトする処理である。量子化処理部304は、量子化幅が“0”である場合、量子化は行なわない。量子化処理部304から出力された量子化値はパッキング部305へ送られる。
ステップS108では、グループ内の符号化対象画素の画素数Pix_Gについて、量子化処理が全て終了したか否かの判定を行う。ステップS108においてNOならば処理はステップS107に移行し、同一グループ内における次の符号化対象画素に対してステップS107の量子化処理を実行する。一方、ステップS108においてYESならば、処理はステップS109に移行する。
ステップ(パッキングステップ)S109では、パッキング部305において、少なくとも1画素以上の初期画素値と、複数の量子化値と、少なくとも一つ以上のJビット長(Jは自然数)の量子化情報とを結合させて、Sビットにパッキングする。更に、エッジ判定部309における判定結果によって、平坦部とエッジ部とが混在していると判断された場合は、量子化値にエッジフラグを1ビット埋め込む。そして、パッキング部305は、パッキングされたパッキングデータを外部のSDRAM等のメモリ、又は、後述する画像復号化装置に出力する。設定する固定ビット長Sとしては、使用する集積回路のデータ転送のバス幅のビット数と同じビット数が考えられる。パッキングデータのビットの後部において、未使用ビットが残存する場合は、Sビットに達するようダミーデータを記録する。
次に、本実施形態における画像符号化処理の詳細な説明を行なう。
図6は、本実施形態における画像符号化処理を説明するための図である。図6(a)は、本実施形態に係る画像符号化処理の例であり、図6(b)は本実施形態を適用しない従来の画像符号化処理の例である。
ここで、処理対象画素値入力部301は、固定ビット長(Nビット)の画素データを、順次、受信するとする。また、処理対象画素値入力部301が受信する画素データのデータ量は10ビット(N=10)であるとする。即ち、画素データのダイナミックレンジは10ビットであるとする。ここで、量子化値のビット長Mは7ビットであるとする。また、パッキング部305は受信したデータをSビットにパッキングして、パッキングされたパッキングデータを画像符号化装置300から外部に出力する。設定する固定ビット長Sは、48ビットとする。ここで、1グループを構成する画素数Pix_Gは、例えば、“5”であるとする。
図6(a)には、一例として、処理対象画素値入力部301に入力される6個の符号化対象画素の画素データ(以下、符号化対象画素データという)が示される。処理対象画素値入力部301には、画素P1,P2…P6の順で、各画素に対応する10ビットの画素データが入力されるとする。画素P1〜P6内に示される数値(150等)は、画素データが示す信号レベルである。尚、画素P1に対応する画素データは先頭の符号化対象画素であり、その画素値は初期画素値であるとする。
本実施形態では、符号化対象画素の予測値は、一例として、予測式(1)により予測画素生成部302によって算出されるものとする。この場合、算出される符号化対象画素の予測値は、符号化対象画素の左隣の画素の値(図5のa)となる。すなわち、予測画素生成部302は、符号化対象画素の画素値が一つ前に入力された画素と同一の画素値(信号レベル)になる可能性が高いと予測していることになる。
図2の画像符号化処理では、先ず、ステップS101の処理が行なわれる。ステップS101では、処理対象画素値入力部301が、入力された符号化対象画素データが初期画素値であるか否かを判定する。ステップS101において、その判定がYESならば、処理対象画素値入力部101は、受信した画素データを内部のバッファに記憶させ、処理対象画素値入力部301は、入力された画素データをパッキング部305へ送信する。そして、処理は後述するステップS109に移行する。一方、ステップS101においてその判定がNOならば、処理はステップS102に移行する。
ここで、処理対象画素値入力部301は、画素P1に対応する画素データを初期画素値として受信したとする。この場合、処理対象画素値入力部301は、入力された画素データを内部のバッファに記憶させ、処理対象画素値入力部301は、受信した画素データをパッキング部305へ送信する。尚、バッファに画素データが記憶されている場合、処理対象画素値入力部301は、受信した画素データを内部のバッファに上書き記憶させる。
ここで、画素P2が符号化対象画素であるとする。この場合、処理対象画素値入力部301は、画素P2に対応する符号化対象画素データを受信したとする。符号化対象画素データが示す画素値は“1023”(図6(a)参照)であるとする。この場合、受信した画素データは、初期画素値ではないので(ステップS101でNO)、処理対象画素値入力部301は受信した画素データを差分値演算部303へ送信する。
また、ステップS101でNOと判定された場合、処理対象画素値入力部301は内部のバッファに記憶されている画素データを予測値画素生成部302へ送信する。ここで、送信される画素データは、画素P1の画素値“150”を示すとする。
また、処理対象画素値入力部301は、受信した画素データを内部のバッファに上書き記憶させる。そして、処理はステップS102に移行する。
ステップS102では、予測値画素生成部302が符号化対象画素の予測値を算出する。具体的には、予測値画素生成部302は、先述の通り、例えば予測式(1)を使用して、予測値を算出する。この場合、予測値画素生成部302が処理対象画素値入力部301から受信した画素P1の画素値(“150”)が予測値として算出される。予測値画素生成部302は、算出した予測値“150”を差分値演算部303へ送信する。
ステップS103では、差分値演算部303が差分値演算処理を行う。具体的には、差分値演算部303が、処理対象画素値入力部301から受信した符号化対象画素データから、予測値画素生成部302から受信した予測値を減算し、差分値Dを算出する。ここで、受信した符号化対象画素データの画素値が“1023”であり、予測値が“150”であるとする。符号化対象画素データ(“1023”)から、予測値(“150”)を減算することにより、差分値D“873”を算出する。また、差分値演算部303は、算出した差分値Dを量子化処理部304と量子化幅決定部306へ各々送信する。
ステップS104では、量子化幅決定部306が、入力された画素毎に単位量子化幅Qを求める。量子化幅決定部306では、差分値Dの差分絶対値をバイナリコードで表した際の桁数に1を加えた値、即ち、差分値Dのビット数を求める。そして、差分値Dのビット数から量子化値のビット長Mを引いた値を単位量子化幅Qとする。ここで、差分値Dは、“873”であるとする。差分絶対値は“873”となり、そのビット数は10ビットとなる。ビット長Mは7ビットであるとすると、Q=10+1−7で、画素P2の単位量子化幅Qは、“4”となる。尚、Qは正の整数であるため、差分値のビット数が量子化値のビット長Mよりも小さい値をとる場合は、Qは0とする。量子化幅決定部306は、求めた単位量子化幅Qを、量子化幅決定部306内の初期量子化幅算出部307と、エッジ部量子化幅算出部308、エッジ判定部309、エッジ画素判別部310にそれぞれ送信する。
ステップS105では、量子化幅決定部306が、グループを構成する画素数Pix_Gの画素データについて、単位量子化幅Qが全て決定されたか否かの判定を行う。ここで、着目している符号化対象画素が画素P2であり、画素数Pix_Gが“5”であるとする。このとき、ステップS105の判定において、判定結果はNOであり、処理はステップS102に移行する。次に、処理対象画素値入力部301が受信した画素(P3)の画素データに対して、ステップS102からステップS104までの処理を実行する。画素P6までの入力された画素に対して、単位量子化幅Qが全て決定されると、ステップS105の判定において、YESと判定され、ステップS106に移行する。
ステップS106では、量子化幅決定部306内において、量子化幅選択部311が、符号化対象画素に対応する量子化幅を、初期量子化幅とエッジ部量子化幅及び平坦部量子化幅とから、エッジ有無の情報とエッジフラグとに基づいて選択する。
ステップS106では、先ず、ステップS201の処理が行われる。ステップS201では、初期量子化幅算出部307が、グループ内のPix_G個の画素に対応する、Pix_G個の単位量子化幅Qの中から、最大の幅である量子化幅を、最大量子化幅Q_MAXとして算出する。図6(a)において各符号化対象画素の単位量子化幅Qは”4”、”4“、”0“、”0“、”0“であるため、最大量子化幅Q_MAXは、”4“となる。ここで算出した最大量子化幅Q_MAXは、量子化幅決定部306により、グループ内の全画素に対して共通の量子化幅となる初期量子化幅として設定される。つまり、グループに属する何れの符号化対象画素の量子化幅も、初期量子化幅は、その最大量子化幅Q_MAXである。
次に、ステップS202では、エッジ部量子化幅算出部308が、エッジ部の量子化処理における量子化幅であるエッジ部量子化幅と、平坦部の量子化処理における量子化幅である平坦部量子化幅とを算出する。エッジ部量子化幅は、初期量子化幅に1加算した量子化幅である。ここで、初期量子化幅は、“4”であるため、エッジ部量子化幅は“5”となる。
一方、平坦部量子化幅は、平坦部の量子化処理における量子化幅であり、エッジ画素以外の符号化対象画素の量子化処理において使用される量子化幅となる。エッジ画素か否かの判定は、エッジ画素判別部310が、後述する処理により判定する。その際の判定方法としては、単位量子化幅Qの値が所定の閾値(第4の閾値)TH2以上である場合に、エッジ画素と判断する。平坦部量子化幅は、初期量子化幅より小さい量子化幅に設定することにより、エッジ画素以外の領域の量子化誤差を低減することを目的としており、例えば量子化幅“2”とする。
ステップS203では、エッジ判定部309が、グループの絵柄が平坦部とエッジ部とが混在しているか否かを判定する。エッジ判定部309は、グループ内のPix_G個の単位量子化幅Qの最大の幅である量子化幅Q_MAXと、最小の幅である量子化幅Q_MINとの差分をとり、その差が所定の閾値(第1の閾値)TH1以上である場合は、着目しているグループ内の絵柄が、平坦な領域とエッジが混在していると判断する。ここで、グループ内の最大量子化幅Q_MAXが“4”であり、また、最小量子化幅Q_MINが“0”であったとする。そして、エッジを判定する閾値TH1の値が“3”であったとする。この場合、最大量子化幅Q_MAXと最小量子化幅Q_MINとの差を演算すると、Q_MAX―Q_MIN=4−0=4となる。閾値TH1と比較すると、4≧3が成立するため、着目しているグループは、平坦な領域とエッジとが混在している絵柄であると判断できる。
尚、平坦部とエッジ部とが混在しているか否かを判定する方法として、グループ内の最大量子化幅Q_MAXと最小量子化幅Q_MINとに各々対応する閾値(第2の閾値)TH3と閾値(第3の閾値)TH4を、それぞれ予め設定しておいてもよい。ここで、閾値TH3は、エッジ部を定義するための差分値Dの閾値を表し、閾値TH4は、平坦部を定義するための差分値Dの閾値を表す。このため、最大量子化幅Q_MAXが閾値TH3以上であり、かつ、最小量子化幅Q_MINが閾値TH4以下である場合に、平坦部とエッジ部とが混在していると判定することができる。
エッジ判定部309は、エッジ判定処理を終了すると、エッジ有無の情報を量子化幅選択部311へ送信する。
ステップS204では、エッジ画素判別部310が、着目している符号化対象画素がエッジ画素か否かを判別する。エッジ画素判別部310は、単位量子化幅Qの値が所定の閾値TH2以上である場合に、エッジ画素と判断し、判別結果はエッジフラグとして量子化幅選択部311へ送信する。エッジフラグは、エッジ画素である場合は”1“を設定し、エッジ画素以外の場合は”0“を設定するものとする。ここで、閾値TH2の値が“2”であったとする。図6(a)において、画素P2〜P6の単位量子化幅Qは”4”、”4“、”0“、”0“、”0“であるため、それぞれ閾値TH2の値“2”と比較することにより、閾値TH2以上の符号化対象画素をエッジ画素と判断し、エッジフラグの値は、”1”、”1“、”0“、”0“、”0“となる。
尚、単位量子化幅Qの値が所定の閾値TH2以上である場合に、エッジ画素と判断するということは、符号化対象画素の画素値と予測値との差分値のビット長が所定のビット以上である画素、つまり、所定の差分値以上となる画素では、急峻なエッジが発生していると判断しているのと等しい。エッジ画素判別部310が、算出したエッジフラグを量子化幅選択部311へ送信すると、処理はステップS205へ移行する。
尚、ステップS201〜ステップS204における処理は、グループ内の符号化対象画素に対応する単位量子化幅Qが全て算出されれば、実行可能な処理であるため、初期量子化幅算出部307と、エッジ部量子化幅算出部308、エッジ判定部309及びエッジ画素判別部310に、単位量子化幅Qが全て入力された時点で、並行して行っても構わない。
ステップS205では、前述したステップS203におけるエッジ判定部309の判定結果により、符号化対象画素が属するグループの絵柄について、平坦部とエッジ部とが混在しているか否かを判定する。
ここで、着目している符号化対象画素は、画素P2であるとする。量子化幅選択部311が、受信した初期量子化幅が“4”、エッジ部量子化幅が“5”、平坦部量子化幅が“2”であったとする。また、符号化対象画素が属するグループの絵柄が、平坦部とエッジ部とが混在していると、エッジ判定部309が判定したとする。また、量子化幅選択部311がエッジ画素判別部310から受信したエッジフラグの値が“1”であったとする。
量子化幅決定処理(図4参照)では、平坦部とエッジ部とが混在していると判定されたため、ステップS205においてYESと判定され、ステップS207へ移行する。ステップS207では、エッジフラグの値が“1”であるため、YESと判定され、処理はステップS208へ移行する。ステップS208では、符号化対象画素に対応する量子化幅として、エッジ部量子化幅である量子化幅“5”が選択され、画素P2の量子化幅決定処理は終了する。
ステップS107では、量子化処理部304が、量子化幅選択部311で決定した量子化幅により、差分値演算部303から受信した差分値Dを量子化する。量子化処理では、量子化処理部304が量子化幅選択部311から受信した量子化幅をQ_Fixedとした場合、差分値Dを量子化幅Q_Fixedの数だけ下位にビットシフトする処理であり、これは、差分値Dを2のQ_Fixed乗で除算する処理と等価である。ここで、差分値Dが“873”、量子化幅が“5”であったとする。この場合、量子化処理では、量子化処理部304は、“873”を2の5乗で除算することにより量子化処理を行って、量子化値“5”を算出する。
尚、量子化処理としては、例えば、ビットシフタを利用することにより、画像符号化装置300の回路規模を削減することが可能となる。
ここで、量子化処理部304における量子化処理により、量子化誤差が発生したとき、画像符号化処理及び画像復号化処理において、予測値自体が一致せず、画質の劣化に繋がる場合がある。そのため、ステップS107において、量子化処理部304が量子化処理を実行する際に、予測画素生成部302における予測画素生成処理(図2のステップS102)において、予測値を再度算出し、符号化の対象となる差分値を求めて直してもよい。具体的には、h番目の符号化対象画素の予測値を算出する際に、(h−1)番目の画素データが初期画素値である場合は、(h−1)番目の画素データが示す値そのものを予測値とする。一方、(h−1)番目の画素データが初期画素値でない場合は、画像符号化装置300により、一旦、符号化された(h−1)番目のデータを後述する画像復号化装置に入力させ、復号化することにより得られる画素データが示す画素値を予測値とすればよい。これにより、量子化処理部304における量子化処理により量子化誤差が生じるような場合でも、画像符号化処理及び画像復号化処理において、予測値を一致させ、画質の劣化を抑圧することが可能となる。
図6(a)では、予測画素生成部302が、画像復号化処理により得られる画素データを予測値とした際の差分値を圧縮対象値として表し、量子化処理部304に送信するものとする。つまり、図6(a)に示した圧縮対象値とは、ステップS107において、量子化処理部304が量子化処理を実行する対象となる値であり、復号化結果と入力値(符号化対象画素データ)との差分値に等しい。
次に、ステップS108で、グループ内の画素数Pix_Gについて、量子化処理が全て終了したか否かの判定を行う。ここで、着目している符号化対象画素は、画素P2であるとする。ステップS108ではNOと判定され、処理はステップS107へ移行する。以降の処理は、画素P3の画像符号化処理となり、前述した処理と重複するため、詳細な説明は繰り返さない。
画素P4の量子化幅決定処理においては、初期量子化幅及びエッジ部量子化幅、平坦部量子化幅、エッジ有無の情報は、グループで共通する値であるため、変更はない。しかし、量子化幅選択部311がエッジ画素判別部310から受信したエッジフラグの値が“0”であったとする。ステップS205では、平坦部とエッジ部とが混在していると判定されたため、YESと判定され、ステップS207へ移行する。ステップS207では、エッジフラグの値が“0”であるため、NOと判定され、処理はステップS209へ移行する。ステップS209では、符号化対象画素に対応する量子化幅として、平坦部量子化幅である量子化幅“2”が選択され、画素P4の量子化幅決定処理は終了する。
同様の処理を繰り返し実行し、グループ内の画素数Pix_Gの符号化対象画素について、量子化幅決定部306で、各符号化対象画素に対応する量子化幅を決定し、量子化処理部304により量子化処理を実行する。
ステップS109では、パッキング部305が、エッジ判定部309によって平坦部とエッジ部とが混在していると判断された場合は、量子化値にエッジフラグを1ビット埋め込む。そして、少なくとも1画素以上の初期画素値と、複数の量子化値と、少なくとも一つ以上の量子化情報とを結合させて、Sビットにパッキングする。更に、パッキング部305は、量子化幅決定部306から受信した量子化幅の情報を符号化し、ビット長Jの量子化情報を生成する。
ここで、パッキング部305が、パッキングする量子化値の例を図7を用いて説明する。図7は、本実施形態の画像符号化処理における差分値Dと量子化値とのビットイメージを示す図である。そして、量子化処理部304が量子化処理を実行することにより、差分値Dのビットデータが、量子化値のビットデータとして、どのビット位置に格納されるかを表している。また、図7(a)は、エッジ判定部309によって平坦部とエッジ部とが同グループに混在しないと判断された符号化対象画素に対応する差分値Dと量子化値とのビットイメージを示し、図7(b)は本実施形態のエッジ画素、図7(c)は本実施形態のエッジ画素以外の画素のビットイメージをそれぞれ示している。
ここで、処理対象画素値入力部301が入力する画素データのビット長Nは10ビットであるため、その差分値Dの符号つき整数のバイナリ表現に必要なビット長は、11ビットとなる。図7においては、差分値Dの11ビット中の最上位ビット(“b10”)は、正負符号を表すビットデータであるとする。また、量子化値のビット長Mは7ビットであり、図7における量子化値の最上位ビット(“b6”)は、差分値Dの正負符号を表すビットデータが格納されるものとする。つまり、差分値Dの最上位ビット(“b10”)の情報がそのまま量子化値の最上位ビット(“b6”)に格納される。具体的には、例えば、差分値演算部303において符号化対象画素データから予測値を減算した結果、差分値Dが正数である場合は、量子化処理部304は、量子化値の最上位ビットには“0”を設定し、負数である場合は、“1”を設定する。
ここで、予測値と符号化対象画素データとの差分値が大きかった場合、差分絶対値を表現するために10ビット必要であったとする。エッジ判定部309によって平坦部とエッジ部とが混在していないと判断された場合は、差分値Dのビットデータb4〜b9が量子化値のビットb0〜b5に格納される(図7(a)参照)。ビットデータb0〜b3の4ビットが省かれるということは、量子化処理部304が、初期量子化幅(“4”)によって量子化処理を施したためである。
本実施形態において、エッジ判定部309によって平坦部とエッジ部とが混在していると判断された場合は、エッジ画素の量子化値は、差分値Dのビットデータb5〜b9が量子化値のビットb1〜b5に格納される(図7(b)参照)。これは、量子化処理部304が、エッジ部量子化幅(“5”)により量子化処理を施したことに相当する。ここで、ビットb0には、前述したエッジ画素判別部310により判別されるエッジフラグを格納する。即ち、量子化値を符号化したMビットのビットデータのうち、差分値Dについての情報を格納できるビット長は、(M−1)ビットということになる。
一方、本実施形態において、エッジ判定部309によって平坦部とエッジ部とが混在していると判断された場合の、エッジ画素以外の画素においては、図7(c)のように、差分値Dのビットデータb2〜b6を量子化値のビットb1〜b5に格納する。これは、量子化処理部304が、平坦部量子化幅(“2”)により量子化処理を施したことに相当する。エッジ画素以外の画素においても、エッジ画素と同様に、ビットb0にはエッジフラグを格納する必要があるため、量子化値のうち、差分値Dについての情報を表すビット長は、(M−1)ビットである。
ここで、エッジ画素判別部310がエッジ画素が否かを判別する際の単位量子化幅Qの閾値がTH2であるとする。前述の通り、エッジ判定部309によって平坦部とエッジ部とが混在していると判断された場合、差分値Dについての情報を格納できる量子化値のビット長は、(M−1)ビットである。このため、エッジ画素判別部310は、差分値Dのビット長が、以下の式(8)で求められるビット長L以上であれば、エッジ画素と判断しているのと等しい。
L=(TH2+(M−1)) …(8)
換言すると、差分値Dのビット長がLビット以上の符号化対象画素データは、図7(b)のように、エッジ部量子化幅により量子化処理が施され、Lビットよりも小さい符号化対象画素データはエッジ画素ではないと判断され、図7(c)のように、平坦部量子化幅により量子化処理が施される。
また、平坦部量子化幅は、平坦な領域の量子化誤差を低減するための量子化幅であるため、できるだけ小さな値に設定するのが望ましい。しかし、閾値TH2は、式(8)の通り、エッジ画素を判断する際の閾値を導いている。このため、式(8)により、ビット長Lが極端に小さくなるような閾値TH2を設定すると、エッジ画素であると判断する閾値が低くなってしまい、結果、エッジ画素である場合に、符号化対象画素データのうちのほとんどのデータが失われてしまう可能性もある。
ここで、閾値TH2の値が“2”であったとする。量子化値のビット長Mは7ビットであるため、式(8)により、TH2+(M−1)=8となり、差分値Dのビット長が8ビットよりも小さい場合は、平坦部量子化幅により量子化処理が施される。従って、平坦部量子化幅による量子化処理が選択される条件を満たすための、差分値Dの最大ビット長は、7ビットとなる。よって、エッジ画素以外の量子化値は、差分値Dの7ビット目までのビットデータを量子化値として格納する必要があり、図7(c)のように、差分値Dのビットデータb2〜b6が量子化値のビットb1〜b5に格納される。また、この場合の平坦部量子化幅の値は、閾値TH2の値と同じ値(“2”)となる。
図7(a)と図7(b)の量子化値のビットデータを比較すると、本実施形態のエッジ画素に関しては、フラグビットとして1ビット割り当てることにより、平坦部とエッジ部とが混在していない場合よりも、量子化幅が大きな値をとることになる。しかし、被写体を撮影した際の絵柄自体が変化している場合、視覚的に局所的なエッジ部のレベル変化を量子化誤差として確認することは困難である。
また、被写体自体には変化はないが、撮像素子の欠陥画素を含む領域で、欠陥画素とその隣接画素との差が極端に大きくなってしまった場合を考える。エッジ画素(欠陥画素)が量子化処理により大きく劣化したとしても、一般的に、撮像素子から入力された撮像信号に対して画像信号処理を施す信号処理装置において、欠陥画素を補正する回路が搭載されている。このため、信号処理装置において、エッジ画素は、量子化誤差の少ない周辺の画素を用いて、適切な画素値に補正することが可能である。
更に、図7(a)と図7(c)の量子化値のビットデータを比較すると明確なように、エッジ画素以外の符号化対象画素に対応する量子化幅においては、量子化幅が抑えられている。よって、量子化処理が施された場合に、視覚的に大きな劣化として感知し易い平坦部の画質劣化の抑圧が可能となる。
次に、パッキング部305が生成する量子化情報の例を図8に示す。ここで、量子化情報のビット長Jが“3”であるとする。図8は、差分値Dの符号つき整数のバイナリ表現に必要なビット長と、エッジ判定部309による判定結果と、量子化幅により決定される3ビットの量子化情報とを対応させた図である。図中のエッジ判定部309による判定結果は、平坦部とエッジ部とが混在していると判断された場合を“1”で、それ以外を“0”で示している。例えば、エッジ判定部309により平坦部とエッジ部とが混在していると判断された場合は、図8により、パッキング部305は、量子化情報として“101”を生成する。また、エッジ判定部309により平坦部とエッジ部とが混在していないと判断され、量子化幅決定部306から受信した量子化幅が“3”であったとする。この場合、図8により、パッキング部305は、量子化情報として“011”を生成する。
ステップS109のパッキング処理では、パッキング部305において、処理対象画素値入力部301から受信した初期画素値である画素P1の画素データを、Sビット長のバッファメモリに格納する。その後は、順次、量子化幅決定部306から受信した量子化幅、及び、エッジ判定部309により判定されたエッジ有無の情報を符号化したJビット長の量子化情報、量子化処理部304から受信した符号化対象画素P2の量子化値を、前記のバッファメモリに格納していく。ここで、固定ビット長Sが“48”、入力する符号化対象画素データのビット長Nが“10”、量子化情報のビット長Jが“3”であるとする。量子化値のビット長Mは7ビットであるため、48ビット長のバッファメモリの先頭から20ビット分符号化データが格納されたことになる。符号化対象画素のパッキング処理が終了すると、ステップS110に移行する。
ステップS110では、Sビットにパッキングする画素数Pixについて画像符号化処理が終了したか否かを判定する。ここで、Pixは、予め算出されているものとする。
ここで、固定ビット長Sが“48”、入力する符号化対象画素データのビット長Nが“10”、量子化情報のビット長Jが“3”、量子化値は7ビットであるとき、Pixは6画素であれば、Sビットにパッキングが可能となる。尚、これは、Sビットのパッキングデータが、1画素の初期画素値と、5画素で構成される符号化対象画素のグループが1グループで構成されることを示す。尚、Sビット中のグループ数は、1グループに限定しなくてもよい。
ステップS110において、判定結果がNOならば、処理はステップS101に移行し、次に処理対象画素値入力部301が受信した符号化対象画素データに対して、ステップS101〜ステップS109までの少なくとも一つの処理を実行する。画素P3〜画素P6に対してステップS101〜ステップS109までの処理を繰り返し行い、順次、バッファメモリに格納していく。
一方、ステップS110において、判定結果がYESならば、バッファメモリ内の符号化データをSビット単位で画像符号化装置300から出力し、処理はステップS111に移行する。
ステップS111では、出力した符号化データで1画像についての符号化処理が全て終了したかを判別し、YESであれば符号化処理を終了し、NOであればステップS101へ移行して、ステップS101〜ステップS110の少なくとも一つの処理を実行する。
以上の処理及び演算を実行した結果、算出される符号化対象画素P1〜P6の各演算結果と、パッキング部305にてパッキングされる7ビットの量子化値、復号化結果と入力値(符号化対象画素データ)との誤差を図6(a)に示す。
また、図9(a)は、画像符号化処理を適応しない場合、つまり、量子化幅が常に“0”であると想定された場合の、Sビットのパッキングデータのビットイメージである。尚、このビットイメージは、実際に画像符号化装置300により生成されるビットイメージではない。図9(b)は、画像符号化処理を適応し、実際にパッキング部305によりバッファメモリに格納され、画像符号化装置300から出力されるビットイメージである。
図9(b)は、最初に入力された画素P1は、初期画素値としてパッキング部107にN(“10”)ビットで入力されることが、左端からの10ビットにより示される。その後は、量子化情報をJ(“3”)ビット、以降の画素P2〜P6に対応する量子化値をM(“7”)ビットの符号化データとして、最初の10ビットのデータの後ろに続く構成となっている。画素P2〜画素P6までを符号化することによって、同じビット長Sでも格納可能になる画素の画素数が、より多い画素数に増えている。
また、パッキング部305によりパッキングするデータのビット長Sを、使用される集積回路のデータ転送のバス幅に設定することにより、一回の転送で送信できる画素数が増え、また、バス幅は固定長にすることを保証できる。従って、ある圧縮された画素データにデータアクセスすることが要求される場合、バス幅毎にパッキングされたパッキングデータにデータアクセスするだけでよい。このとき、バス幅とパッキングデータのビット長が一致せず、未使用ビットが存在する場合は、図9(a)に示したように未使用ビットをダミーデータに置き換えればよい。
図6(b)は、本実施形態を実施しない従来の画像符号化処理の例である。従来の画像符号化処理においても、本実施形態と同様に、ステップS101〜ステップS105までの処理が実行される。ステップS106では、初期量子化幅算出部307が、画素数Pix_Gから構成されるグループ単位で、そのグループの何れの符号化対象画素の量子化でも利用される、共通の量子化幅を初期量子化幅として決定する(図4のステップS201)。従来の画像符号化処理においては、ステップS201において求められた初期量子化幅がグループ共通の量子化幅となり、グループに属する符号化対象画素は、全て初期量子化幅で一律量子化されることになる。そのため、従来の画像符号化処理においては、ステップS201の処理が終了すると、ステップ(量子化幅決定ステップ)S106における処理は終了し、ステップS107へ移行する。
従来の画像符号化処理では、グループ内の符号化対象画素が全て初期量子化幅で一律量子化されるため、画素P4〜P6のように画素の信号レベルの変化が少ない平坦な領域においても、量子化幅“4”で量子化処理が施される。その際の処理及び演算において算出される符号化対象画素P1〜P6の各演算結果と、量子化値、復号化結果と入力値(符号化対象画素データ)との誤差を図6(b)に示した。図6(a)に示した復号化結果及び復号化結果と入力値(符号化対象画素データ)との誤差と、比較すると明確なように、画素P4〜P6の平坦な領域において、誤差が拡大している。具体的には、本実施形態を実施しない従来の画像符号化処理(図6(b))では、画素P4〜P6の平坦な領域において、大きな量子化幅で量子化処理が施された影響により、誤差が、”−4”、”−5“、”8“と発生しているのに対し、本実施形態を実施した形態(図6(a))では、量子化幅を抑えたため、”0”、”−1“、”0“と誤差の発生を抑圧できているのが判る。
尚、本実施形態においては、画像符号化処理の方法を、予測式(1)を用いた予測符号化とし、処理対象画素値入力部301から受信した符号化対象画素データから、予測値画素生成部302から受信した予測値を減算することにより、差分値を算出した。しかし、符号化処理の方法はこれに限定せず、着目している符号化対象画素データの画素値に近似する予測値を求め、予測値との差分を表す値を算出し、量子化対象とした上で、量子化処理を施す方法であれば、本発明に適用可能であることはいうまでもない。
以上により、平坦部とエッジ部とが混在する場合、従来の画像符号化処理では、視覚的に劣化が目立つ平坦部の画質まで劣化してしまうのに対し、本実施形態の画像符号化処理により、平坦部の劣化の抑圧が可能となることが判る。
従って、本実施形態によれば、比較的平坦な領域中に欠陥画素や急峻なエッジが発生した場合等のように、平坦部とエッジ部とが混在している場合においても、画素単位で適応的に、量子化処理における量子化幅を切り替えることにより、ランダムアクセス性は維持したまま、視覚的に劣化が目立つ平坦部の画質劣化の度合いを小さくすることができる。
<画像復号化処理>
以下に、図10及び図11を参照して、画像復号化装置110が行う符号化データを復号化するための処理(以下、画像復号化処理という)について説明する。
図10は、本発明の実施形態1における画像復号化処理のフローチャートである。また、図11は、本発明の実施形態1における画像復号化装置110の構成を示すブロック図である。
例えば、アンパッキング部111に入力される符号化データは、図6(a)に示される画素P1〜P6を復元させるために必要な符号化データである。アンパッキング部111は、パッキング部305、又は、SDRAM等のメモリから送られたSビットの固定長符号化データを解析し、その固定長符号化データを複数のデータへと分離する。つまり、アンパッキング部111は、送られた固定長符号化データをNビット長の初期画素値、又はJビット長の量子化幅の情報が格納された量子化情報、Mビット長の復号化の対象となる画素(以下、復号化対象画素という)に対応した量子化値に分離する(図10のステップS301)。
アンパッキング部111で解析された符号化データは、適切なタイミングで量子化幅決定部112及び出力部116に送信される。着目している符号化データが初期画素値として入力された場合(図10のステップS302でYESの場合)は、Nビット長の符号化前のダイナミックレンジを保持した画素データとして送られてくる。このため、アンパッキング部111は、着目している符号化データに対しては、逆量子化処理を省き、直接、出力部116に送信する。
着目している符号化データが初期画素値でない場合(図10のステップS302でNOの場合)は、アンパッキング部111は、量子化情報が格納されたJビット長の符号化データ又は量子化値が格納されたMビット長の符号化データを量子化幅決定部112に送信し、逆量子化処理における量子化幅の決定処理に移行する(図10のステップS303)。
ステップ(量子化幅決定ステップ)S303では、量子化幅決定部112内において、量子化幅選択部119が、量子化情報解析部117の解析結果と、エッジフラグ分離部118が分離したエッジフラグとを基に、逆量子化処理における量子化幅を画素毎に決定し、対応する量子化値と共に逆量子化処理部113に出力する。そして、処理は、逆量子化処理に移行する。
図20は、逆量子化処理における量子化幅の決定方法を示すフローチャートであり、ステップS303における処理の詳細を示している。図20を参照して、ステップS303の逆量子化処理における量子化幅決定処理について説明する。
先ず、量子化幅決定部112が、アンパッキング部111から受信した符号化データがJビット長の量子化情報である場合(図20のステップS401でYESの場合)は、量子化幅決定部112は、アンパッキング部111から受信した符号化データから、逆量子化処理における量子化幅の情報を解析する(図20のステップS402)。具体的には、量子化幅決定部112内の量子化情報解析部117が、画像符号化装置300が実施した画像符号化処理において、パッキング部305が生成したJビット長の量子化情報を解析する。この解析処理により、エッジ判定部309による判定結果と、量子化処理部304において行われた量子化処理における量子化幅の情報とを抽出する。量子化情報解析部117は、その解析結果から、エッジ判定部309によるエッジ有無の判定結果をエッジフラグ分離部118に送信し、量子化幅の情報を量子化幅選択部119に送信する。
一方、量子化幅決定部112が、アンパッキング部111から受信した符号化データが、量子化値が格納されたMビット長の符号化データである場合(図20のステップS401でNOの場合)は、前述のようにステップS402にて量子化情報解析部117が解析した結果から、着目している復号化対象画素が属するグループの絵柄について、平坦部とエッジ部とが混在するか否かを判定する(図20のステップS403)。着目している復号化対象画素が属するグループの絵柄が、平坦部とエッジ部とが混在する場合(図20のステップS403でYESの場合)は、エッジフラグ分離部118が、アンパッキング部111から受信した復号化対象画素に対応する量子化値に埋め込まれたエッジフラグを分離する。そして、エッジフラグ分離部118は、分離処理を終了すると、分離したエッジフラグの情報を量子化幅選択部119に送信し、また、量子化値の情報を逆量子化処理部(逆量子化部)113に送信する(図20のステップS405)。
量子化幅選択部119は、エッジフラグを受信すると、その情報から着目している復号化対象画素がエッジ画素か否かを判定する(図20のステップS406)。エッジフラグにより着目している復号化対象画素がエッジ画素の場合は、処理はステップS407に移行する。
ステップS407では、着目している復号化対象画素がエッジ画素であるため、対応する量子化幅として、量子化情報解析部117の解析結果からエッジ部量子化幅を選択する。ステップS406において、この判定の判定結果がNOならば、処理はステップS408に移行する。
ステップS408では、量子化情報解析部117の解析結果と、エッジフラグ分離部118から受信したエッジフラグの情報とにより、着目している復号化対象画素は、エッジが近接する平坦部であると判断できるため、対応する量子化幅として平坦部量子化幅を選択する。
ステップS403において、この判定の判定結果がNOならば、量子化幅選択部119は、復号化対象画素が属するグループの絵柄が、全体的に平坦か、又は、複雑な絵柄であると判断できるため、グループ内の全ての復号化対象画素に対応する量子化幅は、量子化情報解析部117の解析結果から得られた初期量子化幅とする。また、この場合、エッジフラグ分離部118は何もせず、アンパッキング部111から受信した量子化値をそのまま逆量子化処理部113に送信する。
各復号化対象画素に対応する量子化幅が決定されると、逆量子化処理における量子化幅決定処理は終了し、逆量子化処理に移行する。
逆量子化処理では、逆量子化処理部113が、量子化幅決定部112が送信した量子化幅及び量子化値が格納されたMビット長の符号化データを受信し、受信した量子化幅により逆量子化処理を行う。量子化幅による逆量子化処理とは、量子化幅決定部112から受信した量子化値を表すMビット長の符号化データを、量子化幅の数だけ上位にビットシフトする処理である。逆量子化処理部113は、逆量子化処理により、Nビットで表現された復号化対象画素とその予測画素との画素値の差分値D´を算出する。尚、逆量子化処理部113は、量子化幅が“0”である場合は、逆量子化は行なわない(図10のステップ(逆量子化ステップ)S304)。
ステップ(予測画素生成ステップ)S305では、予測画素生成部114が、復号化対象画素に対応する予測値を算出する。予測画素生成部114に入力されるデータは、着目している復号化対象画素よりも先に入力されて出力部116から出力された初期画素値、又は、先に復号化され出力部116から出力された画素データの何れかであり、予測画素生成部114は、入力された画素データ用いてNビットで表現された予測値を生成する。予測値の生成方法は、前述した予測式(1)〜(7)の方法のうちの何れかであり、画像符号化装置300の予測画素生成部302で用いた式と同様の予測式を用いて、予測画素生成部114は予測値を算出する。予測画素生成部114は、算出した予測値を復号化値生成部115に送信する。
ステップS306では、復号化値生成部115が、逆量子化処理部113から受信した逆量子化結果と、予測画素生成部114から受信した復号化対象画素に対応する予測値とを加算することにより、復号化対象画素に対応する復号化値を生成し、出力部116へ送信する。
次に、本実施形態における画像復号化処理の詳細な説明を行なう。
図12は、本実施形態における画像復号化処理を説明するための図である。
ここで、アンパッキング部111は、48ビット単位でパッキングデータを受信する(S=48)。アンパッキング部111は、10ビットの初期画素値(N=10)、又は3ビットの量子化情報(J=3)、又は7ビットの復号化対象画素に対応する量子化値(M=7)を、順次受信するとする。図12は、一例として図6(a)で示した6個の画素データ(画素P1〜P6)の画像符号化処理結果を、画像復号化装置110への入力のデータとして示した図である。
アンパッキング部111には、例えば、外部のメモリに記憶されている複数の符号化データが、図9(b)に示すように連続して入力されるとする。画素P1に対応する画素データは初期画素値であるため、10ビットで表現されているものとする。また、画素P2〜P6のそれぞれに対応するデータは、例えば、図7(b)又は図7(c)で表された量子化値とエッジフラグを含む符号化データであるため、7ビットのバイナリコードで示す。
画像復号化処理では、先ず、ステップS301の処理が行われる。ステップS301では、アンパッキング部111が、符号化データに対して、図9(b)に示すように、予め決められたビットに分離し、ステップS302に移行する。
ステップS302では、アンパッキング部111が、分離した符号化データが初期画素値であるか否かを判定する。ステップS302において、判定の結果がYESならば、アンパッキング部111は、受信した画素データを出力部116へ送信する。そして、処理は後述するステップS307に移行する。一方、ステップS302において、判定結果がNOならば、処理はステップS303に移行する。
ここで、アンパッキング部111は、初期画素値として、画素P1に対応する画素データを受信したとする。初期画素値は“150”であるとする。この場合、アンパッキング部111は、入力された画素値“150”を出力部116へ送信する。出力部116は、受信した初期画素値を予測画素生成部114へ送信する。
ステップS303の量子化幅決定ステップでは、量子化幅決定部112が、各復号化対象画素に対応する逆量子化処理における量子化幅を決定する。先ず、量子化幅決定部112は、アンパッキング部111から受信した符号化データが量子化情報であるか否かを判定する(図20のステップS401)。ステップS401において判定結果がNOならば、処理は後述するステップS403に移行する。判定結果がYESならば、処理はステップS402に移行する。
ここで、量子化幅決定部112が、アンパッキング部111から受信した符号化データが、Jビット長の量子化情報であるとする。量子化情報のビット長Jは3ビットであり、量子化情報が示す値は“101”であるとする。この場合、ステップS402に移行し、量子化幅決定部112が受信した量子化情報を量子化情報解析部117が解析し、エッジ判定部309による判定結果と、逆量子化処理における量子化幅とを求める。量子化幅は、画像符号化処理において、量子化処理部304が使用した量子化幅と一致する必要があるため、図8の表の対応関係を基に算出する。ここで、量子化幅決定部112が受信した量子化情報が“101”であるとする。図8に基づき解析すると、画像符号化処理では、エッジ判定部309により、平坦部とエッジ部とが混在していると判断されているため、量子化情報解析部117は、エッジフラグ分離部118に“エッジ有り”の情報を送信する。また、逆量子化処理における量子化幅は、平坦部量子化幅“2”又はエッジ部量子化幅“5”となり、量子化情報解析部117は、この量子化幅の情報を量子化幅選択部119に送信する。
次に、量子化幅決定部112が、アンパッキング部111から受信した符号化データが、Mビット長の復号化対象画素P2に対応する量子化値であるとする。この場合、受信した符号化データは量子化情報でないので(ステップS401でNOの場合)、ステップS403に移行する。ここで、量子化幅決定部112がアンパッキング部111から受信した符号化データが復号化対象画素P2の量子化値であり、その量子化値が示す7ビット(M=7)のバイナリコードの値は、“0110111”であるとする。
ステップS403では、ステップS402にて例えば量子化情報解析部117が解析した結果を用いて、着目している復号化対象画素が属するグループの絵柄が、平坦部とエッジ部とが混在するか否かを判定する。混在する場合(ステップS403でYESの場合)は、処理はステップS405に移行する。
ここで、ステップS402において、量子化情報解析部117が出力した解析結果により、グループの絵柄が、平坦部とエッジ部とが混在すると判定されたとする(ステップS403でYES)。また、エッジフラグは、図7(b)及び図7(c)に示すように、量子化幅決定部112が受信した量子化値の最下位ビットに格納されているものとする。
処理はステップS405に移行し、ステップS405では、エッジフラグ分離部118が、着目する復号化対象画素に対応する量子化値に埋め込まれたエッジフラグを分離する。そして、エッジフラグ分離部118は、分離したエッジフラグの情報を量子化幅選択部119に送信し、量子化値の情報を逆量子化処理部113に送信する。復号化対象画素P2の量子化値(“0110111”)の最下位ビットが“1”であるため、エッジフラグ分離部118は、画素P2をエッジ画素であると特定する。そして、エッジフラグ分離部118は、量子化値(“0110111”)に埋め込まれたエッジフラグ(量子化値の最下位ビット“1”)を、量子化値から分離する。従って、エッジフラグ分離部118により、量子化幅決定部112が受信した復号化対象画素P2の量子化値は、エッジ画素か否かを表すエッジフラグ(“1”)と、量子化値(“011011”)とに分離されたことになる。エッジフラグ分離部118は、分離処理を終了すると、分離したエッジフラグの情報(“1”)を量子化幅選択部119に送信し、量子化値の情報(“011011”)を逆量子化処理部113に送信し、処理はステップS406に移行する。
ここで、量子化幅選択部119がエッジフラグ分離部118から受信したエッジフラグの情報が“1”であるとする。このとき、画素P2はエッジ画素であると特定できる(ステップS406でYES)。そのため、処理はステップS407に移行する。
ここで、ステップS402の処理において、量子化情報解析部117が、復号化対象画素の属するグループの量子化幅は、平坦部量子化幅“2”又はエッジ部量子化幅“5”であると決定しているとする。この場合、ステップS407では、画素P2の量子化幅はエッジ部量子化幅である“5”と決定され、量子化幅決定処理を終了する。逆量子化処理における量子化幅決定処理が終了すると、量子化幅選択部119は、決定した量子化幅を逆量子化処理部113に送信し、処理はステップS304に移行する。
ステップS304では、逆量子化処理部113により逆量子化処理が行われる。逆量子化処理では、逆量子化処理部113が、量子化幅決定部112から受信した各復号化対象画素の量子化値を、量子化幅決定部112から受信した逆量子化における量子化幅の数だけ上位にビットシフトすることにより、逆量子化する。逆量子化により算出されるデータは、N+1(“11”)ビットで表現された差分値D´であるとする。
ここで、逆量子化処理部113が量子化幅決定部112から受信した量子化幅が“5”であり、かつ、受信した量子化値のバイナリコードが“011011”であるとする。この場合、逆量子化処理部113は、“011011”を5ビット上位にビットシフトすることにより、逆量子化を行う。そして、N+1(“11”)ビットの差分値D´の符号つき整数バイナリ表現である“01101100000”を算出する。図7に示すように、量子化値の最上位ビットは正負符号を表しているため、差分値D´は正数“1101100000”、つまり“864”が算出され、算出された結果は、逆量子化処理部113が復号化値生成部115へ送信する。
尚、逆量子化処理部113は、量子化幅決定部112から受信した量子化幅が“0”の場合、逆量子化を行わず、量子化値をそのまま復号化値生成部115へ送信する。
ステップS305では、予測値画素生成部114が、復号化対象画素の予測値を算出する。具体的には、予測値画素生成部114は、画像符号化装置300における画像符号化処理の予測値の生成処理ステップS102と同じ予測方式をとるため、予測式(1)を使用して予測値を算出する。ここで、予測値画素生成部114が復号化対象画素P2の予測値を算出するとする。予測式(1)より、一つ前に受信した復号化対象画素である画素P1の画素データを予測値とするため、画素P1の画素値“150”を出力部116から受信し、予測値として算出される。
ステップS306では、復号化値生成部115が、予測値画素生成部114から受信した予測値と、逆量子化処理部113から受信した差分値D´とから、復号化値を算出する。具体的には、図12に示すように、復号化値生成部115が、予測画素生成部114から受信した予測値と、逆量子化処理部113から受信した差分値D´とを加算することにより、復号化値を生成する。ここで、予測画素生成部114から受信した予測値が示す値が“150”であるとする。また、逆量子化処理部113から受信した差分値D´が“864”であるとする。この場合、“150”と“864”とを加算することにより、N(“10”)ビット長の復号化値 “1014”を算出する。得られた復号化値は、出力部116へ送信する。
尚、本実施形態において、画像符号化処理の方法を予測式(1)を用いた予測符号化とした。そのため、画像復号化処理においては、逆量子化値と予測値とを加算することにより、復号化値を算出している。しかし、本実施形態における差分値演算部303の差分値の算出方法については、予測値と符号化対象画素との減算処理のみに限定しない。例えば、予測値と符号化対象画素との排他的論理和演算等のように、予測値からの変化情報を抽出できる処理であれば、本発明に適用可能であることはいうまでもない。
出力部116は、復号化された画素データを、例えば外部のメモリ及び予測画素生成部114に記憶させる。また、前述した通り、画像符号化装置300において、h番目の符号化対象画素の予測値を算出する際に、一旦、符号化された後に、画像復号化装置110にて復号化された(h−1)番目の復号化画素データを使用することも可能である。その場合は、画像符号化装置300における予測画素生成部302に、出力部116が送信する復号化された画素データを記憶させてもよい。尚、出力部116は、外部のメモリに記憶させるのではなく、外部の画像を処理する回路等に出力してもよい。
ステップS307では、画像符号化装置300のパッキング部305により、固定ビット長Sビットにパッキングされた画素数Pixについて、画像復号化処理が終了したか否かを判定する。ここで、Pixは、画像符号化処理と同様に、予め算出されているものとする。
ステップS307において、画素数Pixについての上記の判定結果がNOならば、処理はステップS302に移行し、画像復号化装置110は、次にアンパッキング部111が受信した次の符号化データに対して、ステップS302〜ステップS306までのうちの、少なくとも一つの処理を実行する。そして、画像復号化装置110は、画素P3〜画素P6に対して、ステップS302〜ステップS306までの処理を繰り返し行い、順次、得られた復号化後の画素データを画像復号化装置110から出力する。
一方、ステップS307において、画素数Pixについての判定結果がYESならば、処理はステップS308に移行する。
ステップS308では、出力部116が出力した復号化後の画素データで1画像についての復号化処理が全て終了したかを、例えばアンパッキング部111等が判定する。そして、この判定結果がYESであれば、復号化処理を終了し、NOであれば、ステップS301へ移行して、ステップS301〜ステップS307までのうちの少なくとも一つの処理を実行する。
以上の処理及び演算を実行した結果、算出される復号化対象画素P2〜P6の演算結果と、出力部116から出力される10ビットで表された各画素に対応する復号化後の画素データを図12に示した。
ここで、初期画素値である画素P1に対応する演算結果が存在しないのは、画像符号化処理において、符号化対象画素が初期画素値として入力された場合(図2のステップS101でYESの場合)は、量子化処理を省き、直接、パッキング部305に入力する(図2のステップS109)ため、画像復号化処理においても、アンパッキング部111で初期画素値として画素データを受信した場合は、入力された画素データを直接、出力部116へ送信するためである。
(実施形態2)
本実施形態2では、前記実施形態1で説明した画像符号化装置300の他の例を説明する。
実施形態2における実施形態1に対する差異は、エッジ部量子化幅算出部308におけるエッジ部量子化幅及び平坦部量子化幅の算出方法と、エッジ画素判別部310におけるエッジ画素の判別方法にある。先ず、図13は、実施形態2におけるエッジ部量子化幅算出部308のエッジ部量子化幅及び平坦部量子化幅の選択パターンを示しており、図14は、実施形態2を適用した場合の差分値Dと量子化値とのビットイメージの例を示す。また、図15は、実施形態2において、パッキング部305が生成する量子化情報の例を示す図である。
本実施形態で採用する量子化幅決定方法では、符号化対象画素が属するグループの絵柄が、平坦部とエッジ部とが混在していると判定された場合において、エッジ部量子化幅算出部308は、複数のエッジ部量子化幅及び平坦部量子化幅の組み合わせパターンから適当な量子化幅を選択する。具体的には、エッジ部量子化幅算出部308は、グループの最大量子化幅Q_MAXと最小量子化幅Q_MINの値により、算出するエッジ部量子化幅及び平坦部量子化幅の値を切り替える。これにより、符号化対象画素の画素値と予測値との差分値Dのレベルに応じて、量子化幅の値を求めるため、より適当な量子化幅を、画素毎に選択できる。
本実施形態では、一例として、図13に示すようなパターンを予め用意する。図13の上段は、実施形態1で説明したエッジ部量子化幅及び平坦部量子化幅の組み合わせパターンであり、下段が本実施形態で追加する組み合わせパターンである。
エッジ部量子化幅算出部308は、グループ内のPix_G個の画素に対応するPix_G個の単位量子化幅Qの中から、最大量子化幅Q_MAXと最小量子化幅Q_MINとを求める。そして、図13の上段と下段に示す関係の何れの関係に当てはまるか比較する。
ここで、最大量子化幅Q_MAXと最小量子化幅Q_MINとが、それぞれ“3”、“0”であったとする。最大量子化幅Q_MAXが“3”であるとき、差分絶対値の最大値のビット数は9ビットである。即ち、図14(a)に示すように、差分値Dのビットデータのうち、最上位ビットの正負符号を表すビットを除くと、9ビット目(“b8”)までしか有効なビットデータは格納されていない。これは、実施形態1の図7と比較しても明確なように、グループの絵柄は、平坦部とエッジ部とが混在しているが、エッジ部の差分値Dが比較的小さい、つまり、平坦な領域にエッジが近接しているが、そのエッジ部の急峻さは、実施形態1と比較すると緩やかである場合を示している。
このような場合、図13の下段のように、エッジ画素判別部310におけるエッジ画素とエッジ画素以外とを判別するための閾値TH2を設定し直すことにより、平坦部の量子化幅を低減し、画質の劣化を、更に抑圧することができる。
ここで、閾値TH2の値は、実施形態1では“2”であったが、“1”に設定する。量子化値のビット長Mを“7”とすると、式(8)により、TH2+(M−1)=7となり、差分値Dのビット長が7ビットよりも小さい場合は、平坦部量子化幅により量子化処理が施される。従って、エッジ画素以外の量子化値は、差分値Dの6ビット目までのビットデータを量子化値として格納する必要があり、図14(b)のように、差分値Dのビットデータb1〜b5が量子化値のビットb1〜b5に格納される。また、このときの平坦部量子化幅の値は、閾値TH2の値と同じ値(“1”)となる。
尚、式(8)の通り、閾値TH2は、エッジ画素を判断する際の差分値Dのビット長Lの値を導いている。そのため、実施形態2においても、ビット長Lが極端に小さくなるような閾値TH2を設定すると、エッジ画素と判断された場合に、符号化対象画素データのほとんどの情報が失われてしまうことになる。そのため、実施形態2において、複数のエッジ部量子化幅及び平坦部量子化幅の組み合わせパターンを用意する場合は、式(8)で算出されるビット長Lとエッジ部量子化幅との差が、常に一定になるように、閾値TH2を求めればよい。
実施形態2において、パッキング部305が生成する量子化情報は、図15のようになる。図8と比較すると、量子化情報“110”が追加されていることが判る。これにより、画像復号化装置110においても、量子化情報解析部117で量子化情報を解析することにより、エッジ部量子化幅及び平坦部量子化幅の組み合わせが複数ある場合でも、切り替えることが可能である。
以上の処理により、実施形態1(図13の上段)と比較しても、平坦部量子化幅の値が“2”から“1”へ小さくなっており、平坦な領域に比較的緩やかな変化のエッジが近接している場合において、平坦部の画質劣化を更に抑圧することが可能となる。
尚、予め用意しておくエッジ部量子化幅及び平坦部量子化幅の組み合わせパターンは、発生し得る差分値Dのビットデータに応じて、複数用意しておくことも可能である。これにより、複数のエッジの発生パターンに対応でき、より平坦部の画質の劣化を抑圧することが可能となる。
(実施形態3)
本実施形態3では、実施形態1で説明した画像符号化装置300及び画像復号化装置110を備えたデジタルスチルカメラの例を説明する。
図16は、実施形態3に係るデジタルスチルカメラ1600の構成を示すブロック図である。図16に示されるように、デジタルスチルカメラ1600は、画像符号化装置300と、画像復号化装置110とを備える。画像符号化装置300及び画像復号化装置110の構成及び機能は実施形態1で説明したので、詳細な説明は繰り返さない。
デジタルスチルカメラ1600は、更に、撮像部1610と、画像処理部1620と、表示部1630と、圧縮変換部1640と、記録保存部1650と、SDRAM1660とを備える。
撮像部1610は、被写体を撮像して、被写体の撮像された像に対応するデジタルの画像データ(RAWデータ)を出力する。この例では、撮像部1610は、光学系1611と、撮像素子1612と、アナログフロントエンド1613(図中ではAFEと略記)と、タイミングジェネレータ1614(図中ではTGと略記)とを含む。光学系1611は、レンズ等からなり、被写体の像を撮像素子1612上に結像させるようになっている。撮像素子1612は、光学系1611から入射した光を電気信号に変換する。撮像素子1612としては、CCD(Charge Coupled Device)を用いた撮像素子や、CMOSを用いた撮像素子等、種々の撮像素子を採用できる。アナログフロントエンド1613は、撮像素子1612が出力したアナログ信号に対してノイズ除去、信号増幅、A/D変換などの信号処理を行ない、信号処理がされたデータを画像データとして出力する。タイミングジェネレータ1614は、撮像素子1612やアナログフロントエンド1613の動作タイミングの基準となるクロック信号をこれらに供給する。
画像処理部1620は、撮像部1610から入力された画素データ(RAWデータ)に所定の画像処理を施し、画像処理後のデータを画像符号化装置300へ出力する。一般的に、画像処理部1620は、図16に示すように、傷補正回路1621、輝度信号生成回路1622、色分離回路1623、アパーチャ補正処理回路1624(図中ではAPと略記)、マトリクス処理回路1625、及び画像の拡大・縮小を行うズーム回路1626(図中ではZOMと略記)等を備えている。
傷補正回路1621では、電源投入時等に、撮像素子1612の遮光データを得ることにより欠陥画素を検出し、この検出された欠陥画素の位置情報をレジスタやメモリ等の記憶手段に保持しておく。そして、撮像時に、保持されている位置情報に基づいて、撮像素子1612における欠陥画素の周辺に配置する複数の画素データを用いて補間値を算出し、この補間値と欠陥画素の値とを置換する回路である。輝度信号生成回路1622は、RAWデータから輝度信号(Y信号)を生成する。色分離回路1623は、RAWデータから色差信号(Cr/Cb信号)を生成する。アパーチャ補正処理回路1624は、輝度信号生成回路1622が生成した輝度信号に高周波数成分を足し合わせて、解像度を高く見せる処理を行う。マトリクス処理回路1625は、撮像素子の分光特性や画像処理で崩れた色相バランスの調整を色分離回路1623の出力に対して行う。
そして、画像処理部1620は、一般的に、処理対象の画素データをSDRAM等のメモリに一時記憶させ、一時記憶されたデータに対して所定の画像処理や、YC信号生成、ズーム処理等を行い、処理後のデータを再度SDRAMに一時記憶することが多い。そのため、画像処理部1620では、画像符号化装置300への出力と画像復号化装置110からの入力とが何れも発生することが考えられる。
表示部1630は、画像復号化装置110の出力(画像復号化処理後の画像データ)を表示する。
圧縮変換部1640は、画像復号化装置110の出力をJPEG等の所定の規格で圧縮変換した画像データを記録保存部1650に出力する、また、圧縮変換部1640は、記録保存部1650によって読み出された画像データを伸張変換して、伸張変換された画像データを画像符号化装置300へ入力する。即ち、圧縮変換部1640は、JPEG規格に基づくデータを処理可能である。このような圧縮変換部1640は、一般的にデジタルスチルカメラに搭載される。
記録保存部1650は、圧縮された画像データを受信して、記録媒体(例えば不揮発性メモリ等)に記録する。また、記録保存部1650は、記録媒体に記録されている圧縮された画像データを読み出して、読み出した画像データを圧縮変換部1640に出力する。
本実施形態3の画像符号化装置300及び画像復号化装置110における入力信号としては、例えば、撮像部1610から入力されたRAWデータが挙げられる。但し、画像符号化装置300の入力信号は、RAWデータに限定されない。例えば、画像符号化装置300及び画像復号化装置110が処理対象とする画素データは、画像処理部1620によってRAWデータから生成されたYC信号(輝度信号又は色差信号)のデータでもよいし、又は、一旦、JPEG等に圧縮変換されたJPEG画像のデータを伸張することにより得られるデータ(輝度信号又は色差信号のデータ)等であってもよい。
このように、実施形態3におけるデジタルスチルカメラ1600は、一般的にデジタルスチルカメラに搭載される圧縮変換部1640以外にも、RAWデータやYC信号を処理対象とする画像符号化装置300及び画像復号化装置110を備える。これにより、本実施形態3におけるデジタルスチルカメラ1600においては、同じSDRAM等のメモリ容量で、同じ解像度の連写枚数を増やす高速撮像動作が可能となる。また、デジタルスチルカメラ1600においては、同じ容量のSDRAM等メモリに記憶させる動画像の解像度を高めることが可能になる。
また、本実施形態3に示したデジタルスチルカメラ1600の構成は、デジタルスチルカメラ1600と同様に、撮像部、画像処理部、表示部、圧縮変換部、記録保存部、及びSDRAMを備えるデジタルビデオカメラの構成に適用することも可能である。
(実施形態4)
本実施形態4では、デジタルスチルカメラに設けられる撮像素子が、画像符号化装置300を含む場合のデジタルスチルカメラの構成の例を説明する。
図17は、実施形態4におけるデジタルスチルカメラ1700の構成を示すブロック図である。図17に示されるように、デジタルスチルカメラ1700は、図16のデジタルスチルカメラ1600と比較して、撮像部1610の代わりに撮像部1710を備える点と、画像処理部1620の代わりに画像処理部1720を備える点とが異なる。それ以外の構成は、デジタルスチルカメラ1600と同様であるので、詳細な説明は繰り返さない。
撮像部1710は、図16の撮像部1610と比較して、撮像素子1612の代わりに撮像素子1712を含み、アナログフロントエンド1613を省略した点が異なる。それ以外は、撮像部1610と同様であるので、詳細な説明は繰り返さない。これは、例えば、撮像素子1712にCMOSセンサを用いた例であり、画素内に増幅器及びA/D変換回路を有し、デジタル信号を出力する。このため、図3の画像符号化装置300を搭載することが可能となる。
また、画像処理部1720は、図16の画像処理部1620と比較して、更に、図11の画像復号化装置110を含む点が異なる。それ以外の構成は、画像処理部1620と同様であるので、詳細な説明は繰り返さない。
撮像素子1712に含まれる画像符号化装置300は、撮像素子1712により撮像された画素信号(RAWデータ)を符号化し、その符号化により得られたデータを画像処理部1720内の画像復号化装置110に送信する。
画像処理部1720内の画像復号化装置110は、画像符号化装置300から受信したデータを復号化する。この処理により、撮像素子1712と集積回路内の画像処理部1720との間のデータ転送効率を向上させることが可能となる。
従って、実施形態4のデジタルスチルカメラ1700においては、前記実施形態3のデジタルスチルカメラ1600よりも、同じメモリ容量で、同じ解像度の連写枚数を増やしたり、動画像の解像度を高めることが可能になる。
一方、近年では、高画素の撮像素子1712を使用して、30枚/秒の画像を出力することが求められている。具体的には、高画素の撮像素子から30枚/秒の画像を出力したり、また、高画素でない場合でも、野球のボールインパクトの瞬間を撮像する高速撮像などのような、1秒当たり100枚以上の画像を出力する高速撮像が求められている。この実現方法として、画素データの読出速度の高速化を図ることが考えられるが、単純に読出速度を高速化したのでは、消費電力の増加や、ノイズ、不要輻射の問題が起こり得る。そのため、撮像部1710の出力信号を高速のクロックを用いてシリアル形式のデータに変換してから外部に出力する方法があるが、本実施形態4では、更に、撮像素子1712内部に画像符号化装置300を搭載する。このため、撮像部1710と画像処理部1720との間のデータ転送効率の向上が可能となり、高速撮像の実現に有効である。
また、前記実施形態3と比較すると、本実施形態4のように、撮像部1710に画像符号化装置300が搭載される場合、画像処理部1720内にある傷補正回路1621より前段に、画像符号化処理を実行することになる。即ち、撮像素子1712に欠陥画素が発生した場合、欠陥画素の画素値は補正されずに、そのままの画素値(信号レベル)で画像符号化装置300に入力されるということを意味する。
一般的に、欠陥画素としては、感度に反応せず低い画素値のみを出力する黒傷や、逆に飽和レベルに近い画素値のみを出力する白傷が挙げられる。そのため、欠陥画素の画素値が補正されずに、そのままの画素値で画像符号化装置300に入力された場合、被写体の絵柄とは無関係に、平坦な領域に、急峻なエッジが発生する可能性がある。従って、欠陥画素が含まれる領域は大きな量子化幅を用いて量子化され、視覚的に大きな劣化として捉えられる可能性がある。
しかし、本実施形態4においては、画像符号化装置300に入力する画素データ上で、欠陥画素により急峻なエッジが発生した場合でも、量子化処理の影響が周辺の平坦な画素へ伝播するのを防ぐため、傷補正回路1621の前段に、画像符号化装置300を搭載しても、問題なく画像符号化処理を施すことができる。よって、撮像部1710内にも画像符号化装置300を内蔵させることが可能となり、撮像部1710と画像処理部1720との間のデータ転送効率の向上に有効である。
(実施形態5)
本実施形態5では、監視カメラが受信する画像データが画像符号化装置300からの出力である場合の監視カメラを説明する。
図18は、監視カメラ1800の構成を示す図である。
通常、監視カメラ装置においてそうであるように、監視カメラ1800は、監視カメラ1800から送信される画像データが第3者によって伝送経路上で盗まれないよう、伝送路上のセキュリティ性を確保するため、画像データを暗号化している。一般的には、監視カメラ用信号処理部1810内の画像処理部1801により所定の画像処理が施された画像データを、圧縮変換部1802によりJPEGやMPEG4、H.264等の所定の規格で圧縮変換し、更に暗号化部1803により暗号化して、その暗号化されたデータが通信部1804からインターネット上に送信されることにより、個人のプライバシー保護を行っている。
そこで、図18に示すように、前述した画像符号化装置300を含む撮像部1710からの出力を監視カメラ用信号処理部1810に入力し、監視カメラ用信号処理部1810内に搭載する画像復号化装置110により符号化データを復号化する。このことにより、撮像部1710で撮影された画像データを擬似的に暗号化することができるので、撮像部1710と監視カメラ用信号処理部1810との間のデータ転送効率を向上させると共に、伝送路上のセキュリティ性が確保され、従来よりも更にセキュリティ性の向上を図ることが可能になる。
従って、監視カメラへの画像符号化装置300及び画像復号化装置110の搭載により、監視カメラのデータ転送効率が向上し、動画像の解像度を高める等といった撮像動作を実現することが可能になる。更に、擬似的に画像データを暗号化することにより、画像データの漏洩防止やプライバシー保護を行うなどといったセキュリティ性の向上が可能となる。
(実施形態6)
図19は、本実施形態6における監視カメラ1900の構成を示す図である。
また、監視カメラ装置の実現方法として、図19に示すように、撮像部1610からの入力画像に対して、所定のカメラ画像処理を行う画像処理部1901と信号入力部1902とを搭載して、画像処理部1901が送信した画像データを受信して圧縮変換を行い、暗号化した上で、通信部1804からインターネット上に画像データを送信する監視カメラ用信号処理部1910を、別個のLSIにより実現する形態がある。
本実施形態6においては、画像処理部1901に画像符号化装置300を搭載し、画像復号化装置110を監視カメラ用信号処理部1910に搭載する。このことにより、画像処理部1901が送信する画像データを擬似的に暗号化することができる。このため、画像処理部1901と監視カメラ用信号処理部1910との間のデータ転送効率を向上させると共に、伝送路上のセキュリティ性が確保され、従来よりも更にセキュリティ性の向上を図ることが可能になる。
このように、各実施形態において、固定長符号化を行うことにより、ランダムアクセス性は維持したまま、量子化幅を画素単位で適応的に切り替えることにより、欠陥画素や急峻なエッジの発生による影響が平坦な領域に伝播する課題が解決される。
尚、上記の説明で示される実施形態が、単なる一例であるのは当然である。即ち、権利が請求される対象の概念は、上記に示される実施形態が抽象化された上位概念である。そして、この上位概念は、一例である上記に示された実施形態により実施(実装、実現)されてもよいし、上記に示された実施形態とは一部又は全部が異なる他の実施形態により実施(実装、実現)されてもよいのは当然である。
以上説明したように、本発明に係る画像符号化方法及び装置並びに画像復号化方法及び装置は、集積回路のデータ転送のバス幅等については、固定長を保証しつつ、画像データを圧縮することが可能になる。
また、平坦部とエッジ部とが混在しているか否かを判定し、その判定結果を基に量子化処理における量子化幅を画素単位で適応的に切り替えるので、欠陥画素や急峻なエッジが発生している領域においても、量子化誤差が平坦な領域にまで伝播するのを抑えることが可能となる。従って、デジタルスチルカメラやネットワークカメラ等のように画像を扱う装置において、ランダムアクセス性は維持したまま、画像圧縮における画質の劣化を最小限に抑圧しつつ、画像データを符号化、復号化が可能になる。そのため、近年の画像データ処理量の増大へのキャッチアップに有用である。
100 デジタル信号処理回路
101 画像符号化装置
102 画像復号化装置
103 前処理部
104 信号処理部
105 メモリ
300 画像符号化装置
301 処理対象画素値入力部
302 予測画素生成部
303 差分値演算部
304 量子化処理部(量子化部)
305 パッキング部
306 量子化幅決定部
307 初期量子化幅算出部
308 エッジ部量子化幅算出部
309 エッジ判定部
310 エッジ画素判別部
311 量子化幅選択部
110 画像復号化装置
111 アンパッキング部
112 量子化幅決定部
113 逆量子化処理部(逆量子化部)
114 予測画素生成部
115 復号化値生成部
116 出力部
117 量子化情報解析部
118 エッジフラグ分離部
119 量子化幅選択部
1600,1700 デジタルスチルカメラ
1610,1710 撮像部
1611 光学系
1612,1712 撮像素子
1613 アナログフロントエンド
1614 タイミングジェネレータ
1620,1720 画像処理部
1621 傷補正回路
1622 輝度信号生成回路
1623 色分離回路
1624 アパーチャ補正処理回路
1625 マトリクス処理回路
1626 ズーム回路
1630 表示部
1640 圧縮変換部
1650 記録保存部
1660 SDRAM
1800,1900 監視カメラ
1810 監視カメラ用信号処理部
1801 画像処理部
1802 圧縮変換部
1803 暗号化部
1804 通信部
1910 監視カメラ用信号処理部
1901 画像処理部
1902 信号入力部
S102 予測画素生成ステップ
S201 初期量子化幅算出ステップ
S202 エッジ部量子化幅算出ステップ
S203 エッジ判定ステップ
S204 エッジ画素判別ステップ
S106 量子化幅決定ステップ
S107 量子化ステップ
S109 パッキングステップ
Q_MAX 第1量子化幅
TH1 第1の閾値
TH3 第2の閾値
TH4 第3の閾値
TH2 第4の閾値

Claims (26)

  1. 圧縮対象の画素の画素データを入力し、入力された前記画素データを圧縮する画像符号化方法であって、
    圧縮対象の画素の周辺に位置する少なくとも1つの周辺画素から、前記画素データの予測値を生成する予測画素生成ステップと、
    前記画素データと、前記予測画素生成ステップで生成された前記予測値との間の差分値を、前記画素データよりも少ないビット数である量子化値へと量子化することにより、前記画素データを前記量子化値へと圧縮する量子化ステップと、
    前記量子化ステップにおける量子化幅を決定する量子化幅決定ステップとを含み、
    前記量子化幅決定ステップは、複数の前記画素から構成するグループ単位で、平坦部とエッジ部とが混在しているか否かを判定し、その判定結果に基づいて前記量子化ステップにおける量子化幅を画素単位で適応的に切り替える
    ことを特徴とする画像符号化方法。
  2. 前記請求項1記載の画像符号化方法であって、
    前記量子化幅決定ステップは、
    前記グループ内の前記差分値の特性から平坦部とエッジ部とが混在しているか否かを判定するエッジ判定ステップと、
    前記差分値に基づいて、前記グループを構成する画素中におけるエッジ部の画素と平坦部の画素とを判別するエッジ画素判別ステップとを含み、
    前記エッジ判定ステップの判定結果と、前記エッジ画素判別ステップの判別結果とに基づいて、前記量子化ステップにおける量子化幅を画素単位で適応的に切り替える
    ことを特徴とする画像符号化方法。
  3. 前記請求項2記載の画像符号化方法であって、
    前記エッジ判定ステップは、
    前記グループ内の前記差分値の最大値と最小値との差が第1の閾値以上である場合に、平坦部とエッジ部とが混在していると判定する
    ことを特徴とする画像符号化方法。
  4. 前記請求項3記載の画像符号化方法であって、
    前記第1の閾値は、2のべき乗である
    ことを特徴とする画像符号化方法。
  5. 前記請求項2記載の画像符号化方法であって、
    前記エッジ判定ステップは、
    前記グループ内の前記差分値の最大値が第2の閾値以上であり、かつ、前記差分値の最小値が第3の閾値以下である場合に、平坦部とエッジ部とが混在していると判定する
    ことを特徴とする画像符号化方法。
  6. 前記請求項5記載の画像符号化方法であって、
    前記第2の閾値及び第3の閾値は、2のべき乗である
    ことを特徴とする画像符号化方法。
  7. 前記請求項2記載の画像符号化方法であって、
    前記エッジ画素判別ステップは、
    前記差分値が第4の閾値以上である場合に、エッジ部の画素と判断し、それ以外は平坦部の画素と判別する
    ことを特徴とする画像符号化方法。
  8. 前記請求項7記載の画像符号化方法であって、
    前記第4の閾値は、2のべき乗である
    ことを特徴とする画像符号化方法。
  9. 前記請求項2記載の画像符号化方法であって、
    前記量子化幅決定ステップは、
    前記量子化ステップにおける量子化幅として、前記エッジ判定ステップの判定結果に基づいて、前記グループ単位で、第1量子化幅を使用するか、又は、第2量子化幅及び第3量子化幅を使用するかを決定し、前記エッジ画素判別ステップの判別結果に基づいて、画素単位で、前記第2量子化幅を使用するか前記第3量子化幅を使用するかを決定する
    ことを特徴とする画像符号化方法。
  10. 前記請求項2又は9記載の画像符号化方法であって、
    前記量子化幅決定ステップは、
    前記グループ中の前記差分値の最大値に応じた第1量子化幅を算出する初期量子化幅算出ステップと、
    エッジ部の量子化における量子化幅である第2量子化幅、及び、平坦部の量子化における量子化幅である第3量子化幅を算出するエッジ部量子化幅算出ステップとを含む
    ことを特徴とする画像符号化方法。
  11. 前記請求項10記載の画像符号化方法であって、
    前記第2量子化幅は、前記第1量子化幅に対し1加算した値となる
    ことを特徴とする画像符号化方法。
  12. 前記請求項10記載の画像符号化方法であって、
    前記第3量子化幅は、前記第1量子化幅に対し量子化幅が小さくなる
    ことを特徴とする画像符号化方法。
  13. 前記請求項10記載の画像符号化方法であって、
    エッジ部量子化幅算出ステップは、前記グループ内の前記差分値の最大値と最小値との差に対応する複数の前記第3量子化幅の中から、量子化値を選択する
    ことを特徴とする画像符号化方法。
  14. 前記請求項1記載の画像符号化方法であって、
    パッキングステップを含み、エッジ部の画素か否かを1ビットで表されるフラグとして前記量子化値に埋め込み、出力する
    ことを特徴とする画像符号化方法。
  15. 前記請求項1記載の画像符号化方法であって、
    パッキングステップを含み、前記グループ単位で、前記グループを構成する画素の前記量子化値と、前記量子化幅の情報と、平坦部とエッジ部とが混在しているか否かの判定結果とのうち、少なくとも何れかを含むSビット長(Sは自然数)の符号化データを生成する
    ことを特徴とする画像符号化方法。
  16. 前記請求項1記載の画像符号化方法であって、
    入力されたNビット長(Nは自然数)の画素データと、同ビット長の前記予測値との差分値を、所定のビット長M(Nより小さいMは自然数)の固定長符号に符号化する
    ことを特徴とする画像符号化方法。
  17. 入力される符号化データが量子化値を含み、
    前記量子化値は、画素データと前記画素データの予測値との間の差分値を量子化したものであり、前記画素データの予測値は前記画素データの画素の周辺に位置する少なくとも1つの画素から生成され、
    前記量子化値を前記画素データに復号化する画像復号化方法であって、
    既に復号化された過去の前記画素データから、現在の前記画素データの前記予測値を生成する予測画素生成ステップと、
    前記量子化値を逆量子化し、前記量子化値が逆量子化された前記差分値を生成する逆量子化ステップと、
    符号化された量子化情報及び量子化値から、前記逆量子化ステップにおける量子化幅を画素単位で決定する量子化幅決定ステップとを含み、
    前記量子化幅決定ステップは、前記逆量子化ステップにおける量子化幅を画素単位で適応的に切り替える
    ことを特徴とする画像復号化方法。
  18. 圧縮対象の画素の画素データを入力し、入力された前記画素データを圧縮する画像符号化装置であって、
    圧縮対象の画素の周辺に位置する少なくとも1つの周辺画素から、前記画素データの予測値を生成する予測画素生成部と、
    前記画素データと、前記予測画素生成部で生成された前記予測値との間の差分値を、前記画素データよりも少ないビット数である量子化値へと量子化することにより、前記画素データを、前記量子化値へと圧縮する量子化部と、
    前記量子化部における量子化幅を決定する量子化幅決定部とを備え、
    前記量子化幅決定部は、複数の前記画素から構成するグループ単位で、平坦部とエッジ部とが混在しているか否かを判定し、判定結果に基づいて前記量子化部における量子化幅を画素単位で適応的に切り替える
    ことを特徴とする画像符号化装置。
  19. 入力される符号化データが量子化値を含み、
    前記量子化値は、画素データと前記画素データの予測値との間の差分値を量子化したものであり、前記画素データの予測値は前記画素データの画素の周辺に位置する少なくとも1つの画素から生成され、
    前記量子化値を前記画素データに復号化する画像復号化装置であって、
    既に復号化された過去の前記画素データから、現在の前記画素データの前記予測値を生成する予測画素生成部と、
    前記量子化値を逆量子化し、前記量子化値が逆量子化された前記差分値を生成する逆量子化部と、
    符号化された量子化情報及び量子化値から、前記逆量子化部における量子化幅を画素単位で決定する量子化幅決定部とを備え、
    前記量子化幅決定部は、前記逆量子化部における量子化幅を画素単位で適応的に切り替える
    ことを特徴とする画像復号化装置。
  20. 前記請求項18記載の画像符号化装置であって、
    前記画素データは、撮像素子から入力されたRAWデータである
    ことを特徴とする画像復符号化装置。
  21. 前記請求項18記載の画像符号化装置であって、
    前記画素データは、撮像素子から画像信号処理装置に入力されたRAWデータから、前記画像信号処理装置により生成された輝度信号、又は、色差信号の画素データである
    ことを特徴とする画像符号化装置。
  22. 前記請求項18記載の画像符号化装置であって、
    前記画素データは、伸張装置がJPEG(Joint Photographic Experts Group)画像を伸張することにより、伸張装置が得る輝度信号、又は、色差信号の画素データである
    ことを特徴とする画像符号化装置。
  23. 前記請求項18記載の画像符号化装置と、前記請求項17記載の画像復号化装置とを備えた
    ことを特徴とするデジタルスチルカメラ。
  24. 前記請求項18記載の画像符号化装置と、前記請求項17記載の画像復号化装置とを備えた
    ことを特とするデジタルビデオカメラ。
  25. 前記請求項18記載の画像符号化装置と、前記請求項17記載の画像復号化装置とを備えた
    ことを特徴とする監視カメラ。
  26. 前記請求項18記載の画像符号化装置を備えた
    ことを特徴とする固体撮像素子。
JP2010197834A 2010-09-03 2010-09-03 画像符号化方法、画像復号化方法、画像符号化装置及び画像復号化装置 Expired - Fee Related JP5529685B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2010197834A JP5529685B2 (ja) 2010-09-03 2010-09-03 画像符号化方法、画像復号化方法、画像符号化装置及び画像復号化装置
CN201180041297.0A CN103081469B (zh) 2010-09-03 2011-04-19 图像编码方法、图像解码方法、图像编码装置以及图像解码装置
PCT/JP2011/002286 WO2012029208A1 (ja) 2010-09-03 2011-04-19 画像符号化方法、画像復号化方法、画像符号化装置及び画像復号化装置
US13/778,663 US10223811B2 (en) 2010-09-03 2013-02-27 Image encoding method, image decoding method, image encoding device and image decoding device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010197834A JP5529685B2 (ja) 2010-09-03 2010-09-03 画像符号化方法、画像復号化方法、画像符号化装置及び画像復号化装置

Publications (3)

Publication Number Publication Date
JP2012054882A true JP2012054882A (ja) 2012-03-15
JP2012054882A5 JP2012054882A5 (ja) 2013-09-12
JP5529685B2 JP5529685B2 (ja) 2014-06-25

Family

ID=45772335

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010197834A Expired - Fee Related JP5529685B2 (ja) 2010-09-03 2010-09-03 画像符号化方法、画像復号化方法、画像符号化装置及び画像復号化装置

Country Status (4)

Country Link
US (1) US10223811B2 (ja)
JP (1) JP5529685B2 (ja)
CN (1) CN103081469B (ja)
WO (1) WO2012029208A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014084072A1 (ja) * 2012-11-29 2014-06-05 ソニー株式会社 イメージセンサおよびそのデータ伝送方法、情報処理装置および情報処理方法、電子機器、並びにプログラム
CN110971904A (zh) * 2018-10-15 2020-04-07 新相微电子(上海)有限公司 一种图像压缩的控制方法

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6145965B2 (ja) * 2012-04-19 2017-06-14 富士ゼロックス株式会社 画像符号化装置及び画像復号化装置並びにプログラム
US9978156B2 (en) 2012-10-03 2018-05-22 Avago Technologies General Ip (Singapore) Pte. Ltd. High-throughput image and video compression
US9805442B2 (en) 2012-10-03 2017-10-31 Avago Technologies General Ip (Singapore) Pte. Ltd. Fine-grained bit-rate control
US9883180B2 (en) * 2012-10-03 2018-01-30 Avago Technologies General Ip (Singapore) Pte. Ltd. Bounded rate near-lossless and lossless image compression
US10812829B2 (en) 2012-10-03 2020-10-20 Avago Technologies International Sales Pte. Limited 2D block image encoding
US9813711B2 (en) 2012-10-03 2017-11-07 Avago Technologies General Ip (Singapore) Pte. Ltd. Hybrid transform-based compression
US9355113B2 (en) * 2013-01-17 2016-05-31 Google Inc. Encoding and decoding delta values
US9363517B2 (en) 2013-02-28 2016-06-07 Broadcom Corporation Indexed color history in image coding
CN106664439B (zh) * 2014-07-30 2020-04-03 Sk普兰尼特有限公司 云流服务器
JP6672363B2 (ja) * 2018-03-23 2020-03-25 シャープ株式会社 符号化装置、表示装置、符号化装置の制御方法、および制御プログラム
GB2611864B (en) 2019-08-23 2023-12-06 Imagination Tech Ltd Random accessible image data compression

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05252499A (ja) * 1991-01-17 1993-09-28 Mitsubishi Electric Corp 映像信号符号化装置
JPH0698306A (ja) * 1992-09-10 1994-04-08 Sharp Corp 画像符号化装置
JP2007020036A (ja) * 2005-07-11 2007-01-25 Toshiba Corp 画像送信装置および画像受信装置
WO2007132539A1 (ja) * 2006-05-17 2007-11-22 Fujitsu Limited 画像圧縮装置、圧縮方法及びプログラム並びに画像復元装置、復元方法及びプログラム
WO2010035433A1 (ja) * 2008-09-25 2010-04-01 パナソニック株式会社 画像符号化装置、デジタルスチルカメラ、デジタルビデオカメラ、撮像素子、プリンタおよび画像符号化方法
JP2010166520A (ja) * 2009-01-19 2010-07-29 Panasonic Corp 画像符号化・復号化装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR930000033B1 (ko) * 1990-10-18 1993-01-06 삼성전자 주식회사 에지검출을 이용한 양자화폭 조정회로
US6097757A (en) * 1998-01-16 2000-08-01 International Business Machines Corporation Real-time variable bit rate encoding of video sequence employing statistics
JP2001268565A (ja) * 2000-03-15 2001-09-28 Fuji Xerox Co Ltd 画像符号化装置および画像復号装置
US6831947B2 (en) * 2001-03-23 2004-12-14 Sharp Laboratories Of America, Inc. Adaptive quantization based on bit rate prediction and prediction error energy
TWI295448B (en) * 2005-05-10 2008-04-01 Sunplus Technology Co Ltd Method for object edge detection in macroblock and for deciding quantization scaling factor
JP4769039B2 (ja) * 2005-07-26 2011-09-07 パナソニック株式会社 デジタル信号符号化および復号化装置ならびにその方法
JP4895567B2 (ja) 2005-10-07 2012-03-14 パナソニック株式会社 画像符号化方法及び装置、画像復号化方法及び装置、撮像装置
US20070177671A1 (en) * 2006-01-12 2007-08-02 Lg Electronics Inc. Processing multiview video
JP4508132B2 (ja) 2006-02-27 2010-07-21 ソニー株式会社 撮像装置、撮像回路、および撮像方法
EP2034740B1 (en) * 2006-05-17 2013-07-17 Fujitsu Limited Image data compression device, compression method, program, and image data decompression device, decompression method, and program
WO2008084996A1 (en) * 2007-01-11 2008-07-17 Samsung Electronics Co, . Ltd. Method and apparatus for deblocking-filtering video data
TW200840365A (en) * 2007-03-23 2008-10-01 Ind Tech Res Inst Motion-blur degraded image restoration method
US8442337B2 (en) * 2007-04-18 2013-05-14 Microsoft Corporation Encoding adjustments for animation content
WO2009022048A1 (en) * 2007-08-16 2009-02-19 Nokia Corporation A method and apparatuses for encoding and decoding an image
JP4461165B2 (ja) * 2007-09-26 2010-05-12 株式会社東芝 画像処理装置、方法およびプログラム
JP2011004285A (ja) * 2009-06-19 2011-01-06 Sharp Corp 画像データ符号化装置、画像データ符号化方法、画像データ符号量制御方法、および電子情報機器

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05252499A (ja) * 1991-01-17 1993-09-28 Mitsubishi Electric Corp 映像信号符号化装置
JPH0698306A (ja) * 1992-09-10 1994-04-08 Sharp Corp 画像符号化装置
JP2007020036A (ja) * 2005-07-11 2007-01-25 Toshiba Corp 画像送信装置および画像受信装置
WO2007132539A1 (ja) * 2006-05-17 2007-11-22 Fujitsu Limited 画像圧縮装置、圧縮方法及びプログラム並びに画像復元装置、復元方法及びプログラム
WO2010035433A1 (ja) * 2008-09-25 2010-04-01 パナソニック株式会社 画像符号化装置、デジタルスチルカメラ、デジタルビデオカメラ、撮像素子、プリンタおよび画像符号化方法
JP2010166520A (ja) * 2009-01-19 2010-07-29 Panasonic Corp 画像符号化・復号化装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014084072A1 (ja) * 2012-11-29 2014-06-05 ソニー株式会社 イメージセンサおよびそのデータ伝送方法、情報処理装置および情報処理方法、電子機器、並びにプログラム
JPWO2014084072A1 (ja) * 2012-11-29 2017-01-05 ソニーセミコンダクタソリューションズ株式会社 イメージセンサおよびそのデータ伝送方法、情報処理装置および情報処理方法、電子機器、並びにプログラム
US10362220B2 (en) 2012-11-29 2019-07-23 Sony Semiconductor Solutions Corporation Conversation of pixel data into compression format of pixels
CN110971904A (zh) * 2018-10-15 2020-04-07 新相微电子(上海)有限公司 一种图像压缩的控制方法
CN110971904B (zh) * 2018-10-15 2020-12-04 新相微电子(上海)有限公司 一种图像压缩的控制方法

Also Published As

Publication number Publication date
US20130176431A1 (en) 2013-07-11
JP5529685B2 (ja) 2014-06-25
CN103081469A (zh) 2013-05-01
US10223811B2 (en) 2019-03-05
CN103081469B (zh) 2016-10-05
WO2012029208A1 (ja) 2012-03-08

Similar Documents

Publication Publication Date Title
JP5529685B2 (ja) 画像符号化方法、画像復号化方法、画像符号化装置及び画像復号化装置
JP5530198B2 (ja) 画像符号化方法、復号化方法、装置
KR101241662B1 (ko) 화상 데이터 처리 장치, 화상 데이터 처리 방법 및 기록매체
JP4601623B2 (ja) ノイズ除去装置
US20110200263A1 (en) Image encoder and image decoder
JP2007036566A (ja) デジタル信号符号化および復号化装置ならびにその方法
JP2008294689A (ja) 撮像装置、撮像回路、および撮像方法
US8823832B2 (en) Imaging apparatus
WO2011155377A1 (ja) 画像処理装置および方法
JP2016508700A (ja) ビデオカメラ
US20170302938A1 (en) Image encoding apparatus and method of controlling the same
US10477219B2 (en) Image-processing apparatus and lossless image compression method using intra-frame prediction
JP5092536B2 (ja) 画像処理装置及びそのプログラム
JP6685198B2 (ja) 撮像装置及びその制御方法及びプログラム
KR102199470B1 (ko) 영상-데이터 압축 회로, 영상-데이터 압축 방법, 및 촬영 장치
JP2016021731A (ja) 撮像装置およびその制御方法ならびにプログラム
US8233729B2 (en) Method and apparatus for generating coded block pattern for highpass coefficients
EP3026908A1 (en) Method and device for quantizing and de-quantizing a picture using scaling factors for chrominance based on luminance
KR101871946B1 (ko) 화상 처리 장치, 화상 처리 방법 및 프로그램
JP2021078008A (ja) 画像処理装置、画像処理方法及び撮像装置
US9942569B2 (en) Image encoding apparatus and control method of the same
JP2009290556A (ja) 画像情報処理装置及び画像情報処理方法
JP2009124278A (ja) 撮像装置
JPH11298762A (ja) 暗電流ノイズ除去装置
JP3945503B2 (ja) 係数データ生成装置および方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130701

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20130702

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130730

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140306

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140408

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140417

R151 Written notification of patent or utility model registration

Ref document number: 5529685

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees