JP5024178B2 - 画像処理装置、及び画像処理方法 - Google Patents

画像処理装置、及び画像処理方法 Download PDF

Info

Publication number
JP5024178B2
JP5024178B2 JP2008127334A JP2008127334A JP5024178B2 JP 5024178 B2 JP5024178 B2 JP 5024178B2 JP 2008127334 A JP2008127334 A JP 2008127334A JP 2008127334 A JP2008127334 A JP 2008127334A JP 5024178 B2 JP5024178 B2 JP 5024178B2
Authority
JP
Japan
Prior art keywords
unit
coefficient
level shift
wavelet
wavelet transform
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008127334A
Other languages
English (en)
Other versions
JP2009278355A (ja
Inventor
一馬 篠田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2008127334A priority Critical patent/JP5024178B2/ja
Publication of JP2009278355A publication Critical patent/JP2009278355A/ja
Application granted granted Critical
Publication of JP5024178B2 publication Critical patent/JP5024178B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、画像処理装置、及び画像処理方法に関する。
近年、情報処理技術、及び通信技術等の急速な発展により、高品質な映像や音声等のデジタル信号が有線又は無線のネットワークを通じて配信されるようになってきている。もちろん、デジタル放送もその一例である。しかしながら、高品質な映像や音声等のデータは、そのデータ量が大きいため、そのままではネットワーク帯域を圧迫してしまう。同様に、光ディスク等のメディアで配布される映像や音楽等についても、高品質化の潮流からデータ量が増大しており、そのままでは既存のメディアに格納することが難しい。そこで、通常、映像や音声等のデータは、所定の符号化方式で圧縮されたものが提供される。
例えば、画像データに関し、代表的な画像圧縮方法としては、ISO(International Standards Organization)によって標準化されたJPEG(Joint Photographic Experts Group)方式がある。この方式には、離散コサイン変換(DCT;Discrete Cosine Transform)が利用されているため、比較的多くの符号化ビットが割り当てられると、良好な符号化画像及び復号画像が得られる。しかし、符号化ビット数が少ないと、離散コサイン変換に特有のブロックノイズが顕著になり、主観的な画像品質の劣化が目立ってしまう。
これに対し、フィルタバンクと呼ばれるハイパスフィルタとローパスフィルタとを組み合わせたフィルタによって画像を複数の周波数帯域(サブバンド)に分割し、帯域毎に符号化を施す符号化方式が利用されるようになってきている。その代表的な例としては、ウェーブレット変換を利用した符号化方式がある。ウェーブレット変換は、高圧縮時にも離散コサイン変換のようなブロック歪みが顕著になるという欠点がない。そのため、ウェーブレット変換を利用した符号化方式には非常に注目が集まっている。
2001年1月に国際標準化が完了したJPEG2000方式は、このウェーブレット変換と、高能率なエントロピー符号化とを組み合わせた方式を採用している。このエントロピー符号化処理には、ビットプレーン単位のビットモデリング処理と算術符号化処理とが含まれる。そのため、離散コサイン変換を利用したJPEG方式に比べると非常に大きな符号化効率の改善が実現されている。
画像データに適用される2次元のウェーブレット変換は、画像データに対して水平方向の分析フィルタリングと垂直方向の分析フィルタリングとを繰り返し実行しながら、低周波成分を階層的に分割する手法である。従って、分析フィルタリングの実行時にメモリへのデータの書き込み/読み出し処理が頻繁に発生する。そのため、ウェーブレット変換を利用する際には、高速な書き込み/読み出し性能を有するメモリが用いられる。しかしながら、こうしたメモリは高価であり、データ量の大きい画像データの格納には適さない。そのため、比較的低速な外部メモリが利用されることが多く、当然、ウェーブレット変換を用いる符号化処理の処理時間が長く掛かってしまうことになる。そこで、外部メモリを利用せずにウェーブレット変換を高速実行する技術が開発された(特許文献1参照)。
特願2008ー022802号公報
上記の通り、ウェーブレット変換を利用する符号化方式は、離散コサイン変換を利用する符号化方式に比べて符号化効率が高い。しかし、JPEG2000方式では、この符号化効率をさらに高めるため、ウェーブレット変換前の画像データを一様にレベルシフトしてウェーブレット変換係数の分布中心を0にする技術(以下、DCレベルシフト)が採用されている。つまり、画像データの直流成分(DC成分)をレベルシフトさせることにより、ウェーブレット変換係数のダイナミックレンジを半減させ、ウェーブレット変換の効率を高めるのである。例えば、各色8ビットの正数で表現されるRGB信号を一様に128だけ減算し、[−128,127]の範囲にシフトさせるのである。しかしながら、ウェーブレット変換前の画像データに含まれる全画素についてDCレベルシフトが実行されるため、DCレベルシフトの処理自体にかかる演算負荷が大きい。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、符号化効率を低減させずにDCレベルシフトによる演算量を低減させることが可能な、新規かつ改良された画像処理装置、及び画像処理方法を提供することにある。
上記課題を解決するために、本発明のある観点によれば、画像信号にウェーブレット変換を施すウェーブレット変換部と、前記ウェーブレット変換部から出力された最低周波数成分の係数に対し、ダイナミックレンジが低減するように当該係数に対してレベルシフトを施すレベルシフト部と、前記レベルシフト部から出力された係数、及びウェーブレット変換部から出力された前記最低周波数成分以外の係数を符号化する符号化部と、を備える、画像処理装置が提供される。
上記の画像処理装置は、ウェーブレット変換部により、入力された画像信号にウェーブレット変換を施す。また、この画像処理装置は、レベルシフト部により、前記ウェーブレット変換部から出力された最低周波数成分の係数に対し、ダイナミックレンジが低減するように当該係数に対してレベルシフトを施す。さらに、この画像処理装置は、符号化部により、前記レベルシフト部から出力された係数、及びウェーブレット変換部から出力された前記最低周波数成分以外の係数を符号化する。このように、最低周波数成分のウェーブレット係数に対してのみDCレベルシフトを施すため、画像信号に含まれる全画素をレベルシフトする場合に比べて演算量が低減される。また、高周波成分のウェーブレット係数には、直流成分が含まれないことから、全画素をレベルシフトする場合と比較しても符号化効率が低下しない。
また、上記の画像処理装置は、前記画像信号の階調数がL、前記ウェーブレット変換に含まれる低域通過フィルタの利得がgかつ、当該ウェーブレット変換のレベルがn(nは自然数)の場合、前記レベルシフト部により、前記係数からg(2*n)*L/2を減算することで当該係数をレベルシフトさせるように構成されていてもよい。
また、前記レベルシフト部は、前記最低周波数成分の全係数に対する平均値を前記各係数から減算することで当該各係数をレベルシフトさせるように構成されていてもよい。この場合、前記符号化部は、出力する符号語に前記平均値を付加する。尚、ここで付加される平均値のデータ量は、符号量全体のデータ量と比較して非常に小さいものである。
また、上記課題を解決するために、本発明の別の観点によれば、画像信号にウェーブレット変換が施される変換ステップと、前記変換ステップで得られた最低周波数成分の係数に対し、ダイナミックレンジが低減するように当該係数に対してレベルシフトが施されるレベルシフトステップと、前記レベルシフトステップで得られた係数、及び前記変換ステップで得られた前記最低周波数成分以外の係数が符号化される符号化ステップと、を含む、画像処理方法が提供される。
また、上記課題を解決するために、本発明の別の観点によれば、ウェーブレット変換、及びレベルシフトが施された上で符号化された画像信号を復号してウェーブレット係数を出力する復号部と、前記復号部から出力されたウェーブレット係数のうち、最低周波数成分のウェーブレット係数に対して前記レベルシフトとは逆方向にレベルシフトを施す逆レベルシフト部と、前記最低周波数成分以外のウェーブレット係数、及び前記レベルシフト部により逆方向にレベルシフトされたウェーブレット係数に対して逆ウェーブレット変換を施す逆ウェーブレット変換部と、を備える、画像処理装置が提供される。
また、上記課題を解決するために、本発明の別の観点によれば、ウェーブレット変換、及びレベルシフトが施された上で符号化された画像信号が復号されてウェーブレット係数が出力される復号ステップと、前記復号ステップで出力されたウェーブレット係数のうち、最低周波数成分のウェーブレット係数に対して前記レベルシフトとは逆方向にレベルシフトが施される逆レベルシフトステップと、前記最低周波数成分以外のウェーブレット係数、及び前記レベルシフトステップで逆方向にレベルシフトされたウェーブレット係数に対して逆ウェーブレット変換が施される逆ウェーブレット変換ステップと、を含む、画像処理方法が提供される。
また、上記課題を解決するために、本発明の別の観点によれば、上記の画像処理装置が有する機能をコンピュータに実現させるためのプログラムが提供される。さらに、このプログラムが記録された記録媒体が提供される。
以上説明したように本発明によれば、符号化効率を低減させずにDCレベルシフトによる演算量を低減させることが可能になる。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
[符号化/復号処理の概要]
まず、本発明の好適な実施形態について詳細に説明するに先立ち、当該実施形態に係る符号化/復号処理の概要について簡単に説明する。但し、ここで説明する内容は、同実施形態の技術的特徴を理解するための一助とすべく外延的内容のみが記載されたものであり、同実施形態の特徴部分については後段において詳述することとする。
(画像処理装置10の機能構成:符号化処理部分)
ここで、図1を参照しながら、画像処理装置10の機能構成について説明する。図1は、画像処理装置10の機能構成の一例を示す説明図である。この画像処理装置10は、入力された画像信号を符号化する機能を有する。この機能は、例えば、図17に示す情報処理装置のハードウェア構成例の中で、ROM904、RAM906、記憶部920、又はリムーバブル記録媒体928等に記録されたプログラムにより実現されうる。具体的には、同プログラムがCPU902により実行されることで、種々の機能が実現される。
図1を参照する。図1に示すように、画像処理装置10は、主に、DCレベルシフト部12と、ウェーブレット変換部14と、量子化部16と、エントロピー符号化部18と、レート制御部20とにより構成される。以下の説明の中で、量子化部16、エントロピー符号化部18、及びレート制御部20を纏めて符号化ブロックと呼ぶことがある。
(DCレベルシフト部12)
DCレベルシフト部12は、入力される画像データ(原画像)の全画素値に対し、直流成分(DC成分)のレベルシフトを施す。より具体的には、原画像に含まれる画素値のダイナミックレンジが半分になるように全画素の画素値が一様に減算される。従って、DCレベルシフトが施されると、原画像の分布中心が0になる。例えば、正の整数値(0〜255)で明度が表現されるRGB信号は一様に128が減算される。一方、YCbCr等のように輝度−色差表現を持つ信号は、正値を持つ輝度成分のみがDCレベルシフトされる(図2及び図3を参照)。こうしたDCレベルシフトは、後述するウェーブレット変換の処理効率を向上させ、結果的に画像データの圧縮率向上に寄与する。
このように、DCレベルシフトは、後段の処理を効率化する上で非常に有効である。しかしながら、上記のように全画素についてDCレベルシフトが実行される場合、DCレベルシフトによる演算負荷も少なくない。こうした理由から、DCレベルシフトの後段で実行される符号化処理の効率を低下させず、かつ、DCレベルシフトによる演算負荷を低減させることが可能な技術が求められる。後述する本発明の実施形態においては、こうした要求に応じ、DCレベルシフトによる演算負荷を低減させる技術が提案される。さて、DCレベルシフト部12により出力された信号は、後述するウェーブレット変換部14に入力される。
ところで、図2及び図3に示した分布図は画像信号の分布であるが、図中には係数分布と記載されている。これは、後述するウェーブレット変換後に出力される係数分布との対応関係を意識しているからである。実際、ドベシィのウェーブレット(数列)を利用した高速ウェーブレット変換アルゴリズムにおいては、入力される画像信号をスケーリング係数とみなして演算が実行される。こうした点も踏まえ、ウェーブレット変換前の画素値の分布(図2及び図3)についても係数分布と表現しているのである。
(ウェーブレット変換部14)
ウェーブレット変換部14は、DCレベルシフト部14から入力された信号に対し、ウェーブレット変換を施す。このウェーブレット変換は、JPEG標準やMPEG標準で採用された離散コサイン変換(DCT;Discrete Cosine Transform)に比べて圧縮効率が高く、多重解像度表現が可能であるといった利点を有する。尚、ウェーブレット変換部14によるウェーブレット変換には、例えば、ドベシィのウェーブレットやハールのウェーブレット等が用いられる。実際には、ドベシィの直交フィルタである実数型9/7フィルタや整数型5/3フィルタが用いられることが多い。
ここで、図4を参照しながら、ウェーブレット変換の原理について簡単に説明する。但し、ここでは離散ウェーブレット変換(DWT;Discrete Wavelet Transform)について説明する。2次元信号である画像信号に対するウェーブレット変換は、1次元の2分割フィルタバンクを繰り返し用いることで実行される。図4は、レベル3までの1次元ウェーブレット変換を模式的に示したものである。図中のH0は、ローパスフィルタを示す。一方、H1は、ハイパスフィルタを示す。また、↓2は、2分の1のダウンサンプリングを示す。このダウンサンプリングは、例えば、信号を1つおきに間引くことで実現される。
図4に示すように、原画像の画像信号は、ローパスフィルタH0、及びハイパスフィルタH1に入力される。ハイパスフィルタH1を通過した信号は、ダウンサンプリングされて出力される(1/2(H))。この出力信号は、原画像の2分の1のサイズにダウンサンプリングされた高周波成分である。一方、ローパスフィルタH0を通過した信号は、ダウンサンプリングされ(1/2(L))、さらにローパスフィルタH0、及びハイパスフィルタH1に入力される。このように、低周波成分がレベル2の入力信号になる。
上記と同様に、ハイパスフィルタH1を通過した信号は、ダウンサンプリングされて出力される(1/4(LH))。この出力信号は、原画像の4分の1のサイズにダウンサンプリングされた高周波成分である。一方、ローパスフィルタH0を通過した信号は、ダウンサンプリングされ(1/4(LL))、さらにローパスフィルタH0、及びハイパスフィルタH1に入力される。このように、低周波成分がレベル3の入力信号になる。
ハイパスフィルタH1を通過した信号は、ダウンサンプリングされて出力される(1/8(LLH))。この出力信号は、原画像の8分の1のサイズにダウンサンプリングされた高周波成分である。一方、ローパスフィルタH0を通過した信号は、ダウンサンプリングされて出力される(1/8(LLL))。このようにして原画像の画像信号は、レベル毎にフィルタリング及びダウンサンプリングが施されて、低周波成分と高周波成分とに分解される。但し、ここで説明したのは1次元の場合である。
そこで、図5を参照しながら、2次元の場合について述べる。図5は、2次元のウェーブレット変換の流れを模式的に示したものである。既に述べた通り、2次元のウェーブレット変換は、1次元のウェーブレット変換を原画像の水平方向及び垂直方向に沿って繰り返し実行することで実現される。
図5に示すように、まず、原画像の水平方向のラインに沿って1次元ウェーブレット変換が実行される。つまり、原画像の水平方向に沿って並んだ画素値を入力信号とし、2分割フィルタバンクを適用するのである。原画像の全ラインについて1レベルの1次元ウェーブレット変換が施され、低周波成分(L)と高周波成分(H)とに分離される(Step.1)。次いで、Step.1で算出された係数について、垂直方向のラインに沿って1レベルの1次元ウェーブレット変換が施される(Step.2)。
このとき、Step.1で得られた低周波成分(L)の更なる低周波成分(LL)及び高周波成分(LH)が算出される。さらに、Step.1で得られた高周波成分(H)の更なる低周波成分(HL)及び高周波成分(HH)が算出される。これらの処理により、レベル1の2次元ウェーブレット変換が実現される(ステージ1)。尚、ステージ1で算出された各係数は、レベル1で算出されたことを示すために、LL、LH、HL、HHの前に1を付して表現している。
次に、ステージ1で算出された低周波成分1LLを入力信号として2次元ウェーブレット変換が実行される。ステージ1の場合と同様に、入力信号の水平方向のラインに沿って1次元ウェーブレット変換が実行され(Step.3)、その結果得られる係数に対して垂直方向のラインに沿って1次元ウェーブレット変換が実行される(Step.4)。これらの処理により、レベル2の2次元ウェーブレット変換が実現される(ステージ2)。図5には、レベル2までの2次元ウェーブレット変換が示されているが、所定のレベルまで同様の変換処理が繰り返され、画像信号が高周波成分と低周波成分とに分離される。
以上、2次元ウェーブレット変換について概念的に説明した。ここで、再び図1を参照し、ウェーブレット変換部14の機能構成という観点から、ウェーブレット変換処理について説明する。
上記の2次元ウェーブレット変換を実行するために、ウェーブレット変換部14は、画像信号の各分割レベルに対応するレベル毎の独立したバッファを有している。例えば、ウェーブレット変換部14には、レベルK(1≦K≦N;Nは最大分割レベル)に対するバッファとしてレベルKバッファが設けられている。
これらのバッファには、画像信号又は係数が蓄積される。そして、所定のライン数まで画像信号又は係数が蓄積された時点で、ウェーブレット変換部14により、水平分析フィルタリングが施される。この水平分析フィルタリングは、水平方向ラインに対する上記の1次元ウェーブレット変換処理に対応する。水平分析フィルタリングの結果得られた係数(周波数成分)は、ウェーブレット変換部14により、レベル毎に設けられたバッファに記録される。さらに、この係数が所定のライン数までバッファに蓄積された時点で、ウェーブレット変換部14により、その係数に対して垂直分析フィルタリングが施される。この垂直分析フィルタリングは、垂直方向ラインに対する上記の1次元ウェーブレット変換処理に対応する。これらの一連の処理は、所定の分割レベルになるまで繰り返される。
例えば、レベル2の分析フィルタリングの場合、ウェーブレット変換部14により、レベル1の分析フィルタリングによって算出された1LL(最低周波数成分)の画像信号がレベル2バッファに蓄積され、上記の水平分析フィルタリング、及び垂直分析フィルタリングが施される。この分析フィルタリングの結果、2LL、2LH、2HL、2HHの画像信号が得られる。分割レベル3の分析フィルタリングの場合、これらの画像信号のうち、最低周波数成分である2LLに対して分析フィルタリングが施される。こうした一連の処理が所定のレベルに達するまで繰り返し実行されるのである。こうした繰り返し処理の結果得られた係数は、後述する量子化部16に入力される。
尚、上記の説明においては、画像信号が入力された場合の処理を想定していた。しかしながら、上記のウェーブレット変換処理は、画像信号列で構成されるビデオ信号が入力される場合にも拡張することができる。この場合、ウェーブレット変換部14は、入力されるビデオ信号の垂直同期信号に基づいてピクチャの終端を検出し、検出されたピクチャの終端で分析フィルタリングの動作を停止する。この停止処理により、ピクチャ毎にウェーブレット変換を施すことが可能になる。従って、ウェーブレット変換部14は、ビデオ信号の入力に対しても、上記の分析フィルタリングによるウェーブレット変換処理を実現することが可能になるのである。
(ウェーブレット変換後の係数分布について)
ここで、図6、及び図7を参照しながら、ウェーブレット変換後の係数分布について簡単に説明する。図6は、ウェーブレット変換して得られた係数の低周波成分に関する係数分布を示す説明図である。図7は、ウェーブレット変換して得られた係数の高周波成分に関する係数分布を示す説明図である。但し、ここに示した係数分布は、説明のために模式的に示したものであり、特定の画像に対する正確な係数分布を示すものではない。
ウェーブレット変換後の係数分布は、低周波成分(図6)において原画像に近似し、高周波成分(図7)において0を中心とするラプラス分布になる。原画像の画像信号に含まれる直流成分は、分析フィルタリングの過程において、低域通過フィルタを通過し、高域通過フィルタにより除去される。ドベシィ(Daubechies)の9/7、5/3フィルタに代表されるように、ウェーブレット変換に用いられる低域通過フィルタは、直流利得が1であり、高域通過フィルタにおける直流利得が0である。従って、高周波成分に対応するウェーブレット係数には直流成分が含まれず、スケーリング係数に対応する最低周波数成分に直流成分が含まれる。
ここで図6を参照する。図6に示す係数分布は、輝度値0を中心として広がった分布を示している。これは、DCレベルシフト部12により、予め画像信号がレベルシフトされていたためである。次に、図7を参照する。図7に示す係数分布も、輝度値0を中心として広がった分布を示している。しかしながら、この係数分布は、図6の係数分布とは異なり、DCレベルシフト部12によるレベルシフトに起因して輝度値0を中心とする分布を成すのではない。上記の考察からも明らかな通り、図7に示す係数分布は、DCレベルシフトに寄らず、輝度値0を中心とするラプラス分布になるのである。後述する本発明の実施形態は、この特性を利用してDCレベルシフトによる演算負荷を低減させる技術を提供するものである。
(量子化部16)
再び図1を参照する。量子化部16は、ウェーブレット変換部14から入力された係数を量子化する。例えば、量子化部16は、所定の量子化ステップサイズで係数を除算することにより量子化係数を生成する。尚、画像信号のエネルギーは、低周波成分に集中していることが多い。また、人間の視覚上、低周波成分の劣化が目立ちやすいという特性がある。これらの特性を考慮し、量子化部16は、低周波成分のサブバンドにおける量子化ステップサイズが小さくなるように重み付けしてもよい。この重み付けにより、低域成分に比較的多くの情報量が割り当てられるため、画質が向上する。さて、量子化部16により生成された量子化係数は、後述するエントロピー符号化部18に入力される。
(エントロピー符号化部18)
エントロピー符号化部18は、量子化部16で生成された量子化係数を符号化して符号化コードストリームを生成する。エントロピー符号化部18は、符号化方式として、例えば、ハフマン符号化方式や算術符号化方式等を利用する。上記の通り、エントロピー符号化部18に入力される量子化係数は、ウェーブレット変換部14によりライン単位でウェーブレット変換が施され、量子化部16により量子化されたデータである。そこで、エントロピー符号化部18は、ウェーブレット変換で分割された帯域毎に独立してMライン単位(M≧1)で量子化係数を符号化する。
ライン数Mが少ない場合、エントロピー符号化部18が参照すべき情報が少なくて済むため、エントロピー符号化に用いるメモリ容量が低減される。一方、ライン数Mが多い場合、エントロピー符号化に用いる情報量が多くなるため、符号化効率が向上する。そのため、ライン数Mは、実施の態様に応じて適切な値に設定されることが望ましい。但し、ライン数Mは、各周波数成分に対応する画像信号のライン数よりも小さい値に設定される。エントロピー符号化部18により符号化された符号化コードストリームはレート制御部20に入力される。
(レート制御部20)
レート制御部20は、最終的に目標のビットレート又は圧縮率に適合させるために量子化部16を制御する。例えば、レート制御部20は、ビットレートを上げる場合に量子化ステップサイズが小さくなるように量子化部16を制御し、ビットレートを下げる場合に量子化ステップサイズが大きくなるように量子化部16を制御する。また、レート制御部20は、レート制御後の符号化コードストリームを外部に出力する。
以上、画像処理装置10の符号化処理部分について簡単に説明した。上記の通り、画像処理装置10は、ウェーブレット変換処理、及びエントロピー符号化処理を利用して画像信号を効率的に符号化する機能を有している。また、画像処理装置10は、ウェーブレット変換処理の前段で画像信号にDCレベルシフトを施すことにより、ウェーブレット変換処理、及びエントロピー符号化処理の効率を向上させている。
しかしながら、画像処理装置10の機能構成によると、画像信号の全画素に対してDCレベルシフトが施されるため、DCレベルシフトの処理に掛かる演算負荷が少なくないという問題がある。後述する本発明の実施形態は、この問題に対して解決手段を提供するものである。また、上記の説明において、ウェーブレット変換による係数分布の特性について説明した。特に、ウェーブレット変換により算出される係数のうち、高周波成分には直流成分が含まれないという特性を指摘している。後述する本発明の実施形態は、この特性を生かしてDCレベルシフトに掛かる演算負荷を低減させる方法を提案するものである。
(符号化処理の流れについて)
ここで、図8を参照しながら、上記の画像処理装置10による処理の流れについて簡単に説明する。図8は、画像処理装置10による一連の処理の流れを示す説明図である。
図8に示すように、まず、画像信号がDCレベルシフト部12に入力される。DCレベルシフト部12は、画像信号に含まれる全画素に対してDCレベルシフトを実行し、出力信号をウェーブレット変換部14に入力する(S12)。次いで、ウェーブレット変換部14は、DCレベルシフトされた画像信号に対してウェーブレット変換処理を実行し、算出した係数を量子化部16に入力する(S14)。
次いで、量子化部16は、レート制御部20により制御されつつ、入力された係数を量子化してエントロピー符号化部18に入力する(S16)。このとき、量子化部16は、レート制御部20により指定された量子化ステップサイズで係数を除算することにより量子化係数を算出する。
次いで、エントロピー符号化部18は、量子化係数をエントロピー符号化して符号化コードストリームを生成する(S18)。生成された符号化コードストリームは、レート制御部20に入力される。次いで、レート制御部20は、最終的に目標のビットレート又は圧縮率に適合するようにレート制御し、レート制御後の符号化コードストリームを外部に出力する。
上記の通り、画像処理装置10による符号化処理の中で、DCレベルシフト処理は、ウェーブレット変換処理の前段で画像信号の全画素に対して実行される。そのため、DCレベルシフト処理による演算負荷が大きくなってしまうという問題がある。そこで、後述する本発明の実施形態において、この問題に対する解決手段を提供する。
(画像処理装置30の機能構成:復号処理部分)
次に、図9を参照しながら、画像処理装置30の機能構成について説明する。図9は、画像処理装置30の機能構成の一例を示す説明図である。この画像処理装置30は、符号化された画像信号を復号する機能を有する。この機能は、例えば、図17に示す情報処理装置のハードウェア構成例の中で、ROM904、RAM906、記憶部920、又はリムーバブル記録媒体928等に記録されたプログラムにより実現されうる。具体的には、同プログラムがCPU902により実行されることで、種々の機能が実現される。
図9に示すように、画像処理装置30は、主に、エントロピー復号部32と、逆量子化部34と、ウェーブレット逆変換部36と、DCレベル逆シフト部38とにより構成される。
(エントロピー復号部32)
エントロピー復号部32は、入力された符号化コードストリームをエントロピー復号して量子化係数を算出する。エントロピー復号の方式としては、上記の画像処理装置10が有するエントロピー符号化部18の符号化方式に対応してハフマン復号方式や算術復号方式等が利用される。エントロピー復号部32により算出された量子化係数は、逆量子化部34に入力される。
(逆量子化部34)
逆量子化部34は、入力された量子化係数を逆量子化して元の係数を算出する。より具体的に述べると、逆量子化部34は、量子化係数に量子化ステップサイズを乗算することにより逆量子化して係数を算出する。この量子化ステップサイズは、例えば、符号化コードストリームのヘッダ部分等に記述されている。逆量子化部34により算出された係数は、ウェーブレット逆変換部36に入力される。
(ウェーブレット逆変換部36)
ウェーブレット逆変換部36は、入力された係数に基づいて元の画像信号(但し、DCレベルシフト後の信号)を復元する。このとき、ウェーブレット逆変換部36は、上記の画像処理装置10が有するウェーブレット変換部14と逆の工程を経て元の画像信号を生成する。例えば、ウェーブレット逆変換部36は、分割レベル毎に高周波成分と低周波成分とをアップサンプリングし、それぞれハイパス合成フィルタ、及びローパス合成フィルタを通過させてから加算する。この一連の処理を繰り返すことにより、元の画像信号が復元される。ウェーブレット逆変換部36により復元された元の画像信号は、DCレベル逆シフト部38に入力される。
より詳細に述べると次の通りである。ウェーブレット逆変換部36は、最低域のレベル以外の各レベルに対応する独立したバッファを有しており、各係数に対して垂直合成フィルタリングと水平合成フィルタリングを実行する。そして、ウェーブレット逆変換部36は、水平分析フィルタリングの結果得られた係数を各レベルに対応したバッファに記憶する。ウェーブレット逆変換部36は、各レベルに対応したバッファに記憶された係数が所定数溜まった時点で直ちに垂直合成フィルタリングと水平合成フィルタリングを実行する。この処理がレベル1まで繰り返して実行されることで元の画像信号が生成され、DC逆レベルシフト部38に入力される。
(DCレベル逆シフト部38)
DCレベル逆シフト部38は、入力された画像信号の全画素に対してレベルシフトを施す。つまり、DCレベル逆シフト部38は、上記の画像処理装置10が有するDCレベルシフト部12によりレベルシフトされた画像信号を元のレベルに戻す。従って、DCレベル逆シフト部38によりレベルシフトされるシフト量は、DCレベルシフト部12によるシフト量と同じであり、そのシフト方向(符号)が逆になる。DCレベル逆シフト部38によりレベルシフトされた画像信号は、外部に出力される。
以上、画像処理装置30の機能構成について簡単に説明した。上記の通り、画像処理装置30は、既に説明した画像処理装置10による符号化処理と逆の工程を経て符号化コードストリームから元の画像信号を復元する機能を有する。
(復号処理の流れについて)
次に、図10を参照しながら、上記の画像処理装置30による処理の流れについて簡単に説明する。図10は、画像処理装置30による一連の処理の流れを示す説明図である。
図10に示すように、まず、エントロピー復号部32に符号化コードストリームが入力される。そして、エントロピー復号部32により、エントロピー復号処理が実行され(S32)、符号化コードストリームから算出された量子化係数が逆量子化部34に入力される。次いで、逆量子化部34により、入力された量子化係数に逆量子化処理が施され(S34)、算出された係数がウェーブレット逆変換部36に入力される。次いで、ウェーブレット逆変換部36により、入力された係数に基づいてウェーブレット逆変換処理が実行され(S36)、元の画像信号が出力される。この出力信号は、DCレベル逆シフト部38に入力される。次いで、DCレベル逆シフト部38により、ウェーブレット逆変換部36の出力信号がレベルシフトされ(S38)、元の画像信号が復元される。
(課題の整理)
以上、本発明の実施形態に係る技術説明の前段として、画像信号の符号化/復号技術の概要について説明した。上記の通り、ウェーブレット変換処理、及びエントロピー符号化処理を利用して画像信号の符号化を実行する場合には、その前段において画像信号にDCレベルシフトを施すことで符号化効率を高めることができる。ところが、画像信号に含まれる全画素に対してDCレベルシフトを実行する場合、その処理にかかる演算量が少なくないという問題がある。
符号化技術において、符号化効率と符号化にかかる演算量との関係は、通常、トレードオフの関係にあることが多い。例えば、高い効率で符号化する符号化方式を採用すると、非常に演算量が大きいため、高性能な演算処理装置が必要になったり、符号化又は復号に非常に長い時間がかかってしまう。そのため、演算量を増加させずに少しでも符号化効率を高める技術が求められるのである。
DCレベルシフトは、エントロピー符号化処理に比べると演算負荷の小さい処理である。そのため、少ない演算量で後段の符号化処理を効率化できる点で非常に優れている。しかしながら、DCレベルシフト自体による演算量が0でないことは自明であり、その効果を維持しながら演算量を低減させることができれば、符号化処理における演算量の削減に寄与することができる。また、近年、画像信号の高解像度化が進んでいることを考え合わせると、画素数の増大に比例して演算量が増大するDCレベルシフトの特性を改善したいという要求も当然にある。
こうした課題に対し、以下で説明する実施形態は、解決手段を与えるものである。上記の説明の中で示唆を与えたが、当該実施形態は、ウェーブレット変換の特性を利用して、この解決手段を提供するものである。
<実施形態>
以下、本発明の一実施形態について詳細に説明する。本実施形態は、画像信号のウェーブレット変換を効率化するために利用されるDCレベルシフトの演算量を低減させる技術に関する。特に、ウェーブレット変換の後段において、画像信号の低周波成分に対応する係数にのみDCレベルシフトを施すことで、DCレベルシフトにかかる演算量を大幅に削減するものである。
[画像処理装置100の機能構成]
まず、図11を参照しながら、本実施形態に係る画像処理装置100の機能構成について説明する。図11は、本実施形態に係る画像処理装置100の機能構成の一例を示す説明図である。尚、以下の説明において、上記の画像処理装置10と実質的に同一の機能構成については詳細な説明を省略することがある。
図11に示すように、画像処理装置100は、主に、ウェーブレット変換部102と、低周波成分DCレベルシフト部104と、符号化処理部106とにより構成される。尚、低周波成分DCレベルシフト部104は、レベルシフト部の一例である。また、符号化処理部106は、符号化部の一例である。
(ウェーブレット変換部102)
ウェーブレット変換部102は、入力された画像信号に対してウェーブレット変換を施す。このウェーブレット変換部102の機能は、上記の画像処理装置10が有するウェーブレット変換部14と同じである。但し、入力される画像信号は、DCレベルシフトされてないものである点に注意されたい。ウェーブレット変換部102により算出された係数は、低周波成分DCレベルシフト部104に入力される。但し、低周波成分DCレベルシフト部104では低周波成分に対応する係数のみが利用されるため、高周波成分に対応する係数は、後述する符号化処理部106に直接入力されるように構成されていてもよい。
尚、ウェーブレット変換部102によるウェーブレット変換には、例えば、ドベシィ(
Daubechies)のウェーブレットやハール(Haar)のウェーブレット等が用いられる。より具体的には、例えば、ドベシィの直交フィルタである実数型9/7フィルタや整数型5/3フィルタが用いられる。これらのフィルタによる直流成分の利得は、低域通過フィルタにおいて1であり、広域通過フィルタにおいて0である。もちろん、本実施形態に係るウェーブレット変換には、低域通過フィルタの利得がg(≠1)のフィルタを用いることもできる。この場合、後述する低周波成分DCレベルシフト部104のシフト量が利得gに依存した値になる。
(低周波成分DCレベルシフト部104)
低周波成分DCレベルシフト部104は、ウェーブレット変換部102により算出された係数のうち、画像信号の最低周波成分に対応する係数に対してDCレベルシフトを施す。このとき、低周波成分DCレベルシフト部104は、高周波成分に対応する係数に対してDCレベルシフトを施さない。このように、DCレベルシフトが施される範囲が制限されることで、画像信号の全画素に対してDCレベルシフトを施す場合に比べて大きく演算量を低減させることができる。低周波成分DCレベルシフト部104によりレベルシフトされた係数は、符号化処理部106に入力される。
尚、低周波成分DCレベルシフト部104によるシフト量は、最低周波成分に対応する係数の分布中心が0になるように設定される。つまり、最低周波成分に対応する係数のダイナミックレンジが低減するようにレベルシフトされる。例えば、ウェーブレット変換に用いる低域通過フィルタの利得がG(G≧1)、分割レベルがN(Nは自然数)、画像信号の階調数がLの場合、低周波成分DCレベルシフト部104は、係数からシフト量G(2*N)*L/2を減算することでレベルシフトする。ドベシィの直交フィルタのようにG=1の場合、シフト量はL/2になる。尚、低周波成分DCレベルシフト部104は、低周波成分に対応する全係数の平均値をシフト量に設定することもできる。この方法によっても、係数分布の中心を0に近づけることが可能になり、後段の符号化処理における効率を高めることができる。以下、G=1、L=256の場合を考える。但し、この場合、後段の符号化処理において、出力される符号語に平均値の情報を付加する必要がある。なお、ここで付加される平均値の情報は、符号量全体のデータ量と比較して非常に小さいものである。
(ウェーブレット変換後の係数分布について)
ここで、図12、及び図13を参照しながら、ウェーブレット変換後の係数分布について簡単に説明する。図12は、ウェーブレット変換して得られた係数の低周波成分に関する係数分布を示す説明図である。図13は、ウェーブレット変換して得られた係数の高周波成分に関する係数分布を示す説明図である。但し、ここに示した係数分布は、説明のために模式的に示したものであり、正確な係数分布を示すものではない。
既に述べた通り、ウェーブレット変換後の係数分布は、低周波成分(図12)において原画像の分布に近似し、高周波成分(図13)において0を中心とするラプラス分布になる。原画像の画像信号に含まれる直流成分は、分析フィルタリングの過程において、低域通過フィルタを通過し、高域通過フィルタにより除去される。つまり、低域通過フィルタにおける直流成分の利得が1であり、高域通過フィルタにおける直流成分の利得が0なのである。従って、高周波成分に対応するウェーブレット係数には直流成分が含まれず、スケーリング係数に対応する最低周波数成分に直流成分が含まれる。
ここで図12を参照する。図12に示す係数分布は、輝度値128を中心に広がった分布を示している。そこで、低周波成分DCレベルシフト部104は、分布中心を0に近づけるため、一様に128を減算して係数をレベルシフトする。次に、図13を参照する。図13に示す係数分布は、DCレベルシフトをしていないにも関わらず、輝度値0を分布中心として広がったラプラス分布を示している。従って、高周波成分にはDCレベルシフトを施す必要がないのである。
繰り返しになるが、ウェーブレット変換により画像信号が低周波成分と高周波成分とに分解される際、高周波成分には直流成分が含まれない。ウェーブレット変換は、入力信号をスケーリング関数と複数のウェーブレット成分とに分解する処理である。周知の通り、最低周波数成分の係数に対応するスケーリング関数と、高周波成分に対応する複数のウェーブレット成分との一次結合により入力信号が表現される。そのため、直流成分を含まないウェーブレット成分の一次結合は、当然に直流成分を含まない。従って、入力信号に直流成分が含まれる場合、最低周波数成分の係数に対応するスケーリング関数に直流成分が含まれることになる。ここで述べた事実から、入力信号にDCレベルシフトを施したとしても、そのレベルシフトの影響は、高周波成分には発生しないということが分かる。
上記の議論を踏まえると、低周波成分DCレベルシフト部104により最低周波数成分の係数のみがDCレベルシフトされた結果が、画像信号の全画素にレベルシフトした結果と一致することが理解されるであろう。つまり、画像処理装置100による出力結果と、上記の画像処理装置10による出力結果とは、後段の符号化処理が同じであれば一致することを意味している。従って、後段の符号化処理における符号化効率は全く低下しない。しかも、本実施形態に係るDCレベルシフト処理は、ウェーブレット変換の分割段数がnの場合、全画素にDCレベルシフトを施す場合に比べて1/4にまで削減することができるのである。
(符号化処理部106)
再び図11を参照する。符号化処理部106は、低周波成分DCレベルシフト部104、及びウェーブレット変換部102から入力された係数を符号化する。符号化処理部106は、上記の画像処理装置10が有する符号化ブロックに相当する。つまり、符号化処理部106は、上記の画像処理装置10を構成する量子化部16、エントロピー符号化部18、及びレート制御部20の機能を有する。符号化処理部106により符号化された係数は、符号化コードストリームとして外部に出力される。
以上、本実施形態に係る画像処理装置100の機能構成について説明した。上記の通り、画像処理装置100は、ウェーブレット変換後に得られる最低周波数成分の係数に対してのみDCレベルシフトを施す。このような構成によると、DCレベルシフト処理にかかる演算量を低減させることができる。また、画像処理装置100による符号化効率は、画像信号の全画素に対してDCレベルシフトした場合と全く同じになる。結果として、上記の画像処理装置100の構成を適用することにより、符号化効率を低減させずに演算量を削減することが可能になるのである。
[符号化方法]
ここで、図14を参照しながら、本実施形態に係る符号化処理方法について説明する。図14は、本実施形態に係る符号化処理方法の流れを示す説明図である。
図14に示すように、まず、ウェーブレット変換部102により、画像信号に対してウェーブレット変換処理が施される(S102)。ウェーブレット変換された画像信号のウェーブレット係数のうち、最低周波数成分が低周波成分DCレベルシフト部104に入力され、その他の高周波成分が符号化処理部106に入力される。次いで、低周波成分DCレベルシフト部104により、最低周波数成分の係数に対してDCレベルシフトが施される(S104)。DCレベルシフトされた係数は、符号化処理部106に入力される。次いで、符号化処理部106により、ウェーブレット変換部102、及び低周波成分DCレベルシフト部104から出力された係数が符号化される(S106)。
以上、本実施形態に係る符号化処理方法について説明した。上記の通り、この符号化処理方法は、DCレベルシフトをウェーブレット変換の後段において実施すると共に、最低周波数成分のみをレベルシフトするように構成されている。その結果、DCレベルシフトにかかる演算負荷が低減される。また、ウェーブレット変換の前段で全画素をDCレベルシフトする場合と比較しても、後段の符号化効率が変化しない。上記の画像処理装置100による符号化処理方法は、復号処理に対しても応用できる。そこで、この技術を復号処理に適用した画像処理装置の機能構成、及び処理の流れについて以下で説明する。
[画像処理装置300の機能構成]
次に、図15を参照しながら、本実施形態に係る画像処理装置300の機能構成について説明する。図15は、本実施形態に係る画像処理装置300の機能構成の一例を示す説明図である。この画像処理装置300は、符号化された画像信号を復号する機能を有する。この機能は、例えば、図17に示す情報処理装置のハードウェア構成例の中で、ROM904、RAM906、記憶部920、又はリムーバブル記録媒体928等に記録されたプログラムにより実現されうる。具体的には、同プログラムがCPU902により実行されることで、種々の機能が実現される。
図15に示すように、画像処理装置300は、主に、エントロピー復号部302と、逆量子化部304と、低周波成分DCレベル逆シフト部306と、ウェーブレット逆変換部308とにより構成される。
(エントロピー復号部302)
エントロピー復号部302は、入力された符号化コードストリームをエントロピー復号して量子化係数を算出する。エントロピー復号の方式としては、例えば、ハフマン復号方式や算術復号方式等が利用される。エントロピー復号部302により算出された量子化係数は、逆量子化部304に入力される。
(逆量子化部304)
逆量子化部304は、入力された量子化係数を逆量子化して元の係数を算出する。より具体的に述べると、逆量子化部304は、量子化係数に量子化ステップサイズを乗算することにより逆量子化して係数を算出する。この量子化ステップサイズは、例えば、符号化コードストリームのヘッダ部分等に記述されている。逆量子化部304により算出された係数は、低周波成分DCレベルシフト部306に入力される。
(低周波成分DCレベル逆シフト部306)
低周波成分DCレベル逆シフト部306は、入力された係数のうち、最低周波数成分の係数に対して逆方向にDCレベルシフトを施す。この逆方向とは、上記の画像処理装置100等により施されたDCレベルシフトと逆方向にレベルシフトすることを意味する。
従って、低周波成分DCレベル逆シフト部306によりレベルシフトされるシフト量は、例えば、画像処理装置100の低周波成分DCレベルシフト部104によるシフト量と同じである。但し、上記の画像処理装置10が有するDCレベルシフト部12から出力される信号のように、全画素に対して一様にレベルシフトが施された信号に対しても、低周波成分DCレベル逆シフト部306は、そのレベルシフトのシフト量だけ逆方向にレベルシフトする。低周波成分DCレベル逆シフト部306から出力された係数は、ウェーブレット逆変換部308に入力される。
(ウェーブレット逆変換部308)
ウェーブレット逆変換部308は、入力された係数に基づいて元の画像信号を復元する。例えば、ウェーブレット逆変換部308は、分割レベル毎に高周波成分と低周波成分とをアップサンプリングし、それぞれハイパス合成フィルタ、及びローパス合成フィルタを通過させてから加算する。この一連の処理を繰り返すことにより、元の画像信号が復元される。ウェーブレット逆変換部308により復元された元の画像信号は、外部に出力される。
以上、画像処理装置300の機能構成について簡単に説明した。上記の通り、画像処理装置300は、既に説明した画像処理装置100による符号化処理と逆の工程を経て符号化コードストリームから元の画像信号を復元する機能を有する。上記の通り、この工程の中で実行されるDCレベル逆シフトの処理は、最低周波数成分の係数に対してのみ実行される。そのため、DCレベル逆シフトの処理に掛かる演算量が低減されている。
[復号方法]
次に、図16を参照しながら、本実施形態に係る画像処理装置300による処理の流れについて簡単に説明する。図16は、本実施形態に係る画像処理装置300による一連の処理の流れを示す説明図である。
図16に示すように、まず、エントロピー復号部302に符号化コードストリームが入力される。そして、エントロピー復号部302により、エントロピー復号処理が実行され(S302)、符号化コードストリームから算出された量子化係数が逆量子化部304に入力される。次いで、逆量子化部304により、入力された量子化係数に逆量子化処理が施され(S304)、算出された係数が低周波成分DCレベル逆シフト部306に入力される。
次いで、低周波成分DCレベル逆シフト部306により、最低周波数成分の係数がレベルシフトされ(S306)、ウェーブレット逆変換部308に入力される。次いで、ウェーブレット逆変換部308により、入力された係数に基づいてウェーブレット逆変換処理が実行され(S308)、元の画像信号が復元される。
以上、本実施形態に係る復号方法について説明した。上記の通り、本実施形態に係る復号処理においては、ウェーブレット逆変換処理の前段においてDCレベル逆シフトが実行される。その際、最低周波数成分の係数にのみDCレベル逆シフトが施される。そのため、全画素に対してDCレベル逆シフト処理を施す方法に比べ、大きく演算量を削減することが可能になる。
尚、上記の符号化処理は、後述する情報処理装置が有するハードウェア資源により実現されうる。また、この技術は、後述するデジタルトライアックスシステムや無線伝送システムにも適用できる。
[ハードウェア構成(情報処理装置)]
上記装置が有する各構成要素の機能は、例えば、図17に示すハードウェア構成を有する情報処理装置により、上記の機能を実現するためのコンピュータプログラムを用いて実現することが可能である。図17は、上記装置の各構成要素が有する機能を実現することが可能な情報処理装置のハードウェア構成を示す説明図である。この情報処理装置の形態は任意であり、例えば、パーソナルコンピュータ、携帯電話、PHS(Personal Handy−phone System)、PDA(Personal Digital Assistant)等の携帯情報端末、ゲーム機、又は各種の情報家電等の形態がこれに含まれる。
図17に示すように、前記の情報処理装置は、主に、CPU(Central Processing Unit)902と、ROM(Read Only Memory)904と、RAM(Random Access Memory)906と、ホストバス908と、ブリッジ910と、外部バス912と、インターフェース914と、入力部916と、出力部918と、記憶部920と、ドライブ922と、接続ポート924と、通信部926とにより構成される。
CPU902は、例えば、演算処理装置又は制御装置として機能し、ROM904、RAM906、記憶部920、又はリムーバブル記録媒体928に記録された各種プログラムに基づいて各構成要素の動作全般又はその一部を制御する。ROM904は、例えば、CPU902に読み込まれるプログラムや演算に用いるデータ等を格納する。RAM906は、例えば、CPU902に読み込まれるプログラムや、そのプログラムを実行する際に適宜変化する各種パラメータ等を一時的又は永続的に格納する。これらの構成要素は、例えば、高速なデータ伝送が可能なホストバス908によって相互に接続されている。また、ホストバス908は、例えば、ブリッジ910を介して比較的データ伝送速度が低速な外部バス912に接続されている。
入力部916は、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ、及びレバー等の操作手段である。また、入力部916は、赤外線やその他の電波を利用して制御信号を送信することが可能なリモートコントロール手段(所謂、リモコン)であってもよい。なお、入力部916は、上記の操作手段を用いて入力された情報を入力信号としてCPU902に伝送するための入力制御回路等により構成されている。
出力部918は、例えば、CRT(Cathode Ray Tube)、LCD(Liquid Crystal Display)、PDP(Plasma DisplayPanel)、又はELD(Electro−Luminescence Display)等のディスプレイ装置、スピーカ、ヘッドホン等のオーディオ出力装置、プリンタ、携帯電話、又はファクシミリ等、取得した情報を利用者に対して視覚的又は聴覚的に通知することが可能な装置である。
記憶部920は、各種のデータを格納するための装置であり、例えば、ハードディスクドライブ(HDD;Hard Disk Drive)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、又は光磁気記憶デバイス等により構成される。
ドライブ922は、例えば、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体928に記録された情報を読み出し、又はリムーバブル記録媒体928に情報を書き込む装置である。リムーバブル記録媒体928は、例えば、DVDメディア、Blu−rayメディア、HD−DVDメディア、コンパクトフラッシュ(登録商標)(CF;CompactFlash)、メモリースティック、又はSDメモリカード(Secure Digital memory card)等である。もちろん、リムーバブル記録媒体928は、例えば、非接触型ICチップを搭載したICカード(Integrated Circuit Card)等であってもよい。
接続ポート924は、例えば、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)、RS−232Cポート、又は光オーディオ端子等のような外部接続機器930を接続するためのポートである。外部接続機器930は、例えば、プリンタ、携帯音楽プレーヤ、デジタルカメラ、デジタルビデオカメラ、又はICレコーダ等である。
通信部926は、ネットワーク932に接続するための通信デバイスであり、例えば、有線又は無線LAN(Local Area Network)、Bluetooth(登録商標)、又はWUSB(Wireless USB)用の通信カード、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、又は各種通信用のモデム等である。また、通信部926に接続されるネットワーク932は、有線又は無線により接続されたネットワークにより構成され、例えば、インターネット、家庭内LAN、赤外線通信、可視光通信、放送、又は衛星通信等である。
[ハードウェア構成例(デジタルトライアックスシステム)]
上記装置が有する各機能構成は、例えば、図18に示すデジタルトライアックスシステムに含まれるハードウェア構成により実現することも可能である。図18は、デジタルトライアックスシステムのハードウェア構成の一例を示す説明図である。以下の説明の中では、デジタルトライアックスシステムのことを単にトライアックスシステムと呼ぶ。
(概要)
トライアックスシステムは、テレビジョン放送局や制作スタジオにおいて、スタジオ収録や中継などの際に利用されるシステムである。また、トライアックスシステムは、ビデオカメラと、カメラコントロールユニットやスイッチャとを接続する1本の同軸ケーブルにより、映像信号、音声信号、同期信号等の信号を重畳させて送信することができる。近年、放送局内で用いるトライアックスシステムのデジタル化が進んでいる。そのため、トライアックスシステム内で伝送されるデジタル信号にも符号化技術が適用されうる。
古いトライアックスシステムの場合、トライアックスケーブルを介して伝送されるデジタルビデオ信号は圧縮されていない。その理由は、信号の遅延時間に対する放送局の要求スペックが厳しいためである。この要求スペックは、例えば、撮像からモニタ出力までの遅延時間が1フィールド(16.67msec)以内といったレベルになる。こうしたトライアックスシステムにデジタル信号の符号化方式を適用させるためにも、少しでも符号化処理にかかる演算量を低減させ、処理時間を短くすることが求められているのである。
(構成)
図18に示すように、トライアックスシステムは、主に、ビデオカメラ部702と、モニタ704と、音声入出力部706と、送信ユニット708と、カメラ制御ユニット710と、トライアックスケーブル712とにより構成される。
送信ユニット708とカメラ制御ユニット710とは、トライアックスケーブル712(同軸ケーブル)を介して接続される。例えば、実際に放映されたり、素材として用いられるデジタルビデオ信号やデジタルオーディオ信号等の信号(本線信号)がトライアックスケーブル712を介して送出される。また、インカム用のオーディオ信号やリターン用のデジタルビデオ信号等がトライアックスケーブル712を介して送出される。
ビデオカメラ部702は、レンズ、フォーカス機構、ズーム機構、アイリス調整機構等により構成される光学系を有する。また、ビデオカメラ部702は、CCD(Charge Coupled Device)等の撮像素子を備えており、光学系を介して入射された被写体からの光を撮像素子で受光する。この撮像素子は、受光した光を光電変換により電気信号に変換する。
また、ビデオカメラ部702は、光電変換により得られた電気信号に対して所定の信号処理を施してベースバンドのデジタルビデオ信号を出力する。このデジタルビデオ信号は、例えば、HD−SDI(High Definition−Serial Data Interface)のフォーマットにマッピングされる。また、ビデオカメラ部702には、モニタ704と、音声入出力部706(インカム)が接続される。
(送信ユニット708)
送信ユニット708は、ビデオ信号符号化部732と、ビデオ信号復号部744と、デジタル変調部734と、デジタル復調部742と、アンプ736、740と、ビデオ分離/合成部738とを含む。
送信ユニット708には、例えば、HD−SDIのフォーマットにマッピングされたベースバンドのデジタルビデオ信号がビデオカメラ部702から供給される。このデジタルビデオ信号は、ビデオ信号符号化部732により圧縮符号化されて、符号化コードストリームとしてデジタル変調部734に入力される。デジタル変調部734は、入力された符号化ストリームをトライアックスケーブル712による伝送に適した形式に変調する。
デジタル変調部734により出力された変調信号は、アンプ736を介して増幅され、ビデオ分離/合成部738に入力される。ビデオ分離/合成部738は、トライアックスケーブル712を介して入力された変調信号をカメラ制御ユニット710に伝送する。
一方、カメラ制御ユニット710から出力された信号は、トライアックスケーブル712を介して送信ユニット708に伝送される。この信号は、ビデオ分離/合成部738に入力され、デジタルビデオ信号とその他の信号とに分離される。但し、カメラ制御ユニット710にて変調された変調信号の状態である。このデジタルビデオ信号は、アンプ740を介してデジタル復調部742に入力される。さらに、このデジタルビデオ信号は、デジタル復調部742により復調され、符号化コードストリームに復元される。
この符号化コードストリームは、ビデオ信号復号部744に入力される。ビデオ信号復号部744では、符号化コードストリームが圧縮符号化された状態から伸長されて元の信号に復号される。この復号されたデジタルビデオ信号は、HD−SDIのフォーマットにマッピングされて出力され、リターン用のデジタルビデオ信号としてビデオカメラ部702に入力される。このリターン用のデジタルビデオ信号は、ビデオカメラ部702に接続されるモニタ704に出力される。
(カメラ制御ユニット710)
さて、カメラ制御ユニット710は、ビデオ分離/合成部752と、アンプ754、768と、フロントエンド(ゲイン制御部766、フィルタ756)と、デジタル復調部758と、デジタル変調部764と、ビデオ信号復号部760と、ビデオ信号符号化部762とを含む。
上記の通り、送信ユニット708から出力された信号は、トライアックスケーブル712を介してカメラ制御ユニット710に伝送される。この信号は、まず、ビデオ分離/合成部752に入力される。ビデオ分離/合成部752は、アンプ754、フロントエンドを介してデジタル復調部758に信号を伝送する。但し、フロントエンドにおいて、ゲイン制御部766により入力信号のゲインが調整され、フィルタ756により入力信号に対して所定のフィルタ処理が施される。
デジタル復調部758は、送信ユニット708側で変調された信号を復調し、符号化コードストリームを復元する。この符号化コードストリームは、ビデオ信号復号部760によりベースバンドのデジタルビデオ信号に復号される。この復号されたデジタルビデオ信号は、HD−SDIのフォーマットにマッピングされて出力され、本線信号として外部に出力される。
ところで、外部からは、カメラ制御ユニット710に対してリターン用のデジタルビデオ信号やデジタルオーディオ信号が入力される。リターン用のデジタルビデオ信号は、ビデオ信号符号化部762により圧縮符号化されてデジタル変調部764に入力される。デジタル変調部764は、入力された符号化コードストリームをトライアックスケーブル712による伝送方式に適した形式で変調する。
デジタル変調部764から出力された信号は、フロントエンド、及びアンプ768を介してビデオ分離/合成部752に入力される。ビデオ分離/合成部752は、この信号を他の信号と多重化してトライアックスケーブル712に送出する。
(対応関係)
図18に示すトライアックスシステムの中で、ビデオ信号符号化部732、762は、上記の画像処理装置100に対応する。また、ビデオ信号復号部744、760は、上記の画像処理装置300に対応する。例えば、送信ユニット708の中で、ビデオ信号符号化部732は、デジタルビデオ信号に対してウェーブレット変換、及びエントロピー符号化等の処理を施して符号化コードストリームを出力する。同様に、カメラ制御ユニット710の中で、ビデオ信号符号化部762は、外部から入力されたリターン用のデジタルビデオ信号に対し、ウェーブレット変換やエントロピー符号化を施して符号化コードストリームを出力する。そして、これらの符号化コードストリームは、トライアックスケーブル712を介して伝送される。
[ハードウェア構成例(無線伝送システム)]
上記装置が有する各機能構成は、例えば、図19に示す無線伝送システムに含まれるハードウェア構成により実現することも可能である。図19は、無線伝送システムのハードウェア構成の一例を示す説明図である。
図19に示すように、無線伝送システムは、主に、ビデオカメラ部802と、送信ユニット804と、受信ユニット806とにより構成される。尚、説明の都合上、ビデオ信号は、ビデオカメラ又は送信ユニット804から受信ユニット806に一方向的に送信されるものとする。また、オーディオ信号及びその他の信号は、送信ユニット804と受信ユニット806との間で双方向に通信できるものとする。
送信ユニット804は、例えば、ビデオカメラ部802を有するビデオカメラ装置(非図示)に内蔵されるか、或いは、ビデオカメラ部802を有するビデオカメラ装置に対する外部装置としてビデオカメラ装置に接続される。
ビデオカメラ部802は、例えば、所定の光学系と、CCD等の撮像素子と、撮像素子の出力信号からデジタルビデオ信号を生成する信号処理部とを有する。例えば、ビデオカメラ部802は、HD−SDI等の所定のフォーマットにデジタルビデオ信号をマッピングして出力する。この出力信号は、送信ユニット804に入力される。
(送信ユニット804)
送信ユニット804は、ビデオ信号符号化部832と、デジタル変調部834と、無線通信部836とを含む。このビデオ信号符号化部832は、上記の画像処理装置100に対応する。つまり、ビデオカメラ部802から入力されたデジタルビデオ信号は、ビデオ信号符号化部832においてウェーブレット変換、及びエントロピー符号化が施され、符号化コードストリームとしてデジタル変調部834に入力される。
デジタル変調部834は、入力された符号化コードストリームを無線通信に適した形式の変調信号にデジタル変調して無線通信部836に入力する。無線通信部836は、アンテナ838を介して変調信号を受信ユニット806に無線伝送する。尚、無線通信部836は、受信ユニット806から受信した自動再送要求(ARQ:Auto Repeat Request)をデジタル変調部834に通知してデータの再送を要求する機能を有している。アンテナ838から送信された電波は、受信ユニット806に設けられたアンテナ852を介して無線通信部854により受信される。
(受信ユニット806)
受信ユニット806は、無線通信部854と、フロントエンド(ゲイン制御部856、フィルタ858)と、デジタル復調部860と、ビデオ信号復号部862とを含む。このビデオ信号復号部862は、上記の画像処理装置300に対応する。
無線通信部854は、無線伝送されたデジタル変調信号をフロントエンドに入力する。フロントエンドは、ゲイン制御部856により、デジタル変調信号にゲイン制御を施してデジタル復調部860に入力する。デジタル復調部860は、入力されたデジタル変調信号を復調して符号化コードストリームを復元する。
デジタル復調部860で復元された符号化コードストリームは、ビデオ信号復号部862に入力される。ビデオ信号復号部862では、符号化コードストリームが復号され、ベースバンドのデジタルビデオ信号が生成される。このデジタルビデオ信号は、例えば、HD−SDIのフォーマットにマッピングされて出力される。尚、デジタルオーディオ信号やその他の信号についても同様である。
尚、フロントエンドは、無線通信部854により受信された変調信号に対し、所定の方法でエラー検出を実施する。そして、誤りが検出されると、フロントエンドによりARQが出力される。このARQは、無線通信部854によりアンテナ852から送信される。
図19の例においては、送信ユニット804と受信ユニット806との間の通信経路を無線としているが、本実施形態の適用範囲はこれに限定されない。例えば、送信ユニット804と受信ユニット806との間の通信経路は、LAN(Local Area Network)等で接続された有線ネットワークであってもよい。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明は係る例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
画像処理装置が有する符号化処理部分の機能構成を示す説明図である。 DCレベルシフト前の画像信号(係数)の分布を示す説明図である。 DCレベルシフト後の画像信号(係数)の分布を示す説明図である。 1次元ウェーブレット変換のフィルタバンク構成例を示す説明図である。 2次元ウェーブレット変換処理を模式的に示した説明図である。 低周波成分に対応するウェーブレット係数分布を示す説明図である。 高周波成分に対応するウェーブレット係数分布を示す説明図である。 ウェーブレット変換を用いた符号化処理の流れを示す説明図である。 画像処理装置が有する復号処理部分の機能構成を示す説明図である。 ウェーブレット変換を用いた復号処理の流れを示す説明図である。 本発明の一実施形態に係る画像処理装置の機能構成を示す説明図である。 低周波成分に対応するウェーブレット係数分布を示す説明図である。 高周波成分に対応するウェーブレット係数分布を示す説明図である。 本実施形態に係る符号化処理の流れを示す説明図である。 本実施形態に係る画像処理装置の機能構成を示す説明図である。 本実施形態に係る復号処理の流れを示す説明図である。 本実施形態に係る情報処理装置のハードウェア構成を示す説明図である。 本実施形態に係る技術を適用可能なデジタルトライアックスシステムの構成例を示す説明図である。 本実施形態に係る技術を適用可能な無線伝送システムの構成例を示す説明図である。
符号の説明
100 画像処理装置
102 ウェーブレット変換部
104 低周波成分DCレベルシフト部
106 符号化処理部
300 画像処理装置
302 エントロピー復号部
304 逆量子化部
306 低周波成分DCレベル逆シフト部
308 ウェーブレット逆変換部

Claims (6)

  1. 画像信号にウェーブレット変換を施すウェーブレット変換部と、
    前記ウェーブレット変換部から出力された最低周波数成分の係数に対し、ダイナミックレンジが低減するように当該係数に対してレベルシフトを施すレベルシフト部と、
    前記レベルシフト部から出力された係数、及び前記ウェーブレット変換部から出力された前記最低周波数成分以外の係数を符号化する符号化部と、
    を備える、画像処理装置。
  2. 前記画像信号の階調数がL、前記ウェーブレット変換に含まれる低域通過フィルタの利得がg、かつ、当該ウェーブレット変換のレベルがn(nは自然数)の場合、前記レベルシフト部は、前記係数からg(2*n)*L/2を減算することで当該係数をレベルシフトさせる、請求項1に記載の画像処理装置。
  3. 前記レベルシフト部は、前記最低周波数成分の全係数に対する平均値を前記各係数から減算することで当該各係数をレベルシフトさせ、
    前記符号化部は、出力する符号語に前記平均値を加える、請求項1に記載の画像処理装置。
  4. 画像信号にウェーブレット変換が施される変換ステップと、
    前記変換ステップで得られた最低周波数成分の係数に対し、ダイナミックレンジが低減するように当該係数に対してレベルシフトが施されるレベルシフトステップと、
    前記レベルシフトステップで得られた係数、及び前記変換ステップで得られた前記最低周波数成分以外の係数が符号化される符号化ステップと、
    を含む、画像処理方法。
  5. ウェーブレット変換、及びレベルシフトが施された上で符号化された画像信号を復号してウェーブレット係数を出力する復号部と、
    前記復号部から出力されたウェーブレット係数のうち、最低周波数成分のウェーブレット係数に対して前記レベルシフトとは逆方向にレベルシフトを施す逆レベルシフト部と、
    前記最低周波数成分以外のウェーブレット係数、及び前記レベルシフト部により逆方向にレベルシフトされたウェーブレット係数に対して逆ウェーブレット変換を施す逆ウェーブレット変換部と、
    を備える、画像処理装置。
  6. ウェーブレット変換、及びレベルシフトが施された上で符号化された画像信号が復号されてウェーブレット係数が出力される復号ステップと、
    前記復号ステップで出力されたウェーブレット係数のうち、最低周波数成分のウェーブレット係数に対して前記レベルシフトとは逆方向にレベルシフトが施される逆レベルシフトステップと、
    前記最低周波数成分以外のウェーブレット係数、及び前記レベルシフトステップで逆方向にレベルシフトされたウェーブレット係数に対して逆ウェーブレット変換が施される逆ウェーブレット変換ステップと、
    を含む、画像処理方法。
JP2008127334A 2008-05-14 2008-05-14 画像処理装置、及び画像処理方法 Expired - Fee Related JP5024178B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008127334A JP5024178B2 (ja) 2008-05-14 2008-05-14 画像処理装置、及び画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008127334A JP5024178B2 (ja) 2008-05-14 2008-05-14 画像処理装置、及び画像処理方法

Publications (2)

Publication Number Publication Date
JP2009278355A JP2009278355A (ja) 2009-11-26
JP5024178B2 true JP5024178B2 (ja) 2012-09-12

Family

ID=41443370

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008127334A Expired - Fee Related JP5024178B2 (ja) 2008-05-14 2008-05-14 画像処理装置、及び画像処理方法

Country Status (1)

Country Link
JP (1) JP5024178B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7156792B2 (ja) 2015-03-05 2022-10-19 ワット フュエル セル コーポレーション 製造方法及び動作方法を含むアフターバーナ

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5640371B2 (ja) * 2009-12-18 2014-12-17 ソニー株式会社 カメラシステム及び画像処理方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1013831A (ja) * 1996-06-18 1998-01-16 Oki Electric Ind Co Ltd 領域変換装置
JP2003264704A (ja) * 2002-03-11 2003-09-19 Victor Co Of Japan Ltd 画像復号化装置、画像復号化プログラム、画像符号化装置、及び画像符号化プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7156792B2 (ja) 2015-03-05 2022-10-19 ワット フュエル セル コーポレーション 製造方法及び動作方法を含むアフターバーナ

Also Published As

Publication number Publication date
JP2009278355A (ja) 2009-11-26

Similar Documents

Publication Publication Date Title
JP4900720B2 (ja) 符号化装置および方法、並びに、復号装置および方法
US8254707B2 (en) Encoding device, encoding method, encoding program, decoding device, decoding method, and decoding program in interlace scanning
CN109644269B (zh) 图像处理设备、图像处理方法和存储介质
JP4254867B2 (ja) 情報処理装置および方法、プログラム、並びに記録媒体
JP4182446B2 (ja) 情報処理装置および方法、プログラム、並びに記録媒体
JP4148462B2 (ja) 画像処理装置、電子カメラ装置及び画像処理方法
JP4254866B2 (ja) 情報処理装置および方法、プログラム、並びに記録媒体
JP4656190B2 (ja) 情報処理装置および方法
US8031960B2 (en) Wavelet transformation device and method, wavelet inverse transformation device and method, program, and recording medium
KR100512210B1 (ko) 화상 복호 방법 및 장치
JPWO2008093698A1 (ja) 情報処理装置および方法
JP4488027B2 (ja) 情報処理装置および方法、並びに、情報処理システム
JP4067281B2 (ja) 画像処理方法とその方法を利用可能な画像符号化装置および画像復号装置
US7373006B2 (en) Image processing apparatus
CN104641649A (zh) 图像处理装置和方法
JP3880088B2 (ja) 符号化装置及び復号化装置
JP5024178B2 (ja) 画像処理装置、及び画像処理方法
US20100172419A1 (en) Systems and methods for compression, transmission and decompression of video codecs
KR100803132B1 (ko) 웨이브렛 변환을 이용한 엠펙 노이즈 제거 방법 및 장치
JP6416255B2 (ja) 画像処理システム、及び、画像処理方法
US20150281737A1 (en) Image processing device and image processing method
JP2000209592A (ja) 画像伝送装置と方法及びシステムとその制御方法
KR100619685B1 (ko) 웨이브릿 부호화를 이용한 화상통신기기의 전송속도조절방법과 장치
JP4231386B2 (ja) 解像度スケーラブル復号化方法及び装置
JP2008187571A (ja) 情報処理装置および方法、並びにプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110509

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120327

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120522

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120604

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150629

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees