JP4697519B2 - 符号化装置および方法、復号装置および方法、画像処理システム、記録媒体、並びにプログラム - Google Patents

符号化装置および方法、復号装置および方法、画像処理システム、記録媒体、並びにプログラム Download PDF

Info

Publication number
JP4697519B2
JP4697519B2 JP2005029776A JP2005029776A JP4697519B2 JP 4697519 B2 JP4697519 B2 JP 4697519B2 JP 2005029776 A JP2005029776 A JP 2005029776A JP 2005029776 A JP2005029776 A JP 2005029776A JP 4697519 B2 JP4697519 B2 JP 4697519B2
Authority
JP
Japan
Prior art keywords
image
encoding
block
decoding
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005029776A
Other languages
English (en)
Other versions
JP2006217426A (ja
JP2006217426A5 (ja
Inventor
哲二郎 近藤
智宏 安岡
哲也 村上
左近 山元
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005029776A priority Critical patent/JP4697519B2/ja
Publication of JP2006217426A publication Critical patent/JP2006217426A/ja
Publication of JP2006217426A5 publication Critical patent/JP2006217426A5/ja
Application granted granted Critical
Publication of JP4697519B2 publication Critical patent/JP4697519B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Television Signal Processing For Recording (AREA)

Description

本発明は、符号化装置および方法、復号装置および方法、画像処理システム、記録媒体、並びにプログラムに関し、特に、アナログ信号を利用した不正コピーを防止する符号化装置および方法、復号装置および方法、画像処理システム、記録媒体、並びにプログラムに関する。
近年、テレビ番組などのコンテンツをデジタル信号でHD(ハードディスク)やDVD(Digital Versatile Disk)などの記録媒体に記録するデジタル記録再生装置が急速に普及してきている。
HDやDVDを記録媒体とするデジタル記録再生装置の普及により、視聴者であるユーザが、テレビ番組などを高品質に記録媒体に記録することが容易にできるようになった。
一方で、デジタル記録再生装置の普及により、DVDなどで販売されている、テレビ番組や映画などのコンテンツを不正にコピーすることが容易になるという側面もある。
図1は、記録媒体に記録されたコンテンツを再生し、ディスプレイに表示させるとともに、再生されたコンテンツを他の記録媒体に記録する画像処理システムの構成の一例を示している。
図1において、画像処理システム1は、DVDなどの光ディスク等の記録媒体に記録されたコンテンツの画像信号を再生し、その結果得られるアナログ画像信号Vanを出力する再生装置11、再生装置11が出力するアナログ画像信号Vanを画像として表示するディスプレイ12、および、再生装置11が出力するアナログ画像信号Vanを利用して、光ディスク等の記録媒体に記録する記録装置13により構成されている。
再生装置11は、復号化部21とD/A(Digital-to-Analog)変換部22とから構成されている。復号化部21は、図示せぬ記録媒体から読み出した符号化デジタル画像信号を復号化し、その結果得られるデジタル画像信号をD/A変換部22に供給する。D/A変換部22は、復号化部21から供給されたデジタル画像信号をアナログ信号に変換し、その結果得られるアナログ画像信号Vanを出力する。
ディスプレイ12は、例えばCRT(Cathode-Ray Tube)やLCD(Liquid Crystal Display)等で構成され、D/A変換部22からのアナログ画像信号Vanを画像として表示する。これにより、ユーザは、記録媒体に記録されている画像信号に対応する画像を見ることができる。
また、再生装置11から出力されたアナログ画像信号Vanは、記録装置13にも供給(入力)される。
記録装置13は、A/D(Analog-to-Digital)変換部31、符号化部32、および記録部33により構成され、入力されるアナログ画像信号Vanを光ディスク等の図示せぬ記録媒体に記録する。
A/D変換部31には、再生装置11が出力するアナログ画像信号Vanが入力される。A/D変換部31は、入力されたアナログ画像信号Vanをデジタル信号に変換し、その結果得られるデジタル画像信号Vdgを符号化部32に供給する。符号化部32は、A/D変換部31からのデジタル画像信号Vdgを符号化し、その結果得られる符号化デジタル画像信号Vcdを記録部33に供給する。記録部33は、符号化デジタル画像信号Vcdを記録媒体に記録する。
以上のように構成される画像処理システム1では、再生装置11から出力されたアナログ画像信号Vanを利用して、再生された記録媒体と異なる記録媒体に画像信号を記録することができる。即ち、再生装置11が出力するアナログ画像信号Vanを利用して、コンテンツ(の画像信号)が、不正にコピーされるおそれがある。
従来、このようなアナログ画像信号Vanを利用した不正コピーを防止するために、著作権保護がなされている場合には、アナログ画像信号Vanをスクランブル処理して出力する、あるいはアナログ画像信号Vanの出力を禁止することが提案されている(例えば、特許文献1参照)。
また、再生側の圧縮復号部または記録側の圧縮符号化部のいずれか一方もしくは両方に雑音情報発生部を設け、デジタルビデオデータに1回の処理では画像再生時に識別できない程度の雑音情報を埋め込むことにより、コピー自体は可能であるが、複数回繰り返すと画像が著しく劣化し、これによって実質的にコピーの回数を制限するデジタルビデオ装置が提案されている(例えば、特許文献2参照)。
しかしながら、上述した特許文献1のようにアナログ画像信号Vanをスクランブル処理して出力する、あるいはアナログ画像信号Vanの出力を禁止する方法では、不正コピーを防止することはできるが、ディスプレイ12に正常な画像を表示することもできなくなるという問題が発生する。
また、上述した特許文献2のように、再生側の圧縮復号部または記録側の圧縮符号化部で雑音情報を埋め込む方法では、雑音情報発生部とこれを埋め込むための回路が必要となり、回路規模が増大するという問題がある。
そこで、画像が表示されなくなることや回路規模の増大を招くこと等の不都合を発生することなく、アナログ画像信号を利用した不正コピーを防止する手法が、本出願人により提案されている(例えば、特許文献3参照)。
特開2001−245270号公報 特開平10−289522号公報 特開2004−289685号公報
特許文献3に記載の手法では、アナログ画像信号をA/D変換することにより得られるデジタル画像信号の位相ズレ等のアナログノイズに着目し、そのデジタル画像信号に対してアナログノイズに着目した符号化を行うことによってコピー前の画像の質を落とさずに、良好な質を維持したままでのコピーを不可能とし、これによりアナログ画像信号を利用した不正コピーを防止するが、デジタルコンテンツの流通が一般的になっている近年においては、上述のように不正コピーを防止するための別の手法の提案が要請されている。
本発明は、このような状況に鑑みてなされたものであり、アナログ信号を利用した不正コピーを防止することができるようにするものである。
本発明の第1の側面の符号化装置は、第1の画像と第2の画像を少なくとも有する動画像の入力画像データを符号化する符号化装置において、前記第1の画像を符号化する第1の符号化手段と、前記第2の画像を符号化する第2の符号化手段とを備え、前記第1の符号化手段は、前記第1の画像を複数のブロックに分割するブロック分割手段と、前記ブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートするとともに、ソートしたときのソート結果を表すソート順情報、並びに、前記ブロックを構成する画素の最大値および最小値を算出するソート順算出手段と、前記最大値および最小値から前記ブロックを構成する各画素の予測画素値を生成し、前記ソート順情報を用いて、生成された前記予測画素値を、ソートされる前の空間位相に配置された前記予測画素値とする予測画素値生成手段と、前記ブロックを構成する各画素の画素値と前記予測画素値との差分データを算出する差分データ算出手段と、前記差分データを符号化する符号化手段とを有し、前記第1の符号化手段において符号化された前記第1の画像を復号した第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、前記第2の符号化手段において符号化された前記第2の画像を復号した第4の画像を前記第2の画像と比較した場合の画質の劣化より大きいことを特徴とする。
前記予測画素値生成手段には、前記最大値および最小値を用いて直線を算出させ、その直線によって求められる画素値を、前記ブロックを構成する各画素の予測画素値とさせることができる。
前記第2の符号化手段には、前記第2の画像を複数のブロックに分割するブロック分割手段と、前記第2の画像より所定時間前の画像で前記第2の画像との比較の対象となる参照画像から、前記ブロックの動きベクトルを検出する動きベクトル検出手段と、前記ブロックを構成する各画素の画素値と、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値との残差を算出する残差算出手段と、前記ブロックを構成する各画素の残差の最小値およびダイナミックレンジを算出する最小値算出手段と、前記ブロックを構成する各画素の残差と前記残差の最小値との差分データを算出する差分データ算出手段と、前記ダイナミックレンジに応じて前記差分データを符号化する符号化手段とを有するようにさせることができる。
前記最小値算出手段には、前記残差の回帰式を算出させ、前記回帰式の係数として得られる前記ブロックを構成する各画素の残差の最小値およびダイナミックレンジを算出させることができる。
前記第2の符号化手段には、前記第2の画像を複数のブロックに分割するブロック分割手段と、前記第2の画像より所定時間前の画像で前記第2の画像との比較の対象となる参照画像から、前記ブロックの動きベクトルを検出する動きベクトル検出手段と、前記ブロックを構成する各画素の画素値と、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値との残差を算出する残差算出手段と、前記残差を第1の符号化方式で符号化する第1の残差符号化手段と、前記残差を第2の符号化方式で符号化する第2の残差符号化手段と、前記第1または第2の方式のどちらを採用するかを判定する判定手段と、前記判定手段の判定結果に応じて、前記第1または第2の残差符号化手段の出力を選択する選択手段とを有するようにさせることができる。
前記入力画像データにノイズを付加するノイズ付加手段をさらに設け、前記ノイズ付加手段によりノイズが付加された前記入力画像データが、前記第1の符号化手段または前記第2の符号化手段に供給されるようにすることができる。
本発明の第1の側面の符号化方法は、第1の画像と第2の画像を少なくとも有する動画像の入力画像データを符号化する符号化装置の符号化方法において、前記第1の画像を複数のブロックに分割し、前記ブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートするとともに、ソートしたときのソート結果を表すソート順情報、並びに、前記ブロックを構成する画素の最大値および最小値を算出し、前記最大値および最小値から前記ブロックを構成する各画素の予測画素値を生成し、前記ソート順情報を用いて、生成された前記予測画素値を、ソートされる前の空間位相に配置された前記予測画素値とし、前記ブロックを構成する各画素の画素値と前記予測画素値との差分データを算出し、前記差分データを符号化することで、前記第1の画像を符号化する第1の符号化ステップと、前記第2の画像を符号化する第2の符号化ステップとを含み、前記第1の符号化ステップにおいて符号化された前記第1の画像を復号した第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、前記第2の符号化ステップにおいて符号化された前記第2の画像を復号した第4の画像を前記第2の画像と比較した場合の画質の劣化より大きいことを特徴とする。
本発明の第1の側面の記録媒体は、第1の画像と第2の画像を少なくとも有する動画像の入力画像データに対して、コンピュータに、前記第1の画像を複数のブロックに分割し、前記ブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートするとともに、ソートしたときのソート結果を表すソート順情報、並びに、前記ブロックを構成する画素の最大値および最小値を算出し、前記最大値および最小値から前記ブロックを構成する各画素の予測画素値を生成し、前記ソート順情報を用いて、生成された前記予測画素値を、ソートされる前の空間位相に配置された前記予測画素値とし、前記ブロックを構成する各画素の画素値と前記予測画素値との差分データを算出し、前記差分データを符号化することで、前記第1の画像を符号化する第1の符号化ステップと、前記第2の画像を符号化する第2の符号化ステップとを実行させ、前記第1の符号化ステップにおいて符号化された前記第1の画像を復号した第3の画像を前記第1の画像と比較した場合の画質の劣化の程度が、前記第2の符号化ステップにおいて符号化された前記第2の画像を復号した第4の画像を前記第2の画像と比較した場合の画質の劣化より大きくなる処理を実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体である。
本発明の第1の側面のプログラムは、第1の画像と第2の画像を少なくとも有する動画像の入力画像データに対して、コンピュータに、前記第1の画像を複数のブロックに分割し、前記ブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートするとともに、ソートしたときのソート結果を表すソート順情報、並びに、前記ブロックを構成する画素の最大値および最小値を算出し、前記最大値および最小値から前記ブロックを構成する各画素の予測画素値を生成し、前記ソート順情報を用いて、生成された前記予測画素値を、ソートされる前の空間位相に配置された前記予測画素値とし、前記ブロックを構成する各画素の画素値と前記予測画素値との差分データを算出し、前記差分データを符号化することで、前記第1の画像を符号化する第1の符号化ステップと、前記第2の画像を符号化する第2の符号化ステップとを実行させ、前記第1の符号化ステップにおいて符号化された前記第1の画像を復号した第3の画像を前記第1の画像と比較した場合の画質の劣化の程度が、前記第2の符号化ステップにおいて符号化された前記第2の画像を復号した第4の画像を前記第2の画像と比較した場合の画質の劣化より大きくなる処理を実行させるためのプログラムである。
本発明の第1の側面においては、動画像を構成する第1の画像と第2の画像のうち、第1の画像が複数のブロックに分割され、ブロックを構成する各画素の画素値の大きさに応じて各画素がソートされるとともに、ソートしたときのソート結果を表すソート順情報、並びに、ブロックを構成する画素の最大値および最小値が算出され、最大値および最小値からブロックを構成する各画素の予測画素値が生成される。そして、ソート順情報を用いて、生成された予測画素値が、ソートされる前の空間位相に配置された予測画素値とされ、ブロックを構成する各画素の画素値と予測画素値との差分データが算出され、差分データを符号化することで、第1の画像が符号化される。また、第2の画像も符号化される。このとき、符号化された第1の画像を復号した第3の画像を第1の画像と比較した場合の画質の劣化の程度は、符号化された第2の画像を復号した第4の画像を第2の画像と比較した場合の画質の劣化より大きくなる。
本発明の第2の側面の復号装置は、動画像を構成する第1の画像と第2の画像のうちの、前記第1の画像が符号化された第1の符号化データと、前記第2の画像が符号化された第2の符号化データとを取得する取得手段と、前記第1の符号化データを復号する第1の復号手段と、前記第2の符号化データを復号する第2の復号手段とを備え、前記取得手段は、前記第1の符号化データとして、前記第1の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートしたときのソート結果を表すソート順情報、前記1のブロックを構成する画素の最大値および最小値、並びに、前記最大値および最小値を用いて生成される前記1のブロックを構成する各画素の予測画素値と前記画素値との差分データが符号化された符号化差分データからなるデータを取得し、前記第1の復号手段は、前記最大値および最小値から、画素値の大きさに応じてソートされている、前記1のブロックを構成する各画素の予測画素値を生成し、生成された前記予測画素値を、前記ソート順情報に基づいて、ソートされる前の空間位相に配置し、前記符号化差分データを前記差分データに復号し、復号された前記差分データと、生成された前記予測画素値とを加算する処理を少なくとも行うことで、前記第1の符号化データを復号し、前記第1の復号手段において復号された第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、前記第2の復号手段において復号された第4の画像を前記第2の画像と比較した場合の画質の劣化より大きいことを特徴とする。
前記予測画素値生成手段には、前記最大値および最小値を用いて直線を算出し、その直線によって求められる画素値を、前記ブロックを構成する各画素の予測画素値とさせることができる。
前記第2の復号手段には、前記第2の画像より所定時間前の画像で前記第2の画像との比較の対象となる参照画像から検出された動きベクトル、前記第2の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値と、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値との残差、前記残差の最小値、および、前記残差と前記残差の最小値との差分データが符号化された符号化差分データを取得する取得手段と、前記符号化差分データを前記差分データに復号する差分データ復号手段と、前記差分データ復号手段により復号された前記差分データと前記残差の最小値とを加算する残差加算手段と、前記残差加算手段の出力と、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値とを加算する画素値加算手段とを有するようにさせることができる。
前記第2の復号手段には、前記第2の画像より所定時間前の画像で前記第2の画像との比較の対象となる参照画像から検出された動きベクトル、前記第2の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値と、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値との残差が符号化された符号化残差データ、および、前記符号化残差データが第1の符号化方式か、または第2の符号化方式のどちらで符号化されたかを表す符号化方式判定結果を取得する取得手段と、前記符号化方式判定結果が前記第1の符号化方式を表す場合に、前記符号化残差データを前記残差データに復号する第1の残差データ復号手段と、前記符号化方式判定結果が前記第2の符号化方式を表す場合に、前記符号化残差データを前記残差データに復号する第2の残差データ復号手段と、前記第1または第2の残差データ復号手段により復号された前記残差データと、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値とを加算する画素値加算手段とを有するようにさせることができる。
前記第1または第2の復号手段の出力にノイズを付加するノイズ付加手段をさらに設けることができる。
本発明の第2の側面の復号方法は、動画像を構成する第1の画像と第2の画像のうちの、前記第1の画像が符号化された第1の符号化データとして、前記第1の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートしたときのソート結果を表すソート順情報、前記1のブロックを構成する画素の最大値および最小値、並びに、前記最大値および最小値を用いて生成される前記1のブロックを構成する各画素の予測画素値と前記画素値との差分データが符号化された符号化差分データからなるデータを取得するとともに、前記第2の画像が符号化された第2の符号化データを取得する取得ステップと、前記最大値および最小値から、画素値の大きさに応じてソートされている、前記1のブロックを構成する各画素の予測画素値を生成し、生成された前記予測画素値を、前記ソート順情報に基づいて、ソートされる前の空間位相に配置し、前記符号化差分データを前記差分データに復号し、復号された前記差分データと、生成された前記予測画素値とを加算する処理を少なくとも行うことで、前記第1の符号化データを復号する第1の復号ステップと、前記第2の符号化データを復号する第2の復号ステップとを含み、前記第1の復号ステップにおいて復号された第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、前記第2の復号ステップにおいて復号された第4の画像を前記第2の画像と比較した場合の画質の劣化より大きいことを特徴とする。
本発明の第2の側面の記録媒体は、コンピュータに、動画像を構成する第1の画像と第2の画像のうちの、前記第1の画像が符号化された第1の符号化データとして、前記第1の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートしたときのソート結果を表すソート順情報、前記1のブロックを構成する画素の最大値および最小値、並びに、前記最大値および最小値を用いて生成される前記1のブロックを構成する各画素の予測画素値と前記画素値との差分データが符号化された符号化差分データからなるデータを取得するとともに、前記第2の画像が符号化された第2の符号化データを取得する取得ステップと、前記最大値および最小値から、画素値の大きさに応じてソートされている、前記1のブロックを構成する各画素の予測画素値を生成し、生成された前記予測画素値を、前記ソート順情報に基づいて、ソートされる前の空間位相に配置し、前記符号化差分データを前記差分データに復号し、復号された前記差分データと、生成された前記予測画素値とを加算する処理を少なくとも行うことで、前記第1の符号化データを復号する第1の復号ステップと、前記第2の符号化データを復号する第2の復号ステップとを実行させ、前記第1の復号ステップにおいて復号された第3の画像を前記第1の画像と比較した場合の画質の劣化の程度が、前記第2の復号ステップにおいて復号された第4の画像を前記第2の画像と比較した場合の画質の劣化より大きくなる処理を実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体である。
本発明の第2の側面のプログラムは、コンピュータに、動画像を構成する第1の画像と第2の画像のうちの、前記第1の画像が符号化された第1の符号化データとして、前記第1の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートしたときのソート結果を表すソート順情報、前記1のブロックを構成する画素の最大値および最小値、並びに、前記最大値および最小値を用いて生成される前記1のブロックを構成する各画素の予測画素値と前記画素値との差分データが符号化された符号化差分データからなるデータを取得するとともに、前記第2の画像が符号化された第2の符号化データを取得する取得ステップと、前記最大値および最小値から、画素値の大きさに応じてソートされている、前記1のブロックを構成する各画素の予測画素値を生成し、生成された前記予測画素値を、前記ソート順情報に基づいて、ソートされる前の空間位相に配置し、前記符号化差分データを前記差分データに復号し、復号された前記差分データと、生成された前記予測画素値とを加算する処理を少なくとも行うことで、前記第1の符号化データを復号する第1の復号ステップと、前記第2の符号化データを復号する第2の復号ステップとを実行させ、前記第1の復号ステップにおいて復号された第3の画像を前記第1の画像と比較した場合の画質の劣化の程度が、前記第2の復号ステップにおいて復号された第4の画像を前記第2の画像と比較した場合の画質の劣化より大きくなる処理を実行させるためのプログラムである。
本発明の第2の側面においては、動画像を構成する第1の画像と第2の画像のうちの、第1の画像が符号化された第1の符号化データとして、第1の画像が分割された複数のブロックのうちの1のブロックについての、1のブロックを構成する各画素の画素値の大きさに応じて各画素をソートしたときのソート結果を表すソート順情報、1のブロックを構成する画素の最大値および最小値、並びに、最大値および最小値を用いて生成される1のブロックを構成する各画素の予測画素値と画素値との差分データが符号化された符号化差分データからなるデータが取得されるとともに、第2の画像が符号化された第2の符号化データが取得され、最大値および最小値から、画素値の大きさに応じてソートされている、1のブロックを構成する各画素の予測画素値が生成され、生成された予測画素値が、ソート順情報に基づいて、ソートされる前の空間位相に配置され、符号化差分データが差分データに復号され、復号された差分データと、生成された予測画素値とを加算する処理が少なくとも行われることで、第1の符号化データが復号される。また、第2の符号化データも復号される。このとき、復号された第3の画像を第1の画像と比較した場合の画質の劣化の程度は、復号された第4の画像を第2の画像と比較した場合の画質の劣化より大きくなる。
本発明の第3の側面の画像処理システムは、第1の画像と第2の画像を少なくとも有する動画像の入力画像データを符号化する符号化部および符号化された前記入力画像データを復号する復号部を備え、前記入力画像データに対して符号化および復号を繰り返すと前記入力画像データに対応する画像の画質が劣化する画像処理システムにおいて、前記符号化部は、前記第1の画像を符号化する第1の符号化手段と、前記第2の画像を符号化する第2の符号化手段とを備え、前記第1の符号化手段は、前記第1の画像を複数のブロックに分割するブロック分割手段と、前記ブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートするとともに、ソートしたときのソート結果を表すソート順情報、並びに、前記ブロックを構成する画素の最大値および最小値を算出するソート順算出手段と、前記最大値および最小値から前記ブロックを構成する各画素の予測画素値を生成し、前記ソート順情報を用いて、生成された前記予測画素値を、ソートされる前の空間位相に配置された前記予測画素値とする予測画素値生成手段と、前記ブロックを構成する各画素の画素値と前記予測画素値との差分データを算出する差分データ算出手段と、前記差分データを符号化する符号化手段とを有し、前記第1の符号化手段において符号化された前記第1の画像を復号した第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、前記第2の符号化手段において符号化された前記第2の画像を復号した第4の画像を前記第2の画像と比較した場合の画質の劣化より大きいことを特徴とする。
本発明の第3の側面においては、符号化部において、動画像を構成する第1の画像と第2の画像のうちの、第1の画像が複数のブロックに分割され、ブロックを構成する各画素の画素値の大きさに応じて各画素がソートされるとともに、ソートしたときのソート結果を表すソート順情報、並びに、ブロックを構成する画素の最大値および最小値が算出され、最大値および最小値からブロックを構成する各画素の予測画素値が生成される。そして、ソート順情報を用いて、生成された予測画素値が、ソートされる前の空間位相に配置された予測画素値とされ、ブロックを構成する各画素の画素値と予測画素値との差分データが算出され、差分データを符号化することで、第1の画像が符号化される。また、第2の画像も符号化される。このとき、符号化された第1の画像を復号した第3の画像を第1の画像と比較した場合の画質の劣化の程度は、符号化された第2の画像を復号した第4の画像を第2の画像と比較した場合の画質の劣化より大きくなる。
本発明の第4の側面の画像処理システムは、第1の画像と第2の画像を少なくとも有する動画像の入力画像データを符号化する符号化部および符号化された前記入力画像データを復号する復号部を備え、前記入力画像データに対して符号化および復号を繰り返すと前記入力画像データに対応する画像の画質が劣化する画像処理システムにおいて、前記復号部は、前記第1の画像が符号化された第1の符号化データと、前記第2の画像が符号化された第2の符号化データとを取得する取得手段と、前記第1の符号化データを復号する第1の復号手段と、前記第2の符号化データを復号する第2の復号手段とを備え、前記取得手段は、前記第1の符号化データとして、前記第1の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートしたときのソート結果を表すソート順情報、前記1のブロックを構成する画素の最大値および最小値並びに、前記最大値および最小値を用いて生成される前記1のブロックを構成する各画素の予測画素値と前記画素値との差分データが符号化された符号化差分データからなるデータを取得し、前記第1の復号手段は、前記最大値および最小値から、画素値の大きさに応じてソートされている、前記1のブロックを構成する各画素の予測画素値を生成し、生成された前記予測画素値を、前記ソート順情報に基づいて、ソートされる前の空間位相に配置し、前記符号化差分データを前記差分データに復号し、復号された前記差分データと、生成された前記予測画素値とを加算する処理を少なくとも行うことで、前記第1の符号化データを復号し、前記第1の復号手段において復号された第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、前記第2の復号手段において復号された第4の画像を前記第2の画像と比較した場合の画質の劣化より大きいことを特徴とする。
本発明の第4の側面においては、復号部において、動画像を構成する第1の画像と第2の画像のうちの、第1の画像が符号化された第1の符号化データとして、第1の画像が分割された複数のブロックのうちの1のブロックについての、1のブロックを構成する各画素の画素値の大きさに応じて各画素をソートしたときのソート結果を表すソート順情報、1のブロックを構成する画素の最大値および最小値、並びに、最大値および最小値を用いて生成される1のブロックを構成する各画素の予測画素値と画素値との差分データが符号化された符号化差分データからなるデータが取得されるとともに、第2の画像が符号化された第2の符号化データが取得され、最大値および最小値から、画素値の大きさに応じてソートされている、1のブロックを構成する各画素の予測画素値が生成され、生成された予測画素値が、ソート順情報に基づいて、ソートされる前の空間位相に配置され、符号化差分データが差分データに復号され、復号された差分データと、生成された予測画素値とを加算する処理が少なくとも行われることで、第1の符号化データが復号される。また、第2の符号化データも復号される。このとき、復号された第3の画像を第1の画像と比較した場合の画質の劣化の程度は、復号された第4の画像を第2の画像と比較した場合の画質の劣化より大きくなる。
本発明によれば、アナログ信号を利用した不正コピーを防止することができる。
以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
さらに、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加されたりする発明の存在を否定するものではない。
請求項1に記載の符号化装置は、
第1の画像と第2の画像を少なくとも有する動画像の入力画像データを符号化する符号化装置(例えば、図2の記録部141)において、
前記第1の画像(例えば、図3の基準フレームの画像)を符号化する第1の符号化手段(例えば、図4の基準フレーム符号化部203)と、
前記第2の画像(例えば、図3の予測フレームの画像)を符号化する第2の符号化手段(例えば、図2の予測フレーム符号化部205)と
を備え、
前記第1の符号化手段は、
前記第1の画像を複数のブロックに分割するブロック分割手段(例えば、図22のブロック化回路222)と、
前記ブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートするとともに、ソートしたときのソート結果を表すソート順情報、並びに、前記ブロックを構成する画素の最大値および最小値を算出するソート順算出手段(例えば、図22のソート順算出回路321)と、
前記最大値および最小値から前記ブロックを構成する各画素の予測画素値を生成し、前記ソート順情報を用いて、生成された前記予測画素値を、ソートされる前の空間位相に配置された前記予測画素値とする予測画素値生成手段(例えば、図22の予測画素値生成回路322)と、
前記ブロックを構成する各画素の画素値と前記予測画素値との差分データを算出する差分データ算出手段(例えば、図22の減算器323)と、
前記差分データを符号化する符号化手段(例えば、図22のブロック符号化回路324)と
を有し、
前記第1の符号化手段において符号化された前記第1の画像を復号した第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、
前記第2の符号化手段において符号化された前記第2の画像を復号した第4の画像を前記第2の画像と比較した場合の画質の劣化より大きい
ことを特徴とする。
請求項3に記載の符号化装置は、
前記第2の符号化手段は、
前記第2の画像を複数のブロックに分割するブロック分割手段(例えば、図9のブロック化回路242)と、
前記第2の画像より所定時間前の画像で前記第2の画像との比較の対象となる参照画像から、前記ブロックの動きベクトルを検出する動きベクトル検出手段(例えば、図9の動きベクトル検出回路243)と、
前記ブロックを構成する各画素の画素値と、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値との残差を算出する残差算出手段(例えば、図9の残差算出回路244)と、
前記ブロックを構成する各画素の残差の最小値およびダイナミックレンジを算出する最小値算出手段(例えば、図9の回帰回路246)と、
前記ブロックを構成する各画素の残差と前記残差の最小値との差分データを算出する差分データ算出手段(例えば、図9の減算器247)と、
前記ダイナミックレンジに応じて前記差分データを符号化する符号化手段(例えば、図9のブロック符号化回路248)と
を有する
ことを特徴とする。
請求項5に記載の符号化装置は、
前記第2の符号化手段は、
前記第2の画像を複数のブロックに分割するブロック分割手段(例えば、図31のブロック化回路242)と、
前記第2の画像より所定時間前の画像で前記第2の画像との比較の対象となる参照画像から、前記ブロックの動きベクトルを検出する動きベクトル検出手段(例えば、図31の動きベクトル検出回路243)と、
前記ブロックを構成する各画素の画素値と、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値との残差を算出する残差算出手段(例えば、図31の残差算出回路244)と、
前記残差を第1の符号化方式で符号化する第1の残差符号化手段(例えば、図31のADRC符号化部341)と、
前記残差を第2の符号化方式で符号化する第2の残差符号化手段(例えば、図31の直交変換符号化部342)と、
前記第1または第2の方式のどちらを採用するかを判定する判定手段(例えば、図31の符号化判定回路345)と、
前記判定手段の判定結果に応じて、前記第1または第2の残差符号化手段の出力を選択する選択手段(例えば、図31の選択回路346)と
を有する
ことを特徴とする。
請求項6に記載の符号化装置は、
前記入力画像データにノイズを付加するノイズ付加手段(例えば、図2のA/D変換部151または図50のノイズ付加部501)をさらに備え、
前記ノイズ付加手段によりノイズが付加された前記入力画像データが、前記第1の符号化手段または前記第2の符号化手段に供給される
ことを特徴とする。
請求項7に記載の符号化方法は、
第1の画像と第2の画像を少なくとも有する動画像の入力画像データを符号化する符号化装置の符号化方法において、
前記第1の画像を複数のブロックに分割し、
前記ブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートするとともに、ソートしたときのソート結果を表すソート順情報、並びに、前記ブロックを構成する画素の最大値および最小値を算出し、
前記最大値および最小値から前記ブロックを構成する各画素の予測画素値を生成し、前記ソート順情報を用いて、生成された前記予測画素値を、ソートされる前の空間位相に配置された前記予測画素値とし、
前記ブロックを構成する各画素の画素値と前記予測画素値との差分データを算出し、
前記差分データを符号化することで、前記第1の画像を符号化する第1の符号化ステップ(例えば、図41のステップS174の処理)と、
前記第2の画像を符号化する第2の符号化ステップ(例えば、図41のステップS177の処理)と
を含み、
前記第1の符号化ステップにおいて符号化された前記第1の画像を復号した第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、
前記第2の符号化ステップにおいて符号化された前記第2の画像を復号した第4の画像を前記第2の画像と比較した場合の画質の劣化より大きい
ことを特徴とする。
請求項8に記載の記録媒体に記録されたプログラム、請求項9に記載のプログラムの各ステップの具体例も、請求項7に記載の符号化方法の各ステップの発明の実施の形態における具体例と同様である。
請求項10に記載の復号装置(例えば、図2の再生部142)は、
動画像を構成する第1の画像と第2の画像のうちの、前記第1の画像が符号化された第1の符号化データと、前記第2の画像が符号化された第2の符号化データとを取得する取得手段(例えば、図17の復号化選択回路272)と、
前記第1の符号化データ(基準フレームの符号化デジタル画像信号Vcd1)を復号する第1の復号手段(例えば、図17の基準フレーム復号化部273)と、
前記第2の符号化データ(予測フレームの符号化デジタル画像信号Vcd1)を復号する第2の復号手段(例えば、図17の予測フレーム復号化部274)と
を備え、
前記取得手段は、前記第1の符号化データとして、
前記第1の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートしたときのソート結果を表すソート順情報、
前記1のブロックを構成する画素の最大値および最小値、
並びに、前記最大値および最小値を用いて生成される前記1のブロックを構成する各画素の予測画素値と前記画素値との差分データが符号化された符号化差分データからなるデータを取得し、
前記第1の復号手段は、
前記最大値および最小値から、画素値の大きさに応じてソートされている、前記1のブロックを構成する各画素の予測画素値を生成し、生成された前記予測画素値を、前記ソート順情報に基づいて、ソートされる前の空間位相に配置し、
前記符号化差分データを前記差分データに復号し、
復号された前記差分データと、生成された前記予測画素値とを加算する処理を少なくとも行うことで前記第1の符号化データを復号し、
前記第1の復号手段において復号された第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、
前記第2の復号手段において復号された第4の画像を前記第2の画像と比較した場合の画質の劣化より大きい
ことを特徴とする。
請求項12に記載の復号装置は、
前記第2の復号手段は、
前記第2の画像より所定時間前の画像で前記第2の画像との比較の対象となる参照画像から検出された動きベクトル、
前記第2の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値と、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値との残差、
前記残差の最小値、
および、前記残差と前記残差の最小値との差分データが符号化された符号化差分データを取得する取得手段(例えば、図20のデータ分解回路302)と、
前記符号化差分データを前記差分データに復号する差分データ復号手段(例えば、図20のブロック復号化回路304)と、
前記差分データ復号手段により復号された前記差分データと前記残差の最小値とを加算する残差加算手段(例えば、図20の加算器305)と、
前記残差加算手段の出力と、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値とを加算する画素値加算手段(例えば、図20の加算器306)と
を有する
ことを特徴とする。
請求項13に記載の復号装置は、
前記第2の復号手段は、
前記第2の画像より所定時間前の画像で前記第2の画像との比較の対象となる参照画像から検出された動きベクトル、
前記第2の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値と、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値との残差が符号化された符号化残差データ、
および、前記符号化残差データが第1の符号化方式か、または第2の符号化方式のどちらで符号化されたかを表す符号化方式判定結果を取得する取得手段(例えば、図37のデータ分解回路432)と、
前記符号化方式判定結果が前記第1の符号化方式を表す場合に、前記符号化残差データを前記残差データに復号する第1の残差データ復号手段(例えば、図37のADRC復号化部435)と、
前記符号化方式判定結果が前記第2の符号化方式を表す場合に、前記符号化残差データを前記残差データに復号する第2の残差データ復号手段(例えば、図37の直交変換復号化部436)と、
前記第1または第2の残差データ復号手段により復号された前記残差データと、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値とを加算する画素値加算手段(例えば、図37の加算器306)と
を有する
ことを特徴とする。
請求項14に記載の復号装置は、
前記第1または第2の復号手段の出力にノイズを付加するノイズ付加手段(例えば、図2のD/A変換部156または図52のノイズ付加部503)をさらに備える
ことを特徴とする。
請求項15に記載の復号方法は、
動画像を構成する第1の画像と第2の画像のうちの、前記第1の画像が符号化された第1の符号化データとして、前記第1の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートしたときのソート結果を表すソート順情報、
前記1のブロックを構成する画素の最大値および最小値、
並びに、前記最大値および最小値を用いて生成される前記1のブロックを構成する各画素の予測画素値と前記画素値との差分データが符号化された符号化差分データからなるデータを取得するとともに、前記第2の画像が符号化された第2の符号化データを取得する取得ステップ(例えば、図41のステップS179の処理)と、
前記最大値および最小値から、画素値の大きさに応じてソートされている、前記1のブロックを構成する各画素の予測画素値を生成し、生成された前記予測画素値を、前記ソート順情報に基づいて、ソートされる前の空間位相に配置し、
前記符号化差分データを前記差分データに復号し、
復号された前記差分データと、生成された前記予測画素値とを加算する処理を少なくとも行うことで、前記第1の符号化データを復号する第1の復号ステップ(例えば、図41のステップS181の処理)と、
前記第2の符号化データを復号する第2の復号ステップ(例えば、図41のステップS183の処理)と
を含み、
前記第1の復号ステップにおいて復号された第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、
前記第2の復号ステップにおいて復号された第4の画像を前記第2の画像と比較した場合の画質の劣化より大きい
ことを特徴とする。
請求項16に記載の記録媒体に記録されたプログラム、請求項17に記載のプログラムの各ステップの具体例も、請求項15に記載の復号方法の各ステップの発明の実施の形態における具体例と同様である。
以下、図を参照して、本発明の実施の形態について説明する。
図2は、本発明を適用した画像処理システムの一実施の形態の構成例を示すブロック図である。
図2において、画像処理システム101は、DVDなどの光ディスク等の記録媒体121に記録された画像信号を再生し、その結果得られるアナログ画像信号Van1を出力する再生装置111、再生装置111が出力するアナログ画像信号Van1を画像として表示するディスプレイ112、および、再生装置111が出力するアナログ画像信号Van1を利用して、光ディスク等の記録媒体122に画像信号を記録する記録装置113により構成されている。
再生装置111は、復号化部131とD/A(Digital-to-Analog)変換部132とから構成されている。復号化部131は、記録媒体121から読み出した符号化デジタル画像信号を復号化し(復号し)、その結果得られる復号化デジタル画像信号Vdg0をD/A変換部132に供給する。D/A変換部132は、復号化部131から供給された復号化デジタル画像信号Vdg0をアナログ信号に変換し、その結果得られるアナログ画像信号Van1を出力する。
ここで、再生装置111(のD/A変換部132)から出力されるアナログ画像信号Van1は、復号化デジタル画像信号Vdg0をアナログ信号に変換したときに自然に生じる信号の歪み(以下、アナログ歪みと称する)を伴うものとなっている。例えば、アナログ歪みには、D/A変換器132でアナログ信号に変換する際に高周波成分が除去されることで生じる歪み、D/A変換器132でアナログ信号に変換する際に信号の位相がずれることで生じる歪み等がある。なお、このアナログ歪みによる画像の劣化(画質)を評価する方法としては、S/N(Signal-to-Noise)評価、視覚評価(視覚的劣化の評価)等がある。
ディスプレイ112は、例えばCRT(Cathode-Ray Tube)やLCD(Liquid Crystal Display)等で構成され、D/A変換部132からのアナログ画像信号Van1に対応する画像を表示する。これにより、ユーザは、記録媒体121に記録された画像信号に対応する画像を見ることができる。
また、再生装置111から出力されたアナログ画像信号Van1(入力画像データ)は、記録装置113にも供給(入力)される。
記録装置113は、再生装置111からのアナログ画像信号Van1を符号化デジタル画像信号Vcd1に符号化して、記録媒体122に記録する記録部141(符号化装置)、記録媒体122に記録された符号化デジタル画像信号Vcd1が復号化されてディスプレイに表示されたときの画像を確認するために、符号化デジタル画像信号Vcd1を再生する再生部142(復号装置)、および、再生部142が再生した画像を表示するディスプレイ143により構成されている。
記録部141は、A/D(Analog-to-Digital)変換部151、符号化部152、および媒体記録部153により構成され、入力されるアナログ画像信号Van1をデジタル信号に変換して符号化した符号化デジタル画像信号Vcd1を記録媒体122に記録する。これにより、再生装置111からのアナログ画像信号Van1を利用したコピーが行われることとなる。
A/D変換部151には、再生装置111が出力するアナログ画像信号Van1が入力される。A/D変換部151は、入力されたアナログ画像信号Van1をデジタル信号に変換し、その結果得られるデジタル画像信号Vdg1を符号化部152に供給する。
符号化部152は、A/D変換部151からのデジタル画像信号Vdg1を符号化し、その結果得られる符号化デジタル画像信号Vcd1を媒体記録部153および再生部142(の復号化部155)に供給する。媒体記録部153は、符号化部152からの符号化デジタル画像信号Vcd1を記録媒体122に記録する。
再生部142は、上述したように、記録媒体122に記録された符号化デジタル画像信号Vcd1が(例えば、再生装置111などの)所定の再生装置において、復号化されてディスプレイに表示されたときの画像を確認するためのものである。従って、再生部142は、再生装置111の復号化部131およびD/A変換部132それぞれと同様の構成を有する、復号化部155およびD/A変換部156により構成されている。
復号化部155は、符号化部152からの符号化デジタル画像信号Vcd1を復号化し(復号し)、その結果得られる復号化デジタル画像信号Vdg2をD/A変換部156に供給する。D/A変換部156は、復号化部155から供給された復号化デジタル画像信号Vdg2をアナログ信号に変換し、その結果得られるアナログ画像信号Van2をディスプレイ143に出力する。
ディスプレイ143は、例えばCRT(Cathode-Ray Tube)やLCD(Liquid Crystal Display)等で構成され、D/A変換部156からのアナログ画像信号Van2に対応する画像を表示する。これにより、ユーザは、記録媒体122に記録された符号化デジタル画像信号Vcd1が再生されたときの画像を確認する(見る)ことができる。
以上のように構成される記録装置113では、再生装置111からのアナログ画像信号Van1を利用して、符号化デジタル画像信号Vcd1を記録媒体122に記録するとともに、その記録媒体122に記録された符号化デジタル画像信号Vcd1が、(例えば、再生装置111などの)所定の再生装置において再生されてディスプレイ112に表示されたときの画像を確認することができる。なお、符号化部152または復号化部155では、それぞれに入力されるデジタル画像信号Vdg1または符号化デジタル画像信号Vcd1を、フレーム単位で処理するものとする。
図2の画像処理システム101において、記録装置113で記録された(コピーされた)記録媒体122を再生装置111で再生したときにディスプレイ112に表示される(再生部142から出力されるアナログ画像信号Van2と同一のアナログ画像信号による)画像の画質(例えば、S/N比など)は、コピー元の記録媒体121を再生装置111で再生したときにディスプレイ112に表示される(アナログ画像Van1による)画像の画質よりも、著しく劣化したものとなる。
そこで、以下では、再生装置111から出力されるアナログ画像信号Van1を利用して画像信号をコピーした場合に、コピーされた画像信号を再生した画像の画質が劣化するような符号化および復号化を行う符号化部152および復号化部155について詳しく説明する。
なお、記録装置113の符号化部152は、図3に示すように、所定の枚数ごとに(所定の時間間隔で)フレーム単位の画像(フレーム画像)を基準フレームに設定し、基準フレーム以外の画像を予測フレームとする。図3においては、5枚ごとに基準フレームが設定されている。
また、符号化部152は、基準フレームの画像と予測フレームの画像とで、異なる符号化を行い、基準フレームの画像の画質を劣化させ、予測フレームの画像に対しては画質を劣化させない(画質が同程度に維持される)ようにして、基準フレームの画像と予測フレームの画像とが連続して再生されたときに、画質の異なる画像が交互に再生(表示)されることにより、全体として違和感を生じるような画質の劣化をさせる。
(符号化部152の実施形態)
図4は、図2の記録装置113における、符号化部152の構成例を示すブロック図である。
図4の符号化部152は、入力端子201、符号化選択回路202、基準フレーム符号化部203、ローカルデコード部204、予測フレーム符号化部205、および出力端子206により構成されている。
A/D変換部151(図2)からのデジタル画像信号Vdg1は、入力端子201を介して、符号化選択回路202に供給される。符号化選択回路202は、入力端子201から供給されるデジタル画像信号Vdg1を、基準フレーム符号化部203または予測フレーム符号化部205に供給する。この場合、符号化選択回路202は、デジタル画像信号Vdg1に対応する画像が、図3で上述した基準フレームの画像であるか、または予測フレームの画像であるかに応じて、それぞれ、基準フレーム符号化部203または予測フレーム符号化部205にデジタル画像信号Vdg1を供給する。
即ち、符号化選択回路202は、デジタル画像信号Vdg1に対応する画像が基準フレームの画像(第1の画像)である場合、そのデジタル画像信号Vdg1を基準フレーム符号化部203に供給し、デジタル画像信号Vdg1に対応する画像が予測フレームの画像(第2の画像)である場合、そのデジタル画像信号Vdg1を予測フレーム符号化部205に供給する。
基準フレーム符号化部203は、符号化選択回路202から供給される、基準フレームのデジタル画像信号Vdg1を符号化し、それにより得られるデジタル画像信号を符号化デジタル画像信号Vcd1としてローカルデコード部204および出力端子206に供給する。
ローカルデコード部204は、基準フレーム符号化部203から供給される符号化デジタル画像信号Vcd1を復号化し(ローカルデコードし)、予測フレーム符号化部205に供給する。この符号化デジタル画像信号Vcd1が復号化された復号化デジタル画像信号は、予測フレーム符号化部205が動き補償を行うための参照画像となる。なお、ローカルデコード部204が予測フレーム符号化部205に供給する復号化デジタル画像信号は、復号化部155(図2)で復号されて、出力される復号化デジタル画像信号Vdg2と同一の画像信号であり、ローカルデコード部204は、図18を参照して後述する基準フレーム復号化部273の構成と同様の構成を有している。
予測フレーム符号化部205は、符号化選択回路202から供給されたデジタル画像信号Vdg1に対応するフレーム(以下、現フレームとも称する)の画像の1つ前のフレーム(以下、前フレームとも称する)の画像から動き補償を行うことにより、符号化選択回路202からの予測フレーム(現フレーム)のデジタル画像信号Vdg1を符号化する。即ち、予測フレーム符号化部205は、符号化選択回路202から供給される、現フレームのデジタル画像信号Vdg1と、前フレームのデジタル画像信号との差分データを符号化し、それにより得られるデジタル画像信号を符号化デジタル画像信号Vcd1として出力端子206に供給する。
なお、予測フレーム符号化部205において、前フレームの画像が基準フレームの画像である場合、予測フレーム符号化部205は、符号化選択回路202から供給されるデジタル画像信号Vdg1と、ローカルデコード部204から供給される復号化デジタル画像信号との差分データを符号化する。また、前フレームの画像が予測フレームの画像である場合、予測フレーム符号化部205は、符号化選択回路202から供給されるデジタル画像信号Vdg1と、自身で内部に記憶しておいた前フレームの復号化デジタル画像信号との差分データを符号化する。
出力端子206は、基準フレーム符号化部203または予測フレーム符号化部205からの符号化デジタル画像信号Vcd1を出力する。
(基準フレーム符号化部203の第1の実施形態)
図5は、図4の基準フレーム符号化部203の第1の実施形態の構成例を示すブロック図である。
図5の基準フレーム符号化部203は、入力端子221、ブロック化回路222、最大値検出回路223、最小値検出回路224、減算器225および226、ブロック符号化回路227、データ合成回路228、および出力端子229により構成されている。
符号化選択回路202(図4)からのデジタル画像信号Vdg1は、入力端子221を介して、ブロック化回路222に供給される。
ブロック化回路222は、基準フレームの画像を、それぞれが所定の画素数を有する複数のブロックBLに分割し、最大値検出回路223、最小値検出回路224、および減算器226に供給する。これにより、ブロック化回路222以降では、ブロック化回路222によって分割された複数のブロックBLのそれぞれが注目ブロックBLcとされ、注目ブロックBLcに対して処理が行われる。なお、本実施の形態では、ブロックBLのサイズは、例えば、4×4画素(水平方向×垂直方向)であるとする。
最大値検出回路223は、注目ブロックBLcを構成する画素の画素値(以下、入力画素値とも称する)の最大値Vcdmaxを検出し、減算器225に供給する。また、最小値検出回路224は、注目ブロックBLcを構成する画素の画素値の最小値Vcdmin(以下、単に注目ブロックBLcの最小値Vcdminと称する)を検出し、減算器225および226、並びにデータ合成回路228に供給する。
減算器225は、画素値の最大値Vcdmaxから最小値Vcdminを減算し、注目ブロックBLcを構成する画素の画素値のダイナミックレンジVcddr(=Vcdmax−Vcdmin)(以下、単に注目ブロックBLcのダイナミックレンジVcddrと称する)を算出し、ブロック符号化回路227およびデータ合成回路228に供給する。
減算器226は、ブロック回路222から供給される、注目ブロックBLcを構成する各画素の画素値から、注目ブロックBLcの最小値Vcdminを減算し、その結果得られる差分データをブロック符号化回路227に供給する。
ブロック符号化回路227は、注目ブロックBLcを構成する各画素について、減算器226からの差分データを符号化し、その結果得られる符号化データVcdoをデータ合成回路228に供給する。
具体的には、ブロック符号化回路227は、注目ブロックBLcを構成する各画素について、減算器225からのダイナミックレンジVcddrに応じた量子化ステップ(量子化ビット数)で、減算器226からの差分データを量子化する。
例えば、入力画素値が0乃至255の値を取り得る場合、0< Vcddr <4のときの量子化ビット数nを0、5< Vcddr <13のときの量子化ビット数nを1、14< Vcddr <35のときの量子化ビット数nを2、36< Vcddr <103のときの量子化ビット数nを3、104< Vcddr <255のときの量子化ビット数nを4とするように、ダイナミックレンジVcddrが大きいほど量子化ビット数nを大きくなるように量子化ステップが決定される。なお、量子化ビット数は、固定とすることも可能である。
そして、ブロック符号化回路227では、ダイナミックレンジVcddrを2n等分するようにレベルの範囲が設定され、差分データがどのレベルの範囲に属するかによって、nビットのADRCコードが割り当てられる。この割り当てられたADRCコードが符号化データVcdoとして、データ合成回路228に供給される。
データ合成回路228は、1フレーム(基準フレーム)を構成する複数のブロックBLそれぞれの、減算器225からのダイナミックレンジVcddr、最小値検出回路224からの最小値Vcdmin、およびブロック符号化回路227からの符号化データVcdoを合成し、符号化デジタル画像信号Vcd1として出力端子229に供給する。
出力端子229は、データ合成回路228から供給される符号化デジタル画像信号Vcd1を出力する。
図6は、ブロック化回路222がデジタル画像信号Vdg1に対応する画像を複数のブロックBLに分割した例を示している。
ブロック化回路222では、例えば、640×480画素などの所定の画素数を有する画像が、図6に示すように、4×4画素の複数のブロックBLに分割される。そして、この複数のブロックBLそれぞれが、注目ブロックBLcとされることになる。なお、図6における丸(○)は、画像を構成する各画素を表している。
図7は、量子化ビット数nが2である場合の、ブロック符号化回路227における符号化(量子化)とそれに対応する復号化(逆量子化)を説明する図である。
量子化ビット数nが2である場合、ダイナミックレンジVcddrが4(=22)等分されるようにレベルの範囲が設定され、差分データが4等分されたどの範囲に属するかによって、2ビットのADRCコードが割り当てられる。
即ち、差分データの最小値Min乃至閾値th1の最も下のレベルの範囲に、差分データが属する場合、「00」のADRCコードが割り当てられる。また、閾値th1乃至th2の下から2番目のレベルの範囲に、差分データが属する場合、「01」のADRCコードが割り当てられる。さらに、閾値th2乃至th3の下から3番目のレベルの範囲に、差分データが属する場合、「10」のADRCコードが割り当てられる。そして、閾値th3乃至差分データの最大値Maxの最も上のレベルの範囲に属する場合、「11」のADRCコードが割り当てられる。
また、後述する基準フレーム復号化部273のブロック復号化回路293(図18)でADRCコード(符号化データVcdo)が復号化される際には、「00」,「01」,「10」、または「11」のADRCコード(符号化データVcdo)は、それぞれ、ダイナミックレンジVcddrを4等分して得られる最も下のレベルの範囲の中心値L1、下から2番目のレベルの範囲の中心値L2、下から3番目のレベルの範囲の中心値L3、または最も上のレベルの範囲の中心値L4に、逆量子化される。
上述した量子化の処理は、いわゆるADRC(Adaptive Dynamic Range Coding)処理による符号化処理(ADRC符号化処理)である。
次に、図8のフローチャートを参照して、図5の基準フレーム符号化部203の基準フレーム符号化処理について説明する。
初めに、ステップS1において、ブロック化回路222は、入力端子221を介して符号化選択回路202から供給されるデジタル画像信号Vdg1に対応する1フレームの画像を、それぞれが4×4画素で構成される複数のブロックBL単位に分割し、最大値検出回路223、最小値検出回路224、および減算器226に供給する。
ステップS2において、複数に分割されたブロックBLのうちの1のブロックBLが注目ブロックBLcとされる。また、ステップS2において、最大値検出回路223は、その注目ブロックBLcを構成する画素の画素値(入力画素値)の最大値Vcdmaxを検出し、減算器225に供給する。
ステップS3において、最小値検出回路224は、注目ブロックBLcを構成する画素の画素値の最小値Vcdmin(注目ブロックBLcの最小値Vcdmin)を検出し、減算器225、減算器226、およびデータ合成回路228に供給する。
ステップS4において、減算器225は、注目ブロックBLcのダイナミックレンジVcddr(=Vcdmax−Vcdmin)を算出し、ブロック符号化回路227およびデータ合成回路228に供給する。
ステップS5において、減算器226は、注目ブロックBLcを構成する各画素の差分データを算出する。即ち、減算器226は、注目ブロックBLcを構成する各画素の画素値から、注目ブロックBLcの最小値Vcdminを減算し、その結果得られる差分データをブロック符号化回路227に供給する。
ステップS6において、ブロック符号化回路227は、減算器226からの差分データを符号化し、その結果得られる符号化データVcdoをデータ合成回路228に供給する。即ち、ステップS6において、ブロック符号化回路227は、減算器225からのダイナミックレンジVcddrに応じた量子化ステップ(量子化ビット数)で、減算器226からの差分データを量子化する。そして、ブロック符号化回路227は、符号化データVcdoをデータ合成回路228に供給する。
ステップS7において、データ合成回路228は、符号化選択回路202から供給された1フレームを構成する画像の全てのブロックBLについて処理したか、即ち、1フレームの画像の全てのブロックBLを注目ブロックBLcとして上述したステップS2乃至S6の処理を行ったか否かを判定する。
ステップS7で、全てのブロックBLについて処理していないと判定された場合、ステップS2に戻り、まだ処理していないブロックBLが注目ブロックBLcとされる。そして、その注目ブロックBLcに対して、ステップS2乃至S7の処理が繰り返される。
一方、ステップS7で、全てのブロックBLについて処理したと判定された場合、ステップS8に進み、データ合成回路228は、1フレーム分の符号化デジタル画像信号Vcd1を、出力端子229を介して出力する。
ステップS8の処理後、ステップS9に進み、基準フレーム符号化部203は、まだ処理するフレームの画像があるか、即ち、次に処理するフレームの画像が符号化選択回路202から供給されたか否かを判定する。
ステップS9で、まだ処理するフレームの画像があると判定された場合、ステップS1に戻り、それ以降の処理が繰り返される。
一方、ステップS9で、処理するフレームの画像がないと判定された場合、即ち、次に処理するフレームの画像が符号化選択回路202から供給されない場合、処理を終了する。
(予測フレーム符号化部205の第1の実施形態)
図9は、図4の予測フレーム符号化部205の第1の実施形態の構成例を示すブロック図である。
図9の予測フレーム符号化部205は、入力端子241、ブロック化回路242、動きベクトル検出回路243、残差算出回路244、ソート処理回路245、回帰回路246、減算器247、ブロック符号化回路248、データ合成回路249、ローカルデコード部250、フレームメモリ251、および出力端子252により構成されている。
符号化選択回路202(図4)からのデジタル画像信号Vdg1は、入力端子241を介して、ブロック化回路242に供給される。
ブロック化回路242は、予測フレームの画像を、それぞれが所定の画素数を有する複数のブロックBL’に分割し、動きベクトル検出回路243および残差算出回路244に供給する。これにより、ブロック化回路242以降では、ブロック化回路242によって分割された複数のブロックBL’のそれぞれを注目ブロックBLc’として、処理が行われる。なお、本実施の形態では、ブロックBL’のサイズは、例えば、8×8画素(水平方向×垂直方向)であるとする。
動きベクトル検出回路243は、注目ブロックBLc’について、フレームメモリ251から供給される前フレームの画像(参照画像)から、注目ブロックBLc’の動きベクトルVcdmvを検出し、残差算出回路244およびデータ合成回路249に供給する。
残差算出回路244は、注目ブロックBLc’を構成する各画素の画素値と、前フレームの画像内の動きベクトルVcdmvが表すブロックBL’mv内の、注目ブロックBLc’を構成する各画素に対応する画素の画素値との残差(差分)を算出し、ソート処理回路245および減算器247に供給する。
ソート処理回路245は、残差算出回路244からの注目ブロックBLc’を構成する各画素の残差を、画素値の小さい順にソートし、ソートされた残差を回帰回路246に供給する。
回帰回路246は、ソートされた残差を直線として表す回帰式を演算する。この場合、後述するように、残差の最小値VcdminおよびダイナミックレンジVcddrが、回帰式の係数として得られる。回帰回路246は、回帰式の係数として得られる残差の最小値Vcdminを減算器247およびデータ合成回路249に、残差のダイナミックレンジVcddrをブロック符号化回路248およびデータ合成回路249に、それぞれ供給する。
減算器247は、残差算出回路244からの、注目ブロックBLc’を構成する各画素の残差から、残差の最小値Vcdminを減算し(残差の最小値Vcdmin分オフセットし)、その結果得られる差分データをブロック符号化回路248に供給する。
ブロック符号化回路248は、減算器247からの差分データを符号化し、その結果得られる符号化データVcdoをデータ合成回路249に供給する。
具体的には、ブロック符号化回路248は、減算器247からのダイナミックレンジVcddrに応じた量子化ステップ(量子化ビット数)で、減算器247からの差分データを量子化(符号化)する。
例えば、残差算出回路244の出力である残差が−255乃至255の値を取り得る場合、0< Vcddr <8のときの量子化ビット数nを0、9< Vcddr <26のときの量子化ビット数nを1、27< Vcddr <70のときの量子化ビット数nを2、71< Vcddr <206のときの量子化ビット数nを3、207< Vcddr <511のときの量子化ビット数nを4とするように、ダイナミックレンジVcddrが大きいほど量子化ビット数nを大きくなるように量子化ステップが決定される。なお、量子化ビット数は、固定とすることも可能である。
そして、ブロック符号化回路248では、ダイナミックレンジVcddrを2n分類するようにレベルの範囲が設定され、差分データが2n分類された、どのレベルの範囲に属するかによって、nビットのADRCコードが割り当てられる。この割り当てられたADRCコードが符号化データVcdoとして、データ合成回路228に供給される。
データ合成回路249は、1フレーム(予測フレーム)を構成する複数のブロックBL’それぞれの、動きベクトル検出回路243からの動きベクトルVcdmv、回帰回路246からの残差の最小値VcdminおよびダイナミックレンジVcddr、並びにブロック符号化回路248からの符号化データVcdoを合成し、符号化デジタル画像信号Vcd1としてローカルデコード部250および出力端子252に供給(出力)する。
ローカルデコード部250は、フレームメモリ251に記憶されている復号化デジタル画像信号による画像を用いて、データ合成回路249からの符号化デジタル画像信号Vcd1を復号化し、復号化デジタル画像信号としてフレームメモリ251に供給する(フレームメモリ251を更新する)。フレームメモリ251に記憶される復号化デジタル画像信号は、予測フレーム符号化部205が次の予測フレームのデジタル画像信号Vdg1を符号化する際の参照画像となる画像信号である。なお、ローカルデコード部250は、後述する予測フレーム復号化部274(図20)が有する構成の一部と同様の構成を有している。
フレームメモリ251は、動きベクトル検出回路243が上述した動きベクトルVcdmvを検出するために現フレームの画像との比較の対象となる参照画像を記憶する。ここで、参照画像は、現フレームより1フレーム前(所定時間前)の画像であり、前フレームの画像が基準フレームの画像である場合には、その画像信号が、ローカルデコード部204(図4)からフレームメモリ251に供給される。また、前フレームの画像が予測フレームの画像である場合には、その画像信号が、ローカルデコード部250からフレームメモリ251に供給される。
図10乃至図15を参照して、予測フレーム符号化部205の処理についてさらに説明する。
図10は、ブロック化回路242がデジタル画像信号Vdg1に対応する画像を複数のブロックBL’に分割した例を示している。
ブロック化回路242では、例えば、640×480画素などの所定の画素数を有する画像が、図10に示すように、8×8画素の複数のブロックBL’に分割される。そして、この複数のブロックBL’それぞれが、注目ブロックBLc’とされることになる。なお、図10における丸(○)は、画像を構成する各画素を表している。
動きベクトル検出回路243は、ブロック化回路242から供給される現フレームのブロックBL’の1つを注目ブロックBLc’とし、フレームメモリ251から供給される前フレームの画像に対して、サーチ範囲SRを設定する。ここで、サーチ範囲SRは、例えば、図11に示すように、前フレームの画像の注目ブロックBLc’と同一の位置BLP’から、左右(水平方向)および上下(垂直方向)に所定の画素数だけ大きい範囲とする。図11では、注目ブロックBLc’より左右および上下方向の両側にそれぞれ8画素だけ大きい範囲がサーチ範囲SRとされている。
そして、動きベクトル検出回路243は、図12に示すように、例えば、注目ブロックBLc’と、サーチ範囲SR内の注目ブロックBLc’と同一サイズを有するブロックとのブロックマッチングなどを行うことにより、注目ブロックBLc’の動きベクトルVcdmvを検出する。ブロックマッチングでは、例えば、注目ブロックBLc’とサーチ範囲SR内のブロックとの対応する画素どうしの画素値の差分絶対値の総和が最小となるサーチ範囲SR内のブロックがブロックBL’mvとして検出される
残差算出回路244は、注目ブロックBLc’と、動きベクトル検出回路243から供給される動きベクトルVcdmvによって特定されるブロックBL’mv(動きベクトル先のブロックBL’mvとも称する)との、対応する画素どうしの画素値の残差(差分)を算出する。
図13左上のマトリックスは、残差算出回路244で算出された、注目ブロックBLc’とブロックBL’mvとの残差を示している。
ソート処理回路245は、この64個の残差を、図13右上に示すように、その値が小さい順となるようにソートする。そして、ソート処理回路245は、重複している残差のデータを除去する。その結果、残差のデータの個数は、図13左下に示すように、28個(0乃至27のソート順)に削減されている。
さらに、ソート処理回路245は、横軸のソート順の値を正規化する。即ち、図13右下に示すように、ソート順の最小値(0)が0、最大値(27)が1となるように、0乃至27のソート順それぞれを変換する。
ソート処理回路245は、正規化されたソート順の順番と残差の組を回帰回路246に供給する。具体的には、ソート処理回路245は、重複が除去された後のすべての残差について、0乃至1の範囲内の値で表されるソート順をX、そのときの残差の値をYとするXとYの全ての組を回帰回路246に供給する。
回帰回路246は、図14に示すように、ソート処理回路245から供給されるXとYの組のデータ(残差)から、XY平面における1次の回帰式Y=aX+bを算出する。この場合、X軸は、上述したように、0乃至1の範囲に正規化されているため、得られる回帰式の係数aは、残差の最小値Vcdminを表し、係数bは、残差のダイナミックレンジVcddrを表すことになる。このようにして算出された残差の最小値Vcdminが減算器247およびデータ合成回路249に供給されるとともに、残差のダイナミックレンジVcddrがブロック符号化回路248およびデータ合成回路249に供給される。
なお、回帰式によって算出される残差の最小値VcdminおよびダイナミックレンジVcddrは、図14に示すように、実際の残差からそのまま算出した場合の最小値およびダイナミックレンジとは異なる場合が多い。
図15は、量子化ビット数nが2である場合の、ブロック符号化回路227における符号化(量子化)とそれに対応する復号化(逆量子化)を説明する図である。
量子化ビット数nが2である場合、ダイナミックレンジVcddrが4(=22)に分類されるようにレベルの範囲が設定され、差分データが4つに分類されたどの範囲に属するかによって、2ビットのADRCコードが割り当てられる。
即ち、差分データの最小値Min乃至閾値th1の最も下のレベルの範囲に差分データが属する場合、「00」のADRCコードが割り当てられる。また、閾値th1乃至th2の下から2番目のレベルの範囲に差分データが属する場合、「01」のADRCコードが割り当てられる。さらに、閾値th2乃至th3の下から3番目のレベルの範囲に差分データが属する場合、「10」のADRCコードが割り当てられる。そして、閾値th3乃至差分データの最大値Maxの最も上のレベルの範囲に差分データが属する場合に、「11」のADRCコードが割り当てられる。
なお、下から2番目のレベルの範囲および下から3番目のレベルの範囲それぞれのデータの幅は、最も下のレベルの範囲のデータの幅と、最も上のレベルの範囲のデータの幅とを合わせたデータの幅と等しくなっている。即ち、ダイナミックレンジVcddrが、下から2番目のレベルの範囲、下から3番目のレベルの範囲、および、最も下のレベルの範囲と最も上のレベルの範囲とを合わせた範囲で、3(=22−1)等分されるように4つのレベルの範囲に分類されている。
また、ブロック符号化回路248で用いられるダイナミックレンジVcddrは、回帰回路246で算出された回帰式から得られた値であり、実際の残差から算出した値ではないため、上述したように、差分データが最小値Minより小さいものや、最大値Maxより大きいものが存在する場合が考えられる。この場合、最小値Minより小さい差分データは、最小値Minに、最大値Maxより大きい差分データは、最大値Maxに置き換えられる。
後述する予測フレーム復号化部274のブロック復号化回路304(図20)では、「00」,「01」,「10」、または「11」のADRCコード(符号化データVcdo)は、それぞれ、ダイナミックレンジVcddrを3(=22−1)等分して得られる最も下のレベルの範囲の下限値L1、最も下のレベルの範囲と真ん中のレベルの範囲との境界値L2、真ん中のレベルの範囲と最も上のレベルの範囲との境界値L3、または最も上のレベルの範囲の上限値L4に、逆量子化される。
次に、図16のフローチャートを参照して、図9の予測フレーム符号化部205の予測フレーム符号化処理について説明する。
初めに、ステップS21において、ブロック化回路242は、入力端子241を介して符号化選択回路202から供給される、デジタル画像信号Vdg1に対応する1フレームの画像を、それぞれが8×8画素で構成される複数のブロックBL’に分割し、動きベクトル検出回路243および残差算出回路244に供給する。
ステップS22において、複数に分割されたブロックBL’のうちの1のブロックBL’が注目ブロックBLc’とされる。また、ステップS22において、動きベクトル検出回路243は、注目ブロックBLc’について、フレームメモリ251から供給される前フレームの画像から、注目ブロックBLc’の動きベクトルVcdmvを検出し、残差算出回路244およびデータ合成回路249に供給する。
ステップS23において、残差算出回路244は、注目ブロックBLc’を構成する各画素の画素値と、前フレームの画像内の動きベクトルVcdmvが表すブロックBL’mv(動きベクトル先のブロックBL’mv)内の、注目ブロックBLc’を構成する各画素に対応する画素の画素値との残差を算出し、ソート処理回路245および減算器247に供給する。
ステップS24において、ソート処理回路245は、残差算出回路244からの注目ブロックBLc’を構成する各画素の残差を小さい順にソートし、ソートされた残差を回帰回路246に供給する。
ステップS25において、回帰回路246は、ソートされた残差の回帰式を演算する。即ち、回帰回路246は、回帰式の係数aで表される残差の最小値Vcdmin、および回帰式の係数bで表される残差のダイナミックレンジVcddrを演算し、残差の最小値Vcdminを減算器247およびデータ合成回路249に、残差のダイナミックレンジVcddrをブロック符号化回路248およびデータ合成回路249に、それぞれ供給する。
ステップS26において、減算器247は、注目ブロックBLc’を構成する各画素の差分データを算出する。即ち、減算器247は、残差算出回路244からの、注目ブロックBLc’を構成する各画素の残差から、残差の最小値Vcdminを減算し、その結果得られる差分データをブロック符号化回路248に供給する。
ステップS27において、ブロック符号化回路248は、減算器247からの差分データを符号化し、その結果得られる符号化データVcdoをデータ合成回路249に供給する。
ステップS28において、データ合成回路249は、符号化選択回路202から供給された1フレームの画像を構成する全てのブロックBL’について処理したか、即ち、1フレームの画像の全てのブロックBL’を注目ブロックBLc’として上述したステップS22乃至S27の処理を行ったか否かを判定する。
ステップS28で、全てのブロックBL’について処理していないと判定された場合、ステップS22に戻り、まだ処理していないブロックBL’が注目ブロックBLc’とされる。そして、その注目ブロックBLc’に対して、ステップS22乃至S28の処理が繰り返される。
一方、ステップS28で、全てのブロックBL’について処理したと判定された場合、ステップS29に進み、データ合成回路249は、1フレーム分の符号化デジタル画像信号Vcd1をローカルデコード部250および出力端子252に供給(出力)する。
ステップS29の処理後、ステップS30に進み、予測フレーム符号化部205は、まだ処理するフレームの画像があるか、即ち、次に処理するフレームの画像が符号化選択回路202から供給されたか否かを判定する。
ステップS30で、まだ処理するフレームの画像があると判定された場合、ステップS31に進み、ローカルデコード部250は、符号化デジタル画像信号Vcd1をローカルデコードする。そして、ステップS32に進み、ローカルデコード部250は、符号化デジタル画像信号Vcd1をローカルデコードして得られる復号化デジタル画像信号をフレームメモリ251に記憶させて、ステップS21に戻る。なお、ステップS32において、次に(現フレームとして)予測フレーム符号化部205に入力される画像の1つ前のフレームの画像が基準フレームとなる場合には、その前フレームの画像は、ローカルデコード部204(図4)から供給されるため、予測フレーム符号化部205のローカルデコード部250は、復号化デジタル画像信号をフレームメモリ251に記憶させない。
一方、ステップS30で、処理するフレームの画像がないと判定された場合、即ち、次に処理するフレームの画像が符号化選択回路202から供給されない場合、処理を終了する。
以上のように、図16の予測フレーム符号化処理によれば、予測フレーム符号化部205は、予測フレームを構成する複数のブロックBL’それぞれを注目ブロックBLc’とし、注目ブロックBLc’と動きベクトル先のブロックBL’mvとの対応する画素の残差を算出する。そして、予測フレーム符号化部205は、残差の回帰式を求めて、注目ブロックBLc’の残差の最小値VcdminおよびダイナミックレンジVcddrを演算する。そして、予測フレーム符号化部205は、注目ブロックBLc’の差分データ(注目ブロックBLc’を構成する各画素の残差と残差の最小値Vcdminとの差分のデータ)を符号化する。
ここで、予測フレーム符号化部205において演算される、注目ブロックBLc’における残差の最小値VcdminおよびダイナミックレンジVcddは、注目ブロックBLc’の実際の残差の最小値およびダイナミックレンジとは異なる、いわば理想的な残差の最小値およびダイナミックレンジであると言える。従って、予測フレーム符号化処理では、ブロックBL’ごとに残差の特性に合わせた最適な(理想的な)符号化(量子化)を行うことができる。これにより、予測フレーム符号化部205の予測フレーム符号化処理によって符号化された符号化デジタル画像信号Vcd1を復号化したときの画像の画質の劣化は少ない(生じない)。
(復号化部155の実施形態)
図17は、図2の記録装置113における、復号化部155の構成例を示すブロック図である。
図17の復号化部155は、入力端子271、復号化選択回路272、基準フレーム復号化部273、予測フレーム復号化部274、および出力端子275により構成されている。
符号化部152(図2)からの符号化デジタル画像信号Vcd1は、入力端子271を介して、復号化選択回路272に供給される。この符号化デジタル画像信号Vcd1は、上述した符号化部152と同様に、基準フレームの画像と予測フレームの画像とに設定される。復号化選択回路272は、符号化デジタル画像信号Vcd1に対応する画像が基準フレームの画像である場合、入力端子271から供給される符号化デジタル画像信号Vcd1を基準フレーム復号化部273に供給し、符号化デジタル画像信号Vcd1に対応する画像が予測フレームの画像である場合、入力端子271から供給される符号化デジタル画像信号Vcd1を予測フレーム復号化部274に供給する。
基準フレーム復号化部273は、復号化選択回路272から供給される、基準フレームの符号化デジタル画像信号Vcd1を復号化し、それにより得られるデジタル画像信号を復号化デジタル画像信号Vdg2として予測フレーム復号化部274および出力端子275に供給する。
予測フレーム復号化部274は、復号化選択回路272から供給される、予測フレームの符号化デジタル画像信号Vcd1を復号化し、それにより得られるデジタル画像信号を復号化デジタル画像信号Vdg2として出力端子275に供給する。
(基準フレーム復号化部273の第1の実施形態)
図18は、図17の基準フレーム復号化部273の第1の実施形態の構成例を示すブロック図である。
図18の基準フレーム復号化部273は、入力端子291、データ分解回路292、ブロック復号化回路293、加算器294、ブロック分解回路295、および出力端子296により構成される。
復号化選択回路272(図17)からの符号化デジタル画像信号Vcd1は、入力端子291を介して、データ分解回路292に供給(入力)される。
データ分解回路292は、符号化デジタル画像信号Vcd1を、1フレームを構成する複数のブロックBLそれぞれの、ブロックBLを構成する画素の画素値のダイナミックレンジVcddrおよび最小値Vcdmin、並びに各画素の差分データが符号化された符号化データVcdoに分解し、取得する。
そして、データ分解回路292は、複数のブロックBLそれぞれの、画素値のダイナミックレンジVcddrおよび符号化データVcdoをブロック復号化回路293に供給するとともに、画素値の最小値Vcdminを加算器294に供給する。
これにより、データ分解回路292以降の、ブロック復号化回路293、加算器294、およびブロック分解回路295では、基準フレーム符号化部203と同様に、分解された複数のブロックBLのそれぞれを注目ブロックBLcとして、処理が行われる。
ブロック復号化回路293は、図7を参照して説明したように、注目ブロックBLcを構成する各画素について、画素値のダイナミックレンジVcddrに応じて注目ブロックBLcの符号化データVcdoを復号化(逆量子化)し、その結果得られる差分データを加算器294に供給する。
加算器294は、注目ブロックBLcを構成する各画素について、差分データと画素値の最小値Vcdminとを加算して、注目ブロックBLcを構成する各画素の出力画素値を得る。そして、加算器294は、注目ブロックBLcを構成する各画素の出力画素値をブロック分解回路295に供給する。
ブロック分解回路295は、加算器294から供給される注目ブロックBLcを構成する各画素の出力画素値を、複数のブロックBLに分割する前のフレーム上の位置(ラスター順)に戻し、分割された複数のブロックBLから1フレームの画像を構成する。そして、ブロック分解回路295は、1フレーム分の画像としての復号化デジタル画像信号Vdg2を出力端子296に供給する。出力端子296は、ブロック分解回路295からの復号化デジタル画像信号Vdg2を出力する。
次に、図19のフローチャートを参照して、基準フレーム復号化部273の基準フレーム復号化処理について説明する。
初めに、ステップS41において、データ分解回路292は、入力端子291を介して供給される符号化デジタル画像信号Vcd1を、1フレームを構成する複数のブロックBLそれぞれの、ブロックBLを構成する画素の画素値のダイナミックレンジVcddrおよび最小値Vcdmin、並びに差分データが符号化された符号化データVcdoに分解し、取得する。
また、ステップS41において、データ分解回路292は、複数のブロックBLそれぞれの、画素値のダイナミックレンジVcddrおよび符号化データVcdoをブロック復号化回路293に供給するとともに、画素値の最小値Vcdminを加算器294に供給する。
ステップS42において、複数に分解されたブロックBLのうちの1つのブロックBLが注目ブロックBLcとされる。また、ステップS42において、ブロック復号化回路293は、注目ブロックBLcを構成する各画素について、画素値のダイナミックレンジVcddrに応じて注目ブロックBLcの符号化データVcdoを復号化(逆量子化)し、その結果得られる差分データを加算器294に供給する。
ステップS43において、加算器294は、注目ブロックBLcを構成する各画素について、差分データと画素値の最小値Vcdminとを加算して、注目ブロックBLcを構成する各画素の出力画素値を得る。また、ステップS43において、加算器294は、注目ブロックBLcを構成する各画素の出力画素値をブロック分解回路295に供給する。
ステップS44において、ブロック分解回路295は、加算器294から供給される注目ブロックBLcを構成する各画素の出力画素値を、ブロックBLに分割する前のフレーム上の位置に戻す。
ステップS45において、ブロック分解回路295は、1フレームの画像を構成する全てのブロックBLについて処理したか、即ち、1フレームの画像の全てのブロックBLを注目ブロックBLcとして上述したステップS42乃至S44の処理を行ったか否かを判定する。
ステップS45で、全てのブロックBLについて処理していないと判定された場合、ステップS42に戻り、まだ処理していないブロックBLが注目ブロックBLcとされる。そして、その注目ブロックBLcに対して、ステップS42乃至S45の処理が繰り返される。
一方、ステップS45で、全てのブロックBLについて処理したと判定された場合、ステップS46に進み、ブロック分解回路295は、1フレーム分の復号化デジタル画像信号Vdg2を、出力端子296を介して出力する。
そして、ステップS47に進み、基準フレーム復号化部273は、まだ処理するフレームの画像があるか、即ち、次に処理するフレームの画像が復号化選択回路272から供給されたか否かを判定する。
ステップS47において、まだ処理するフレームの画像があると判定された場合、ステップS41に戻り、それ以降の処理が繰り返される。
一方、ステップS47において、処理するフレームの画像がないと判定された場合、即ち、次に処理するフレームの画像が復号化選択回路272から供給されない場合、処理を終了する。
(予測フレーム復号化部274の第1の実施形態)
図20は、図17の予測フレーム復号化部274の第1の実施形態の構成例を示すブロック図である。
図20の予測フレーム復号化部274は、入力端子301、データ分解回路302、動きベクトル先抽出回路303、ブロック復号化回路304、加算回路305および306、ブロック分解回路307、フレームメモリ308、並びに出力端子309により構成されている。
復号化選択回路272(図17)からの符号化デジタル画像信号Vcd1は、入力端子301を介して、データ分解回路302に供給(入力)される。
データ分解回路302は、符号化デジタル画像信号Vcd1を、1フレームを構成する複数のブロックBL’それぞれの、動きベクトルVcdmv、注目ブロックBLc’と動きベクトル先のブロックBL’mvとの対応する画素どうしの残差(差分)の最小値VcdminおよびダイナミックレンジVcddr、並びに符号化データVcdoに分解し、取得する。
そして、データ分解回路302は、複数のブロックBL’それぞれの、動きベクトルVcdmvを動きベクトル先抽出回路303に供給し、残差のダイナミックレンジVcddrと符号化データVcdoとをブロック復号化回路304に供給し、残差の最小値Vcdminを加算器305に供給する。
これにより、データ分解回路302以降の、動きベクトル先抽出回路303、ブロック復号化回路304、加算回路305および306、並びにブロック分解回路307では、予測フレーム符号化部205と同様に、分解された複数のブロックBL’のそれぞれを注目ブロックBLc’として、処理が行われる。
動きベクトル先抽出回路303は、フレームメモリ308に記憶されている前フレームの画像(参照画像)から、動きベクトルVcdmvによって特定されるブロックBL’mv(注目ブロックBLc’に対応する動きベクトル先のブロックBL’mv)を抽出し、加算器306に供給する。
ブロック復号化回路304は、図15を参照して説明したように、注目ブロックBLc’を構成する各画素について、残差のダイナミックレンジVcddrに応じて符号化データVcdoを復号化(逆量子化)し、その結果得られる差分データを加算器305に供給する。
加算器305は、注目ブロックBLc’を構成する各画素について、差分データと残差の最小値Vcdminとを加算して、その加算結果を加算器306に供給する。
加算器306は、注目ブロックBLc’を構成する各画素について、加算器305の加算結果(加算器305の出力)と、動きベクトル先のブロックBL’mvの、注目ブロックBLc’の画素と対応する画素の画素値とを加算して、注目ブロックBLc’を構成する各画素の出力画素値を得る。そして、加算器306は、注目ブロックBLc’を構成する各画素の出力画素値をブロック分解回路307に供給する。
ブロック分解回路307は、加算器306から供給される注目ブロックBLc’を構成する各画素の出力画素値を、複数のブロックBL’に分割する前のフレーム上の位置(ラスター順)に戻し、分割された複数のブロックBLから1フレームの画像を構成する。そして、ブロック分解回路295は、1フレーム分の画像としての復号化デジタル画像信号Vdg2を、フレームメモリ308および出力端子309に供給する。
フレームメモリ308は、動きベクトル先抽出回路303が動きベクトル先のブロックBL’mvを抽出するための参照画像(前フレームの画像)を記憶する。ここで、前フレームの画像が基準フレームの画像である場合には、その画像信号が、基準フレーム復号化部273(図17)からフレームメモリ308に供給される。また、前フレームの画像が予測フレームの画像である場合には、その画像信号が、ブロック分解回路307からフレームメモリ308に供給される。
出力端子309は、ブロック分解回路307からの復号化デジタル画像信号Vdg2を出力する。
なお、上述した図9のローカルデコード部250は、図20において点線で示されている、データ分解回路302、動きベクトル先抽出回路303、ブロック復号化回路304、加算回路305および306、並びにブロック分解回路307の構成と同様に構成されている。
次に、図21のフローチャートを参照して、図20の予測フレーム復号化部274の予測フレーム復号化処理について説明する。
初めに、ステップS61において、データ分解回路302は、入力端子301を介して供給される符号化デジタル画像信号Vcd1を、1フレームを構成する複数のブロックBL’それぞれの、ブロックBL’の動きベクトルVcdmv、残差の最小値VcdminおよびダイナミックレンジVcddr、並びに符号化データVcdoに分解して、取得する。
また、ステップS61において、データ分解回路302は、複数のブロックBL’それぞれの、動きベクトルVcdmvを動きベクトル先抽出回路303に供給し、残差のダイナミックレンジVcddrおよび符号化データVcdoをブロック復号化回路304に供給し、残差の最小値Vcdminを加算器305に供給する。
ステップS62において、複数のブロックBL’のうちの1のブロックBL’が注目ブロックBLc’とされる。また、ステップS62において、動きベクトル先抽出回路303は、フレームメモリ308に記憶されている前フレームの画像から、動きベクトルVcdmvによって特定されるブロックBL’mv(動きベクトル先のブロックBL’mv)を抽出し、加算器306に供給する。
ステップS63において、ブロック復号化回路304は、注目ブロックBLc’を構成する各画素について、残差のダイナミックレンジVcddrに応じて符号化データVcdoを復号化(逆量子化)し、その結果得られる各画素の差分データを加算器305に供給する。
ステップS64において、加算器305は、注目ブロックBLc’を構成する各画素について、差分データと残差の最小値Vcdminとを加算して、その加算結果を加算器306に供給する。
ステップS65において、加算器306は、注目ブロックBLc’を構成する各画素について、加算器305の加算結果と、動きベクトル先のブロックBL’mvの、注目ブロックBLc’の画素と対応する画素の画素値とを加算して、注目ブロックBLc’を構成する各画素の出力画素値を得る。また、ステップS65において、加算器306は、注目ブロックBLc’を構成する各画素の出力画素値をブロック分解回路307に供給する。
ステップS66において、ブロック分解回路307は、加算器306から供給される注目ブロックBLc’を構成する各画素の出力画素値を、複数のブロックBL’に分割する前のフレーム上の位置(ラスター順)に戻す。
ステップS67において、ブロック分解回路307は、1フレームの画像を構成する全てのブロックBL’について処理したか、即ち、1フレームの画像の全てのブロックBL’を注目ブロックBLc’として上述したステップS62乃至S66の処理を行ったか否かを判定する。
ステップS67で、全てのブロックBL’について処理していないと判定された場合、ステップS62に戻り、まだ処理していないブロックBL’が注目ブロックBLc’とされる。そして、その注目ブロックBLc’に対して、ステップS62乃至S67の処理が繰り返される。
一方、ステップS67で、全てのブロックBL’について処理したと判定された場合、ステップS68に進み、ブロック分解回路307は、1フレーム分の復号化デジタル画像信号Vdg2を出力端子309に供給(出力)する。
そして、ステップS69に進み、予測フレーム復号化部274は、まだ処理するフレームの画像があるか、即ち、次に処理するフレームの画像が復号化選択回路272から供給されたか否かを判定する。
ステップS69において、まだ処理するフレームの画像があると判定された場合、ステップS70に進み、ブロック分解回路307は、1フレーム分の復号化デジタル画像信号Vdg2を、フレームメモリ308に供給し、記憶させる。なお、次に(現フレームとして)予測フレーム復号化部274に入力される画像の1つ前のフレームの画像が基準フレームの画像となる場合には、その前フレームの画像(復号化デジタル画像信号Vdg2)は、基準フレーム復号化部273(図17)から供給されるため、ブロック分解回路307は、1フレーム分の復号化デジタル画像信号Vdg2をフレームメモリ308に供給しない。
一方、ステップS69において、処理するフレームの画像がないと判定された場合、即ち、次に処理するフレームが復号化選択回路272から供給されない場合、処理を終了する。
(基準フレーム符号化部203の第2の実施形態)
図22は、図4の基準フレーム符号化部203の第2の実施形態の構成例を示すブロック図である。
基準フレーム符号化部203は、入力端子221、ブロック化回路222、ソート順算出回路321、予測画素値生成回路322、減算器323、ブロック符号化回路324、データ合成回路325、および出力端子229により構成されている。
符号化選択回路202(図4)からのデジタル画像信号Vdg1は、入力端子221を介して、ブロック化回路222に供給される。
ブロック化回路222は、基準フレームの画像を、複数のブロックBL’に分割し、ソート順算出回路321および減算器323に供給する。これにより、ブロック化回路222以降では、ブロック化回路222が分割した複数のブロックBL’それぞれを注目ブロックBLc’として、処理が行われる。なお、本実施の形態では、ブロックBL’のサイズは、上述した実施の形態と同様に、例えば、8×8画素(水平方向×垂直方向)である。
ソート順算出回路321は、注目ブロックBLc’を構成する各画素を、画素値(入力画素値)の大きい順に並び換える。より詳しく言えば、ソート順算出回路321は、ブロック化回路222から供給されたときのラスター順に並んでいる注目ブロックBLc’を構成する各画素を、画素値の大きい順(ソート順)に並び換えるとともに、注目ブロックBLc’を構成する画素の画素値の最大値Vcdmaxおよび最小値Vcdmin(注目ブロックBLc’を構成する画素の特徴量を表すパラメータ)を算出する。また、ソート順算出回路321は、ソート順に並び換えられた各画素が、並び換えられる前の空間位相(以下、適宜、元の空間位相という)では(ラスター順では)、どこに存在していたかを表すソート順情報Vcdsを算出する。
ソート順算出回路321は、注目ブロックBLc’を構成する画素の画素値の最大値Vcdmaxおよび最小値Vcdminを予測回路331およびデータ合成回路325に供給し、注目ブロックBLc’のソート順情報Vcdsを逆ソート回路332およびデータ合成回路325に供給する。
予測画素値生成回路322は、予測回路331および逆ソート回路332により構成され、画素値の最大値Vcdmaxおよび最小値Vcdmin(パラメータ)、並びにソート順情報Vcdsに基づいて、ソートされる前の空間位相に配置された、注目ブロックBLc’を構成する各画素の予測画素値を算出(生成)する。
予測回路331には、上述したように、画素値の最大値Vcdmaxおよび最小値Vcdminがソート順算出回路321から供給される。予測回路331は、画素値の最大値Vcdmaxと最小値Vcdminとを用いて直線を算出し、その直線によって求められる画素値を注目ブロックBLc’を構成する各画素の予測画素値として、逆ソート回路332に供給する。なお、ここでは、注目ブロックBLc’を構成する各画素の予測画素値は、画素値の大きい順にソートされた状態となっている。
逆ソート回路332は、ソート順算出回路321からのソート順情報Vcdsに基づいて、予測回路331からの注目ブロックBLc’を構成する各画素の予測画素値を、元の空間位相(ラスター順)に並び換える(ソートされる前の空間位相に逆ソートする)。そして、逆ソート回路332は、元の空間位相に並び換えられた、注目ブロックBLc’を構成する各画素の予測画素値を減算器323に供給する。
減算器323は、注目ブロックBLc’を構成する各画素について、差分データを算出し、ブロック符号化回路324に供給する。即ち、減算器323は、注目ブロックBLc’を構成する各画素について、ブロック化回路222からの入力画素値から、逆ソート回路332からの予測画素値を減算し、その結果得られる差分データをブロック符号化回路324に供給する。
ブロック符号化回路324は、減算器323からの供給される、注目ブロックBLc’を構成する各画素の差分データを符号化し、符号化データVcdoをデータ合成回路325に供給する。
即ち、ブロック符号化回路324は、減算器146から供給される注目ブロックBLc’を構成する各画素の差分データに対して、DCT(Discrete Cosine Transform)変換を施し、その結果得られるDCT係数を量子化する。また、ブロック符号化回路324は、量子化されたDCT係数を、例えばハフマン符号などによるエントロピー符号化(可変長符号化)を行い、その結果得られる符号化データVcdoをデータ合成回路325に供給する。なお、ブロック符号化回路324は、後述するように、高周波成分を除去する符号化を行う。
データ合成回路325は、1フレーム(基準フレーム)を構成する複数のブロックBL’の、ソート順算出回路321からの画素値の最大値Vcdmax、画素値の最小値Vcdmin、ソート順情報Vcdsと、ブロック符号化回路324からの符号化データVcdoとを合成し、符号化デジタル画像信号Vcd1として出力端子229に供給する。
出力端子229は、データ合成回路325から供給される符号化デジタル画像信号Vcd1を出力する。
図23乃至図29を参照して、基準フレーム符号化部203の処理についてさらに説明する。
図23は、ブロック化回路222がデジタル画像信号Vdg1に対応する画像を複数のブロックBL’に分割した例を示している。
ブロック化回路222では、例えば、640×480画素などの所定の画素数を有する画像が、図23に示すように、8×8画素の複数のブロックBL’に分割される。この複数のブロックBL’のそれぞれが注目ブロックBLc’とされることになる。なお、図23における丸(○)は、画像を構成する各画素を表している。
図24および図25は、ソート順算出回路321が算出する、注目ブロックBLc’を構成する画素の画素値の最大値Vcdmaxおよび最小値Vcdmin、並びにソート順情報Vcdsを説明する図である。
ソート順算出回路321には、ラスター順に並んでいる注目ブロックBLc’の各画素の画素値が、ブロック化回路222から供給される。そこで、横軸を、ラスター順の0乃至63の順番で表す各画素の位置、縦軸を、その画素の画素値(入力画素値)として注目ブロックBLc’を構成する各画素の画素値をプロットすると、例えば、図24左側に示すようになる。
ソート順算出回路321は、入力画素値の大きい順に注目ブロックBLc’を構成する各画素を並び換える(ソートする)。この場合、横軸を各画素のソート順(0乃至63)、縦軸を入力画素値とする図24右側のグラフからわかるように、ソート順の0番目の入力画素値が、注目ブロックBLc’における入力画素値の最大値Vcdmaxとなり、ソート順の63番目の入力画素値が、注目ブロックBLc’における入力画素値の最小値Vcdminとなる。
また、ソート順算出回路321は、ソート順に並び換えられた各画素が、並び換えられる前の空間位相では(即ち、ラスター順では)、どこに存在していたかを表すソート順情報Vcdsを算出する。図24では、注目ブロックBLc’を構成する各画素の位置に、その画素のソート後の順番(ソート順)が記憶されるようにして、ソート順情報Vcdsが提供されるようになされている。
例えば、図24のソート順情報Vcdsにおいて四角で囲まれている、注目ブロックBLc’の一番左上角の位置の画素には、「40」のソート順が対応付けられており、元の空間位相でその位置にあった画素のソート順が、40番目であることを表している。また、図24のソート順情報Vcdsにおいて丸で囲まれている、注目ブロックBLc’の左上角の位置の画素から、右に4番目および下に2番目の位置の画素には、「0」のソート順が対応付けられており、元の空間位相において、その位置にあった画素のソート順が、0番目であることを表している。即ち、丸で囲まれている画素が、注目ブロックBLc’を構成する画素の画素値の最大値Vcdmaxを有する画素であることを表している。
従って、ソート順に並べ換えられた注目ブロックBLc’を構成する各画素は、図25に示すように、ソート順情報Vcdsを利用することにより、元の空間位相(ラスター順)に戻すことが可能となる。
予測回路331は、図26に示すように注目ブロックBLc’を構成する各画素をソートして得られる画素値の最大値Vcdmaxおよび最小値Vcdminを用いて直線を算出し、その直線によって求められる注目ブロックBLc’を構成する各画素の予測画素値を得る。
即ち、予測回路331は、図26に示すように、横軸を、注目ブロックBLc’を構成する各画素のソート順(0乃至63)とし、縦軸を、注目ブロックBLc’を構成する各画素の予測画素値とした場合に、画素値の最大値Vcdmaxをソート順の0番目の予測画素値に割り当て、画素値の最小値Vcdminをソート順の63番目の予測画素値に割り当てる。また、予測回路331は、ソート順が1乃至62番目の画素の予測画素値それぞれを、最大値Vcdmaxの点と最小値Vcdminの点との2点を結ぶ直線上の値とする。
即ち、予測回路31における、ソート順Si番目の予測画素値PSiは、次式で求められる。
PSi={Vcdmax×(N−1−Si)+Vcdmin×Si}/(N-1)
ここで、Nは、注目ブロックBLc’の総画素数(ここでは、64)を表す。
図26では、Vcdmax=238,Vcdmin=167であるので、例えば、ソート順0,1,・・・,62,63番目の予測画素値P0,P1,・・・,P62,P63は、それぞれ次のようになる。
P0={238×(63−0)+167×0}/63=238
P1={238×(63−1)+167×1}/63=237

P62={238×(63−62)+167×62}/63=168
P63={238×(63−63)+167×63}/63=167
以上のようにして算出される注目ブロックBLc’を構成する各画素の予測画素値が、逆ソート回路332に供給される。
逆ソート回路332は、図27に示すように、ソート順算出回路321からのソート順情報Vcdsに基づいて、予測回路331からの予測画素値を、元の空間位相(ラスター順)に並び換える。
図27下側に示す2次元波形は、予測回路331からのソート順に応じた予測画素値を、元の空間位相(ラスター順)に並び換えた、注目ブロックBLc’を構成する各画素の予測画素値の波形(以下、予測波形と称する)を示している。ここで、X軸は、注目ブロックBLc’を構成する画素の水平方向の位置を表し、Y軸は、注目ブロックBLc’を構成する画素の垂直方向の位置を表し、Z軸は、予測回路331により計算された予測画素値を表す。なお、図27下側の2次元波形では、例えば、ソート順情報Vcdsの左上角の位置にある画素は、左下角(座標(0,0))の位置に配置されており、注目ブロックBLc’を構成する各画素の配置が、図27右上に示すソート情報Vcdsの配置と異なっている。
逆ソート回路332で元の空間位相に並び換えられた注目ブロックBLc’を構成する各画素の予測画素値は、減算器323に供給される。
そして、減算器323において、注目ブロックBLc’を構成する各画素について、図28に示すように、ブロック化回路222が出力する入力画素値から、予測画素値が減算され、差分データとなる。この注目ブロックBLc’を構成する各画素の差分データがブロック符号化回路324に供給される。以下において、図28左上側に示される注目ブロックBLc’を構成する各画素の画素値で表される2次元波形を入力波形と称し、図28下側に示される注目ブロックBLc’を構成する各画素の差分データで表される2次元波形を差分波形と称する。
ブロック符号化回路324は、減算器323から供給される差分データを符号化し、その結果得られる符号化データVcdoをデータ合成回路325に供給する。
即ち、ブロック符号化回路324は、減算器323から供給される注目ブロックBLc’を構成する各画素の差分データに対して、DCT(Discrete Cosine Transform)変換を施し、その結果得られるDCT係数を量子化する。ここで、ブロック符号化回路324は、DCT係数の量子化を行う際、例えば、図29に示すような高周波成分を除去する量子化テーブルを用いて量子化を行う。
さらに、ブロック符号化回路324は、量子化されたDCT係数を、例えばハフマン符号などによるエントロピー符号化(可変長符号化)を行い、その結果得られる符号化データVcdoをデータ合成回路325に供給する。
次に、図30のフローチャートを参照して、図22の基準フレーム符号化部203の符号化処理について説明する。
初めに、ステップS81において、ブロック化回路222は、入力端子221を介して符号化選択回路202から供給される、デジタル画像信号Vdg1に対応する画像を、それぞれが8×8画素で構成される複数のブロックBL’に分割し、ソート順算出回路321および減算器323に供給する。
ステップS82において、ソート順算出回路321は、ブロック化回路222から供給された複数のブロックBL’のうちの1のブロックBL’を注目ブロックBLc’として、注目ブロックBLc’を構成する各画素を、画素値の大きい順にソートする。また、ステップS82において、ソート順算出回路321は、注目ブロックBLc’を構成する画素の画素値の最大値Vcdmaxおよび最小値Vcdmin、並びに注目ブロックBLc’のソート順情報Vcdsを算出する。算出された画素値の最大値Vcdmaxおよび最小値Vcdminは、予測回路331およびデータ合成回路325に供給され、ソート順情報Vcdsは、逆ソート回路332およびデータ合成回路325に供給される。
ステップS83において、予測回路331は、注目ブロックBLc’を構成する各画素について、画素値の最大値Vcdmaxと最小値Vcdminとを用いた直線により予測画素値を算出し、逆ソート回路332に供給する。
ステップS84において、逆ソート回路332は、注目ブロックBLc’を構成する各画素について、ソート順算出回路321からのソート順情報Vcdsに基づいて、予測回路331からの予測画素値を、元の空間位相(ラスター順)に並び換える(逆ソートする)。
ステップS85において、減算器323は、注目ブロックBLc’を構成する各画素について、ブロック化回路222からの入力画素値から、逆ソート回路332からの予測画素値を減算して、入力画素値と予測画素値との差分データを算出し、ブロック符号化回路324に供給する。
ステップS86において、ブロック符号化回路324は、減算器146から供給される、注目ブロックBLc’を構成する各画素の差分データを符号化し、その結果得られる符号化データVcdoを、データ合成回路325に供給する。即ち、ステップS86において、ブロック符号化回路324は、減算器146から供給される注目ブロックBLc’を構成する各画素の差分データに対して、DCT変換を施し、その結果得られるDCT係数を量子化する。また、ブロック符号化回路324は、量子化されたDCT係数を、例えばハフマン符号などによるエントロピー符号化(可変長符号化)を行い、その結果得られる符号化データVcdoをデータ合成回路325に供給する。
ステップS87において、基準フレーム符号化部203は、符号化選択回路202から供給された1フレームの画像を構成する全てのブロックBL’について処理したか、即ち、1フレームの画像の全てのブロックBL’を注目ブロックBLc’として上述したステップS82乃至S86の処理を行ったか否かを判定する。
ステップS87で、全てのブロックBL’について処理していないと判定された場合、ステップS82に戻り、まだ処理していないブロックBL’が注目ブロックBLc’とされる。そして、その注目ブロックBLc’に対して、ステップS82乃至S87の処理が繰り返される。
一方、ステップS87で、全てのブロックBL’について処理したと判定された場合、ステップS88に進み、データ合成回路325は、1フレーム分の符号化デジタル画像信号Vcd1を、出力端子229を介して出力する。
ステップS88の処理後、ステップS89に進み、基準フレーム符号化部203は、まだ処理するフレームの画像があるか、即ち、次に処理するフレームの画像が符号化選択回路202から供給されたか否かを判定する。
ステップS89で、まだ処理するフレームの画像があると判定された場合、ステップS81に戻り、それ以降の処理が繰り返される。
一方、ステップS89で、処理するフレームの画像がない、即ち、次に処理するフレームの画像が符号化選択回路202から供給されない場合、処理を終了する。
(予測フレーム符号化部205の第2の実施形態)
図31は、図4の予測フレーム符号化部205の第2の実施形態の構成例を示すブロック図である。
図31の予測フレーム符号化部205は、入力端子241、ブロック化回路242、動きベクトル検出回路243、残差算出回路244、フレームメモリ251、出力端子252、ADRC符号化部341、直交変換符号化部342、ADRCローカルデコード部343、直交変換ローカルデコード部344、符号化判定回路345、選択回路346、データ合成回路347、およびローカルデコード部348により構成されている。
図31の予測フレーム符号化部205において、図9で示した予測フレーム符号化部205と対応する部分については同一の符号を付してあり、その説明を適宜省略する。即ち、図31のブロック化回路242、動きベクトル検出回路243、残差算出回路244、フレームメモリ251、および出力端子252は、図9の予測フレーム符号化部205と同様に構成されている。
残差算出回路244では、注目ブロックBLc’を構成する各画素の画素値と、前フレームの画像内の動きベクトルVcdmvが表すブロックBL’mvの、注目ブロックBLc’を構成する各画素に対応する画素の画素値との残差が算出される。その残差が、ADRC符号化部341、直交変換符号化部342、および符号化判定回路345に供給される。
ADRC符号化部341は、残差算出回路244からの残差をADRC符号化方式による符号化を行い、残差が符号化された符号化データVcdo’をADRCローカルデコード部343および選択回路346に供給する。
直交変換符号化部342は、残差算出回路244からの残差をDCT変換またはDST(Discrete sine Transform)変換などの直交変換符号化方式による符号化を行い、残差が符号化された符号化データVcdo”を直交変換ローカルデコード部344および選択回路346に供給する。
ADRCローカルデコード部343は、ADRC符号化部341から供給される符号化データVcdo’を復号化し(ローカルデコードし)、その結果得られる復号化データ(残差)を符号化判定回路345に供給する。
直交変換ローカルデコード部344は、直交変換符号化部342から供給される符号化データVcdo”を復号化し(ローカルデコードし)、その結果得られる復号化データ(残差)を符号化判定回路345に供給する。
符号化判定回路345は、ADRCローカルデコード部343から供給される復号化データ(残差)と直交変換ローカルデコード部344から供給される復号化データ(残差)とを比較し、ADRC符号化方式と直交変換符号化方式のうちのどちらの符号化方式を採用するかを判定し、その判定結果を表す判定情報Vcdjgを選択回路346およびデータ合成回路347に供給する。
即ち、符号化判定回路345は、残差算出回路244からの注目ブロックBLc’を構成する各画素の残差と、各画素に対応するADRCローカルデコード部343によりデコードされた残差、または、直交変換ローカルデコード部344によりデコードされた残差とを比較して、符号化歪みの少ない符号化方式を採用する。そして、採用された符号化方式を表す判定情報Vcdjgが選択回路346およびデータ合成回路347に供給される。
選択回路346は、符号化判定回路345からの判定情報Vcdjgに基づいて、ADRC符号化部341の出力(符号化データVcdo’)、または、直交変換符号化部342の出力(符号化データ”)のいずれか一方を選択し、その出力を符号化データVcdoとして、データ合成回路347に供給する。
データ合成回路249は、上述した各ブロックにおいて1フレーム(予測フレーム)を構成する複数のブロックBL’それぞれを注目ブロックBLc’として処理することによって得られる、1フレームの画像の全てのブロックBL’の、動きベクトル検出回路243からの動きベクトルVcdmv、符号化判定回路345からの判定情報Vcdjg、および、選択回路346からの符号化データVcdoを合成し、その結果を1フレームの符号化デジタル画像信号Vcd1として、ローカルデコード部348および出力端子252に供給(出力)する。
ローカルデコード部348は、図9(予測フレーム符号化部205の第1の実施形態)のローカルデコード部250と同様に、フレームメモリ251に記憶されている復号化デジタル画像信号による参照画像を用いて、データ合成回路347からの符号化デジタル画像信号Vcd1を復号化し、復号化デジタル画像信号としてフレームメモリ251に供給する(フレームメモリ251を更新する)。なお、ローカルデコード部348は、後述する予測フレーム復号化部274(図37)が有する構成の一部と同様の構成を有している。
図32は、図31のADRC符号化部341の詳細な構成例を示すブロック図である。
図32のADRC符号化部341は、入力端子361、最大値検出回路362、最小値検出回路363、減算器364および365、ブロック符号化回路366、データ合成回路367、および出力端子368により構成されている。
入力端子361には、残差算出回路244(図31)から注目ブロックBLc’を構成する各画素の残差が入力される。入力端子361は、注目ブロックBLc’を構成する各画素の残差を最大値検出回路362、最小値検出回路363、および減算器365に供給する。
最大値検出回路362は、注目ブロックBLc’を構成する画素の残差の最大値Vblmaxを検出し、減算器225に供給する。また、最小値検出回路263は、注目ブロックBLc’を構成する画素の残差の最小値Vblminを検出し、減算器364および365、並びにデータ合成回路367に供給する。
減算器364は、残差の最大値Vblmaxから最小値Vblminを減算し、注目ブロックBLc’を構成する画素の残差のダイナミックレンジVbldr(=Vblmax−Vblmin)を算出し、ブロック符号化回路366およびデータ合成回路367に供給する。
減算器365は、入力端子361から供給される注目ブロックBLc’を構成する各画素の残差から、残差の最小値Vcdminをそれぞれ減算し、その結果得られる、注目ブロックBLc’を構成する各画素の残差データをブロック符号化回路366に供給する。
ブロック符号化回路366は、注目ブロックBLc’を構成する各画素について、減算器365からの残差データを符号化し、その結果得られる符号化データVbloをデータ合成回路367に供給する。換言すれば、ブロック符号化回路366は、注目ブロックBLc’を構成する各画素について、減算器364からのダイナミックレンジVbldrに応じた量子化ステップ(量子化ビット数)で、減算器365からの残差データを量子化する。
例えば、残差データが−255乃至255の値を取り得る場合、0< Vcddr <8のときの量子化ビット数nを0、9< Vcddr <26のときの量子化ビット数nを1、27< Vcddr <70のときの量子化ビット数nを2、71< Vcddr <206のときの量子化ビット数nを3、207< Vcddr <511のときの量子化ビット数nを4とするように、ダイナミックレンジVcddrが大きいほど量子化ビット数nを大きくなるように量子化ステップが決定される。なお、量子化ビット数は、固定とすることも可能である。
そして、ブロック符号化回路366では、図15を参照して上述したように、ダイナミックレンジVcddrを2n分類するようにレベルの範囲が設定され、残差データが2n分類された、どのレベルの範囲に属するかによって、nビットのADRCコードが割り当てられる。この割り当てられたADRCコードが、注目ブロックBLc’の符号化データVcdo’として出力端子368から出力される。
データ合成回路367は、注目ブロックBLc’の、減算器364からのダイナミックレンジVbldr、最小値検出回路363からの残差の最小値Vblmin、およびブロック符号化回路366からの符号化データVbloを合成し、符号化データVcdo’として出力端子229に供給する。
出力端子229は、データ合成回路228から供給される符号化データVcdo’を出力する。
以上のように構成されるADRC符号化部341では、注目ブロックBLc’を構成する各画素の残差を、ADRC符号化処理による符号化を行うことにより、符号化データVcdo’としてADRCローカルデコード部343および選択回路346に供給される。
図33は、例えば、DCT変換を行う直交変換符号化部342の詳細な構成例を示すブロック図である。
図33の直交変換符号化部342は、入力端子381、DCT回路382、量子化回路383、エントロピー符号化回路384、および出力端子385により構成されている。
入力端子381には、残差算出回路244(図31)から注目ブロックBLc’を構成する各画素の残差が入力される。入力端子381は、注目ブロックBLc’を構成する各画素の残差をDCT回路382に供給する。
DCT回路382は、注目ブロックBLc’を構成する各画素の残差に対して、直交変換としてのDCT変換を行うことにより、DCT係数を算出し、量子化回路383に供給する。
量子化回路383は、DCT回路382からのDCT係数を所定の量子化テーブルを用いて、量子化を行う。また、量子化回路383は、量子化されたDCT係数をエントロピー符号化回路384に供給する。ここで、量子化回路383は、DCT係数を量子化する場合、高周波成分を除去する量子化テーブルを採用する。
エントロピー符号化回路384は、量子化されたDCT係数を、例えば、ハフマン符号などによるエントロピー符号化(可変長符号化)を行い、その結果得られる符号化データVcdo”を出力端子385に供給する。
出力端子385は、エントロピー符号化回路384から供給される符号化データVcdo”を出力する。
以上のように構成される直交変換符号化部342では、残差算出回路244からの注目ブロックBLc’を構成する各画素の残差を、DCT変換またはDST(Discrete sine Transform)変換などの直交変換符号化方式による符号化を行うことにより、注目ブロックBLc’の符号化データVcdo”が直交変換ローカルデコード部344および選択回路346に供給される。
次に、図34のフローチャートを参照して、図31の予測フレーム符号化部205の予測フレーム符号化処理について説明する。
初めに、ステップS101において、ブロック化回路242は、入力端子241を介して符号化選択回路202から供給される、デジタル画像信号Vdg1に対応する1フレームの画像を、それぞれが8×8画素を有する複数のブロックBL’に分割し、動きベクトル検出回路243および残差算出回路244に供給する。
ステップS102において、複数に分割されたブロックBL’のうちの1のブロックBL’が注目ブロックBLc’とされる。また、ステップS102において、動きベクトル検出回路243は、注目ブロックBLc’について、フレームメモリ251から供給される前フレームの画像から、注目ブロックBLc’の動きベクトルVcdmvを検出し、残差算出回路244およびデータ合成回路347に供給する。
ステップS103において、残差算出回路244は、注目ブロックBLc’を構成する各画素の画素値と、前フレームの画像内の動きベクトルVcdmvが表すブロックBL’mv(動きベクトル先のブロックBL’mv)内の、注目ブロックBLc’を構成する各画素に対応する画素の画素値との残差を算出し、ADRC符号化部341、直交変換符号化部342、および符号化判定回路345に供給する。
ステップS104において、ADRC符号化部341は、残差算出回路244からの残差をADRC符号化する。ステップS104において残差が符号化された符号化データVcdo’は、ADRCローカルデコード部343および選択回路346に供給される。
ステップS105において、ADRCローカルデコード部343は、ADRC符号化部341から供給される符号化データVcdo’をローカルデコードする。ステップS105でローカルデコードされた復号化データ(残差)は、符号化判定回路345に供給される。
ステップS106において、直交変換符号化部342は、残差算出回路244からの残差をDCT変換などの直交変換符号化する。ステップS106において残差が符号化された符号化データVcdo”は、直交変換ローカルデコード部344および選択回路346に供給される。
ステップS107において、ADRCローカルデコード部343は、ADRC符号化部341から供給される符号化データVcdo’をローカルデコードする。ステップS107でローカルデコードされた復号化データ(残差)は、符号化判定回路345に供給される。
ステップS108において、符号化判定回路345は、ADRCローカルデコード部343から供給される復号化データと直交変換ローカルデコード部344から供給される復号化データとを比較し、ADRC符号化方式または直交変換符号化方式のうちの、より符号化歪みの少ない符号化方式を選択する。そして、符号化判定回路345は、より符号化歪みの少ない符号化方式を表す判定情報Vcdjgを選択回路346およびデータ合成回路347に供給して、ステップS109に進む。
ステップS109において、データ合成回路347は、符号化選択回路202(図4)から供給された1フレームの画像を構成する全てのブロックBL’について処理したか、即ち、1フレームの画像の全てのブロックBL’を注目ブロックBLc’として上述したステップS102乃至S108の処理を行ったか否かを判定する。
ステップS109で、全てのブロックBL’について処理していないと判定された場合、ステップS102に戻り、まだ処理していないブロックBL’が注目ブロックBLc’とされる。そして、その注目ブロックBLc’に対して、ステップS102乃至S109の処理が繰り返される。
一方、ステップS109で、全てのブロックBL’について処理したと判定された場合、ステップS110に進み、データ合成回路347は、1フレーム分の符号化デジタル画像信号Vcd1をローカルデコード部348および出力端子252に供給(出力)する。
ステップS110の処理後、ステップS111に進み、予測フレーム符号化部205は、まだ処理するフレームの画像があるか、即ち、次に処理するフレームの画像が符号化選択回路202から供給されたか否かを判定する。
ステップS111で、まだ処理するフレームの画像があると判定された場合、ステップS112に進み、ローカルデコード部348は、符号化デジタル画像信号Vcd1をローカルデコードする。そして、ステップS113に進み、ローカルデコード部348は、符号化デジタル画像信号Vcd1をローカルデコードして得られる復号化デジタル画像信号をフレームメモリ251に記憶させて、ステップS101に戻る。なお、ステップS113において、次に(現フレームとして)予測フレーム符号化部205に入力される画像の1つ前のフレームの画像が基準フレームとなる場合には、その前フレームの画像は、ローカルデコード部204(図4)から供給されるため、予測フレーム符号化部205のローカルデコード部348は、復号化デジタル画像信号をフレームメモリ251に記憶させない。
一方、ステップS111で、処理するフレームの画像がないと判定された場合、即ち、次に処理するフレームの画像が符号化選択回路202から供給されない場合、処理を終了する。
以上のように、図16の予測フレーム符号化処理によれば、予測フレーム符号化部205は、予測フレームを構成する複数のブロックBL’それぞれを注目ブロックBLc’とし、注目ブロックBLc’と動きベクトル先のブロックBL’mvとの対応する画素の画素値の残差を算出する。そして、予測フレーム符号化部205は、残差をADRC符号化および直交変換符号化(CDT変換符号化)するとともに、ADRC符号化および直交変換符号化により符号化された符号化データVcdo’およびVcdo”のそれぞれをローカルデコードする。そして、予測フレーム符号化部205は、ローカルデコードした結果から、ADRC符号化方式または直交変換符号化方式のうちの、より符号化歪みの少ない符号化方式を選択し、選択された符号化方式で符号化された符号化データを出力する。即ち、予測フレーム符号化処理では、ブロックBL’ごとに残差の特性に合わせた最適な符号化方式を選択し、符号化を行うことができる。
これにより、予測フレーム符号化部205の予測フレーム符号化処理によって符号化された符号化デジタル画像信号Vcd1を復号化したときの画質の劣化は少ない(生じない)。
(基準フレーム復号化部273の第2の実施形態)
図35は、図17の基準フレーム復号化部273の第2の実施形態の構成例を示すブロック図である。
図35の基準フレーム復号化部273は、入力端子401、データ分解回路402、予測画素値生成回路403、ブロック復号化回路404、加算器405、ブロック分解回路295、および出力端子296により構成されている。
復号化選択回路272(図17)からの符号化デジタル画像信号Vcd1は、入力端子401を介して、データ分解回路402に供給される。
データ分解回路402は、符号化デジタル画像信号Vcd1を、1フレームを構成する複数のブロックBL’それぞれの、画素値の最大値Vcdmaxおよび最小値Vcdmin、ソート順情報Vcds、並びに符号化データVcdoのそれぞれに分解し、取得する。そして、データ分解回路402は、複数のブロックBL’それぞれの、画素値の最大値Vcdmaxおよび最小値Vcdminと、ソート順情報Vcdsとを予測画素値生成回路403に供給し、符号化データVcdoをブロック復号化回路404に供給する。
これによりデータ分解回路402以降の、予測画素値生成回路403(予測回路411および逆ソート回路412)、ブロック復号化回路404、加算器405、およびブロック分解回路295では、基準フレーム符号化部203と同様に、分解された複数のブロックBL’のそれぞれを注目ブロックBLc’として、処理が行われる。
予測画素値生成回路403は、図22の基準フレーム符号化部203の予測画素値生成回路322の予測回路331および逆ソート回路332とそれぞれ同様の、予測回路411および逆ソート回路412を有し、データ分解回路402から供給される画素値の最大値Vcdmaxおよび最小値Vcdmin、並びにソート順情報Vcdsから、ソートされる前の空間位相に配置された、注目ブロックBLc’を構成する各画素の予測画素値を算出(生成)する。
即ち、予測回路411には、画素値の最大値Vcdmaxおよび最小値Vcdminがデータ分解回路402から供給される。予測回路411は、図26を参照して説明したように、画素値の最大値Vcdmaxと最小値Vcdminとを用いて直線を算出し、その直線によって求められる画素値を(画素値の大きさに応じてソートされている)予測画素値として、逆ソート回路412に供給する。
逆ソート回路412は、データ分解回路402からのソート順情報Vcdsに基づいて、予測回路411からの予測画素値を、元の空間位相(ラスター順)に並び換える(逆ソートする)。そして、逆ソート回路412は、元の空間位相に並び換えられた予測画素値を加算器405に供給する。
ブロック復号化回路404は、データ分解回路402からの符号化データVcdoを復号する。即ち、ブロック復号化回路404は、データ分解回路402からの符号化データVcdoを逆量子化し、逆量子化された符号化データVcdoに対し、逆DCT変換を施すことにより、注目ブロックBLc’を構成する各画素の差分データを算出し、加算器405に供給する。
加算器405は、注目ブロックBLc’を構成する各画素について、ブロック復号化回路404からの差分データと、逆ソート回路412からの予測画素値とを加算して、注目ブロックBLc’を構成する各画素の出力画素値を得る。そして、加算器405は、注目ブロックBLc’を構成する各画素の出力画素値をブロック分解回路295に供給する。
ブロック分解回路295は、加算器405から供給される注目ブロックBLc’を構成する各画素の出力画素値を、複数のブロックBL’に分割する前のフレーム上の位置(ラスター順)に戻し、分割された複数のブロックBL’から1フレームを構成する。そして、ブロック分解回路295は、1フレーム分の画像としての復号化デジタル画像信号Vdg2を出力端子296に供給する。出力端子296は、ブロック分解回路295からの復号化デジタル画像信号Vdg2を出力する。
次に、図36のフローチャートを参照して、図35の基準フレーム復号化部273の復号化処理を説明する。
初めに、ステップS131において、データ分解回路402は、入力端子401を介して供給される符号化デジタル画像信号Vcd1を、1フレームを構成する複数のブロックBL’それぞれの、画素値の最大値Vcdmaxおよび最小値Vcdmin、ソート順情報Vcds、並びに符号化データVcdoのそれぞれに分解し、取得する。また、ステップS131において、データ分解回路402は、複数のブロックBL’それぞれの、画素値の最大値Vcdmaxおよび最小値Vcdmin、並びにソート順情報Vcdsを予測画素値生成回路403に供給するとともに、符号化データVcdoをブロック復号化回路404に供給する。
ステップS132において、複数のブロックBL’のうちの1のブロックBL’が注目ブロックBLc’とされる。また、ステップS132において、予測回路411は、画素値の最大値Vcdmaxと最小値Vcdminとを用いて直線を算出し、その直線から、注目ブロックBLc’を構成する各画素の予測画素値を算出して、逆ソート回路412に供給する。
ステップS133において、逆ソート回路412は、ソート順情報Vcdsに基づいて、注目ブロックBLc’を構成する各画素の予測画素値を、元の空間位相(ラスター順)に並び換える(逆ソートする)。また、ステップS133において、逆ソート回路412は、元の空間位相に並び換えられた予測画素値を加算器405に供給する。
ステップS134において、ブロック復号化回路404は、符号化データVcdoを復号化し(逆量子化および逆DCT変換を施し)、注目ブロックBLc’を構成する各画素の差分データを算出する。ブロック復号化回路404は、算出された注目ブロックBLc’を構成する各画素の差分データを加算器405に供給する。
ステップS135において、加算器405は、注目ブロックBLc’を構成する各画素について、ブロック復号化回路404からの差分データと、逆ソート回路412からの予測画素値とを加算し、出力画素値としてブロック分解回路295に供給する。
ステップS136において、ブロック分解回路295は、加算器405から供給される、注目ブロックBLc’を構成する各画素の出力画素値を、複数のブロックBL’に分割する前のフレーム上の位置に戻す。
ステップS137において、復号化部155は、1フレームを構成する全てのブロックBL’について処理したか、即ち、1フレームの画像の全てのブロックBL’それぞれを注目ブロックBLc’としたか否かを判定する。ステップS137において、1フレームの画像の全てのブロックBL’について処理していないと判定された場合、ステップS132に戻り、まだ注目ブロックBLc’とされていないブロックBL’が注目ブロックBLc’とされ、ステップS132乃至S137の処理が繰り返される。
一方、ステップS137で、1フレームの画像の全てのブロックBL’について処理したと判定された場合、ステップS138に進み、ブロック分解回路295は、1フレーム分の復号化デジタル画像信号Vdg2を、出力端子296を介して出力する。
ステップS139において、復号部155は、まだ処理するフレームの画像があるか、即ち、次に処理するフレームの画像が符号化部152から供給されたか否かを判定する。
ステップS139において、まだ処理するフレームの画像があると判定された場合、ステップS131に戻り、それ以降の処理が繰り返される。
一方、ステップS139において、処理するフレームの画像がない、即ち、次に処理するフレームの画像が符号化部152から供給されない場合、処理を終了する。
(予測フレーム復号化部274の第2の実施形態)
図37は、図17の予測フレーム復号化部274の第2の実施形態の構成例を示すブロック図である。
図37の予測フレーム復号化部274は、入力端子431、データ分解回路432、動きベクトル先抽出回路303、選択回路434、ADRC復号化部435、直交変換復号化部436、加算回路306、ブロック分解回路307、フレームメモリ308、および出力端子309により構成されている。
ここで、図37の予測フレーム復号化部274において、図20で示した予測フレーム復号化部274と対応する部分については同一の符号を付してあり、その説明を適宜省略する。即ち、図37の動きベクトル先抽出回路303、加算回路306、ブロック分解回路307、フレームメモリ308、および出力端子309は、図20の予測フレーム復号化部274と同様に構成されている。
復号化選択回路272(図17)からの符号化デジタル画像信号Vcd1は、入力端子431を介して、データ分解回路432に供給される。
データ分解回路432は、符号化デジタル画像信号Vcd1を、1フレームを構成する複数のブロックBL’それぞれの、動きベクトルVcdmv、ADRC符号化方式または直交変換符号化方式のいずれか一方を表す判定情報Vcdjg、および符号化データVcdoに分解して、取得する。
そして、データ分解回路432は、複数のブロックBL’それぞれの、動きベクトルVcdmvを動きベクトル先抽出回路303に供給し、判定情報Vcdjgおよび符号化データVcdoを選択回路434に供給する。
これにより、データ分解回路432以降の、動きベクトル先抽出回路303、選択回路434、ADRC復号化部435、直交変換復号化部436、加算器306、およびブロック分解回路307では、予測フレーム符号化部205と同様に、複数のブロックBLのそれぞれを注目ブロックBLc’として、処理が行われる。
動きベクトル先抽出回路303は、注目ブロックBLc’について、フレームメモリ308に記憶されている前フレームの画像(参照画像)から、動きベクトルVcdmvによって特定されるブロックBL’mv(動きベクトル先のブロックBL’mv)を抽出し、加算器306に供給する。
選択回路434は、判定情報Vcdjgに応じて、ADRC復号化部435または直交変換復号化部436を選択する。即ち、選択回路434は、判定情報VcdjgがADRC符号化方式を表す場合、データ分解回路432から判定情報Vcdjgと同時に供給される、注目ブロックBLc’の符号化データVcdoがADRC復号化部435に供給されるようする。また、選択回路434は、判定情報Vcdjgが直交変換符号化方式を表す場合、データ分解回路432から判定情報Vcdjgと同時に供給される、注目ブロックBLc’の符号化データVcdoが直交変換復号化部436に供給されるようする。
ADRC復号化部435は、選択回路434を介して、データ分解回路432から供給される符号化データVcdoを復号化する。ここでは、図31のADRC符号化処理に対応する復号化が行われる。これにより、注目ブロックBLc’と動きベクトル先のブロックBL’mvとの各画素の残差が得られる。
直交変換復号化部436は、選択回路434を介して、データ分解回路432から供給される符号化データVcdoを復号化する。ここで、図31の直交変換符号化処理に対応する復号化が行われる。これにより、注目ブロックBLc’と動きベクトル先のブロックBL’mvとの各画素の残差が得られる。
ADRC復号化部435または直交変換復号化部436で得られた、注目ブロックBLc’と動きベクトルVcdmv先のブロックBL’mvとの各画素の残差は、加算器306に供給される。
加算器306は、注目ブロックBLc’を構成する各画素について、ADRC復号化部435または直交変換復号化部436からの残差と、動きベクトル先のブロックBL’mvの画素値とを加算して、注目ブロックBLc’を構成する各画素の出力画素値を得る。そして、加算器306は、注目ブロックBLc’を構成する各画素の出力画素値をブロック分解回路307に供給する。
ブロック分解回路307は、加算器306から供給される注目ブロックBLc’を構成する各画素の出力画素値を、複数のブロックBL’に分割する前のフレーム上の位置(ラスター順)に戻し、分割された複数のブロックBL’から1フレームの画像を構成する。そして、ブロック分解回路307は、1フレーム分の画像としての復号化デジタル画像信号Vdg2を、フレームメモリ308および出力端子309に供給する。
なお、上述した図31のローカルデコード部348は、図37において点線で示されている、データ分解回路432、動きベクトル先抽出回路303、選択回路434、ADRC復号化部435、直交変換復号化部436、加算回路306、並びにブロック分解回路307の構成と同様に構成されている。
図38は、図37のADRC復号化部435の詳細な構成例を示すブロック図である。
図38のADRC復号化部435は、入力端子451、データ分解回路452、ブロック復号化回路453、加算器454、および出力端子455により構成されている。
データ分解回路452は、入力端子451を介して、ADRC符号化方式(ADRC符号化処理)により符号化された、注目ブロックBLc’の符号化データVcdo(Vcdo’)を、注目ブロックBLc’を構成する画素の残差のダイナミックレンジVbldrおよび最小値Vblmin、並びに注目ブロックBLc’を構成する各画素の残差データが符号化された符号化データVbloに分解し、取得する。
そして、データ分解回路452は、残差のダイナミックレンジVbldrおよび符号化データVbloをブロック復号化回路453に供給するとともに、残差の最小値Vblminを加算器454に供給する。
ブロック復号化回路453は、図15を参照して説明したように、注目ブロックBLc’を構成する各画素について、残差のダイナミックレンジVbldrに応じて符号化データVbloを復号化(逆量子化)し、その結果得られる注目ブロックBLc’を構成する各画素の残差データを加算器454に供給する。
加算器454は、注目ブロックBLc’を構成する各画素について、残差データと残差の最小値Vblminとを加算して、注目ブロックBLc’を構成する各画素の残差(注目ブロックBLc’と動きベクトル先のブロックBL’mvとの各画素の残差)を得る。そして、加算器454は、注目ブロックBLc’を構成する各画素の残差を出力端子455に供給する。出力端子455は、注目ブロックBLc’を構成する各画素の残差を出力する。
以上のように構成されるADRC復号化部435では、符号化データVcdoを復号化することより、注目ブロックBLc’を構成する各画素の残差(注目ブロックBLc’と動きベクトル先のブロックBL’mvとの各画素の残差)が得られる。
図39は、図37の直交変換復号化部436の詳細な構成例を示すブロック図である。
図39の直交変換復号化部436は、出力端子471、エントロピー復号化回路472、逆量子化回路473、逆DCT回路474、および出力端子475により構成される。
エントロピー復号化回路472は、入力端子471を介して、直交変換符号化方式(直交変換符号化処理)により符号化され、例えば、ハフマン符号などで表された、注目ブロックBLc’を構成する各画素の残差が符号化された符号化データVcdo(Vcdo”)を、エントロピー復号化し、その結果得られる量子化されたDCT係数を逆量子化回路473に供給する。
逆量子化回路473は、エントロピー復号化回路472からの量子化されたDCT係数の逆量子化を行う。そして、逆量子化回路473は、逆量子化により得られるDCT係数を逆DCT回路474に供給する。
逆DCT回路474は、逆量子化回路473からのDCT係数の逆DCT変換を行うことにより、注目ブロックBLc’を構成する各画素の残差(注目ブロックBLc’と動きベクトル先のブロックBL’mvとの各画素の残差)を算出し、出力端子475に供給する。出力端子475は、注目ブロックBLc’を構成する各画素の残差を出力する。
以上のように構成される直交変換復号化部436では、符号化データVcdoを復号化することにより、注目ブロックBLc’を構成する各画素の残差(注目ブロックBLc’と動きベクトル先のブロックBL’mvとの各画素の残差)が得られる。
次に、図40のフローチャートを参照して、図37の予測フレーム復号化部274の予測フレーム復号化処理について説明する。
初めに、ステップS151において、データ分解回路432は、入力端子431を介して供給される符号化デジタル画像信号Vcd1を、1フレームを構成する複数のブロックBL’それぞれの、動きベクトルVcdmv、ADRC符号化方式または直交変換符号化方式のいずれか一方を表す判定情報Vcdjg、および符号化データVcdoに分解し、取得する。
また、ステップS151において、データ分解回路432は、複数のブロックBL’それぞれの、動きベクトルVcdmvを動きベクトル先抽出回路303に供給し、判定情報Vcdjgおよび符号化データVcdoを選択回路434に供給する。
ステップS152において、複数に分解されたブロックBL’のうちの1のブロックBL’が注目ブロックBLc’とされる。また、ステップS152において、動きベクトル先抽出回路303は、フレームメモリ308に記憶されている前フレームの画像から、動きベクトルVcdmvによって特定されるブロックBL’mv(動きベクトル先のブロックBL’mv)を抽出し、加算器306に供給する。
ステップS153において、選択回路434は、判定情報Vcdjgに応じて、ADRC復号化部435または直交変換復号化部436(復号化方式)を選択する。
ステップS154において、選択回路434により選択され、符号化データVcdoが供給されたADRC復号化部435または直交変換復号化部436は、符号化データVcdoを復号化する。そして、ADRC復号化部435または直交変換復号化部436は、復号化した結果得られる、注目ブロックBLc’を構成する各画素の残差(注目ブロックBLc’と動きベクトルVcdmv先のブロックBL’mvとの各画素の残差)を加算器306に供給する。
ステップS155において、加算器306は、注目ブロックBLc’を構成する各画素について、ADRC復号化部435または直交変換復号化部436からの残差と、動きベクトル先のブロックBL’mvの画素値とを加算して、注目ブロックBLc’を構成する各画素の出力画素値を得る。また、ステップS155において、加算器306は、注目ブロックBLc’を構成する各画素の出力画素値をブロック分解回路307に供給する。
ステップS156において、ブロック分解回路307は、加算器306から供給される注目ブロックBLc’を構成する各画素の出力画素値を、複数のブロックBL’に分割する前のフレーム上の位置(ラスター順)に戻す。
ステップS157において、ブロック分解回路307は、1フレームの画像を構成する全てのブロックBL’について処理したか、即ち、1フレームの画像の全てのブロックBL’を注目ブロックBLc’として上述したステップS152乃至S156の処理を行ったか否かを判定する。
ステップS157で、全てのブロックBL’について処理していないと判定された場合、ステップS152に戻り、まだ処理していないブロックBL’が注目ブロックBLc’とされる。そして、その注目ブロックBLc’に対して、ステップS152乃至S157の処理が繰り返される。
一方、ステップS157で、全てのブロックBL’について処理したと判定された場合、ステップS158に進み、ブロック分解回路307は、1フレーム分の復号化デジタル画像信号Vdg2を出力端子309に供給(出力)する。
そして、ステップS159に進み、予測フレーム復号化部274は、まだ処理するフレームの画像があるか、即ち、次に処理するフレームの画像が復号化選択回路272から供給されたか否かを判定する。
ステップS159において、まだ処理するフレームの画像があると判定された場合、ステップS160に進み、ブロック分解回路307は、1フレーム分の復号化デジタル画像信号Vdg2を、フレームメモリ308に供給し、記憶させる。なお、次に(現フレームとして)予測フレーム復号化部274に入力される画像の1つ前のフレームの画像が基準フレームの画像となる場合には、その画像信号が基準フレーム復号化部273(図17)から供給されるため、ブロック分解回路307は、1フレーム分の復号化デジタル画像信号Vdg2をフレームメモリ308に供給しない。
一方、ステップS159において、処理するフレームの画像がないと判定された場合、即ち、次に処理するフレームが復号化選択回路272から供給されない場合、処理を終了する。
次に、図41のフローチャートを参照して、図2の記録装置113による、再生装置111から出力されるアナログ画像信号Van1を利用して、画像信号を記録媒体122に記録する(コピーする)とともに、記録媒体122に記録された符号化デジタル画像信号Vcd1が所定の再生装置において、復号化されてディスプレイに表示されるときの画像をディスプレイ143で確認する記録確認処理について説明する。
初めに、ステップS171において、A/D変換部151は、入力されたアナログ画像信号Van1をデジタル信号に変換し、その結果得られるデジタル画像信号Vdg1を符号化部152に供給する。
ステップS172において、符号化部152の符号化選択回路202は、図3を参照して上述したように、A/D変換部151から供給されたデジタル画像信号Vdg1に対応するフレーム単位の画像を基準フレームまたは予測フレームの画像に設定する。また、ステップS172において、符号化選択回路202は、その画像が基準フレームに設定された画像であるか否かを判定する。
ステップS172で、画像が基準フレームに設定された画像であると判定された場合、ステップS173に進み、符号化選択回路202は、そのデジタル画像信号Vdg1を基準フレーム符号化部203に供給する。
そして、ステップS174において、基準フレーム符号化部203は、A/D変換部151からの基準フレームのデジタル画像信号Vdg1を符号化し、その結果得られる符号化デジタル画像信号Vcd1を、符号化部152のローカルデコード部204、媒体記録部153、および再生部142(の復号化部155)に供給する。
ステップS175において、符号化部152のローカルデコード部204は、デジタル画像信号Vdg1をローカルデコードして、予測フレーム符号化部205に供給する。
一方、ステップS172で、画像が予測フレームに設定された画像であると判定された場合、ステップS176に進み、符号化選択回路202は、そのデジタル画像信号Vdg1を予測フレーム符号化部205に供給する。
そして、ステップS177において、予測フレーム符号化部205は、A/D変換部151からの予測フレームのデジタル画像信号Vdg1を符号化し、その結果得られる符号化デジタル画像信号Vcd1を、媒体記録部153および再生部142(の復号化部155)に供給する。
ステップS175またはS177の処理後、ステップS178において、媒体記録部153は、符号化部152からの符号化デジタル画像信号Vcd1を記録媒体122に記録する。
ステップS179において、復号化部155の復号化選択回路272は、符号化部152の符号化選択回路202と同様に、符号化部152から供給された符号化デジタル画像信号Vcd1に対応するフレーム単位の画像を取得し、基準フレームまたは予測フレームの画像に設定する。また、ステップS179において、復号化選択回路272は、その画像が基準フレームに設定された画像であるか否かを判定する。
ステップS179で、画像が基準フレームに設定された画像であると判定された場合、ステップS180に進み、復号化選択回路272は、その符号化デジタル画像信号Vcd1を基準フレーム復号化部273に供給する。
ステップS181において、基準フレーム復号化部273は、符号化部152からの符号化デジタル画像信号Vcd1を復号化し、その結果得られる復号化デジタル画像信号Vdg2を予測フレーム復号化部274およびD/A変換部156に供給する。
一方、ステップS179で、画像が予測フレームに設定された画像であると判定された場合、ステップS182に進み、復号化選択回路272は、その符号化デジタル画像信号Vcd1を予測フレーム復号化部274に供給する。
ステップS183において、予測フレーム復号化部274は、符号化部152からの符号化デジタル画像信号Vcd1を復号化し、その結果得られる復号化デジタル画像信号Vdg2をD/A変換部156に供給する。
ステップS181またはS183の処理後、ステップS184において、D/A変換部156は、復号化部155から供給された復号化デジタル画像信号Vdg2をアナログ信号に変換し、その結果得られるアナログ画像信号Van2をディスプレイ143に出力する。
ステップS185において、ディスプレイ143は、D/A変換部156からのアナログ画像信号Van2に対応する画像を表示する。
以上のようにして、再生装置111で再生され、出力されたアナログ歪みを伴うアナログ画像信号Van1がデジタル画像信号Vdg1にA/D変換され、そのデジタル画像信号Vdg1が、フレームごとに基準フレームまたは予測フレームに設定される。そして、基準フレームまたは予測フレームに応じたデジタル画像信号Vdg1の符号化が行われ、記録媒体122に記録される。即ち、アナログ歪みを伴うアナログ画像信号Van1に基づくコピーが行われる。
ここで、再生装置111から出力されるアナログ歪みを伴うアナログ画像信号Van1は、記録媒体121に記録されている符号化デジタル画像信号が復号化部131で復号化されて、出力される信号である。即ち、再生装置111から出力されるアナログ歪みを伴うアナログ画像信号Van1は、1回目の符号化および復号化が行われた信号である。
また、1回目の符号化および復号化が行われたアナログ画像信号Van1に基づいてコピーされ、記録媒体122に記録された符号化デジタル画像信号Vcd1が、再生装置111において再生(復号化)され、出力された場合、再生装置111から出力されることになるアナログ画像信号は、再生部142から出力されるアナログ画像信号Van2と同様に、2回目の符号化および復号化が行われた信号となる。
この場合、基準フレームのデジタル画像信号Vdg1に対して、2回目の符号化および復号化が行われた復号化デジタル画像信号Vdg2は、コピー元の記録媒体121から再生された信号である、1回目の符号化および復号化が行われた復号化デジタル画像信号Vdg0に比べて、画質が大幅に劣化したものとなる。
そこで、図42乃至図48を参照して、基準フレームのデジタル画像信号Vdg1に対する、1回目の符号化および復号化に対する、2回目の符号化および復号化の画質の劣化について説明する。
図42を参照して、基準フレーム符号化部203および基準フレーム復号化部273の第1の実施形態による、2回目の符号化および復号化による画質の劣化について説明する。
基準フレーム符号化部203および基準フレーム復号化部273の第1の実施形態によれば、図42に示すように、1回目の復号化後のブロックBL(基準フレームを構成する所定のブロックBL)を構成する画素の画素値のダイナミックレンジDR’は、1回目の符号化前のブロックBLを構成する画素の画素値のダイナミックレンジDRより小さくなる(1回目の符号化前のブロックBLを構成する画素の画素値の最大値MAXおよび最小値MINが、1回目の復号化後には、最大値MAX’およびMIN’にそれぞれ変更される)。
これにより、2回目のデジタル画像信号Vdg1の符号化において、ブロックBLを構成する各画素を量子化した際に、新たな量子化歪みが発生するとともに、2回目の復号化後のブロックBLを構成する画素の画素値のダイナミックレンジも、図42で示す1回目の復号化後と同様に、2回目の符号化前のダイナミックレンジよりさらに小さくなるため、2回目の符号化により符号化された符号化デジタル画像信号Vcd1を復号した復号化デジタル画像信号Vdg2は、1回目の符号化および復号化が行われた復号化デジタル画像信号Vdg0に比べて、画質が大幅に劣化したものとなる。
上述したように、2回目の復号化後のブロックBLを構成する画素の画素値のダイナミックレンジも、図42で示す1回目の復号化後と同様に、2回目の符号化前のダイナミックレンジよりさらに小さくなるため、3回目の符号化および復号化後の復号化デジタル画像信号は、2回目の符号化および復号化後の復号化デジタル画像信号Vdg2に比べて、さらに画質が劣化したものとなる。
これに対して、予測フレーム符号化部205および予測フレーム復号化部274の第1の実施形態では、上述したように、1回目および2回目のいずれの符号化においても、ブロックBL’ごとに残差の特性に合わせた最適な符号化を行うため、予測フレーム符号化部205において符号化された符号化デジタル画像信号Vcd1を復号化したときの画質の劣化は少ない(生じない)。
次に、図43乃至図48を参照して、基準フレーム符号化部203および基準フレーム復号化部273の第2の実施形態による、2回目の符号化および復号化による画質の劣化について説明する。
図43左側は、1回目の符号化前の基準フレーム内の所定のブロックBLの差分波形を示しており、図43右側は、そのブロックBLの差分波形を符号化してから、復号化された後の差分波形を示している。即ち、図43右側に示す差分波形が1回目の符号化および復号化を行った後の差分波形(ブロックBLを構成する各画素の差分データ)を示している。
1回目の符号化および復号化では、図43に示すように、ブロックBLの差分波形に大きな変化(歪み)は見られない。従って、1回目の符号化および復号化では、符号化歪み(量子化歪み)による僅かな歪みが生じるものの、基本的にはデジタル画像信号の劣化は起こらない。また、このことは、見方を変えれば、基準フレーム符号化部203および基準フレーム復号化部273を用いてデジタル画像信号のままコピーをする場合には、画質の劣化が発生しない(画質の劣化を防止することができる)とも言える。
図43左側と同一の、図44右上側に示す復号化後のブロックBLの差分波形が、基準フレーム復号化部273において、予測画素値生成回路403によるブロックBLの予測波形(図44左上側)と加算器405で加算され、出力波形(図44下側)となって出力される。図44下側に示すブロックBLの出力波形が、再生装置111の復号化部131から出力されるブロックBLの復号化デジタル画像信号Vdg0に相当する。
再生装置111では、復号化デジタル画像信号Vdg0が、アナログ信号に変換されたときのアナログ歪みを伴うアナログ画像信号Van1として出力される。そして、記録装置113において、アナログ画像信号Van1がデジタル信号に変換されたデジタル画像信号Vdg1が、基準フレーム符号化部203で符号化される。
基準フレーム符号化部203は、1回目の符号化と同様の符号化を行うものの、デジタル画像信号Vdg1がアナログ歪みと1回目の符号化歪みによって、ソート順算出回路163において算出されるソート順情報Vcds(ソート順)が、1回目のソート順情報Vcds(ソート順)と大きく異なるものとなる。
図45は、2回目の符号化において、ソート順算出回路321で求められたブロックBLを構成する画素の画素値の最大値Vcdmax、最小値Vcdmin、およびブロックBLのソート順情報Vcdsに基づく、予測画素値生成回路322の処理結果を示した図である。
図45に示すブロックBLのソート順情報Vcdsにおいて、例えば、丸の点線で示されているソート順が「39」番目の画素の左隣には、ソート順が「1」番目の画素が配置され、丸の点線で示されているソート順が「39」番目の画素の右隣には、ソート順が「2」番目の画素が配置されている。これは、ソート順が「39」番目の画素と両隣の画素は、ソート順が大きく異なることを表している。ある画素の画素値と、その画素の近傍の画素の画素値の間には相関があり、ソート順において大きな変化が少ないのが一般的である。しかしながら、アナログ歪みと1回目の符号化歪みによって、2回目の符号化におけるソート順情報Vcds(ソート順)が、1回目のソート順情報Vcds(ソート順)と大きく異なるようになり、丸の点線で示されている画素のように、近傍の画素のソート順との差が大きい画素が発生する。なお、図45のソート順情報Vcdsにおいて、例えば、四角の点線で示されているソート順が「43」番目の画素や、「4」番目の画素も、近傍の画素のソート順との差が大きい画素となっている。これにより、符号化部152の予測画素値生成回路164において生成される予測波形は、図45下側に示すように、ギザギザしたような高周波成分を有する波形となる。
そして、図45下側と同一の、図46右上側示す予測波形が、ブロックBLの入力波形(図46左上側)から減算され、ブロックBLの差分波形(図46下側)となる。入力波形から予測波形が減算された差分波形は、予測波形の高周波成分が残るため、同様に、高周波成分を有する波形となる。
しかしながら、基準フレーム符号化部203のブロック符号化回路324における符号化は、上述したように高周波成分を除去する符号化を行うため、図47に示すように、高周波成分を有する符号化前のブロックBLの差分波形(図47左側)を符号化し、さらにそれを復号化した場合、復号化後のブロックBLの差分波形は、図47右側に示すように、大きく歪んだ(高周波成分が除去された)波形となる。
従って、図48に示すように、2回目の復号化において、ブロックBLの予測波形(図48左上側)と、復号化後のブロックBLの差分波形(図48右上側)とを加算して得られるブロックBLの出力波形も大きく歪んだ波形となる。即ち、図44に示した1回目のブロックBLの出力波形と比較して、2回目のブロックBLの出力波形(図48下側)は、大きく歪んだ波形となり、画質が劣化したものとなる。
以上のように、コピーされた記録媒体122から再生された信号である、2回目の符号化および復号化が行われた基準フレームの復号化デジタル画像信号Vdg2は、コピー元の記録媒体121から再生された信号である、1回目の符号化および復号化が行われた基準フレームの復号化デジタル画像信号Vdg0に比べて、画質が大幅に劣化したものとなる。
なお、再生装置111から出力されるアナログ画像信号Van1が2回目の符号化および復号化が行われた信号である場合には、次にコピーされた記録媒体122から再生される信号は、3回目の符号化および復号化が行われたアナログ画像信号Van2となり、その画像は、より一層劣化したものとなる。即ち、符号化および復号化を繰り返す度に、記録媒体122に記録される画像信号による画質が劣化していくことになる。
これに対して、予測フレーム符号化部205および予測フレーム復号化部274の第2の実施形態では、上述したように、1回目および2回目のいずれの符号化においても、ブロックBL(BL’)ごとに残差の特性に合わせた最適な符号化方式を選択し、符号化を行うため、予測フレーム符号化部205において符号化された符号化デジタル画像信号Vcd1を復号化したときの画質の劣化は少ない(生じない)。
従って、図49に示すように、2回目の符号化および復号化を経た画像は、画質が劣化した(基準フレームの)画像が所定枚数ごとに(所定間隔で)表示されるため、画像を連続して見たときに一定の間隔で劣化した画像が知覚され、視覚的に大きな劣化を生じる結果(劣化効果)となる。
従って、記録再生装置113によれば、良好な画質を維持したままでのアナログ画像信号を利用したコピーは不可能となり、2回目以降の符号化および復号化された画像信号に対応する画像の画質を著しく劣化させることにより、アナログ画像信号(アナログ信号)を利用した不正コピーを防止することができる。
また、図2の画像処理システム101では、自然に生じるアナログ歪みを使って画質を劣化させて不正コピーを防止するため、アナログ画像信号Van1に対して(画質を劣化させる等の)特別の処理を行っていない。従って、不正コピーを防止するための特別の回路など(手段)を必要とせず構成が複雑となる(回路規模が増大する)というような問題も発生しない。なお、図2の画像処理システム101では、再生装置111のD/A変換部132において復号化デジタル画像信号Vdg0をアナログ信号に変換したときに生じるアナログ歪みを利用した例について説明したが、D/A変換部132からA/D変換部151までの伝送路において生じるアナログ歪み、またはA/D変換部151において生じるアナログ歪みについても同様の効果(復号化デジタル画像信号Vdg2の画質の大幅な劣化)となる。
さらに、上述した図2の画像処理システム101では、自然に生じるアナログ歪みの他に、再生装置111から出力されるアナログ画像信号Van1に対して、意図的にアナログ歪みを生じさせるノイズ(アナログノイズ)を付加させるようにすることも可能である。
図50は、本発明を適用した画像処理システムのその他の実施の形態の構成例を示すブロック図である。
なお、図50において、図2の画像処理システム101と対応する部分については、同一の符号を付してあり、その説明を省略する。
即ち、図50の画像処理システム101では、記録装置113の記録部141において、ノイズ付加部501が新たに設けられている他は、図2の画像処理システム101と同様に構成されている。
再生装置111から出力されるアナログ画像信号Van1は、記録装置1のノイズ付加部501に入力される。ノイズ付加部501は、入力されるアナログ画像信号Van1にノイズを付加して、A/D変換部151に供給する。
図51のフローチャートを参照して、図50の記録装置113による記録確認処理について説明する。
初めに、ステップS201において、ノイズ付加部501は、再生装置111からのアナログ画像信号Van1にノイズを付加して、A/D変換部151に供給する。
ステップS202乃至S216では、図41のステップS171乃至S185と同様の処理が行われる。即ち、A/D変換部151において、ノイズが付加されることにより、さらに大きなアナログ歪みを伴うアナログ画像信号Van1がデジタル信号に変換され、符号化部152において、デジタル画像信号Vdg1が符号化デジタル画像信号Vcd1に符号化される。そして、その符号化デジタル画像信号Vcd1が記録媒体122に記録される。また、符号化デジタル画像信号Vcd1は、復号化デジタル画像信号Vdg2に復号化され、さらにアナログ信号(アナログ画像信号Van2)に変換され、ディスプレイ143に画像として表示される。
以上のように、図50の記録装置113では、自然に生じるアナログ歪みだけでなく、意図的にノイズを付加することによりアナログ歪みを生じさせた(アナログ歪みを伴う)アナログ画像信号Van1を符号化する。この場合、2回目以降の符号化および復号化によって、画質をさらに著しく劣化させることになり、アナログ画像信号を利用した不正コピーを防止することができる。
なお、アナログ画像信号にノイズを意図的に付加する場合、再生装置111がノイズを付加してからアナログ画像信号Van1を出力するようにしてもよい。
即ち、図52は、本発明を適用した画像処理システムのさらにその他の実施の形態の構成例を示すブロック図である。
なお、図52において、図2の画像処理システム101と対応する部分については、同一の符号を付してあり、その説明を省略する。
即ち、図52の画像処理システム101では、再生装置111において、ノイズ付加部502が新たに設けられており、それに対応して、再生装置111と同様の構成とされる記録装置113の再生部142においても、ノイズ付加部503が設けられている他は、図2の画像処理システム101と同様に構成されている。
再生装置111のノイズ付加部502には、記録媒体121から再生されたアナログ画像信号がD/A変換部132から供給される。ノイズ付加部502は、D/A変換部132からのアナログ画像信号にノイズを付加し、その結果得られるアナログ画像信号Van1をディスプレイ112および記録装置113に出力する。
記録装置113の再生部142においても同様に、アナログ画像信号がD/A変換部156からノイズ付加部503に供給される。ノイズ付加部503は、D/A変換部156からのアナログ画像信号にノイズを付加し、その結果得られるアナログ画像信号Van2をディスプレイ143に出力する。
図53のフローチャートを参照して、図52の記録装置113による記録確認処理について説明する。
ステップS231乃至S244では、図41のステップS171乃至S184と同様の処理が行われる。即ち、A/D変換部151において、再生装置111からのアナログ画像信号Van1がデジタル信号に変換され、符号化部152において、デジタル画像信号Vdg1が符号化デジタル画像信号Vcd1に符号化される。そして、その符号化デジタル画像信号Vcd1が記録媒体122に記録される。また、符号化デジタル画像信号Vcd1は、復号化デジタル画像信号Vdg2に復号化され、さらにアナログ信号に変換される。
そして、ステップS244の処理後、ステップS245に進み、ノイズ付加部503は、D/A変換部156からのアナログ画像信号にノイズを付加し、その結果得られるアナログ画像信号Van2をディスプレイ143に出力する。
ステップS246において、ディスプレイ143は、ノイズ付加部503からのアナログ画像信号Van2による画像を表示して、処理を終了する。
以上のように、アナログ画像信号Van1が、自然に生じるアナログ歪みだけでなく、意図的にノイズを付加したことにより、さらに大きなアナログ歪みを伴う場合においても、良好な画質を維持したままでのアナログ画像信号を利用したコピーは不可能となる。即ち、2回目以降の符号化および復号化された画像信号に対応する画像の画質をさらに著しく劣化させることにより、アナログ画像信号を利用した不正コピーを防止することができる。
上述した図22のブロック符号化回路324では、減算器323から供給される注目ブロックBL’の各画素の残差データに対して、DCT変換を行うことにより、高周波成分を除去する符号化を行うようにしたが、ブロック符号化回路324では、高周波成分を除去するものであれば、その他のDST(Discrete sine Transform)変換やFFT(Fast Fourier Transform)変換などを採用することができる。この場合、図35のブロック復号化回路404では、ブロック符号化回路324に対応する復号化が行われる。
また、上述した実施の形態では、1フレームを構成する複数のブロックBL(BL’)それぞれを順次注目ブロックBLc(BLc’)として処理するようにしたが、1フレームの全てのブロックBLが、同時に(並行して)処理するようにしてもよい。さらに、符号化部152および復号化部155は、フレーム単位で画像を処理するようにしたが、フレーム単位に限定されない。例えば、フィールド単位や複数フレーム単位で並行に処理するようにしてもよい。
上述した記録確認処理、符号化処理、復号化処理などの一連の処理は、専用のハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアによって行う場合、例えば、その一連の処理は、図54に示されるような(パーソナル)コンピュータにプログラムを実行させることにより実現することができる。
図54において、CPU(Central Processing Unit)601は、ROM(Read Only Memory)602に記憶されているプログラム、または記憶部608からRAM(Random Access Memory)603にロードされたプログラムに従って各種の処理を実行する。RAM603にはまた、CPU601が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU601、ROM602、およびRAM603は、バス604を介して相互に接続されている。このバス604にはまた、入出力インタフェース605も接続されている。
入出力インタフェース605には、キーボード、マウス、入力端子などよりなる入力部606、CRT(Cathode Ray Tube),LCD(Liquid Crystal display)などよりなるディスプレイ、出力端子、並びにスピーカなどよりなる出力部607、ハードディスクなどより構成される記憶部608、ターミナルアダプタ、ADSL(Asymmetric Digital Subscriber Line)モデムや、LAN (Local Area Network)カード等より構成される通信部609が接続されている。通信部609は、インターネットなどの各種のネットワークを介しての通信処理を行う。
入出力インタフェース605にはまた、ドライブ710が接続され、磁気ディスク(フロッピディスクを含む)、光ディスク(CD-ROM(Compact Disk-Read Only Memory) DVD Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini-Disk)を含む)、或いは半導体メモリなどのリムーバブルメディア(記録媒体)721が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部608にインストールされる。
図54において、プログラムを実行するCPU601が、例えば、図2のA/D変換部151、符号化部152、復号化部155(復号化部131)、およびD/A変換部156(D/A変換部132)に対応し、ドライブ310が媒体記録部153に対応する。また、ディスプレイ143は、出力部607に対応する。
なお、本明細書において、フローチャートに記述されたステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
従来の画像処理システムの構成の一例を示すブロック図である。 本発明を適用した画像処理システムの一実施の形態の構成例を示すブロック図である。 基準フレームと予測フレームを説明する図である。 図2の符号化部152の構成例を示すブロック図である。 図4の基準フレーム符号化部203の第1の実施形態の構成例を示すブロック図である。 基準フレームの画像をブロックBLに分割した例を示す図である。 ブロック符号化回路227における符号化とそれに対応する復号化を説明する図である。 基準フレーム符号化部203の基準フレーム符号化処理について説明するフローチャートである。 図4の予測フレーム符号化部205の第1の実施形態の構成例を示すブロック図である。 予測フレームの画像をブロックBL’に分割した例を示す図である。 動きベクトル先のブロックBL’mvの検出について説明する図である。 動きベクトル先のブロックBL’mvの検出について説明する図である。 ソート処理回路245のソート処理について説明する図である。 回帰回路246の回帰式の算出について説明する図である。 ブロック符号化回路227の符号化およびそれに対応する復号化を説明する図である。 図9の予測フレーム符号化部205の予測フレーム符号化処理について説明するフローチャートである。 図2の復号化部155の構成例を示すブロック図である。 図17の基準フレーム復号化部273の第1の実施形態の構成例を示すブロック図である。 基準フレーム復号化部273の基準フレーム復号化処理について説明するフローチャートである。 図17の予測フレーム復号化部274の第1の実施形態の構成例を示すブロック図である。 図20の予測フレーム復号化部274の予測フレーム復号化処理について説明するフローチャートである。 図4の基準フレーム符号化部203の第2の実施形態の構成例を示すブロック図である。 基準フレームの画像をブロックBL’に分割した例を示す図である。 ソート順算出回路321のソート処理について説明する図である。 ソート順算出回路321のソート処理について説明する図である。 予測回路331による処理を説明する図である。 逆ソート回路332による処理を説明する図である。 注目ブロックBLc’の差分波形を説明する図である。 ブロック符号化回路324で用いられる量子化テーブルの例を示す図である。 図22の基準フレーム符号化部203の符号化処理について説明するフローチャートである。 図4の予測フレーム符号化部205の第2の実施形態の構成例を示すブロック図である。 図31のADRC符号化部341の詳細な構成例を示すブロック図である。 図31の直交変換符号化部342の詳細な構成例を示すブロック図である。 図31の予測フレーム符号化部205の予測フレーム符号化処理について説明するフローチャートである。 図17の基準フレーム復号化部273の第2の実施形態の構成例を示すブロック図である。 図35の基準フレーム復号化部273の復号化処理を説明するフローチャートである。 図17の予測フレーム復号化部274の第2の実施形態の構成例を示すブロック図である。 図37のADRC復号化部435の詳細な構成例を示すブロック図である。 図37の直交変換復号化部436の詳細な構成例を示すブロック図である。 図37の予測フレーム復号化部274の予測フレーム復号化処理を説明するフローチャートである。 図2の記録装置113の記録確認処理を説明するフローチャートである。 2回目の符号化および復号化による画質の劣化について説明する図である。 2回目の符号化および復号化による画質の劣化について説明する図である。 2回目の符号化および復号化による画質の劣化について説明する図である。 2回目の符号化および復号化による画質の劣化について説明する図である。 2回目の符号化および復号化による画質の劣化について説明する図である。 2回目の符号化および復号化による画質の劣化について説明する図である。 2回目の符号化および復号化による画質の劣化について説明する図である。 2回目以降の符号化および復号化による画質の劣化について説明する図である。 本発明を適用した画像処理システムのその他の実施の形態の構成例を示すブロック図である。 図50の記録装置113による記録確認処理を説明するフローチャートである。 本発明を適用した画像処理システムのさらにその他の実施の形態の構成例を示すブロック図である。 図52の記録装置113による記録確認処理を説明するフローチャートである。 本発明を適用したコンピュータの一実施の形態の構成例を示すブロック図である。
符号の説明
101 画像処理システム, 113 記録装置, 141 記録部, 142 再生部, 152 符号化部, 155 復号化部, 201 入力端子, 202 符号化選択回路, 203 基準フレーム符号化部, 204 ローカルデコード部, 205 予測フレーム符号化部, 206 出力端子, 221 入力端子, 222 ブロック化回路, 223 最大値検出回路, 224 最小値検出回路, 225,226 減算器, 227 ブロック符号化回路, 228 データ合成回路, 229 出力端子, 241 入力端子, 242 ブロック化回路, 243 動きベクトル検出回路, 244 残差算出回路, 245 ソート処理回路, 246 回帰回路, 247 減算器, 248 ブロック符号化回路, 249 データ合成回路, 250 ローカルデコード部, 271 入力端子, 272 復号化選択回路, 273 基準フレーム復号化部, 274 予測フレーム復号化部, 291 入力端子, 292 データ分解回路, 293 ブロック復号化回路, 294 加算器, 295 ブロック分解回路, 296 出力端子, 301 入力端子, 302 データ分解回路, 303 動きベクトル先抽出回路, 304 ブロック復号化回路, 305,306 加算器, 307 ブロック分解回路, 309 出力端子, 321 ソート順算出回路, 322 予測画素値生成回路, 323 減算器, 324 ブロック符号化回路, 325 データ合成回路, 331 予測回路, 332 逆ソート回路, 341 ADRC符号化部, 342 直交変換符号化部, 343 ADRCローカルデコード部, 344 直交変換ローカルデコード部, 345 符号化判定回路, 346 選択回路, 347 データ合成回路, 348 ローカルデコード部, 401 入力端子, 402 データ分解回路, 403 予測画素値生成回路, 404 ブロック復号化回路, 405 加算器, 411 予測回路, 412 逆ソート回路, 431 入力端子, 432 データ分解回路, 434 選択回路, 435 ADRC復号化部, 436 直行変換復号化部, 501乃至503 ノイズ付加部

Claims (19)

  1. 第1の画像と第2の画像を少なくとも有する動画像の入力画像データを符号化する符号化装置において、
    前記第1の画像を符号化する第1の符号化手段と、
    前記第2の画像を符号化する第2の符号化手段と
    を備え、
    前記第1の符号化手段は、
    前記第1の画像を複数のブロックに分割するブロック分割手段と、
    前記ブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートするとともに、ソートしたときのソート結果を表すソート順情報、並びに、前記ブロックを構成する画素の最大値および最小値を算出するソート順算出手段と、
    前記最大値および最小値から前記ブロックを構成する各画素の予測画素値を生成し、前記ソート順情報を用いて、生成された前記予測画素値を、ソートされる前の空間位相に配置された前記予測画素値とする予測画素値生成手段と、
    前記ブロックを構成する各画素の画素値と前記予測画素値との差分データを算出する差分データ算出手段と、
    前記差分データを符号化する符号化手段と
    を有し、
    前記第1の符号化手段において符号化された前記第1の画像を復号した第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、
    前記第2の符号化手段において符号化された前記第2の画像を復号した第4の画像を前記第2の画像と比較した場合の画質の劣化より大きい
    ことを特徴とする符号化装置。
  2. 前記予測画素値生成手段は、前記最大値および最小値を用いて直線を算出し、その直線によって求められる画素値を、前記ブロックを構成する各画素の予測画素値とする
    ことを特徴とする請求項1に記載の符号化装置。
  3. 前記第2の符号化手段は、
    前記第2の画像を複数のブロックに分割するブロック分割手段と、
    前記第2の画像より所定時間前の画像で前記第2の画像との比較の対象となる参照画像から、前記ブロックの動きベクトルを検出する動きベクトル検出手段と、
    前記ブロックを構成する各画素の画素値と、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値との残差を算出する残差算出手段と、
    前記ブロックを構成する各画素の残差の最小値およびダイナミックレンジを算出する最小値算出手段と、
    前記ブロックを構成する各画素の残差と前記残差の最小値との差分データを算出する差分データ算出手段と、
    前記ダイナミックレンジに応じて前記差分データを符号化する符号化手段と
    を有する
    ことを特徴とする請求項1に記載の符号化装置。
  4. 前記最小値算出手段は、前記残差の回帰式を算出し、前記回帰式の係数として得られる前記ブロックを構成する各画素の残差の最小値およびダイナミックレンジを算出する
    ことを特徴とする請求項3に記載の符号化装置。
  5. 前記第2の符号化手段は、
    前記第2の画像を複数のブロックに分割するブロック分割手段と、
    前記第2の画像より所定時間前の画像で前記第2の画像との比較の対象となる参照画像から、前記ブロックの動きベクトルを検出する動きベクトル検出手段と、
    前記ブロックを構成する各画素の画素値と、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値との残差を算出する残差算出手段と、
    前記残差を第1の符号化方式で符号化する第1の残差符号化手段と、
    前記残差を第2の符号化方式で符号化する第2の残差符号化手段と、
    前記第1または第2の方式のどちらを採用するかを判定する判定手段と、
    前記判定手段の判定結果に応じて、前記第1または第2の残差符号化手段の出力を選択する選択手段と
    を有する
    ことを特徴とする請求項1に記載の符号化装置。
  6. 前記入力画像データにノイズを付加するノイズ付加手段をさらに備え、
    前記ノイズ付加手段によりノイズが付加された前記入力画像データが、前記第1の符号化手段または前記第2の符号化手段に供給される
    ことを特徴とする請求項1に記載の符号化装置。
  7. 第1の画像と第2の画像を少なくとも有する動画像の入力画像データを符号化する符号化装置の符号化方法において、
    前記第1の画像を複数のブロックに分割し、
    前記ブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートするとともに、ソートしたときのソート結果を表すソート順情報、並びに、前記ブロックを構成する画素の最大値および最小値を算出し、
    前記最大値および最小値から前記ブロックを構成する各画素の予測画素値を生成し、前記ソート順情報を用いて、生成された前記予測画素値を、ソートされる前の空間位相に配置された前記予測画素値とし、
    前記ブロックを構成する各画素の画素値と前記予測画素値との差分データを算出し、
    前記差分データを符号化することで、前記第1の画像を符号化する第1の符号化ステップと、
    前記第2の画像を符号化する第2の符号化ステップと
    を含み、
    前記第1の符号化ステップにおいて符号化された前記第1の画像を復号した第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、
    前記第2の符号化ステップにおいて符号化された前記第2の画像を復号した第4の画像を前記第2の画像と比較した場合の画質の劣化より大きい
    ことを特徴とする符号化方法。
  8. 第1の画像と第2の画像を少なくとも有する動画像の入力画像データに対して、コンピュータに、
    前記第1の画像を複数のブロックに分割し、
    前記ブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートするとともに、ソートしたときのソート結果を表すソート順情報、並びに、前記ブロックを構成する画素の最大値および最小値を算出し、
    前記最大値および最小値から前記ブロックを構成する各画素の予測画素値を生成し、前記ソート順情報を用いて、生成された前記予測画素値を、ソートされる前の空間位相に配置された前記予測画素値とし、
    前記ブロックを構成する各画素の画素値と前記予測画素値との差分データを算出し、
    前記差分データを符号化することで、前記第1の画像を符号化する第1の符号化ステップと、
    前記第2の画像を符号化する第2の符号化ステップと
    を実行させ、
    前記第1の符号化ステップにおいて符号化された前記第1の画像を復号した第3の画像を前記第1の画像と比較した場合の画質の劣化の程度が、
    前記第2の符号化ステップにおいて符号化された前記第2の画像を復号した第4の画像を前記第2の画像と比較した場合の画質の劣化より大きくなる
    処理を実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体。
  9. 第1の画像と第2の画像を少なくとも有する動画像の入力画像データに対して、コンピュータに、
    前記第1の画像を複数のブロックに分割し、
    前記ブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートするとともに、ソートしたときのソート結果を表すソート順情報、並びに、前記ブロックを構成する画素の最大値および最小値を算出し、
    前記最大値および最小値から前記ブロックを構成する各画素の予測画素値を生成し、前記ソート順情報を用いて、生成された前記予測画素値を、ソートされる前の空間位相に配置された前記予測画素値とし、
    前記ブロックを構成する各画素の画素値と前記予測画素値との差分データを算出し、
    前記差分データを符号化することで、前記第1の画像を符号化する第1の符号化ステップと、
    前記第2の画像を符号化する第2の符号化ステップと
    を実行させ、
    前記第1の符号化ステップにおいて符号化された前記第1の画像を復号した第3の画像を前記第1の画像と比較した場合の画質の劣化の程度が、
    前記第2の符号化ステップにおいて符号化された前記第2の画像を復号した第4の画像を前記第2の画像と比較した場合の画質の劣化より大きくなる
    処理を実行させるためのプログラム。
  10. 動画像を構成する第1の画像と第2の画像のうちの、前記第1の画像が符号化された第1の符号化データと、前記第2の画像が符号化された第2の符号化データとを取得する取得手段と、
    前記第1の符号化データを復号する第1の復号手段と、
    前記第2の符号化データを復号する第2の復号手段と
    を備え、
    前記取得手段は、前記第1の符号化データとして、
    前記第1の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートしたときのソート結果を表すソート順情報、
    前記1のブロックを構成する画素の最大値および最小値、
    並びに、前記最大値および最小値を用いて生成される前記1のブロックを構成する各画素の予測画素値と前記画素値との差分データが符号化された符号化差分データからなるデータを取得し、
    前記第1の復号手段は、
    前記最大値および最小値から、画素値の大きさに応じてソートされている、前記1のブロックを構成する各画素の予測画素値を生成し、生成された前記予測画素値を、前記ソート順情報に基づいて、ソートされる前の空間位相に配置し、
    前記符号化差分データを前記差分データに復号し、
    復号された前記差分データと、生成された前記予測画素値とを加算する処理を少なくとも行うことで前記第1の符号化データを復号し、
    前記第1の復号手段において復号された第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、
    前記第2の復号手段において復号された第4の画像を前記第2の画像と比較した場合の画質の劣化より大きい
    ことを特徴とする復号装置。
  11. 前記予測画素値生成手段は、前記最大値および最小値を用いて直線を算出し、その直線によって求められる画素値を、前記ブロックを構成する各画素の予測画素値とする
    ことを特徴とする請求項10に記載の復号装置。
  12. 前記第2の復号手段は、
    前記第2の画像より所定時間前の画像で前記第2の画像との比較の対象となる参照画像から検出された動きベクトル、
    前記第2の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値と、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値との残差、
    前記残差の最小値、
    および、前記残差と前記残差の最小値との差分データが符号化された符号化差分データを取得する取得手段と、
    前記符号化差分データを前記差分データに復号する差分データ復号手段と、
    前記差分データ復号手段により復号された前記差分データと前記残差の最小値とを加算する残差加算手段と、
    前記残差加算手段の出力と、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値とを加算する画素値加算手段と
    を有する
    ことを特徴とする請求項10に記載の復号装置。
  13. 前記第2の復号手段は、
    前記第2の画像より所定時間前の画像で前記第2の画像との比較の対象となる参照画像から検出された動きベクトル、
    前記第2の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値と、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値との残差が符号化された符号化残差データ、
    および、前記符号化残差データが第1の符号化方式か、または第2の符号化方式のどちらで符号化されたかを表す符号化方式判定結果を取得する取得手段と、
    前記符号化方式判定結果が前記第1の符号化方式を表す場合に、前記符号化残差データを前記残差データに復号する第1の残差データ復号手段と、
    前記符号化方式判定結果が前記第2の符号化方式を表す場合に、前記符号化残差データを前記残差データに復号する第2の残差データ復号手段と、
    前記第1または第2の残差データ復号手段により復号された前記残差データと、前記参照画像の前記動きベクトルが表すブロック内の、前記各画素に対応する画素の画素値とを加算する画素値加算手段と
    を有する
    ことを特徴とする請求項10に記載の復号装置。
  14. 前記第1または第2の復号手段の出力にノイズを付加するノイズ付加手段をさらに備える
    ことを特徴とする請求項10に記載の復号装置。
  15. 動画像を構成する第1の画像と第2の画像のうちの、前記第1の画像が符号化された第1の符号化データとして、前記第1の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートしたときのソート結果を表すソート順情報、
    前記1のブロックを構成する画素の最大値および最小値、
    並びに、前記最大値および最小値を用いて生成される前記1のブロックを構成する各画素の予測画素値と前記画素値との差分データが符号化された符号化差分データからなるデータを取得するとともに、前記第2の画像が符号化された第2の符号化データを取得する取得ステップと、
    前記最大値および最小値から、画素値の大きさに応じてソートされている、前記1のブロックを構成する各画素の予測画素値を生成し、生成された前記予測画素値を、前記ソート順情報に基づいて、ソートされる前の空間位相に配置し、
    前記符号化差分データを前記差分データに復号し、
    復号された前記差分データと、生成された前記予測画素値とを加算する処理を少なくとも行うことで、前記第1の符号化データを復号する第1の復号ステップと、
    前記第2の符号化データを復号する第2の復号ステップと
    を含み、
    前記第1の復号ステップにおいて復号された第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、
    前記第2の復号ステップにおいて復号された第4の画像を前記第2の画像と比較した場合の画質の劣化より大きい
    ことを特徴とする復号方法。
  16. コンピュータに、
    動画像を構成する第1の画像と第2の画像のうちの、前記第1の画像が符号化された第1の符号化データとして、前記第1の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートしたときのソート結果を表すソート順情報、
    前記1のブロックを構成する画素の最大値および最小値、
    並びに、前記最大値および最小値を用いて生成される前記1のブロックを構成する各画素の予測画素値と前記画素値との差分データが符号化された符号化差分データからなるデータを取得するとともに、前記第2の画像が符号化された第2の符号化データを取得する取得ステップと、
    前記最大値および最小値から、画素値の大きさに応じてソートされている、前記1のブロックを構成する各画素の予測画素値を生成し、生成された前記予測画素値を、前記ソート順情報に基づいて、ソートされる前の空間位相に配置し、
    前記符号化差分データを前記差分データに復号し、
    復号された前記差分データと、生成された前記予測画素値とを加算する処理を少なくとも行うことで、前記第1の符号化データを復号する第1の復号ステップと、
    前記第2の符号化データを復号する第2の復号ステップと
    を実行させ、
    前記第1の復号ステップにおいて復号された第3の画像を前記第1の画像と比較した場合の画質の劣化の程度が、
    前記第2の復号ステップにおいて復号された第4の画像を前記第2の画像と比較した場合の画質の劣化より大きくなる
    処理を実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体。
  17. コンピュータに、
    動画像を構成する第1の画像と第2の画像のうちの、前記第1の画像が符号化された第1の符号化データとして、前記第1の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートしたときのソート結果を表すソート順情報、
    前記1のブロックを構成する画素の最大値および最小値、
    並びに、前記最大値および最小値を用いて生成される前記1のブロックを構成する各画素の予測画素値と前記画素値との差分データが符号化された符号化差分データからなるデータを取得するとともに、前記第2の画像が符号化された第2の符号化データを取得する取得ステップと、
    前記最大値および最小値から、画素値の大きさに応じてソートされている、前記1のブロックを構成する各画素の予測画素値を生成し、生成された前記予測画素値を、前記ソート順情報に基づいて、ソートされる前の空間位相に配置し、
    前記符号化差分データを前記差分データに復号し、
    復号された前記差分データと、生成された前記予測画素値とを加算する処理を少なくとも行うことで、前記第1の符号化データを復号する第1の復号ステップと、
    前記第2の符号化データを復号する第2の復号ステップと
    を実行させ、
    前記第1の復号ステップにおいて復号された第3の画像を前記第1の画像と比較した場合の画質の劣化の程度が、
    前記第2の復号ステップにおいて復号された第4の画像を前記第2の画像と比較した場合の画質の劣化より大きくなる
    処理を実行させるためのプログラム。
  18. 第1の画像と第2の画像を少なくとも有する動画像の入力画像データを符号化する符号化部および符号化された前記入力画像データを復号する復号部を備え、前記入力画像データに対して符号化および復号を繰り返すと前記入力画像データに対応する画像の画質が劣化する画像処理システムにおいて、
    前記符号化部は、
    前記第1の画像を符号化する第1の符号化手段と、
    前記第2の画像を符号化する第2の符号化手段と
    を備え、
    前記第1の符号化手段は、
    前記第1の画像を複数のブロックに分割するブロック分割手段と、
    前記ブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートするとともに、ソートしたときのソート結果を表すソート順情報、並びに、前記ブロックを構成する画素の最大値および最小値を算出するソート順算出手段と、
    前記最大値および最小値から前記ブロックを構成する各画素の予測画素値を生成し、前記ソート順情報を用いて、生成された前記予測画素値を、ソートされる前の空間位相に配置された前記予測画素値とする予測画素値生成手段と、
    前記ブロックを構成する各画素の画素値と前記予測画素値との差分データを算出する差分データ算出手段と、
    前記差分データを符号化する符号化手段と
    を有し、
    前記第1の符号化手段において符号化された前記第1の画像を復号した第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、
    前記第2の符号化手段において符号化された前記第2の画像を復号した第4の画像を前記第2の画像と比較した場合の画質の劣化より大きい
    ことを特徴とする画像処理システム。
  19. 第1の画像と第2の画像を少なくとも有する動画像の入力画像データを符号化する符号化部および符号化された前記入力画像データを復号する復号部を備え、前記入力画像データに対して符号化および復号を繰り返すと前記入力画像データに対応する画像の画質が劣化する画像処理システムにおいて、
    前記復号部は、
    前記第1の画像が符号化された第1の符号化データと、前記第2の画像が符号化された第2の符号化データとを取得する取得手段と、
    前記第1の符号化データを復号する第1の復号手段と、
    前記第2の符号化データを復号する第2の復号手段と
    を備え、
    前記取得手段は、前記第1の符号化データとして、
    前記第1の画像が分割された複数のブロックのうちの1のブロックについての、前記1のブロックを構成する各画素の画素値の大きさに応じて前記各画素をソートしたときのソート結果を表すソート順情報、
    前記1のブロックを構成する画素の最大値および最小値
    並びに、前記最大値および最小値を用いて生成される前記1のブロックを構成する各画素の予測画素値と前記画素値との差分データが符号化された符号化差分データからなるデータを取得し、
    前記第1の復号手段は、
    前記最大値および最小値から、画素値の大きさに応じてソートされている、前記1のブロックを構成する各画素の予測画素値を生成し、生成された前記予測画素値を、前記ソート順情報に基づいて、ソートされる前の空間位相に配置し、
    前記符号化差分データを前記差分データに復号し、
    復号された前記差分データと、生成された前記予測画素値とを加算する処理を少なくとも行うことで、前記第1の符号化データを復号し、
    前記第1の復号手段において復号された第3の画像を前記第1の画像と比較した場合の画質の劣化の程度は、
    前記第2の復号手段において復号された第4の画像を前記第2の画像と比較した場合の画質の劣化より大きい
    ことを特徴とする画像処理システム。
JP2005029776A 2005-02-04 2005-02-04 符号化装置および方法、復号装置および方法、画像処理システム、記録媒体、並びにプログラム Expired - Fee Related JP4697519B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005029776A JP4697519B2 (ja) 2005-02-04 2005-02-04 符号化装置および方法、復号装置および方法、画像処理システム、記録媒体、並びにプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005029776A JP4697519B2 (ja) 2005-02-04 2005-02-04 符号化装置および方法、復号装置および方法、画像処理システム、記録媒体、並びにプログラム

Publications (3)

Publication Number Publication Date
JP2006217426A JP2006217426A (ja) 2006-08-17
JP2006217426A5 JP2006217426A5 (ja) 2007-10-11
JP4697519B2 true JP4697519B2 (ja) 2011-06-08

Family

ID=36980238

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005029776A Expired - Fee Related JP4697519B2 (ja) 2005-02-04 2005-02-04 符号化装置および方法、復号装置および方法、画像処理システム、記録媒体、並びにプログラム

Country Status (1)

Country Link
JP (1) JP4697519B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000224587A (ja) * 1999-02-03 2000-08-11 Mitsubishi Electric Corp 画像符号化方式および画像符号化装置
JP2001501069A (ja) * 1997-07-16 2001-01-23 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ ビデオ符号化方法及び装置、及び対応する復号化装置
JP2004289685A (ja) * 2003-03-24 2004-10-14 Sony Corp データ符号化装置およびデータ符号化方法、並びにデータ出力装置およびデータ出力方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001501069A (ja) * 1997-07-16 2001-01-23 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ ビデオ符号化方法及び装置、及び対応する復号化装置
JP2000224587A (ja) * 1999-02-03 2000-08-11 Mitsubishi Electric Corp 画像符号化方式および画像符号化装置
JP2004289685A (ja) * 2003-03-24 2004-10-14 Sony Corp データ符号化装置およびデータ符号化方法、並びにデータ出力装置およびデータ出力方法

Also Published As

Publication number Publication date
JP2006217426A (ja) 2006-08-17

Similar Documents

Publication Publication Date Title
JP4556124B2 (ja) 符号化装置および方法、復号装置および方法、画像処理システム、記録媒体、並びにプログラム
Wu et al. Reversible image watermarking on prediction errors by efficient histogram modification
KR101168500B1 (ko) 멀티미디어 컨텐츠에 워터마크 정보를 동적으로 임베딩하는 방법, 장치 및 시스템
Xue et al. An adaptive steganographic scheme for H. 264/AVC video with distortion optimization
JP4742614B2 (ja) データ変換装置および方法、データ逆変換装置および方法、情報処理システム、記録媒体、並びにプログラム
JP5139995B2 (ja) ストリームに透かしを入れる方法及び装置
JP4697519B2 (ja) 符号化装置および方法、復号装置および方法、画像処理システム、記録媒体、並びにプログラム
JP4552677B2 (ja) 符号化装置および方法、復号装置および方法、情報処理システム、記録媒体、並びにプログラム
JP4725127B2 (ja) 復号装置および方法、記録媒体、並びにプログラム
Mohaghegh et al. H. 264 copyright protection with motion vector watermarking
JP2006217403A (ja) 符号化装置および方法、復号化装置および方法、記録媒体、プログラム、画像処理システム、並びに画像処理方法
JP4556694B2 (ja) 符号化装置および方法、記録媒体、プログラム、並びに画像処理システム
JP4716086B2 (ja) 符号化装置および方法、記録媒体、プログラム、並びに画像処理システム
JP4556125B2 (ja) 符号化装置および方法、復号装置および方法、画像処理システム、記録媒体、並びにプログラム
JP4577043B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP4573110B2 (ja) 符号化装置および方法、記録媒体、プログラム、並びに画像処理システム
JP4715222B2 (ja) 符号化装置および方法、復号装置および方法、画像処理システム、記録媒体、並びにプログラム
JP4696577B2 (ja) 符号化装置および方法、復号装置および方法、記録媒体、並びにプログラム、画像処理システムおよび方法
JP4573112B2 (ja) 符号化装置および方法、記録媒体、プログラム、並びに画像処理システム
JP2006238373A (ja) 符号化装置および方法、復号装置および方法、画像処理システムおよび画像処理方法、記録媒体、並びにプログラム
JP4581733B2 (ja) 符号化装置および方法、復号装置および方法、記録媒体、並びにプログラム、画像処理システム
JP4591767B2 (ja) 符号化装置および方法、復号装置および方法、画像処理システム、記録媒体、並びにプログラム
JP2006229460A (ja) 符号化装置および方法、記録媒体、プログラム、画像処理システム、並びに画像処理方法
JP4730585B2 (ja) 符号化装置および方法、復号装置および方法、情報処理システム、記録媒体、並びにプログラム
JP2006352846A (ja) ウォータマーク埋込方法及び装置

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070823

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070823

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091006

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091105

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100629

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100811

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110203

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110216

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees