JP2011091858A - 画像符号化方式変換装置 - Google Patents
画像符号化方式変換装置 Download PDFInfo
- Publication number
- JP2011091858A JP2011091858A JP2011001238A JP2011001238A JP2011091858A JP 2011091858 A JP2011091858 A JP 2011091858A JP 2011001238 A JP2011001238 A JP 2011001238A JP 2011001238 A JP2011001238 A JP 2011001238A JP 2011091858 A JP2011091858 A JP 2011091858A
- Authority
- JP
- Japan
- Prior art keywords
- encoding
- image
- jpeg
- mpeg
- quantization
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【解決手段】JPEG簡易復号部1により抽出されたJPEG量子化テーブル・パラメータ及びJPEG量子化DCT係数をMPEG−2量子化テーブル・パラメータ及びMPEG−2量子化DCT係数に変換するデータ変換部2と、データ変換部2で変換されたMPEG−2量子化テーブル・パラメータ及びMPEG−2量子化DCT係数を用いて追加MPEG−2量子化DCT係数とヘッダ変更情報を出力する画像データ追加部4を設け、ヘッダ情報とMPEG−2量子化テーブル・パラメータと追加MPEG−2量子化DCT係数とヘッダ変更情報からMPEG−2ストリームを作成する。
【選択図】図2
Description
この画像符号化方式の代表的なものとして、主にデジタルカメラなどで採用されているJPEG(Joint Photographic Experts Group)がある。
また、JPEGを連続して符号化することで、動画像を符号化する方式もある。この方式は、Motion JPEG、もしくは、MJPEG等と呼ばれることもある。
さらに、DVD(Digital Veritable Disk)−VIDEOに採用されているMPEG−2(Moving Picture Experts Group)と呼ばれる動画像符号化方式がある。
そのため、ユーザが異なる画像符号化方式に対応するには、それぞれの画像符号化方式に対応する画像復号装置を用意するか、画像符号化方式変換装置を用意する必要がある。
例えば、市販されているDVDプレーヤはMPEG−2方式しか再生できず、それぞれの画像符号化方式に対応する画像復号装置を用意するのは現実的に困難である。
一方、画像符号化方式変換装置を用意すれば、それぞれの画像符号化方式に対応する画像復号装置を用意する必要がなくなるが、画像の変換に要する時間や、変換後の画像の品質が問題になる。
しかし、この変換方法では、演算処理量が膨大になる上、画像の画質も劣化し易い欠点がある。
そこで、演算処理量の増加や画質の劣化を抑えるために、符号化データの完全な復号を行わずに画像符号化方式を変換する画像符号化方式変換装置が開発され、その画像符号化方式変換装置が以下の非特許文献1に開示されている。
ただし、以下の非特許文献1に開示されている画像符号化方式変換装置では、符号化データの量子化や逆量子化については実施する必要がある。
図1はこの発明の実施の形態1による画像符号化方式変換装置を示す構成図であり、図において、JPEG簡易復号部1は画像信号がJPEG(第一の符号化方式)で符号化されているJPEGストリーム(符号化ストリーム)の一部を復号して、そのJPEGストリームからヘッダ情報とJPEG量子化テーブル(第一の符号化方式の量子化テーブル)及びJPEG量子化DCT(Discrete Cosine Transform)係数(第一の符号化方式の量子化周波数成分)を抽出する処理を実施する。なお、JPEG簡易復号部1は簡易復号化手段を構成している。
MPEG−2ストリーム作成部3はJPEG簡易復号部1により抽出されたヘッダ情報とデータ変換部2により変換されたMPEG−2量子化テーブル・パラメータ及びMPEG−2量子化DCT係数からMPEG−2ストリーム(第二の符号化方式の符号化ストリーム)を作成する処理を実施する。なお、MPEG−2ストリーム作成部3は符号化ストリーム作成手段を構成している。
最初に、JPEGとMPEG−2の符号化について簡単に説明する。
JPEGは、画像の画像信号(画素データ)をDCT変換し、DCT変換の画像信号であるDCT係数を量子化するものである。
JPEGでは、画像信号をDCT変換することにより、パワーを低周波領域に集中させることができ、DCT係数を量子化することにより、高周波成分を間引いて画像を圧縮することができる。
また、JPEGでは、DCT係数のランレングス符号化や可変長符号化などを実施することにより、更に圧縮率を高めている。
一方、MPEG−2では、JPEGと同様の圧縮を実施しているが、時間方向に圧縮している点でJPEGと相違しており、また、符号化フォーマットの点でJPEGと相違している。
この実施の形態1では、MPEG−2におけるフレーム間符号化を用いずに、全てフレーム内符号化を行うものとする。
以下、図1の画像符号化方式変換装置の処理内容を具体的に説明する。
即ち、JPEG簡易復号部1は、JPEGストリームにおけるヘッダ情報やハフマン符号などを復号することにより、そのJPEGストリームからヘッダ情報を抽出して、そのヘッダ情報をMPEG−2ストリーム作成部3に出力し、そのJPEGストリームからJPEG量子化テーブルとJPEG量子化DCT係数を抽出して、そのJPEG量子化テーブルとJPEG量子化DCT係数をデータ変換部2に出力する。
以下、データ変換部2における変換アルゴリズムを説明する。
ただし、JpegDequantDCTi,jはJPEG量子化DCT係数が逆量子化されたDCT係数、JpegQuantTablei,jはJPEG量子化テーブル、JpegQuantDCTi,jはJPEG量子化DCT係数である。
i,jは8×8の各成分を表している。
ただし、MpegDequantDCTi,jはMPEG−2量子化DCT係数が逆りょうしかされたDCT係数、MpegQuantTablei,jはMPEG−2量子化テーブル・パラメータ、MpegQuantDCTi,jはMPEG−2量子化DCT係数、DcMultはイントラDC成分用量子化パラメータ、QuantScaleは量子化スケールコードである。
式(3)〜(5)から分る通り、逆量子化及び量子化の処理を直流成分だけ行えばよく、演算量が削減されていることが理解される。
特に、MpegQuantTablei,jをMPEG−2のpictureヘッダ部に多重して符号化し、DcMultをMPEG−2のVLC(Variable Length Coding)を行う際に符号化するとよい。
即ち、この実施の形態1によれば、画像符号化方式をJPEGからMPEG−2に変換する際、変換に伴う逆量子化処理と量子化処理が1つのDCTのブロックにつき1度で済むため、演算量を大幅に削減することができるとともに、再量子化処理による画質劣化を抑えることができる。
図2はこの発明の実施の形態2による画像符号化方式変換装置を示す構成図であり、図において、図1と同一符号は同一または相当部分を示すので説明を省略する。
画像データ追加部4はデータ変換部2により変換されたMPEG−2量子化テーブル・パラメータを用いて追加画像の画像データ(ここでは、追加画像の画像データは、既にDCT係数に変換されているものとする)を量子化し、量子化後の画像データをデータ変換部2により変換されたMPEG−2量子化DCT係数に加えて、追加MPEG−2量子化DCT係数(MPEG−2量子化DCT係数+量子化後の画像データ)をMPEG−2ストリーム作成部5に出力するとともに、追加画像の画像幅を示すヘッダ変更情報をMPEG−2ストリーム作成部5に出力する。なお、画像データ追加部4は画像データ追加手段を構成している。
MPEG−2ストリーム作成部5は簡易復号化部1により抽出されたヘッダ情報を画像データ追加部4から出力されたヘッダ変更情報にしたがって変更し、変更後のヘッダ情報とデータ変換部2により変換されたMPEG−2量子化テーブル・パラメータと画像データ追加部4から出力された追加MPEG−2量子化DCT係数からMPEG−2ストリームを作成する処理を実施する。なお、MPEG−2ストリーム作成部5は符号化ストリーム作成手段を構成している。
MPEG−2は、例えば、DVD(Digital Versatile Disk)−VIDEO方式における映像符号化方式で用いられている。
このDVD−VIDEO方式では、MPEG−2と比べて、さらに解像度の制限が設けられている。例えば、幅704画素×高さ480ラインなどに制限されている。
しかし、一般的なJPEGでは、幅と高さの比が4:3である。例えば、幅640画素×高さ480ラインなどで記録される。
この実施の形態2を用いることで、高速に画像の幅を拡大することが可能になる。
JPEG簡易復号部1は、画像信号がJPEGで符号化されているJPEGストリームを入力すると、上記実施の形態1と同様に、そのJPEGストリームの一部を復号して、そのJPEGストリームからヘッダ情報とJPEG量子化テーブル及びJPEG量子化DCT係数を抽出する。
また、画像データ追加部4は、量子化後の画像データをデータ変換部2により変換されたMPEG−2量子化DCT係数に加えて、追加MPEG−2量子化DCT係数(MPEG−2量子化DCT係数+量子化後の画像データ)をMPEG−2ストリーム作成部5に出力するとともに、追加画像の画像幅を示すヘッダ変更情報をMPEG−2ストリーム作成部5に出力する。
例えば、64画素×480ラインの追加画像を640画素×480ラインの画像に追加して、704画素×480ラインの画像を作成する場合には、図3に示すように、640画素×480ラインの画像の右端に64画素×480ラインの追加画像を追加する形態の他、図4に示すように、640画素×480ラインの画像の左端に64画素×480ラインの追加画像を追加する形態や、図5に示すように、640画素×480ラインの画像の右端に32画素×480ラインの追加画像を追加して、640画素×480ラインの画像の左端に32画素×480ラインの追加画像を追加する形態などが考えられる。
いずれの形態でも、追加する画像の領域は8の倍数であることから、ブロック単位で考えることができる。
ここでは、追加画像の画像データは、既にDCT係数に変換されているものとしているが、画像データ追加部4が追加画像の画像データをDCT係数に変換するようにしてもよい。
したがって、予め決められた画像の画像データを用いるか、変換開始前にユーザにより入力された画像の画像データを用いるものとする。
なお、予め決められた追加画像の画像データをDCT変換して保持しておけば、量子化処理のみを行えばよく、高速に画像を追加することができる。
図6はこの発明の実施の形態3による画像符号化方式変換装置を示す構成図であり、図において、図2と同一符号は同一または相当部分を示すので説明を省略する。
追加ブロック画像データベース6は予め時刻情報に対応する追加画像の画像データ(追加画像の画像データは、MPEG−2のMB(マクロブロック)単位の画像データであって、DCT係数に変換されている)を記憶しているメモリである。
追加画像作成部7は時刻情報を入力すると、追加ブロック画像データベース6を参照して、その時刻情報に対応する追加画像の画像データを取得し、その追加画像の画像データを画像データ追加部4に出力する。
なお、追加ブロック画像データベース6及び追加画像作成部7から追加画像作成手段が構成されている。
追加画像作成部7は、時刻情報を入力すると、追加ブロック画像データベース6を参照して、その時刻情報に対応する追加画像の画像データを取得し、その追加画像の画像データを画像データ追加部4に出力する。
この時間情報は、どこから得てもよく、例えば、クロックから現在時刻を入力するようにしてもよい。また、最初に変換されるJPEG画像を0として、JPEGの入力に合わせてインクリメントしてもよい。あるいは、電子的に記録されている入力JPEGの作成日時を入力するようにしてもよい。
ここで、図7(a)は「1」の文字を16画素×32ライン(縦方向の2つのMBで描いている例)で表しており、図7(b)は「1」の文字を複数のMBからなるブロック単位で表している説明図である。
追加ブロック画像データベース6がDCT係数に変換されているMB単位の画像データを記憶しているので、追加画像作成部7が追加画像の画像データをDCT変換することなく、追加画像の画像データを画像データ追加部4に出力することができる。
また、数字以外の文字や模様など、文字以外が描かれていてもよい。
ここで、図8は時間情報が表示されている追加画像の一例を示す説明図であり、図9は右端に時間情報が追加された画像の一例を示す説明図である。
これにより、DVD−VIDEOを作成する場合などの自由度を高めることができる他、作成したDVD−VIDEOを視聴しながら、ユーザが時間情報を確認したり、周期的に置き換わる模様などを楽しんだりすることができる。
図10はこの発明の実施の形態4による画像符号化方式変換装置を示す構成図であり、図において、図2と同一符号は同一または相当部分を示すので説明を省略する。
追加ブロック画像データベース8は予めヘッダ情報(ヘッダ情報に含まれている情報であって、例えば、撮影に使用されたカメラの型番、メーカー名、時間情報などの情報)に対応する追加画像の画像データ(追加画像の画像データは、MPEG−2のMB単位の画像データであって、DCT係数に変換されている)を記憶しているメモリである。
追加画像作成部9は追加ブロック画像データベース8を参照して、簡易復号化部1により抽出されたヘッダ情報に対応する追加画像の画像データを取得し、その追加画像の画像データを画像データ追加部4に出力する。
なお、追加ブロック画像データベース8及び追加画像作成部9から追加画像作成手段が構成されている。
追加画像作成部9は、簡易復号化部1からヘッダ情報を受けると、追加ブロック画像データベース8を参照して、そのヘッダ情報に対応する追加画像の画像データを取得し、その追加画像の画像データを画像データ追加部4に出力する。
これにより、DVD−VIDEOを作成する場合などの自由度を高めることができる他、作成したDVD−VIDEOを視聴しながら、ユーザがヘッダ情報を確認したり、周期的に置き換わる模様などを楽しんだりすることができる効果を奏する。
図18では、JPEG画像変換領域の一部を黒で塗りつぶして、白抜きの時間情報を追加している例を示している。
なお、追加画像をJPEG画像変換領域に追加する際、例えば、色差成分については特に処理せずに、輝度成分のみの追加画像を追加するのであれば、処理の高速化を図ることができる。
輝度成分のみの追加画像をJPEG画像変換領域に追加すると、JPEG画像の色差成分が残り、JPEG画像が透けて見えるような画像になる。
図11はこの発明の実施の形態5による画像符号化方式変換装置を示す構成図であり、図において、図1と同一符号は同一または相当部分を示すので説明を省略する。
DCT係数削減部10は簡易復号化部1により抽出されたJPEG量子化DCT係数のうち、高次のJPEG量子化DCT係数を“0”にして、高次のJPEG量子化DCT係数を削除する処理を実施する。なお、DCT係数削減部10は高周波成分削除手段を構成している。
図11では、図1の画像符号化方式変換装置にDCT係数削減部10を適用している例を示しているが、図2、図6及び図10の画像符号化方式変換装置にDCT係数削減部10を適用してもよい。
一般に、画像においては、高周波成分を削減しても劣化が目立たない場合が多いので、この実施の形態5では、高次のJPEG量子化DCT係数を“0”にして、高次のJPEG量子化DCT係数を削除することにより、符号量を削減して圧縮率を高めるようにしている。
具体的には、“0”でないJPEG量子化DCT係数の個数を低次のJPEG量子化DCT係数から順番に計数し、“0”でないJPEG量子化DCT係数の個数が予め指定された個数を超えた段階で、それ以降の高次のJPEG量子化DCT係数を“0”にする方法が考えられる。
また、予め指定された次数より高次のJPEG量子化DCT係数を“0”にする方法や、予め指定された個数以上連続して“0”のJPEG量子化DCT係数が続いた場合に、それ以降の高次のJPEG量子化DCT係数を“0”にする方法が考えられる。
なお、2次元のJPEG量子化DCT係数を低次から順番に調べる方法として、JPEG符号化に用いられるランレングス符号化のデータをそのまま用いる方法を使用することができる。
DCT係数削減部10は、削除処理後のJPEG量子化DCT係数(高次のJPEG量子化DCT係数が削除されているJPEG量子化DCT係数)をデータ変換部2に出力する。
図12はこの発明の実施の形態6による画像符号化方式変換装置を示す構成図であり、図において、図1と同一符号は同一または相当部分を示すので説明を省略する。
スキップ判定部11は簡易復号化部1により今回抽出されたJPEG量子化テーブルと参照データバッファ12に格納されているJPEG量子化テーブル(簡易復号化部1により前回抽出されたJPEG量子化テーブル)を比較するとともに、簡易復号化部1により今回抽出されたJPEG量子化DCT係数と参照データバッファ12に格納されているJPEG量子化DCT係数(簡易復号化部1により前回抽出されたJPEG量子化DCT係数)を比較し、それらの比較結果に基づいてフレーム内符号化を実施するか否かを判定する処理を実施する。ただし、スキップ判定部11はMPEG−2ストリーム作成部13からフレーム内符号化を実施する必要がある旨を示すフレーム内符号化判定用フラグを受けると、JPEG量子化テーブルやJPEG量子化DCT係数の比較処理を実施せずに、フレーム内符号化を実施する旨を示す判定結果を出力する。
参照データバッファ12はスキップ判定部11における次回の比較処理のために、簡易復号化部1により今回抽出されたJPEG量子化テーブルとJPEG量子化DCT係数を保持するメモリである。
なお、スキップ判定部11及び参照データバッファ12から符号化判定手段が構成されている。
図13はこの発明の実施の形態6による画像符号化方式変換装置のスキップ判定部11の処理内容を示すフローチャートである。
JPEG簡易復号部1は、画像信号がJPEGで符号化されているJPEGストリームを入力すると、上記実施の形態1と同様に、そのJPEGストリームの一部を復号して、そのJPEGストリームからヘッダ情報とJPEG量子化テーブル及びJPEG量子化DCT係数を抽出する。
一般に、時間方向の圧縮を行う動画像符号化方式においては、誤差の伝播を防ぐため、強制的にフレーム内符号化を行うように定められている。MPEG−2においては、GOPの先頭やスライスの先頭がこれに当る。
スキップ判定部11は、MPEG−2ストリーム作成部13から入力したフレーム内符号化判定用フラグが“1”であれば(ステップST3)、フレーム内符号化を実施する必要があると判断し、フレーム内符号化を実施する旨を示す判定結果をMPEG−2ストリーム作成部13に出力して、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数をデータ変換部2に出力する(ステップST4)。
なお、スキップ判定部11は、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(1つ前のフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST9)。
そして、スキップ判定部11は、現在のフレームのJPEG量子化テーブルと、1つ前のフレームのJPEG量子化テーブルとを比較するとともに、現在のフレームのJPEG量子化DCT係数と1つ前のフレームのJPEG量子化DCT係数とを比較する(ステップST6)。
スキップ判定部11は、現在のフレームのJPEG量子化DCT係数と1つ前のフレームのJPEG量子化DCT係数とを比較する場合、例えば、下記の式(7)に示すように、現在のフレームのJPEG量子化DCT係数を現在のフレームのJPEG量子化テーブルで除算するとともに、1つ前のフレームのJPEG量子化DCT係数を1つ前のフレームのJPEG量子化テーブルで除算し、双方の除算結果の差分の和が閾値より小さいか否かを判別する。
なお、スキップ判定部11は、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(1つ前のフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST9)。
なお、スキップ判定部11は、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(1つ前のフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST9)。
なお、スキップ判定部11は、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(1つ前のフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST9)。
なお、スキップ判定部11は、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(1つ前のフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST9)。
ただし、この実施の形態6では、非イントラMBを扱う場合もあり、非イントラMBの場合には、上記の式(2)の代わりに下記の式(9)を使用し、式(4)の代わりに下記の式(10)を使用して変換を行う。
一方、スキップ判定部11からフレーム内符号化を実施しない旨を示す判定結果を受けると、フレーム内符号化を実施せずに、前回作成したMPEG−2ストリームを出力する。
また、この実施の形態6では、変換後の形式がMPEG−2であるため、スキップの判定を行う単位をMBとしているが、変換する形式によって判定の単位を変えてもよい。
また、上記実施の形態2〜4における画像の追加と組み合わせてもよく、追加する領域の一部が常に同じ画像である場合、該当するブロックを常にスキップと判定するようにしてもよい。
図14はこの発明の実施の形態7による画像符号化方式変換装置を示す構成図であり、図において、図1と同一符号は同一または相当部分を示すので説明を省略する。
MBタイプ判定部14は簡易復号化部1により抽出された現在のフレームのJPEG量子化テーブルと参照データバッファ15に格納されている最後に符号化の対象にされたフレームのJPEG量子化テーブルを比較するとともに、簡易復号化部1により抽出された現在のフレームのJPEG量子化DCT係数と参照データバッファ15に格納されている最後に符号化の対象にされたフレームのJPEG量子化DCT係数を比較し、それらの比較結果に基づいてフレーム内符号化を実施するか、フレーム間符号化を実施するか、符号化をスキップするかを判定する処理を実施する。ただし、MBタイプ判定部14はMPEG−2ストリーム作成部17からフレーム内符号化を実施する必要がある旨を示すフレーム内符号化判定用フラグを受けると、JPEG量子化テーブルやJPEG量子化DCT係数の比較処理を実施せずに、フレーム内符号化を実施する旨を示す判定結果を出力する。
参照データバッファ15はMBタイプ判定部14における次回の比較処理のために、MBタイプ判定部14により最後に符号化の対象にされたフレーム(フレーム内符号化又はフレーム間符号化の実施対象にされたフレーム)のJPEG量子化テーブルとJPEG量子化DCT係数を保持するメモリである。
なお、MBタイプ判定部14及び参照データバッファ15から符号化判定手段が構成されている。
MPEG−2ストリーム作成部17は符号化対象のフレームやMBがMPEG−2におけるGOPの先頭やスライスの先頭に当る場合、フレーム内符号化判定用フラグを“1”に設定し、それ以外の場合、フレーム内符号化判定用フラグを“0”に設定する一方、MBタイプ判定部14からフレーム内符号化を実施する旨を示す判定結果を受ければ、フレーム内符号化を実施してMPEG−2ストリームを作成し、MBタイプ判定部14からフレーム間符号化を実施する旨を示す判定結果を受ければ、フレーム間符号化を実施してMPEG−2ストリームを作成し、MBタイプ判定部14から符号化をスキップする旨を示す判定結果を受ければ、フレーム内符号化やフレーム間符号化を実施せずに、前回作成したMPEG−2ストリームを出力する処理を実施する。なお、MPEG−2ストリーム作成部17は符号化ストリーム作成手段を構成している。
図15はこの発明の実施の形態7による画像符号化方式変換装置のMBタイプ判定部14の処理内容を示すフローチャートである。
JPEG簡易復号部1は、画像信号がJPEGで符号化されているJPEGストリームを入力すると、上記実施の形態1と同様に、そのJPEGストリームの一部を復号して、そのJPEGストリームからヘッダ情報とJPEG量子化テーブル及びJPEG量子化DCT係数を抽出する。
一般に、時間方向の圧縮を行う動画像符号化方式においては、誤差の伝播を防ぐため、強制的にフレーム内符号化を行うように定められている。MPEG−2においては、GOPの先頭やスライスの先頭がこれに当る。
MBタイプ判定部14は、MPEG−2ストリーム作成部17から入力したフレーム内符号化判定用フラグが“1”であれば(ステップST13)、フレーム内符号化を実施する必要があると判断し、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数をデータ変換部16に出力する(ステップST14)。
そして、MBタイプ判定部14は、現在のフレームのJPEG量子化テーブルと、最後に符号化の対象にされたフレームのJPEG量子化テーブルとを比較するとともに、現在のフレームのJPEG量子化DCT係数と最後に符号化の対象にされたフレームのJPEG量子化DCT係数とを比較する(ステップST16)。
MBタイプ判定部14は、例えば、以下に示すように、比較結果を分類して、フレーム内符号化を実施するか、フレーム間符号化を実施するか、符号化をスキップするかを判定する。
(1)JPEG量子化テーブル又はJPEG量子化DCT係数の差分が大きい場合 → フレーム内符号化を実施すると判断する
(2)JPEG量子化テーブル及びJPEG量子化DCT係数の差分が小さい場合(JPEG量子化テーブル又はJPEG量子化DCT係数の差分が非常に小さい場合を含む) → フレーム間符号化を実施すると判断する
(3)JPEG量子化テーブル及びJPEG量子化DCT係数の差分が非常に小さい場合 → 符号化をスキップすると判断する
また、MBタイプ判定部14は、フレーム内符号化を実施する旨を示す判定結果をMPEG−2ストリーム作成部17及びデータ変換部16に出力するとともに(ステップST20)、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(最後に符号化の対象にされたフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST21)。
また、現在のフレームのJPEG量子化DCT係数と、最後に符号化の対象にされたフレームのJPEG量子化DCT係数との差分を求め、その差分をJPEG量子化DCT係数(以下、「差分JPEG量子化DCT係数」と称する)としてデータ変換部16に出力する(ステップST19)。
このように、差分JPEG量子化DCT係数がデータ変換部16に出力される場合、データ変換部16では、動画像符号化に用いられる動きベクトルの探索が行われないため、演算量が大幅に削減される。
この場合、データ変換部16では、符号化方式の変換を行う必要がないので、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数をデータ変換部16には出力しない。
また、MBタイプ判定部14は、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(最後に符号化の対象にされたフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST21)。
ただし、この実施の形態7では、非イントラMBを扱う場合があり、非イントラMBの場合には、上記の式(2)の代わりに下記の式(9)を使用し、式(4)の代わりに下記の式(10)を使用して変換を行う。
ただし、JPEGからMPEG−2に変換する場合においては、特に変換処理は行われない。式(2)におけるQuantScale=16とするのみである。しかし、他の符号化方式の場合には、何らかの変換処理を行う必要がある場合がある。
なお、データ変換部16は、MBタイプ判定部14の判定結果が符号化をスキップする旨を示す判定結果である場合、上述したように、符号化方式の変換処理を実施しない。
MPEG−2ストリーム作成部17は、MBタイプ判定部14からフレーム間符号化を実施する旨を示す判定結果を受けると、フレーム間符号化を実施して、JPEG簡易復号部1から出力されたヘッダ情報と、データ変換部16から出力されたMPEG−2量子化テーブル・パラメータ及びMPEG−2量子化DCT係数とからMPEG−2ストリームを作成する。
MPEG−2ストリーム作成部17は、MBタイプ判定部14から符号化をスキップする旨を示す判定結果を受けると、フレーム内符号化やフレーム間符号化を実施せずに、前回作成したMPEG−2ストリームを出力する。
また、この実施の形態7では、変換後の形式がMPEG−2であるため、スキップの判定を行う単位をMBとしているが、変換する形式によって判定の単位を変えてもよい。
また、上記実施の形態2〜4における画像の追加と組み合わせてもよく、追加する領域の一部が常に同じ画像である場合、該当するブロックを常にスキップと判定するようにしてもよい。
図16はこの発明の実施の形態8による画像符号化方式変換装置を示す構成図であり、図において、図1と同一符号は同一または相当部分を示すので説明を省略する。
色差フォーマット変換部18はJPEG簡易復号部1により抽出されたJPEG量子化テーブルを用いて、JPEG簡易復号部1により抽出されたJPEG量子化DCT係数を逆量子化して色差成分を求め、その色差成分と、JPEG簡易復号部1により抽出されたヘッダ情報に含まれているJPEGの色差フォーマットを示す情報と、MPEG−2の色差フォーマットとに応じて、そのJPEG量子化DCT係数を変換する処理を実施する。なお、色差フォーマット変換部18は色差変換手段を構成している。
図16では、図1の画像符号化方式変換装置に色差フォーマット変換部18を適用している例を示しているが、図2、図6、図10、図11、図12及び図14の画像符号化方式変換装置に色差フォーマット変換部18を適用してもよい。
画像圧縮においては、圧縮率を高めるために、YCbCr色空間を用いて画像を圧縮する場合が多い。このとき、Y(輝度)成分と比べて、CbCr成分(色差)成分は間引かれていることが多く、その間引き方は符号化方式によって異なる。これが色差フォーマットの違いである。
この実施の形態8では、色差フォーマット変換部18を実装することで、高速な変換処理を実現している。
ここでは、説明の便宜上、JPEGの色差フォーマットが4:2:2形式であり、変換対象のMPEG−2の色差フォーマットが4:2:0形式であるものとする。
図18に示すように、4:2:0形式は、4画素分のY信号に対してCbCr信号(図中ではC)がそれぞれ1画素分である形式である。
また、4:2:2形式は、4画素分のY信号に対してCbCr信号(図中ではC)がそれぞれ2画素分である形式である。
ただし、輝度と色差の位置関係は符号化方式により異なり、図17に示した位置とは異なることがある。
このような変換を行う場合、最も単純な方法としては、一旦画像の復号を行い、16×8の画像信号から8×8の画像信号にフィルタリングを行って縮退した後、再度DCTを行うことが挙げられるが、演算量が大きくなる欠点がある。
そこで、この実施の形態8では、色差フォーマット変換部18が16×8のの量子化DCT係数を直接8×8の量子化DCT係数に変換することで演算量の削減を行うようにしている。
ここで、式(16)を変形すると、下記の式(18)のようになる。
この方法により、個別にDCT変換を行った2つの8×8のDCT変換係数Z16×8から16×8のDCT変換係数Y16×8を算出することが可能であり、色差フォーマットの異なる画像ブロックから算出されたDCT係数を復号を行わずに直接変換することができる。
このようにして、色差フォーマット変換部18により変換されたJPEG量子化DCT係数がデータ変換部2に出力される。
また、4:2:2形式から4:2:0形式への変換以外の色差フォーマット変換であっても、本方式で示した方法から変換係数を算出することが可能である。
Claims (8)
- 画像信号が第一の符号化方式で符号化されている符号化ストリームの一部を復号して、上記符号化ストリームからヘッダ情報と第一の符号化方式の量子化テーブル及び量子化周波数成分を抽出する簡易復号化手段と、上記簡易復号化手段により抽出された第一の符号化方式の量子化テーブル及び量子化周波数成分を第二の符号化方式の量子化テーブル及び量子化周波数成分に変換するデータ変換手段と、上記データ変換手段により変換された第二の符号化方式の量子化テーブルを用いて追加画像の画像データを量子化し、量子化後の画像データを上記データ変換手段により変換された第二の符号化方式の量子化周波数成分に加える画像データ追加手段と、上記簡易復号化手段により抽出されたヘッダ情報を上記追加画像の画像幅に応じて変更し、変更後のヘッダ情報と上記データ変換手段により変換された第二の符号化方式の量子化テーブルと上記画像データ追加手段により量子化後の画像データが加えられた第二の符号化方式の量子化周波数成分から第二の符号化方式の符号化ストリームを作成する符号化ストリーム作成手段とを備えた画像符号化方式変換装置。
- 時刻情報を用いて追加画像を作成し、上記追加画像の画像データを画像データ追加手段に出力する追加画像作成手段を設けたことを特徴とする請求項1記載の画像符号化方式変換装置。
- 簡易復号化手段により抽出されたヘッダ情報を用いて追加画像を作成し、上記追加画像の画像データを画像データ追加手段に出力する追加画像作成手段を設けたことを特徴とする請求項1記載の画像符号化方式変換装置。
- 簡易復号化手段により今回抽出された第一の符号化方式の量子化テーブルと、上記簡易復号化手段により前回抽出された第一の符号化方式の量子化テーブルとを比較し、
さらに簡易復号化手段から今回出力された第一の符号化方式の量子化周波数成分と、上記簡易復号化手段から前回出力された第一の符号化方式の量子化周波数成分とを比較し、
上記2つの比較結果に基づいてフレーム内符号化を実施するか否かを判定する符号化判定手段を設け、符号化ストリーム作成手段が上記符号化判定手段からフレーム内符号化を実施する旨を示す判定結果を受ければ、フレーム内符号化を実施して第二の符号化方式の符号化ストリームを作成し、上記符号化判定手段からフレーム内符号化を実施しない旨を示す判定結果を受ければ、フレーム内符号化を実施せずに、前回作成した第二の符号化方式の符号化ストリームを出力することを特徴とする請求項1から請求項3のうちのいずれか1項記載の画像符号化方式変換装置。 - 符号化判定手段は、符号化ストリーム作成手段からフレーム内符号化を実施する必要がある旨を示すフラグを受けると、量子化テーブル及び量子化周波数成分の比較処理を実施せずに、フレーム内符号化を実施する旨を示す判定結果を出力することを特徴とする請求項4記載の画像符号化方式変換装置。
- 簡易復号化手段により抽出された第一の符号化方式の量子化テーブルと、最後に符号化の対象にされたフレームの第一の符号化方式の量子化テーブルとを比較し、
さらに簡易復号化手段から出力された第一の符号化方式の量子化周波数成分と、最後に符号化の対象にされたフレームの第一の符号化方式の量子化周波数成分とを比較し、
上記2つの比較結果に基づいてフレーム内符号化を実施するか、フレーム間符号化を実施するか、符号化をスキップするかを判定する符号化判定手段を設け、符号化ストリーム作成手段が上記符号化判定手段からフレーム内符号化を実施する旨を示す判定結果を受ければ、フレーム内符号化を実施して第二の符号化方式の符号化ストリームを作成し、上記符号化判定手段からフレーム間符号化を実施する旨を示す判定結果を受ければ、フレーム間符号化を実施して第二の符号化方式の符号化ストリームを作成し、上記符号化判定手段から符号化をスキップする旨を示す判定結果を受ければ、フレーム内符号化及びフレーム間符号化を実施せずに、前回作成した第二の符号化方式の符号化ストリームを出力することを特徴とする請求項1から請求項3のうちのいずれか1項記載の画像符号化方式変換装置。 - 符号化判定手段は、符号化ストリーム作成手段からフレーム内符号化を実施する必要がある旨を示すフラグを受けると、量子化テーブル及び量子化周波数成分の比較処理を実施せずに、フレーム内符号化を実施する旨を示す判定結果を出力することを特徴とする請求項6記載の画像符号化方式変換装置。
- 第一の符号化方式の色差フォーマットと第二の符号化方式の色差フォーマットに応じて簡易復号化手段から出力された第一の符号化方式の量子化周波数成分を変換する色差変換手段を設けたことを特徴とする請求項1から請求項7のうちのいずれか1項記載の画像符号化方式変換装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011001238A JP5226089B2 (ja) | 2011-01-06 | 2011-01-06 | 画像符号化方式変換装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011001238A JP5226089B2 (ja) | 2011-01-06 | 2011-01-06 | 画像符号化方式変換装置 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006337280A Division JP2008153771A (ja) | 2006-12-14 | 2006-12-14 | 画像符号化方式変換装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011091858A true JP2011091858A (ja) | 2011-05-06 |
JP5226089B2 JP5226089B2 (ja) | 2013-07-03 |
Family
ID=44109597
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011001238A Expired - Fee Related JP5226089B2 (ja) | 2011-01-06 | 2011-01-06 | 画像符号化方式変換装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5226089B2 (ja) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0879741A (ja) * | 1994-08-31 | 1996-03-22 | Canon Inc | 画像処理装置及び方法 |
JP2001309381A (ja) * | 2000-04-25 | 2001-11-02 | Canon Inc | 画像処理装置及びその方法と記憶媒体 |
JP2002010264A (ja) * | 2000-06-21 | 2002-01-11 | Victor Co Of Japan Ltd | 圧縮データの置き換え装置 |
JP2004120620A (ja) * | 2002-09-27 | 2004-04-15 | Kddi Corp | 符号化動画像変換装置 |
JP2004186811A (ja) * | 2002-11-29 | 2004-07-02 | Canon Inc | 符号化データ変換装置及びその方法 |
JP2006222790A (ja) * | 2005-02-10 | 2006-08-24 | Nippon Hoso Kyokai <Nhk> | 圧縮符号化装置および圧縮符号化プログラム、並びに、復号化装置および復号化プログラム |
-
2011
- 2011-01-06 JP JP2011001238A patent/JP5226089B2/ja not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0879741A (ja) * | 1994-08-31 | 1996-03-22 | Canon Inc | 画像処理装置及び方法 |
JP2001309381A (ja) * | 2000-04-25 | 2001-11-02 | Canon Inc | 画像処理装置及びその方法と記憶媒体 |
JP2002010264A (ja) * | 2000-06-21 | 2002-01-11 | Victor Co Of Japan Ltd | 圧縮データの置き換え装置 |
JP2004120620A (ja) * | 2002-09-27 | 2004-04-15 | Kddi Corp | 符号化動画像変換装置 |
JP2004186811A (ja) * | 2002-11-29 | 2004-07-02 | Canon Inc | 符号化データ変換装置及びその方法 |
JP2006222790A (ja) * | 2005-02-10 | 2006-08-24 | Nippon Hoso Kyokai <Nhk> | 圧縮符号化装置および圧縮符号化プログラム、並びに、復号化装置および復号化プログラム |
Also Published As
Publication number | Publication date |
---|---|
JP5226089B2 (ja) | 2013-07-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI324481B (en) | Method and apparatus for encoding/decoding video signal using reference pictures | |
JP5280530B2 (ja) | ビデオコーディングのための時間圧縮での断片化参照 | |
US10013746B2 (en) | High dynamic range video tone mapping | |
KR100971835B1 (ko) | 화상 복호 방법 및 장치 | |
JP5502487B2 (ja) | 逆離散コサイン変換の最大ダイナミックレンジのシグナリング | |
US6301304B1 (en) | Architecture and method for inverse quantization of discrete cosine transform coefficients in MPEG decoders | |
JP4245576B2 (ja) | 画像圧縮伸張法、画像圧縮装置及び画像伸張装置 | |
JP2009290463A (ja) | 符号化装置/復号化装置、符号化方法/復号化方法及びプログラム | |
US8611418B2 (en) | Decoding a progressive JPEG bitstream as a sequentially-predicted hybrid video bitstream | |
JP5800362B2 (ja) | 動画像送出装置、動画像受信装置、動画像伝送システム、動画像送出方法、動画像受信方法、およびプログラム | |
JP4274653B2 (ja) | 動画像合成装置および動画像合成方法 | |
JPH057356A (ja) | 画像記録再生装置 | |
JP2001119703A (ja) | 可変長予測符号化によるデジタルビデオイメージの圧縮 | |
JP5226089B2 (ja) | 画像符号化方式変換装置 | |
JP2008153771A (ja) | 画像符号化方式変換装置 | |
JP2009218965A (ja) | 画像処理装置、それを搭載した撮像装置、および画像再生装置 | |
JP2006129248A (ja) | 画像符号化方法および装置、ならびに画像復号方法および装置 | |
JP4749508B2 (ja) | 画像復号方法 | |
JP2008109700A (ja) | ディジタル信号変換方法およびディジタル信号変換装置 | |
JP2004056616A (ja) | 符号化信号復号装置、符号化信号復号方法および符号化信号復号プログラム | |
KR101979634B1 (ko) | 화질 개선을 위한 영상 처리 장치 및 그 방법 | |
JP2005184525A (ja) | 画像処理装置 | |
JP2011041178A (ja) | 画像符号化方式変換装置及び画像復号装置 | |
Awad et al. | Video over Cellular Mobile Device based on Hybrid Technique | |
Han | Video Quality for DTV Essential Hidden Area Utilization |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20121213 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121218 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130205 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130305 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130313 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160322 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |