JP2011091858A - 画像符号化方式変換装置 - Google Patents

画像符号化方式変換装置 Download PDF

Info

Publication number
JP2011091858A
JP2011091858A JP2011001238A JP2011001238A JP2011091858A JP 2011091858 A JP2011091858 A JP 2011091858A JP 2011001238 A JP2011001238 A JP 2011001238A JP 2011001238 A JP2011001238 A JP 2011001238A JP 2011091858 A JP2011091858 A JP 2011091858A
Authority
JP
Japan
Prior art keywords
encoding
image
jpeg
mpeg
quantization
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011001238A
Other languages
English (en)
Other versions
JP5226089B2 (ja
Inventor
Hirobumi Nishikawa
博文 西川
Daiki Kudo
大樹 工藤
Yoshiaki Kato
嘉明 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2011001238A priority Critical patent/JP5226089B2/ja
Publication of JP2011091858A publication Critical patent/JP2011091858A/ja
Application granted granted Critical
Publication of JP5226089B2 publication Critical patent/JP5226089B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】演算処理量を大幅に削減することができるとともに、画質の劣化を大幅に抑制することができる画像符号化方式変換装置を得ることを目的とする。
【解決手段】JPEG簡易復号部1により抽出されたJPEG量子化テーブル・パラメータ及びJPEG量子化DCT係数をMPEG−2量子化テーブル・パラメータ及びMPEG−2量子化DCT係数に変換するデータ変換部2と、データ変換部2で変換されたMPEG−2量子化テーブル・パラメータ及びMPEG−2量子化DCT係数を用いて追加MPEG−2量子化DCT係数とヘッダ変更情報を出力する画像データ追加部4を設け、ヘッダ情報とMPEG−2量子化テーブル・パラメータと追加MPEG−2量子化DCT係数とヘッダ変更情報からMPEG−2ストリームを作成する。
【選択図】図2

Description

この発明は、例えば、JPEGの映像ストリームをMPEG−2の映像ストリームに変換する画像符号化方式変換装置に関するものである。
近年、一般的に画像を圧縮して符号化する技術が用いられている。
この画像符号化方式の代表的なものとして、主にデジタルカメラなどで採用されているJPEG(Joint Photographic Experts Group)がある。
また、JPEGを連続して符号化することで、動画像を符号化する方式もある。この方式は、Motion JPEG、もしくは、MJPEG等と呼ばれることもある。
さらに、DVD(Digital Veritable Disk)−VIDEOに採用されているMPEG−2(Moving Picture Experts Group)と呼ばれる動画像符号化方式がある。
このように、画像符号化方式には様々な方式が存在し、一般に異なる画像符号化方式には互換性がない。
そのため、ユーザが異なる画像符号化方式に対応するには、それぞれの画像符号化方式に対応する画像復号装置を用意するか、画像符号化方式変換装置を用意する必要がある。
例えば、市販されているDVDプレーヤはMPEG−2方式しか再生できず、それぞれの画像符号化方式に対応する画像復号装置を用意するのは現実的に困難である。
一方、画像符号化方式変換装置を用意すれば、それぞれの画像符号化方式に対応する画像復号装置を用意する必要がなくなるが、画像の変換に要する時間や、変換後の画像の品質が問題になる。
画像符号化方式変換装置における最も単純な変換方法としては、一旦、符号化データを復号して画像データに戻してから、再度異なる符号化方式で符号化を行う方法がある。
しかし、この変換方法では、演算処理量が膨大になる上、画像の画質も劣化し易い欠点がある。
そこで、演算処理量の増加や画質の劣化を抑えるために、符号化データの完全な復号を行わずに画像符号化方式を変換する画像符号化方式変換装置が開発され、その画像符号化方式変換装置が以下の非特許文献1に開示されている。
ただし、以下の非特許文献1に開示されている画像符号化方式変換装置では、符号化データの量子化や逆量子化については実施する必要がある。
An Application Level Video Gateway, Elan Amir, Steven McCanne, Hui Zhang, ACM Multimedia 95, 1995
従来の画像符号化方式変換装置は以上のように構成されているので、符号化データの完全な復号を行わずに画像符号化方式を変換しており、ある程度は、演算処理量の増加や画質の劣化を抑えることができる。しかし、符号化データの量子化や逆量子化については実施する必要があるため、演算処理量の削減や画質の劣化の抑制には限界があるなどの課題があった。
この発明は上記のような課題を解決するためになされたもので、演算処理量を大幅に削減することができるとともに、画質の劣化を大幅に抑制することができる画像符号化方式変換装置を得ることを目的とする。
この発明に係る画像符号化方式変換装置は、画像信号が第一の符号化方式で符号化されている符号化ストリームの一部を復号して、その符号化ストリームからヘッダ情報と第一の符号化方式の量子化テーブル及び量子化周波数成分を抽出する簡易復号化手段と、簡易復号化手段により抽出された第一の符号化方式の量子化テーブル及び量子化周波数成分を第二の符号化方式の量子化テーブル及び量子化周波数成分に変換するデータ変換手段と、データ変換手段により変換された第二の符号化方式の量子化テーブルを用いて追加画像の画像データを量子化し、量子化後の画像データをデータ変換手段により変換された第二の符号化方式の量子化周波数成分に加える画像データ追加手段と、簡易復号化手段により抽出されたヘッダ情報を追加画像の画像幅に応じて変更し、変更後のヘッダ情報とデータ変換手段により変換された第二の符号化方式の量子化テーブルと画像データ追加手段により量子化後の画像データが加えられた第二の符号化方式の量子化周波数成分から第二の符号化方式の符号化ストリームを作成する符号化ストリーム作成手段とを備えるものである。
この発明によれば、画像信号が第一の符号化方式で符号化されている符号化ストリームの一部を復号して、その符号化ストリームからヘッダ情報と第一の符号化方式の量子化テーブル及び量子化周波数成分を抽出する簡易復号化手段と、簡易復号化手段により抽出された第一の符号化方式の量子化テーブル及び量子化周波数成分を第二の符号化方式の量子化テーブル及び量子化周波数成分に変換するデータ変換手段と、データ変換手段により変換された第二の符号化方式の量子化テーブルを用いて追加画像の画像データを量子化し、量子化後の画像データをデータ変換手段により変換された第二の符号化方式の量子化周波数成分に加える画像データ追加手段と、簡易復号化手段により抽出されたヘッダ情報を追加画像の画像幅に応じて変更し、変更後のヘッダ情報とデータ変換手段により変換された第二の符号化方式の量子化テーブルと画像データ追加手段により量子化後の画像データが加えられた第二の符号化方式の量子化周波数成分から第二の符号化方式の符号化ストリームを作成する符号化ストリーム作成手段とを備えるように構成したので、演算処理量を大幅に削減することができるとともに、画質の劣化を大幅に抑制することができる効果がある。
この発明の実施の形態1による画像符号化方式変換装置を示す構成図である。 この発明の実施の形態2による画像符号化方式変換装置を示す構成図である。 右端に画像が追加された画像データを示す説明図である。 左端に画像が追加された画像データを示す説明図である。 右端と左端に画像が追加された画像データを示す説明図である。 この発明の実施の形態3による画像符号化方式変換装置を示す構成図である。 (a)は「1」の文字を16画素×32ライン(縦方向の2つのMBで描いている例)で表しており、(b)は「1」の文字を複数のMBからなるブロック単位で表している説明図である。 時間情報が表示されている追加画像の一例を示す説明図である。 右端に時間情報が追加された画像の一例を示す説明図である。 この発明の実施の形態4による画像符号化方式変換装置を示す構成図である。 この発明の実施の形態5による画像符号化方式変換装置を示す構成図である。 この発明の実施の形態6による画像符号化方式変換装置を示す構成図である。 この発明の実施の形態6による画像符号化方式変換装置のスキップ判定部11の処理内容を示すフローチャートである。 この発明の実施の形態7による画像符号化方式変換装置を示す構成図である。 この発明の実施の形態7による画像符号化方式変換装置のMBタイプ判定部14の処理内容を示すフローチャートである。 この発明の実施の形態8による画像符号化方式変換装置を示す構成図である。 色差フォーマットを示す説明図である。 JPEG画像変換領域に時間情報が追加された画像の一例を示す説明図である。
実施の形態1.
図1はこの発明の実施の形態1による画像符号化方式変換装置を示す構成図であり、図において、JPEG簡易復号部1は画像信号がJPEG(第一の符号化方式)で符号化されているJPEGストリーム(符号化ストリーム)の一部を復号して、そのJPEGストリームからヘッダ情報とJPEG量子化テーブル(第一の符号化方式の量子化テーブル)及びJPEG量子化DCT(Discrete Cosine Transform)係数(第一の符号化方式の量子化周波数成分)を抽出する処理を実施する。なお、JPEG簡易復号部1は簡易復号化手段を構成している。
データ変換部2はJPEG簡易復号部1により抽出されたJPEG量子化テーブル及びJPEG量子化DCT係数をMPEG−2量子化テーブル・パラメータ(第二の符号化方式の量子化テーブル)及びMPEG−2量子化DCT係数(第二の符号化方式の量子化周波数成分)に変換する処理を実施する。なお、データ変換部2はデータ変換手段を構成している。
MPEG−2ストリーム作成部3はJPEG簡易復号部1により抽出されたヘッダ情報とデータ変換部2により変換されたMPEG−2量子化テーブル・パラメータ及びMPEG−2量子化DCT係数からMPEG−2ストリーム(第二の符号化方式の符号化ストリーム)を作成する処理を実施する。なお、MPEG−2ストリーム作成部3は符号化ストリーム作成手段を構成している。
次に動作について説明する。
最初に、JPEGとMPEG−2の符号化について簡単に説明する。
JPEGは、画像の画像信号(画素データ)をDCT変換し、DCT変換の画像信号であるDCT係数を量子化するものである。
JPEGでは、画像信号をDCT変換することにより、パワーを低周波領域に集中させることができ、DCT係数を量子化することにより、高周波成分を間引いて画像を圧縮することができる。
また、JPEGでは、DCT係数のランレングス符号化や可変長符号化などを実施することにより、更に圧縮率を高めている。
一方、MPEG−2では、JPEGと同様の圧縮を実施しているが、時間方向に圧縮している点でJPEGと相違しており、また、符号化フォーマットの点でJPEGと相違している。
この実施の形態1では、MPEG−2におけるフレーム間符号化を用いずに、全てフレーム内符号化を行うものとする。
以下、図1の画像符号化方式変換装置の処理内容を具体的に説明する。
JPEG簡易復号部1は、画像信号がJPEGで符号化されているJPEGストリームを入力すると、そのJPEGストリームの一部を復号して、そのJPEGストリームからヘッダ情報とJPEG量子化テーブル及びJPEG量子化DCT係数を抽出する。
即ち、JPEG簡易復号部1は、JPEGストリームにおけるヘッダ情報やハフマン符号などを復号することにより、そのJPEGストリームからヘッダ情報を抽出して、そのヘッダ情報をMPEG−2ストリーム作成部3に出力し、そのJPEGストリームからJPEG量子化テーブルとJPEG量子化DCT係数を抽出して、そのJPEG量子化テーブルとJPEG量子化DCT係数をデータ変換部2に出力する。
データ変換部2は、JPEG簡易復号部1からJPEG量子化テーブルとJPEG量子化DCT係数を受けると、そのJPEG量子化テーブルをMPEG−2量子化テーブル・パラメータに変換し、そのJPEG量子化DCT係数をMPEG−2量子化DCT係数に変換する。
以下、データ変換部2における変換アルゴリズムを説明する。
まず、JPEG符号化におけるJPEG量子化DCT係数は、下記の式(1)で逆量子化される。
Figure 2011091858


ただし、JpegDequantDCTi,jはJPEG量子化DCT係数が逆量子化されたDCT係数、JpegQuantTablei,jはJPEG量子化テーブル、JpegQuantDCTi,jはJPEG量子化DCT係数である。
i,jは8×8の各成分を表している。
一方、MPEG−2符号化におけるイントラMB(Macro Block)においては、MPEG−2量子化DCT係数が、i=j=0のDC(Direct Current)成分と、それ以外のAC(Alternating Current)成分で異なり、以下の式(2)で逆量子化される。
Figure 2011091858

ただし、MpegDequantDCTi,jはMPEG−2量子化DCT係数が逆りょうしかされたDCT係数、MpegQuantTablei,jはMPEG−2量子化テーブル・パラメータ、MpegQuantDCTi,jはMPEG−2量子化DCT係数、DcMultはイントラDC成分用量子化パラメータ、QuantScaleは量子化スケールコードである。
上記の式(1)と式(2)におけるJPEGとMPEG−2の逆量子化計算式から、イントラMBでは、下記に示すように、MPEG−2での符号化を行えばよい。
Figure 2011091858
ただし、DcMultはMPEG−2の規定の範囲内の任意の値でよい。
式(3)〜(5)から分る通り、逆量子化及び量子化の処理を直流成分だけ行えばよく、演算量が削減されていることが理解される。
MPEG−2ストリーム作成部3は、JPEG簡易復号部1がヘッダ情報を抽出し、データ変換部2がMPEG−2量子化テーブル・パラメータとMPEG−2量子化DCT係数を出力すると、そのヘッダ情報とMPEG−2量子化テーブル・パラメータとMPEG−2量子化DCT係数からMPEG−2ストリームを作成する。
特に、MpegQuantTablei,jをMPEG−2のpictureヘッダ部に多重して符号化し、DcMultをMPEG−2のVLC(Variable Length Coding)を行う際に符号化するとよい。
以上で明らかなように、この実施の形態1によれば、画像信号がJPEGで符号化されているJPEGストリームの一部を復号して、そのJPEGストリームからヘッダ情報とJPEG量子化テーブル及びJPEG量子化DCT係数を抽出するJPEG簡易復号部1と、JPEG簡易復号部1により抽出されたJPEG量子化テーブル及びJPEG量子化DCT係数をMPEG−2量子化テーブル・パラメータ及びMPEG−2量子化DCT係数に変換するデータ変換部2とを設け、JPEG簡易復号部1により抽出されたヘッダ情報とデータ変換部2により変換されたMPEG−2量子化テーブル・パラメータ及びMPEG−2量子化DCT係数からMPEG−2ストリームを作成するように構成したので、演算処理量を大幅に削減することができるとともに、画質の劣化を大幅に抑制することができる効果を奏する。
即ち、この実施の形態1によれば、画像符号化方式をJPEGからMPEG−2に変換する際、変換に伴う逆量子化処理と量子化処理が1つのDCTのブロックにつき1度で済むため、演算量を大幅に削減することができるとともに、再量子化処理による画質劣化を抑えることができる。
なお、この実施の形態1では、画像符号化方式をJPEGからMPEG−2に変換するものについて示したが、同様の変換方法を用いて、MPEG−2のI−pictureからJPEGに変換することもできる。また、量子化及びDCTを用いている他の符号化方式間の変換にも適用することが可能である。
実施の形態2.
図2はこの発明の実施の形態2による画像符号化方式変換装置を示す構成図であり、図において、図1と同一符号は同一または相当部分を示すので説明を省略する。
画像データ追加部4はデータ変換部2により変換されたMPEG−2量子化テーブル・パラメータを用いて追加画像の画像データ(ここでは、追加画像の画像データは、既にDCT係数に変換されているものとする)を量子化し、量子化後の画像データをデータ変換部2により変換されたMPEG−2量子化DCT係数に加えて、追加MPEG−2量子化DCT係数(MPEG−2量子化DCT係数+量子化後の画像データ)をMPEG−2ストリーム作成部5に出力するとともに、追加画像の画像幅を示すヘッダ変更情報をMPEG−2ストリーム作成部5に出力する。なお、画像データ追加部4は画像データ追加手段を構成している。
MPEG−2ストリーム作成部5は簡易復号化部1により抽出されたヘッダ情報を画像データ追加部4から出力されたヘッダ変更情報にしたがって変更し、変更後のヘッダ情報とデータ変換部2により変換されたMPEG−2量子化テーブル・パラメータと画像データ追加部4から出力された追加MPEG−2量子化DCT係数からMPEG−2ストリームを作成する処理を実施する。なお、MPEG−2ストリーム作成部5は符号化ストリーム作成手段を構成している。
この実施の形態2では、追加画像の画像データを用いて、変換後のMPEG−2の画像の幅を拡大する方法について示している。
MPEG−2は、例えば、DVD(Digital Versatile Disk)−VIDEO方式における映像符号化方式で用いられている。
このDVD−VIDEO方式では、MPEG−2と比べて、さらに解像度の制限が設けられている。例えば、幅704画素×高さ480ラインなどに制限されている。
しかし、一般的なJPEGでは、幅と高さの比が4:3である。例えば、幅640画素×高さ480ラインなどで記録される。
この実施の形態2を用いることで、高速に画像の幅を拡大することが可能になる。
以下、図2の画像符号化方式変換装置の処理内容を具体的に説明する。
JPEG簡易復号部1は、画像信号がJPEGで符号化されているJPEGストリームを入力すると、上記実施の形態1と同様に、そのJPEGストリームの一部を復号して、そのJPEGストリームからヘッダ情報とJPEG量子化テーブル及びJPEG量子化DCT係数を抽出する。
データ変換部2は、JPEG簡易復号部1からJPEG量子化テーブルとJPEG量子化DCT係数を受けると、上記実施の形態1と同様に、そのJPEG量子化テーブルをMPEG−2量子化テーブル・パラメータに変換し、そのJPEG量子化DCT係数をMPEG−2量子化DCT係数に変換する。
画像データ追加部4は、データ変換部2からMPEG−2量子化テーブル・パラメータを受けると、そのMPEG−2量子化テーブル・パラメータを用いて追加画像の画像データを量子化する。
また、画像データ追加部4は、量子化後の画像データをデータ変換部2により変換されたMPEG−2量子化DCT係数に加えて、追加MPEG−2量子化DCT係数(MPEG−2量子化DCT係数+量子化後の画像データ)をMPEG−2ストリーム作成部5に出力するとともに、追加画像の画像幅を示すヘッダ変更情報をMPEG−2ストリーム作成部5に出力する。
以下、追加MPEG−2量子化DCT係数の作成方法を説明する。
例えば、64画素×480ラインの追加画像を640画素×480ラインの画像に追加して、704画素×480ラインの画像を作成する場合には、図3に示すように、640画素×480ラインの画像の右端に64画素×480ラインの追加画像を追加する形態の他、図4に示すように、640画素×480ラインの画像の左端に64画素×480ラインの追加画像を追加する形態や、図5に示すように、640画素×480ラインの画像の右端に32画素×480ラインの追加画像を追加して、640画素×480ラインの画像の左端に32画素×480ラインの追加画像を追加する形態などが考えられる。
いずれの形態でも、追加する画像の領域は8の倍数であることから、ブロック単位で考えることができる。
追加画像としては、例えば、単一色で塗りつぶされている画像、何らかの模様や文字が施されている画像など、いかなる画像の画像データであってもよく、ユーザにより入力された画像の画像データであってもよい。
ここでは、追加画像の画像データは、既にDCT係数に変換されているものとしているが、画像データ追加部4が追加画像の画像データをDCT係数に変換するようにしてもよい。
したがって、予め決められた画像の画像データを用いるか、変換開始前にユーザにより入力された画像の画像データを用いるものとする。
画像データ追加部4は、下記の式(6)に示すように、データ変換部2から出力されたMPEG−2量子化テーブル・パラメータを用いて、追加画像の画像データを量子化する。
Figure 2011091858
ただし、AddDCTi,jは追加画像の画像データ、AddQuantDCTi,jは量子化された追加画像の画像データである。
画像データ追加部4は、上述したように、量子化後の追加画像の画像データをデータ変換部2により変換されたMPEG−2量子化DCT係数に加えて、追加MPEG−2量子化DCT係数(MPEG−2量子化DCT係数+量子化後の画像データ)をMPEG−2ストリーム作成部5に出力するとともに、追加画像の画像幅を示すヘッダ変更情報をMPEG−2ストリーム作成部5に出力する。
なお、予め決められた追加画像の画像データをDCT変換して保持しておけば、量子化処理のみを行えばよく、高速に画像を追加することができる。
MPEG−2ストリーム作成部5は、JPEG簡易復号部1からヘッダ情報を受け、データ変換部2からMPEG−2量子化テーブル・パラメータと追加MPEG−2量子化DCT係数とヘッダ変更情報を受けると、そのヘッダ情報に含まれている画像幅に関する情報をヘッダ変更情報にしたがって変更し、変更後のヘッダ情報とMPEG−2量子化テーブル・パラメータと追加MPEG−2量子化DCT係数からMPEG−2ストリームを作成する。
以上で明らかなように、この実施の形態2によれば、データ変換部2により変換されたMPEG−2量子化テーブル・パラメータを用いて追加画像の画像データを量子化し、量子化後の画像データをデータ変換部2により変換されたMPEG−2量子化DCT係数に加えて、追加MPEG−2量子化DCT係数(MPEG−2量子化DCT係数+量子化後の画像データ)をMPEG−2ストリーム作成部5に出力するとともに、追加画像の画像幅を示すヘッダ変更情報をMPEG−2ストリーム作成部5に出力するように構成したので、上記実施の形態1と同様の効果を奏する他に、高速に画像サイズを変更することができる効果を奏する。これにより、DVD−VIDEOを作成する場合などの自由度を高めることができる。
実施の形態3.
図6はこの発明の実施の形態3による画像符号化方式変換装置を示す構成図であり、図において、図2と同一符号は同一または相当部分を示すので説明を省略する。
追加ブロック画像データベース6は予め時刻情報に対応する追加画像の画像データ(追加画像の画像データは、MPEG−2のMB(マクロブロック)単位の画像データであって、DCT係数に変換されている)を記憶しているメモリである。
追加画像作成部7は時刻情報を入力すると、追加ブロック画像データベース6を参照して、その時刻情報に対応する追加画像の画像データを取得し、その追加画像の画像データを画像データ追加部4に出力する。
なお、追加ブロック画像データベース6及び追加画像作成部7から追加画像作成手段が構成されている。
次に動作について説明する。
追加画像作成部7は、時刻情報を入力すると、追加ブロック画像データベース6を参照して、その時刻情報に対応する追加画像の画像データを取得し、その追加画像の画像データを画像データ追加部4に出力する。
この時間情報は、どこから得てもよく、例えば、クロックから現在時刻を入力するようにしてもよい。また、最初に変換されるJPEG画像を0として、JPEGの入力に合わせてインクリメントしてもよい。あるいは、電子的に記録されている入力JPEGの作成日時を入力するようにしてもよい。
例えば、2006年4月1日22時00分14秒の時間情報が得られた場合、追加ブロック画像データベース6からこの時間情報の表示に必要な追加画像の画像データとして、MPEG−2のMB単位で描かれている「2」「0」「6」「4」「1」「年」「月」「日」「時」「分」の画像データのDCT係数を取得する。
ここで、図7(a)は「1」の文字を16画素×32ライン(縦方向の2つのMBで描いている例)で表しており、図7(b)は「1」の文字を複数のMBからなるブロック単位で表している説明図である。
追加ブロック画像データベース6がDCT係数に変換されているMB単位の画像データを記憶しているので、追加画像作成部7が追加画像の画像データをDCT変換することなく、追加画像の画像データを画像データ追加部4に出力することができる。
画像データ追加部4は、追加画像作成部7から追加画像の画像データを受けると、上記実施の形態2と同様に、データ変換部2により変換されたMPEG−2量子化テーブル・パラメータを用いて追加画像の画像データを量子化し、量子化後の画像データをデータ変換部2により変換されたMPEG−2量子化DCT係数に加えて、追加MPEG−2量子化DCT係数(MPEG−2量子化DCT係数+量子化後の画像データ)をMPEG−2ストリーム作成部5に出力するとともに、追加画像の画像幅を示すヘッダ変更情報をMPEG−2ストリーム作成部5に出力する。
この実施の形態3では、図7(a)に示すように、縦方向の2つのMBで文字が描いている例を示したが、3つ以上のMBで文字が描いていてもよい。また、図7(b)に示すように、MB単位ではなく、ブロック単位で文字が描いていてもよい。
また、数字以外の文字や模様など、文字以外が描かれていてもよい。
ここで、図8は時間情報が表示されている追加画像の一例を示す説明図であり、図9は右端に時間情報が追加された画像の一例を示す説明図である。
以上で明らかなように、この実施の形態3によれば、追加ブロック画像データベース6を参照して、時刻情報に対応する追加画像の画像データを取得し、その追加画像の画像データを画像データ追加部4に出力するように構成したので、時刻情報に対応する画像を追加することができる効果を奏する。
これにより、DVD−VIDEOを作成する場合などの自由度を高めることができる他、作成したDVD−VIDEOを視聴しながら、ユーザが時間情報を確認したり、周期的に置き換わる模様などを楽しんだりすることができる。
実施の形態4.
図10はこの発明の実施の形態4による画像符号化方式変換装置を示す構成図であり、図において、図2と同一符号は同一または相当部分を示すので説明を省略する。
追加ブロック画像データベース8は予めヘッダ情報(ヘッダ情報に含まれている情報であって、例えば、撮影に使用されたカメラの型番、メーカー名、時間情報などの情報)に対応する追加画像の画像データ(追加画像の画像データは、MPEG−2のMB単位の画像データであって、DCT係数に変換されている)を記憶しているメモリである。
追加画像作成部9は追加ブロック画像データベース8を参照して、簡易復号化部1により抽出されたヘッダ情報に対応する追加画像の画像データを取得し、その追加画像の画像データを画像データ追加部4に出力する。
なお、追加ブロック画像データベース8及び追加画像作成部9から追加画像作成手段が構成されている。
上記実施の形態3では、追加画像作成部7が追加ブロック画像データベース6を参照して、時刻情報に対応する追加画像の画像データを取得し、その追加画像の画像データを画像データ追加部4に出力するものについて示したが、追加画像作成部9がヘッダ情報に対応する追加画像の画像データを取得し、その追加画像の画像データを画像データ追加部4に出力するようにしてもよい。
即ち、簡易復号化部1により抽出されるヘッダ情報には、例えば、撮影に使用されたカメラの型番、メーカー名、時間情報など、様々な情報が含まれているので、予めヘッダ情報に対応する追加画像の画像データを追加ブロック画像データベース8に記録する。
追加画像作成部9は、簡易復号化部1からヘッダ情報を受けると、追加ブロック画像データベース8を参照して、そのヘッダ情報に対応する追加画像の画像データを取得し、その追加画像の画像データを画像データ追加部4に出力する。
これにより、DVD−VIDEOを作成する場合などの自由度を高めることができる他、作成したDVD−VIDEOを視聴しながら、ユーザがヘッダ情報を確認したり、周期的に置き換わる模様などを楽しんだりすることができる効果を奏する。
上記実施の形態3,4では、画像データ追加部4が追加画像を追加領域に追加するものについて示したが(図9を参照)、図18に示すように、画像データ追加部4が追加画像をJPEG画像変換領域に追加するようにしてもよい。
図18では、JPEG画像変換領域の一部を黒で塗りつぶして、白抜きの時間情報を追加している例を示している。
なお、追加画像をJPEG画像変換領域に追加する際、例えば、色差成分については特に処理せずに、輝度成分のみの追加画像を追加するのであれば、処理の高速化を図ることができる。
輝度成分のみの追加画像をJPEG画像変換領域に追加すると、JPEG画像の色差成分が残り、JPEG画像が透けて見えるような画像になる。
実施の形態5.
図11はこの発明の実施の形態5による画像符号化方式変換装置を示す構成図であり、図において、図1と同一符号は同一または相当部分を示すので説明を省略する。
DCT係数削減部10は簡易復号化部1により抽出されたJPEG量子化DCT係数のうち、高次のJPEG量子化DCT係数を“0”にして、高次のJPEG量子化DCT係数を削除する処理を実施する。なお、DCT係数削減部10は高周波成分削除手段を構成している。
図11では、図1の画像符号化方式変換装置にDCT係数削減部10を適用している例を示しているが、図2、図6及び図10の画像符号化方式変換装置にDCT係数削減部10を適用してもよい。
次に動作について説明する。
一般に、画像においては、高周波成分を削減しても劣化が目立たない場合が多いので、この実施の形態5では、高次のJPEG量子化DCT係数を“0”にして、高次のJPEG量子化DCT係数を削除することにより、符号量を削減して圧縮率を高めるようにしている。
即ち、DCT係数削減部10は、簡易復号化部1がJPEG量子化DCT係数を抽出すると、そのJPEG量子化DCT係数のうち、高次のJPEG量子化DCT係数を“0”にして、高次のJPEG量子化DCT係数を削除する。
具体的には、“0”でないJPEG量子化DCT係数の個数を低次のJPEG量子化DCT係数から順番に計数し、“0”でないJPEG量子化DCT係数の個数が予め指定された個数を超えた段階で、それ以降の高次のJPEG量子化DCT係数を“0”にする方法が考えられる。
また、予め指定された次数より高次のJPEG量子化DCT係数を“0”にする方法や、予め指定された個数以上連続して“0”のJPEG量子化DCT係数が続いた場合に、それ以降の高次のJPEG量子化DCT係数を“0”にする方法が考えられる。
なお、2次元のJPEG量子化DCT係数を低次から順番に調べる方法として、JPEG符号化に用いられるランレングス符号化のデータをそのまま用いる方法を使用することができる。
DCT係数削減部10は、削除処理後のJPEG量子化DCT係数(高次のJPEG量子化DCT係数が削除されているJPEG量子化DCT係数)をデータ変換部2に出力する。
以上で明らかなように、この実施の形態5によれば、簡易復号化部1により抽出されたJPEG量子化DCT係数のうち、高次のJPEG量子化DCT係数を“0”にして、高次のJPEG量子化DCT係数を削除するように構成したので、符号量を削減して圧縮率を高めることができる効果を奏する。
実施の形態6.
図12はこの発明の実施の形態6による画像符号化方式変換装置を示す構成図であり、図において、図1と同一符号は同一または相当部分を示すので説明を省略する。
スキップ判定部11は簡易復号化部1により今回抽出されたJPEG量子化テーブルと参照データバッファ12に格納されているJPEG量子化テーブル(簡易復号化部1により前回抽出されたJPEG量子化テーブル)を比較するとともに、簡易復号化部1により今回抽出されたJPEG量子化DCT係数と参照データバッファ12に格納されているJPEG量子化DCT係数(簡易復号化部1により前回抽出されたJPEG量子化DCT係数)を比較し、それらの比較結果に基づいてフレーム内符号化を実施するか否かを判定する処理を実施する。ただし、スキップ判定部11はMPEG−2ストリーム作成部13からフレーム内符号化を実施する必要がある旨を示すフレーム内符号化判定用フラグを受けると、JPEG量子化テーブルやJPEG量子化DCT係数の比較処理を実施せずに、フレーム内符号化を実施する旨を示す判定結果を出力する。
参照データバッファ12はスキップ判定部11における次回の比較処理のために、簡易復号化部1により今回抽出されたJPEG量子化テーブルとJPEG量子化DCT係数を保持するメモリである。
なお、スキップ判定部11及び参照データバッファ12から符号化判定手段が構成されている。
MPEG−2ストリーム作成部13は符号化対象のフレームやMBがMPEG−2におけるGOPの先頭やスライスの先頭に当る場合、フレーム内符号化判定用フラグを“1”に設定し、それ以外の場合、フレーム内符号化判定用フラグを“0”に設定する一方、スキップ判定部11からフレーム内符号化を実施する旨を示す判定結果を受ければ、フレーム内符号化を実施してMPEG−2ストリームを作成し、スキップ判定部11からフレーム内符号化を実施しない旨を示す判定結果を受ければ、フレーム内符号化を実施せずに、前回作成したMPEG−2ストリームを出力する処理を実施する。なお、MPEG−2ストリーム作成部13は符号化ストリーム作成手段を構成している。
図12では、図1の画像符号化方式変換装置にスキップ判定部11及びMPEG−2ストリーム作成部13等を適用している例を示しているが、図2、図6、図10及び図11の画像符号化方式変換装置にスキップ判定部11及びMPEG−2ストリーム作成部13等を適用してもよい。
図13はこの発明の実施の形態6による画像符号化方式変換装置のスキップ判定部11の処理内容を示すフローチャートである。
次に動作について説明する。
JPEG簡易復号部1は、画像信号がJPEGで符号化されているJPEGストリームを入力すると、上記実施の形態1と同様に、そのJPEGストリームの一部を復号して、そのJPEGストリームからヘッダ情報とJPEG量子化テーブル及びJPEG量子化DCT係数を抽出する。
MPEG−2ストリーム作成部13は、JPEG簡易復号部1がJPEGストリームからヘッダ情報を抽出すると、符号化対象のフレームやMBがMPEG−2におけるGOPの先頭やスライスの先頭に当る場合、“1”のフレーム内符号化判定用フラグをスキップ判定部11に出力し、符号化対象のフレームやMBがMPEG−2におけるGOPの先頭やスライスの先頭に当らない場合、“0”のフレーム内符号化判定用フラグをスキップ判定部11に出力する。
一般に、時間方向の圧縮を行う動画像符号化方式においては、誤差の伝播を防ぐため、強制的にフレーム内符号化を行うように定められている。MPEG−2においては、GOPの先頭やスライスの先頭がこれに当る。
スキップ判定部11は、簡易復号化部1が現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を抽出すると、簡易復号化部1から現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を入力し(ステップST1)、MPEG−2ストリーム作成部13からフレーム内符号化判定用フラグを入力する(ステップST2)。
スキップ判定部11は、MPEG−2ストリーム作成部13から入力したフレーム内符号化判定用フラグが“1”であれば(ステップST3)、フレーム内符号化を実施する必要があると判断し、フレーム内符号化を実施する旨を示す判定結果をMPEG−2ストリーム作成部13に出力して、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数をデータ変換部2に出力する(ステップST4)。
なお、スキップ判定部11は、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(1つ前のフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST9)。
一方、MPEG−2ストリーム作成部13から入力したフレーム内符号化判定用フラグが“0”であれば(ステップST3)、参照データバッファ12に格納されている参照データ(1つ前のフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を入力する(ステップST5)。
そして、スキップ判定部11は、現在のフレームのJPEG量子化テーブルと、1つ前のフレームのJPEG量子化テーブルとを比較するとともに、現在のフレームのJPEG量子化DCT係数と1つ前のフレームのJPEG量子化DCT係数とを比較する(ステップST6)。
以下、スキップ判定部11における比較処理を具体的に説明する。
スキップ判定部11は、現在のフレームのJPEG量子化DCT係数と1つ前のフレームのJPEG量子化DCT係数とを比較する場合、例えば、下記の式(7)に示すように、現在のフレームのJPEG量子化DCT係数を現在のフレームのJPEG量子化テーブルで除算するとともに、1つ前のフレームのJPEG量子化DCT係数を1つ前のフレームのJPEG量子化テーブルで除算し、双方の除算結果の差分の和が閾値より小さいか否かを判別する。
Figure 2011091858
ただし、Wi,jは成分毎の重み、curQuantDCTi,jは現在のフレームのJPEG量子化DCT係数、refQuantDCTi,jは1つ前のフレームのJPEG量子化DCT係数、curQuantTablei,jは現在のフレームのJPEG量子化テーブル、refQuantDCTi,jは1つ前のフレームのJPEG量子化テーブル、Thskip1はスキップ判定用の閾値である。
スキップ判定部11は、上記の式(7)が成立せず、式(7)の左辺が閾値Thskip1以上であれば(ステップST7)、現在のフレームのJPEG量子化DCT係数と1つ前のフレームのJPEG量子化DCT係数との差分が大きく、フレーム内符号化を実施する必要があると判断し、フレーム内符号化を実施する旨を示す判定結果をMPEG−2ストリーム作成部13に出力して、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数をデータ変換部2に出力する(ステップST4)。
なお、スキップ判定部11は、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(1つ前のフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST9)。
また、スキップ判定部11は、現在のフレームのJPEG量子化テーブルと、1つ前のフレームのJPEG量子化テーブルとを比較し、双方のJPEG量子化テーブルが同一でなく、異なっている場合には差分が大きいと判断し(ステップST7)、フレーム内符号化を実施する旨を示す判定結果をMPEG−2ストリーム作成部13に出力して、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数をデータ変換部2に出力する(ステップST4)。
なお、スキップ判定部11は、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(1つ前のフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST9)。
スキップ判定部11は、現在のフレームのJPEG量子化テーブルと、1つ前のフレームのJPEG量子化テーブルが同一である場合、例えば、下記の式(8)に示すように、現在のフレームのJPEG量子化テーブルと、1つ前のフレームのJPEG量子化テーブルとの差分の和が閾値より小さいか否かを判別する。
Figure 2011091858
ただし、Thskip2はスキップ判定用の閾値である。
スキップ判定部11は、上記の式(8)が成立せず、式(8)の左辺が閾値Thskip2以上であれば(ステップST7)、現在のフレームのJPEG量子化DCT係数と1つ前のフレームのJPEG量子化DCT係数との差分が大きく、フレーム内符号化を実施する必要があると判断し、フレーム内符号化を実施する旨を示す判定結果をMPEG−2ストリーム作成部13に出力して、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数をデータ変換部2に出力する(ステップST4)。
なお、スキップ判定部11は、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(1つ前のフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST9)。
スキップ判定部11は、上記の式(7)が成立し、かつ、式(8)が成立する場合、フレーム内符号化を実施する必要がないと判断し、フレーム内符号化を実施しない旨を示す判定結果をMPEG−2ストリーム作成部13に出力する(ステップST8)。この場合、データ変換部2では、符号化方式の変換を行う必要がないので、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数をデータ変換部2には出力しない。
なお、スキップ判定部11は、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(1つ前のフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST9)。
データ変換部2は、スキップ判定部11から現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を受けると、上記実施の形態1と同様にして、そのJPEG量子化テーブルをMPEG−2量子化テーブル・パラメータに変換し、そのJPEG量子化DCT係数をMPEG−2量子化DCT係数に変換する。
ただし、この実施の形態6では、非イントラMBを扱う場合もあり、非イントラMBの場合には、上記の式(2)の代わりに下記の式(9)を使用し、式(4)の代わりに下記の式(10)を使用して変換を行う。
Figure 2011091858
MPEG−2ストリーム作成部13は、スキップ判定部11からフレーム内符号化を実施する旨を示す判定結果を受けると、上記実施の形態1と同様に、フレーム内符号化を実施して、JPEG簡易復号部1から出力されたヘッダ情報と、データ変換部2から出力されたMPEG−2量子化テーブル・パラメータ及びMPEG−2量子化DCT係数とからMPEG−2ストリームを作成する。
一方、スキップ判定部11からフレーム内符号化を実施しない旨を示す判定結果を受けると、フレーム内符号化を実施せずに、前回作成したMPEG−2ストリームを出力する。
以上で明らかなように、この実施の形態6によれば、スキップ判定部11がフレーム内符号化を実施するか否かを判定し、MPEG−2ストリーム作成部13がスキップ判定部11からフレーム内符号化を実施する旨を示す判定結果を受ければ、フレーム内符号化を実施してMPEG−2ストリームを作成し、スキップ判定部11からフレーム内符号化を実施しない旨を示す判定結果を受ければ、フレーム内符号化を実施せずに、前回作成したMPEG−2ストリームを出力するように構成したので、符号量を大幅に削減することができる効果を奏する。また、スキップMB判定をDCT係数領域で行うことで、演算量を低く保つことが可能である。
なお、この実施の形態6では、JPEGからMPEG−2に変換するものについて示したが、同様の方法で、MPEG−2のI−pictureからJPEGに変換することも可能である。また、量子化もしくはDCTを用いた他の符号化方式間の変換にも適用可能である。
また、この実施の形態6では、変換後の形式がMPEG−2であるため、スキップの判定を行う単位をMBとしているが、変換する形式によって判定の単位を変えてもよい。
また、上記実施の形態2〜4における画像の追加と組み合わせてもよく、追加する領域の一部が常に同じ画像である場合、該当するブロックを常にスキップと判定するようにしてもよい。
実施の形態7.
図14はこの発明の実施の形態7による画像符号化方式変換装置を示す構成図であり、図において、図1と同一符号は同一または相当部分を示すので説明を省略する。
MBタイプ判定部14は簡易復号化部1により抽出された現在のフレームのJPEG量子化テーブルと参照データバッファ15に格納されている最後に符号化の対象にされたフレームのJPEG量子化テーブルを比較するとともに、簡易復号化部1により抽出された現在のフレームのJPEG量子化DCT係数と参照データバッファ15に格納されている最後に符号化の対象にされたフレームのJPEG量子化DCT係数を比較し、それらの比較結果に基づいてフレーム内符号化を実施するか、フレーム間符号化を実施するか、符号化をスキップするかを判定する処理を実施する。ただし、MBタイプ判定部14はMPEG−2ストリーム作成部17からフレーム内符号化を実施する必要がある旨を示すフレーム内符号化判定用フラグを受けると、JPEG量子化テーブルやJPEG量子化DCT係数の比較処理を実施せずに、フレーム内符号化を実施する旨を示す判定結果を出力する。
参照データバッファ15はMBタイプ判定部14における次回の比較処理のために、MBタイプ判定部14により最後に符号化の対象にされたフレーム(フレーム内符号化又はフレーム間符号化の実施対象にされたフレーム)のJPEG量子化テーブルとJPEG量子化DCT係数を保持するメモリである。
なお、MBタイプ判定部14及び参照データバッファ15から符号化判定手段が構成されている。
データ変換部16はMBタイプ判定部14の判定結果に応じてJPEG量子化DCT係数又は差分JPEG量子化DCT係数をMPEG−2量子化DCT係数に変換するとともに、JPEG量子化テーブルをMPEG−2量子化テーブル・パラメータに変換する処理を実施する。なお、データ変換部16はデータ変換手段を構成している。
MPEG−2ストリーム作成部17は符号化対象のフレームやMBがMPEG−2におけるGOPの先頭やスライスの先頭に当る場合、フレーム内符号化判定用フラグを“1”に設定し、それ以外の場合、フレーム内符号化判定用フラグを“0”に設定する一方、MBタイプ判定部14からフレーム内符号化を実施する旨を示す判定結果を受ければ、フレーム内符号化を実施してMPEG−2ストリームを作成し、MBタイプ判定部14からフレーム間符号化を実施する旨を示す判定結果を受ければ、フレーム間符号化を実施してMPEG−2ストリームを作成し、MBタイプ判定部14から符号化をスキップする旨を示す判定結果を受ければ、フレーム内符号化やフレーム間符号化を実施せずに、前回作成したMPEG−2ストリームを出力する処理を実施する。なお、MPEG−2ストリーム作成部17は符号化ストリーム作成手段を構成している。
図14では、図1の画像符号化方式変換装置にMBタイプ判定部14やMPEG−2ストリーム作成部17等を適用している例を示しているが、図2、図6、図10及び図11の画像符号化方式変換装置にMBタイプ判定部14やMPEG−2ストリーム作成部17等を適用してもよい。
図15はこの発明の実施の形態7による画像符号化方式変換装置のMBタイプ判定部14の処理内容を示すフローチャートである。
次に動作について説明する。
JPEG簡易復号部1は、画像信号がJPEGで符号化されているJPEGストリームを入力すると、上記実施の形態1と同様に、そのJPEGストリームの一部を復号して、そのJPEGストリームからヘッダ情報とJPEG量子化テーブル及びJPEG量子化DCT係数を抽出する。
MPEG−2ストリーム作成部17は、JPEG簡易復号部1がJPEGストリームからヘッダ情報を抽出すると、符号化対象のフレームやMBがMPEG−2におけるGOPの先頭やスライスの先頭に当る場合、“1”のフレーム内符号化判定用フラグをスキップ判定部11に出力し、符号化対象のフレームやMBがMPEG−2におけるGOPの先頭やスライスの先頭に当らない場合、“0”のフレーム内符号化判定用フラグをスキップ判定部11に出力する。
一般に、時間方向の圧縮を行う動画像符号化方式においては、誤差の伝播を防ぐため、強制的にフレーム内符号化を行うように定められている。MPEG−2においては、GOPの先頭やスライスの先頭がこれに当る。
MBタイプ判定部14は、簡易復号化部1が現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を抽出すると、簡易復号化部1から現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を入力し(ステップST11)、MPEG−2ストリーム作成部17からフレーム内符号化判定用フラグを入力する(ステップST12)。
MBタイプ判定部14は、MPEG−2ストリーム作成部17から入力したフレーム内符号化判定用フラグが“1”であれば(ステップST13)、フレーム内符号化を実施する必要があると判断し、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数をデータ変換部16に出力する(ステップST14)。
また、MBタイプ判定部14は、フレーム内符号化を実施する旨を示す判定結果をMPEG−2ストリーム作成部17及びデータ変換部16に出力するとともに(ステップST20)、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(最後に符号化の対象にされたフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST21)。
MBタイプ判定部14は、MPEG−2ストリーム作成部13から入力したフレーム内符号化判定用フラグが“0”であれば(ステップST13)、参照データバッファ12に格納されている参照データ(最後に符号化の対象にされたフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を入力する(ステップST15)。
そして、MBタイプ判定部14は、現在のフレームのJPEG量子化テーブルと、最後に符号化の対象にされたフレームのJPEG量子化テーブルとを比較するとともに、現在のフレームのJPEG量子化DCT係数と最後に符号化の対象にされたフレームのJPEG量子化DCT係数とを比較する(ステップST16)。
即ち、MBタイプ判定部14は、図12のスキップ判定部11と同様にして、JPEG量子化テーブル及びJPEG量子化DCT係数の比較処理を実施する。
MBタイプ判定部14は、例えば、以下に示すように、比較結果を分類して、フレーム内符号化を実施するか、フレーム間符号化を実施するか、符号化をスキップするかを判定する。
(1)JPEG量子化テーブル又はJPEG量子化DCT係数の差分が大きい場合 → フレーム内符号化を実施すると判断する
(2)JPEG量子化テーブル及びJPEG量子化DCT係数の差分が小さい場合(JPEG量子化テーブル又はJPEG量子化DCT係数の差分が非常に小さい場合を含む) → フレーム間符号化を実施すると判断する
(3)JPEG量子化テーブル及びJPEG量子化DCT係数の差分が非常に小さい場合 → 符号化をスキップすると判断する
MBタイプ判定部14は、JPEG量子化テーブル又はJPEG量子化DCT係数の差分が大きく(ステップST17)、フレーム内符号化を実施すると判断すると、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数をデータ変換部16に出力する(ステップST14)。
また、MBタイプ判定部14は、フレーム内符号化を実施する旨を示す判定結果をMPEG−2ストリーム作成部17及びデータ変換部16に出力するとともに(ステップST20)、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(最後に符号化の対象にされたフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST21)。
MBタイプ判定部14は、JPEG量子化テーブル及びJPEG量子化DCT係数の差分が小さく(ステップST17,ST18)、フレーム間符号化を実施すると判断すると、現在のフレームのJPEG量子化テーブルをデータ変換部16に出力する。
また、現在のフレームのJPEG量子化DCT係数と、最後に符号化の対象にされたフレームのJPEG量子化DCT係数との差分を求め、その差分をJPEG量子化DCT係数(以下、「差分JPEG量子化DCT係数」と称する)としてデータ変換部16に出力する(ステップST19)。
このように、差分JPEG量子化DCT係数がデータ変換部16に出力される場合、データ変換部16では、動画像符号化に用いられる動きベクトルの探索が行われないため、演算量が大幅に削減される。
また、MBタイプ判定部14は、フレーム間符号化を実施する旨を示す判定結果をMPEG−2ストリーム作成部17及びデータ変換部16に出力するとともに(ステップST20)、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(最後に符号化の対象にされたフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST21)。
MBタイプ判定部14は、JPEG量子化テーブル及びJPEG量子化DCT係数の差分が非常に小さく(ステップST17,ST18)、符号化をスキップすると判断すると、符号化をスキップする旨を示す判定結果をMPEG−2ストリーム作成部17及びデータ変換部16に出力する(ステップST20)。
この場合、データ変換部16では、符号化方式の変換を行う必要がないので、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数をデータ変換部16には出力しない。
また、MBタイプ判定部14は、現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数を参照データバッファ12に出力して、参照データバッファ12が格納している参照データ(最後に符号化の対象にされたフレームのJPEG量子化テーブルとJPEG量子化DCT係数)を現在のフレームのJPEG量子化テーブルとJPEG量子化DCT係数に更新する(ステップST21)。
データ変換部16は、MBタイプ判定部14の判定結果がフレーム内符号化を実施する旨を示す判定結果である場合、図1のデータ変換部2と同様の方法で、JPEG量子化DCT係数をMPEG−2量子化DCT係数に変換し、JPEG量子化テーブルをMPEG−2量子化テーブル・パラメータに変換する。
ただし、この実施の形態7では、非イントラMBを扱う場合があり、非イントラMBの場合には、上記の式(2)の代わりに下記の式(9)を使用し、式(4)の代わりに下記の式(10)を使用して変換を行う。
データ変換部16は、MBタイプ判定部14の判定結果がフレーム間符号化を実施する旨を示す判定結果である場合、MBタイプ判定部14から出力された差分JPEG量子化DCT係数をMPEG−2量子化DCT係数に変換し、JPEG量子化テーブルをMPEG−2量子化テーブル・パラメータに変換する。
ただし、JPEGからMPEG−2に変換する場合においては、特に変換処理は行われない。式(2)におけるQuantScale=16とするのみである。しかし、他の符号化方式の場合には、何らかの変換処理を行う必要がある場合がある。
なお、データ変換部16は、MBタイプ判定部14の判定結果が符号化をスキップする旨を示す判定結果である場合、上述したように、符号化方式の変換処理を実施しない。
MPEG−2ストリーム作成部17は、MBタイプ判定部14からフレーム内符号化を実施する旨を示す判定結果を受けると、上記実施の形態1と同様に、フレーム内符号化を実施して、JPEG簡易復号部1から出力されたヘッダ情報と、データ変換部16から出力されたMPEG−2量子化テーブル・パラメータ及びMPEG−2量子化DCT係数とからMPEG−2ストリームを作成する。
MPEG−2ストリーム作成部17は、MBタイプ判定部14からフレーム間符号化を実施する旨を示す判定結果を受けると、フレーム間符号化を実施して、JPEG簡易復号部1から出力されたヘッダ情報と、データ変換部16から出力されたMPEG−2量子化テーブル・パラメータ及びMPEG−2量子化DCT係数とからMPEG−2ストリームを作成する。
MPEG−2ストリーム作成部17は、MBタイプ判定部14から符号化をスキップする旨を示す判定結果を受けると、フレーム内符号化やフレーム間符号化を実施せずに、前回作成したMPEG−2ストリームを出力する。
以上で明らかなように、この実施の形態7によれば、MBタイプ判定部14がフレーム内符号化を実施するか、フレーム間符号化を実施するか、符号化をスキップするかを判定し、MPEG−2ストリーム作成部17がMBタイプ判定部14からフレーム内符号化を実施する旨を示す判定結果を受ければ、フレーム内符号化を実施してMPEG−2ストリームを作成し、MBタイプ判定部14からフレーム間符号化を実施する旨を示す判定結果を受ければ、フレーム間符号化を実施してMPEG−2ストリームを作成し、MBタイプ判定部14から符号化をスキップする旨を示す判定結果を受ければ、フレーム内符号化やフレーム間符号化を実施せずに、前回作成したMPEG−2ストリームを出力するように構成したので、符号量を大幅に削減することができる効果を奏する。また、MB判定をDCT係数領域で行うことで、演算量を低く保つことが可能である。
なお、この実施の形態7では、JPEGからMPEG−2に変換するものについて示したが、同様の方法で、MPEG−2のI−pictureからJPEGに変換することも可能である。また、量子化もしくはDCTを用いた他の符号化方式間の変換にも適用可能である。
また、この実施の形態7では、変換後の形式がMPEG−2であるため、スキップの判定を行う単位をMBとしているが、変換する形式によって判定の単位を変えてもよい。
また、上記実施の形態2〜4における画像の追加と組み合わせてもよく、追加する領域の一部が常に同じ画像である場合、該当するブロックを常にスキップと判定するようにしてもよい。
実施の形態8.
図16はこの発明の実施の形態8による画像符号化方式変換装置を示す構成図であり、図において、図1と同一符号は同一または相当部分を示すので説明を省略する。
色差フォーマット変換部18はJPEG簡易復号部1により抽出されたJPEG量子化テーブルを用いて、JPEG簡易復号部1により抽出されたJPEG量子化DCT係数を逆量子化して色差成分を求め、その色差成分と、JPEG簡易復号部1により抽出されたヘッダ情報に含まれているJPEGの色差フォーマットを示す情報と、MPEG−2の色差フォーマットとに応じて、そのJPEG量子化DCT係数を変換する処理を実施する。なお、色差フォーマット変換部18は色差変換手段を構成している。
図16では、図1の画像符号化方式変換装置に色差フォーマット変換部18を適用している例を示しているが、図2、図6、図10、図11、図12及び図14の画像符号化方式変換装置に色差フォーマット変換部18を適用してもよい。
この実施の形態8は、符号化方式の変換前後において、色差フォーマットが異なる場合でも、高速に変換処理を実施する方法に関するものである。
画像圧縮においては、圧縮率を高めるために、YCbCr色空間を用いて画像を圧縮する場合が多い。このとき、Y(輝度)成分と比べて、CbCr成分(色差)成分は間引かれていることが多く、その間引き方は符号化方式によって異なる。これが色差フォーマットの違いである。
この実施の形態8では、色差フォーマット変換部18を実装することで、高速な変換処理を実現している。
以下、色差フォーマット変換部18の処理内容を説明する。
ここでは、説明の便宜上、JPEGの色差フォーマットが4:2:2形式であり、変換対象のMPEG−2の色差フォーマットが4:2:0形式であるものとする。
図18に示すように、4:2:0形式は、4画素分のY信号に対してCbCr信号(図中ではC)がそれぞれ1画素分である形式である。
また、4:2:2形式は、4画素分のY信号に対してCbCr信号(図中ではC)がそれぞれ2画素分である形式である。
ただし、輝度と色差の位置関係は符号化方式により異なり、図17に示した位置とは異なることがある。
したがって、画像圧縮におけるブロックの単位で考えると、4:2:2形式における8×8のDCT係数の2つを4:2:0形式の8×8のDCT係数の1つに変換すればよいことになる。
このような変換を行う場合、最も単純な方法としては、一旦画像の復号を行い、16×8の画像信号から8×8の画像信号にフィルタリングを行って縮退した後、再度DCTを行うことが挙げられるが、演算量が大きくなる欠点がある。
そこで、この実施の形態8では、色差フォーマット変換部18が16×8のの量子化DCT係数を直接8×8の量子化DCT係数に変換することで演算量の削減を行うようにしている。
まず、色差フォーマット変換部18は、下記の変換式(11)を用いて、M×Nの画像信号をDCT変換する。
Figure 2011091858
ただし、AM×NはDCT変換行列である。
式(11)において、M=N=8として、上下に並んだ2つの8×8の画像信号をそれぞれX8×8u,X8×8lとして、それぞれを個別にDCT変換すると、下記の式(12)のようになる。
Figure 2011091858
ただし、Y8×8u,Y8×8lは、変換後のDCT係数のそれぞれ上半分、下半分の成分である。
式(12)の上下の成分を連結すると、以下のように変形することができる。
Figure 2011091858
ここで、下記の式(14)(15)のようにおくと、式(13)は、下記の式(16)のようになる。
Figure 2011091858
次に、16×8の画像信号に通常のDCT変換を行う場合、上記の式(11)で、M=16,N=8とすると、下記の式(17)のようになる。
Figure 2011091858
式(17)のY16×8が式(16)のZ16×8から得られれば、直接変換することができることになる。
ここで、式(16)を変形すると、下記の式(18)のようになる。
Figure 2011091858
式(17)と式(18)から式(19)が得られる。
Figure 2011091858
ただし、A16×16は16×16のDCT変換行列である。また、B16×16 Tは式(15)と8×8のDCT変換行列から求められることは明らかである。
この方法により、個別にDCT変換を行った2つの8×8のDCT変換係数Z16×8から16×8のDCT変換係数Y16×8を算出することが可能であり、色差フォーマットの異なる画像ブロックから算出されたDCT係数を復号を行わずに直接変換することができる。
このようにして、色差フォーマット変換部18により変換されたJPEG量子化DCT係数がデータ変換部2に出力される。
以上で明らかなように、この実施の形態8によれば、色差フォーマット変換部18がJPEG簡易復号部1により抽出されたヘッダ情報に含まれているJPEGの色差フォーマットを示す情報と、MPEG−2の色差フォーマットとに応じてJPEG量子化DCT係数を変換するように構成したので、色差フォーマットが異なる場合でも、高速な変換処理を実現することができる効果を奏する。
なお、この実施の形態8では、JPEGからMPEG−2に変換するものについて示したが、同様の方法で、色差フォーマットの異なる他の符号化方式間の変換にも適用することが可能である。
また、4:2:2形式から4:2:0形式への変換以外の色差フォーマット変換であっても、本方式で示した方法から変換係数を算出することが可能である。
1 JPEG簡易復号部(簡易復号化手段)、2 データ変換部(データ変換手段)、3 MPEG−2ストリーム作成部(符号化ストリーム作成手段)、4 画像データ追加部(画像データ追加手段)、5 MPEG−2ストリーム作成部(符号化ストリーム作成手段)、6 追加ブロック画像データベース(追加画像作成手段)、7 追加画像作成部(追加画像作成手段)、8 追加ブロック画像データベース(追加画像作成手段)、9 追加画像作成部(追加画像作成手段)、10 DCT係数削減部(高周波成分削除手段)、11 スキップ判定部(符号化判定手段)、12 参照データバッファ(符号化判定手段)、13 MPEG−2ストリーム作成部(符号化ストリーム作成手段)、14 MBタイプ判定部(符号化判定手段)、15 参照データバッファ(符号化判定手段)、16 データ変換部(データ変換手段)、17 MPEG−2ストリーム作成部(符号化ストリーム作成手段)、18 色差フォーマット変換部(色差変換手段)。

Claims (8)

  1. 画像信号が第一の符号化方式で符号化されている符号化ストリームの一部を復号して、上記符号化ストリームからヘッダ情報と第一の符号化方式の量子化テーブル及び量子化周波数成分を抽出する簡易復号化手段と、上記簡易復号化手段により抽出された第一の符号化方式の量子化テーブル及び量子化周波数成分を第二の符号化方式の量子化テーブル及び量子化周波数成分に変換するデータ変換手段と、上記データ変換手段により変換された第二の符号化方式の量子化テーブルを用いて追加画像の画像データを量子化し、量子化後の画像データを上記データ変換手段により変換された第二の符号化方式の量子化周波数成分に加える画像データ追加手段と、上記簡易復号化手段により抽出されたヘッダ情報を上記追加画像の画像幅に応じて変更し、変更後のヘッダ情報と上記データ変換手段により変換された第二の符号化方式の量子化テーブルと上記画像データ追加手段により量子化後の画像データが加えられた第二の符号化方式の量子化周波数成分から第二の符号化方式の符号化ストリームを作成する符号化ストリーム作成手段とを備えた画像符号化方式変換装置。
  2. 時刻情報を用いて追加画像を作成し、上記追加画像の画像データを画像データ追加手段に出力する追加画像作成手段を設けたことを特徴とする請求項1記載の画像符号化方式変換装置。
  3. 簡易復号化手段により抽出されたヘッダ情報を用いて追加画像を作成し、上記追加画像の画像データを画像データ追加手段に出力する追加画像作成手段を設けたことを特徴とする請求項1記載の画像符号化方式変換装置。
  4. 簡易復号化手段により今回抽出された第一の符号化方式の量子化テーブルと、上記簡易復号化手段により前回抽出された第一の符号化方式の量子化テーブルとを比較し、
    さらに簡易復号化手段から今回出力された第一の符号化方式の量子化周波数成分と、上記簡易復号化手段から前回出力された第一の符号化方式の量子化周波数成分とを比較し、
    上記2つの比較結果に基づいてフレーム内符号化を実施するか否かを判定する符号化判定手段を設け、符号化ストリーム作成手段が上記符号化判定手段からフレーム内符号化を実施する旨を示す判定結果を受ければ、フレーム内符号化を実施して第二の符号化方式の符号化ストリームを作成し、上記符号化判定手段からフレーム内符号化を実施しない旨を示す判定結果を受ければ、フレーム内符号化を実施せずに、前回作成した第二の符号化方式の符号化ストリームを出力することを特徴とする請求項1から請求項3のうちのいずれか1項記載の画像符号化方式変換装置。
  5. 符号化判定手段は、符号化ストリーム作成手段からフレーム内符号化を実施する必要がある旨を示すフラグを受けると、量子化テーブル及び量子化周波数成分の比較処理を実施せずに、フレーム内符号化を実施する旨を示す判定結果を出力することを特徴とする請求項4記載の画像符号化方式変換装置。
  6. 簡易復号化手段により抽出された第一の符号化方式の量子化テーブルと、最後に符号化の対象にされたフレームの第一の符号化方式の量子化テーブルとを比較し、
    さらに簡易復号化手段から出力された第一の符号化方式の量子化周波数成分と、最後に符号化の対象にされたフレームの第一の符号化方式の量子化周波数成分とを比較し、
    上記2つの比較結果に基づいてフレーム内符号化を実施するか、フレーム間符号化を実施するか、符号化をスキップするかを判定する符号化判定手段を設け、符号化ストリーム作成手段が上記符号化判定手段からフレーム内符号化を実施する旨を示す判定結果を受ければ、フレーム内符号化を実施して第二の符号化方式の符号化ストリームを作成し、上記符号化判定手段からフレーム間符号化を実施する旨を示す判定結果を受ければ、フレーム間符号化を実施して第二の符号化方式の符号化ストリームを作成し、上記符号化判定手段から符号化をスキップする旨を示す判定結果を受ければ、フレーム内符号化及びフレーム間符号化を実施せずに、前回作成した第二の符号化方式の符号化ストリームを出力することを特徴とする請求項1から請求項3のうちのいずれか1項記載の画像符号化方式変換装置。
  7. 符号化判定手段は、符号化ストリーム作成手段からフレーム内符号化を実施する必要がある旨を示すフラグを受けると、量子化テーブル及び量子化周波数成分の比較処理を実施せずに、フレーム内符号化を実施する旨を示す判定結果を出力することを特徴とする請求項6記載の画像符号化方式変換装置。
  8. 第一の符号化方式の色差フォーマットと第二の符号化方式の色差フォーマットに応じて簡易復号化手段から出力された第一の符号化方式の量子化周波数成分を変換する色差変換手段を設けたことを特徴とする請求項1から請求項7のうちのいずれか1項記載の画像符号化方式変換装置。
JP2011001238A 2011-01-06 2011-01-06 画像符号化方式変換装置 Expired - Fee Related JP5226089B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011001238A JP5226089B2 (ja) 2011-01-06 2011-01-06 画像符号化方式変換装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011001238A JP5226089B2 (ja) 2011-01-06 2011-01-06 画像符号化方式変換装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2006337280A Division JP2008153771A (ja) 2006-12-14 2006-12-14 画像符号化方式変換装置

Publications (2)

Publication Number Publication Date
JP2011091858A true JP2011091858A (ja) 2011-05-06
JP5226089B2 JP5226089B2 (ja) 2013-07-03

Family

ID=44109597

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011001238A Expired - Fee Related JP5226089B2 (ja) 2011-01-06 2011-01-06 画像符号化方式変換装置

Country Status (1)

Country Link
JP (1) JP5226089B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0879741A (ja) * 1994-08-31 1996-03-22 Canon Inc 画像処理装置及び方法
JP2001309381A (ja) * 2000-04-25 2001-11-02 Canon Inc 画像処理装置及びその方法と記憶媒体
JP2002010264A (ja) * 2000-06-21 2002-01-11 Victor Co Of Japan Ltd 圧縮データの置き換え装置
JP2004120620A (ja) * 2002-09-27 2004-04-15 Kddi Corp 符号化動画像変換装置
JP2004186811A (ja) * 2002-11-29 2004-07-02 Canon Inc 符号化データ変換装置及びその方法
JP2006222790A (ja) * 2005-02-10 2006-08-24 Nippon Hoso Kyokai <Nhk> 圧縮符号化装置および圧縮符号化プログラム、並びに、復号化装置および復号化プログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0879741A (ja) * 1994-08-31 1996-03-22 Canon Inc 画像処理装置及び方法
JP2001309381A (ja) * 2000-04-25 2001-11-02 Canon Inc 画像処理装置及びその方法と記憶媒体
JP2002010264A (ja) * 2000-06-21 2002-01-11 Victor Co Of Japan Ltd 圧縮データの置き換え装置
JP2004120620A (ja) * 2002-09-27 2004-04-15 Kddi Corp 符号化動画像変換装置
JP2004186811A (ja) * 2002-11-29 2004-07-02 Canon Inc 符号化データ変換装置及びその方法
JP2006222790A (ja) * 2005-02-10 2006-08-24 Nippon Hoso Kyokai <Nhk> 圧縮符号化装置および圧縮符号化プログラム、並びに、復号化装置および復号化プログラム

Also Published As

Publication number Publication date
JP5226089B2 (ja) 2013-07-03

Similar Documents

Publication Publication Date Title
TWI324481B (en) Method and apparatus for encoding/decoding video signal using reference pictures
JP5280530B2 (ja) ビデオコーディングのための時間圧縮での断片化参照
US10013746B2 (en) High dynamic range video tone mapping
KR100971835B1 (ko) 화상 복호 방법 및 장치
JP5502487B2 (ja) 逆離散コサイン変換の最大ダイナミックレンジのシグナリング
US6301304B1 (en) Architecture and method for inverse quantization of discrete cosine transform coefficients in MPEG decoders
JP4245576B2 (ja) 画像圧縮伸張法、画像圧縮装置及び画像伸張装置
JP2009290463A (ja) 符号化装置/復号化装置、符号化方法/復号化方法及びプログラム
US8611418B2 (en) Decoding a progressive JPEG bitstream as a sequentially-predicted hybrid video bitstream
JP5800362B2 (ja) 動画像送出装置、動画像受信装置、動画像伝送システム、動画像送出方法、動画像受信方法、およびプログラム
JP4274653B2 (ja) 動画像合成装置および動画像合成方法
JPH057356A (ja) 画像記録再生装置
JP2001119703A (ja) 可変長予測符号化によるデジタルビデオイメージの圧縮
JP5226089B2 (ja) 画像符号化方式変換装置
JP2008153771A (ja) 画像符号化方式変換装置
JP2009218965A (ja) 画像処理装置、それを搭載した撮像装置、および画像再生装置
JP2006129248A (ja) 画像符号化方法および装置、ならびに画像復号方法および装置
JP4749508B2 (ja) 画像復号方法
JP2008109700A (ja) ディジタル信号変換方法およびディジタル信号変換装置
JP2004056616A (ja) 符号化信号復号装置、符号化信号復号方法および符号化信号復号プログラム
KR101979634B1 (ko) 화질 개선을 위한 영상 처리 장치 및 그 방법
JP2005184525A (ja) 画像処理装置
JP2011041178A (ja) 画像符号化方式変換装置及び画像復号装置
Awad et al. Video over Cellular Mobile Device based on Hybrid Technique
Han Video Quality for DTV Essential Hidden Area Utilization

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121218

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130305

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130313

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160322

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees