JP2011041178A - 画像符号化方式変換装置及び画像復号装置 - Google Patents

画像符号化方式変換装置及び画像復号装置 Download PDF

Info

Publication number
JP2011041178A
JP2011041178A JP2009188990A JP2009188990A JP2011041178A JP 2011041178 A JP2011041178 A JP 2011041178A JP 2009188990 A JP2009188990 A JP 2009188990A JP 2009188990 A JP2009188990 A JP 2009188990A JP 2011041178 A JP2011041178 A JP 2011041178A
Authority
JP
Japan
Prior art keywords
encoding
jpeg
stream
image signal
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009188990A
Other languages
English (en)
Inventor
Katsuhiro Kusano
勝大 草野
Hirobumi Nishikawa
博文 西川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2009188990A priority Critical patent/JP2011041178A/ja
Publication of JP2011041178A publication Critical patent/JP2011041178A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】符号化方式を変換する際の画質劣化を抑止することができるとともに、変換速度の高速化を図ることができるようにする。
【解決手段】H.264方式の画面内符号化を選択する場合、JPEG復号部1により取得されたJPEG復号画像信号をフレームバッファ2aに蓄積して、H.264方式の画面内符号化を選択した旨を示す符号化情報をJPEG復号部1に通知し、H.264方式の画面間符号化を選択する場合、フレームバッファ2aに蓄積されている過去のJPEG復号画像信号を参照画像として利用して、JPEG復号部1により取得されたJPEG復号画像信号をH.264方式で画面間符号化する。
【選択図】図1

Description

この発明は、例えば、JPEG方式で符号化されている映像ストリームを、JPEGストリームとH.264ストリームが多重化されている映像ストリームに変換する画像符号化方式変換装置と、例えば、JPEGストリームとH.264ストリームが多重化されている映像ストリームから画像信号を復号する画像復号装置とに関するものである。
近年、画像を圧縮して符号化する技術が広く用いられている。
画像符号化方式の代表的なものとして、主にデジタルカメラなどで用いられるJPEG(Joint Photographic Expert Group)方式がある。
また、JPEGを連続して符号化することで、動画像を符号化する方式もある。
この方式は、MotionJPEG方式、MJPEG方式又はM−JPEG方式と呼ばれることもある。
さらに、DVD(Digital Versatile Disk)−VIDEOに採用されているMPEG−2(Moving Picture Expert Group)と呼ばれる方式もある。
また、携帯端末向けの地上デジタル放送(ワンセグ放送)に採用されている方式であるH.264方式もある。
以上のように、画像符号化方式には様々な方式があり、一般に、異なる画像符号化方式には互換性がない。
ユーザが異なる画像符号化方式に対応するには、それぞれの画像符号化方式に対応する画像復号装置を用意するか、画像符号化方式変換装置を用意する必要がある。
例えば、市販されているDVDプレーヤでは、MPEG−2方式以外の方式には対応することができず、それぞれの画像符号化方式に対応する画像復号装置を用意するのは現実的に困難な場合が多いと考えられる。
一方、画像符号化方式変換装置を用意すれば、それぞれの画像符号化方式に対応する画像復号装置を用意する必要がなくなるが、画像の変換に多くの時間を要することや、変換後の画像の品質が劣化することなどが問題となる。
例えば、以下の特許文献1に開示されている画像符号化方式変換装置では、JPEG方式をMPEG−4方式に変換する手法が開示されている。
即ち、この画像符号化方式変換装置では、JPEG方式とMPEG−4方式の双方がDCT係数を圧縮に用いていることを利用して、直流(DC:Direct Current)成分の変換とハフマンコードの変換によって、JPEG方式をMPEG−4方式に変換するようにしている。
しかし、H.264方式では、DCT係数が用いられないので、この画像符号化方式変換装置では、H.264方式の変換に適用することができない。
また、特許文献2に開示されている画像符号化方式変換装置では、MPEG−2イントラのDCT係数のうち、DC成分からH.264イントラのイントラブロックサイズを決定することで、高速な変換を行うようにしている。
しかし、符号化方式の再変換による画質の劣化を招き、ブロックサイズ決定後の変換処理には多くの計算量が必要となる。
特開2004−186811号公報 特開2006−332986号公報
従来の画像符号化方式変換装置は以上のように構成されているので、JPEG方式からH.264方式に変換する場合、画面内符号化するブロック単位の違い(JPEG方式では8×8単位、H.264方式では4×4又は16×16単位)や、変換式の違い(JPEG方式ではDCT(Discrete Cosine Transform)変換、H.264方式では整数精度の直交変換)から画像が劣化してしまう課題があった。また、符号化方式を変換する際に、多くの計算量が必要となる課題もあった。
この発明は上記のような課題を解決するためになされたもので、符号化方式を変換する際の画質劣化を抑止することができるとともに、変換速度の高速化を図ることができる画像符号化方式変換装置を得ることを目的とする。
また、この発明は、画像符号化方式変換装置により多重化されている映像ストリームから画像信号を復号することができる画像復号装置を得ることを目的とする。
この発明に係る画像符号化方式変換装置は、第1の符号化ストリームを復号して復号画像信号を取得し、画像符号化手段から第2の符号化方式の画面内符号化を選択した旨の通知を受けると、第1の符号化ストリームを多重化手段に出力する画像復号手段と、第2の符号化方式の画面内符号化を選択する場合、画像復号手段により取得された復号画像信号をメモリに蓄積して、第2の符号化方式の画面内符号化を選択した旨を画像復号手段に通知し、第2の符号化方式の画面間符号化を選択する場合、そのメモリに蓄積されている過去の復号画像信号を参照画像として利用して、画像復号手段により取得された復号画像信号を第2の符号化方式で画面間符号化し、その復号画像信号の符号化結果を示す第2の符号化ストリームを多重化手段に出力する画像符号化手段とを設け、多重化手段が画像復号手段から出力された第1の符号化ストリームと画像符号化手段から出力された第2の符号化ストリームを多重化して、多重化ストリームを出力するようにしたものである。
この発明によれば、第1の符号化ストリームを復号して復号画像信号を取得し、画像符号化手段から第2の符号化方式の画面内符号化を選択した旨の通知を受けると、第1の符号化ストリームを多重化手段に出力する画像復号手段と、第2の符号化方式の画面内符号化を選択する場合、画像復号手段により取得された復号画像信号をメモリに蓄積して、第2の符号化方式の画面内符号化を選択した旨を画像復号手段に通知し、第2の符号化方式の画面間符号化を選択する場合、そのメモリに蓄積されている過去の復号画像信号を参照画像として利用して、画像復号手段により取得された復号画像信号を第2の符号化方式で画面間符号化し、その復号画像信号の符号化結果を示す第2の符号化ストリームを多重化手段に出力する画像符号化手段とを設け、多重化手段が画像復号手段から出力された第1の符号化ストリームと画像符号化手段から出力された第2の符号化ストリームを多重化して、多重化ストリームを出力するように構成したので、符号化方式を変換する際の画質劣化を抑止することができるとともに、変換速度の高速化を図ることができる効果がある。
この発明の実施の形態1による画像符号化方式変換装置を示す構成図である。 この発明の実施の形態1による画像符号化方式変換装置のH.264符号化部2の処理内容を示すフローチャートである。 JPEG/H.264多重化部3から出力される多重化ストリームの概要を示す説明図である。 JPEG/H.264多重化部3から出力される多重化ストリームの構造を示す説明図である。 この発明の実施の形態2による画像符号化方式変換装置を示す構成図である。 Boxの構造を示す説明図である。 MP4ファイルの構造を示すデータ構造図である。 この発明の実施の形態3による画像符号化方式変換装置を示す構成図である。 この発明の実施の形態3による画像符号化方式変換装置のH.264符号化部22の処理内容を示すフローチャートである。 MPEG−2復号部21により入力されるMPEG−2ストリームの概要を示す説明図である。 MPEG−2/H.264多重化部23から出力される多重化ストリームの概要を示す説明図である。 この発明の実施の形態4による画像符号化方式変換装置を示す構成図である。 この発明の実施の形態5による画像復号装置を示す構成図である。 この発明の実施の形態5による画像復号装置の処理内容を示すフローチャートである。
実施の形態1.
図1はこの発明の実施の形態1による画像符号化方式変換装置を示す構成図である。
図1において、JPEG復号部1はJPEG方式(第1の符号化方式)で画面内符号化されている画像信号の符号化結果を示すJPEGストリーム(第1の符号化ストリーム)を入力すると、そのJPEGストリームを復号してJPEG復号画像信号を取得し、そのJPEG復号画像信号をH.264符号化部2に出力する処理を実施する。
また、JPEG復号部1はH.264符号化部2からH.264方式(第2の符号化方式)の画面内符号化を選択した旨を示す符号化情報を受けると、そのJPEGストリームをJPEG/H.264多重化部3に出力する処理を実施する。
なお、JPEG復号部1は画像復号手段を構成している。
H.264符号化部2はH.264方式の画面内符号化を選択する場合、JPEG復号部1により取得されたJPEG復号画像信号を内部のフレームバッファ2a(メモリ)に蓄積して、H.264方式の画面内符号化を選択した旨を示す符号化情報をJPEG復号部1に通知する処理を実施する。一方、H.264方式の画面間符号化を選択する場合、そのフレームバッファ2aに蓄積されている過去のJPEG復号画像信号を参照画像として利用して、JPEG復号部1により取得されたJPEG復号画像信号をH.264方式で画面間符号化し、そのJPEG復号画像信号の符号化結果を示すH.264ストリームをJPEG/H.264多重化部3に出力し、また、そのJPEG復号画像信号を内部のフレームバッファ2aに蓄積する処理を実施する。
なお、H.264符号化部2は画像符号化手段を構成している。
JPEG/H.264多重化部3はJPEG復号部1から出力されたJPEGストリームとH.264符号化部2から出力されたH.264ストリームを多重化して、多重化ストリームを出力する処理を実施する。
なお、JPEG/H.264多重化部3は多重化手段を構成している。
図1では、画像符号化方式変換装置の構成要素であるJPEG復号部1、H.264符号化部2及びJPEG/H.264多重化部3がそれぞれ専用のハードウェア(例えば、CPUを実装している半導体集積回路や、ワンチップマイコンなど)で構成されているものを想定しているが、画像符号化方式変換装置がコンピュータで構成される場合、JPEG復号部1、H.264符号化部2及びJPEG/H.264多重化部3の処理内容が記述されているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。
図2はこの発明の実施の形態1による画像符号化方式変換装置のH.264符号化部2の処理内容を示すフローチャートである。
次に動作について説明する。
最初に、JPEG方式の符号化とH.264方式の符号化について簡単に説明する。
JPEG方式は、画面内符号化を行う方式であり、画像の画素信号を8×8ブロック単位でDCT変換を実施し、DCT変換後の画像信号であるDCT係数を量子化するものである。
JPEG方式では、画像信号をDCT変換することにより、パワーを低周波領域に集中させることができ、DCT係数を量子化することにより、高周波成分を間引いて画像を圧縮することができる。
さらに、DCT係数の可変長符号化を実施することにより、圧縮率を高めることができる。
一方、H.264方式は、画面内符号化又は画面間符号化を適宜選択しながら符号化を行う方式である。
H.264方式の画面内符号化は、16×16ブロック(マクロブロック)の中から、4×4ブロック、8×8ブロック、16×16ブロック単位のいずれか一つを選択し、隣接する画素から算出される予測画素との差分を4×4ブロック単位で直交変換し、直交変換後の画像信号である直交変換係数を量子化するものである。
また、H.264方式の画面間符号化は、マクロブロックの中から、16×16ブロック、8×16ブロック、16×8ブロック、8×8ブロック、8×4ブロック、4×8ブロック、4×4ブロック単位のいずれか一つ又は複数を選択し、既にH.264方式で符号化されているフレームの復号画像との差分を4×4ブロック単位で直交変換し、直交変換の画像信号である直交変換係数を量子化するものである。
このとき、どのフレームの復号画像のどの位置の画素を参照しているかを示す情報も付加される。
さらに、直交変換係数の可変長符号化を実施することにより、圧縮率を高めることができる。
ここで、図3はJPEG/H.264多重化部3から出力される多重化ストリームの概要を示す説明図である。
多重化ストリーム内のJPEGストリームは、H.264符号化部2でH.264方式の画面内符号化が選択されるとき、JPEG復号部1から出力されるJPEGストリームであり、H.264方式において、参照画像を持たずに画面内予測符号化を行うIピクチャ(Intra−Picture)の役割を果たすものである。
多重化ストリーム内のH.264ストリームは、H.264符号化部2でH.264方式の画面間符号化が選択されるとき、H.264符号化部2から出力されるH.264ストリームである。
Pピクチャ(Predictive−Picture)は、時間軸的に過去のピクチャとなるIピクチャ又はPピクチャを参照して画面間予測符号化を行うものである。
Bピクチャ(Bi−directional Predictive−Picture)は、時間的に過去と未来の両方向のIピクチャ又はPピクチャを参照して画面間予測符号化を行うものである。
以下、図2のフローチャートを参照しながら、図1の画像符号化方式変換装置の処理内容を具体的に説明する。
JPEG復号部1は、JPEG方式で画面内符号化されている画像信号の符号化結果を示すJPEGストリームを入力すると、そのJPEGストリームを画素信号に復号することでJPEG復号画像信号を取得し、そのJPEG復号画像信号をH.264符号化部2に出力する。
H.264符号化部2には、予め、どの場合にH.264方式の画面内符号化を選択して、どの場合にH.264方式の画面間符号化を選択するかが設定されている。
例えば、画質が多少劣化しても、符号化効率を高める必要がある場合には、N個のピクチャの中で、画面間符号化を行うピクチャの割合が多くなるように設定される。
逆に、符号化効率が多少下がっても、画質の劣化を抑える必要がある場合には、N個のピクチャの中で、画面内符号化を行うピクチャの割合が多くなるように設定される。
このような設定は、画質の劣化と符号化効率が比較考量されて、所望の画質と符号化効率が得られるように初期的に設定されているようにしてもよいし、ユーザが適宜指定するようにしてもよい。また、ユーザの指定により設定が適宜変更されるようにしてもよい。
例えば、画面内符号化を行うピクチャの割合が1割、画面間符号化を行うピクチャの割合が9割に設定されている場合、9個のピクチャを連続して画面間符号化を行うと、1個のピクチャの画面内符号化を行うような動作となる。
H.264符号化部2は、JPEG復号部1からJPEG復号画像信号を受けると(ステップST1)、そのJPEG復号画像信号に対する符号化方式が画面内符号化であるのか、画面間符号化であるのかを判別する(ステップST2)。
例えば、画面内符号化を行うピクチャの割合が1割、画面間符号化を行うピクチャの割合が9割に設定されている場合において、前回の符号化方式が画面内符号化である場合、あるいは、前回の符号化方式が画面間符号化であるが、画面間符号化の連続回数が8回以下である場合、今回の符号化方式は、画面間符号化であると判断する。
一方、前回の符号化方式が画面間符号化であり、かつ、画面間符号化の連続回数が9回である場合、今回の符号化方式は、画面内符号化であると判断する。
ただし、ここでの判別方法はあくまでも一例に過ぎず、他の判別方法によって、符号化方式を判別するようにしてもよい。
H.264符号化部2は、JPEG復号画像信号に対する符号化方式が画面内符号化であると判別すると、JPEG復号部1から出力されたJPEG復号画像信号を内部のフレームバッファ2aに蓄積する(ステップST3)。
また、H.264符号化部2は、JPEG復号画像信号に対する符号化方式が画面内符号化であると判別すると、JPEG復号部1により入力されたJPEGストリームが画面内符号化されたピクチャとみなし、そのJPEGストリームが多重化ストリームに多重化されるようにするために、H.264方式の画面内符号化を選択した旨を示す符号化情報をJPEG復号部1に通知する(ステップST4)。
JPEG復号部1は、H.264符号化部2からH.264方式の画面内符号化を選択した旨を示す符号化情報を受けると、入力したJPEGストリームをJPEG/H.264多重化部3に出力する。
H.264符号化部2は、JPEG復号画像信号に対する符号化方式が画面間符号化であると判別すると、フレームバッファ2aに蓄積されている過去のJPEG復号画像信号の中で、最新のJPEG復号画像信号を参照画像として利用して、JPEG復号部1から出力されたJPEG復号画像信号をH.264方式で画面間符号化する(ステップST5)。
また、H.264符号化部2は、そのJPEG復号画像信号の符号化結果を示すH.264ストリームをJPEG/H.264多重化部3に出力し(ステップST6)、JPEG復号部1から出力されたJPEG復号画像信号を内部のフレームバッファ2aに蓄積する。
JPEG/H.264多重化部3は、JPEG復号部1から出力されたJPEGストリームと、H.264符号化部2から出力されたH.264ストリームとを多重化して、多重化ストリームを出力する。
ここで、図4はJPEG/H.264多重化部3から出力される多重化ストリームの構造を示す説明図である。
JPEG/H.264多重化部3は、図4に示すように、ピクチャ毎に、JPEG方式におけるJPEGデータの先頭を示すバイナリ値であるFFD8と、JPEGデータの終了を示すバイナリ値であるFFD9を付加したストリームを出力する。
JPEGストリームであれば、FFD8以降にJPEGのマーカを示すバイナリ値FFが続き、H.264符号化方式であれば、NAL(Network Abstraction Layer)Unitの先頭を示すバイナリ値00が続く構造となる。
また、JPEGストリームの直後のH.264ストリームには、SPS(Sequence Parameter Set)と、PPS(Picture Parameter Set)が付加されている。
以上で明らかなように、この実施の形態1によれば、JPEGストリームを復号してJPEG復号画像信号を取得し、そのJPEG復号画像信号をH.264符号化部2に出力する一方、H.264符号化部2からH.264方式の画面内符号化を選択した旨を示す符号化情報を受けると、そのJPEGストリームをJPEG/H.264多重化部3に出力するJPEG復号部1と、H.264方式の画面内符号化を選択する場合、JPEG復号部1により取得されたJPEG復号画像信号を内部のフレームバッファ2aに蓄積して、H.264方式の画面内符号化を選択した旨を示す符号化情報をJPEG復号部1に通知し、H.264方式の画面間符号化を選択する場合、そのフレームバッファ2aに蓄積されている過去のJPEG復号画像信号を参照画像として利用して、JPEG復号部1により取得されたJPEG復号画像信号をH.264方式で画面間符号化し、そのJPEG復号画像信号の符号化結果を示すH.264ストリームをJPEG/H.264多重化部3に出力するとともに、そのJPEG復号画像信号を内部のフレームバッファ2aに蓄積するH.264符号化部2とを設け、JPEG/H.264多重化部3が、JPEG復号部1から出力されたJPEGストリームとH.264符号化部2から出力されたH.264ストリームを多重化して、多重化ストリームを出力するように構成したので、符号化方式を変換する際の画質劣化を抑止することができるとともに、変換速度の高速化を図ることができる効果を奏する。
即ち、この実施の形態1によれば、JPEG方式で符号化されたJPEGストリームからH.264ストリームに変換する際、画面間符号化を行う際の参照画像(画面内符号化のピクチャ)として、JPEGの復号画像信号をそのまま使用しているので、画質の劣化を抑止することができる。
また、H.264方式の画面内符号化を選択する場合、H.264方式の画面内符号化処理を行わず、JPEG復号部1により入力されたJPEGストリームを多重化ストリームに多重化するようにしているので、変換速度の高速化を図ることができる。
なお、この実施の形態1では、画像符号化方式をJPEG方式からH.264方式に変換するものについて示したが、これは一例に過ぎず、同様の変換方法を用いて、Iピクチャのみで構成されているMPEG−2,MPEG−4方式からH.264方式に変換するようにしてもよい。
実施の形態2.
上記実施の形態1では、JPEGストリームとH.264ストリームにJPEGのマーカを付加して多重化しているものについて示したが、JPEGストリームのJPEG符号化情報(JPEGストリームに関する符号化の情報)と、H.264ストリームのH.264符号化情報(H.264ストリームに関する符号化の情報)とを多重化することで、多重化ストリームをMP4ファイルフォーマット形式(ISO/IEC14496−14)にしてもよい。
図5はこの発明の実施の形態2による画像符号化方式変換装置を示す構成図である。
図5において、JPEG復号部11は、図1のJPEG復号部1と同様に、JPEG方式で画面内符号化されている画像信号の符号化結果を示すJPEGストリームを入力すると、そのJPEGストリームを復号してJPEG復号画像信号を取得し、そのJPEG復号画像信号をH.264符号化部12に出力する処理を実施する。
また、JPEG復号部11はH.264符号化部12からH.264方式の画面内符号化を選択した旨を示す符号化情報を受けると、そのJPEGストリームをJPEG/H.264多重化部13に出力するとともに、そのJPEGストリームのJPEG符号化情報をJPEG/H.264多重化部13に出力する処理を実施する。
なお、JPEG復号部11は画像復号手段を構成している。
H.264符号化部12は図1のH.264符号化部2と同様に、H.264方式の画面内符号化を選択する場合、JPEG復号部11により取得されたJPEG復号画像信号を内部のフレームバッファ12a(メモリ)に蓄積して、H.264方式の画面内符号化を選択した旨を示す符号化情報をJPEG復号部11に通知する処理を実施する。一方、H.264方式の画面間符号化を選択する場合、そのフレームバッファ12aに蓄積されている過去のJPEG復号画像信号を参照画像として利用して、JPEG復号部11により取得されたJPEG復号画像信号をH.264方式で画面間符号化し、そのJPEG復号画像信号の符号化結果を示すH.264ストリームをJPEG/H.264多重化部13に出力するとともに、H.264符号化情報(例えば、JPEG復号画像信号に対する符号化方式が、H.264方式の画面内符号化であるのか、画面間符号化であるのかを示す情報)をJPEG/H.264多重化部13に出力し、また、そのJPEG復号画像信号を内部のフレームバッファ12aに蓄積する処理を実施する。
なお、H.264符号化部12は画像符号化手段を構成している。
JPEG/H.264多重化部13はJPEG復号部11から出力されたJPEGストリーム及びJPEG符号化情報と、H.264符号化部12から出力されたH.264ストリーム及びH.264符号化情報とを多重化して、多重化ストリームを出力する処理を実施する。
なお、JPEG/H.264多重化部13は多重化手段を構成している。
図5では、画像符号化方式変換装置の構成要素であるJPEG復号部11、H.264符号化部12及びJPEG/H.264多重化部13がそれぞれ専用のハードウェア(例えば、CPUを実装している半導体集積回路や、ワンチップマイコンなど)で構成されているものを想定しているが、画像符号化方式変換装置がコンピュータで構成される場合、JPEG復号部11、H.264符号化部12及びJPEG/H.264多重化部13の処理内容が記述されているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。
図5の画像符号化方式変換装置の基本的な処理内容は、図1の画像符号化方式変換装置と同様であり、JPEGストリームとH.264ストリームをMP4ファイルフォーマット形式に多重化するようにしている点で相違している。
以下に、MP4ファイルフォーマットについて説明をする。
MP4では、ストリームのヘッダ情報やメディアデータが、Boxと呼ばれるオブジェクト単位で格納される。
図6はBoxの構造を示す説明図である。
Boxは、sizeフィールドと、typeフィールドと、versionフィールドと、flagsフィールドと、データフィールドとを含んでいる。
sizeフィールドは、sizeフィールド自身を含めたBox全体のサイズが格納されるエリアである。
typeフィールドは、Boxの識別子(通常はアルファベット4文字)が格納されるエリアであり、MP4ファイル内でのBoxの検索は、typeフィールドの識別子により行われる。
また、versionフィールドは、Boxのバージョン番号が格納されるエリアである。
flagsフィールドは、Box毎に設定されるフラグ情報が格納されるエリアである。
また、データフィールドは、ヘッダ情報やメディア情報が格納されるエリアである。
なお、versionフィールドとflagsフィールドは、Boxによっては存在しないこともある。
以後、Boxの名称は、typeフィールドの識別子で呼ぶこととする。例えば、識別子が‘moov’であるBoxは‘moov’と称する。
図7はMP4ファイルの構造を示すデータ構造図である。
MP4ファイルは、図7(a)に示すように、‘ftyp’、‘moov’、‘mdat’の3つのBoxで構成されており、この3つのBoxはMP4において必須となっている。
‘ftyp’は、ファイルの先頭に配置され、‘moov’と‘mdat’の順番はどちらが先でもよい。
‘ftyp’は、MP4ファイルを識別するための情報を含み、‘mdat’は、ビデオやオーディオなどのメディアデータをサンプル単位で格納する。
なお、‘mdat’に含まれるメディアデータはトラックと呼ばれ、各トラックはトラックIDにより識別される。
MP4では、サンプルと呼ばれる単位でデータが取り扱われる。ビデオデータやオーディオの1フレーム又は複数フレームが1サンプルに相当する。
‘moov’には、‘mdat’の各トラックに含まれるサンプルについてのヘッダ情報が格納される。
図7(b)に示すように、‘moov’内にはBoxが階層的に配置されており、ファイル全体に共通なヘッダ情報は‘mvhd’に格納される。
また、各メディアのトラックに関連するヘッダ情報は、それぞれに対応する‘trak’の‘tkhd’によって示される。
‘trak’は、図7(c)のように構成され、サンプルのサイズや時間などの情報が‘stbl’内の各Boxに格納される。
‘stsd’には、メディアデータの符号化フォーマット情報が格納される。
メディアフォーマットがJPEG方式の場合は、符号化識別子‘jpeg’や画像の幅や高さなどが格納され、メディアフォーマットがH.264方式の場合は、符号化識別子‘avc1’やSPS(Sequence Parameter Set)、PPS(Picture Parameter Set)などが格納される。
また、トラックの途中から再生が開始(ランダムアクセス)されるときには、復号化が開始可能なサンプルを示す情報が必要となる。
このためのBoxとして‘stss’があり、‘stss’にはランダムアクセスが可能なサンプル番号の一覧が格納される。
JPEG/H.264多重化部13では、‘mdat’のBox内にJPEGストリームとH.264ストリームを順番に格納する。
‘mdat’内のJPEGストリームには、画像幅や高さなどの情報も含まれているため、‘stsd’には、メディアフォーマットがH.264方式の場合の情報のみが格納される。
ただし、この実施の形態2では、符号化方式が、JPEG方式とH.264方式が多重化されているものであるため、符号化識別子が‘avcj’とされている。
また、‘stss’には、ランダムアクセス可能なサンプルの番号である画面内符号化されたサンプルの番号が格納される。
‘stss’に格納されている番号のサンプルはJPEG符号化されていると判断され、格納されていない番号のサンプルはH.264符号化されていると判断される。
以上で明らかなように、この実施の形態2によれば、JPEGストリームのJPEG符号化情報と、H.264ストリームのH.264符号化情報とを多重化ストリームに多重化することで、多重化ストリームをMP4ファイルフォーマット形式にしているので、多重化ストリームの符号化方式を容易に判断することができるとともに、高速なランダムアクセスを容易に実現することができる効果を奏する。
なお、この実施の形態2では、画像符号化方式をJPEG方式からH.264方式に変換するものについて示したが、同様の変換方法を用いて、Iピクチャのみで構成されたMPEG−2,MPEG−4方式からH.264方式に変換するようにしてもよい。
実施の形態3.
図8はこの発明の実施の形態3による画像符号化方式変換装置を示す構成図である。
図8において、MPEG−2復号部21はMPEG−2方式(第1の符号化方式)で画面内符号化又は画面間符号化されている画像信号の符号化結果を示すMPEG−2ストリーム(第1の符号化ストリーム)を入力すると、そのMPEG−2ストリームを復号してMPEG−2復号画像信号を取得して、そのMPEG−2復号画像信号をH.264符号化部22に出力するとともに、そのMPEG−2ストリームの符号化方式が画面内符号化であるのか、画面間符号化であるのかを示すMPEG−2符号化情報をH.264符号化部22に出力する処理を実施する。
また、MPEG−2復号部21はMPEG−2ストリームの符号化方式が画面内符号化である場合、そのMPEG−2ストリームをMPEG−2/H.264多重化部23に出力するとともに、MPEG−2符号化情報(MPEG−2ストリームに関する符号化の情報であり、例えば、MPEG−2ストリームの符号化方式が画面内符号化であるのか、画面間符号化であるのかを示す情報のほか、動きベクトル情報などを含んでいる)をMPEG−2/H.264多重化部23に出力する処理を実施する。
なお、MPEG−2復号部21は画像復号手段を構成している。
H.264符号化部22はMPEG−2復号部21から出力されたMPEG−2符号化情報が、MPEG−2ストリームの符号化方式が画面内符号化である旨を示している場合、MPEG−2復号部21により取得されたMPEG−2復号画像信号を内部のフレームバッファ22a(メモリ)に蓄積する処理を実施する。一方、MPEG−2復号部21から出力されたMPEG−2符号化情報が、MPEG−2ストリームの符号化方式が画面間符号化である旨を示している場合、そのフレームバッファ22aに蓄積されている過去のMPEG−2復号画像信号を参照画像として利用して、MPEG−2復号部21により取得されたMPEG−2復号画像信号をH.264方式で画面間符号化し、そのMPEG−2復号画像信号の符号化結果を示すH.264ストリームをMPEG−2/H.264多重化部23に出力するとともに、H.264符号化情報(H.264ストリームに関する符号化の情報であり、例えば、MPEG−2復号画像信号に対する符号化方式が、H.264方式の画面内符号化であるのか、画面間符号化であるのかを示す情報)をMPEG−2/H.264多重化部23に出力し、また、そのMPEG−2復号画像信号を内部のフレームバッファ22aに蓄積する処理を実施する。
なお、H.264符号化部22は画像符号化手段を構成している。
MPEG−2/H.264多重化部23はMPEG−2復号部21から出力されたMPEG−2ストリーム及びMPEG−2符号化情報と、H.264符号化部22から出力されたH.264ストリーム及びH.264符号化情報とを多重化して、多重化ストリームを出力する処理を実施する。
なお、MPEG−2/H.264多重化部23は多重化手段を構成している。
図8では、画像符号化方式変換装置の構成要素であるMPEG−2復号部21、H.264符号化部22及びMPEG−2/H.264多重化部23がそれぞれ専用のハードウェア(例えば、CPUを実装している半導体集積回路や、ワンチップマイコンなど)で構成されているものを想定しているが、画像符号化方式変換装置がコンピュータで構成される場合、MPEG−2復号部21、H.264符号化部22及びMPEG−2/H.264多重化部23の処理内容が記述されているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。
図9はこの発明の実施の形態3による画像符号化方式変換装置のH.264符号化部22の処理内容を示すフローチャートである。
次に動作について説明する。
最初に、MPEG−2方式の符号化について簡単に説明する。
MPEG−2方式には、画面内符号化と画面間符号化があり、画面内符号化では、JPEG方式と同様に、画像の画素信号を8×8ブロック単位でDCT変換し、DCT変換後の画像信号であるDCT係数を量子化するものである。
また、画面間符号化は、マクロブロックの中の16×16ブロック毎に、既にMPEG−2方式で符号化されているフレームの復号画像との差分を8×8ブロック単位でDCT変換し、DCT変換の画像信号であるDCT係数を量子化するものである。
このとき、どのフレームの復号画像のどの位置の画素を参照しているかを示す情報も付加される。
MPEG−2方式では、画像信号をDCT変換することにより、パワーを低周波領域に集中させることができ、DCT係数を量子化することにより、高周波成分を間引いて画像を圧縮することができる。
さらに、DCT係数の可変長符号化を実施することにより、圧縮率を高めることができる。
図10はMPEG−2復号部21により入力されるMPEG−2ストリームの概要を示す説明図である。
図11はMPEG−2/H.264多重化部23から出力される多重化ストリームの概要を示す説明図である。
MPEG−2復号部21により入力されるMPEG−2ストリームと、MPEG−2/H.264多重化部23から出力される多重化ストリームとにおいて、I,P,Bピクチャの構成は同様である。
ただし、MPEG−2/H.264多重化部23から出力される多重化ストリーム内のMPEG−2ストリームは、H.264符号化部22でH.264方式の画面内符号化が行われるとき、MPEG−2復号部21から出力されるMPEG−2ストリームであり、H.264方式において、参照画像を持たずに画面内予測符号化を行うIピクチャの役割を果たすものである。
MPEG−2/H.264多重化部23から出力される多重化ストリーム内のH.264ストリームは、H.264符号化部22でH.264方式の画面間符号化が行われるとき、H.264符号化部22から出力されるH.264ストリームである。
Pピクチャは、時間軸的に過去のピクチャとなるIピクチャ又はPピクチャを参照して画面間予測符号化を行うものである。
Bピクチャは、時間的に過去と未来の両方向のIピクチャ又はPピクチャを参照して画面間予測符号化を行うものである。
以下、図9のフローチャートを参照しながら、図8の画像符号化方式変換装置の処理内容を具体的に説明する。
MPEG−2復号部21は、MPEG−2方式で画面内符号化又は画面間符号化されている画像信号の符号化結果を示すMPEG−2ストリームを入力すると、そのMPEG−2ストリームのMPEG−2符号化情報を復号するとともに、そのMPEG−2ストリームを画素信号に復号することでMPEG−2復号画像信号を取得する。
MPEG−2復号部21は、MPEG−2復号画像信号を取得すると、そのMPEG−2復号画像信号をH.264符号化部22に出力するとともに、そのMPEG−2ストリームの符号化方式が画面内符号化であるのか、画面間符号化であるのかを示すMPEG−2符号化情報をH.264符号化部22に出力する。
また、MPEG−2復号部21は、MPEG−2ストリームの符号化方式が画面内符号化である場合、そのMPEG−2ストリームをMPEG−2/H.264多重化部23に出力するとともに、そのMPEG−2符号化情報をMPEG−2/H.264多重化部23に出力する。
H.264符号化部22は、MPEG−2復号部21からMPEG−2復号画像信号とMPEG−2符号化情報を受けると(ステップST11)、そのMPEG−2符号化情報を参照して、そのMPEG−2ストリームの符号化方式が画面内符号化であるのか、画面間符号化であるのかを判別する(ステップST12)。
H.264符号化部22は、MPEG−2ストリームの符号化方式が画面内符号化である場合、MPEG−2復号部21から出力されたMPEG−2復号画像信号を内部のフレームバッファ22aに蓄積する(ステップST13)。
H.264符号化部22は、MPEG−2ストリームの符号化方式が画面間符号化である場合、フレームバッファ22aに蓄積されている過去のMPEG−2復号画像信号の中で、最新のMPEG−2復号画像信号を参照画像として利用して、MPEG−2復号部21から出力されたMPEG−2復号画像信号をH.264方式で画面間符号化する(ステップST14)。
このとき、H.264符号化部22は、MPEG−2復号部21から出力されたMPEG−2符号化情報の動きベクトル情報を利用して、H.264方式の画面間符号化の動き補償に係る処理を簡易化するようにしてもよい。
また、H.264符号化部22は、そのMPEG−2復号画像信号の符号化結果を示すH.264ストリームをMPEG−2/H.264多重化部23に出力するとともに、MPEG−2復号画像信号に対する符号化方式が画面内符号化であるのか、画面間符号化であるのかを示すH.264符号化情報をMPEG−2/H.264多重化部23に出力し(ステップST15)、また、MPEG−2復号部21から出力されたMPEG−2復号画像信号を内部のフレームバッファ22aに蓄積する。
MPEG−2/H.264多重化部23は、MPEG−2復号部21から出力されたMPEG−2ストリーム及びMPEG−2符号化情報と、H.264符号化部22から出力されたH.264ストリーム及びH.264符号化情報とを多重化して、多重化ストリームを出力する。
即ち、MPEG−2/H.264多重化部23は、MP4ファイルの‘mdat’内にMPEG−2ストリームとH.264ストリームを順番に格納する。
なお、‘mdat’内のMPEG−2ストリームには、スライスヘッダ情報も同時に入れるものとし、‘stsd’には、メディアフォーマットがH.264方式の場合の情報のみが格納される。
ただし、この実施の形態3では、符号化方式が、MPEG−2方式とH.264方式が多重化されているものであるため符号化識別子を‘avcm’とされる。
また、‘stss’には、ランダムアクセス可能なサンプルの番号である画面内符号化されたサンプルの番号が格納される。
‘stss’に格納されている番号のサンプルはMPEG−2符号化されていると判断され、格納されていない番号のサンプルはH.264符号化されていると判断される。
以上で明らかなように、この実施の形態3によれば、MPEG−2方式で画面内符号化又は画面間符号化されている画像信号の符号化結果を示すMPEG−2ストリームを入力すると、そのMPEG−2ストリームを復号してMPEG−2復号画像信号を取得し、その画像信号がMPEG−2方式で画面内符号化されている場合、MPEG−2ストリームをMPEG−2/H.264多重化部23に出力するMPEG−2復号部21と、その画像信号がMPEG−2方式で画面内符号化されている場合、MPEG−2復号部21により取得されたMPEG−2復号画像信号をフレームバッファ22aに蓄積し、その画像信号がMPEG−2方式で画面間符号化されている場合、フレームバッファ22aに蓄積されている過去のMPEG−2復号画像信号を参照画像として利用して、MPEG−2復号部21により取得されたMPEG−2復号画像信号をH.264方式で画面間符号化し、そのMPEG−2復号画像信号の符号化結果を示すH.264ストリームをMPEG−2/H.264多重化部23に出力するH.264符号化部22とを設け、MPEG−2/H.264多重化部23が、MPEG−2復号部21から出力されたMPEG−2ストリーム及びMPEG−2符号化情報と、H.264符号化部22から出力されたH.264ストリーム及びH.264符号化情報とを多重化して、多重化ストリームを出力するように構成したので、符号化方式を変換する際の画質劣化を抑止することができるとともに、変換速度の高速化を図ることができる効果を奏する。
即ち、この実施の形態3によれば、MPEG−2方式で符号化されたMPEG−2ストリームからH.264ストリームに変換する際、画面間符号化を行う際の参照画像(画面内符号化のピクチャ)として、MPEG−2の復号画像信号をそのまま使用しているので、画質の劣化を抑止することができる。
また、H.264方式の画面内符号化を選択する場合、H.264方式の画面内符号化処理を行わず、MPEG−2復号部21により入力されたMPEG−2を多重化ストリームに多重化するようにしているので、変換速度の高速化を図ることができる。
なお、この実施の形態3では、画像符号化方式をMPEG−2方式からH.264に変換するものについて示したが、これは一例に過ぎず、同様の変換方法を用いて、MPEG−4方式からH.264方式に変換するようにしてもよい。
実施の形態4.
図12はこの発明の実施の形態4による画像符号化方式変換装置を示す構成図であり、図において、図1と同一符号は同一又は相当部分を示すので説明を省略する。
JPEG符号化部32はJPEG復号部31から出力されたJPEGストリームのJPEG符号化情報を参照して、そのJPEGストリームの符号量を把握し、そのJPEGストリームの符号量が予め設定されている基準符号量(例えば、装置を使用するユーザにより指定された符号量)を超えている場合、JPEGストリームの符号量が基準符号量以下となるように、JPEG復号部31から出力されたJPEG復号画像信号をJPEG方式で再度画面内符号化し、再符号化後のJPEGストリーム(以降、「再符号化JPEGストリーム」と称する)をJPEG復号部31に出力する処理を実施する。
なお、JPEG符号化部32は再符号化手段を構成している。
JPEG復号部31は図1のJPEG復号部1と同様の処理を実施する他に、JPEGストリームのJPEG符号化情報とJPEG復号画像信号をJPEG符号化部32に出力する処理と、JPEG符号化部32から再符号化JPEGストリームを受けると、JPEGストリームの代わりに、再符号化JPEGストリームをJPEG/H.264多重化部3に出力し、また、再符号化JPEGストリームを復号してJPEG復号画像信号を取得し、そのJPEG復号画像信号をH.264符号化部2に出力する処理を実施する。
なお、JPEG復号部31は画像復号手段を構成している。
図12では、画像符号化方式変換装置の構成要素であるJPEG復号部31、H.264符号化部2、JPEG/H.264多重化部3及びJPEG符号化部32がそれぞれ専用のハードウェア(例えば、CPUを実装している半導体集積回路や、ワンチップマイコンなど)で構成されているものを想定しているが、画像符号化方式変換装置がコンピュータで構成される場合、JPEG復号部31、H.264符号化部2、JPEG/H.264多重化部3及びJPEG符号化部32の処理内容が記述されているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。
次に動作について説明する。
JPEG復号部31は、JPEG方式で画面内符号化されている画像信号の符号化結果を示すJPEGストリームを入力すると、そのJPEGストリームを画素信号に復号することでJPEG復号画像信号を取得し、そのJPEG復号画像信号をJPEG符号化部32に出力する。
また、JPEG復号部31は、JPEGストリームのJPEG符号化情報をJPEG符号化部32に出力する。
JPEG符号化部32は、JPEG復号部31からJPEGストリームのJPEG符号化情報を受けると、そのJPEG符号化情報を参照して、そのJPEGストリームの符号量を把握し、そのJPEGストリームの符号量が予め設定されている基準符号量を超えているか否かを判断する。
ここで、JPEG復号部31から出力されるJPEG符号化情報は、例えば、JPEGストリームの量子化テーブル(8×8の行列)や、DCT係数(8×8ブロック単位)などが該当する。
JPEG符号化部32は、そのJPEGストリームの符号量が予め設定されている基準符号量を超えている場合、JPEGストリームの符号量が基準符号量以下となるように、JPEG復号部31から出力されたJPEG復号画像信号をJPEG方式で再度画面内符号化し、再符号化後のJPEGストリームである再符号化JPEGストリームをJPEG復号部31に出力する。
例えば、下記の式(1)に示すように、そのJPEGストリームの量子化テーブルの値Qijが2倍になるように変更して、DCT係数の全ての成分を間引くようにすれば、そのJPEGストリームの符号量を下げることができる。
Q’ij=2×Qij (1)
0≦i,j≦7
また、例えば、下記の式(2)に示すように、DCT係数の低周波成分については、そのままにして、高周波成分をより間引くように、高周波成分の量子化テーブルの値Qijを大きくする重み係数wijを設定すれば、そのJPEGストリームの符号量を下げることができる。
Q’ij=wij×Qij (2)
ただし、wijは、量子化テーブルQ’ijを決定するための重み係数であり、JPEG符号化情報のDCT係数などに基づいて算出する。
JPEG復号部31は、H.264符号化部2からH.264方式の画面内符号化を選択した旨を示す符号化情報を受けると、入力したJPEGストリームをJPEG/H.264多重化部3に出力する。
ただし、JPEG符号化部32から再符号化JPEGストリームを受けているときは、そのJPEGストリームの代わりに、その再符号化JPEGストリームをJPEG/H.264多重化部3に出力する。
また、JPEG復号部31は、その再符号化JPEGストリームを復号してJPEG復号画像信号を取得し、そのJPEG復号画像信号をH.264符号化部2に出力する。
以下、H.264符号化部2及びJPEG/H.264多重化部3の処理内容は、上記実施の形態1と同様であるため説明を省略する。
以上で明らかなように、この実施の形態4によれば、JPEG復号部31から出力されたJPEGストリームのJPEG符号化情報を参照して、そのJPEGストリームの符号量を把握し、そのJPEGストリームの符号量が予め設定されている基準符号量を超えている場合、JPEGストリームの符号量が基準符号量以下となるように、JPEG復号部31から出力されたJPEG復号画像信号をJPEG方式で再度画面内符号化し、再符号化後のJPEGストリームをJPEG復号部31に出力するJPEG符号化部32を設けるように構成したので、画質の劣化を抑えながら、JPEGストリームを予め決められた符号量以下に抑えることができる効果を奏する。
なお、この実施の形態4では、画像符号化方式をJPEG方式からH.264方式に変換するものについて示したが、同様の変換方法を用いて、Iピクチャのみで構成されているMPEG−2,MPEG−4方式からH.264方式に変換するようにしてもよい。
この実施の形態4では、JPEG復号部31及びJPEG符号化部32を図1の画像符号化方式変換装置に適用している例を示しているが、図5の画像符号化方式変換装置に適用するようにしてもよい。
また、JPEG符号化部32の代わりに、MPEG−2ストリームの符号量が予め設定されている基準符号量を超えている場合、MPEG−2ストリームの符号量が基準符号量以下となるように、MPEG−2復号画像信号をMPEG−2方式で再度画面内符号化し、再符号化後のMPEG−2ストリームを出力するMPEG−2符号化部を用いれば、図8の画像符号化方式変換装置に適用することもできる。
ただし、この場合、図8のMPEG−2復号部21は、さらに、MPEG−2ストリームのMPEG−2符号化情報とMPEG−2復号画像信号を上記MPEG−2符号化部に出力する処理と、上記MPEG−2符号化部から再符号化MPEG−2ストリームを受けると、入力したMPEG−2ストリームの代わりに、再符号化MPEG−2ストリームをMPEG−2/H.264多重化部23に出力し、また、再符号化MPEG−2ストリームを復号してMPEG−2復号画像信号を取得し、そのMPEG−2復号画像信号をH.264符号化部22に出力する処理とを実施する必要がある。
実施の形態5.
図13はこの発明の実施の形態5による画像復号装置を示す構成図である。
図13において、JPEG/H.264多重化分離部41は例えば図1の画像符号化方式変換装置から出力された多重化ストリームを入力すると、その多重化ストリームからJPEG方式(第1の符号化方式)で符号化されている画像信号の符号化結果を示すJPEGストリーム(第1の符号化ストリーム)を分離するとともに、その多重化ストリームからH.264方式(第2の符号化方式)で符号化されている画像信号の符号化結果を示すH.264ストリーム(第2の符号化ストリーム)を分離する処理を実施する。
なお、JPEG/H.264多重化分離部41は多重分離手段を構成している。
JPEG復号部42はJPEG/H.264多重化分離部41により分離されたJPEGストリームを復号してJPEG復号画像信号を取得し、そのJPEG復号画像信号を外部に出力するとともに、そのJPEG復号画像信号をH.264復号部43のフレームバッファ43aに出力する処理を実施する。
なお、JPEG復号部42は第1の画像復号手段を構成している。
H.264復号部43はフレームバッファ43aに格納されている復号画像信号を参照画像として利用して、JPEG/H.264多重化分離部41により分離されたH.264ストリームを復号してH.264復号画像信号を取得し、そのH.264復号画像信号を外部に出力するとともに、そのH.264復号画像信号を内部のフレームバッファ43aに格納する処理を実施する。
なお、H.264復号部43は第2の画像復号手段を構成している。
図13では、画像復号装置の構成要素であるJPEG/H.264多重化分離部41、JPEG復号部42及びH.264復号部43がそれぞれ専用のハードウェア(例えば、CPUを実装している半導体集積回路や、ワンチップマイコンなど)で構成されているものを想定しているが、画像復号装置がコンピュータで構成される場合、JPEG/H.264多重化分離部41、JPEG復号部42及びH.264復号部43の処理内容が記述されているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。
図14はこの発明の実施の形態5による画像復号装置の処理内容を示すフローチャートである。
次に動作について説明する。
JPEG/H.264多重化分離部41は、例えば、図1の画像符号化方式変換装置から出力された多重化ストリームを入力すると(ステップST21)、その多重化ストリームからJPEG方式で符号化されている画像信号の符号化結果を示すJPEGストリームを分離するとともに、その多重化ストリームからH.264方式で符号化されている画像信号の符号化結果を示すH.264ストリームを分離する。
JPEGストリームについてはJPEG復号部42に出力され、H.264ストリームについてはH.264復号部43に出力される(ステップST22)。
JPEG復号部42は、JPEG/H.264多重化分離部41からJPEGストリームを受けると、そのJPEGストリームを復号してJPEG復号画像信号を取得する(ステップST23)。
また、JPEG復号部42は、そのJPEG復号画像信号を外部に出力するとともに、そのJPEG復号画像信号をH.264復号部43のフレームバッファ43aに格納する(ステップST24)。
H.264復号部43は、JPEG/H.264多重化分離部41からH.264ストリームを受けると、内部のフレームバッファ43aに格納されている復号画像信号(JPEG復号画像信号、または、H.264復号画像信号)の中で、最新の復号画像信号を参照画像として利用して、そのH.264ストリームを復号してH.264復号画像信号を取得する(ステップST25)。
また、H.264復号部43は、そのH.264復号画像信号を外部に出力するとともに、そのH.264復号画像信号を内部のフレームバッファ43aに格納する(ステップST26)。
以上で明らかなように、この実施の形態5によれば、多重化ストリームからJPEG方式で符号化されている画像信号の符号化結果を示すJPEGストリームを分離するとともに、その多重化ストリームからH.264方式で符号化されている画像信号の符号化結果を示すH.264ストリームを分離するJPEG/H.264多重化分離部41と、JPEG/H.264多重化分離部41により分離されたJPEGストリームを復号してJPEG復号画像信号を取得し、そのJPEG復号画像信号を外部に出力するとともに、そのJPEG復号画像信号をH.264復号部43のフレームバッファ43aに出力するJPEG復号部42とを設け、H.264復号部43が、フレームバッファ43aに格納されている復号画像信号を参照画像として利用して、JPEG/H.264多重化分離部41により分離されたH.264ストリームを復号してH.264復号画像信号を取得し、そのH.264復号画像信号を外部に出力するとともに、そのH.264復号画像信号を内部のフレームバッファ43aに格納するように構成したので、JPEGストリームとH.264ストリームが多重化されている多重化ストリームから画像信号を復号することができる効果を奏する。
なお、この実施の形態5では、JPEGストリームとH.264ストリームが多重化されている多重化ストリームから画像信号を復号するものについて示したが、MPEG−2ストリームとH.264ストリームが多重化されている多重化ストリームや、MPEG−4ストリームとH.264ストリームが多重化されている多重化ストリームから画像信号を復号する画像復号装置に適用するようにしてもよい。
1 JPEG復号部(画像復号手段)、2 H.264符号化部(画像符号化手段)、2a フレームバッファ(メモリ)、3 JPEG/H.264多重化部(多重化手段)、11 JPEG復号部(画像復号手段)、12 H.264符号化部(画像符号化手段)、12a フレームバッファ(メモリ)、13 JPEG/H.264多重化部(多重化手段)、21 MPEG−2復号部(画像復号手段)、22 H.264符号化部(画像符号化手段)、22a フレームバッファ(メモリ)、23 MPEG−2/H.264多重化部(多重化手段)、31 JPEG復号部(画像復号手段)、32 JPEG符号化部(再符号化手段)、41 JPEG/H.264多重化分離部(多重分離手段)、42 JPEG復号部(第1の画像復号手段)、43 H.264復号部(第2の画像復号手段)、43a フレームバッファ。

Claims (5)

  1. 第1の符号化方式で画面内符号化されている画像信号の符号化結果を示す第1の符号化ストリームを入力すると、上記第1の符号化ストリームを復号して復号画像信号を取得し、第2の符号化方式の画面内符号化を選択した旨の通知を受けると、上記第1の符号化ストリームを出力する画像復号手段と、第2の符号化方式の画面内符号化を選択する場合、上記画像復号手段により取得された復号画像信号をメモリに蓄積して、第2の符号化方式の画面内符号化を選択した旨を上記画像復号手段に通知し、第2の符号化方式の画面間符号化を選択する場合、上記メモリに蓄積されている過去の復号画像信号を参照画像として利用して、上記画像復号手段により取得された復号画像信号を第2の符号化方式で画面間符号化し、上記復号画像信号の符号化結果を示す第2の符号化ストリームを出力する画像符号化手段と、上記画像復号手段から出力された第1の符号化ストリームと上記画像符号化手段から出力された第2の符号化ストリームを多重化して、多重化ストリームを出力する多重化手段とを備えた画像符号化方式変換装置。
  2. 第1の符号化方式で画面内符号化又は画面間符号化されている画像信号の符号化結果を示す第1の符号化ストリームを入力すると、上記第1の符号化ストリームを復号して復号画像信号を取得し、上記画像信号が第1の符号化方式で画面内符号化されている場合、上記第1の符号化ストリームを出力する画像復号手段と、上記画像信号が第1の符号化方式で画面内符号化されている場合、上記画像復号手段により取得された復号画像信号をメモリに蓄積し、上記画像信号が第1の符号化方式で画面間符号化されている場合、上記メモリに蓄積されている過去の復号画像信号を参照画像として利用して、上記画像復号手段により取得された復号画像信号を第2の符号化方式で画面間符号化し、上記復号画像信号の符号化結果を示す第2の符号化ストリームを出力する画像符号化手段と、上記画像復号手段から出力された第1の符号化ストリームと上記画像符号化手段から出力された第2の符号化ストリームを多重化して、多重化ストリームを出力する多重化手段とを備えた画像符号化方式変換装置。
  3. 多重化手段は、画像復号手段から出力された第1の符号化ストリーム及び第1の符号化ストリームに関する符号化の情報と、画像符号化手段から出力された第2の符号化ストリーム及び第2の符号化ストリームに関する符号化の情報とを多重化することを特徴とする請求項1または請求項2記載の画像符号化方式変換装置。
  4. 第1の符号化ストリームの符号量が予め設定されている基準符号量を超えている場合、第1の符号化ストリームの符号量が基準符号量以下となるように、画像復号手段により取得された復号画像信号を第1の符号化方式で再度画面内符号化する再符号化手段を設けたことを特徴とする請求項1から請求項3のうちのいずれか1項記載の画像符号化方式変換装置。
  5. 多重化ストリームから第1の符号化方式で符号化されている画像信号の符号化結果を示す第1の符号化ストリームを分離するとともに、上記多重化ストリームから第2の符号化方式で符号化されている画像信号の符号化結果を示す第2の符号化ストリームを分離する多重分離手段と、上記多重分離手段により分離された第1の符号化ストリームを復号して復号画像信号を取得し、上記復号画像信号を出力する第1の画像復号手段と、上記第1の画像復号手段から出力された復号画像信号を参照画像として利用して、上記多重分離手段により分離された第2の符号化ストリームを復号して復号画像信号を取得し、上記復号画像信号を出力する第2の画像復号手段とを備えた画像復号装置。
JP2009188990A 2009-08-18 2009-08-18 画像符号化方式変換装置及び画像復号装置 Pending JP2011041178A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009188990A JP2011041178A (ja) 2009-08-18 2009-08-18 画像符号化方式変換装置及び画像復号装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009188990A JP2011041178A (ja) 2009-08-18 2009-08-18 画像符号化方式変換装置及び画像復号装置

Publications (1)

Publication Number Publication Date
JP2011041178A true JP2011041178A (ja) 2011-02-24

Family

ID=43768445

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009188990A Pending JP2011041178A (ja) 2009-08-18 2009-08-18 画像符号化方式変換装置及び画像復号装置

Country Status (1)

Country Link
JP (1) JP2011041178A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014122708A1 (ja) * 2013-02-05 2014-08-14 日本電気株式会社 画面符号化装置、画面復号装置、画面符号化伝送システム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014122708A1 (ja) * 2013-02-05 2014-08-14 日本電気株式会社 画面符号化装置、画面復号装置、画面符号化伝送システム
JPWO2014122708A1 (ja) * 2013-02-05 2017-01-26 日本電気株式会社 画面符号化装置、画面復号装置、画面符号化伝送システム

Similar Documents

Publication Publication Date Title
JP4927207B2 (ja) 符号化方法、復号化方法及び装置
KR101610419B1 (ko) 화상 신호 복호 장치, 화상 신호 복호 방법, 화상 신호 부호화 장치, 화상 신호 부호화 방법 및 기록 매체
US20150139303A1 (en) Encoding device, encoding method, decoding device, and decoding method
JP4401336B2 (ja) 符号化方法
WO2009073077A1 (en) An extension to the avc standard to support the encoding and storage of high resolution digital still pictures in parallel with video
KR101147744B1 (ko) 비디오 트랜스 코딩 방법 및 장치와 이를 이용한 pvr
EP2077670A1 (en) Transcoder, transcoding method, decoder, and decoding method
JP2008011455A (ja) 符号化方法
US20150030068A1 (en) Image processing device and method
JP2009267689A (ja) 動画像符号化装置、及び動画像符号化方法
JP2007266749A (ja) 符号化方法
JP5768180B2 (ja) 画像復号方法及び画像復号装置
JP2007036888A (ja) 符号化方法
JP4660408B2 (ja) 符号化方法
JP2007266750A (ja) 符号化方法
JP2007036889A (ja) 符号化方法
JPWO2010055675A1 (ja) 動画像符号化装置及び動画像復号装置
JP2011041178A (ja) 画像符号化方式変換装置及び画像復号装置
TW201440500A (zh) 影像處理裝置及方法
JP6150134B2 (ja) 画像符号化装置および方法、画像復号装置および方法、プログラム、並びに記録媒体
JP2008289105A (ja) 画像処理装置およびそれを搭載した撮像装置
JPH11289515A (ja) 画像信号処理装置及び方法、画像信号記録装置及び方法並びに記録媒体
US20230179769A1 (en) Multilayer-based image coding method in video or image coding system
JP2007036887A (ja) 符号化方法
WO2022209032A1 (ja) 映像符号化装置、映像復号装置、映像符号化方法、映像復号方法および映像システム