JP4931034B2 - 復号装置および復号方法、並びに、プログラムおよびプログラム記録媒体 - Google Patents

復号装置および復号方法、並びに、プログラムおよびプログラム記録媒体 Download PDF

Info

Publication number
JP4931034B2
JP4931034B2 JP2004172430A JP2004172430A JP4931034B2 JP 4931034 B2 JP4931034 B2 JP 4931034B2 JP 2004172430 A JP2004172430 A JP 2004172430A JP 2004172430 A JP2004172430 A JP 2004172430A JP 4931034 B2 JP4931034 B2 JP 4931034B2
Authority
JP
Japan
Prior art keywords
picture
frame
field
pic
struct
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004172430A
Other languages
English (en)
Other versions
JP2005354361A (ja
Inventor
邦明 高橋
靖 藤波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Sony Corp
Original Assignee
Sony Interactive Entertainment Inc
Sony Corp
Sony Computer Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2004172430A priority Critical patent/JP4931034B2/ja
Application filed by Sony Interactive Entertainment Inc, Sony Corp, Sony Computer Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Priority to MXPA06013875A priority patent/MXPA06013875A/es
Priority to BRPI0511670-8A priority patent/BRPI0511670A/pt
Priority to CA 2569022 priority patent/CA2569022A1/en
Priority to EP05750895A priority patent/EP1758399A4/en
Priority to PCT/JP2005/010634 priority patent/WO2005122584A1/ja
Priority to NZ551513A priority patent/NZ551513A/en
Priority to AU2005253425A priority patent/AU2005253425B8/en
Priority to US11/570,141 priority patent/US20080019438A1/en
Priority to CN200580019053A priority patent/CN100586177C/zh
Priority to RU2006143643A priority patent/RU2335857C2/ru
Priority to TW94118932A priority patent/TWI277348B/zh
Priority to MYPI20052622 priority patent/MY144601A/en
Publication of JP2005354361A publication Critical patent/JP2005354361A/ja
Priority to IL179242A priority patent/IL179242A/en
Application granted granted Critical
Publication of JP4931034B2 publication Critical patent/JP4931034B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/16Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter for a given display mode, e.g. for interlaced or progressive display mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Signal Processing For Recording (AREA)

Description

本発明は、復号装置および復号方法、並びに、プログラムおよびプログラム記録媒体関し、特に、例えば、順次走査のピクチャを、その垂直解像度を損なわないように表示することができるようにする復号装置および復号方法、並びに、プログラムおよびプログラム記録媒体関する。
近年、画像信号を、ディジタルデータで扱い、効率の高い情報の伝送、蓄積を目的として、画像特有の冗長性を利用し、離散コサイン変換等の直交変換と動き補償とにより、画像信号を圧縮/復号するMPEG(Moving Picture Experts Group)などの規格に準拠した画像処理装置が、情報配信を行う放送局などと、情報受信を行う一般家庭などとの双方において普及しつつある。
かかる画像処理装置の普及に伴い、その画像処理装置で扱うことができるコンテンツの充実も図られつつあり、そのようなコンテンツとしては、例えば、映画のコンテンツがある。
映画は、フィルム(映画フィルム)にとられた連続した写真であるから、これを、例えば、テレビジョン放送の番組などとして、放送局から放送し、あるいは、ビデオパッケージにして販売などするためには、テレビジョン放送用の電気信号である画像信号(ビデオ信号)に変換しなければならない。即ち、光学的に映し出されるフィルム上の画像を電気的にとり込み、画像の表示レートの変換その他の処理を行わなければならない。このような技術は、一般に、テレシネと呼ばれる。
通常、画像信号と映画フィルムとでは、1秒あたりに表示されるフレームの数(コマ数)、即ち、表示レートが異なる。現在、多くの映画フィルムでは、1秒間に24フレームのピクチャが表示されるのに対して、例えば、NTSC(National Television System Committee)方式では、1秒間に30フレームのピクチャが表示される。従って、テレシネでは、このような表示レートの変換が、その主な処理の1つとして行われる。この表示レートの変換は、2-3プルダウンと呼ばれる。
なお、正確には、NTSC方式の画像信号の表示レートは、29.97Hzであり、映画フィルの表示レートは、23.976Hzである。
ここで、フレームのピクチャは、図1に示すように、フィールドと呼ばれるピクチャに分けることができる。例えば、フレームの奇数ラインの画素(画素値)を集めたものはトップフィールドと、また偶数ラインの画素を集めたものはボトムフィールドと、それぞれ呼ばれる。
また、ピクチャには、その走査方式が飛び越し走査のピクチャと、順次走査のピクチャとがある。飛び越し走査のピクチャと、順次走査のピクチャとでは、画素がサンプルされた時刻が異なる。即ち、飛び越し走査のピクチャでは、1フレーム内の偶数ラインと奇数ラインとでサンプル時刻がずれており、その結果、トップフィールドとボトムフィールドとのサンプル時刻が異なる。一方、順次走査のピクチャでは、トップフィールドとボトムフィールドとのサンプル時刻が同一である。
映画フィルムのピクチャは、順次走査のピクチャであり、フレーム単位で表示される。NTSC方式のピクチャは、飛び越し走査のピクチャであり、フィールド単位で表示される。即ち、順次走査では、フレームの走査が順次行われ、その結果、フレームのピクチャが表示される。また、飛び越し走査では、フレームの走査が飛び越しで行われ、即ち、フレームの走査が、そのフレームを構成するトップフィールドとボトムフィールドとについて交互に行われ、その結果、フレームを構成するトップフィールドのピクチャとボトムフィールドのピクチャとが交互に表示される。
このため、テレシネでは、24Hzの映画フィルムのフレームのピクチャが、2-3プルダウンによって、60Hz(正確には、59.94Hz)のフィールドからなる30HzのNTSC方式のフレームのピクチャに変換される。
即ち、2-3プルダウンでは、まず最初に、24Hzの映画フィルムのフレームが、図1に示したように、トップフィールドとボトムフィールドに分割される。そして、そのトップフィールドとボトムフィールドとが、30HzのNTSC方式のフレームを構成するフィールドに、適宜割り当てられる。
具体的には、例えば、24Hzの映画フィルムの4フレームを、時系列に、A,B,C,Dと表し、また、例えば、フレームAを分割して得られるトップフィールドをA(1)と、ボトムフィールドをA(2)というように表すとすると、2−3プルダウンでは、例えば、図2に示すように、トップフィールドA(1)とボトムフィールドA(2)とで、最初の30HzのNTSC方式のフレームが構成され、トップフィールドB(1)とボトムフィールドB(2)とで、2番目の30HzのNTSC方式のフレームが構成される。さらに、トップフィールドB(1)とボトムフィールドC(2)とで、3番目の30HzのNTSC方式のフレームが構成され、トップフィールドC(1)とボトムフィールドD(2)とで、4番目の30HzのNTSC方式のフレームが構成される。そして、トップフィールドD(1)とボトムフィールドD(2)とで、5番目の30HzのNTSC方式のフレームが構成される。
2-3プルダウンでは、以上のように、24Hzの映画フィルムのフレームBを構成するフィールドB(1)が、2番目の30HzのNTSC方式のフレームのトップフィールドと、その2フィールド先のトップフィールド(3番目のフレームのトップフィールド)との両方に割り当てられるとともに、24Hzの映画フィルムのフレームDを構成するフィールドD(2)が、4番目の30HzのNTSC方式のフレームのボトムフィールドと、その2フィールド先のボトムフィールド(5番目のフレームのボトムフィールド)との両方に割り当てられることで、24Hzの映画フィルムのフレームが、4フレーム単位で、5フレーム単位の30HzのNTSC方式のフレームに変換されていく。
従って、2-3プルダウンでは、映画フィルムの1フレームが、NTSC方式の2フィールドに変換され、映画フィルムの次の1フレームが、NTSC方式の次の3フィールドに変換され、映画フィルムのさらに次の1フレームが、NTSC方式のさらに次の2フィールドに変換され、以下、同様にして、映画フィルムの各フレームが、NTSC方式の2フィールドと3フィールドとに交互に変換されていく。
ところで、近年、当初テレビ会議用の画像符号化を目的として、 H.264またはMPEG AVC(Advanced Video Coding)(ITU-T Q6/16またはISO/IEC 14496-10)(以下、適宜、H.264/AVCと記載する)という標準の規格化が行われた。H.264/AVCでは、MPEG2やMPEG4といった従来の符号化(復号)方式と同様に、直交変換と動き補償とにより、画像信号を圧縮/復号する。さらに、H.264/AVCは、そのような従来の符号化方式に比べ、符号化、復号により多くの演算量が要求されるものの、より高い符号化効率が実現されることが知られている。
図3は、映画フィルムのピクチャの2-3プルダウンによって得られるNTSC方式のピクチャを、H.264/AVCの規格に準拠して圧縮符号化する画像符号化装置の一例の構成を示している。
2-3プルダウンによって得られたNTSC方式のピクチャ(の画像信号)は、フィールド単位で、A/D変換装置1に供給され、A/D変換装置1は、そこに供給されるピクチャをA/D(Analog/Digital)変換することにより、ディジタル信号に変換して、2-3検出装置2に供給する。2-3検出装置2は、A/D変換装置1からのピクチャの、2つのフィールドどうしの差分であるフィールド間差分情報等を用いて、2-3韻律の検出を行う。
即ち、上述したように、2-3プルダウンでは、映画フィルムの各フレームが、NTSC方式の2フィールドと3フィールドに交互に変換されるので、NTSC方式のピクチャのシーケンスは、映画フィルムの順次走査の1フレームから得られた2フィールドの組と、映画フィルムの順次走査の1フレームから得られた3フィールドの組とが交互に繰り返される、いわば2-3韻律を有する。2-3検出装置2では、この2フィールドの組と3フィールドの組の検出(2-3韻律の検出)が行われる。
さらに、2-3検出装置2は、フィールド間差分情報や2-3韻律の検出結果に基づき、NTSC方式の各フィールドのピクチャが、順次走査または飛び越し走査のうちのいずれの走査方式のピクチャであるかを判定する。ここで、図3の画像符号化装置に供給されるピクチャが、ある映画フィルムのピクチャの2-3プルダウンによって得られたものであるとすると、2-3検出装置2では、映画フィルムの1フレームから得られた2フィールドのピクチャの組、または3フィールドのピクチャの組が、順次走査のピクチャであると判定される。
そして、2-3検出装置2は、順次走査のピクチャであると判定された2フィールドのピクチャの組または3フィールドのピクチャの組から、1フレームの順次走査のピクチャを構成し、即ち、いまの場合、2-3プルダウンされる前の24Hzの映画フィルムのフレームのピクチャを構成し、画面並べ替えバッファ3に供給する。
なお、2-3検出装置2において、例えば、あるフレームを構成する2フィールドが、飛び越し走査のピクチャであると判定された場合、その2フィールドのピクチャは、それぞれフィールドのピクチャとして、または、その2フィールドで構成される1フレームのピクチャとして、画面並べ替えバッファ3に供給される。
飛び越し走査のピクチャ(であると判定された)2フィールドが、フィールドまたはフレームのうちのいずれのピクチャとされるかは、例えば、フィールドまたはフレームのうちのいずれのピクチャとして符号化した方が符号化効率が高いかによって決まる。即ち、フィールドのピクチャとして符号化した方が符号化効率が高い場合には、飛び越し走査のピクチャは、フィールドのピクチャとされ、フレームのピクチャとして符号化した方が符号化効率が高い場合には、飛び越し走査のピクチャは、フレームのピクチャとされる。
画面並べ替えバッファ3は、2-3検出装置2からのピクチャを一時記憶し、その記憶したピクチャを、あらかじめ決まっている符号化順にしたがって並べ替え、符号化対象の注目ピクチャとして、マクロブロック単位で、加算器4に供給する。
注目ピクチャが、イントラ符号化されるイントラ符号化ピクチャである場合には、加算器4は、その注目ピクチャを、そのまま、直交変換装置5に供給する。
また、注目ピクチャが、インター符号化されるインター符号化ピクチャである場合には、加算器4は、注目ピクチャから、動き予測/補償装置12から供給される予測画像を減算し、直交変換装置5に供給する。
即ち、動き予測/補償装置12は、画面並べ替えバッファ3に記憶されたピクチャの動きベクトルを検出するとともに、フレームメモリ11から、既に符号化されて復号された、注目ピクチャの参照画像となるピクチャを読み出し、その参照画像に対して、動きベクトルに基づく動き補償を施すことで、最適な予測モード(符号化効率が最も高い予測モード)による、注目ピクチャの予測画像を生成する。そして、動き予測/補償装置12は、その予測画像を、加算器4に供給し、加算器4は、このようにして動き予測/補償装置12から供給される予測画像を、注目ピクチャから減算して、直交変換装置5に供給する。
直交変換装置5は、加算器4から供給される注目ピクチャ、または注目ピクチャから予測画像を減算した減算結果である差分画像(ピクチャ)に対して、例えば、離散コサイン変換等の直交変換を施し、その結果得られる変換係数を、量子化装置6に供給する。
量子化装置6は、後述するレート制御装置13からの制御にしたがった量子化ステップで、直交変換装置5からの変換係数を量子化し、その結果得られる量子化係数を、可逆符号化装置7と逆量子化装置9に供給する。
可逆符号化装置7は、量子化装置6からの量子化係数、さらには、図示していないが、動き予測/補償装置12で検出された動きベクトルなどに対して、例えば、可変長符号化や算術符号化等の可逆符号化を施して多重化し、その結果得られる符号化データ(ストリーム)を、蓄積バッファ8に供給する。
なお、可逆符号化装置7において、動きベクトルなどは、符号化データの、いわゆるヘッダ部分に挿入(多重化)される。
蓄積バッファ8は、可逆符号化装置7からの符号化データを一時記憶し、所定のレートで出力する。蓄積バッファ8が出力する符号化データは、例えば、DVD(Digital Versatile Disc)等に記録等される。ここでDVDについては、例えば、非特許文献1に記載されている。
また、蓄積バッファ8の符号化データの記憶量(蓄積量)は、レート制御装置13に供給されるようになっており、レート制御装置13は、蓄積バッファ8の記憶量に基づき、蓄積バッファ8がオーバフローまたはアンダフローしないように、量子化装置6の量子化ステップをフィードバック制御する。
一方、逆量子化装置9は、量子化装置6から供給される変換係数を、量子化装置6における量子化ステップと同一の量子化ステップで逆量子化し、その結果得られる変換係数を、逆直交変換装置10に供給する。逆直交変換装置10は、逆量子化装置9からの変換係数に逆直交変換処理を施し、これにより、元のイントラ符号化ピクチャを復号、または元のインター符号化ピクチャから予測画像を減算した差分画像を復号して、フレームメモリ11に供給する。
フレームメモリ11は、イントラ符号化ピクチャを復号したものを記憶する。また、フレームメモリ11においては、差分画像を復号したものに対して、その差分画像を得るのにインター符号化ピクチャから減算した予測画像を、動き予測/補償装置11から得て加算することにより、インター符号化ピクチャを復号して記憶する。
動き予測/補償装置12では、以上のようにしてフレームメモリ11に記憶されたピクチャを参照画像として、予測画像が生成される。
次に、図4は、図3の画像符号化装置で得られた符号化データを復号する画像復号装置の一例の構成を示している。
符号化データは、蓄積バッファ21に供給され、一時記憶される。可逆復号装置22は、蓄積バッファ21に記憶された符号化データを、適宜読み出し、その符号化データに含まれる情報を、適宜分離して、例えば、可変長復号や算術復号等する。さらに、可逆復号装置22は、可変長復号や算出復号等によって得られる量子化係数と動きベクトル等のうちの量子化係数を、逆量子化装置23に供給するとともに、動きベクトルを、動き予測/補償装置27に供給する。
逆量子化装置23は、可逆復号装置22からの量子化係数を逆量子化することにより、変換係数を得て、逆直交変換装置24に供給する。逆直交変換装置24は、逆量子化装置23からの変換係数に対して、逆離散コサイン変換等の逆直交変換処理を施し、その結果得られるイントラ符号化ピクチャの復号画像、またはインター符号化ピクチャの差分画像の復号結果を、マクロブロック単位で、加算器25に供給する。
加算器25は、逆直交変換装置24の出力が、イントラ符号化ピクチャの復号画像である場合には、その復号画像であるピクチャを、フレームメモリ26と画面並べ替えバッファ28に供給する。また、加算器25は、逆直交変換装置24の出力が、インター符号化ピクチャの差分画像の復号結果である場合には、その復号結果に対して、動き予測/補償装置27から供給される予測画像を加算することにより、インター符号化ピクチャを復号し、その結果得られる復号画像であるピクチャを、フレームメモリ26と画面並べ替えバッファ28に供給する。
フレームメモリ26は、加算器25からの復号画像(ピクチャ)を、参照画像として記憶し、動き予測/補償装置27は、フレームメモリ26に記憶された参照画像に対して、可逆復号装置22から供給される動きベクトルにしたがった動き補償を施すことで、予測画像を生成して、加算器25に供給する。
一方、画面並べ替えバッファ28は、加算器25からの復号画像であるピクチャを、一時記憶し、そのピクチャの並びを、表示順に並べ替える。さらに、ここでは、画面並べ替えバッファ28に記憶されたピクチャは、24Hzの映画フィルムのピクチャになっているので、画面並べ替えバッファ28は、その24Hzの映画フィルムのピクチャを、H.264/AVCの符号化データに多重化されている(含まれている)、後述するpic_structにしたがって、2-3プルダウンで得られるのと同一の30HzのNTSC方式のピクチャにして、D/A(Digital/Analog)変換装置29に供給する。
D/A変換装置29では、画面並べ替えバッファ28からのピクチャ(の画像信号)が、ディジタル信号からアナログ信号にD/A変換され、図示せぬディスプレイに供給されて表示される。
ところで、図1の画像符号化装置には、上述したように、24Hzの映画フィルムのピクチャを2-3プルダウンすることによって得られる30HzのNTSC方式のピクチャが、符号化対象として供給される。
いま、画像符号化装置に供給されるピクチャが、例えば、図5の上から1番目に示す24Hzの映画フィルムのピクチャを2-3プルダウンすることによって得られる、図5の上から2番目に示すような、2-3韻律の保たれた30HzのNTSC方式のピクチャであれば、2-3検出装置2(図3)では、そのピクチャは、基本的には、すべて、順次走査のピクチャであると判定される。
ここで、図5において(後述する図13乃至図15、図22、および図23においても同様)、長方形は、フレームまたはフィールドのピクチャを表す。また、横線がない長方形は、フレームのピクチャを表し、横線がある長方形は、フィールドのピクチャを表す。
しかしながら、図5の上から2番目に示した、2-3韻律の保たれた30HzのNTSC方式のピクチャがカット編集されるなどして、図5の上から3番目に示すように、2-3韻律が不規則なシーケンスのピクチャとされ、画像符号化装置に供給された場合、2-3検出装置2において、飛び越し走査のピクチャでもあり、順次走査のピクチャでもあると重複した判定がされるピクチャが生じる。
即ち、図5では、上から1番目に示す24Hzの映画フィルムの各フレームのピクチャが、上から2番目に示すように、30HzのNTSC方式のピクチャの3フィールド、2フィールド、3フィールド、・・・に変換されている。さらに、その上から2番目に示す30HzのNTSC方式のピクチャの、先頭から3番目と4番目のフィールドがカットされ、上から3番目に示す30HzのNTSC方式のピクチャとされている。
この場合、上から3番目に示す30HzのNTSC方式のピクチャ(フレームレートが30Hz(フィールドレートが60Hz)のNTSC方式のピクチャ)の1番目と2番目のフィールドは、いずれも、映画フィルムの1番目のフレームから得られたものであるから、順次走査のピクチャと判定される。また、上から3番目に示す30HzのNTSC方式のピクチャの3番目と4番目のフィールドは、それぞれ、映画フィルムの3番目と4番目のフレームから得られたものであるから、飛び越し走査のピクチャと判定される。さらに、上から3番目に示す30HzのNTSC方式のピクチャの4乃至6番目のフィールドは、いずれも、映画フィルムの3番目のフレームから得られたものであるから、順次走査のピクチャと判定される。
以上のように、上から3番目に示す30HzのNTSC方式のピクチャの4番目のフィールドは、飛び越し走査のピクチャでもあり、順次走査のピクチャでもあると重複判定される。
このような重複判定の原因となる2-3韻律の不規則性は、編集の他、例えば、映画フィルムのピクチャを2-3プルダウンするときに行われるフィルムロールの切り替えによる2-3韻律のリセット、2-3プルダウンの対象となる映画フィルムのピクチャに含まれるノイズに起因する2-3韻律の誤検出などによっても生じる。
DVD Specifications for Read-Only Disc Part 3; Version 1.1 Dcecmber 1997
ところで、H.264/AVCでは、復号側において、符号化の対象となった元のピクチャが、順次走査または飛び越し走査のうちのいずれのピクチャであるかを識別するシンタクス(syntax)(構文)の指定方法が規定されておらず、符号化されたピクチャに、そのピクチャの走査方式が、飛び越し走査または順次走査のいずれであるかを示す識別情報が付随していないため、ピクチャ毎に、そのピクチャが、飛び越し走査のピクチャであるか、順次走査のピクチャであるかを判定する術がなかった。このため、ピクチャが、順次走査のピクチャであっても、復号側において、飛び越し走査されるフィールドとして出力されることがあり、この場合、1フィールド分の垂直解像度が失われる問題を有する。
本発明は、このような状況に鑑みてなされたものであり、順次走査のピクチャを、その垂直解像度を損なわないように表示することができるようにするものである。
本発明の一側面の復号装置、プログラム、又は、プログラム記録媒体は、2-3プルダウンされた画像から得られるピクチャをH.264/AVCの規格にしたがって符号化した前記ピクチャの符号化結果と、前記ピクチャごとの走査方式を表す走査フラグ、および前記ピクチャごとの表示方式を指示するH.264/AVCの規格に規定されているpic_structとが多重化された符号化データを復号する復号手段と、前記ピクチャの前記走査フラグとpic_structとに基づき、そのピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかを認識する認識手段と、前記ピクチャが、飛び越し走査のピクチャであると認識された場合、そのピクチャをフィールド補間することにより、フレームピクチャを生成して出力し、前記ピクチャが、順次走査のピクチャであると認識された場合、そのピクチャを、フレームピクチャとして出力するフレームピクチャ出力手段と、前記フレームピクチャ出力手段において出力される前記フレームピクチャを、前記pic_structに対応した回数だけ繰り返し出力する繰り返し出力手段とを備え、前記認識手段は、前記ピクチャのpic_structが、前記ピクチャによって、トップフィールドまたはボトムフィールドを表示することを指示する1または2である場合、前記ピクチャが、飛び越し走査のピクチャであると認識し、前記ピクチャのpic_structが、前記ピクチャによって、フレームを表示することを指示する0、トップフィールド、ボトムフィールド、トップフィールをその順で表示することを指示する5、またはボトムフィールド、トップフィールド、ボトムフィールドをその順で表示することを指示する6である場合、前記ピクチャが、順次走査のピクチャであると認識し、前記ピクチャのpic_structが、前記ピクチャによって、トップフィールドを表示してボトムフィールドを表示することを指示する3、またはボトムフィールドを表示してトップフィールドを表示することを指示する4である場合、前記走査フラグに基づき、前記ピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかを認識する復号装置、そのような復号装置として、コンピュータを機能させるためのプログラム、又は、そのようなプログラムが記録されているプログラム記録媒体である。
本発明の一側面の復号方法は、2-3プルダウンされた画像から得られるピクチャをH.264/AVCの規格にしたがって符号化した前記ピクチャの符号化結果と、前記ピクチャごとの走査方式を表す走査フラグ、および前記ピクチャごとの表示方式を指示するH.264/AVCの規格に規定されているpic_structとが多重化された符号化データを復号する復号ステップと、前記ピクチャの前記走査フラグとpic_structとに基づき、そのピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかを認識する認識ステップと、前記ピクチャが、飛び越し走査のピクチャであると認識された場合、そのピクチャをフィールド補間することにより、フレームピクチャを生成して出力し、前記ピクチャが、順次走査のピクチャであると認識された場合、そのピクチャを、フレームピクチャとして出力するフレームピクチャ出力ステップと、前記フレームピクチャ出力ステップにおいて出力される前記フレームピクチャを、前記pic_structに対応した回数だけ繰り返し出力する繰り返し出力ステップとを備え、前記認識ステップは、前記ピクチャのpic_structが、前記ピクチャによって、トップフィールドまたはボトムフィールドを表示することを指示する1または2である場合、前記ピクチャが、飛び越し走査のピクチャであると認識し、前記ピクチャのpic_structが、前記ピクチャによって、フレームを表示することを指示する0、トップフィールド、ボトムフィールド、トップフィールをその順で表示することを指示する5、またはボトムフィールド、トップフィールド、ボトムフィールドをその順で表示することを指示する6である場合、前記ピクチャが、順次走査のピクチャであると認識し、前記ピクチャのpic_structが、前記ピクチャによって、トップフィールドを表示してボトムフィールドを表示することを指示する3、またはボトムフィールドを表示してトップフィールドを表示することを指示する4である場合、前記走査フラグに基づき、前記ピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかを認識する復号方法である。
本発明の一側面においては、2-3プルダウンされた画像から得られるピクチャをH.264/AVCの規格にしたがって符号化した前記ピクチャの符号化結果と、前記ピクチャごとの走査方式を表す走査フラグ、および前記ピクチャごとの表示方式を指示するH.264/AVCの規格に規定されているpic_structとが多重化された符号化データが復号され、前記ピクチャの前記走査フラグとpic_structとに基づき、そのピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかが認識される。そして、前記ピクチャが、飛び越し走査のピクチャであると認識された場合、そのピクチャをフィールド補間することにより、フレームピクチャが生成されて出力され、前記ピクチャが、順次走査のピクチャであると認識された場合、そのピクチャが、フレームピクチャとして出力される。さらに、前記フレームピクチャは、前記pic_structに対応した回数だけ繰り返し出力される。ピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるのかの認識では、前記ピクチャのpic_structが、前記ピクチャによって、トップフィールドまたはボトムフィールドを表示することを指示する1または2である場合、前記ピクチャが、飛び越し走査のピクチャであると認識され、前記ピクチャのpic_structが、前記ピクチャによって、フレームを表示することを指示する0、トップフィールド、ボトムフィールド、トップフィールをその順で表示することを指示する5、またはボトムフィールド、トップフィールド、ボトムフィールドをその順で表示することを指示する6である場合、前記ピクチャが、順次走査のピクチャであると認識され、前記ピクチャのpic_structが、前記ピクチャによって、トップフィールドを表示してボトムフィールドを表示することを指示する3、またはボトムフィールドを表示してトップフィールドを表示することを指示する4である場合、前記走査フラグに基づき、前記ピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかが認識される。
本発明によれば、順次走査のピクチャを、その垂直解像度を損なわないように表示することが可能となる。
以下、図面を参照して、本発明の実施の形態について説明する。
図6は、本発明を適用した画像処理システムの一実施の形態の構成例を示している。
図6の画像処理システムは、画像符号化装置101、画像復号装置(再生装置)102、およびディスプレイ103から構成されている。
画像符号化装置101には、例えば、フレームレートが24Hzの映画フィルムのピクチャを2-3プルダウンすることによって得られる、フレームレートが30HzのNTSC方式のピクチャが供給されるようになっており、画像符号化装置101は、例えば、基本的には、H.264/AVCの規格に準拠して、そこに供給される30HzのNTSC方式のピクチャを符号化し、その結果得られる符号化データを出力する。
即ち、画像符号化装置101は、そこに供給されるピクチャを、H.264/AVCの規格に準拠して符号化する。また、画像符号化装置101は、符号化対象のピクチャが、飛び越し走査または順次走査のうちのいずれの走査方式のピクチャであるかを判定し、その判定結果を、ピクチャの走査方式を表す走査フラグにセットする。さらに、画像符号化装置101は、符号化対象のピクチャの表示方式を表す情報を、ピクチャの表示方式を指示する表示方式指示情報にセットし、ピクチャの符号化結果と、ピクチャのごと走査フラグおよび表示方式指示情報とを多重化して、符号化データとして出力する。
画像符号化装置101が出力する符号化データは、例えば、光ディスクや、光磁気ディスク、磁気ディスク(ハードディスクを含む)、半導体メモリなどの記録媒体104に供給されて記録され、あるいは、インターネットや、電話回線、有線LAN(Local Area Network)、CATV(Cable Television)、または衛星回線や、地上波、無線LANなどの有線または無線の伝送媒体105を介して送信される。
画像復号装置102は、記録媒体104から読み出され、あるいは伝送媒体105を介して送信されてくる符号化データを受信して再生する。即ち、画像復号装置102は、、その符号化データを、例えば、基本的には、H.264/AVCの規格に準拠して復号する。さらに、画像復号装置102は、符号化データを復号することにより得られる復号画像を、後段のディスプレイ103に対応した画像に変換し、ディスプレイ103に供給する。
即ち、ディスプレイ103が、例えば、順次走査により、NTSC方式のフィールドの表示レート(フィールドレート)と同一の60Hz(正確には、59.94Hz)の表示レート(リフレッシュレート)で、画像を表示するディスプレイである場合、画像復号装置102は、復号画像を、60Hzの順次走査のフレームの画像(ピクチャ)に変換し、ディスプレイ103に供給する。
具体的には、画像復号装置102は、復号画像であるピクチャの走査フラグと表示方式指示情報とに基づき、そのピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかを認識する。さらに、画像復号装置102は、ピクチャが、飛び越し走査のピクチャであると認識した場合、そのピクチャをフィールド補間することにより、フレームのピクチャ(フレームピクチャ)を生成する。また、画像復号装置102は、ピクチャが、順次走査のピクチャであると認識した場合、そのピクチャを、そのままフレームピクチャとする。そして、画像復号装置102は、フレームピクチャを、必要に応じて、表示方式指示情報に対応した回数だけ繰り返し出力することにより、60Hzの順次走査のフレームの画像(ピクチャ)を、ディスプレイ103に供給する。
これにより、ディスプレイ103では、60Hzの順次走査の画像(ピクチャ)が表示される。
次に、図6の画像符号化装置101と画像復号装置102の詳細について説明するが、その前に、H.264/AVCで規定されている幾つかのシンタクスについて説明する。
H.264/AVC(ISO/IEC 14496-10)では、pic_structとct_typeについて、以下のように記述されている。
pic_struct indicates whether a picture should be displayed as a frame or one or more fields, according to Table D-1. Frame doubling (pic_struct equal to 7) indicates that the frame should be displayed two times consecutively, and frame tripling (pic_struct equal to 8) indicates that the frame should be displayed three times consecutively.
NOTE - Frame doubling can facilitate the display, for example, of 25p video on a 50p display and 29.97p video on a 59.94p display. Using frame doubling and frame tripling in combination on every other frame can facilitate the display of 23.98p video on a 59.94p display.
NumClockTS is determined by pic_struct as specified in Table D-1. There are up to NumClockTS sets of clockTimestamp information for a picture, as specified by clock_timestamp_flag[i] for each set. The sets of clockTimestamp information apply to the field(s) or the frame(s) associated with the picture by pic_struct.
The contents of the clockTimestamp syntax elements indicate a time of origin, capture, or alternative ideal display. This indicated time is computed as
clockTimestamp = ( ( hH * 60 + mM ) * 60 + sS ) * time_scale +
nFrames * ( num_units_in_tick * ( 1 + nuit_field_based_flag ) ) + tOffset, (D-1)
in units of clock ticks of a clock with clock frequency equal to time_scale Hz, relative to some unspecified point in time for which clockTimestamp is equal to 0. Output order and DPB output timing are not affected by the value of clockTimestamp. When two or more frames with pic_struct equal to 0 are consecutive in output order and have equal values of clockTimestamp, the indication is that the frames represent the same content and that the last such frame in output order is the preferred representation.
NOTE - clockTimestamp time indications may aid display on devices with refresh rates other than those well-matched to DPB output times.
clock_timestamp_flag[i] equal to 1 indicates that a number of clockTimestamp syntax elements are present and follow immediately. clock_timestamp_flag[i] equal to 0 indicates that the associated clockTimestamp syntax elements are not present. When NumClockTS is greater than 1 and clock_timestamp_flag[i] is equal to 1 for more than one value of i, the value of clockTimestamp shall be non-decreasing with increasing value of i.
ct_type indicates the scan type (interlaced or progressive) of the source material as follows:
Two fields of a coded frame may have different values of ct_type.
When clockTimestamp is equal for two fields of opposite parity that are consecutive in output order, both with ct_type equal to 0 (progressive) or ct_type equal to 2 (unknown), the two fields are indicated to have come from the same original progressive frame. Two consecutive fields in output order shall have different values of clockTimestamp when the value of ct_type for either field is 1 (interlaced).
ここで、図7に、H.264/AVCにおいて記述されているpic_structのテーブルを、図8に、ct_typeのテーブルを示す。
図7のpic_structのテーブルは、上述のH.264/AVCの記述におけるTable D-1であり、図8のct_typeのテーブルは、上述のH.264/AVCのct_typeの記述において記述されているテーブルである。
上述のH.264/AVCの記述によれば、pic_structは、ピクチャをどのように表示するかの表示方式を指示する情報であり、このpic_structが、画像符号化装置101(図6)において、表示方式指示情報として使用される。
図7のpic_structのテーブルによれば、ピクチャによって、1フレームを表示することを指示する場合には、そのピクチャのpic_structには、図7の最も左のValueの欄に示されているように、0がセットされる。同様に、ピクチャによって、トップフィールドまたはボトムフィールドを表示することを指示する場合には、そのピクチャのpic_structには、それぞれ1または2がセットされる。さらに、ピクチャによって、トップフィールドとボトムフィールドをその順で表示することを指示する場合には、そのピクチャのpic_structには、3がセットされ、ボトムフィールドとトップフィールドをその順で表示することを指示する場合には、pic_structには、4がセットされる。また、ピクチャによって、トップフィールド、ボトムフィールド、繰り返しトップフィールドをその順で表示することを指示する場合には、そのピクチャのpic_structには、5がセットされ、ボトムフィールド、トップフィールド、繰り返しボトムフィールドをその順で表示することを指示する場合には、pic_structには、6がセットされる。さらに、ピクチャによって、1フレームを2回繰り返しまたは3回繰り返し表示することを指示する場合には、そのピクチャのpic_structには、それぞれ7または8がセットされる。
従って、H.264/AVCでは、ピクチャがフィールドピクチャ(field picture)である場合には、そのピクチャのpic_structの値は、1または2のいずれかに制約される。また、ピクチャがフレームピクチャ(frame picture)である場合には、そのピクチャのpic_structの値は、0,3乃至8のいずれかに制約される。
一方、上述のH.264/AVCの記述によれば、ct-typeは、clockTimestampの算出に用いられる情報である。また、ct-typeは、H.264/AVCで規定されているclock_timestamp_flag[i]のエレメント(element)の1つである。clock_timestamp_flag[i]は、0または1のいずれかに設定され、clock_timestamp_flag[i]が0である場合、そのclock_timestamp_flag[i]には、エレメントが存在せず、clock_timestamp_flag[i]が1である場合、そのclock_timestamp_flag[i]には、エレメントが存在する。
ここで、clock_timestamp_flag[i]の引数iは、0乃至NumClockTSの範囲の整数値をとる。H.264/AVCにおいて、NumClockTSは、図7の最右欄に示すように、pic_structがとる値に応じて決められている。
図6の画像符号化装置101では、1がセットされたclock_timestamp_flag[0]のエレメント中のct_typeが、clockTimestampの算出ではなく、ピクチャの走査方式が、飛び越し走査または順次走査のうちのいずれであるかを表す走査フラグとして使用される。
図9は、以上のように、pic_structを表示方式指示情報として使用するとともに、ct_typeを走査フラグとして使用する図6の画像符号化装置101の構成例を示している。
なお、図9において、図3の画像符号化装置における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図9の画像符号化装置101は、pic_struct並びに飛び越し走査/順次走査識別装置111(以下、適宜、単に、識別装置111という)が新たに設けられている他は、図3の画像符号化装置と基本的に同様に構成されている。
識別装置111には、2-3検出装置2から、2-3韻律の検出結果やフィールド間差分情報が供給されるようになっている。識別装置111は、2-3検出装置2からの2-3韻律の検出結果やフィールド間差分情報に基づき、画面並べ替えバッファ3から加算器4に出力される符号化対象のピクチャである注目ピクチャが、飛び越し走査または順次走査のうちのいずれの走査方式のピクチャであるかを、2-3検出装置2と同様にして判定する。そして、識別装置111は、その判定結果を、走査フラグとしてのct_typeにセットし、可逆符号化装置7に供給する。
ここで、識別装置111では、注目ピクチャの走査方式が、例えば、2-3検出装置2と同様にして判定される。従って、識別装置111の判定結果と、2-3検出装置2の判定結果とは、同一になるので、識別装置111では、注目ピクチャの走査方式を判定せずに、2-3検出装置2の判定結果を利用するようにしても良い。
識別装置111は、さらに、注目ピクチャの表示方式を表す値(図7のValueの欄の値)を、pic_structにセットする。
ここで、H.264/AVCでは、上述したように、ピクチャがフィールドピクチャである場合はpic_structの値は、1または2のいずれかに制約され、ピクチャがフレームピクチャである場合は、pic_structの値は、0,3乃至8のいずれかに制約される。
識別装置111は、かかる制約の下、注目ピクチャの表示方式を表す値を、pic_structにセットする。
具体的には、識別装置111は、注目ピクチャが飛び越し走査のピクチャであると判定した場合、注目ピクチャの表示方式に応じて、その注目ピクチャによって、トップフィールドを表示することを指示する1か、ボトムフィールドを表示することを指示する2か、トップフィールドとボトムフィールドとをその順で表示することを指示する3か、またはボトムフィールドとトップフィールドとをその順で表示することを指示する4を、pic_structにセットする。即ち、この場合、飛び越し走査のピクチャである注目ピクチャがフィールドピクチャであれば、1または2のうちのいずれかが、pic_structにセットされ、注目ピクチャがフレームピクチャであれば、3または4のうちのいずれかが、pic_structにセットされる。
また、識別装置111は、注目ピクチャが順次走査のピクチャであると判定した場合、注目ピクチャの表示方式に応じて、その注目ピクチャによって、フレームを表示することを指示する0か、トップフィールドとボトムフィールドとをその順で表示することを指示する3か、ボトムフィールドとトップフィールドとをその順で表示することを指示する4か、トップフィールド、ボトムフィールド、トップフィールドをその順で表示することを指示する5か、またはボトムフィールド、トップフィールド、ボトムフィールドをその順で表示することを指示する6をセットする。
識別装置111は、以上のように、注目ピクチャのpic_structに、その注目ピクチャの表示方式を表す値をセットし、可逆符号化装置7に供給する。
なお、ここでは、ピクチャによって、2フレームまたは3フレームを表示することをそれぞれ指示する7または8(図7)は、pic_structにセットされないものとする。但し、H.264/AVCで規定されているfixed_frame_rate_flagが1であり、符号化対象のピクチャのシーケンスが固定フレームレートを満たす場合において、順次走査のピクチャを繰り返し表示することを指定するときには、pic_structには、7または8をセットすることができる。
次に、図10のフローチャートを参照して、図9の画像符号化装置101の処理について説明する。
画像符号化装置101では、ステップS1において、画面並べ替えバッファ3から加算器4に出力されるピクチャが、順次、注目ピクチャとされ、その注目ピクチャが、図3の画像符号化装置における場合と同様にして符号化されていく。
ここで、図3で説明したように、2-3検出装置2は、A/D変換装置1からの2フィールドのピクチャの組または3フィールドのピクチャの組が、順次走査のピクチャであると判定した場合、その2フィールドのピクチャの組または3フィールドのピクチャの組から、1フレームの順次走査のピクチャを構成し、画面並べ替えバッファ3に供給する。また、2-3検出装置2は、あるフレームを構成する2フィールドが、飛び越し走査のピクチャであると判定した場合、その2フィールドのピクチャは、符号化効率に応じて、それぞれ、フィールドピクチャとして、または、その2フィールドで構成される1フレームのフレームピクチャとして、画面並べ替えバッファ3に供給する。従って、2-3検出装置2から画面並べ替えバッファ3に供給され、さらに、画面並べ替えバッファ3から加算器4に供給されるピクチャのレートは、20Hz(3フィールドのピクチャの組から1フレームの順次走査のピクチャが構成される場合)から30Hzの範囲の値となる。
画像符号化装置101では、ステップS1の符号化の処理と並行して、ステップS11において、識別装置111が、2-3検出装置2から供給される2-3韻律の検出結果やフィールド間差分情報に基づき、画面並べ替えバッファ3から加算器4に出力される符号化対象のピクチャである注目ピクチャが、飛び越し走査または順次走査のうちのいずれの走査方式のピクチャであるかを判定する。
ステップS11において、注目ピクチャが順次走査のピクチャであると判定された場合、ステップS12に進み、識別装置111は、走査フラグとしての、注目ピクチャのct_typeに、「順次走査」を表す値(例えば、0)をセットし、可逆符号化装置7に供給して、ステップS13に進む。
ステップS13では、識別装置111は、順次走査のピクチャであると判定した注目ピクチャのpic_structに、0,3乃至6のうちの、注目ピクチャの表示方式に応じた値をセットし、可逆符号化装置7に供給して、ステップS14に進む。
ステップS14では、可逆符号化装置7は、注目ピクチャの符号化結果と、識別装置111からの注目ピクチャのct_typeおよびpic_structを多重化し、その多重化結果としての符号化データを、蓄積バッファ8を介して出力する。そして、ステップS14からS11に戻り、次の符号化対象のピクチャを注目ピクチャとして、その注目ピクチャについて、以下、同様の処理が行われる。
ここで、可逆符号化装置7は、ステップS14において、少なくとも、注目ピクチャのclock_timestamp_flag[0]に1をセットし、そのclock_timestamp_flag[0]のエレメントとして、識別装置111からの、注目ピクチャのct_typeを多重化する。
なお、clock_timestamp_flag[0]以外のclock_timestamp_flag[k](kは、1以上の整数値)については、H.264/AVCに準拠した情報をセットしても良いし、また、clock_timestamp_flag[k]=0として、何らの情報もセットしなくても良い。
一方、ステップS11において、注目ピクチャが飛び越し走査のピクチャであると判定された場合、ステップS15に進み、識別装置111は、走査フラグとしての、注目ピクチャのct_typeに、「飛び越し走査」を表す値(例えば、1)をセットし、可逆符号化装置7に供給して、ステップS16に進む。
ステップS16では、識別装置111は、注目ピクチャが、フィールドピクチャまたはフレームピクチャのいずれであるかを判定する。
ステップS16において、注目ピクチャがフィールドピクチャであると判定された場合、ステップS17に進み、識別装置111は、フィールドピクチャであり、かつ飛び越し走査のピクチャであると判定された注目ピクチャのpic_structに、1または2のうちの、注目ピクチャの表示方式に応じた値をセットする。さらに、ステップS17では、識別装置111は、注目ピクチャのpic_structを、可逆符号化装置7に供給して、ステップS14に進み、以下、上述した場合と同様の処理が行われる。
また、ステップS16において、注目ピクチャがフレームピクチャであると判定された場合、ステップS18に進み、識別装置111は、フレームピクチャであり、かつ飛び越し走査のピクチャであると判定された注目ピクチャのpic_structに、3または4のうちの、注目ピクチャの表示方式に応じた値をセットする。さらに、ステップS18では、識別装置111は、注目ピクチャのpic_structを、可逆符号化装置7に供給して、ステップS14に進み、以下、上述した場合と同様の処理が行われる。
以上のようにして、画像符号化装置101では、注目ピクチャの走査方式の判定結果がct_typeにセットされ、その注目ピクチャの符号化結果と、ct_typeおよびpic_structとが多重化された符号化データが出力される。
次に、図11は、図6の画像復号装置102の構成例を示している。なお、図11において、図4の画像復号装置における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図11の画像復号装置102は、画面並べ替えバッファ28に代えて、画面並べ替えバッファ121が設けられており、さらに、その画面並べ替えバッファ121と、D/A変換装置29との間に、I/P変換装置122、表示画像出力バッファ123、および画枠サイズ変換装置124が新たに設けられている他は、図4の画像復号装置と同様に構成されている。
画面並べ替えバッファ121は、加算器25から供給される復号画像(ピクチャ)を一時記憶し、表示順に並び替えて、I/P変換装置122に出力する。
ここで、図4の画像復号装置における画面並べ替えバッファ28は、前述したように、表示順に並べ替えられた24Hzの映画フィルムのピクチャを、pic_structにしたがって、30HzのNTSC方式のピクチャにして出力するが、画面並べ替えバッファ121は、単に、加算器25から供給されるピクチャを、表示順で、I/P変換装置122に出力する。画面並べ替えバッファ121からI/P変換装置122に出力されるピクチャのレートは、図9の画像符号化装置101において、2-3検出装置2から画面並べ替えバッファ3に供給され、さらに、画面並べ替えバッファ3から加算器4に供給されるピクチャのレートと同様に、20Hzから30Hzの範囲の値となる。
I/P変換装置122には、上述したように、画面並べ替えバッファ121からピクチャ(復号画像)が供給される他、可逆復号装置22から、画面並べ替えバッファ121からの各ピクチャのct_typeとpic_structが供給されるようになっている。
I/P(Interlace/Progressive)変換装置122は、画面並べ替えバッファ121から供給されるピクチャを、順次、注目ピクチャとして、可逆復号装置22から供給される注目ピクチャのct_typeとpic_structに基づき、注目ピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかを認識する。さらに、I/P変換装置122は、注目ピクチャが、飛び越し走査のピクチャであると認識した場合、その注目ピクチャをフィールド補間することにより、フレームピクチャを生成して、表示画像出力バッファ123に出力して記憶させる。また、I/P変換装置122は、注目ピクチャが、順次走査のピクチャであると認識した場合、その注目ピクチャを、そのまま、フレームピクチャとして、表示画像出力バッファ123に出力する。
さらに、I/P変換装置122は、注目ピクチャのpic_structに応じて、表示画像出力バッファ123に記憶されたフレームピクチャの出力回数(表示画像出力バッファ123に記憶されたフレームピクチャの読み出し回数)を制御する。
表示画像出力バッファ123は、I/P変換装置122から供給されるフレームピクチャを記憶する。また、表示画像出力バッファ123は、そこに記憶したフレームピクチャを、I/P変換装置122の制御にしたがって1回だけ、または複数回繰り返し読み出し、画枠サイズ変換装置124に供給する。
画枠サイズ変換装置124は、表示画像出力バッファ123からのフレームピクチャの画枠サイズを、ディスプレイ103(図6)の表示画面に対応した画枠サイズに変換し、D/A変換装置29に供給する。
次に、図12のフローチャートを参照して、図11の画像復号装置102の処理について説明する。
画像復号装置102では、ステップS21において、そこに供給される符号化データが、図4の画像復号装置における場合と同様にして復号され、その結果得られる復号画像(ピクチャ)が、画面並べ替えバッファ121に、順次記憶されていく。この画面並べ替えバッファ121に記憶されたピクチャは、画面並べ替えバッファ121において表示順に並べ替えられ、順次、I/P変換装置122に出力されていく。
ここで、可逆復号装置22は、ステップS21の復号の処理において、図4の画像復号装置における場合と同様の処理を行う他、符号化データから、各ピクチャのct_typeとpic_structを分離し、I/P変換装置122に供給する。
なお、可逆復号装置22は、符号化データに多重化されている、1になっているclock_timestamp_flag[i]、即ち、本実施の形態では、clock_timestamp_flag[0]を解析することにより、そのエレメントとなっているct_typeを得て、I/P変換装置122に供給する。また、可逆復号装置22では、clock_timestamp_flag[0]以外のclock_timestamp_flag[k](kは、1以上の整数値)は、解析しても良いし、しなくても良い。但し、可逆復号装置22は、clock_timestamp_flag[0]以外のclock_timestamp_flag[k]を解析し、ct_typeを得た場合であっても、そのct_typeを無視する。
画像復号装置102では、ステップS21の復号の処理と並行して、ステップS31において、I/P変換装置122が、画面並べ替えバッファ121からのピクチャを、注目ピクチャとして、可逆復号装置22から供給される各ピクチャのct_typeとpic_structから、注目ピクチャのct_typeとpic_structを取得し、ステップS32に進む。
ステップS32では、I/P変換装置122は、注目ピクチャのpic_structの値を判定する。
ステップS32において、注目ピクチャのpic_structが、その注目ピクチャによって、フレームを表示することを指示する0か、トップフィールド、ボトムフィールド、トップフィールドをその順で表示することを指示する5か、またはボトムフィールド、トップフィールド、ボトムフィールドをその順で表示することを指示する6であると判定された場合、ステップS33に進み、I/P変換装置122は、注目ピクチャが、順次走査のピクチャであると認識し、ステップS34に進む。
ステップS34では、I/P変換装置122は、順次走査のピクチャである注目ピクチャを、そのままフレームピクチャとして、表示画像出力バッファ123に供給して記憶させ、ステップS35に進む。
ステップS35では、I/P変換装置122は、注目ピクチャのpic_structに対応した回数だけ、直前のステップS34で記憶したフレームピクチャを繰り返し読み出すように、表示画像出力バッファ123を制御し、これにより、表示画像出力バッファ123に記憶されたフレームピクチャが、I/P変換装置122の制御にしたがった回数だけ繰り返し読み出され、表示画像出力バッファ123から画枠サイズ変換装置124に供給(出力)される。
即ち、いまの場合、注目ピクチャのpic_structは、0,5、または6のうちのいずれかであり、注目ピクチャのpic_structが0である場合、表示画像出力バッファ123に記憶されたフレームピクチャは1回だけ読み出され、画枠サイズ変換装置124に供給される。また、注目ピクチャのpic_structが5または6である場合、いずれの場合も、表示画像出力バッファ123に記憶されたフレームピクチャは3回だけ繰り返し読み出され、画枠サイズ変換装置124に供給される。
なお、符号化データには、図9の画像符号化装置101において符号化されたNTSC方式のピクチャのフィールドレートのレート情報が含まれており、表示画像出力バッファ123から画枠サイズ変換装置124へのフレームピクチャの出力は、レート情報が表すレートで行われる。従って、ここでは、NTSC方式のフィールドレート、即ち、ディスプレイ103の表示レートでもある60Hzで、表示画像出力バッファ123から画枠サイズ変換装置124へのフレームピクチャの出力が行われる。
ステップS35の処理後は、ステップS36に進み、画枠サイズ変換装置124は、表示画像出力バッファ123からのフレームピクチャの画枠サイズを変換し、D/A変換装置29を介して、ディスプレイ103(図6)に供給して表示させる。そして、ステップS36からS31に戻り、画面並べ替えバッファ121からI/P変換装置122に対して次に供給されるピクチャが注目ピクチャとされ、その注目ピクチャについて、以下、同様の処理が行われる。
一方、ステップS32において、注目ピクチャのpic_structが、その注目ピクチャによって、トップフィールドまたはボトムフィールドを表示することをそれぞれ指示する1または2であると判定された場合、ステップS37に進み、I/P変換装置122は、注目ピクチャが、飛び越し走査のピクチャであると認識し、ステップS38に進む。
ステップS38では、I/P変換装置122は、飛び越し走査のピクチャである注目ピクチャをフィールド補間することにより、フレームピクチャを生成し、表示画像出力バッファ123に供給して記憶させ、ステップS39に進む。
即ち、いまの場合、注目ピクチャのpic_structは、1または2のうちのいずれかであり、従って、飛び越し走査のピクチャである注目ピクチャは、フィールドピクチャである。I/P変換装置122は、フィールドピクチャである注目ピクチャをフィールド補間することにより、フレームピクチャを生成し(いわゆる、インタレース→プログレッシブ変換を行い)、表示画像出力バッファ123に供給して記憶させる。なお、フィールド補間の方法は、特に限定されるものではない。
ステップS39では、I/P変換装置122は、直前のステップS38で記憶したフレームピクチャを1回だけ読み出すように、表示画像出力バッファ123を制御し、これにより、表示画像出力バッファ123に記憶されたフレームピクチャが、I/P変換装置122の制御にしたがって1回だけ読み出され、表示画像出力バッファ123から画枠サイズ変換装置124に供給(出力)される。
ステップS39の処理後は、ステップS36に進み、画枠サイズ変換装置124は、表示画像出力バッファ123からのフレームピクチャの画枠サイズを変換し、D/A変換装置29を介して、ディスプレイ103(図6)に供給して表示させる。そして、ステップS36からS31に戻り、画面並べ替えバッファ121からI/P変換装置122に対して次に供給されるピクチャが注目ピクチャとされ、その注目ピクチャについて、以下、同様の処理が行われる。
一方、ステップS32において、注目ピクチャのpic_structが、その注目ピクチャによって、トップフィールドとボトムフィールドをその順で表示することを指示する3か、またはボトムフィールドとトップフィールドをその順で表示することを指示する4であると判定された場合、ステップS40に進み、I/P変換装置122は、注目ピクチャのct_type(走査フラグ)に基づき、注目ピクチャが、順次走査または飛び越し走査のうちのいずれのピクチャであるかを判定する。
ステップS40において、注目ピクチャが順次走査のピクチャであると判定された場合、即ち、注目ピクチャのct_typeが「順次走査」を表している場合、ステップS33に進み、I/P変換装置122は、上述したように、注目ピクチャが、順次走査のピクチャであると認識し、ステップS34に進む。
ステップS34では、I/P変換装置122は、順次走査のピクチャである注目ピクチャを、そのままフレームピクチャとして、表示画像出力バッファ123に供給して記憶させ、ステップS35に進む。
ステップS35では、I/P変換装置122は、注目ピクチャのpic_structに対応した回数だけ、直前のステップS34で記憶したフレームピクチャを繰り返し読み出すように、表示画像出力バッファ123を制御し、これにより、表示画像出力バッファ123に記憶されたフレームピクチャが、I/P変換装置122の制御にしたがった回数だけ繰り返し読み出され、表示画像出力バッファ123から画枠サイズ変換装置124に供給(出力)される。
即ち、いまの場合、注目ピクチャのpic_structは、3または4のうちのいずれかであり、いずれの値であっても、表示画像出力バッファ123に記憶されたフレームピクチャは2回だけ繰り返し読み出され、画枠サイズ変換装置124に供給される。
ステップS35の処理後は、ステップS36に進み、画枠サイズ変換装置124は、表示画像出力バッファ123からのフレームピクチャの画枠サイズを変換し、D/A変換装置29を介して、ディスプレイ103(図6)に供給して表示させる。そして、ステップS36からS31に戻り、次の注目ピクチャについて、以下、同様の処理が行われる。
一方、ステップS40において、注目ピクチャが飛び越し走査のピクチャであると判定された場合、即ち、注目ピクチャのct_typeが「飛び越し走査」を表している場合、ステップS37に進み、I/P変換装置122は、上述したように、注目ピクチャが、飛び越し走査のピクチャであると認識し、ステップS38に進む。
ステップS38では、I/P変換装置122は、飛び越し走査のピクチャである注目ピクチャをフィールド補間することにより、フレームピクチャを生成し、表示画像出力バッファ123に供給して記憶させ、ステップS39に進む。
即ち、いまの場合、注目ピクチャのpic_structは、3または4のうちのいずれかであるので、飛び越し走査のピクチャである注目ピクチャはフレームピクチャであり、かかる飛び越し走査のフレームピクチャによれば、本来、トップフィールドとボトムフィールドとがその順で表示され、またはボトムフィールドとトップフィールドとがその順で表示される。一方、本実施の形態では、ディスプレイ103(図6)は、順次走査のピクチャを表示するディスプレイである。
そこで、I/P変換装置122は、フレームピクチャである注目ピクチャのトップフィールドとボトムフィールドそれぞれをフィールド補間することにより、フレームピクチャを生成する。そして、I/P変換装置122は、注目ピクチャのpic_structが3である場合には、トップフィールドから生成したフレームピクチャと、ボトムフィールドから生成したフレームピクチャを、その順で、表示画像出力バッファ123に供給して記憶させる。また、I/P変換装置122は、注目ピクチャのpic_structが4である場合には、ボトムフィールドから生成したフレームピクチャと、トップフィールドから生成したフレームピクチャを、その順で、表示画像出力バッファ123に供給して記憶させる。
ステップS39では、I/P変換装置122は、直前のステップS38で記憶した2つのフレームピクチャそれぞれを1回だけ読み出すように、表示画像出力バッファ123を制御し、これにより、表示画像出力バッファ123に記憶された2つのフレームピクチャが、I/P変換装置122の制御にしたがって1回ずつ、その記憶順に読み出され、表示画像出力バッファ123から画枠サイズ変換装置124に供給(出力)される。
ステップS39の処理後は、ステップS36に進み、画枠サイズ変換装置124は、表示画像出力バッファ123からのフレームピクチャの画枠サイズを変換し、D/A変換装置29を介して、ディスプレイ103(図6)に供給して表示させる。そして、ステップS36からS31に戻り、画面並べ替えバッファ121からI/P変換装置122に対して次に供給されるピクチャが注目ピクチャとされ、その注目ピクチャについて、以下、同様の処理が行われる。
以上のように、画像復号装置102では、I/P変換装置122において、ピクチャのct_typeとpic_structとに基づき、そのピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかを認識し、ピクチャが、飛び越し走査のピクチャであると認識された場合、そのピクチャをフィールド補間することにより、フレームピクチャを生成し、表示画像出力バッファ123に出力して記憶させ、ピクチャが、順次走査のピクチャであると認識された場合、そのピクチャを、フレームピクチャとして、表示画像出力バッファ123に出力して記憶させる。さらに、画像復号装置102では、表示画像出力バッファ123に記憶されたフレームピクチャが、pic_structに対応した回数だけ繰り返し出力される。
従って、順次走査のピクチャのpic_structが3または4である場合に、その順次走査のピクチャが、トップフィールドとボトムフィールドとに分離され、飛び越し走査されるフィールドとして出力されることにより、1フィールド分の垂直解像度が失われることを防止することができる。
ここで、H.264/AVCにおけるpic_structの0乃至8の定義(図7)のうちの、3と4は、飛び越し走査のディスプレイにおいて、フィールドの時間位相差表示を行うことを意識したものであり、順次走査のディスプレイにおいて、どのように表示を行うかは特定されていない。
これに対して、画像復号装置102においては、pic_structが3または4の飛び越し走査のフレームピクチャについては、そのトップフィールドとボトムフィールドそれぞれからフレームピクチャが生成され、その2つのフレームピクチャそれぞれが、1回だけ、ディスプレイ103に供給される。また、pic_structが3または4の順次走査のフレームピクチャについては、そのフレームピクチャが2回繰り返して、ディスプレイ103に供給される。従って、順次走査のディスプレイであるディスプレイ103においては、画像復号装置102から上述のようにして供給されるフレームピクチャを表示することができる。
なお、図11の画像復号装置102において、画枠サイズ変換装置124による画枠サイズの変換の処理は、I/P変換装置122において行うことが可能である。この場合、画枠サイズ変換装置124を設けずに、画像復号装置102を構成することができ、さらに、処理の簡素化を図ることができる。
次に、図13を参照して、図9の画像符号化装置101と、図11の画像復号装置102の処理について、さらに説明する。
例えば、フレームレートが24Hzの映画フィルムのピクチャを2-3プルダウンすることによって得られる、フレームレートが30Hz(フィールドレートが60Hz)のNTSC方式のピクチャが、図13の上から1番目に示すように編集され、符号化対象として、画像符号化装置101に供給されたとする。
ここで、図13の上から1番目のNTSC方式のピクチャであるフィールドピクチャのうちの左からm番目を、第mフィールドという。
図13の上から1番目のNTSC方式のフィールドピクチャにおいては、その第2フィールドと第3フィールドとの間でカット編集が行われており、さらに、その第4フィールドと第5フィールドとの間でもカット編集が行われている。
いま、図9の画像符号化装置101の2-3検出装置2(および識別装置111)において、第1フィールドおよび第2フィールドが、1フレームの順次走査のピクチャであると、第3フィールドおよび第4フォールドが、飛び越し走査のピクチャであると、第5乃至第7フィールドが、1フレームの順次走査のピクチャであると、それぞれ判定されたものとする。
画像符号化装置101では、順次走査のピクチャは、フレームピクチャとして符号化され、飛び越し走査のピクチャは、フレームピクチャまたはフィールドピクチャのうちの、符号化効率が高い方のピクチャとして符号化される。
従って、順次走査のピクチャである第1フィールドおよび第2フィールドは、図13の上から2番目に示すように、1つのフレームピクチャとして符号化される。同様に、順次走査のピクチャである第5乃至第7フィールドも、図13の上から2番目に示すように、1つのフレームピクチャとして符号化される。
そして、画像符号化装置101の識別装置111では、第1フィールドおよび第2フィールドを1フレームとしたフレームピクチャと、第5乃至第7フィールドを1フレームとしたフレームピクチャの走査フラグとしてのct_typeに、いずれも、「順次走査」がセットされる。
また、識別装置111では、第1フィールドおよび第2フィールドを1フレームとしたフレームピクチャによって、第1フィールドと第2フィールドの2フィールドを表示する必要があるため、そのpic_structは、フレームピクチャのpic_structにセットされうる0,3乃至6(図7)のうちの3または4にセットされる。
さらに、識別装置111では、第5乃至第7フィールドを1フレームとしたフレームピクチャによって、第5乃至第7フィールドの3フィールドを表示する必要があるため、そのpic_structは、フレームピクチャのpic_structにセットされうる0,3乃至6(図7)のうちの5または6にセットされる。
一方、飛び越し走査のピクチャである第3および第4フィールドは、フレームピクチャまたはフィールドピクチャのうちの、符号化効率が高い方のピクチャとして符号化されるが、いま、例えば、フィールドピクチャの符号化効率の方が高いものとすると、図13の上から2番目に示すように、フィールドピクチャとして符号化される。
そして、画像符号化装置101の識別装置111では、第3フィールドのフィールドピクチャと、第4フィールドのフィールドピクチャの走査フラグとしてのct_typeに、いずれも、「飛び越し走査」がセットされる。
また、識別装置111では、第3フィールドのフィールドピクチャによって、第3フィールドの1フィールドを表示する必要があるため、そのpic_structは、フィールドピクチャのpic_structにセットされうる1または2(図7)にセットされる。同様に、第4フィールドのフィールドピクチャによっても、第4フィールドの1フィールドを表示する必要があるため、そのpic_structは、フィールドピクチャのpic_structにセットされうる1または2(図7)にセットされる。
この場合、図11の画像復号装置102では、図13の上から3番目に示すように、ピクチャが復号される。
即ち、第1フィールドおよび第2フィールドを1フレームとしたフレームピクチャについては、pic_structに3または4がセットされているが、ct_typeに「順次走査」がセットされているので、画像復号装置102では、図12のフローチャートで説明したように、第1フィールドおよび第2フィールドを1フレームとした順次走査のフレームピクチャが、3または4がセットされているpic_structに対応して2回だけ繰り返し出力され、ディスプレイ103(図6)に表示される。
また、第3フィールドのフィールドピクチャについては、pic_structに1または2がセットされているので、画像復号装置102では、図12のフローチャートで説明したように、第3フィールドのフィールドピクチャをフィールド補間することによってフレームピクチャが生成される。そして、そのフレームピクチャが、1回だけ、ディスプレイ103に出力されて表示される。
第4フィールドのフィールドピクチャについても、第3フィールドのフィールドピクチャと同様に、pic_structに1または2がセットされているので、画像復号装置102では、第4フィールドのフィールドピクチャをフィールド補間することによって得られるフレームピクチャが、1回だけ、ディスプレイ103に出力されて表示される。
そして、第5乃至第7フィールドを1フレームとしたフレームピクチャについては、pic_structに5または6がセットされているので、画像復号装置102では、図12のフローチャートで説明したように、第5乃至第7フィールドを1フレームとした順次走査のフレームピクチャが、5または6がセットされているpic_structに対応して3回だけ繰り返し出力され、ディスプレイ103(図6)に表示される。
なお、飛び越し走査のピクチャである第3および第4フィールドについて、フレームピクチャまたはフィールドピクチャのうちの、例えば、フレームピクチャとして符号化を行った方が符号化効率が高い場合には、画像符号化装置101では、第3および第4フィールドからなるフレームピクチャが符号化される。
この場合、画像符号化装置101の識別装置111では、第3および第4フィールドからなるフレームピクチャの走査フラグとしてのct_typeに、「飛び越し走査」がセットされる。
また、識別装置111では、第3および第4フィールドからなるフレームピクチャによって、第3フィールドと第4フィールドの2フィールドを表示する必要があるため、そのpic_structは、フレームピクチャのpic_structにセットされうる0,3乃至6(図7)のうちの3または4にセットされる(図13の上から2番目)。
この場合、図11の画像復号装置102では、第3および第4フィールドからなるフレームピクチャは、次のように復号される。即ち、第3および第4フィールドからなるフレームピクチャについては、pic_structに3または4がセットされているが、ct_typeに「飛び越し走査」がセットされているので、画像復号装置102では、図12のフローチャートで説明したように、第3および第4フィールドからなるフレームピクチャのトップフィールドとボトムフィールドのそれぞれをフィールド補間することによって2つのフレームピクチャが生成される。そして、その2つフレームピクチャが、それぞれ1回だけ、ディスプレイ103に出力されて表示される。
以上により、ディスプレイ103では、フレームレートが60Hzのピクチャが順次走査により表示される。
なお、図5で説明したように、2-3検出装置2では(従って、識別装置111でも)、あるピクチャが、飛び越し走査のピクチャでもあり、順次走査のピクチャでもあると重複判定されることがあり得る。この場合、画像符号化装置101では、飛び越し走査のピクチャであるという判定結果と、順次走査のピクチャであるという判定結果のうちのいずれかを優先させるようにすることができる。
即ち、図14は、飛び越し走査のピクチャでもあり、順次走査のピクチャでもあると重複判定された場合に、飛び越し走査のピクチャであるという判定結果を優先させるときの画像符号化装置101と画像復号装置102の処理を説明する図である。
例えば、フレームレートが24Hzの映画フィルムのピクチャを2-3プルダウンすることによって得られる、フレームレートが30Hz(フィールドレートが60Hz)のNTSC方式のピクチャが、図14の上から1番目に示すように編集され、符号化対象として、画像符号化装置101に供給されたとする。
ここで、図13における場合と同様に、図14の上から1番目のNTSC方式のピクチャであるフィールドピクチャのうちの左からm番目を、第mフィールドという。
いま、画像符号化装置101の2-3検出装置2(および識別装置111)において、第1フィールドおよび第2フィールドが、1フレームの順次走査のピクチャであると、第3フィールドおよび第4フォールドが、飛び越し走査のピクチャであると、第4乃至第6フィールドが、1フレームの順次走査のピクチャであると、それぞれ判定されたものとする。
この場合、第4フィールドが、飛び越し走査のピクチャでもあり、順次走査のピクチャでもあると重複判定されている。図14の実施の形態では、重複判定された場合に、飛び越し走査のピクチャであるという判定結果が優先され、結局、第1フィールドおよび第2フィールドが、1フレームの順次走査のピクチャであると、第3フィールドおよび第4フォールドが、飛び越し走査のピクチャであると、第5および第6フィールドが、1フレームの順次走査のピクチャであると、それぞれ判定される。
画像符号化装置101では、順次走査のピクチャである第1フィールドおよび第2フィールドは、図14の上から2番目に示すように、1つのフレームピクチャとして符号化される。同様に、順次走査のピクチャである第5および第6フィールドも、図14の上から2番目に示すように、1つのフレームピクチャとして符号化される。
そして、画像符号化装置101の識別装置111では、第1フィールドおよび第2フィールドを1フレームとしたフレームピクチャと、第5および第6フィールドを1フレームとしたフレームピクチャの走査フラグとしてのct_typeに、いずれも、「順次走査」がセットされる。
また、識別装置111では、第1フィールドおよび第2フィールドを1フレームとしたフレームピクチャによって、第1フィールドと第2フィールドの2フィールドを表示する必要があるため、そのpic_structは、フレームピクチャのpic_structにセットされうる0,3乃至6(図7)のうちの3または4にセットされる。
さらに、識別装置111では、第5および第6フィールドを1フレームとしたフレームピクチャによって、第5および第6フィールドの2フィールドを表示する必要があるため、そのpic_structも、フレームピクチャのpic_structにセットされうる0,3乃至6(図7)のうちの3または4にセットされる。
一方、飛び越し走査のピクチャである第3および第4フィールドは、フレームピクチャまたはフィールドピクチャのうちの、符号化効率が高い方のピクチャとして符号化されるが、いま、例えば、フィールドピクチャの符号化効率の方が高いものとすると、図14の上から2番目に示すように、フィールドピクチャとして符号化される。
そして、画像符号化装置101の識別装置111では、第3フィールドのフィールドピクチャと、第4フィールドのフィールドピクチャの走査フラグとしてのct_typeに、いずれも、「飛び越し走査」がセットされる。
また、識別装置111では、第3フィールドのフィールドピクチャによって、第3フィールドの1フィールドを表示する必要があるため、そのpic_structは、フィールドピクチャのpic_structにセットされうる1または2(図7)にセットされる。同様に、第4フィールドのフィールドピクチャによっても、第4フィールドの1フィールドを表示する必要があるため、そのpic_structは、フィールドピクチャのpic_structにセットされうる1または2(図7)にセットされる。
この場合、図11の画像復号装置102では、図14の上から3番目に示すように、ピクチャが復号される。
即ち、第1フィールドおよび第2フィールドを1フレームとしたフレームピクチャについては、pic_structに3または4がセットされているが、ct_typeに「順次走査」がセットされているので、画像復号装置102では、図12のフローチャートで説明したように、第1フィールドおよび第2フィールドを1フレームとした順次走査のフレームピクチャが、3または4がセットされているpic_structに対応して2回だけ繰り返し出力され、ディスプレイ103(図6)に表示される。
また、第3フィールドのフィールドピクチャについては、pic_structに1または2がセットされているので、画像復号装置102では、図12のフローチャートで説明したように、第3フィールドのフィールドピクチャをフィールド補間することによってフレームピクチャが生成される。そして、そのフレームピクチャが、1回だけ、ディスプレイ103に出力されて表示される。
第4フィールドのピクチャについても、同様に、pic_structに1または2がセットされているので、画像復号装置102では、第4フィールドのフィールドピクチャをフィールド補間することによって得られるフレームピクチャが、1回だけ、ディスプレイ103に出力されて表示される。
そして、第5および第6フィールドを1フレームとしたフレームピクチャについては、pic_structに3または4がセットされているので、画像復号装置102では、第1および第2フィールドを1フレームとしたフレームピクチャと同様に、第5および第6フィールドを1フレームとした順次走査のフレームピクチャが、3または4がセットされているpic_structに対応して2回だけ繰り返し出力され、ディスプレイ103(図6)に表示される。
以上により、ディスプレイ103では、フレームレートが60Hzのピクチャが順次走査により表示される。
なお、飛び越し走査のピクチャである第3および第4フィールドについて、フレームピクチャまたはフィールドピクチャのうちの、例えば、フレームピクチャとして符号化を行った方が符号化効率が高い場合には、画像符号化装置101では、第3および第4フィールドからなるフレームピクチャが符号化される。
この場合、画像符号化装置101の識別装置111では、第3および第4フィールドからなるフレームピクチャの走査フラグとしてのct_typeに、「飛び越し走査」がセットされる。
また、識別装置111では、第3および第4フィールドからなるフレームピクチャによって、第3フィールドと第4フィールドの2フィールドを表示する必要があるため、そのpic_structは、フレームピクチャのpic_structにセットされうる0,3乃至6(図7)のうちの3または4にセットされる(図14の上から2番目)。
この場合、第3および第4フィールドからなるフレームピクチャのpic_structに3または4がセットされているが、ct_typeに「飛び越し走査」がセットされているので、画像復号装置102では、図12のフローチャートで説明したように、第3および第4フィールドからなるフレームピクチャのトップフィールドとボトムフィールドのそれぞれをフィールド補間することによって2つのフレームピクチャが生成される。そして、その2つフレームピクチャが、それぞれ1回だけ、ディスプレイ103に出力されて表示される。
次に、図15は、飛び越し走査のピクチャでもあり、順次走査のピクチャでもあると重複判定された場合に、順次走査のピクチャであるという判定結果を優先させるときの画像符号化装置101と画像復号装置102の処理を説明する図である。
例えば、フレームレートが24Hzの映画フィルムのピクチャを2-3プルダウンすることによって得られる、フレームレートが30Hz(フィールドレートが60Hz)のNTSC方式のピクチャが、図15の上から1番目に示すように編集され、符号化対象として、画像符号化装置101に供給されたとする。
ここで、図13および図14と同様に、図15の上から1番目のNTSC方式のピクチャであるフィールドピクチャのうちの左からm番目を、第mフィールドという。
図15の上から1番目のNTSC方式のフィールドピクチャは、図14の上から1番目に示したフィールドピクチャと同一のものとなっており、従って、画像符号化装置101の2-3検出装置2(および識別装置111)では、第1フィールドおよび第2フィールドが、1フレームの順次走査のピクチャであると、第3フィールドおよび第4フォールドが、飛び越し走査のピクチャであると、第4乃至第6フィールドが、1フレームの順次走査のピクチャであると、それぞれ判定されている。即ち、第4フィールドが、飛び越し走査のピクチャでもあり、順次走査のピクチャでもあると重複判定されている。
図15の実施の形態では、重複判定された場合に、順次走査のピクチャであるという判定結果が優先され、結局、第1フィールドおよび第2フィールドが、1フレームの順次走査のピクチャであると、第3フィールドが、飛び越し走査のピクチャであると、第4乃至第6フィールドが、1フレームの順次走査のピクチャであると、それぞれ判定される。
画像符号化装置101では、順次走査のピクチャである第1フィールドおよび第2フィールドは、図15の上から2番目に示すように、1つのフレームピクチャとして符号化される。同様に、順次走査のピクチャである第4乃至第6フィールドも、図15の上から2番目に示すように、1つのフレームピクチャとして符号化される。
そして、画像符号化装置101の識別装置111では、第1フィールドおよび第2フィールドを1フレームとしたフレームピクチャと、第4乃至第6フィールドを1フレームとしたフレームピクチャの走査フラグとしてのct_typeに、いずれも、「順次走査」がセットされる。
また、識別装置111では、第1フィールドおよび第2フィールドを1フレームとしたフレームピクチャによって、第1フィールドと第2フィールドの2フィールドを表示する必要があるため、そのpic_structは、フレームピクチャのpic_structにセットされうる0,3乃至6(図7)のうちの3または4にセットされる。
さらに、識別装置111では、第4乃至第6フィールドを1フレームとしたフレームピクチャによって、第4乃至第6フィールドの3フィールドを表示する必要があるため、そのpic_structは、フレームピクチャのpic_structにセットされうる0,3乃至6(図7)のうちの5または6にセットされる。
一方、飛び越し走査のピクチャである第3フィールドは、フレームピクチャを構成する他のフィールドが存在しないため、図15の上から2番目に示すように、フィールドピクチャとして符号化される。
そして、画像符号化装置101の識別装置111では、第3フィールドのフィールドピクチャの走査フラグとしてのct_typeに、「飛び越し走査」がセットされる。
また、識別装置111では、第3フィールドのフィールドピクチャによって、第3フィールドの1フィールドを表示する必要があるため、そのpic_structは、フィールドピクチャのpic_structにセットされうる1または2(図7)にセットされる。
この場合、画像復号装置102では、図15の上から3番目に示すように、ピクチャが復号される。
即ち、第1フィールドおよび第2フィールドを1フレームとしたフレームピクチャについては、図14における場合と同様に、第1フィールドおよび第2フィールドを1フレームとした順次走査のフレームピクチャが、2回だけ繰り返し出力され、ディスプレイ103(図6)に表示される。
また、第3フィールドのフィールドピクチャについては、pic_structに1または2がセットされているので、画像復号装置102では、図12のフローチャートで説明したように、第3フィールドのフィールドピクチャをフィールド補間することによってフレームピクチャが生成される。そして、そのフレームピクチャが、1回だけ、ディスプレイ103に出力されて表示される。
そして、第4乃至第6フィールドを1フレームとしたフレームピクチャについては、pic_structに5または6がセットされているので、画像復号装置102では、第4乃至第6フィールドを1フレームとした順次走査のフレームピクチャが、5または6がセットされているpic_structに対応して3回だけ繰り返し出力され、ディスプレイ103(図6)に表示される。
次に、上述した実施の形態では、走査フラグとして、1がセットされたclock_timestamp_flag[0]の中のct_typeを使用することとしたが、その他、走査フラグとしては、例えば、H.264/AVCの規格に規定されているuser data SEIの中のユーザ定義された情報を使用することができる。
即ち、H.264/AVCでは、ユーザが任意に定義したシンタクスを挿入することができるuser data SEIと呼ばれるシンタクスが用意されている。user data SEIには、user data registered by ITU-T Recommendation T.35 SEIと、user data unregistered SEIと呼ばれる2種類のシンタクスが定義されている。図16に、user data registered by ITU-T Recommendation T.35 SEIのシンタクスを、図17に、user data unregistered SEIのシンタクスを、それぞれ示す。
ここで、H.264/AVCでは、user data registered by ITU-T Recommendation T.35 SEIについて、以下のように記述されている。
User data registered by ITU-T Recommendation T.35 SEI message semantics
This message contains user data registered as specified by ITU-T Recommendation T.35, the contents of which are not specified by this Recommendation | International Standard.
itu_t_t35_country_code shall be a byte having a value specified as a country code by ITU-T Recommendation T.35 Annex A.
itu_t_t35_country_code_extension_byte shall be a byte having a value specified as a country code by ITU-T Recommendation T.35 Annex B.
itu_t_t35_payload_byte shall be a byte containing data registered as specified by ITU-T Recommendation T.35.
The ITU-T T.35 terminal provider code and terminal provider oriented code shall be contained in the first one or more bytes of the itu_t_t35_payload_byte, in the format specified by the Administration that issued the terminal provider code. Any remaining itu_t_t35_payload_byte data shall be data having syntax and semantics as specified by the entity identified by the ITU-T T.35 country code and terminal provider code.
また、H.264/AVCでは、user data unregistered SEIについて、以下のように記述されている。
User data unregistered SEI message semantics
This message contains unregistered user data identified by a UUID, the contents of which are not specified by this Recommendation | International Standard.
UUID_iso_iec_11578 shall have a value specified as a UUID according to the procedures of ISO/IEC 11578:1996 Annex A.
user_data_payload_byte shall be a byte containing data having syntax and semantics as specified by the UUID generator.
図16に示したuser data registered by ITU-T Recommendation T.35 SEIには、そのitu_t_35_payload_byteのエレメントとして、ユーザ定義の情報を、ピクチャごとに挿入することができるので、そのユーザ定義の情報として、走査フラグを挿入することができる。なお、itu_t_35_payload_byteに走査フラグを挿入する場合には、ITU-T T.35に基づいた端末(プロバイダ)の登録が必要となる。
また、図17に示したuser data unregistered SEIには、そのuser_data_payload_byteのエレメントとして、ユーザ定義の情報を、ピクチャごとに挿入することができるので、そのユーザ定義の情報として、走査フラグを挿入することができる。なお、user_data_payload_byteに走査フラグを挿入する場合には、UUIDを指定し、user data SEIの識別を可能にするが必要がある。
図18は、itu_t_35_payload_byteまたはuser_data_payloadのエレメントとして、走査フラグを挿入する場合の、そのエレメントのシンタクスの例を示している。
図18において、scan_information()は、ユーザ定義の、itu_t_35_payload_byteまたはuser_data_payloadのエレメントであり、走査フラグとしての1ビットのprog_inter_flagと、予約(reserved)の15ビットのreserved_for_future_useとから構成される。走査フラグとしてのprog_inter_flagには、「順次走査」を表す値としての、例えば0か、または「飛び越し走査」を表す値としての、例えば1が、識別装置111においてセットされる。
なお、走査フラグとして使用するシンタクスは、上述したct_typeや、user data registered by ITU-T Recommendation T.35 SEI,user data unregistered SEIに限定されるものではない。さらに、画像符号化装置101では、走査フラグは、符号化データに埋め込む他、符号化データに付随する形式で、記録媒体104に記録し、あるいは、伝送媒体105を介して送信することができる。
ところで、図6の画像処理システムでは、画像符号化装置101において、フレームレートが24Hzの映画フィルムのピクチャを2-3プルダウンすることによって得られる、フレームレートが30Hz(フィールドレートが60Hz)のNTSC方式のピクチャを符号化対象として、符号化を行い、その結果得られる符号化データを、画像復号装置102で、60Hzの順次走査のピクチャに復号し、その60Hzの順次走査のピクチャを、60Hzの順次走査で表示を行うディスプレイ103で表示するようになっている。
画像符号化装置101において、24Hzの映画フィルムのピクチャを2-3プルダウンすることによって得られる30HzのNTSC方式のピクチャを符号化対象としたのは、現在、映画コンテンツについては、24Hzの映画フィルムのピクチャを2-3プルダウンすることによって得られる30HzのNTSC方式のピクチャが流通することが一般的であるためであるが、今後は、24Hzの映画フィルムのピクチャが、2-3プルダウンされることなく、そのまま流通することが予想される。
この場合、画像符号化装置101では、24Hzの映画フィルムのピクチャが入力され、そのピクチャを符号化対象として符号化が行われることになり、画像復号装置102では、画像符号化装置101において得られる符号化データが、24Hzの映画フィルムのピクチャに復号される。
一方、ディスプレイ103は、60Hzの順次走査で表示を行うから、画像復号装置102での復号により得られる24Hzの映画フィルムのピクチャは、そのままでは、ディスプレイ103に表示することができない。
また、H.264/AVCでは、映画フィルムのピクチャなどの24Hzの順次走査のピクチャを、60Hzの順次走査のディスプレイ103で表示する場合の、ピクチャの表示間隔を定める術がない。
そこで、図19は、24Hzの順次走査のピクチャを符号化対象として符号化、復号を行い、その復号によって得られる24Hzの順次走査のピクチャを、60Hzの順次走査で表示する画像処理システムの構成例を示している。
なお、図中、図6における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
画像符号化装置201には、例えば、24Hzの順次走査のピクチャが供給されるようになっており、画像符号化装置201は、例えば、基本的には、H.264/AVCの規格に準拠して、そこに供給される24Hzの順次走査のピクチャを符号化し、その結果得られる符号化データを出力する。
画像符号化装置201が出力する符号化データは、例えば、記録媒体104に供給されて記録され、あるいは、伝送媒体105を介して送信される。
画像復号装置202は、記録媒体104から再生され、あるいは伝送媒体105を介して送信されてくる符号化データを受信し、その符号化データを、例えば、基本的には、H.264/AVCの規格に準拠して、24Hzの順次走査のピクチャに復号する。さらに、画像復号装置202は、24Hzの順次走査のピクチャの、後段のディスプレイ103に対する出力回数を制御することで、60Hzの順次走査のピクチャを、ディスプレイ103に供給する。
これにより、60Hzの順次走査のディスプレイ103において、画像復号装置202から供給される60Hzの順次走査のピクチャが表示される。
次に、図20は、図19の画像符号化装置201の構成例を示している。なお、図中、図3または図9における場合と対応する部分については、同一の符号を付してある。
画像符号化装置201は、2-3検出装置2が設けられていない他は、基本的に、図3の画像符号化装置と同様に構成されている。そして、画像符号化装置201には、24Hzの順次走査のピクチャが供給されるようになっており、画像符号化装置201では、その24Hzの順次走査のピクチャが、図3における場合と同様にして符号化される。
次に、図21は、図19の画像復号装置202の構成例を示している。なお、図中、図4または図11における場合と対応する部分については、同一の符号を付してある。
画像復号装置202は、画面並べ替えバッファ28に代えて、図11の画面並べ替えバッファ121が設けられており、さらに、表示画像出力バッファ211および出力制御部212が新たに設けられている他は、基本的に、図4の画像復号装置と同様に構成されている。
表示画像出力バッファ211は、画面並べ替えバッファ121から供給されるピクチャを一時記憶する。ここで、図19の画像符号化装置201では、24Hzの順次走査のピクチャを符号化対象として符号化が行われる。従って、図21の画像復号装置202において、加算器25から画面並べ替えバッファ121に供給されて記憶されるのは、画像符号化装置201で符号化対象となった24Hzの順次走査のピクチャであり、表示画像出力バッファ211は、その24Hzの順次走査のピクチャを一時記憶する。
そして、表示画像出力バッファ211は、そこに記憶したピクチャを、出力制御部212の制御にしたがった回数だけ読み出し、D/A変換装置29を介してディスプレイ103(図19)に供給する。
即ち、出力制御部212は、加算器25から画面並べ替えバッファ121に供給される、復号されたピクチャのフレームレート、即ち、符号化対象のピクチャのフレームレートと、順次走査のディスプレイ103の表示レートとに応じて、表示画像出力バッファ211に記憶されたピクチャの出力回数(表示画像出力バッファ211からの読み出し回数)を制御する。
これにより、表示画像出力バッファ211からは、ディスプレイ103の表示レートに一致するフレームレートの順次走査のピクチャが出力され、D/A変換装置29を介してディスプレイ103に供給される。
ここで、符号化対象のピクチャのフレームレートのフレームレート情報は、例えば、画像符号化装置201において、符号化データに多重化されるようになっており、画像復号装置202の出力制御部212は、そのフレームレート情報から、符号化対象のピクチャのフレームレートを認識するようになっている。また、ディスプレイ103の表示レートの情報は、例えば、ディスプレイ103から出力制御部212に供給されるようになっている。
次に、図22を参照して、出力制御部212による表示画像出力バッファ211の制御について、さらに説明する。
上述したように、出力制御部212は、符号化対象のピクチャのフレームレートと、順次走査のディスプレイ103の表示レートとに応じて、表示画像出力バッファ211に記憶されたピクチャの出力回数を制御する。
即ち、ここでは、符号化対象のピクチャのフレームレートは24Hzであり、順次走査のディスプレイ103の表示レートは60Hzである。この場合、出力制御部212は、図22に示すように、表示画像出力バッファ211に記憶された24Hzのピクチャの、あるピクチャは2回繰り返し出力し、次のピクチャは3回繰り返し出力し、さらに、次のピクチャは2回繰り返し出力し、以下、同様に、2回繰り返しの出力と3回繰り返しの出力とを、交互に繰り返すように、表示画像出力バッファ211を制御する。これにより、表示画像出力バッファ211から読み出される順次走査のピクチャのフレームレートは、60Hzとなる。
なお、符号化対象のピクチャのフレームレートは24Hzでなくてもよく、また、順次走査のディスプレイ103の表示レートも60Hzでなくてもよい。
例えば、符号化対象のピクチャのフレームレートが24Hzであり、順次走査のディスプレイ103の表示レートが30Hzである場合、出力制御部212は、符号化対象のピクチャのフレームレートと、順次走査のディスプレイ103の表示レートとに応じて、表示画像出力バッファ211に記憶されたピクチャの出力回数を、例えば、図23に示すように制御する。
即ち、出力制御部212は、表示画像出力バッファ211に記憶された24Hzのピクチャの、連続する4つのピクチャごとに、1番目から3番目のピクチャは1回だけ出力し、4番目のピクチャは2回繰り返し出力することを繰り返すように、表示画像出力バッファ211を制御する。これにより、表示画像出力バッファ211から読み出される順次走査のピクチャのフレームレートは、30Hzとなる。
なお、図23では、連続する4つのピクチャのうちの、1番目から3番目のピクチャを1回だけ出力し、4番目のピクチャを2回繰り返し出力するようにしたが、ピクチャの出力パターンは、これに限定されるものではなく、要は、連続する4つのピクチャのうちの任意の3つのピクチャを1回だけ出力し、他の1つのピクチャを2回繰り返し出力するようにすればよい。
また、符号化対象のピクチャのフレームレートが24Hzであり、順次走査のディスプレイ103の表示レートが30Hzの整数倍である30×A[Hz]である場合には(Aは1以上の整数)、出力制御部212において、表示画像出力バッファ211に記憶された24Hzのピクチャの、連続する4つのピクチャごとに、その4つのピクチャのうちの任意の3つのピクチャをA回だけ出力し、他の1つのピクチャを2×A回繰り返し出力することを繰り返すように、表示画像出力バッファ211を制御することができる。これにより、表示画像出力バッファ211から読み出される順次走査のピクチャのフレームレートは、30×A[Hz]となる。
次に、上述した一連の処理は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
そこで、図24は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示している。
プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク305やROM303に予め記録しておくことができる。
あるいはまた、プログラムは、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto Optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体311に、一時的あるいは永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体311は、いわゆるパッケージソフトウエアとして提供することができる。
なお、プログラムは、上述したようなリムーバブル記録媒体311からコンピュータにインストールする他、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送し、コンピュータでは、そのようにして転送されてくるプログラムを、通信部308で受信し、内蔵するハードディスク305にインストールすることができる。
コンピュータは、CPU(Central Processing Unit)302を内蔵している。CPU302には、バス301を介して、入出力インタフェース310が接続されており、CPU302は、入出力インタフェース310を介して、ユーザによって、キーボードや、マウス、マイク等で構成される入力部307が操作等されることにより指令が入力されると、それにしたがって、ROM(Read Only Memory)303に格納されているプログラムを実行する。あるいは、また、CPU302は、ハードディスク305に格納されているプログラム、衛星若しくはネットワークから転送され、通信部308で受信されてハードディスク305にインストールされたプログラム、またはドライブ309に装着されたリムーバブル記録媒体311から読み出されてハードディスク305にインストールされたプログラムを、RAM(Random Access Memory)304にロードして実行する。これにより、CPU302は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU302は、その処理結果を、必要に応じて、例えば、入出力インタフェース310を介して、LCD(Liquid Crystal Display)やスピーカ等で構成される出力部306から出力、あるいは、通信部308から送信、さらには、ハードディスク305に記録等させる。
ここで、本明細書において、コンピュータに各種の処理を行わせるためのプログラムを記述する処理ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含むものである。
また、プログラムは、1のコンピュータにより処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
なお、本実施の形態では、符号化対象のピクチャとして、フレームレートが30Hz(フィールドレートが60Hz)のNTSC方式のピクチャや、24Hzの順次走査のピクチャを採用することとしたが、符号化対象のピクチャは、他のフレームレート(フィールドレート)のピクチャを採用することが可能である。
また、本実施の形態では、ディスプレイ103として、表示レートが30Hzや60Hzの順次走査のディスプレイを採用することとしたが、ディスプレイ103としては、他の表示レートのディスプレイを採用することが可能である。
さらに、本実施の形態では、基本的には、H.264/AVCに準拠した符号化と復号を行うようにしたが、本発明は、H.264/AVC以外の、例えば、MPEGやH.26x等のように、離散コサイン変換やカルーネン・レーベ変換等の直交変換と、動き補償とを利用して、画像の符号化/復号を行う装置その他に適用可能である。
また、図12では、pic_structの判定後に、走査フラグであるct_typeを判定するようにしたが、先に、ct_typeを判定し、その後、pic_structを判定するようにすることも可能である。
映画フィルムのピクチャと、NTSC方式のピクチャとを説明する図である。 2-3プルダウンを説明する図である。 従来の画像符号化装置の一例の構成を示すブロック図である。 従来の画像復号装置の一例の構成を示すブロック図である。 符号化対象のピクチャが、飛び越し走査のピクチャでもあり、順次走査のピクチャでもあると重複判定される場合を説明する図である。 本発明を適用した画像処理システムの一実施の形態の構成例を示すブロック図である。 H.264/AVCに規定されているpic_structのテーブルを示す図である。 H.264/AVCに規定されているct_typeのテーブルを示す図である。 画像符号化装置101の構成例を示すブロック図である。 画像符号化装置101の処理を説明するフローチャートである。 画像復号装置102の構成例を示すブロック図である。 画像復号装置102の処理を説明するフローチャートである。 画像符号化装置101と画像復号装置102の処理を説明するための図である。 画像符号化装置101と画像復号装置102の処理を説明するための図である。 画像符号化装置101と画像復号装置102の処理を説明するための図である。 H.264/AVCに規定されているuser data registered by ITU-T Recommendation T.35 SEIのシンタクスを示す図である。 H.264/AVCに規定されているuser data unregistered SEIのシンタクスを示す図である。 scan_information()のシンタクスを示す図である。 24Hzの順次走査のピクチャを符号化対象として符号化、復号を行い、60Hzの順次走査で表示を行う画像処理システムの構成例を示すブロック図である。 画像符号化装置201の構成例を示すブロック図である。 画像復号装置202の構成例を示すブロック図である。 出力制御部212による表示画像出力バッファ211の制御を説明するための図である。 出力制御部212による表示画像出力バッファ211の制御を説明するための図である。 本発明を適用したコンピュータの一実施の形態の構成例を示すブロック図である。
符号の説明
1 A/D変換装置, 2 2-3検出装置, 3 画面並べ替えバッファ, 4 加算器, 5 直交変換装置, 6 量子化装置, 7 可逆符号化装置, 8 蓄積バッファ, 9 逆量子化装置, 10 逆直交変換装置, 11 フレームメモリ, 12 動き予測/補償装置, 13 レート制御装置, 21 蓄積バッファ, 22 可逆復号装置, 23 逆量子化装置, 24 逆直交変換装置, 25 加算器, 26 フレームメモリ, 27 動き予測/補償装置, 29 D/A変換装置, 101 画像符号化装置, 102 画像復号装置, 103 ディスプレイ, 104 記録媒体, 105 伝送媒体, 111 pic_struct並びに飛び越し走査/順次走査識別装置, 121 画面並べ替えバッファ, 122 I/P変換装置, 123 表示画像出力バッファ, 124 画枠サイズ変換装置, 301 バス, 302 CPU, 303 ROM, 304 RAM, 305 ハードディスク, 306 出力部, 307 入力部, 308 通信部, 309 ドライブ, 310 入出力インタフェース, 311 リムーバブル記録媒体

Claims (9)

  1. 2-3プルダウンされた画像から得られるピクチャをH.264/AVCの規格にしたがって符号化した前記ピクチャの符号化結果と、前記ピクチャごとの走査方式を表す走査フラグ、および前記ピクチャごとの表示方式を指示するH.264/AVCの規格に規定されているpic_structとが多重化された符号化データを復号する復号手段と、
    前記ピクチャの前記走査フラグとpic_structとに基づき、そのピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかを認識する認識手段と、
    前記ピクチャが、飛び越し走査のピクチャであると認識された場合、そのピクチャをフィールド補間することにより、フレームピクチャを生成して出力し、前記ピクチャが、順次走査のピクチャであると認識された場合、そのピクチャを、フレームピクチャとして出力するフレームピクチャ出力手段と、
    前記フレームピクチャ出力手段において出力される前記フレームピクチャを、前記pic_structに対応した回数だけ繰り返し出力する繰り返し出力手段と
    を備え、
    前記認識手段は、
    前記ピクチャのpic_structが、前記ピクチャによって、トップフィールドまたはボトムフィールドを表示することを指示する1または2である場合、前記ピクチャが、飛び越し走査のピクチャであると認識し、
    前記ピクチャのpic_structが、前記ピクチャによって、フレームを表示することを指示する0、トップフィールド、ボトムフィールド、トップフィールをその順で表示することを指示する5、またはボトムフィールド、トップフィールド、ボトムフィールドをその順で表示することを指示する6である場合、前記ピクチャが、順次走査のピクチャであると認識し、
    前記ピクチャのpic_structが、前記ピクチャによって、トップフィールドを表示してボトムフィールドを表示することを指示する3、またはボトムフィールドを表示してトップフィールドを表示することを指示する4である場合、前記走査フラグに基づき、前記ピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかを認識する
    復号装置。
  2. 前記走査フラグは、H.264/AVCの規格に規定されているct_typeである
    請求項1に記載の復号装置。
  3. 前記走査フラグは、H.264/AVCの規格に規定されているclock_timestamp_flag[0]の中のct_typeである
    請求項2に記載の復号装置。
  4. 前記走査フラグは、H.264/AVCの規格に規定されている、1がセットされたclock_timestamp_flag[0]の中のct_typeである
    請求項2に記載の復号装置。
  5. 前記走査フラグは、H.264/AVCの規格に規定されているuser data SEIの中のユーザ定義された情報である
    請求項1に記載の復号装置。
  6. 前記繰り返し出力手段は、
    前記pic_structが0である場合、前記フレームピクチャを、1回だけ読み出し、
    前記pic_structが5または6である場合、前記フレームピクチャを、3回だけ繰り返し読み出し、
    前記pic_structが1または2である場合、前記フレームピクチャを、1回だけ読み出し、
    前記pic_structが3または4である場合、前記フレームピクチャを、2回だけ繰り返し読み出す
    請求項1に記載の復号装置。
  7. 2-3プルダウンされた画像から得られるピクチャをH.264/AVCの規格にしたがって符号化した前記ピクチャの符号化結果と、前記ピクチャごとの走査方式を表す走査フラグ、および前記ピクチャごとの表示方式を指示するH.264/AVCの規格に規定されているpic_structとが多重化された符号化データを復号する復号ステップと、
    前記ピクチャの前記走査フラグとpic_structとに基づき、そのピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかを認識する認識ステップと、
    前記ピクチャが、飛び越し走査のピクチャであると認識された場合、そのピクチャをフィールド補間することにより、フレームピクチャを生成して出力し、前記ピクチャが、順次走査のピクチャであると認識された場合、そのピクチャを、フレームピクチャとして出力するフレームピクチャ出力ステップと、
    前記フレームピクチャ出力ステップにおいて出力される前記フレームピクチャを、前記pic_structに対応した回数だけ繰り返し出力する繰り返し出力ステップと
    を備え、
    前記認識ステップは、
    前記ピクチャのpic_structが、前記ピクチャによって、トップフィールドまたはボトムフィールドを表示することを指示する1または2である場合、前記ピクチャが、飛び越し走査のピクチャであると認識し、
    前記ピクチャのpic_structが、前記ピクチャによって、フレームを表示することを指示する0、トップフィールド、ボトムフィールド、トップフィールをその順で表示することを指示する5、またはボトムフィールド、トップフィールド、ボトムフィールドをその順で表示することを指示する6である場合、前記ピクチャが、順次走査のピクチャであると認識し、
    前記ピクチャのpic_structが、前記ピクチャによって、トップフィールドを表示してボトムフィールドを表示することを指示する3、またはボトムフィールドを表示してトップフィールドを表示することを指示する4である場合、前記走査フラグに基づき、前記ピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかを認識する
    復号方法。
  8. 2-3プルダウンされた画像から得られるピクチャをH.264/AVCの規格にしたがって符号化した前記ピクチャの符号化結果と、前記ピクチャごとの走査方式を表す走査フラグ、および前記ピクチャごとの表示方式を指示するH.264/AVCの規格に規定されているpic_structとが多重化された符号化データを復号する復号手段と、
    前記ピクチャの前記走査フラグとpic_structとに基づき、そのピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかを認識する認識手段と、
    前記ピクチャが、飛び越し走査のピクチャであると認識された場合、そのピクチャをフィールド補間することにより、フレームピクチャを生成して出力し、前記ピクチャが、順次走査のピクチャであると認識された場合、そのピクチャを、フレームピクチャとして出力するフレームピクチャ出力手段と、
    前記フレームピクチャ出力手段において出力される前記フレームピクチャを、前記pic_structに対応した回数だけ繰り返し出力する繰り返し出力手段と
    して、コンピュータを機能させるためのプログラムであり、
    前記認識手段は、
    前記ピクチャのpic_structが、前記ピクチャによって、トップフィールドまたはボトムフィールドを表示することを指示する1または2である場合、前記ピクチャが、飛び越し走査のピクチャであると認識し、
    前記ピクチャのpic_structが、前記ピクチャによって、フレームを表示することを指示する0、トップフィールド、ボトムフィールド、トップフィールをその順で表示することを指示する5、またはボトムフィールド、トップフィールド、ボトムフィールドをその順で表示することを指示する6である場合、前記ピクチャが、順次走査のピクチャであると認識し、
    前記ピクチャのpic_structが、前記ピクチャによって、トップフィールドを表示してボトムフィールドを表示することを指示する3、またはボトムフィールドを表示してトップフィールドを表示することを指示する4である場合、前記走査フラグに基づき、前記ピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかを認識する
    プログラム。
  9. 2-3プルダウンされた画像から得られるピクチャをH.264/AVCの規格にしたがって符号化した前記ピクチャの符号化結果と、前記ピクチャごとの走査方式を表す走査フラグ、および前記ピクチャごとの表示方式を指示するH.264/AVCの規格に規定されているpic_structとが多重化された符号化データを復号する復号手段と、
    前記ピクチャの前記走査フラグとpic_structとに基づき、そのピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかを認識する認識手段と、
    前記ピクチャが、飛び越し走査のピクチャであると認識された場合、そのピクチャをフィールド補間することにより、フレームピクチャを生成して出力し、前記ピクチャが、順次走査のピクチャであると認識された場合、そのピクチャを、フレームピクチャとして出力するフレームピクチャ出力手段と、
    前記フレームピクチャ出力手段において出力される前記フレームピクチャを、前記pic_structに対応した回数だけ繰り返し出力する繰り返し出力手段と
    して、コンピュータを機能させるためのプログラムであり、
    前記認識手段は、
    前記ピクチャのpic_structが、前記ピクチャによって、トップフィールドまたはボトムフィールドを表示することを指示する1または2である場合、前記ピクチャが、飛び越し走査のピクチャであると認識し、
    前記ピクチャのpic_structが、前記ピクチャによって、フレームを表示することを指示する0、トップフィールド、ボトムフィールド、トップフィールをその順で表示することを指示する5、またはボトムフィールド、トップフィールド、ボトムフィールドをその順で表示することを指示する6である場合、前記ピクチャが、順次走査のピクチャであると認識し、
    前記ピクチャのpic_structが、前記ピクチャによって、トップフィールドを表示してボトムフィールドを表示することを指示する3、またはボトムフィールドを表示してトップフィールドを表示することを指示する4である場合、前記走査フラグに基づき、前記ピクチャが、飛び越し走査または順次走査のうちのいずれのピクチャであるかを認識する
    プログラムが記録されているプログラム記録媒体。
JP2004172430A 2004-06-10 2004-06-10 復号装置および復号方法、並びに、プログラムおよびプログラム記録媒体 Expired - Fee Related JP4931034B2 (ja)

Priority Applications (14)

Application Number Priority Date Filing Date Title
JP2004172430A JP4931034B2 (ja) 2004-06-10 2004-06-10 復号装置および復号方法、並びに、プログラムおよびプログラム記録媒体
RU2006143643A RU2335857C2 (ru) 2004-06-10 2005-06-03 Устройство кодирования, способ кодирования, устройство декодирования, способ декодирования, программа, носитель записи программы, носитель записи данных, структура данных и устройство воспроизведения
CA 2569022 CA2569022A1 (en) 2004-06-10 2005-06-03 Apparatus and method for encoding or decoding interlace or progressive scanned picture
EP05750895A EP1758399A4 (en) 2004-06-10 2005-06-03 CODING DEVICE, CODING METHOD, DEODICATION DEVICE, DECODING METHOD, PROGRAM, PROGRAMMING MEDIUM, DATA RECORDING MEDIUM, DATA STRUCTURE, AND PLAYBACK DEVICE
PCT/JP2005/010634 WO2005122584A1 (ja) 2004-06-10 2005-06-03 符号化装置および符号化方法、復号装置および復号方法、プログラムおよびプログラム記録媒体、データ記録媒体およびデータ構造、並びに再生装置
NZ551513A NZ551513A (en) 2004-06-10 2005-06-03 Encoder apparatus, encoding method, decoder apparatus, decoding method, program, program recording medium, data recording medium, data structure, and playback apparatus
AU2005253425A AU2005253425B8 (en) 2004-06-10 2005-06-03 Encoding Apparatus, Encoding Method, Decoding Apparatus, Decoding Method, Program, Program Recording Medium, Data Recording Medium, Data Structure, and Reproducing Apparatus
US11/570,141 US20080019438A1 (en) 2004-06-10 2005-06-03 Encoder Apparatus, Encoding Method, Decoder Apparatus, Decoding Method, Program, Program Recording Medium, Data Recording Medium, Data Structure, and Playback Apparatus
MXPA06013875A MXPA06013875A (es) 2004-06-10 2005-06-03 Aparato codificador, metodo de codificacion, aparato descodificador, metodo de descodificacion, programa, medio de grabacion de programa. medio de grabacion de datos, estructura de datos, y aparato de reproduccion.
BRPI0511670-8A BRPI0511670A (pt) 2004-06-10 2005-06-03 aparelhos de codificação, de decodificação e de reprodução, métodos de codificação para codificar uma imagem, e de decodificação para decodificar dados codificados de uma imagem, programa, meios de gravação de programa, e de dados, e, estrutura de dados
CN200580019053A CN100586177C (zh) 2004-06-10 2005-06-03 编码装置,编码方法,解码装置,解码方法
TW94118932A TWI277348B (en) 2004-06-10 2005-06-08 Encoder apparatus, encoding method, decoder apparatus, decoding method, program, program recording medium, data recording medium, data structure, and regenerating apparatus
MYPI20052622 MY144601A (en) 2004-06-10 2005-06-09 Encoding apparatus, encoding method, decoding apparatus, decoding method, program, program recording medium, data recording medium, data structure, and reproducing apparatus
IL179242A IL179242A (en) 2004-06-10 2006-11-13 Encoding apparatus, encoding method, decoding apparatus, decoding method, program, program recording medium, data recording medium, data structure and reproducing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004172430A JP4931034B2 (ja) 2004-06-10 2004-06-10 復号装置および復号方法、並びに、プログラムおよびプログラム記録媒体

Publications (2)

Publication Number Publication Date
JP2005354361A JP2005354361A (ja) 2005-12-22
JP4931034B2 true JP4931034B2 (ja) 2012-05-16

Family

ID=35503516

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004172430A Expired - Fee Related JP4931034B2 (ja) 2004-06-10 2004-06-10 復号装置および復号方法、並びに、プログラムおよびプログラム記録媒体

Country Status (14)

Country Link
US (1) US20080019438A1 (ja)
EP (1) EP1758399A4 (ja)
JP (1) JP4931034B2 (ja)
CN (1) CN100586177C (ja)
AU (1) AU2005253425B8 (ja)
BR (1) BRPI0511670A (ja)
CA (1) CA2569022A1 (ja)
IL (1) IL179242A (ja)
MX (1) MXPA06013875A (ja)
MY (1) MY144601A (ja)
NZ (1) NZ551513A (ja)
RU (1) RU2335857C2 (ja)
TW (1) TWI277348B (ja)
WO (1) WO2005122584A1 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080317120A1 (en) * 2007-06-25 2008-12-25 David Drezner Method and System for MPEG2 Progressive/Interlace Type Detection
US20090167854A1 (en) * 2007-12-26 2009-07-02 Crs Electronic Co., Ltd. Apparatus For Converting Film Images Into Digital Data
JP2009213629A (ja) * 2008-03-10 2009-09-24 Fujinon Corp 撮像システム及び内視鏡システム
WO2011048764A1 (ja) * 2009-10-19 2011-04-28 パナソニック株式会社 復号装置、復号方法、プログラム、及び集積回路
US9049452B2 (en) * 2011-01-25 2015-06-02 Mediatek Singapore Pte. Ltd. Method and apparatus for compressing coding unit in high efficiency video coding
WO2012147966A1 (ja) * 2011-04-27 2012-11-01 シャープ株式会社 画像復号装置、画像符号化装置、および符号化データのデータ構造
KR102491736B1 (ko) 2011-06-15 2023-01-26 파나소닉 인텔렉츄얼 프로퍼티 코포레이션 오브 아메리카 복호 방법 및 장치와, 부호화 방법 및 장치
WO2012172811A1 (ja) 2011-06-17 2012-12-20 パナソニック株式会社 動画像復号化装置および動画像復号化方法
US8620097B2 (en) 2011-08-11 2013-12-31 Panasonic Corporation Image coding method, image decoding method, image coding apparatus, image decoding apparatus, and image coding and decoding apparatus
BR112014017915B1 (pt) 2012-01-20 2021-03-16 Ge Video Compression, Llc conceito de codificação que permite o processamento parelelo, desmultiplexador de transporte e fluxo de bites de vídeo
US20140092992A1 (en) * 2012-09-30 2014-04-03 Microsoft Corporation Supplemental enhancement information including confidence level and mixed content information
KR101683409B1 (ko) * 2012-10-10 2016-12-06 지티이 코포레이션 미디어 전송 및 저장을 위한 비디오 주사 포맷의 캡슐화
CN104718747B (zh) * 2012-10-10 2019-06-18 中兴通讯股份有限公司 用于媒体传输和存储的视频扫描格式信息的封装
WO2014084108A1 (ja) * 2012-11-30 2014-06-05 ソニー株式会社 画像処理装置および方法
EP2854405A1 (en) 2013-09-26 2015-04-01 Thomson Licensing Method and apparatus for encoding and decoding a motion vector representation in interlaced video using progressive video coding tools
EP3249912A4 (en) * 2015-01-23 2018-10-24 LG Electronics Inc. Method and device for transmitting and receiving broadcast signal for restoring pulled-down signal
TWI744292B (zh) * 2016-03-24 2021-11-01 日商新力股份有限公司 送訊裝置、送訊方法、收訊裝置及收訊方法
GB2553785A (en) * 2016-09-13 2018-03-21 Sony Corp A decoder, encoder, computer program and method
US20240015332A1 (en) * 2022-07-08 2024-01-11 Qualcomm Incorporated Supplemental enhancement information (sei) manifest indication

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US294217A (en) * 1884-02-26 Albeet a
US306471A (en) * 1884-10-14 Or faucet
US307690A (en) * 1884-11-04 Assigxoe of one
JP2977104B2 (ja) * 1991-07-26 1999-11-10 ソニー株式会社 動画像データエンコード方法および装置、並びに動画像データデコード方法および装置
JP3531186B2 (ja) * 1992-09-18 2004-05-24 ソニー株式会社 ビデオ信号符号化方法及び装置
US5491516A (en) * 1993-01-14 1996-02-13 Rca Thomson Licensing Corporation Field elimination apparatus for a video compression/decompression system
EP0633693B1 (en) * 1993-07-01 2001-04-11 Matsushita Electric Industrial Co., Ltd. Flagged video signal recording apparatus and reproducing apparatus
JP3284080B2 (ja) * 1997-05-16 2002-05-20 株式会社東芝 コンピュータシステムおよびそのシステムで用いられるビデオデコーダ
US6441813B1 (en) * 1997-05-16 2002-08-27 Kabushiki Kaisha Toshiba Computer system, and video decoder used in the system
JPH11133935A (ja) * 1997-10-30 1999-05-21 Toshiba Corp 表示制御装置および動画像復号化装置
RU2137231C1 (ru) * 1997-12-19 1999-09-10 Таланов Борис Петрович Способ захоронения ядерного вещества
US7269342B1 (en) * 1998-12-22 2007-09-11 Matsushita Electric Industrial Co., Ltd. Video signal reproducing device
JP3804745B2 (ja) * 1999-08-20 2006-08-02 Kddi株式会社 フレーム構造/フィールド構造切替式画像符号化装置
JP3694888B2 (ja) * 1999-12-03 2005-09-14 ソニー株式会社 復号装置および方法、符号化装置および方法、情報処理装置および方法、並びに記録媒体
JP2002135731A (ja) * 2000-10-24 2002-05-10 Matsushita Electric Ind Co Ltd 映像情報変換装置及び映像情報変換方法
WO2003063464A2 (en) * 2002-01-22 2003-07-31 Broadcom Corporation System and method of transmission and reception of video using compressed differential time stamps
JP2003299036A (ja) * 2002-04-05 2003-10-17 Matsushita Electric Ind Co Ltd 映像復号装置、映像復号方法、プログラム、および媒体

Also Published As

Publication number Publication date
EP1758399A1 (en) 2007-02-28
CA2569022A1 (en) 2005-12-22
RU2006143643A (ru) 2008-06-20
WO2005122584A1 (ja) 2005-12-22
BRPI0511670A (pt) 2008-01-02
TW200601849A (en) 2006-01-01
CN100586177C (zh) 2010-01-27
AU2005253425B8 (en) 2010-05-27
MXPA06013875A (es) 2007-03-07
US20080019438A1 (en) 2008-01-24
NZ551513A (en) 2009-10-30
AU2005253425A1 (en) 2005-12-22
TWI277348B (en) 2007-03-21
JP2005354361A (ja) 2005-12-22
CN1965581A (zh) 2007-05-16
IL179242A (en) 2012-07-31
MY144601A (en) 2011-10-14
IL179242A0 (en) 2007-03-08
EP1758399A4 (en) 2012-05-02
AU2005253425B2 (en) 2010-02-04
RU2335857C2 (ru) 2008-10-10

Similar Documents

Publication Publication Date Title
JP4931034B2 (ja) 復号装置および復号方法、並びに、プログラムおよびプログラム記録媒体
JP5223769B2 (ja) 復号装置および方法、プログラム、並びに記録媒体
KR100301826B1 (ko) 비디오디코더
KR20010022752A (ko) 디지털 비디오 레코더용 트릭 플레이 신호 발생
KR950035446A (ko) 비디오 데이타를 가지는 비트 스트림의 트랜스코딩 방법 및 장치
KR20150052029A (ko) 송신 장치, 송신 방법, 수신 장치 및 수신 방법
US7424203B2 (en) Data reproduction transmission apparatus and data reproduction transmission method
US7369612B2 (en) Video decoder and method for using the same
JPH09200695A (ja) 高速再生のためのビデオデータの復号化方法及びその装置
JP3852366B2 (ja) 符号化装置および方法、復号装置および方法、並びにプログラム
KR101154743B1 (ko) 부호화 장치 및 부호화 방법, 복호 장치 및 복호 방법, 기록 매체, 및 재생 장치
JP2000244872A (ja) トランスコーダ装置
JPH10276437A (ja) 階層的動画像信号符号化/復号化方法及び装置
KR100394013B1 (ko) 비디오 스냅 영상용 변환 부호화 장치
JP4320509B2 (ja) 映像再符号化装置および方法
US7023491B2 (en) Method and device for displaying frozen pictures on video display device
JP3962053B2 (ja) 動画像再符号化装置
JP4184223B2 (ja) トランスコーダ
JPH08149464A (ja) フレームレート変換機能付き画像復号装置
JP2003299036A (ja) 映像復号装置、映像復号方法、プログラム、および媒体
HK1108539A (en) Encoder apparatus, encoding method, decoder apparatus, decoding method, program, program recording medium, data recording medium, data structure, and playback apparatus
JPH10290453A (ja) 映像伝送方法および装置
EP1398960A1 (en) Method and device for displaying frozen pictures on video display device
JP2000197045A (ja) デジタル放送再生システム
JP2006109513A (ja) 符号化装置および方法、並びに記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070601

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101116

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20101126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110107

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20110107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120209

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120209

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150224

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees