JP2013030907A - 符号化装置および符号化方法、並びに、復号装置および復号方法 - Google Patents

符号化装置および符号化方法、並びに、復号装置および復号方法 Download PDF

Info

Publication number
JP2013030907A
JP2013030907A JP2011164422A JP2011164422A JP2013030907A JP 2013030907 A JP2013030907 A JP 2013030907A JP 2011164422 A JP2011164422 A JP 2011164422A JP 2011164422 A JP2011164422 A JP 2011164422A JP 2013030907 A JP2013030907 A JP 2013030907A
Authority
JP
Japan
Prior art keywords
image
base
frame rate
display control
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Abandoned
Application number
JP2011164422A
Other languages
English (en)
Inventor
Shoji Ichiki
祥二 市木
Ikuo Tsukagoshi
郁夫 塚越
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2011164422A priority Critical patent/JP2013030907A/ja
Priority to US14/233,175 priority patent/US20140168366A1/en
Priority to KR20147000873A priority patent/KR20140057242A/ko
Priority to PCT/JP2012/067716 priority patent/WO2013015116A1/ja
Priority to CN201280035866.5A priority patent/CN103688546A/zh
Priority to EP12816829.1A priority patent/EP2739054A1/en
Publication of JP2013030907A publication Critical patent/JP2013030907A/ja
Abandoned legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/139Format conversion, e.g. of frame-rate or size
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194Transmission of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/398Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/31Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the temporal domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence

Abstract

【課題】高フレームレートの画像を、既存の低フレームレートの画像の方式と互換性を有する方式で符号化や復号することができるようにする。
【解決手段】ベースエンコーダは、高フレームレートデータのうちの既存フレームレートの画像データをベースビューとして符号化する。ノンベースエンコーダは、高フレームレートデータのうちのベースビュー以外の画像データをノンベースビューとして、ベースビューを参照して符号化する。SEI生成部は、表示制御情報を生成する。アンテナは、符号化されたベースビューと、符号化されたノンベースビューと、表示制御情報とを伝送する。本技術は、例えば、TV放送を送信するTV送信機に適用することができる。
【選択図】図4

Description

本技術は、符号化装置および符号化方法、並びに、復号装置および復号方法に関し、特に、高フレームレートの画像を、既存の低フレームレートの画像の方式と互換性を有する方式で符号化や復号することができるようにした符号化装置および符号化方法、並びに、復号装置および復号方法に関する。
各国においてデジタル放送が広まってきており、デジタル放送において高フレームレート画像や3D画像などを扱う次世代技術を導入することが盛んになってきている。例えば、欧州では、通常の2倍のフレームレートである50p/60pの1920×1080画素からなる画像(以下、50p/60p画像という)の放送が早い段階で規格化されている。
図1は、この規格によって実現されるTV(Television)送受信システムの一例を示すブロック図である。
図1のTV送受信システム10は、カメラ11、TV送信機12、およびTV受信機13により構成される。
TV送受信システム10のカメラ11は、例えば、50p/60p画像を撮像し、その結果得られる50p/60p画像の画像データ(50p/60p raw data)をTV送信機12に供給する。
TV送信機12は、エンコーダ12Aを有する。エンコーダ12Aは、カメラ11から供給される50p/60p画像の画像データを符号化する。TV送信機12は、その結果得られる50p/60p画像の符号化データを含むビットストリーム(50p/60p stream)を、電波を用いて送信する。
TV受信機13は、デコーダ13Aを有する。TV受信機13は、TV送信機12から電波を用いて送信されてくる50p/60p画像のビットストリームを受信する。デコーダ13Aは、50p/60p画像のビットストリームに含まれる符号化データを、AVC方式に対応する方式で復号し、50p/60p画像の画像データを得る。TV受信機13は、その50p/60p画像の画像データに基づいて、50p/60p画像(50p/60p view)を表示する。
以上のようなTV送受信システム10は、50p/60p画像を符号化し、復号するため、MPEG4(Moving Picture Experts Group phase 4)/AVC(Advanced Video Coding)方式のレベル4.2等で符号化および復号を行う。
しかしながら、これまでの放送規格においては、MPEG4/AVC方式のレベル4.0が符号化方式の上限として決められているため、既存のTV受信機の復号能力は、MPEG4/AVC方式のレベル4.0以下である場合が多い。従って、既存のTV受信機では、50i/60iまたは25p/30pの1920×1080画素からなる画像以上のスペックの画像を復号することは困難である。その結果、既存のTV受信機が50p/60p画像の放送を受信する場合、表示画像が乱れたり、表示すべき画像がスキップされたり、画像が表示されなかったりする。
そこで、以下のようにして、既存の放送と互換性を有する50p/60p画像の放送を行うことが考えられる。即ち、TV送信機が、50p/60p画像をMEPG4/AVCの拡張規格であるSVC(Scalable Video Coding)で符号化して送信し、既存のTV受信機は、50p/60p画像のうちの、50i/60iまたは25p/30pの1920×1080画素からなる画像のみを復号して表示することが考えられる。しかしながら、SVC方式の技術を導入しているTV送受信システムは少ない現状があり、50p/60p画像の放送との互換性のためだけにTV送受信システムにSVC方式の技術を導入することは、コストアップに繋がる。
また、1つの放送帯域で50p/60p画像の放送と、50i/60i画像または25p/30p画像の放送の両方を同時に送信するサイマル放送を行うことも考えられる。しかしながら、この場合、1つの放送帯域で2本の放送を伝送する必要があるため、各放送のビットレートを落とす必要がある。その結果、放送帯域の狭い地上波放送では、特に各放送の画質が劣化する。また、50p/60p画像の放送に対応していない既存のTV受信機であっても、サイマル放送の各放送を視聴することができるため、視聴者は、50p/60p画像の放送の破綻した画像を視聴し、混乱する可能性がある。
以上により、50p/60p画像の放送は実際にはまだ始められない状況である。
また、欧州では、サイドバイサイド方式で多重化され、MPEG4/AVC方式で符号化されたHalf-HD(High Definition)の3D画像の放送が規格化されている。このような3D画像の放送を行うシステムは、例えば、特許文献1に記載されている。なお、サイドバイサイド方式とは、画面内の左右に水平方向の解像度が半分にされた左眼用の画像と右目用の画像をそれぞれ配置する方式である。
さらに、近年、欧州では、Full-HDの3D画像の放送の規格化の検討が始まりつつある。
Full-HDの3D画像の放送を実現する方法としては、3D-BD(Blu-Ray(登録商標) Disc )においても使用されているMVC(Multiview Video Coding)方式を符号化方式として用いる方法が考えられている。この方法が用いられた場合、Full-HDの3D画像の放送に対応するTV受信機では、MVC方式に対応する方式で復号可能なデコーダが用意される。なお、MVC方式は、MPEG4/AVC方式の拡張規格であり、MVC方式では、50p/60p画像を扱うことができる。
また、ビデオカメラ等においても、パーソナルコンテンツとしてMVC方式で符号化されたFull-HDの3D画像を記録することが考えられており、その3D画像をTV受信機で再生するユースケースが想定される。
以上により、今後、TV受信機には、MVC方式に対応する方式で復号可能なデコーダが用意される可能性が高い。
なお、Full-HDの3D画像の放送を実現する方法としては、左眼用の画像を奇数フィールドとし、右眼用の画像を偶数フィールドとして符号化する方法もある(例えば、特許文献2参照)。
特開2011−109397号公報 特開平7−123447号公報
上述したように、既存のTV受信機が50p/60p画像の放送を受信する場合、表示画像が乱れたり、表示すべき画像がスキップされたり、画像が表示されなかったりする。
従って、50p/60p画像の放送を既存の放送の方式と互換性を有する方式で符号化することにより、既存の放送と互換性を有する50p/60p画像の放送を実現することが求められている。即ち、高フレームレートの画像を、既存の低フレームレートの画像の方式と互換性を有する方式で符号化や復号することが求められている。
本技術は、このような状況に鑑みてなされたものであり、高フレームレートの画像を、既存の低フレームレートの画像の方式と互換性を有する方式で符号化や復号することができるようにするものである。
本技術の第1の側面の符号化装置は、所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像をベース画像として符号化し、前記所定のフレームレートのN倍のフレームレートの画像のうちの前記ベース画像以外の画像をノンベース画像として、前記ベース画像を参照して符号化する符号化部と、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報を生成する生成部と、前記符号化部により符号化された前記ベース画像および前記ノンベース画像と、前記生成部により生成された前記表示制御情報とを伝送する伝送部とを備える符号化装置である。
本技術の第1の側面の符号化方法は、本技術の第1の側面の符号化装置に対応する。
本技術の第1の側面においては、所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像がベース画像として符号化され、前記所定のフレームレートのN倍のフレームレートの画像のうちの前記ベース画像以外の画像がノンベース画像として、前記ベース画像を参照して符号化され、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報が生成され、符号化された前記ベース画像および前記ノンベース画像と、前記表示制御情報とが伝送される。
本技術の第2の側面の復号装置は、所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像がベース画像として符号化された結果得られるベース符号化データと、前記ベース画像以外の画像がノンベース画像として前記ベース画像を参照して符号化された結果得られるノンベース符号化データと、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報とを受信する受信部と、前記受信部により受信された前記ベース符号化データを復号し、前記受信部により受信された前記ノンベース符号化データのうちの少なくとも一部を、前記ベース符号化データの復号の結果得られる前記ベース画像を参照して復号する復号部と、前記復号部による復号の結果得られる前記ベース画像および前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM倍のフレームレートの画像として表示させる表示制御部とを備え、前記受信部により受信された前記表示制御情報は、前記復号部による前記ノンベース符号化データの復号、または、前記表示制御部による表示制御の少なくとも一方に用いられる復号装置である。
本技術の第2の側面の復号方法は、本技術の第2の側面の復号装置に対応する。
本技術の第2の側面においては、所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像がベース画像として符号化された結果得られるベース符号化データと、前記ベース画像以外の画像がノンベース画像として前記ベース画像を参照して符号化された結果得られるノンベース符号化データと、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報とが受信され、受信された前記ベース符号化データが復号され、受信された前記ノンベース符号化データのうちの少なくとも一部が、前記ベース符号化データの復号の結果得られる前記ベース画像を参照して復号され、復号の結果得られる前記ベース画像および前記ノンベース画像の少なくとも一部が、前記所定のフレームレートのM倍のフレームレートの画像として表示される。なお、受信された前記表示制御情報は、前記ノンベース符号化データの復号、または、表示制御の少なくとも一方に用いられる。
本技術の第3の側面の復号装置は、所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像がベース画像として符号化された結果得られるベース符号化データと、前記ベース画像以外の画像がノンベース画像として前記ベース画像を参照して符号化された結果得られるノンベース符号化データと、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報とを受信する受信部と、前記受信部により受信された前記ベース符号化データを復号する復号部と、前記復号部による復号の結果得られる前記ベース画像を、前記所定のフレームレートの画像として表示させる表示制御部とを備える復号装置である。
本技術の第3の側面の復号方法は、本技術の第3の側面の復号装置に対応する。
本技術の第3の側面においては、所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像がベース画像として符号化された結果得られるベース符号化データと、前記ベース画像以外の画像がノンベース画像として前記ベース画像を参照して符号化された結果得られるノンベース符号化データと、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報とが受信され、受信された前記ベース符号化データが復号され、復号の結果得られる前記ベース画像が、前記所定のフレームレートの画像として表示される。
本技術の第1の側面によれば、高フレームレートの画像を、既存の低フレームレートの画像の方式と互換性を有する方式で符号化することができる。
また、本技術の第2の側面によれば、既存の低フレームレートの画像の方式と互換性を有する方式で符号化された高フレームレートの画像を復号することができる。
さらに、本技術の第3の側面によれば、既存の低フレームレートの画像の方式と互換性を有する方式で符号化された高フレームレートの画像のうちの低フレームレートの画像を復号することができる。
TV送受信システムの一例を示すブロック図である。 Full-HDの3D画像の放送を送受信するTV送受信システムの例を示すブロック図である。 本技術を適用したTV送受信システムの一実施の形態の概要を説明する図である。 図3のTV送信機の詳細構成例を示す図である。 表示制御情報のSEIの記述例を示す図である。 フォーマット変換タイプの例を示す図である。 補間AUフラグの例を示す図である。 ベースビュー非表示フラグの例を示す図である。 ベースビュー符号化単位フラグの例を示す図である。 表示制御情報フラグの記述例を示す図である。 図4のTV送信機の送信処理を説明するフローチャートである。 図3のTV受信機の詳細構成例を示すブロック図である。 図3のTV受信機の詳細構成例を示すブロック図である。 TV受信機の処理を説明する図である。 TV受信機の処理を説明する図である。 TV受信機の処理を説明する図である。 TV受信機の処理を説明する図である。 TV受信機53の受信処理を説明するフローチャートである。 図18の4倍処理の詳細を説明するフローチャートである。 図18の2倍インターレース処理の詳細を説明するフローチャートである。 TV受信機54の受信処理を説明するフローチャートである。 コンピュータの一実施の形態の構成例を示す図である。
[本技術の前提]
図2は、Full-HDの3D画像の放送を送受信するTV送受信システムの例を示すブロック図である。
図2のTV送受信システム30は、カメラ31Aおよび31B、TV送信機32、並びにTV受信機33により構成される。
カメラ31Aは、3D画像のうちの左眼用の画像を撮像し、その結果得られる左眼用の画像データをTV送信機32に供給する。また、カメラ31Bは、3D画像のうちの右眼用の画像を撮像し、その結果得られる右眼用の画像データをTV送信機32に供給する。
TV送信機32は、ベースエンコーダ32Aとノンベースエンコーダ32Bを有する。ベースエンコーダ32Aは、カメラ31Aから供給される左眼用の画像データをベースビューとしてAVC方式で符号化する。また、ベースエンコーダ32Aは、符号化されたベースビューを復号し、復号されたベースビューをノンベースエンコーダ32Bに供給する。
ノンベースエンコーダ32Bは、ベースエンコーダ32Aから供給される復号されたベースビュー等を参照して、カメラ31Bから供給される右眼用の画像データをノンベースビューとしてMVC方式で符号化する。TV送信機32は、ベースエンコーダ32Aによる符号化の結果得られる符号化データと、ノンベースエンコーダ32Bによる符号化の結果得られる符号化データを含むMVCストリームを、電波を用いて送信する。
TV受信機33は、ベースデコーダ33Aとノンベースデコーダ33Bを有する。TV受信機33は、TV送信機32から電波を用いて送信されてくるMVCストリームを受信する。ベースデコーダ33Aは、MVCストリームのうちのベースビューの符号化データを、AVC方式に対応する方式で復号する。ベースデコーダ33Aは、復号の結果得られるベースビューである左眼用の画像データをノンベースデコーダ33Bに供給する。
ノンベースデコーダ33Bは、MVCストリームのうちのノンベースビューの符号化データを、ベースデコーダ33Aから供給されるベースビュー等を参照して、MVC方式に対応する方式で復号する。これにより、ノンベースデコーダ33Bは、右眼用の画像データを得る。TV受信機33は、左眼用の画像データに基づいて左眼用の画像を表示し、右眼用の画像データに基づいて右眼用の画像を表示する。視聴者は、所定の眼鏡などを用いて、左眼用の画像を左眼のみで見て、右眼用の画像を右眼のみで見ることにより、立体視を行う。
ここで、既存の放送に対応するが、Full-HDの3D画像の放送には対応していないTV受信機は、例えばAVC方式に対応する方式で復号するデコーダを有している。従って、このようなTV受信機では、TV送信機32から送信されるMVCストリームのうちのベースビューのストリームを復号することができる。よって、TV送信機32で送信されるFull-HDの3D画像の放送の符号化方式であるMVC方式は、既存の放送の符号化方式であるAVC方式と互換性を有しているといえる。
そこで、本技術は、MVC方式で50p/60p画像を符号化することにより、50p/60p画像の放送と既存の放送の互換性を確保する。これにより、サイマル放送が行われる場合のように画質を劣化させることなく、50p/60p画像の放送と既存の放送の互換性を確保することができる。また、既存の放送に対応するTV送受信システムにおいてもAVC方式の技術は導入されているため、TV送受信システムのコストアップを抑制しつつ、50p/60p画像の放送と既存の放送の互換性を確保することができる。さらに、Full-HDの3D画像の放送の符号化方式としてMVC方式が採用される場合、Full-HDの3D画像の放送に対応するTV送受信システムからの変更が少なくて済む。
[本技術を適用したTV送受信システムの一実施の形態の概要の説明]
図3は、本技術を適用したTV送受信システムの一実施の形態の概要を説明する図である。
図3のTV送受信システム50は、カメラ51、TV送信機52、TV受信機53、およびTV受信機54により構成される。
TV送受信システム50のカメラ51は、既存のTV受信機で処理可能なフレームレート(以下、既存フレームレートという)のN(Nは2以上の整数)倍の高フレームレートで撮像を行い、その結果得られる画像データを高フレームレートデータとして取得する。ここでは、既存フレームレートが、50i/60iまたは25p/30pであるものとする。カメラ51は、高フレームレートデータをTV送信機52に供給する。
TV送信機52は、符号化装置として機能し、ベースエンコーダ61とノンベースエンコーダ62を有する。ベースエンコーダ61は、カメラ51から供給される高フレームレートデータのうちの既存フレームレートの画像データをベースビューとして、AVC方式で符号化する。また、ベースエンコーダ61は、符号化されたベースビューを復号し、復号されたベースビューをノンベースエンコーダ62に供給する。
ノンベースエンコーダ62は、高フレームレートデータのうちのベースビュー以外の画像データをノンベースビューとして、MVC方式で符号化する。このとき、ノンベースエンコーダ62は、ベースエンコーダ61から供給される復号されたベースビュー等を参照画像として用いる。
TV送信機52は、ベースエンコーダ61による符号化の結果得られるベース符号化データと、ノンベースエンコーダ62による符号化の結果得られるノンベース符号化データを含むMVCストリームを、電波を用いて伝送する。
TV受信機53は、50p/60p画像の放送に対応するTV受信機であり、復号装置として機能し、ベースデコーダ71とノンベースデコーダ72を有する。TV受信機53は、TV送信機52から電波を用いて伝送されてくるMVCストリームを受信する。ベースデコーダ71は、MVCストリームに含まれるベースビュー符号化データを、AVC方式に対応する方式で復号する。ベースデコーダ71は、復号の結果得られるベースビューをノンベースデコーダ72に供給する。
ノンベースデコーダ72は、MVCストリームに含まれるノンベースビュー符号化データのうちの少なくとも一部を、MVC方式に対応する方式で復号する。このとき、ノンベースデコーダ72は、ベースデコーダ71から供給されるベースビュー等を参照する。
TV受信機53は、ベースデコーダ71による符号化の結果得られるベースビューとノンベースデコーダ72による符号化の結果得られるノンベースビューに基づいて、既存フレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像を表示する。なお、Mの最大値は、TV受信機53の処理能力による値である。
TV受信機54は、50p/60p画像の放送に対応しない既存のTV受信機であり、復号装置として機能し、デコーダ81を有する。TV受信機54は、TV送信機52から電波を用いて送信されてくるMVCストリームを受信する。デコーダ81は、ベースデコーダ71と同様に、MVCストリームに含まれるベースビュー符号化データを、AVC方式に対応する方式で復号する。TV受信機54は、ベースデコーダ71による復号の結果得られるベースビューである既存フレームレートの画像データに基づいて、既存フレームレートの画像を表示する。
[TV送信機の構成例]
図4は、図3のTV送信機52の詳細構成例を示す図である。
図4に示すように、TV送信機52は、ベースエンコーダ61とノンベースエンコーダ62の他、フレームメモリ101、SEI(Supplemental Enhancement Information)生成部102、NAL(Network Abstraction Layer)生成部103、PES(Packetized Elementary Stream)生成部104、TS(Transport Stream)生成部105、およびアンテナ106を有する。
TV送信機52のベースエンコーダ61は、上述したように、カメラ51から供給される高フレームレートデータのうちの既存フレームレートの画像データをベースビューとして、AVC方式で符号化する。このとき、ベースエンコーダ61は、フレームメモリ101に保持されている、符号化され、復号されたベースビューを参照画像として用いる。また、ベースエンコーダ61は、符号化されたベースビューを復号し、フレームメモリ101に供給する。
また、ベースエンコーダ61は、符号化されたベースビューをベース符号化データとしてNAL生成部103に供給する。さらに、ベースエンコーダ61は、現在の符号化対象のベースビューのビューIDと符号化単位をSEI生成部102に供給する。なお、ビューIDとは、各画像データに撮像順に付与された固有のIDである。
ノンベースエンコーダ62は、上述したように、高フレームレートデータのうちのベースビュー以外の画像データをノンベースビューとして、MVC方式で符号化する。このとき、ノンベースエンコーダ62は、フレームメモリ101に保持されている、復号されたベースビューまたはノンベースビューを参照画像として用いる。また、ノンベースエンコーダ62は、符号化されたノンベースビューを復号し、フレームメモリ101に供給する。
また、ノンベースエンコーダ62は、符号化されたノンベースビューをノンベース符号化データとしてNAL生成部103に供給する。さらに、ノンベースエンコーダ62は、現在の符号化対象のノンベースビューのビューIDをSEI生成部102に供給する。
フレームメモリ101は、ベースエンコーダ61から供給される復号されたベースビューを保持する。また、フレームメモリ101は、ノンベースエンコーダ62から供給される復号されたノンベースビューを保持する。
SEI生成部102は、生成部として機能し、ベースエンコーダ61から供給されるビューIDおよび符号化単位、並びに、ノンベースエンコーダ62から供給されるビューID等に基づいて、表示制御情報を生成する。なお、表示制御情報とは、TV受信機53において、ベースビューとノンベースビューの少なくとも一部に対応する画像を、既存フレームレートのM倍のフレームレートの画像として表示する際に用いる情報である。
SEI生成部102は、表示制御情報のSEI等をMVC方式用のSEIとして生成するとともに、AVC方式用のSEIを生成し、NAL生成部103に供給する。また、SEI生成部102は、MVCストリームに表示制御情報が含まれているかどうか、即ちMVC方式用のSEIが表示制御情報のSEIを含んでいるかどうかを表す表示制御情報フラグを生成し、TS生成部105に供給する。
NAL生成部103は、ベースエンコーダ61から供給されるベース符号化データ、ノンベースエンコーダ62から供給されるノンベース符号化データ、SEI生成部102から供給されるSEI等に、NALヘッダを付加する。これにより、NAL生成部103は、ベース符号化データ、ノンベース符号化データ、SEI等のNALユニットを生成する。NAL生成部103は、送信データ生成部として機能し、生成されたNALユニットからアクセスユニット(AU)を送信データとして生成して、PES生成部104に供給する。
PES生成部104は、NAL生成部103から供給されるAUをPESパケット化し、その結果得られるPESパケットをTS生成部105に供給する。
TS生成部105は、PES生成部104から供給されるPESパケット、SEI生成部102から供給される表示制御情報フラグを含むデータ等をTSパケット化し、TSパケットを生成する。そして、TS生成部105は、そのTSパケットを多重化し、TSを生成する。TS生成部105は、生成されたTSをMVCストリームとして、アンテナ106に供給する。
アンテナ106は、伝送部として機能し、TS生成部105から供給されるMVCストリームを、電波を用いてTV受信機53に送信する。
[表示制御情報のSEIの例]
図5は、表示制御情報のSEIの記述例を示す図である。
図5に示すように、表示制御情報のSEI(mvc_format_type_info)には、フォーマット変換タイプ(format_conversion_type)、補間AUフラグ(interpolation_AU_flag)、ベースビュー非表示フラグ(base_view_no_output_flag)、ベースビュー符号化単位フラグ(base_view_is_field_encoded_flag)、および将来の拡張用の予約領域(reserved)が配置される。
フォーマット変換タイプは、対応する符号化対象の画像のタイプを表す情報であり、ユーザ入力等に基づいて生成される。補間AUフラグは、対応するノンベースビューがベースビューと同一のフレームの画像データを構成するフィールドまたはフレーム単位の画像データであるかどうかを表すペア情報である。補間AUフラグは、フォーマット変換タイプとベースエンコーダ61およびノンベースエンコーダ62からのビューIDに基づいて生成される。
また、ベースビュー非表示フラグは、100i/120i画像を表示させる場合に、対応するノンベースビューと同一のフレームの画像データを構成するベースビューを表示するかどうかを表す情報であり、フォーマット変換タイプに基づいて生成される。ベースビュー符号化単位フラグは、対応するベースビューがフレーム単位で符号化されているか、または、フィールド単位で符号化されているかを表す符号化単位情報であり、ベースエンコーダ61からの符号化単位に基づいて生成される。
[フォーマット変換タイプの例]
図6は、表示制御情報のSEIに配置されるフォーマット変換タイプの例を示す図である。
図6の例では、フォーマット変換タイプは、0乃至3のいずれかの値である。フォーマット変換タイプ「0」は、対応する符号化対象の画像が3D画像であることを表す。フォーマット変換タイプ「1」は、対応する符号化対象の画像におけるNが2であり、符号化対象の画像がプログレッシブ方式の画像であることを表す。フォーマット変換タイプ「2」は、対応する符号化対象の画像におけるNが2であり、符号化対象の画像がインターレース方式の画像であることを表す。フォーマット変換タイプ「3」は、対応する符号化対象の画像におけるNが4であり、符号化対象の画像がプログレッシブ方式の画像であることを表す。
なお、フォーマット変換タイプ「5」乃至「7」は、将来の拡張用の予約領域である。
[補間AUフラグの例]
図7は、表示制御情報のSEIに配置される補間AUフラグの例を示す図である。
図7に示すように、補間AUフラグは0または1である。補間AUフラグ「0」は、対応するノンベースビューがベースビューと同一のフレームの画像データを構成するフィールドまたはフレーム単位の画像データではないことを表す。一方、補間AUフラグ「1」は、対応するノンベースビューがベースビューと同一のフレームの画像データを構成するフィールドまたはフレーム単位の画像データであることを表す。
[ベースビュー非表示フラグの例]
図8は、表示制御情報のSEIに配置されるベースビュー非表示フラグの例を示す図である。
図8に示すように、ベースビュー非表示フラグは0または1である。ベースビュー非表示フラグ「0」は、100i/120i画像を表示させる場合に、対応するノンベースビューと同一のフレームの画像データを構成するベースビューを表示することを表す。一方、ベースビュー非表示フラグ「1」は、100i/120i画像を表示させる場合に、100i/120i画像を表示させる場合に、対応するノンベースビューと同一のフレームの画像データを構成するベースビューを表示しないことを表す。なお、高フレームレートデータに基づいて100i/120i画像を表示させることができない場合には、ベースビュー非表示フラグは任意の値をとることができるが、ここでは0とする。
[ベースビュー符号化単位フラグの例]
図9は、表示制御情報のSEIに配置されるベースビュー符号化単位フラグの例を示す図である。
図9に示すように、ベースビュー符号化単位フラグは0または1である。ベースビュー符号化単位フラグ「0」は、対応するベースビューがフレーム単位で符号化されていることを表し、ベースビュー符号化単位フラグ「1」は、対応するベースビューがフィールド単位で符号化されていることを表す。
[表示制御情報フラグの記述例]
図10は、表示制御情報フラグの記述例を示す図である。
図10に示すように、表示制御情報フラグ(mvc_format_type_info_present)は、PMT(Program Map Table)等のTSパケット内のMVC拡張ディスクリプタ(MVC_extension_descriptor)の4ビットの予約領域のうちの1ビットの領域に記述される。表示制御情報フラグは、MVCストリームに表示制御情報が含まれていることを表す場合1であり、MVCストリームに表示制御情報が含まれていないことを表す場合0である。
このように、表示制御情報フラグは、TSパケットに含まれるので、TV受信機53は、復号前にMVCストリームに表示制御情報が含まれているかどうかを認識することができる。
[TV送信機の処理の説明]
図11は、図4のTV送信機52の送信処理を説明するフローチャートである。この送信処理は、例えば、カメラ51から高フレームレートデータが供給されたとき、開始される。
なお、図11のステップS11乃至S17の処理は、符号化単位で行われる。
ステップS11において、TV送信機52のベースエンコーダ61は、処理対象の高フレームレートデータが既存フレームレートの画像データであるかどうかを判定する。
ステップS11で、処理対象の高フレームレートデータが、既存フレームレートの画像データであると判定された場合、ステップS12において、ベースエンコーダ61は、処理対象の高フレームレートデータをベースビューとして、AVC方式で符号化する。このとき、ベースエンコーダ61は、フレームメモリ101に保持されている、符号化され、復号されたベースビューを参照画像として用いる。また、ベースエンコーダ61は、符号化されたベースビューを復号し、フレームメモリ101に供給する。また、ベースエンコーダ61は、符号化されたベースビューをベース符号化データとしてNAL生成部103に供給する。
ステップS13において、ベースエンコーダ61は、現在の符号化対象のベースビューのビューIDと符号化単位をSEI生成部102に供給し、処理をステップS17に進める。
一方、ステップS11で、処理対象の高フレームレートデータが、既存フレームレートの画像データではないと判定された場合、処理はステップS14に進む。
ステップS14において、ノンベースエンコーダ62は、処理対象の高フレームレートデータをノンベースビューとして、MVC方式で符号化する。このとき、ノンベースエンコーダ62は、フレームメモリ101に保持されている、符号化され、復号されたベースビューまたはノンベースビューを参照画像として用いる。また、ノンベースエンコーダ62は、符号化されたノンベースビューを復号し、フレームメモリ101に供給する。さらに、ノンベースエンコーダ62は、符号化されたノンベースビューをノンベース符号化データとしてNAL生成部103に供給する。
ステップS15において、ノンベースエンコーダ62は、現在の符号化対象のノンベースビューのビューIDをSEI生成部102に供給する。
ステップS16において、SEI生成部102は、ベースエンコーダ61から供給されるビューIDおよび符号化単位、並びに、ノンベースエンコーダ62から供給されるビューID等に基づいて、表示制御情報を生成する。そして、SEI生成部102は、表示制御情報のSEI等をMVC方式用のSEIとして生成するとともに、AVC方式用のSEIを生成し、NAL生成部103に供給し、処理をステップS17に進める。
ステップS17において、SEI生成部102は、表示制御情報フラグを生成し、TS生成部105に供給する。
ステップS18において、NAL生成部103は、ベースエンコーダ61からのベース符号化データ、ノンベースエンコーダ62からのノンベース符号化データ、SEI生成部102からのSEI等に、NALヘッダを付加することにより、ベース符号化データ、ノンベース符号化データ、SEI等のNALユニットを生成する。
ステップS19において、NAL生成部103は、生成されたNALユニットからAUを生成し、PES生成部104に供給する。
ステップS20において、PES生成部104は、NAL生成部103から供給されるAUをPESパケット化し、その結果得られるPESパケットをTS生成部105に供給する。
ステップS21において、TS生成部105は、PES生成部104から供給されるPESパケット、SEI生成部102から供給される表示制御情報フラグを含むデータ等をTSパケット化し、TSパケットを生成する。
ステップS22において、TS生成部105は、生成されたTSパケットを多重化し、多重化データとしてのTSを生成する。
ステップS23において、TS生成部105は、生成されたTSをMVCストリームとして、電波を用いて、アンテナ106からTV受信機53に送信し、処理を終了する。
以上のように、TV送信機52は、既存フレームレートのN倍のフレームレートの画像のうちの既存フレームレートの画像をベースビューとしてAVC方式で符号化し、ベースビュー以外の画像をノンベースビューとしてMVC方式で符号化する。これにより、既存フレームレートのN倍のフレームレートの画像を、既存フレームレートの画像の方式と互換性を有する方式で符号化することができる。その結果、TV送信機52から送信されるMVCストリームのうちのベースビューは、50p/60p画像の放送に対応しない既存のTV受信機54においても復号することができる。
また、TV送信機52は、既存フレームレートのN倍のフレームレートの画像の符号化データのみを送信すればよいので、既存フレームレートの画像と、既存フレームレートのN倍のフレームレートの画像を別々にサイマル放送として送信する場合に比べて、帯域利用効率が良い。その結果、ビットレートを低下させる必要がなく、画質の劣化を防止することができる。また、TV送信機52は、既存フレームレートの画像と、既存フレームレートのN倍のフレームレートの画像の両方を生成する必要がないため、処理コストを削減することができる。
さらに、既存の放送に対応するTV送受信システムにおいてもAVC方式の技術は導入されているため、TV送受信システムのコストアップを抑制することができる。さらに、Full-HDの3D画像の放送の符号化方式としてMVC方式が採用される場合、Full-HDの3D画像の放送に対応するTV送受信システムからの変更が少なくて済む。
また、TV送信機52は、表示制御情報を送信するので、TV受信機53は、表示制御情報に基づいて、ベースビューとノンベースビューの復号や表示制御を行い、既存フレームレートのM倍のフレームレートの画像を表示させることができる。
[TV受信機53の詳細構成例]
図12は、図3のTV受信機53の詳細構成例を示すブロック図である。
図12のTV受信機53は、ベースデコーダ71とノンベースデコーダ72のほか、アンテナ121、TS分離部122、PES分離部123、NALフィルタ124、フレームメモリ125、SEI取得部126、および表示制御部127を有する。
アンテナ121は、受信部として機能し、TV送信機52のアンテナ106(図4)から電波を用いて送信されてくるMVCストリームを受信して、TS分離部122に供給する。
TS分離部122は、アンテナ121から供給されるMVCストリームをTSパケットに分離する。TS分離部122は、分離されたTSパケットに含まれる表示制御情報フラグをNALフィルタ124に供給する。また、TS分離部122は、分離されたTSパケットに含まれるPESパケットをPES分離部123に供給する。
PES分離部123は、TS分離部122から供給されるPESパケットをNALユニットに分離する。PES分離部123は、分離されたNALユニットをNALフィルタ124に供給する。
NALフィルタ124は、抽出部として機能し、TS分離部122から供給される表示制御情報フラグに基づいて、PES分離部123から供給されるNALユニットから、ベースビュー符号化データ、ノンベースビュー符号化データ、表示制御情報等を抽出する。
具体的には、NALフィルタ124は、NALユニットに含まれるNALヘッダを参照して、ベースビュー符号化データ、ノンベースビュー符号化データ、SEI等のNALユニットを分離する。そして、NALフィルタ124は、ベースビュー符号化データのNALユニットからベースビュー符号化データを抽出し、ノンベースビュー符号化データのNALユニットからノンベースビュー符号化データを抽出する。また、NALフィルタ124は、表示制御情報フラグがMVCストリームに表示制御情報が含まれていることを表す場合、MVC方式用のSEIから表示制御情報を抽出する。
そして、NALフィルタ124は、抽出されたベースビュー符号化データをベースデコーダ71に供給し、ノンベースビュー符号化データをノンベースデコーダ72に供給する。また、NALフィルタ124は、抽出された表示制御情報をSEI取得部126に供給する。
ベースデコーダ71は、上述したように、ベースビュー符号化データをAVC方式に対応する方式で復号する。このとき、ベースデコーダ71は、フレームメモリ125に保持されている既に復号済みのベースビューを参照する。ベースデコーダ71は、復号の結果得られるベースビューを、フレームメモリ125と表示制御部127に供給する。
ノンベースデコーダ72は、SEI取得部126から供給されるフォーマット変換タイプに基づいてMを決定し、そのMに基づいて復号対象とするノンベースビュー符号化データを決定する。そして、ノンベースデコーダ72は、復号対象として決定されたノンベースビュー符号化データをMVC方式に対応する方式で復号する。このとき、ノンベースデコーダ72は、フレームメモリ125に保持されている既に復号済みのベースビューまたはノンベースビューを参照する。ノンベースデコーダ72は、復号の結果得られるノンベースビューをフレームメモリ125と表示制御部127に供給する。
フレームメモリ125は、ベースデコーダ71から供給されるベースビューを一時的に保持する。また、フレームメモリ125は、ノンベースデコーダ72から供給されるノンベースビューを一時的に保持する。
SEI取得部126は、NALフィルタ124から供給される表示制御情報のうちのフォーマット変換タイプをノンベースデコーダ72に供給し、補間AUフラグ、ベースビュー非表示フラグ、および符号化単位フラグを表示制御部127に供給する。
表示制御部127は、SEI取得部126から供給される表示制御情報に基づいて、ベースデコーダ71から供給されるベースビューおよびノンベースデコーダ72から供給されるノンベースビューに対応する画像を、図示せぬ表示部に表示させる。
具体的には、表示制御部127は、補間AUフラグに基づいて表示順を決定し、ベースビュー非表示フラグに基づいて表示対象を決定する。さらに、表示制御部127は、ベースビュー符号化単位フラグに基づいて、ベースビューおよびノンベースビューに対応する画像を、ベースビュー符号化単位フラグが表す単位の画像とする。そして、表示制御部127は、決定された表示順で、表示対象とされたベースビューおよびノンベースビューに対応する既存フレームレートのM倍のフレームレートの画像を、ベースビュー符号化単位フラグが表す単位の画像として表示させる。
[TV受信機54の詳細構成例]
図13は、図3のTV受信機54の詳細構成例を示すブロック図である。
図13のTV受信機54は、デコーダ81のほか、アンテナ141、TS分離部142、PES分離部143、NALフィルタ144、フレームメモリ145、および表示制御部146を有する。
アンテナ141は、受信部として機能し、TV送信機52のアンテナ106(図4)から電波を用いて送信されてくるMVCストリームを受信して、TS分離部142に供給する。
TS分離部142は、アンテナ121から供給されるMVCストリームをTSパケットに分離する。TS分離部122は、分離されたTSパケットに含まれるPESパケットをPES分離部143に供給する。
PES分離部143は、TS分離部142から供給されるPESパケットをNALユニットに分離する。PES分離部143は、分離されたNALユニットをNALフィルタ144に供給する。
NALフィルタ144は、PES分離部143から供給されるNALユニットに含まれるNALヘッダを参照して、ベースビュー符号化データのNALユニットを分離し、そのNALユニットから、ベースビュー符号化データを抽出する。NALフィルタ144は、抽出されたベースビュー符号化データをデコーダ81に供給する。
デコーダ81は、上述したように、ベースビュー符号化データを、AVC方式に対応する方式で復号する。このとき、デコーダ81は、フレームメモリ145に保持されている既に復号済みのベースビューを参照する。ベースデコーダ71は、復号の結果得られるベースビューを、フレームメモリ145と表示制御部146に供給する。
フレームメモリ145は、デコーダ81から供給されるベースビューを一時的に保持する。
表示制御部146は、デコーダ81から供給されるベースビューに対応する画像を、図示せぬ表示部に表示させる。これにより、表示部には、ベースビューに対応する既存フレームレートの画像が表示される。
[TV受信機53とTV受信機54の処理の説明]
図14は、符号化対象の画像が50p/60p画像であり、ベースビューの符号化単位が25p/30pの1920×1080画素からなる画像(以下、25p/30p画像という)のフレーム単位であり、Mの最大値が2であり、TV受信機53の表示方式がプログレッシブ方式である場合の、TV受信機53とTV受信機54の処理を説明する図である。
なお、図14において、正方形は、1フレームの画像を表し、正方形内の数字は、フレーム番号を表している。
図14Aに示すように、符号化対象の画像が50p/60p画像であり、ベースビューの符号化単位が25p/30p画像のフレーム単位である場合、例えばフレーム番号が奇数であるフレームの画像がベースビューとして符号化される。また、フレーム番号が偶数であるフレームの画像がノンベースビューとして符号化される。
また、図14Aに示すように、ベース符号化データのNALユニットのNALヘッダには、NALユニットの種類を表すNALユニットタイプ(nal_unit_type)として1または5が記述される。一方、ノンベース符号化データのNALユニットのNALヘッダには、NALユニットタイプとして20が記述される。
TV受信機54は、図14Bに示すように、50p/60p画像のMVCストリームに含まれるNALユニットのうち、NALユニットタイプとして1または5が記述されたNALヘッダが付加されたベース符号化データのNALユニットのみを取得し、復号して表示させる。これにより、50p/60p画像のうちの、フレーム番号が奇数番号であるフレームの画像、即ち既存フレームレートの25p/30p画像が表示される。
一方、TV受信機53は、図14Cに示すように、50p/60p画像のMVCストリームに含まれるNALユニットのうちの、ベース符号化データのNALユニットだけでなく、NALユニットタイプとして20が記述されたNALヘッダが付加されたノンベース符号化データのNALユニットとSEIのNALユニットを取得する。
ここで、符号化対象の画像が50p/60p画像である場合、表示制御情報のSEIに配置されるフォーマット変換タイプは、Nが2であり、符号化対象の画像がプログレッシブ方式の画像であることを表す1である。また、TV受信機53に対応するMの最大値は2であるため、TV受信機53は、50p/60p画像を処理する能力を有している。従って、TV受信機53は、Mを2に決定し、そのMに基づいて全てのノンベース符号化データを復号対象に決定する。そして、TV受信機53は、ベース符号化データとノンベース符号化データを復号する。
また、TV受信機53は、表示制御情報のSEIに配置される補間AUフラグ、ベースビュー非表示フラグ、および符号化単位フラグに基づいて、復号の結果得られるベースビューとノンベースビューからなる高フレームレートデータに基づいて、50p/60p画像を表示させる。
具体的には、図14Aに示すように、全てのノンベースビューは、ベースビューと独立のフレームの画像データを構成するフレーム単位の画像データである。従って、全ての補間AUフラグは、対応するノンベースビューがベースビューと同一のフレームの画像データを構成するフィールドまたはフレーム単位の画像データではないことを表す0である。よって、TV受信機53は、ベースビューとノンベースビューの表示順を、POC(Picture Order Count)にしたがって設定する。
また、符号化対象の画像が50p/60p画像である場合、100i/120i画像を表示させることはできないため、ベースビュー非表示フラグは0であり、復号された全てのベースビューとノンベースビューが表示対象とされる。
さらに、ベースビューの符号化単位はフレーム単位であるので、ベースビュー符号化単位フラグは、対応するベースビューがフレーム単位で符号化されていることを表す0である。従って、TV受信機53は、ベースビューおよびノンベースビューに対応する画像をフレーム単位の画像とする。
TV受信機53は、以上のようにして決定された表示順、表示対象の単位としてのフレーム、および表示対象に基づいて、全てのベースビューおよびノンベースビューに対応する画像をフレーム単位の画像として、表示順にしたがって表示させる。これにより、50p/60p画像が表示される。
図15は、符号化対象の画像が50p/60p画像であり、ベースビューの符号化単位が50i/60iの1920×1080画素からなる画像(以下、50i/60i画像という)のフレーム単位であり、Mの最大値が2であり、TV受信機53の表示方式がプログレッシブ方式である場合の、TV受信機53とTV受信機54の処理を説明する図である。
なお、図15において、正方形は、1フレームの画像を表す。また、正方形内の数字は、フレーム番号を表し、Tはトップフィールドを表し、Bはボトムフィールドを表す。即ち、例えば、1T/2Bは、フレーム番号が1であるフレームのトップフィールドと、フレーム番号が2であるフレームのボトムフィールドからなるフレームである。
図15Aに示すように、符号化対象の画像が50p/60p画像であり、ベースビューの符号化単位が50i/60i画像のフレーム単位である場合、例えばフレーム番号が奇数であるフレームのトップフィールドと、フレーム番号が偶数であるフレームのボトムフィールドからなるフレーム(以下、奇数フレームという)の画像データがベースビューとして符号化される。また、フレーム番号が奇数であるフレームのボトムフィールドと、フレーム番号が偶数であるフレームのトップフィールドからなるフレーム(以下、偶数フレームという)の画像データがノンベースビューとして符号化される。
TV受信機54は、図15Bに示すように、50p/60p画像のMVCストリームに含まれるNALユニットのうち、NALユニットタイプとして1または5が記述されたNALヘッダが付加されたベース符号化データのNALユニットのみを取得し、復号して表示させる。これにより、50p/60p画像のうちの奇数フレームの画像、即ち既存フレームレートの50i/60i画像が表示される。
一方、TV受信機53は、図15Cに示すように、50p/60p画像のMVCストリームに含まれるNALユニットのうちの、ベース符号化データのNALユニットだけでなく、NALユニットタイプとして20が記述されたNALヘッダが付加されたノンベース符号化データのNALユニットとSEIのNALユニットを取得する。
ここで、上述したように、符号化対象の画像が50p/60p画像である場合、フォーマット変換タイプは1であり、TV受信機53に対応するMの最大値は2であるため、TV受信機53は、50p/60p画像を処理する能力を有している。従って、TV受信機53は、Mを2に決定し、そのMに基づいて全てのノンベース符号化データを復号対象に決定する。そして、TV受信機53は、ベース符号化データとノンベース符号化データを復号する。
また、TV受信機53は、表示制御情報のSEIに配置される補間AUフラグ、ベースビュー非表示フラグ、および符号化単位フラグに基づいて、復号の結果得られるベースビューとノンベースビューからなる高フレームレートデータに基づいて、50p/60p画像を表示させる。
具体的には、図15Aに示すように、全てのノンベースビューは、ベースビューと同一のフレームの画像データを構成するフレーム単位の画像データであるので、全ての補間AUフラグは1である。従って、TV受信機53は、ベースビューとノンベースビューの表示順を、連続するように設定する。また、上述したように、符号化対象の画像が50p/60p画像である場合、100i/120i画像を表示させることはできないので、ベースビュー非表示フラグは0であり、復号された全てのベースビューとノンベースビューが表示対象とされる。
さらに、ベースビューの符号化単位はフレーム単位であるので、ベースビュー符号化単位フラグは0であり、TV受信機53は、ベースビューおよびノンベースビューに対応する画像をフレーム単位の画像とする。
TV受信機53は、以上のようにして決定された表示順、表示対象の単位としてのフレーム、および表示対象に基づいて、全てのベースビューおよびノンベースビューに対応する画像をフレーム単位の画像として、ベースビューとノンベースビューに対応する画像が連続するように表示させる。これにより、50p/60p画像が表示される。
なお、本実施の形態では、符号化単位フラグが0である場合、図14に示したように符号化単位がプログレッシブ方式の画像のフレーム単位であるか、または、図15に示したように符号化単位がインターレース方式の画像のフレーム単位であるものとし、図14と図15の場合を区別しないようにするが、区別するようにしてもよい。
図16は、符号化対象の画像が50p/60p画像であり、ベースビューの符号化単位が50i/60i画像のフィールド単位であり、Mの最大値が2であり、TV受信機53の表示方式がプログレッシブ方式である場合の、TV受信機53とTV受信機54の処理を説明する図である。
なお、図16において、正方形は、1フィールドの画像を表す。また、正方形内の数字は、フレーム番号を表し、Tはトップフィールドを表し、Bはボトムフィールドを表す。即ち、例えば、1Tは、フレーム番号が1であるフレームのトップフィールドを表し、2Bは、フレーム番号が2であるフレームのボトムフィールドを表す。これらのことは、後述する図17においても同様である。
図16Aに示すように、符号化対象の画像が50p/60p画像であり、ベースビューの符号化単位が50i/60i画像のフィールド単位である場合、例えばフレーム番号が奇数であるフレームのトップフィールドと、フレーム番号が偶数であるフレームのボトムフィールドの画像データがベースビューとして符号化される。また、フレーム番号が奇数であるフレームのボトムフィールドと、フレーム番号が偶数であるフレームのトップフィールドの画像データがノンベースビューとして符号化される。
TV受信機54は、図16Bに示すように、50p/60p画像のMVCストリームに含まれるNALユニットのうち、NALユニットタイプとして1または5が記述されたNALヘッダが付加されたベース符号化データのNALユニットのみを取得し、復号して表示させる。これにより、50p/60p画像のうちの、フレーム番号が奇数であるフレームのトップフィールドと、フレーム番号が偶数であるフレームのボトムフィールドの画像、即ち既存フレームレートの50i/60i画像が表示される。
一方、TV受信機53は、図16Cに示すように、50p/60p画像のMVCストリームに含まれるNALユニットのうちの、ベース符号化データのNALユニットだけでなく、NALユニットタイプとして20が記述されたNALヘッダが付加されたノンベース符号化データのNALユニットとSEIのNALユニットを取得する。
ここで、上述したように、符号化対象の画像が50p/60p画像である場合、フォーマット変換タイプは1であり、TV受信機53に対応するMの最大値は2であるため、TV受信機53は、50p/60p画像を処理する能力を有している。従って、TV受信機53は、Mを2に決定し、そのMに基づいて全てのノンベース符号化データを復号対象に決定する。そして、TV受信機53は、ベース符号化データとノンベース符号化データを復号する。
また、TV受信機53は、表示制御情報のSEIに配置される補間AUフラグ、ベースビュー非表示フラグ、および符号化単位フラグに基づいて、復号の結果得られるベースビューとノンベースビューからなる高フレームレートデータに基づいて、50p/60p画像を表示させる。
具体的には、図16Aに示すように、全てのノンベースビューは、ベースビューと同一のフレームの画像データを構成するフィールド単位の画像データであるので、全ての補間AUフラグは1である。従って、TV受信機53は、ベースビューとノンベースビューの表示順を、連続するように設定する。また、図14や図15と同様に、符号化対象の画像が50p/60p画像である場合、100i/120i画像を表示させることはできないので、ベースビュー非表示フラグは0であり、復号された全てのベースビューとノンベースビューが表示対象とされる。
さらに、ベースビューの符号化単位はフィールド単位であるので、ベースビュー符号化単位フラグは、対応するベースビューがフィールド単位で符号化されていることを表す1である。従って、TV受信機53は、ベースビューおよびノンベースビューに対応する画像をフィールド単位の画像とする。
TV受信機53は、以上のようにして決定された表示順、表示対象の単位としてのフィールド、および表示対象に基づいて、全てのベースビューおよびノンベースビューに対応する画像をフィールド単位の画像として、ベースビューとノンベースビューに対応する画像が連続するように表示させる。これにより、50p/60p画像が表示される。
図17は、符号化対象の画像が100p/120p画像であり、ベースビューの符号化単位が50i/60i画像のフィールド単位である場合の、TV受信機53とTV受信機54の処理を説明する図である。
図17Aに示すように、符号化対象の画像が100p/120p画像であり、ベースビューの符号化単位が50i/60i画像のフィールド単位である場合、例えばフレーム番号が1つ置きの奇数であるフレームのトップフィールドと、フレーム番号が、その次の奇数であるフレームのボトムフィールドの画像データがベースビューとして符号化される。また、フレーム番号が1つ置きの奇数であるフレームのボトムフィールド、フレーム番号が、その次の奇数であるフレームのトップフィールド、並びに、フレーム番号が偶数であるフレームのボトムフィールドおよびトップフィールドの画像データがノンベースビューとして符号化される。
TV受信機54は、図17Bに示すように、100p/120p画像のMVCストリームに含まれるNALユニットのうち、NALユニットタイプとして1または5が記述されたNALヘッダが付加されたベース符号化データのNALユニットのみを取得し、復号して表示させる。これにより、100p/120p画像のうちの、フレーム番号が1つ置きの奇数であるフレームのトップフィールドと、フレーム番号が、その次の奇数であるフレームのボトムフィールドの画像、即ち既存フレームレートの50i/60i画像が表示される。
一方、TV受信機53は、図17C乃至図17Eに示すように、100p/120p画像のMVCストリームに含まれるNALユニットのうちの、ベース符号化データのNALユニットだけでなく、NALユニットタイプとして20が記述されたNALヘッダが付加されたノンベース符号化データのNALユニットとSEIのNALユニットを抽出する。
ここで、符号化対象の画像が100p/120p画像である場合、表示制御情報のSEIに配置されるフォーマット変換タイプは、Nが4であり、符号化対象の画像がプログレッシブ方式の画像であることを表す3である。また、TV受信機53に対応するMの最大値が2であり、表示方式がプログレッシブ方式である場合、TV受信機53は、50p/60p画像を処理する能力を有している。従って、TV受信機53は、Mを2に決定し、そのMに基づいて、図17Cに示すように、フレーム番号が奇数であるフレームのトップフィールドとボトムフィールドのノンベース符号化データを復号対象に決定する。そして、TV受信機53は、ベース符号化データと、復号対象として決定されたノンベース符号化データを復号する。
また、TV受信機53は、表示制御情報のSEIに配置される補間AUフラグ、ベースビュー非表示フラグ、および符号化単位フラグに基づいて、復号の結果得られるベースビューとノンベースビューに基づいて、50p/60p画像を表示させる。
具体的には、図17Aに示すように、フレーム番号が奇数であるフレームのノンベースビューは、ベースビューと同一のフレームの画像データを構成するフィールド単位の画像データである。従って、フレーム番号が奇数であるフレームの補間AUフラグは、1である。よって、TV受信機53は、復号の結果得られるベースビューとノンベースビューの表示順を、連続するように設定する。
また、符号化対象の画像が100p/120p画像である場合、100i/120i画像を表示させるためには、トップフィールドのベースビューは表示する必要があるが、ボトムフィールドのベースビューは表示する必要がない。従って、トップフィールドのベースビューと同一のフレームを構成するボトムフィールドのノンベースビューのベースビュー非表示フラグは、対応するノンベースビューと同一のフレームの画像データを構成するベースビューを表示することを表す0である。一方、ボトムフィールドのベースビューと同一のフレームを構成するトップフィールドのノンベースビューのベースビュー非表示フラグは、対応するノンベースビューと同一のフレームの画像データを構成するベースビューを表示しないことを表す1である。
但し、いまの場合、TV受信機53は、100i/120i画像を表示させないため、ベースビュー非表示フラグ「1」は無視され、復号された全てのベースビューとノンベースビューが表示対象とされる。
また、ベースビューの符号化単位はフィールド単位であるので、ベースビュー符号化単位フラグは、対応するベースビューがフィールド単位で符号化されていることを表す1である。従って、TV受信機53は、ベースビューおよびノンベースビューに対応する画像をフィールド単位の画像とする。
TV受信機53は、以上のようにして決定された表示順、表示対象の単位としてのフィールド、および表示対象に基づいて、全てのベースビューと、フレーム番号が奇数であるフレームのトップフィールドとボトムフィールドのノンベースビューとに対応する画像をフィールド単位の画像として、そのベースビューとノンベースビューに対応する画像が連続するように表示させる。これにより、50p/60p画像が表示される。
一方、TV受信機53に対応するMの最大値が2であり、表示方式がインターレース方式である場合、TV受信機53は、100i/120i画像を処理する能力を有している。また、上述したように、フォーマット変換タイプは4である。従って、TV受信機53は、Mを2に決定し、そのMに基づいて、図17Dに示すように、フレーム番号が奇数であるフレームのトップフィールドとフレーム番号が偶数であるフレームのボトムフィールドのノンベース符号化データを復号対象に決定する。そして、TV受信機53は、ベース符号化データと、復号対象として決定されたノンベース符号化データを復号する。
また、TV受信機53は、表示制御情報のSEIに配置される補間AUフラグ、ベースビュー非表示フラグ、および符号化単位フラグに基づいて、復号の結果得られるベースビューとノンベースビューに基づいて、100i/120i画像を表示させる。
具体的には、上述したように、フレーム番号が奇数であるフレームの補間AUフラグは、対応するノンベースビューがベースビューと同一のフレームの画像データを構成するフィールドまたはフレーム単位の画像データであることを表す1である。一方、図17Aに示すように、フレーム番号が偶数であるフレームのノンベースビューは、他のノンベースビューと同一のフレームの画像データを構成するフィールド単位の画像データである。従って、フレーム番号が偶数であるフレームの補間AUフラグは、対応するノンベースビューがベースビューと同一のフレームの画像データを構成するフィールドまたはフレーム単位の画像データではないことを表す0である。
よって、TV受信機53は、フレーム番号が奇数であるフレームのベースビューとノンベースビューの表示順を、連続するように設定する。また、TV受信機53は、フレーム番号が偶数であるフレームのノンベースビューの表示順を、POCにしたがって設定する。
さらに、上述したように、トップフィールドのベースビューと同一のフレームを構成するボトムフィールドのノンベースビューのベースビュー非表示フラグは0であり、ボトムフィールドのベースビューと同一のフレームを構成するトップフィールドのノンベースビューのベースビュー非表示フラグは1である。従って、TV受信機53は、復号されたベースビューとノンベースビューのうちの、ベースビュー非表示フラグ「1」に対応するボトムフィールドのベースビュー以外を表示対象とする。
また、上述したように、ベースビュー符号化単位フラグは1であるので、TV受信機53は、ベースビューおよびノンベースビューに対応する画像をフィールド単位の画像とする。
TV受信機53は、以上のようにして決定された表示順、表示対象の単位としてのフィールド、および表示対象に基づいて、トップフィールドのベースビュー、並びに、フレーム番号が奇数であるフレームのトップフィールドおよびフレーム番号が偶数であるフレームのボトムフィールドのノンベースビューに対応する画像を、フィールド単位の画像として、表示順にしたがって表示させる。これにより、100i/120i画像が表示される。
また、TV受信機53に対応するMの最大値が4であり、表示方式がプログレッシブ方式である場合、TV受信機53は、100p/120p画像を処理する能力を有している。また、上述したように、フォーマット変換タイプは4である。従って、TV受信機53は、Mを4に決定し、そのMに基づいて、図17Eに示すように、全てのノンベース符号化データを復号対象に決定する。そして、TV受信機53は、ベース符号化データとノンベース符号化データを復号する。
また、TV受信機53は、表示制御情報のSEIに配置される補間AUフラグ、ベースビュー非表示フラグ、および符号化単位フラグに基づいて、復号の結果得られるベースビューとノンベースビューに基づいて、100p/120p画像を表示させる。
具体的には、上述したように、フレーム番号が奇数であるフレームの補間AUフラグは1であり、フレーム番号が偶数であるフレームの補間AUフラグは0である。従って、TV受信機53は、上述したように、フレーム番号が奇数であるフレームのベースビューとノンベースビューの表示順を連続するように設定し、フレーム番号が偶数であるフレームのノンベースビューの表示順を、POCにしたがって設定する。
また、いまの場合、TV受信機53は、100i/120i画像を表示させないため、ベースビュー非表示フラグ「1」は無視され、復号された全てのベースビューとノンベースビューが表示対象とされる。さらに、上述したように、ベースビュー符号化単位フラグは1であるので、TV受信機53は、ベースビューおよびノンベースビューに対応する画像をフィールド単位の画像とする。
TV受信機53は、以上のようにして決定された表示順、表示対象の単位としてのフィールド、および表示対象に基づいて、全てのベースビューとノンベースビューに対応する画像をフィールド単位の画像として、表示順にしたがって表示させる。これにより、100p/120p画像が表示される。
[TV受信機53の処理の説明]
図18は、Mの最大値が4であり、プログレッシブ方式に対応するTV受信機53の受信処理を説明するフローチャートである。この受信処理は、例えば、TV受信機53にMVCストリームが送信されてきたとき、開始される。
図18のステップS40において、アンテナ121は、TV送信機52のアンテナ106から電波を用いて送信されてくるMVCストリームを受信し、TS分離部122に供給する。
ステップS41において、TS分離部122は、アンテナ121から供給されるMVCストリームをTSパケットに分離する。TS分離部122は、分離されたTSパケットに含まれる表示制御情報フラグをNALフィルタ124に供給する。また、TS分離部122は、分離されたTSパケットに含まれるPESパケットをPES分離部123に供給する。
ステップS42において、PES分離部123は、TS分離部122から供給されるPESパケットをNALユニットに分離する。PES分離部123は、分離されたNALユニットをNALフィルタ124に供給する。
ステップS43において、NALフィルタ124は、NALユニットに含まれるNALヘッダを参照して、ベースビュー符号化データ、ノンベースビュー符号化データ、SEI等のNALユニットを分離する。
ステップS44において、NALフィルタ124は、TS分離部122から供給される表示制御情報フラグに基づいて、ステップS43で分離されたNALユニットからベースビュー符号化データ、ノンベースビュー符号化データ、および表示制御情報を抽出する。そして、NALフィルタ124は、抽出されたベースビュー符号化データをベースデコーダ71に供給し、ノンベースビュー符号化データをノンベースデコーダ72に供給する。また、NALフィルタ124は、抽出された表示制御情報をSEI取得部126に供給する。そして、SEI取得部126は、NALフィルタ124から供給される表示制御情報のうちのフォーマット変換タイプをノンベースデコーダ72に供給し、補間AUフラグ、ベースビュー非表示フラグ、および符号化単位フラグを表示制御部127に供給する。
ステップS45において、ベースデコーダ71は、NALフィルタ124から供給されるベースビュー符号化データをAVC方式に対応する方式で復号する。このとき、ベースデコーダ71は、フレームメモリ125に保持されている既に復号済みのベースビューを参照する。ベースデコーダ71は、復号の結果得られるベースビューを、フレームメモリ125に供給して保持させるとともに、表示制御部127に供給する。
ステップS46において、ノンベースデコーダ72は、フォーマット変換タイプが3であるかどうかを判定する。ステップS46でフォーマット変換タイプが3である場合、即ち符号化対象の画像が100p/120p画像である場合、処理はステップS47に進む。
ステップS47において、TV受信機53は、表示制御情報に基づいて、ベースビューとノンベースビューからなる100p/120p画像を表示させる4倍処理を行い、処理を終了する。なお、4倍処理の詳細は、後述する図19を参照して説明する。
一方、ステップS46でフォーマット変換タイプが3ではないと判定された場合、ステップS48において、ノンベースデコーダ72は、フォーマット変換タイプが2であるかどうかを判定する。
ステップS48でフォーマット変換タイプが2であると判定された場合、即ち、符号化対象の画像が100i/120i画像である場合、処理はステップS49に進む。
ステップS49において、TV受信機53は、表示制御情報に基づいて、ベースビューとノンベースビューの一部からなる100i/120i画像を表示させる2倍インターレース処理を行い、処理を終了する。なお、2倍インターレース処理の詳細は、後述する図20を参照して説明する。
また、ステップS48でフォーマット変換タイプが2ではないと判定された場合、ステップS50において、ノンベースデコーダ72は、フォーマット変換タイプが1であるかどうかを判定する。
ステップS50でフォーマット変換タイプが1であると判定された場合、即ち、符号化対象の画像が50p/60p画像である場合、処理はステップS51に進む。
ステップS51において、TV受信機53は、表示制御情報に基づいて、ベースビューとノンベースビューの一部からなる50p/60p画像を表示させる2倍プログレッシブ処理を行い、処理を終了する。なお、2倍プログレッシブ処理の詳細は後述する。
また、ステップS50でフォーマット変換タイプが1ではないと判定された場合、即ちフォーマット変換タイプが0である場合、ステップS52において、ノンベースデコーダ72は、TV受信機53が3D画像を処理可能であるかどうかを判定する。
ステップS52でTV受信機53が3D画像を処理可能であると判定された場合、ステップS53において、TV受信機53は、ベースビューに対応する画像を左眼用の画像とし、ノンベースビューに対応する画像を右眼用の画像として表示させる3D画像処理を行う。
具体的には、TV受信機53のノンベースデコーダ72は、ノンベースビュー符号化データをMVC方式に対応する方式で復号し、表示制御部127に供給する。そして、表示制御部127は、ベースデコーダ71からのベースビューに対応する画像を左眼用の画像として表示させ、ノンデースデコーダ72からのノンベースビューに対応する画像を右眼用の画像として表示させることにより、3D画像を表示させる。そして、処理は終了する。
一方、ステップS52でTV受信機53が3D画像を処理可能ではないと判定された場合、ステップS54において、表示制御部127は、ベースデコーダ71から供給されるベースビューに対応する画像を2D画像として表示させる2D画像処理を行う。そして、処理は終了する。
なお、図示は省略するが、Mの最大値が2であり、インターレース方式に対応するTV受信機53の受信処理は、ステップS46およびS47の処理がなく、ステップS48でフォーマット変換タイプが2または3であるかどうかを判定することを除いて、図18の受信処理と同様である。
また、図示は省略するが、Mの最大値が2であり、プログレッシブ方式に対応するTV受信機53の受信処理は、ステップS46乃至S49の処理がなく、ステップS50でフォーマット変換タイプが1乃至3のいずれかであるかどうかを判定することを除いて、図18の受信処理と同様である。
さらに、図示は省略するが、3D画像を処理可能なMVC方式に対応するTV受信機の受信処理は、ステップS41で表示制御フラグが無視され、ステップS44で表示制御情報が抽出されず、S45の処理後にS53の処理が行われることを除いて、図18の受信処理と同様である。
図19は、図18のステップS47の4倍処理の詳細を説明するフローチャートである。
図19のステップS71において、ノンベースデコーダ72は、Mを4に決定し、既存フレームレートの3(=M-1)倍のフレームレートのノンベースビュー符号化データ、即ち全てのノンベースビュー符号化データを復号する。このとき、ノンベースデコーダ72は、フレームメモリ125に保持されている既に復号済みのベースビューまたはノンベースビューを参照する。ノンベースデコーダ72は、復号の結果得られるノンベースビューをフレームメモリ125に供給して保持させるとともに、表示制御部127に供給し、処理をステップS72に進める。なお、以降のステップS72乃至S77の処理は、復号されたノンベースビュー単位で行われる。
ステップS72において、表示制御部127は、補間AUフラグが1であるかどうかを判定する。ステップS72で補間AUフラグが1であると判定された場合、ステップS73において、表示制御部127は、処理対象のノンベースビューと、そのノンベースビューに対応するベースビューの表示順を、連続するように設定する。そして、処理はステップS75に進む。
一方、ステップS72で補間AUフラグが1ではないと判定された場合、即ち補間AUフラグが0である場合、ステップS74において、表示制御部127は、処理対象のノンベースビューと、そのノンベースビューに対応するベースビューの表示順を、POCにしたがって設定する。そして、処理はステップS75に進む。
ステップS75において、表示制御部127は、符号化単位フラグが1であるかどうかを判定する。ステップS75で符号化単位フラグが1であると判定された場合、ステップS76において、表示制御部127は、ベースビューおよびノンベースビューに対応する画像をフィールド単位の画像とし、処理をステップS78に進める。
一方、ステップS75で符号化単位フラグが1ではないと判定された場合、即ち符号化単位フラグが0である場合、処理はステップS77に進む。ステップS77において、表示制御部127は、ベースビューおよびノンベースビューに対応する画像をフレーム単位の画像とし、処理をステップS78に進める。
ステップS78において、表示制御部127は、復号されたベースビューとノンベースビューに対応する画像を、符号化単位フラグが表す単位の画像として、表示順にしたがって表示させる。そして、処理は終了する。
なお、図18のステップS51の2倍プログレッシブ処理は、図19のステップS71において、ノンベースデコーダ72が、Mを2に決定し、既存フレームレートの1(=M-1)倍のフレームレートのノンベースビュー符号化データを復号することを除いて、図19の4倍処理と同様であるので、説明は省略する。
図20は、図18のステップS49の2倍インターレース処理の詳細を説明するフローチャートである。
図20のステップS91において、ノンベースデコーダ72は、Mを2に決定し、既存フレームレートの1(=M-1)倍のフレームレートのノンベースビュー符号化データを復号する。このとき、ノンベースデコーダ72は、フレームメモリ125に保持されている既に復号済みのベースビューまたはノンベースビューを参照する。ノンベースデコーダ72は、復号の結果得られるノンベースビューをフレームメモリ125に供給して保持させるとともに、表示制御部127に供給し、処理をステップS92に進める。なお、以降のステップS92乃至S99の処理は、復号されたノンベースビュー単位で行われる。
ステップS92において、表示制御部127は、ベースビュー非表示フラグが0であるかどうかを判定する。ステップS92でベースビュー非表示フラグが0であると判定された場合、ステップS93において、表示制御部127は、処理対象のノンベースビューに対応するベースビューを表示対象とし、処理をステップS94に進める。
一方、ステップS92でベースビュー非表示フラグが0ではないと判定された場合、即ちベースビュー非表示フラグが1である場合、表示制御部127は、処理対象のノンベースビューに対応するベースビューを表示対象とせず、処理をステップS94に進める。
ステップS94乃至S99の処理は、図19のステップS72乃至S77の処理と同様であるので、説明は省略する。
ステップS99の処理後、ステップS100において、表示制御部127は、ステップS93で表示対象とされたベースビューとノンベースビューに対応する画像を、符号化単位フラグが表す単位の画像として、表示順にしたがって表示させる。そして、処理は終了する。
以上のように、TV受信機53は、TV送信機52により伝送されてくるMVCストリームに含まれるベース符号化データをAVC方式に対応する方式で復号し、ノンベース符号化データをMVC方式に対応する方式で復号する。従って、TV受信機53は、TV送信機52により既存フレームレートの画像の方式と互換性を有する方式で符号化された高フレームレートデータを復号することができる。
また、TV受信機53は、表示制御情報に基づいて、ベースビューとノンベースビューの復号や表示制御を行うので、既存フレームレートのM倍のフレームレートの画像を表示させることができる。
さらに、表示制御情報はMVC方式用のSEIに配置されるので、TV受信機53は、MVC方式に対応するTV受信機からの大幅なシステムの変更、特にハードウェアの変更なしに表示制御情報を取得することができる。
[TV受信機54の処理の説明]
図21は、TV受信機54の受信処理を説明するフローチャートである。この受信処理は、例えば、TV受信機54にMVCストリームが送信されてきたとき、開始される。
図21のステップS120において、アンテナ141は、TV送信機52のアンテナ106から電波を用いて送信されてくるMVCストリームを受信して、TS分離部142に供給する。
ステップS121において、TS分離部142は、アンテナ121から供給されるMVCストリームをTSパケットに分離する。TS分離部122は、分離されたTSパケットに含まれるPESパケットをPES分離部143に供給する。
ステップS122において、PES分離部143は、TS分離部142から供給されるPESパケットをNALユニットに分離する。PES分離部143は、分離されたNALユニットをNALフィルタ144に供給する。
ステップS123において、NALフィルタ144は、PES分離部143から供給されるNALユニットに含まれるNALヘッダを参照して、ベースビュー符号化データのNALユニットを分離し、そのNALユニットから、ベースビュー符号化データを抽出する。NALフィルタ144は、抽出されたベースビュー符号化データをデコーダ81に供給する。
ステップS124において、デコーダ81は、ベースビュー符号化データをAVC方式に対応する方式で復号する。このとき、デコーダ81は、フレームメモリ145に保持されている既に復号済みのベースビューを参照する。ベースデコーダ71は、復号の結果得られるベースビューを、フレームメモリ145に供給して保持させるとともに、表示制御部146に供給する。
ステップS125において、表示制御部146は、デコーダ81から供給されるベースビューに対応する画像を、図示せぬ表示部に表示させる。これにより、表示部には、ベースビューに対応する既存フレームレートの画像が表示される。
以上のように、TV受信機54は、TV送信機52により伝送されてくるMVCストリームに含まれるベース符号化データをAVC方式に対応する方式で復号する。従って、TV受信機53は、TV送信機52により既存フレームレートの画像の方式と互換性を有する方式で符号化された高フレームレートデータのうちの既存フレームレートの画像データを復号することができる。
なお、本実施の形態では、既存フレームレートの画像をAVC方式で符号化し、高フレームレートの画像をMVC方式で符号化するようにしたが、高フレームレートの画像の符号化方式が、既存フレームレートの画像の符号化方式と互換性を有していれば、符号化方式はこれらに限定されない。
また、表示制御情報には、フォーマット変換タイプ、補間AUフラグ、ベースビュー非表示フラグ、およびベースビュー符号化単位フラグの一部のみが含まれるようにしてもよい。さらに、表示制御情報には、対応するノンベースビューを復号するかどうかを表す非デコードフラグ(force_no_decorded_flag)が含まれるようにしてもよい。
例えば、符号化対象が100p/120p画像であり、Mの最大値が2であり、プログレッシブ方式に対応するTV受信機53が想定されている場合、その100p/120p画像のうちの50p/60p画像を表示する場合に表示する必要がないノンベースビュー(図17の例では2T,2B,4T,4B,6T,6B)の非デコードフラグは、対応するノンベースビューを復号しないことを表す1である。一方、50p/60p画像を表示する場合に表示する必要があるノンベースビュー(図17の例では1B,3T,5B,7T)の非デコードフラグは、対応するノンベースビューを復号することを表す0である。表示制御情報に非デコードフラグが含まれる場合、ノンベースデコーダ72は、非デコードフラグに基づいて、非デコードフラグ「0」に対応するノンベース符号化データを復号対象として決定する。なお、非デコードフラグは、想定するTV受信機53の能力ごとに生成されるようにしてもよい。
さらに、上述した説明では、ベースビュー非表示フラグは、100i/120i画像を表示させる場合の情報であるものとしたが、100i/120i画像以外の画像を表示させる場合の情報であってもよい。
[本技術を適用したコンピュータの説明]
次に、上述した一連の処理は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
そこで、図22は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示している。
プログラムは、コンピュータに内蔵されている記録媒体としての記憶部208やROM(Read Only Memory)202に予め記録しておくことができる。
あるいはまた、プログラムは、リムーバブルメディア211に格納(記録)しておくことができる。このようなリムーバブルメディア211は、いわゆるパッケージソフトウエアとして提供することができる。ここで、リムーバブルメディア211としては、例えば、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto Optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリ等がある。
なお、プログラムは、上述したようなリムーバブルメディア211からドライブ210を介してコンピュータにインストールする他、通信網や放送網を介して、コンピュータにダウンロードし、内蔵する記憶部208にインストールすることができる。すなわち、プログラムは、例えば、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送することができる。
コンピュータは、CPU(Central Processing Unit)201を内蔵しており、CPU201には、バス204を介して、入出力インタフェース205が接続されている。
CPU201は、入出力インタフェース205を介して、ユーザによって、入力部206が操作等されることにより指令が入力されると、それに従って、ROM202に格納されているプログラムを実行する。あるいは、CPU201は、記憶部208に格納されたプログラムを、RAM(Random Access Memory)203にロードして実行する。
これにより、CPU201は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU201は、その処理結果を、必要に応じて、例えば、入出力インタフェース205を介して、出力部207から出力、あるいは、通信部209から送信、さらには、記憶部208に記録等させる。
なお、入力部206は、キーボードや、マウス、マイク等で構成される。また、出力部207は、LCD(Liquid Crystal Display)やスピーカ等で構成される。
ここで、本明細書において、コンピュータがプログラムに従って行う処理は、必ずしもフローチャートとして記載された順序に沿って時系列に行われる必要はない。すなわち、コンピュータがプログラムに従って行う処理は、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含む。
また、プログラムは、1のコンピュータ(プロセッサ)により処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
なお、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
また、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
さらに、本技術は、以下のような構成もとることができる。
(1)
所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像をベース画像として符号化し、前記所定のフレームレートのN倍のフレームレートの画像のうちの前記ベース画像以外の画像をノンベース画像として、前記ベース画像を参照して符号化する符号化部と、
前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報を生成する生成部と、
前記符号化部により符号化された前記ベース画像および前記ノンベース画像と、前記生成部により生成された前記表示制御情報とを伝送する伝送部と
を備える符号化装置。
(2)
前記符号化部により符号化された前記ベース画像および前記ノンベース画像と、前記生成部により生成された前記表示制御情報とから、送信データを生成する送信データ生成部
をさらに備え、
前記生成部は、前記表示制御情報と、前記送信データに前記表示制御情報が含まれているかを表す表示制御情報フラグとを生成し、
前記伝送部は、前記送信データ生成部により生成された前記送信データと、前記生成部により生成された前記表示制御情報フラグとを伝送する
前記(1)に記載の符号化装置。
(3)
前記表示制御情報は、前記Nを表す情報を含む
前記(1)または(2)に記載の符号化装置。
(4)
前記表示制御情報は、前記画像がプログレッシブ方式の画像であるか、または、インターレース方式の画像であるかを表す方式情報を含む
前記(1)乃至(3)のいずれかに記載の符号化装置。
(5)
前記表示制御情報は、前記符号化部により符号化された前記ノンベース画像を復号するかを表す復号フラグを含む
前記(1)乃至(4)のいずれかに記載の符号化装置。
(6)
前記表示制御情報は、前記ノンベース画像が前記ベース画像と同一のフレーム画像を構成する画像であるかを表すペア情報を含む
前記(1)乃至(5)のいずれかに記載の符号化装置。
(7)
前記表示制御情報は、前記ベース画像を表示するかを表す表示フラグを含む
前記(1)乃至(6)のいずれかに記載の符号化装置。
(8)
前記表示制御情報は、前記ベース画像がフレーム単位で符号化されているか、または、フィールド単位で符号化されているかを表す符号化単位情報を含む
前記(1)乃至(7)のいずれかに記載の符号化装置。
(9)
符号化装置が、
所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像をベース画像として符号化し、前記所定のフレームレートのN倍のフレームレートの画像のうちの前記ベース画像以外の画像をノンベース画像として、前記ベース画像を参照して符号化する符号化ステップと、
前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報を生成する生成ステップと、
前記符号化ステップの処理により符号化された前記ベース画像および前記ノンベース画像と、前記生成ステップの処理により生成された前記表示制御情報とを伝送する伝送ステップと
を含む符号化方法。
(10)
所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像がベース画像として符号化された結果得られるベース符号化データと、前記ベース画像以外の画像がノンベース画像として前記ベース画像を参照して符号化された結果得られるノンベース符号化データと、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報とを受信する受信部と、
前記受信部により受信された前記ベース符号化データを復号し、前記受信部により受信された前記ノンベース符号化データのうちの少なくとも一部を、前記ベース符号化データの復号の結果得られる前記ベース画像を参照して復号する復号部と、
前記復号部による復号の結果得られる前記ベース画像および前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM倍のフレームレートの画像として表示させる表示制御部と
を備え、
前記受信部により受信された前記表示制御情報は、前記復号部による前記ノンベース符号化データの復号、または、前記表示制御部による表示制御の少なくとも一方に用いられる
復号装置。
(11)
前記受信部により受信された前記ベース符号化データと、前記ノンベース符号化データと、前記表示制御情報とからなる送信データから、前記ベース符号化データと、前記ノンベース符号化データと、前記表示制御情報とを抽出する抽出部
をさらに備え、
前記受信部は、前記送信データと、前記送信データに前記表示制御情報が含まれているかを表す表示制御情報フラグとを受信し、
前記抽出部は、前記受信部により受信された、前記送信データに前記表示制御情報が含まれていることを表す表示制御情報フラグに基づいて、前記受信部により受信された前記送信データから、前記ベース符号化データと、前記ノンベース符号化データと、前記表示制御情報とを抽出し、
前記復号部は、前記抽出部により抽出された前記ベース符号化データを復号し、前記ベース符号化データの復号の結果得られる前記ベース画像を参照して、前記抽出部により抽出された前記ノンベース符号化データを復号する
前記(10)に記載の復号装置。
(12)
前記表示制御情報は、前記Nを表す情報を含み、
前記復号部は、前記Nを表す情報に基づいて前記所定のフレームレートのM倍のフレームレートを決定し、前記M倍のフレームレートに基づいて前記ノンベース符号化データのうちの復号対象を決定し、前記復号対象を復号する
前記(10)または(11)に記載の復号装置。
(13)
前記表示制御情報は、前記画像がプログレッシブ方式の画像であるか、または、インターレース方式の画像であるかを表す方式情報を含み、
前記復号部は、前記方式情報に基づいて前記所定のフレームレートのM倍のフレームレートを決定し、前記M倍のフレームレートに基づいて前記ノンベース符号化データのうちの復号対象を決定し、前記復号対象を復号する
前記(10)乃至(12)のいずれかに記載の復号装置。
(14)
前記表示制御情報は、前記ノンベース符号化データを復号するかを表す復号フラグを含み、
前記復号部は、前記ノンベース符号化データを復号することを表す復号フラグに対応するノンベース符号化データを、前記ベース画像を参照して復号する
前記(10)または(11)に記載の復号装置。
(15)
前記表示制御情報は、前記ノンベース画像が前記ベース画像と同一のフレーム画像を構成する画像であるかを表すペア情報を含み、
前記表示制御部は、前記ペア情報に基づいて、前記所定のフレームレートのM倍のフレームレートの画像とされる前記ベース画像と前記ノンベース画像の表示順を決定する
前記(10)乃至(14)のいずれかに記載の復号装置。
(16)
前記表示制御情報は、前記ベース画像を表示するかを表す表示フラグを含み、
前記表示制御部は、前記ベース画像を表示することを表す前記表示フラグに対応するベース画像と前記ノンベース画像の少なくとも一部とを、前記所定のフレームレートのM倍のフレームレートの画像として表示させる
前記(10)乃至(15)のいずれかに記載の復号装置。
(17)
前記表示制御情報は、前記ベース画像がフレーム単位で符号化されているか、または、フィールド単位で符号化されているかを表す符号化単位情報を含み、
前記表示制御部は、前記符号化単位情報に基づいて、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM倍のフレームレートの、前記符号化単位情報が表す単位の画像として表示させる
前記(10)乃至(16)のいずれかに記載の復号装置。
(18)
復号装置が、
所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像がベース画像として符号化された結果得られるベース符号化データと、前記ベース画像以外の画像がノンベース画像として前記ベース画像を参照して符号化された結果得られるノンベース符号化データと、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報とを受信する受信ステップと、
前記受信ステップの処理により受信された前記ベース符号化データを復号し、前記受信ステップの処理により受信された前記ノンベース符号化データのうちの少なくとも一部を、前記ベース符号化データの復号の結果得られる前記ベース画像を参照して復号する復号ステップと、
前記復号ステップの処理による復号の結果得られる前記ベース画像および前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM倍のフレームレートの画像として表示させる表示制御ステップと
を含み、
前記受信ステップの処理により受信された前記表示制御情報は、前記復号ステップの処理による前記ノンベース符号化データの復号、または、前記表示制御ステップの処理による表示制御の少なくとも一方に用いられる
復号方法。
(19)
所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像がベース画像として符号化された結果得られるベース符号化データと、前記ベース画像以外の画像がノンベース画像として前記ベース画像を参照して符号化された結果得られるノンベース符号化データと、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報とを受信する受信部と、
前記受信部により受信された前記ベース符号化データを復号する復号部と、
前記復号部による復号の結果得られる前記ベース画像を、前記所定のフレームレートの画像として表示させる表示制御部と
を備える復号装置。
(20)
復号装置が、
所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像がベース画像として符号化された結果得られるベース符号化データと、前記ベース画像以外の画像がノンベース画像として前記ベース画像を参照して符号化された結果得られるノンベース符号化データと、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報とを受信する受信ステップと、
前記受信ステップの処理により受信された前記ベース符号化データを復号する復号ステップと、
前記復号ステップの処理による復号の結果得られる前記ベース画像を、前記所定のフレームレートの画像として表示させる表示制御ステップと
復号方法。
52 TV送信機, 53,54 TV受信機, 61 ベースエンコーダ, 62 ノンベースエンコーダ, 71 ベースデコーダ, 72 ノンベースデコーダ, 81 デコーダ, 102 SEI生成部, 103 NAL生成部, 106 アンテナ, 121 アンテナ, 124 NALフィルタ, 127 表示制御部, 141 アンテナ, 146 表示制御部

Claims (20)

  1. 所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像をベース画像として符号化し、前記所定のフレームレートのN倍のフレームレートの画像のうちの前記ベース画像以外の画像をノンベース画像として、前記ベース画像を参照して符号化する符号化部と、
    前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報を生成する生成部と、
    前記符号化部により符号化された前記ベース画像および前記ノンベース画像と、前記生成部により生成された前記表示制御情報とを伝送する伝送部と
    を備える符号化装置。
  2. 前記符号化部により符号化された前記ベース画像および前記ノンベース画像と、前記生成部により生成された前記表示制御情報とから、送信データを生成する送信データ生成部
    をさらに備え、
    前記生成部は、前記表示制御情報と、前記送信データに前記表示制御情報が含まれているかを表す表示制御情報フラグとを生成し、
    前記伝送部は、前記送信データ生成部により生成された前記送信データと、前記生成部により生成された前記表示制御情報フラグとを伝送する
    請求項1に記載の符号化装置。
  3. 前記表示制御情報は、前記Nを表す情報を含む
    請求項1に記載の符号化装置。
  4. 前記表示制御情報は、前記画像がプログレッシブ方式の画像であるか、または、インターレース方式の画像であるかを表す方式情報を含む
    請求項1に記載の符号化装置。
  5. 前記表示制御情報は、前記符号化部により符号化された前記ノンベース画像を復号するかを表す復号フラグを含む
    請求項1に記載の符号化装置。
  6. 前記表示制御情報は、前記ノンベース画像が前記ベース画像と同一のフレーム画像を構成する画像であるかを表すペア情報を含む
    請求項1に記載の符号化装置。
  7. 前記表示制御情報は、前記ベース画像を表示するかを表す表示フラグを含む
    請求項1に記載の符号化装置。
  8. 前記表示制御情報は、前記ベース画像がフレーム単位で符号化されているか、または、フィールド単位で符号化されているかを表す符号化単位情報を含む
    請求項1に記載の符号化装置。
  9. 符号化装置が、
    所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像をベース画像として符号化し、前記所定のフレームレートのN倍のフレームレートの画像のうちの前記ベース画像以外の画像をノンベース画像として、前記ベース画像を参照して符号化する符号化ステップと、
    前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報を生成する生成ステップと、
    前記符号化ステップの処理により符号化された前記ベース画像および前記ノンベース画像と、前記生成ステップの処理により生成された前記表示制御情報とを伝送する伝送ステップと
    を含む符号化方法。
  10. 所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像がベース画像として符号化された結果得られるベース符号化データと、前記ベース画像以外の画像がノンベース画像として前記ベース画像を参照して符号化された結果得られるノンベース符号化データと、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報とを受信する受信部と、
    前記受信部により受信された前記ベース符号化データを復号し、前記受信部により受信された前記ノンベース符号化データのうちの少なくとも一部を、前記ベース符号化データの復号の結果得られる前記ベース画像を参照して復号する復号部と、
    前記復号部による復号の結果得られる前記ベース画像および前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM倍のフレームレートの画像として表示させる表示制御部と
    を備え、
    前記受信部により受信された前記表示制御情報は、前記復号部による前記ノンベース符号化データの復号、または、前記表示制御部による表示制御の少なくとも一方に用いられる
    復号装置。
  11. 前記受信部により受信された前記ベース符号化データと、前記ノンベース符号化データと、前記表示制御情報とからなる送信データから、前記ベース符号化データと、前記ノンベース符号化データと、前記表示制御情報とを抽出する抽出部
    をさらに備え、
    前記受信部は、前記送信データと、前記送信データに前記表示制御情報が含まれているかを表す表示制御情報フラグとを受信し、
    前記抽出部は、前記受信部により受信された、前記送信データに前記表示制御情報が含まれていることを表す表示制御情報フラグに基づいて、前記受信部により受信された前記送信データから、前記ベース符号化データと、前記ノンベース符号化データと、前記表示制御情報とを抽出し、
    前記復号部は、前記抽出部により抽出された前記ベース符号化データを復号し、前記ベース符号化データの復号の結果得られる前記ベース画像を参照して、前記抽出部により抽出された前記ノンベース符号化データを復号する
    請求項10に記載の復号装置。
  12. 前記表示制御情報は、前記Nを表す情報を含み、
    前記復号部は、前記Nを表す情報に基づいて前記所定のフレームレートのM倍のフレームレートを決定し、前記M倍のフレームレートに基づいて前記ノンベース符号化データのうちの復号対象を決定し、前記復号対象を復号する
    請求項10に記載の復号装置。
  13. 前記表示制御情報は、前記画像がプログレッシブ方式の画像であるか、または、インターレース方式の画像であるかを表す方式情報を含み、
    前記復号部は、前記方式情報に基づいて前記所定のフレームレートのM倍のフレームレートを決定し、前記M倍のフレームレートに基づいて前記ノンベース符号化データのうちの復号対象を決定し、前記復号対象を復号する
    請求項10に記載の復号装置。
  14. 前記表示制御情報は、前記ノンベース符号化データを復号するかを表す復号フラグを含み、
    前記復号部は、前記ノンベース符号化データを復号することを表す復号フラグに対応するノンベース符号化データを、前記ベース画像を参照して復号する
    請求項10に記載の復号装置。
  15. 前記表示制御情報は、前記ノンベース画像が前記ベース画像と同一のフレーム画像を構成する画像であるかを表すペア情報を含み、
    前記表示制御部は、前記ペア情報に基づいて、前記所定のフレームレートのM倍のフレームレートの画像とされる前記ベース画像と前記ノンベース画像の表示順を決定する
    請求項10に記載の復号装置。
  16. 前記表示制御情報は、前記ベース画像を表示するかを表す表示フラグを含み、
    前記表示制御部は、前記ベース画像を表示することを表す前記表示フラグに対応するベース画像と前記ノンベース画像の少なくとも一部とを、前記所定のフレームレートのM倍のフレームレートの画像として表示させる
    請求項10に記載の復号装置。
  17. 前記表示制御情報は、前記ベース画像がフレーム単位で符号化されているか、または、フィールド単位で符号化されているかを表す符号化単位情報を含み、
    前記表示制御部は、前記符号化単位情報に基づいて、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM倍のフレームレートの、前記符号化単位情報が表す単位の画像として表示させる
    請求項10に記載の復号装置。
  18. 復号装置が、
    所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像がベース画像として符号化された結果得られるベース符号化データと、前記ベース画像以外の画像がノンベース画像として前記ベース画像を参照して符号化された結果得られるノンベース符号化データと、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報とを受信する受信ステップと、
    前記受信ステップの処理により受信された前記ベース符号化データを復号し、前記受信ステップの処理により受信された前記ノンベース符号化データのうちの少なくとも一部を、前記ベース符号化データの復号の結果得られる前記ベース画像を参照して復号する復号ステップと、
    前記復号ステップの処理による復号の結果得られる前記ベース画像および前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM倍のフレームレートの画像として表示させる表示制御ステップと
    を含み、
    前記受信ステップの処理により受信された前記表示制御情報は、前記復号ステップの処理による前記ノンベース符号化データの復号、または、前記表示制御ステップの処理による表示制御の少なくとも一方に用いられる
    復号方法。
  19. 所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像がベース画像として符号化された結果得られるベース符号化データと、前記ベース画像以外の画像がノンベース画像として前記ベース画像を参照して符号化された結果得られるノンベース符号化データと、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報とを受信する受信部と、
    前記受信部により受信された前記ベース符号化データを復号する復号部と、
    前記復号部による復号の結果得られる前記ベース画像を、前記所定のフレームレートの画像として表示させる表示制御部と
    を備える復号装置。
  20. 復号装置が、
    所定のフレームレートのN(Nは2以上の整数)倍のフレームレートの画像のうちの、前記所定のフレームレートの画像がベース画像として符号化された結果得られるベース符号化データと、前記ベース画像以外の画像がノンベース画像として前記ベース画像を参照して符号化された結果得られるノンベース符号化データと、前記ベース画像と前記ノンベース画像の少なくとも一部を、前記所定のフレームレートのM(Mは2以上N以下の整数)倍のフレームレートの画像として表示する際に用いる表示制御情報とを受信する受信ステップと、
    前記受信ステップの処理により受信された前記ベース符号化データを復号する復号ステップと、
    前記復号ステップの処理による復号の結果得られる前記ベース画像を、前記所定のフレームレートの画像として表示させる表示制御ステップと
    復号方法。
JP2011164422A 2011-07-27 2011-07-27 符号化装置および符号化方法、並びに、復号装置および復号方法 Abandoned JP2013030907A (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2011164422A JP2013030907A (ja) 2011-07-27 2011-07-27 符号化装置および符号化方法、並びに、復号装置および復号方法
US14/233,175 US20140168366A1 (en) 2011-07-27 2012-07-11 Encoding device and encoding method, and decoding device and decoding method
KR20147000873A KR20140057242A (ko) 2011-07-27 2012-07-11 부호화 장치 및 부호화 방법과 복호 장치 및 복호 방법
PCT/JP2012/067716 WO2013015116A1 (ja) 2011-07-27 2012-07-11 符号化装置および符号化方法、並びに、復号装置および復号方法
CN201280035866.5A CN103688546A (zh) 2011-07-27 2012-07-11 编码装置和编码方法、以及解码装置和解码方法
EP12816829.1A EP2739054A1 (en) 2011-07-27 2012-07-11 Encoding device and encoding method, and decoding device and decoding method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011164422A JP2013030907A (ja) 2011-07-27 2011-07-27 符号化装置および符号化方法、並びに、復号装置および復号方法

Publications (1)

Publication Number Publication Date
JP2013030907A true JP2013030907A (ja) 2013-02-07

Family

ID=47600968

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011164422A Abandoned JP2013030907A (ja) 2011-07-27 2011-07-27 符号化装置および符号化方法、並びに、復号装置および復号方法

Country Status (6)

Country Link
US (1) US20140168366A1 (ja)
EP (1) EP2739054A1 (ja)
JP (1) JP2013030907A (ja)
KR (1) KR20140057242A (ja)
CN (1) CN103688546A (ja)
WO (1) WO2013015116A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016190089A1 (ja) * 2015-05-22 2016-12-01 ソニー株式会社 送信装置、送信方法、画像処理装置、画像処理方法、受信装置および受信方法

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10284840B2 (en) * 2013-06-28 2019-05-07 Electronics And Telecommunications Research Institute Apparatus and method for reproducing 3D image
JP5836424B2 (ja) * 2014-04-14 2015-12-24 ソニー株式会社 送信装置、送信方法、受信装置および受信方法
US10432946B2 (en) * 2014-12-23 2019-10-01 Apple Inc. De-juddering techniques for coded video
US11006069B2 (en) * 2015-09-10 2021-05-11 Sony Corporation Transmission device, transmission method, reception device, and reception method
KR102537853B1 (ko) * 2015-10-13 2023-05-31 소니그룹주식회사 송신 장치, 송신 방법, 수신 장치 및 수신 방법
CN109922333B (zh) * 2017-12-13 2020-06-30 瑞昱半导体股份有限公司 视频扫描方式侦测方法与系统

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3449370B2 (ja) * 1991-12-27 2003-09-22 ソニー株式会社 画像データ復号化方法及び装置
JPH07123447A (ja) 1993-10-22 1995-05-12 Sony Corp 画像信号記録方法および画像信号記録装置、画像信号再生方法および画像信号再生装置、画像信号符号化方法および画像信号符号化装置、画像信号復号化方法および画像信号復号化装置、ならびに画像信号記録媒体
JP3841246B2 (ja) * 1998-07-24 2006-11-01 Kddi株式会社 ビデオ階層符号化装置
JP2003037823A (ja) * 2001-07-24 2003-02-07 Matsushita Electric Ind Co Ltd 映像表示処理システム
JP3935124B2 (ja) * 2003-08-29 2007-06-20 株式会社東芝 デジタルav情報記録媒体とこの媒体を用いる記録方法、再生方法および再生装置
CN101686365B (zh) * 2004-04-28 2011-12-07 松下电器产业株式会社 流产生装置和方法,流再现装置、方法和系统,流记录方法
JP2009177531A (ja) * 2008-01-24 2009-08-06 Panasonic Corp 画像記録装置、画像再生装置、記録媒体、画像記録方法及びプログラム
CN102160375B (zh) * 2008-09-16 2015-04-22 汤姆逊许可证公司 使用可扩展视频编码的数字线性tv节目的递送方法
JP2011109397A (ja) 2009-11-17 2011-06-02 Sony Corp 画像送信方法、画像受信方法、画像送信装置、画像受信装置、及び画像伝送システム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016190089A1 (ja) * 2015-05-22 2016-12-01 ソニー株式会社 送信装置、送信方法、画像処理装置、画像処理方法、受信装置および受信方法
JPWO2016190089A1 (ja) * 2015-05-22 2018-03-08 ソニー株式会社 送信装置、送信方法、画像処理装置、画像処理方法、受信装置および受信方法
US10904592B2 (en) 2015-05-22 2021-01-26 Sony Corporation Transmission apparatus, transmission method, image processing apparatus, image processing method, reception apparatus, and reception method

Also Published As

Publication number Publication date
CN103688546A (zh) 2014-03-26
WO2013015116A1 (ja) 2013-01-31
KR20140057242A (ko) 2014-05-12
US20140168366A1 (en) 2014-06-19
EP2739054A1 (en) 2014-06-04

Similar Documents

Publication Publication Date Title
US9218644B2 (en) Method and system for enhanced 2D video display based on 3D video input
JP6013920B2 (ja) ビデオコンテンツを処理するための装置および方法
US8963995B2 (en) Stereo image data transmitting apparatus, stereo image data transmitting method, stereo image data receiving apparatus, and stereo image data receiving method
JP6365697B2 (ja) 受信装置および受信方法
WO2013015116A1 (ja) 符号化装置および符号化方法、並びに、復号装置および復号方法
US20110149022A1 (en) Method and system for generating 3d output video with 3d local graphics from 3d input video
JP6040932B2 (ja) 立体視に対応したビデオストリームを生成、再構築する方法、および関連する符号化および復号化デバイス
US9338430B2 (en) Encoding device, encoding method, decoding device, and decoding method
US9667941B2 (en) Encoding device, encoding method, decoding device, and decoding method
EP2337361A2 (en) Method and system for synchronizing 3D glasses with 3D video displays
CA2760100A1 (en) Broadcast transmitter, broadcast receiver and 3d video data processing method thereof
CA2772927C (en) Cable broadcast receiver and 3d video data processing method thereof
EP2337365A2 (en) Method and system for pulldown processing for 3D video
US9762884B2 (en) Encoding device, encoding method, decoding device, and decoding method for encoding multiple viewpoints for compatibility with existing mode allowing fewer viewpoints
US20110149040A1 (en) Method and system for interlacing 3d video
KR20140000136A (ko) 화상 데이터 송신 장치, 화상 데이터 송신 방법, 화상 데이터 수신 장치 및 화상 데이터 수신 방법
US20110150355A1 (en) Method and system for dynamic contrast processing for 3d video
WO2009136681A1 (en) Method for encoding and decoding image, and apparatus for displaying image
US20110149021A1 (en) Method and system for sharpness processing for 3d video
US20120062698A1 (en) Apparatus and method for transmitting/receiving data in communication system
KR20120026013A (ko) 통신 시스템에서 데이터 송수신 장치 및 방법
JP2013021683A (ja) 映像信号処理装置及び映像信号処理方法、映像表示装置及び映像表示方法、並びに映像処理システム
KR20140076487A (ko) 멀티화면을 제공하는 방송 시스템 및 방송 방법
KR20130055248A (ko) 3차원 텔레비전 수신기를 위한 영상 포맷 변환 방법 및 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140605

A762 Written abandonment of application

Free format text: JAPANESE INTERMEDIATE CODE: A762

Effective date: 20150402