CN102714746A - 立体图像数据传送设备、立体图像数据传送方法、以及立体图像数据接收设备 - Google Patents

立体图像数据传送设备、立体图像数据传送方法、以及立体图像数据接收设备 Download PDF

Info

Publication number
CN102714746A
CN102714746A CN2011800060755A CN201180006075A CN102714746A CN 102714746 A CN102714746 A CN 102714746A CN 2011800060755 A CN2011800060755 A CN 2011800060755A CN 201180006075 A CN201180006075 A CN 201180006075A CN 102714746 A CN102714746 A CN 102714746A
Authority
CN
China
Prior art keywords
data
image data
parallax information
stereoscopic image
parallax
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN2011800060755A
Other languages
English (en)
Inventor
塚越郁夫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN102714746A publication Critical patent/CN102714746A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/139Format conversion, e.g. of frame-rate or size
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/183On-screen display [OSD] information, e.g. subtitles or menus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194Transmission of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/08Systems for the simultaneous or sequential transmission of more than one television signal, e.g. additional information signals, the signals occupying wholly or partially the same frequency band, e.g. by time division
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/08Systems for the simultaneous or sequential transmission of more than one television signal, e.g. additional information signals, the signals occupying wholly or partially the same frequency band, e.g. by time division
    • H04N7/081Systems for the simultaneous or sequential transmission of more than one television signal, e.g. additional information signals, the signals occupying wholly or partially the same frequency band, e.g. by time division the additional information signals being transmitted by means of a subcarrier
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23605Creation or processing of packetized elementary streams [PES]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23614Multiplexing of additional data and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4343Extraction or processing of packetized elementary streams [PES]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4345Extraction or processing of SI, e.g. extracting service information from an MPEG stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4348Demultiplexing of additional data and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/816Monomedia components thereof involving special video data, e.g 3D video
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/003Aspects relating to the "2D+depth" image format
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/005Aspects relating to the "3D+depth" image format
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/08Systems for the simultaneous or sequential transmission of more than one television signal, e.g. additional information signals, the signals occupying wholly or partially the same frequency band, e.g. by time division
    • H04N7/083Systems for the simultaneous or sequential transmission of more than one television signal, e.g. additional information signals, the signals occupying wholly or partially the same frequency band, e.g. by time division with signal insertion during the vertical and the horizontal blanking interval, e.g. MAC data signals

Abstract

在显示立体图像时为了使能在图像和重叠信息的显示中,例如OSD或其它图形信息,容易地保持在透视图方面的一致性。视差信息设置产生单元(122)基于视差图产生预定像素位置的视差信息设置。例如,预定像素位置为视差信息值最高的像素位置,换句话说,被感知为最近的像素位置。视差信息设置包括指示相对于整个图像的相对位置的位置数据和用于该位置的视差数据。视差信息设置在空间上与立体图像数据相同步。该视差信息设置与立体图像的分辨率无关,并且也与监视器的显示分辨率或监视器尺寸无关。在通过分级地均等地划分预定广播节目的广播节目时段而获得的每个时段,视差信息设置产生单元(122)产生视差信息设置。视差信息设置在时间上与立体图像数据同步。

Description

立体图像数据传送设备、立体图像数据传送方法、以及立体图像数据接收设备
技术领域
本发明涉及一种立体图像数据传送设备、立体图像数据传送方法、以及立体图像数据接收设备,并且更具体地涉及一种能够在接收侧满意地显示在OSD等中包括的图形信息的立体图像数据传送设备。
背景技术
例如,在专利文献1中,已经提出了使用电视广播电波来传送立体图像数据的传送系统。在这样的情况下,传送包括左眼图像数据和右眼图像数据的立体图像数据,并且在电视接收器中进行使用双目视差的立体图像显示器。
图68图示了对象(物体)在屏幕上的水平显示位置和其立体图像在使用双目视差的立体图像显示器中的再现位置之间的关系。例如,对于对象A,其左图像La被显示为向右侧偏移并且其右图像Ra被显示为向左侧偏移,如图中的屏幕上所示,左视线和右视线在屏幕面的前面彼此交叉,由此立体图像的再现位置位于屏幕面的前面。
另外,例如,对于对象B,其左图像Lb和右图像Rb被显示在相同位置,如图中的屏幕上所示,左视线和右视线在屏幕面彼此交叉,由此立体图像的再现位置位于屏幕面上。此外,例如,对于对象C,其左图像Lc被显示为向左侧偏移并且其右图像Rc被显示为向右侧偏移,如图中的屏幕上所示,左视线和右视线在屏幕面的后面彼此交叉,由此立体图像的再现位置位于屏幕面的后面。
引用列表
专利文献
专利文献1:日本专利申请特许公开No.2005-6114
发明内容
本发明要解决的问题
如上所述,在立体图像显示中,观察者通常通过使用双目视差来辨别立体图像的透视图。而且,对于重叠图像上的重叠信息,例如,在屏上显示(OSD)等中包括的图形信息,依据立体图像显示器,希望不仅呈现二维深度而且呈现三维深度。
例如,在以重叠方式在立体图像上显示在OSD等中包括的图形信息的情况下,除非在透视图方面在图像中最接近于观看者的物体(对象)的前面显示图形信息,否则观看者可能感受到透视图中的矛盾(contradiction)。换句话说,在以重叠方式在图像上显示在OSD等中包括的图形信息的情况下,期望通过依据图像中每个对象的透视图执行视差调节来保持透视图的一致性。
本发明的目的是在显示立体图像时在重叠信息(例如,在OSD等中包括的图形信息)的显示中保持图像内对象之间的透视图一致性。
问题的解决方案
根据本发明构思,提供了一种立体图像数据传送设备,其包括:图像数据输出单元,用于输出预定节目的立体图像数据,该立体图像数据包括左眼图像数据和右眼图像数据;视差信息设置输出单元,用于输出与从图像数据输出单元输出的预定节目的立体图像数据相对应的预定像素位置的视差信息设置;以及传送单元,用于传送从图像数据输出单元输出的立体图像数据和从视差信息设置输出单元输出的视差信息设置,其中,视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据。
根据本发明,由图像数据输出单元输出预定节目的立体图像数据,该立体图像数据包括左眼图像数据和右眼图像数据。另外,由视差信息设置输出单元输出与该预定节目的立体图像数据相对应的预定像素位置的视差信息设置。然后,传送单元传送立体图像数据和视差信息设置。
视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据。相应地,视差信息设置在空间上与立体图像数据相同步。另外,该视差信息设置与立体图像的分辨率无关,并且也与监视器的显示分辨率或监视器尺寸无关。
在本发明中,例如,位置数据由表示从原点到预定像素位置的方向的方向数据和表示从原点到预定像素位置的距离的距离数据形成。在此情况下,例如,视差数据可以是表示用于预定像素位置的视差信息的值与距原点的距离的比率的数据,或者可以是用于预定像素位置的在特定显示分辨率(例如,全高清HD)下的视差信息的值。
在本发明中,例如,位置信息由表示从原点到预定像素位置的水平距离的水平距离和表示从原点到预定像素位置的垂直距离的垂直距离形成。在此情况下,例如,视差数据可以是表示用于预定像素位置的视差信息的值相对于特定显示分辨率的比率的数据,或者可以是用于预定像素位置的在特定显示分辨率下的视差信息的值。
在本发明中,例如,预定像素位置的数量不限于一个,而可以是两个或更多。例如,预定像素位置是第一像素位置和第二像素位置,在第一像素位置处,视差信息的值最大,而在第二像素位置处,视差信息的值最小。在此情况下,接收侧可以获取视差信息值的最大值和最小值之间的宽度,由此可以调节立体图像的深度。
在本发明中,例如,视差信息设置输出单元输出通过以分级方式均等地划分预定节目的时段而获得的每个划分时段的视差信息设置。相应地,视差信息设置在时间上与立体图像数据相同步。
在本发明中,例如,传送单元传送包括从图像数据传送单元输出的预定节目的立体图像数据的传输流,并且在被插入该传输流中的PSI信息或SI信息的预定位置处插入包括从视差信息设置输出单元输出的视差信息设置的描述符。相应地,在接收侧,可以与图像数据的解码器无关地获取视差信息设置。
在本发明中,例如,传送单元传送视差信息设置,该视差信息设置被包括在用于传送预定信息的基本流中。在此情况下,例如,其它信息是立体图像数据,而视差信息设置可以被插入到基本流的首标部分的用户数据区域中。另外,在此情况下,例如,可以配置使得预定信息是字幕数据(subtitle data)或独立数据(independent data),而基本流包括视差信息被插入其中的片段或分组。
如上,根据本发明,连同预定节目的包括左眼图像数据和右眼图像数据的立体图像数据一起,传送与该预定节目的立体图像数据相对应的预定像素位置的视差信息设置。相应地,在接收侧,通过使用视差信息设置,可以使用重叠左眼图像和右眼图像的重叠信息,例如诸如OSD之类的图形信息,对于该图形信息已经根据图像内每个对象的透视图执行了视差调节。因此,在显示诸如OSD之类的图形信息时,可以保持图像内每个对象的透视图的一致性。
另外,根据本发明,视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据。相应地,视差信息设置与立体图像的分辨率无关,并且也与监视器的显示分辨率或监视器尺寸无关。因此,在接收侧,可以通过使用视差信息设置而与监视器的显示分辨率或监视器尺寸无关地容易地执行视差调节。
另外,根据本发明的另一构思,提供了一种视差图像数据接收设备,其包括:接收单元,用于接收预定节目的包括左眼图像数据和右眼图像数据的立体图像数据、以及与预定节目的立体图像数据相对应的预定像素位置的视差信息设置;重叠信息数据输出单元,用于输出与在由接收单元接收的立体图像数据中包括的左眼图像数据相对应的左眼重叠信息的数据、以及与在由接收单元接收的立体图像数据中包括的右眼图像数据相对应的右眼重叠信息的数据;以及数据重叠单元,用于将从重叠信息数据输出单元输出的左眼重叠信息的数据和右眼重叠信息的数据、重叠于在由接收单元接收的立体图像数据中包括的左眼图像数据和右眼图像数据,其中,视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据,并且其中,重叠信息数据输出单元基于由接收单元接收的视差信息设置使得在左眼重叠信息和右眼重叠信息之间出现视差。
可以在与传输流不同的常见文件格式中实现该构思,并且可以将视差信息插入到该流内部。
根据本发明,由接收单元接收预定节目的包括左眼图像数据和右眼图像数据的立体图像数据、以及与预定节目的立体图像数据相对应的预定像素位置的视差信息设置。这里,视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据。相应地,视差信息设置在空间上与立体图像数据相同步。另外,该视差信息设置与立体图像的分辨率无关,并且也与监视器的显示分辨率或监视器尺寸无关。
通过重叠信息数据输出单元,输出了与在由接收单元接收的立体图像数据中包括的左眼图像数据相对应的左眼重叠信息的数据、以及与在由接收单元接收的立体图像数据中包括的右眼图像数据相对应的右眼重叠信息的数据。然后,通过数据重叠单元,从重叠信息数据输出单元输出的左眼重叠信息的数据和右眼重叠信息的数据、以及在由接收单元接收的立体图像数据中包括的左眼图像数据和右眼图像数据彼此重叠。相应地,以重叠方式在立体图像上显示诸如OSD之类的图形信息。
通过重叠信息数据输出单元,基于由接收单元接收的视差信息设置,使得在左眼重叠信息和右眼重叠信息之间出现视差。因此,根据本发明,在显示诸如OSD之类的图形信息时,可以保持图像内每个对象的透视图中的一致性。
另外,根据本发明,视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据。相应地,视差信息设置与立体图像的分辨率无关,并且也与监视器的显示分辨率或监视器尺寸无关。因此,可以通过使用视差信息设置而与监视器的显示分辨率或监视器尺寸无关地容易地执行视差调节。
根据本发明的另一构思,提供了一种立体图像数据接收设备,其包括:接收单元,用于接收预定节目的包括左眼图像数据和右眼图像数据的立体图像数据、以及与预定节目的立体图像数据相对应的预定像素位置的视差信息设置;以及传送单元,用于将由接收单元接收的左眼图像数据、右眼图像数据、和视差信息设置经由传送线传送到外部设备,其中,视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据。
根据本发明,通过接收单元,接收预定节目的包括左眼图像数据和右眼图像数据的立体图像数据、以及与预定节目的立体图像数据相对应的预定像素位置的视差信息设置。这里,视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据。相应地,视差信息设置在空间上与立体图像数据相同步。另外,视差信息设置与立体图像的分辨率无关,并且也与监视器的显示分辨率或监视器尺寸无关。
然后,通过传送单元,将所接收的左眼图像数据、右眼图像数据、和视差信息设置经由传送线传送到外部设备。在本发明中,例如,传送单元通过使用差分信号经由传送线将图像数据经由多个信道传送到外部设备,并且传送单元通过将视差信息设置插入图像数据的消隐时段中来将视差信息传送到外部设备。
另外,在本发明中,例如,传送单元包括:传送数据产生单元,用于以视频场时段为单位来产生传送数据,所述视频场时段包括根据垂直同步信号被分割开的水平消隐间隔、垂直消隐间隔和有效视频间隔;以及传送数据传送单元,用于通过使用差分信号经由多个信道经由传送线将传送数据产生单元产生的传送数据传送到外部设备,其中,有效视频间隔包括主视频区域和辅视频区域,并且传送数据产生单元将图像数据布置在主视频区域中并将与布置在主视频区域中的图像数据相关的视差信息设置布置在辅视频区域中。
如上,根据本发明,经由传送线将与预定节目的立体图像数据相对应的预定像素位置的视差信息设置连同左眼图像数据和右眼图像数据一起传送到外部设备。相应地,在外部设备中,例如,诸如电视接收器之类的图像显示设备,通过使用视差信息设置,可以使用重叠左眼图像和右眼图像的重叠信息,例如诸如OSD之类的图形信息,对于该图形信息,已经根据图像内每个对象的透视图执行了视差调节。因此,在显示诸如OSD之类的图形信息时,可以保持图像内每个对象的透视图中的一致性。
另外,根据本发明,视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据。相应地,视差信息设置与立体图像的分辨率无关,并且也与监视器的显示分辨率或监视器尺寸无关。因此,在外部设备中,例如,诸如电视接收器之类的图像显示设备,可以通过使用视差信息设置而与监视器的显示分辨率或监视器尺寸无关地容易地执行视差调节。
另外,根据本发明的另一构思,提供了一种立体图像数据传送设备,其包括:图像数据输出单元,用于输出预定节目的包括左眼图像数据和右眼图像数据的立体图像数据;视差信息输出单元,用于输出与从图像数据输出单元的预定节目的立体图像数据相对应的视差信息;以及传送单元,用于输出从图像数据输出单元输出的立体图像数据和从视差信息输出单元输出的视差信息,其中,传送单元将包括视差信息的片段或分组插入到用于传送预定信息的基本流中,并且所述片段或分组还包括表示视差信息的使用定时的定时信息。
根据本发明,通过图像数据输出单元,输出预定节目的包括左眼图像数据和右眼图像数据的立体图像数据。另外,通过视差信息输出单元,输出与预定节目的立体图像数据相对应的视差信息。该视差信息例如由表示位置或区域的位置数据和用于该区域的视差数据形成。在此情况下,存在位置数据表示相对于整个图像的相对位置的位置数据的情况、以及位置数据表示在图像内的绝对位置的情况等。
通过传送单元,传送从图像数据输出单元输出的立体图像数据和从视差信息输出单元输出的视差信息。在此情况下,在传送单元中,将包括视差信息的片段或分组插入到用于传送预定信息(诸如字幕或独立数据)的基本流中。在所述片段或分组中,还包括表示视差信息的使用定时的定时信息。
如上,根据本发明,连同预定节目的包括左眼图像数据和右眼图像数据的立体图像数据一起,传送与预定节目的立体图像数据对应的视差信息以及视差信息的使用定时信息。相应地,在接收侧,通过使用视差信息,可以使用重叠左眼图像和右眼图像的重叠信息,例如诸如OSD之类的图形信息,对于该图形信息,已经根据图像内每个对象的透视图执行了视差调节。因此,在显示诸如OSD之类的图形信息时,可以保持图像内每个对象的透视图中的一致性。
另外,在本发明中,例如,片段或分组还可以包括表示片段或分组是否连续出现的标志信息。在此情况下,在接收侧,可以基于标志信息检查其中包括视差信息的片段或分组是否连续出现,相应地,可以预先检查视差信息等更新的可能性。
发明效果
根据本发明,在显示立体图像时显示重叠信息(例如诸如OSD之类的图形信息)的时候,可以容易地保持图像内各对象之间的透视图的一致性。
附图说明
图1是图示作为本发明实施例的立体图像显示系统的配置的示例的框图。
图2是图示广播站中的传送数据产生单元的配置的示例的框图。
图3是图示具有1920×1080P的像素格式的图像数据的图。
图4是图示作为立体图像数据(3D图像数据)的传送类型的“上下”类型、“左右”类型、和“帧连续”类型的图。
图5是图示检测右眼图像相对于左眼图像的视差向量的示例的图。
图6是图示以块匹配类型来计算视差向量的图。
图7是图示产生用于通过以分级方式均等地划分节目时段而获得的每个划分时段的视差信息设置的图。
图8是图示传输流的配置的示例的图(在EIT下插入包括视差信息设置的描述符)。
图9是图示传输流的配置的示例的图(在PMT中包括的节目描述符中插入包括视差信息设置的描述符)。
图10是图示传输流的配置的示例的图(在视频基本环的描述符部分中布置包括视差信息设置的描述符)。
图11是图示在“情况1”下产生的视差信息设置的图。
图12是图示在“情况1”下产生的视差信息设置的图。
图13是图示在“情况1”下产生视差信息设置的处理序列的流程图。
图14是图示在“情况3”下产生的视差信息设置中包括的方向数据的图。
图15是图示在“情况3”下产生的视差信息设置的图。
图16是图示在“情况3”下产生的视差信息设置的图。
图17是图示在“情况3”下产生视差信息设置的处理序列的流程图。
图18是图示在“情况5”下产生的视差信息设置(坐标模式0)的图。
图19是图示在“情况5”下产生的视差信息设置(坐标模式1)的图。
图20是图示在“情况5”下产生视差信息设置的处理序列的流程图。
图21是图示在“情况6”下产生的视差信息设置中包括的视差数据(Relative_Disparity_radio)的图。
图22是图示在“情况1”下产生的视差信息设置的内容的示例的图。
图23是图示在“情况2”下产生的视差信息设置的内容的示例的图。
图24是图示在“情况3”下产生的视差信息设置的内容的示例的图。
图25是图示在“情况4”下产生的视差信息设置的内容的示例的图。
图26是图示视差信息设置的内容的示例中的指定内容的主数据(语法)的图。
图27是图示在“情况5”下产生的视差信息设置的内容的示例的图。
图28是图示在“情况6”下产生的视差信息设置的内容的示例的图。
图29是图示视差信息设置的内容的示例中的指定内容(语义)的主数据的图。
图30是图示包括在“情况1”下产生的视差信息设置的描述符(z-OSD描述符)的示例的图。
图31是图示包括在“情况2”下产生的视差信息设置的描述符(z-OSD描述符)的示例的图。
图32是图示包括在“情况3”下产生的视差信息设置的描述符(z-OSD描述符)的示例的图。
图33是图示包括在“情况4”下产生的视差信息设置的描述符(z-OSD描述符)的示例的图。
图34是图示包括在“情况5”下产生的视差信息设置的描述符(z-OSD描述符)的示例的图。
图35是图示包括在“情况6”下产生的视差信息设置的描述符(z-OSD描述符)的示例的图。
图36是图示机顶盒的配置的示例的框图。
图37是图示电视接收器的配置的示例的框图。
图38是图示接收侧的用于在“情况1”下产生的视差信息设置的再现处理序列的流程图。
图39是图示接收侧的用于在“情况1”下产生的视差信息设置的再现处理的图。
图40是图示接收侧的用于在“情况1”下产生的视差信息设置的再现处理的图。
图41是图示接收侧的用于在“情况6”下产生的视差信息设置的再现处理序列的流程图。
图42是图示根据监视器尺寸差异的视差信息和位置之间的关系的图。
图43是图示根据分辨率差异的视差信息和位置之间的关系的图。
图44是示意性地图示在像素沿水平方向平移半个像素的情况下的内插的示例的图。
图45是图示HDMI传送单元(HDMI源)和HDMI接收单元(HDMI宿)的配置的框图。
图46是图示TMDS传送数据(在传送具有水平1920像素×垂直180行的图像数据的情况下)的结构的示例的图。
图47是图示源设备或宿设备的HDMI电缆所连接的HDMI端子的引脚布置(类型A)的图。
图48是图示E-EDID的数据结构的示例的图。
图49是图示供应商专用区域(HDMI供应商专用数据块)的数据结构的示例的图。
图50是图示作为立体图像数据的TMDS传送数据结构之一的帧封装类型的3D视频格式的图。
图51是图示在将HDMI供应商专用信息帧用于视差信息设置传送的情况下的HDMI供应商专用信息帧的分组结构的示例的图。
图52是图示在将有效空间区用于视差信息设置传送的情况下的HDMI供应商专用信息帧的分组结构的示例的图。
图53是图示被布置在有效空间区中的视差信息设置的结构的图。
图54是图示视差信息设置结构的每个信息内容的图。
图55是图示立体图像显示系统的配置的另一示例的图。
图56是图示通过将视差信息设置插入到视频基本流(视频数据流)中而进行传送的情况下的传输流的配置的示例的图。
图57是示意性地图示视频基本流(Video Elementary Stream)的结构的示例的图。
图58是图示嵌入在画面首标部分的用户数据区域中的用户数据的配置的示例的图。
图59是图示包括视差信息设置的用户数据的结构(语法)的示例的图。
图60是图示各种结构示例(诸如包括不同信息设置的用户数据的结构(语法))的指定内容(语义)的主数据的图。
图61是图示在视差信息设备被插入到字幕基本流(字幕数据流)中而进行传送的情况下的传输流的配置的示例的图。
图62是图示在字幕基本流中包括的各片段的片段类型的图。
图63是图示zOSD(z-OSD片段)的结构(语法)的示例的图。
图64是图示字幕数据流的PES首标和PES有效载荷数据的配置的图。
图65是图示在视差信息设置被作为独立的元数据(Metadata)流传送的情况下的传输流的配置的示例的图。
图66是图示在其中插入了包括视差信息设置的元数据(z-OSD元数据)的元数据基本流的结构(语法)的示例的图。
图67是图示“z-OSD_Metadata_set()”的具体结构的示例的图。
图68是图示屏幕上对象的水平显示位置和在使用双目视差(parallax)的立体图像显示器中其立体图像的再现位置之间的关系的图。
具体实施方式
下文中,将描述实施本发明的模式(下文中称为“实施例”)。将按照以下顺序呈现描述。
1.实施例
2.修改示例
<1.实施例>
[立体图像显示系统的配置示例]
图1图示了作为实施例的立体图像显示系统10的配置示例。立体图像传送和接收系统10包括广播站100、机顶盒(STB)200、以及电视接收器(TV)300。
机顶盒200和电视接收器300通过高清多媒体接口(HDMI)电缆400相互连接。HDMI端子202布置在机顶盒200中。另外,HDMI端子302布置在电视接收器300中。HDMI电缆400的一端连接机顶盒200的HDMI端子202,HDMI电缆400的另一端电视接收器300的HDMI端子302。
[广播站的描述]
广播站100通过将比特流数据BSD携带在广播波中来传送比特流数据BSD。广播站100包括用于产生比特流数据BSD的传送数据产生单元110。在比特流数据BSD中,包括立体图像数据、音频数据、视差信息设置等等。这里,立体图像数据是预定节目的包括左眼图像数据和右眼图像数据的立体图像数据。音频数据是与立体图像数据相对应的音频数据。视差信息设置是与立体图像数据相对应的预定像素位置的视差信息设置。
[传送数据产生单元的配置示例]
图2图示了广播站100中的用于产生传送数据的传送数据产生单元110的配置示例。传送数据产生单元110包括:照相机111L和111R;视频成帧单元112;视差图产生单元113;麦克风114;数据取得单元115;以及切换开关116到118。另外,传送数据产生单元110包括:视频编码器119;音频编码器120;视差信息设置产生单元122;以及多路复用器126。
照相机111L通过对左眼图像进行拍照而获取用于立体图像显示的左眼图像数据。照相机111R通过对右眼图像进行拍照而获取用于立体图像显示的右眼图像数据。视频成帧单元112将照相机111L获取的左眼图像数据和照相机111R获取的右眼图像数据处理为与传送格式相对应的立体图像数据(3D图像数据)。视频成帧单元112配置图像数据输出单元。
将描述立体图像数据的传送格式示例。这里,尽管将描述以下第一到第三传送格式,然而可以使用除此之外的传送格式。这里,如图3所示,将以下情况描述为示例,其中,左眼(L)的图像数据和右眼(R)的图像数据每一个都是所确定的分辨率(例如,1920×1080的像素格式)的图像数据。
第一传送类型是上下(Top & Bottom)类型,并且如图4(a)所示是这样的传送类型,其中,在垂直方向的前半部分传送左眼图像数据的每一行的数据,而在垂直方向的后半部分传送右眼图像数据的每一行的数据。在此情况下,由于左眼图像数据的行和右眼图像数据的行被减少至1/2,因此垂直分辨率变为原始信号的垂直分辨率的一半。
第二传送类型是左右类型,并且如图4(b)所示是这样的传送类型,其中,在水平方向的前半部分传送左眼图像数据的每一行的数据,而在水平方向的后半部分传送右眼图像数据的每一行的数据。在此情况下,在水平方向上左眼图像数据和右眼图像数据每一个的像素数据被减少至1/2。水平分辨率变为原始信号的水平分辨率的一半。
第三传送类型是帧顺序(sequential)类型,并且如图4(c)所示是这样的传送类型,其中,对于每一帧顺序地执行左眼图像数据和右眼图像数据之间的切换。另外,还存在将帧顺序类型称为全帧类型或向后兼容类型的情况。
返回参考图2,视差图产生单元113例如通过基于左眼图像数据和右眼图像数据检测用于配置图像的每个像素的视差向量(视差信息)而产生视差图。例如,像素越位于前面,视差信息的值越大。
将描述检测视差向量的示例。这里,将描述其中检测左眼图像相对于右眼图像的视差向量的示例。如图5所示,左眼图像被设置为检测图像,而右眼图像被设置为参考图像。在此示例中,检测位置(xi,yi)和(xj,yj)处的视差向量。
将以下情况描述为示例,其中,检测位置(xi,yi)处的视差向量。在此情况下,在左眼图像中,位于位置(xi,yi)处的像素被设置为左上侧,并且例如设置4×4、8×8或16×16的像素块(视差检测块)Bi。然后,在右眼图像中,搜索与像素块Bi匹配的像素块。
在此情况下,在右眼图像中,设置以(xi,yi)位置作为其中心的搜索范围,并且将该搜索范围内的每个像素顺序地设置为感兴趣像素,并且顺序地设置例如4×4、8×8或16×16(与上述像素块Bi的尺寸相同)的比较块。
在像素块Bi和顺序设置的每个比较块之间,计算对象像素之间的差的绝对值之和。这里,如图6所示,在像素块Bi的像素值为L(x,y)并且比较块的像素值为R(x,y)时,像素块Bi和特定比较块之间的差的绝对值之和被表示为∑|L(x,y)-R(x,y)|。
当在右眼图像中设置的搜索范围中包括n个像素时,最终获取n个和S1到Sn,并且从中选择最小和Smin。然后,可以从在其中获取所述和Smin的比较块中获取位于左上侧的像素的位置(xi’,yi’)。相应地,将位置(xi,yi)处的视差向量检测为(xi’-xi,yi’-yi)。尽管将不呈现详细描述,然而对于位置(xj,yj)处的视差向量,也将位于位置(xj,yj)处的像素设置为左眼图像中的左上侧并且设置4×4、8×8或16×16的像素块Bj,从而可以以类似过程检测视差向量。
麦克风114检测与照相机111L和111R所拍照的图像相对应的音频,从而获取音频数据。
数据取得单元115用于数据记录介质115a可分离地附接到数据取得单元115的情况。数据记录介质115a是盘形状的记录介质、半导体存储器等等。在数据记录介质115a中,连同包括左眼图像数据和右眼图像数据的立体图像数据一起,与其相关联地记录了音频数据和视差图。数据取得单元115从数据记录介质115a中取得立体图像数据、音频数据和视差图,并且输出所取得的数据。数据取得单元115配置图像数据输出单元。
这里,在数据记录介质115a中记录的立体图像数据对应于视频成帧单元112所获取的立体图像数据。另外,在数据记录介质115a中记录的音频数据对应于麦克风114所获取的音频数据。此外,在数据记录介质115a中记录的视差图对应于视差图产生单元113所产生的视差向量。
切换开关116选择性地取得视频成帧单元112所获取的立体图像数据或从数据取得单元115输出的立体图像数据。在此情况下,切换开关116连接到“a”侧并且以实况模式取得视频成帧单元112所获取的立体图像数据,而连接到“b”侧并且以再现模式取得从数据取得单元115输出的立体图像数据。
切换开关117选择性地取得视差图产生单元113所获取的视差图或从数据取得单元115输出的视差图。在此情况下,切换开关117连接到“a”侧并且以实况模式取得视差图产生单元113所获取的视差图,而连接到“b”侧并且以再现模式取得从数据取得单元115输出的视差图。
切换开关118选择性地取得麦克风114所获取的音频数据或从数据取得单元115输出的音频数据。在此情况下,切换开关118连接到“a”侧并且以实况模式取得麦克风114所获取的音频数据,而连接到“b”侧并且以再现模式取得从数据取得单元115输出的音频数据。
视频编码器119对通过切换开关116取得的立体图像数据执行编码,诸如MPEG4-AVC、MPEG2或VC-1,从而产生视频数据流(视频基本流)。音频编码器120对通过切换开关118取得的音频数据执行编码,诸如AC3或AAC,从而产生音频数据流(音频基本流)。
视差信息设置产生单元122基于从切换开关117取得的视差图,对于预定像素位置产生与从切换开关116输出的预定节目的立体图像数据相对应的视差信息设置。该预定像素位置例如是视差信息值被最大化所处的像素位置,换句话说,被辨别为位于最前面的像素位置等等。
视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和该预定像素位置的视差数据。相应地,视差信息设置在空间上与立体图像数据相同步。另外,该视差信息设置与立体图像的分辨率无关,并且也与监视器的显示分辨率或监视器尺寸无关。
视差信息设置输出单元122产生用于通过以分级方式均等地划分预定节目的时段而获得的每个划分时段的视差信息设置。相应地,视差信息设置在时间上与立体图像数据相同步。图7(1)图示了节目时段被均等地划分为三个时段a、b和c的状态。另外,图7(2)图示了时段b被进一步均等地划分为四个时段的状态。这里,用于均等划分的层级的数量不限于二。后面将详细地描述通过使用视差信息设置产生单元122来产生视差信息设置。
多路复用器126通过将从视频编码器119和音频编码器120传送的数据流多路复用而获取多路复用数据流作为比特流数据(传输流)BSD。另外,多路复用器126将视差信息设置产生单元122所产生的视差信息设置插入到比特流数据BSD中。更具体地,多路复用器126在被插入到比特流数据BSD中的PSI信息或SI信息的预定位置处插入包括视差信息设置的描述符(z-OSD描述符)。后面将详细描述该描述符。
将简要地描述图2所示的传送数据产生单元110的操作。通过照相机111L对左眼图像进行拍照。照相机111L所获取的用于显示立体图像的左眼图像数据被提供到视频成帧单元112。另外,通过照相机111R对右眼图像进行拍照。照相机111R所获取的用于显示立体图像的右眼图像数据被提供到视频成帧单元112。左眼图像数据和右眼图像数据被视频成帧单元112处理为与传送格式相对应的状态,由此获取立体图像数据(参见图4(a)到4(c))。
视频成帧单元112所获取的立体图像数据被提供至切换开关116的位于“a”侧的固定端子。另外,数据取得单元115所获取的立体图像数据被提供至切换开关116的位于“b”侧的固定端子。在实况模式下,切换开关116连接到“a”侧,从切换开关116取得视频成帧单元112所获取的立体图像数据。在再现模式下,切换开关116连接到“b”侧,从切换开关116取得从数据取得单元115输出的立体图像数据。
切换开关116所取得的立体图像数据被提供至视频编码器119。在视频编码器119中,对立体图像数据执行编码,诸如MPEG4-AVC、MPEG2或VC-1,从而产生包括编码视频数据的视频数据流。视频数据流被提供至多路复用器126。
麦克风114所获取的音频数据被提供至切换开关118的位于“a”侧的固定端子。另外,数据取得单元115所获取的音频数据被提供至切换开关118的位于“b”侧的固定端子。在实况模式下,切换开关118连接到“a”侧,从切换开关118取得麦克风114所获取的音频数据。在再现模式下,切换开关118连接到“b”侧,从切换开关118取得从数据取得单元115输出的音频数据。
切换开关118所取得的音频数据被提供至音频编码器120。在音频编码器120中,对音频数据执行编码,诸如MPEG-2音频AAC或MPEG-4AAC,从而产生包括编码音频数据的音频数据流。音频数据流被提供至多路复用器126。
照相机111L和111R所获取的左眼图像数据和右眼图像数据被通过视频成帧单元112提供至视差图产生单元113。在视差图产生单元113中,基于左眼图像数据和右眼图像数据,对于每个像素检测视差向量,由此产生视差图。视差图被提供至切换开关117的位于“a”侧的固定端子。另外,从数据取得单元115输出的视差图被提供至切换开关117的位于“b”侧的固定端子。
在实况模式下,切换开关117连接到“a”侧,从切换开关117取得视差图产生单元113所产生的视差图。在再现模式下,切换开关117连接到“b”侧,从切换开关117取得从数据取得单元115输出的视差图。
切换开关117所取得的视差图被提供至视差信息设置产生单元122。在视差信息设置产生单元122中,基于视差图,与被分级划分的每个划分时段相对应地,产生与从切换开关116输出的预定节目的立体图像数据相对应的预定像素位置的视差信息设置。在视差信息设置中,包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据。视差信息设置被提供至多路复用器126。
在多路复用器126中,对从视频编码器119和音频编码器120传送的数据流进行多路复用,由此获取作为比特流数据(传输流)BSD的多路复用数据流。
另外,在多路复用器126中,将视差信息设置产生单元122所产生的视差信息设置插入到比特流数据BSD中。换句话说,在多路复用器126中,将包括视差信息设置的描述符(z-OSD描述符)插入到被插入到比特流数据BSD中的PSI信息或SI信息的预定位置处。
图8-10图示了传输流(比特流数据)的配置示例。在传输流中,包括通过将每个基本流形成为分组而获取的PES分组。在这些配置示例中,包括视频基本流的PES分组“视频PES”和音频基本流的PES分组“音频PES”。
另外,在传输流中,将节目图表格(PMT)包括作为节目特定信息(PSI)。PSI是描述在传输流中包括的每个基本流所属的节目的信息。另外,在传输流中,包括以事件为单位执行管理的作为服务信息(SI)的事件信息表(EIT)。在EIT中,描述了以节目为单位的元数据。
在PMT中,存在描述与整个节目相关的信息的节目描述符。另外,在PMT中,存在具有与每个基本流相关的信息的基本环。在该配置示例中,存在视频基本环和音频基本环。在每个基本环中,对于每个流,布置诸如分组标识符(PID)之类的信息,尽管未在图中示出,也布置描述与基本流相关的信息的描述符。
在图8所示的传输流的配置示例中,在EIT下,插入包括视差信息设置的描述符(z-OSD描述符)。另外,在图9所示的传输流的配置示例中,将包括视差信息设置的描述符(z-OSD描述符)插入到在PMT中包括的节目描述符中。此外,在图10所示的传输流的配置示例中,将包括视差信息设置的描述符布置在视频基本环(视频ES环)的描述符部分中。
[视差信息设置产生单元]
将详细描述使用视差信息设置产生单元122(参见图2)产生视差信息。视差信息设置产生单元122例如根据以下情况1到6产生视差信息设置。
[情况1]
如上所述,视差信息设置产生单元122产生用于与预定节目的立体图像数据相对应的预定像素位置的视差信息设置。在视差信息设置中,包括表示预定像素位置的位置数据和该预定像素位置的视差数据。预定像素位置是由用户设置操作任意设置的或者是自动设置的,并且预定像素位置的数量不受限制。这里,通过图像中心O被设置为坐标原点(0,0)的坐标来表示预定像素位置(x,y)。另外,在“情况1”下,从预定像素位置的域中排除原点(0,0)。
在该“情况1”下,位置数据由表示从原点(0,0)到预定像素位置的方向的方向数据和表示从原点(0,0)到预定像素位置的距离的距离数据形成。像素位置(x,y)的方向数据由正切数据(tanθ=y/x)和两比特的分区标识符(Zone_id)配置,所述分区标识符(Zone_id)用于标识像素位置(x,y)所位于的象限。例如,“Zone_id=00”表示第一象限,“Zone_id=01”表示第二象限,“Zone_id=10”表示第三象限,“Zone_id=11”表示第四象限。
另外,像素位置(x,y)的距离数据(Line Scale)被配置为表示从原点(0,0)到像素位置(x,y)的距离与从原点(0,0)开始穿过像素位置(x,y)并且到达图像区域末端的线段的长度的比率。在此情况下,当从原点(0,0)到像素位置(x,y)的距离为L并且从原点开始穿过像素位置(x,y)并且到达图像区域末端的线段的长度为LineFull时,Line Scale=L/LineFull。
在此“情况1”下,像素位置(x,y)的视差数据被配置为表示像素位置(x,y)处的视差信息的值(视差向量)与从原点(0,0)到像素位置(x,y)的距离的比率。换句话说,当从原点(0,0)到像素位置(x,y)的距离为L并且像素位置(x,y)的视差信息的值(视差向量)为D时,视差数据(视差梯度:tanφ)为tanφ=D/L。
下文中,将描述以下情况,其中,将视差信息的值为最大值(Max)所处的第一像素位置和视差信息的值为最小值(Min)所处的像素位置(第二像素位置)设置为预定位置。视差信息的值为最大值所处的像素位置表示图像被辨别为最靠近所处的位置。另外,视差信息的值为最小值所处的像素位置表示图像被辨别为最远所处的位置。在此情况下,接收侧可以获取视差信息值的最大值和最小值之间的宽度,由此可以调节立体图像的深度。
图11和12图示了第一像素位置(xβ,yβ)和第二像素位置(xα,yα)在整个图像中的二维位置(2D方向)的示例。坐标(xβ,yβ)和坐标(xα,yα)表示在图像中心被设置为原点(0,0)时的像素位置坐标。
将描述第一像素位置(xβ,yβ)的视差信息设置。位置数据由方向数据和距离数据(Line Scale_β)形成。另外,方向数据由正切数据(tanθβ)和分区标识符(Zone_id_β)配置。如图11所示,视差信息设置产生单元122获取正切数据(tanθβ)作为“tanθβ=yβ/xβ”。另外,由于(xβ,yβ)如图11所示在第四象限中,因此视差信息设置产生单元122将分区标识符(Zone_id_β)设置为“Zone_id_β=11”。
另外,如图11所示,视差信息设置产生单元122将距离数据(Line Scale_β)获取为“Line Scale β=Lβ/LineFull_β”。这里Lβ=√(xβ2+yβ2),以及LineFull_β=√((E_h)2+(PV/2)2)。
此外,如图12所示,视差信息设置产生单元122将视差数据(是视差梯度:tanφβ)获取为“tanφβ=Dβ/Lβ”。这里,Dβ是像素位置(xβ,yβ)的视差信息(视差向量)的值,并且Lβ=√(xβ2+yβ2)。
接下来,将描述第二像素位置(xα,yα)的视差信息设置。位置数据由方向数据和距离数据(Line Scale_α)形成。另外,方向数据由正切数据(tanθα)和分区标识符(Zone_id_α)配置。如图11所示,视差信息设置产生单元122获取正切数据(tanθα)作为“tanθα=yα/xα”。另外,由于(xα,yα)如图11所示在第一象限中,因此视差信息设置产生单元122将分区标识符(Zone_id_α)设置为“Zone_id_α=00”。
另外,如图11所示,视差信息设置产生单元122将距离数据(Line Scale_α)获取为“Line Scale_α=Lα/LineFull_α”。这里Lα=√(xα2+yα2),以及LineFull_α=√((PH/2)2+(E_v)2)。
此外,如图12所示,视差信息设置产生单元122将视差数据(是视差梯度:tanφα)获取为“tanφα=Dα/Lα”。这里,Dα是像素位置(xα,yα)的视差信息(视差向量)的值,并且Lα=√(xα2+yα2)。
图13的流程图图示了在视差信息设置产生单元122中在“情况1”下产生视差信息设置的处理序列。视差信息设置产生单元122在步骤ST1中检查源图像的垂直尺寸(PV=源画面垂直尺寸)、水平尺寸(PH=源画面水平尺寸)、以及纵横比(画面纵横比)。
接下来,视差信息设置产生单元122在步骤ST2中通过扫描视差图来标记预定视差信息(视差向量)的值及其坐标(x1,y1)。在这些坐标(x1,y1)中,图像的左上侧(左上)被设置为原点(0,0)。
接下来,视差信息设置产生单元122在步骤ST3中将坐标(x1,y1)转换为以图像中心O为其原点(0,0)的坐标(x,y)。在此情况下的转换公式为:x=x1-PH/2以及y=y1-PV/2。
接下来,视差信息设置产生单元122在步骤ST4中获取配置像素位置(x,y)的方向数据的正切数据(tanθ=y/x)以及用于标识像素位置(x,y)所位于的象限的两比特的分区标识符(Zone_id)。另外,视差信息设置产生单元122在步骤ST4中获取像素位置(x,y)的距离数据(Line Scale=L/LineFull)。
这里,基于与纵横比的关系,如下地获取“LineFull”。这里,尽管描述了纵横比为9/16的情况,然而可以类似地应用于纵横比与上述纵横比不同的情况。在|tanθ|<9/16的情况下,LineFull=√((E_v)2+(PH/2)2)。另一方面,在|tanθ|≥9/16的情况下,LineFull=√((E_h)2+(PV/2)2)。
另外,基于与纵横比的关系,如下地获取“L”。在|tanθ|<9/16的情况下,L=LineFull*(x/(PH/2))。另一方面,在|tanθ|≥9/16的情况下,L=LineFull*(y/(PV/2))。
接下来,视差信息设置产生单元122在步骤ST5中获取像素位置(x,y)的视差数据(视差梯度:tanφ=D/L)。
[情况2]
如上所述,视差信息设置产生单元122产生用于与预定节目的立体图像数据相对应的预定像素位置的视差信息设置。在视差信息设置中,包括表示预定像素位置的位置数据和该预定像素位置的视差数据。预定像素位置是由用户设置操作任意设置的或者是自动设置的,并且预定像素位置的数量不受限制。这里,通过图像中心O被设置为坐标原点(0,0)的坐标来表示预定像素位置(x,y)。另外,在“情况2”下,从预定像素位置的域中排除原点(0,0)。
在该“情况2”下。与上述的“情况1”类似,位置数据由表示从原点(0,0)到预定像素位置的方向的方向数据和表示从原点(0,0)到预定像素位置的距离的距离数据形成。像素位置(x,y)的方向数据由正切数据(tanθ=y/x)和两比特的分区标识符(Zone_id)配置,所述分区标识符(Zone_id)用于标识像素位置(x,y)所位于的象限。
另外,像素位置(x,y)的距离数据(Line Scale)被配置为表示从原点(0,0)到像素位置(x,y)的距离与从原点(0,0)开始穿过像素位置(x,y)并且到达图像区域末端的线段的长度的比率。在此情况下,当从原点(0,0)到像素位置(x,y)的距离为Lα并且从原点开始穿过像素位置(x,y)并且到达图像区域末端的线段的长度为LineFull时,Line Scale=Lα/LineFull。
另外,在此“情况2”下,像素位置(x,y)的视差数据被设置为像素位置(x,y)在特定显示分辨率下的视差信息(视差向量)的值。
如上,在此“情况2”下,视差信息设置产生单元122产生与上述“情况1”的位置数据相似的位置数据(方向数据和距离数据)作为预定像素位置的位置数据。另外,在此“情况2”下,视差信息设置产生单元122产生像素位置(x,y)在特定显示分辨率下的视差信息(视差向量)作为预定像素位置的视差数据。特定显示分辨率例如为全HD 1920×1080的分辨率。
相应地,与图13的上述流程图中所示的处理相似地执行在视差信息设置产生单元122中在“情况2”下产生视差信息设置的处理序列,除了步骤ST5的请求视差数据的处理之外。换句话说,在“情况2”下产生视差信息设置的处理序列中,获取坐标(x,y)在特定显示分辨率下的视差信息(视差向量)作为坐标(x,y)的视差数据。
[情况3]
如上所述,视差信息设置产生单元122产生用于与预定节目的立体图像数据相对应的预定像素位置的视差信息设置。在视差信息设置中,包括表示预定像素位置的位置数据和该预定像素位置的视差数据。预定像素位置是由用户设置操作任意设置的或者是自动设置的,并且预定像素位置的数量不受限制。这里,通过图像中心O被设置为坐标原点(0,0)的坐标来表示预定像素位置(x,y)。另外,在“情况3”下,从预定像素位置的域中排除原点(0,0)。
在该“情况3”下,位置数据由表示从原点(0,0)到预定像素位置的方向的方向数据和表示从原点(0,0)到预定像素位置的距离的距离数据形成。像素位置(x,y)的方向选自八个方向,包括向上、向下、向左、向右以及预先设置的介于其间的方向;或者选自16个方向,包括向上、向下、向左、向右以及介于其间的方向等等。换句话说,像素位置(x,y)的方向数据被设置为直接表示方向的数据。
例如,在方向数据由3比特数据配置的情况下,如图14所示,通过使用3比特数据可以从包括向上、向下、向左、向右以及介于其间的方向的八个方向中选择性地指定一个方向。
另外,与上述“情况1”相似,像素位置(x,y)的距离数据(Line Scale)被配置为表示从原点(0,0)到像素位置(x,y)的距离与从原点(0,0)开始穿过像素位置(x,y)并且到达图像区域末端的线段的长度的比率。在此情况下,当从原点(0,0)到像素位置(x,y)的距离为L并且从原点开始穿过像素位置(x,y)并且到达图像区域末端的线段的长度为LineFull时,Line Scale=L/LineFull。
在此“情况3”下,像素位置(x,y)的视差数据被配置为表示像素位置(x,y)处的视差信息的值(视差向量)与从原点(0,0)到像素位置(x,y)的距离的比率。换句话说,当从原点(0,0)到像素位置(x,y)的距离为L并且像素位置(x,y)的视差信息的值(视差向量)为D时,视差数据(视差梯度:tanφ)为tanφ=D/L。
下文中,将描述以下情况,其中,位于介于向上方向和向右方向之间的方向的像素位置被设置为预定像素位置。例如,该像素位置是视差信息的值(视差向量)为最大值(Max)所处的像素位置。视差信息的值为最大值所处的像素位置表示图像被辨别为最靠近所处的位置。
图15和16图示了像素位置(xa,ya)在整个图像中的二维位置(2D方向)的示例。这里,坐标(xa,ya)表示在图像中心被设置为原点(0,0)时的像素位置坐标。
将描述像素位置(xa,ya)的视差信息设置。位置数据由方向数据(Direction_a)和距离数据(Line Scale_a)形成。如图15所示,视差信息设置产生单元122将方向数据(Direction_a)设置为“Direction_a=001”。
另外,如图15所示,视差信息设置产生单元122将距离数据(Line Scale_a)获取为“Line Scale_a=La/LineFull_a”。这里,La=√(xa2+ya2)以及LineFull_a=√((PH/2)2+(PV/2)2)。
此外,如图16所示,视差信息设置产生单元122将视差数据(是视差梯度:tanφa)获取为“tanφa=Da/La”。这里,Da是像素位置(xa,ya)的视差信息(视差向量)的值,并且La=√(xa2+ya2)。
图17的流程图图示了在视差信息设置产生单元122中在“情况3”下产生视差信息设置的处理序列。视差信息设置产生单元122在步骤ST11中检查源图像的垂直尺寸(PV=源画面垂直尺寸)、水平尺寸(PH=源画面水平尺寸)、以及纵横比(画面纵横比)。
接下来,视差信息设置产生单元122在步骤ST12中通过扫描视差图来标记预定视差信息(视差向量)的值及其坐标(x1,y1)。在这些坐标(x1,y1)中,图像的左上侧(左上)被设置为原点(0,0)。
接下来,视差信息设置产生单元122在步骤ST13中将坐标(x1,y1)转换为以图像中心O为其原点(0,0)的坐标(x,y)。在此情况下的转换公式为:x=x1-PH/2以及y=y1-PV/2。这里,存在以下情况:转换后的坐标(x,y)位于从原点(0,0)开始预先设置的八个方向、16个方向等等中的一个方向上的线上的情况、以及转换后的坐标不位于这样的线上。在坐标不位于这样的线上的情况下,例如,代替将转换后的坐标(x,y),将位于最接近的线上的坐标设置为新坐标(x,y)。
接下来,视差信息设置产生单元122在步骤ST14中获取像素位置(x,y)的方向数据(Direction)以及像素位置(x,y)的距离数据(Line Scale=L/LineFull)。
这里,基于与纵横比的关系,如下地获取“LineFull”。这里,尽管描述了纵横比为9/16的情况,然而可以类似地应用于纵横比与上述纵横比不同的情况。在|tanθ|<9/16的情况下,LineFull=√((E_v)2+(PH/2)2)。另一方面,在|tanθ|≥9/16的情况下,LineFull=√((E_h)2+(PV/2)2)。另外,E_v满足0≤E_v≤PH/2,并且E_h满足0≤E_h≤PV/2(参见图12)。
另外,基于与纵横比的关系,如下地获取“L”。在|tanθ|<9/16的情况下,L=LineFull*(x/(PH/2))。另一方面,在|tanθ|≥9/16的情况下,L=LineFull*(y/(PV/2))。
接下来,视差信息设置产生单元122在步骤ST15中获取像素位置(x,y)的视差数据(视差梯度:tanφ=D/L)。
[情况4]
如上所述,视差信息设置产生单元122产生用于与预定节目的立体图像数据相对应的预定像素位置的视差信息设置。在视差信息设置中,包括表示预定像素位置的位置数据和该预定像素位置的视差数据。预定像素位置是由用户设置操作任意设置的或者是自动设置的,并且预定像素位置的数量不受限制。这里,通过图像中心O被设置为坐标原点(0,0)的坐标来表示预定像素位置(x,y)。另外,在“情况4”下,从预定像素位置的域中排除原点(0,0)。
在该“情况4”下,位置数据由表示从原点(0,0)到预定像素位置的方向的方向数据和表示从原点(0,0)到预定像素位置的距离的距离数据形成。像素位置(x,y)的方向选自八个方向,包括向上、向下、向左、向右以及预先设置的介于其间的方向;或者选自16个方向,包括向上、向下、向左、向右以及介于其间的方向等等。换句话说,像素位置(x,y)的方向数据被设置为直接表示方向的数据。
另外,与上述“情况1”相似,像素位置(x,y)的距离数据(Line Scale)被配置为表示从原点(0,0)到像素位置(x,y)的距离与从原点(0,0)开始穿过像素位置(x,y)并且到达图像区域末端的线段的长度的比率。在此情况下,当从原点(0,0)到像素位置(x,y)的距离为L并且从原点开始穿过像素位置(x,y)并且到达图像区域末端的线段的长度为LineFull时,Line Scale=L/LineFull。。
此外,在此“情况4”下,像素位置(x,y)的视差数据被设置为像素位置(x,y)在特定显示分辨率下的视差信息(视差向量)。
如上,在此“情况4”下,视差信息设置产生单元122产生与上述“情况3”的位置数据相似的位置数据(方向数据和距离数据)作为预定像素位置的位置数据。另外,在此“情况4”下,视差信息设置产生单元122产生预定像素位置(x,y)在特定显示分辨率下的视差信息(视差向量)作为预定像素位置的视差数据。特定显示分辨率例如为全HD 1920×1080的分辨率。
相应地,与图17的上述流程图中所示的处理相似地执行在视差信息设置产生单元122中在“情况4”下产生视差信息设置的处理序列,除了步骤ST15的请求视差数据的处理之外。换句话说,在“情况4”下产生视差信息设置的处理序列中,获取坐标(x,y)在特定显示分辨率下的视差信息(视差向量)作为坐标(x,y)的视差数据。
[情况5]
如上所述,视差信息设置产生单元122产生用于与预定节目的立体图像数据相对应的预定像素位置的视差信息设置。在视差信息设置中,包括表示预定像素位置的位置数据和该预定像素位置的视差数据。预定像素位置是由用户设置操作任意设置的或者是自动设置的,并且预定像素位置的数量不受限制。
这里,在坐标模式0下,通过图像中心O被设置为坐标原点(0,0)的坐标来表示预定像素位置(x,y)。另外,在坐标模式1下,通过左上侧(左上)被设置为坐标原点(0,0)的坐标来表示预定像素位置(x,y)。
在此“情况5”下,位置数据由表示距原点(0,0)的水平距离的水平距离数据(Rxa)和表示距原点(0,0)的垂直距离的垂直距离数据(Rya)形成。水平距离数据Rxa被表示为相对于图像在水平方向上的尺寸的比率。在坐标模式0下,“Rxa=x/(PH/2)*100”。另外,在坐标模式1下,“Rxa=x/(PH)*100”。这里,PH表示图像在水平方向上的尺寸。另外,垂直距离数据Rya被表示为相对于图像在垂直方向上的尺寸的比率。在坐标模式0下,“Rya=y/(PV/2)*100”。另外,在坐标模式1下,“Rya=y/(PV)*100”。这里,PV示出图像在垂直方向上的尺寸。
在此“情况5”下,像素位置(x,y)的视差数据被配置为像素位置(x,y)在特定显示分辨率下的视差信息(视差向量)的值。特定显示分辨率例如为全HD1920×1080的分辨率。
下文中,将描述以下情况,其中,将视差信息的值为最大值(Max)所处的第一像素位置和视差信息的值为最小值(Min)所处的像素位置(第二像素位置)设置为预定像素位置。视差信息的值为最大值所处的像素位置表示图像被辨别为最靠近所处的位置。另外,视差信息的值为最小值所处的像素位置表示图像被辨别为最远所处的位置。在此情况下,接收侧可以获取视差信息值的最大值和最小值之间的宽度,由此可以调节立体图像的深度。
图18图示了在坐标模式0下第一像素位置(xβ,yβ)和第二像素位置(xα,yα)在整个图像中的二维位置(2D方向)的示例。在此情况下,坐标(xβ,yβ)和坐标(xα,yα)表示在图像中心O被设置为原点(0,0)时的像素位置坐标。另外,图19图示了在坐标模式1下第一像素位置(xβ,yβ)和第二像素位置(xα,yα)在整个图像中的二维位置(2D方向)的示例。在此情况下,坐标(xβ,yβ)和坐标(xα,yα)表示在左上侧(左上)被设置为原点(0,0)时的像素位置坐标。
将描述第一像素位置(xβ,yβ)的视差信息设置。如上所述,位置数据由水平距离数据(Rxa)和垂直距离数据(Rya)形成。如图18所示,在坐标模式0下,视差信息设置产生单元122获取水平距离数据(Rxa)为“Rxa=xβ/(PH/2)*100”并且获取垂直距离数据(Rya)为“Rya=yβ/(PV/2)*100”。另外,如图19所示,在坐标模式1下,视差信息设置产生单元122获取水平距离数据(Rxa)为“Rxa=xβ/(PH)*10”并且获取垂直距离数据(Rya)为“Rya=yβ/(PV)*100”。
另外,视差信息设置产生单元122产生第一像素位置(xβ,yβ)在特定显示分辨率下的视差信息(视差向量)作为第一像素位置(xβ,yβ)的视差数据(Disparity)。
接下来,将描述第二像素位置(xα,yα)的视差信息设置。如上所述,位置数据由水平距离数据(Rxa)和垂直距离数据(Rya)形成。如图18所示,在坐标模式0下,视差信息设置产生单元122获取水平距离数据(Rxa)为“Rxa=xα/(PH/2)*100”并且获取垂直距离数据(Rya)为“Rya=yα/(PV/2)*100”。另外,如图19所示,在坐标模式1下,视差信息设置产生单元122获取水平距离数据(Rxa)为“Rxa=xα/(PH)*100”并且获取垂直距离数据(Rya)为“Rya=yα/(PV)*100”。
另外,视差信息设置产生单元122获取第二像素位置(xα,yα)在特定显示分辨率下的视差信息(视差向量)作为第二像素位置(xα,yα)的视差数据(Disparity)。
图20的流程图图示了在视差信息设置产生单元122中在“情况5”下产生视差信息设置的处理序列。视差信息设置产生单元122在步骤ST21中检查源图像的垂直尺寸(PV=源画面垂直尺寸)、水平尺寸(PH=源画面水平尺寸)、以及纵横比(画面纵横比)。
接下来,视差信息设置产生单元122在步骤ST22中通过扫描视差图来标记预定视差信息(视差向量)的值及其坐标(x1,y1)。在这些坐标(x1,y1)中,图像的左上侧(左上)被设置为原点(0,0)。
接下来,在处于坐标模式0时,视差信息设置产生单元122前进到步骤ST23的处理。在这个步骤ST23中,视差信息设置产生单元122将坐标(x1,y1)转换为以图像中心O为其原点(0,0)的坐标(x,y)。在此情况下的转换公式为:x=x1-PH/2以及y=y1-PV/2。
接下来,视差信息设置产生单元122在步骤ST24获取像素位置(x,y)的水平距离数据(Rxa)和垂直距离数据(Rya)。在此情况下,“Rxa=xα/(PH/2)*100”,以及“Rya=yα/(PV/2)*100”。另外,视差信息设置产生单元122在步骤ST25中获取视差数据(Disparity)。在此情况下,将坐标(x,y)在特定显示分辨率下的视差信息(视差向量)获取作为视差数据(Disparity)。
另外,当在步骤ST22的处理之后处于坐标模式1时,视差信息设置产生单元122前进到步骤ST26的处理。在此情况下,直接将坐标(x1,y1)用作坐标(x,y)。在步骤ST26,视差信息设置产生单元122获取像素位置(x,y)的水平距离数据(Rxa)和垂直距离数据(Rya)。在此情况下,“Rxa=xα/(PH)*100”,以及“Rya=yα/(PV)*100”。另外,视差信息设置产生单元122在步骤ST27中获取视差数据(Disparity)。在此情况下,将坐标(x,y)在特定显示分辨率下的视差信息(视差向量)获取作为视差数据(Disparity)。
[情况6]
如上所述,视差信息设置产生单元122产生用于与预定节目的立体图像数据相对应的预定像素位置的视差信息设置。在视差信息设置中,包括表示预定像素位置的位置数据和该预定像素位置的视差数据。预定像素位置是由用户设置操作任意设置的或者是自动设置的,并且预定像素位置的数量不受限制。
这里,在处于坐标模式0时,通过图像中心O被设置为坐标原点(0,0)的坐标来表示预定像素位置(x,y)。另外,在处于坐标模式1时,通过图像的左上侧(左上)被设置为坐标原点(0,0)的坐标来表示预定像素位置(x,y)。
在此“情况6”下,位置数据由表示距原点(0,0)的水平距离的水平距离数据(Rxa)和表示距原点(0,0)的垂直距离的垂直距离数据(Rya)形成。水平距离数据Rxa被表示为相对于图像在水平方向上的尺寸的比率。在坐标模式0下,“Rxa=x/(PH/2)*100”。另外,在坐标模式1下,“Rxa=x/(PH)*100”。这里,PH表示图像在水平方向上的尺寸。另外,垂直距离数据Rya被表示为相对于图像在垂直方向上的尺寸的比率。在坐标模式0下,“Rya=y/(PV/2)*100”。另外,在坐标模式1下,“Rya=y/(PV)*100”。这里,PV示出图像在垂直方向上的尺寸。
在此“情况6”下,像素位置(x,y)的视差数据(Relative_Disparity_ratio)不被配置为像素位置(x,y)在特定显示分辨率下的视差信息(视差向量)的值,而是被配置为表示相对于水平分辨率PH的比率。例如,如图21所示,在全HD 1920×1080的分辨率的情况下,视差数据(Relative_Disparity_ratio)被获取为“Relative_Disparity_ratio=视差信息值/1920*因子”。例如,在视差信息值为+60像素的情况下,Relative_Disparity_ratio=60/1920*因子。
如上,在此“情况6”下,视差信息设置产生单元122产生与上述“情况5”的位置数据相似的位置数据(水平位置数据和垂直位置数据)作为预定像素位置的位置数据。另外,在此“情况6”中,视差信息设置产生单元122产生表示像素位置(x,y)的视差信息值与水平显示分辨率PH的比率的数据(Relative_Disparity_ratio)作为预定像素位置的视差数据。
相应地,与图20的上述流程图中所示的处理序列相似地执行在视差信息设置产生单元122中在“情况6”下产生视差信息设置的处理序列,除了在步骤ST25和步骤ST27中获取的视差数据的内容与图20的流程图中的视差数据的内容不同之外。
[视差信息设置的结构]
接下来,将描述视差信息设置产生单元122所产生的视差信息设置的内容的示例。图22到25、27和28示出了视差信息设置的内容的示例。图26和29示出了内容示例中的指定内容(语义)的主数据。
图22示出了在上述“情况1”下产生的视差信息设置的内容的示例。“TS(时间片段)”是8比特数据,其表示事件、节目、场景等的被均等划分的时段的数量。“TS=1”表示时段未被划分。“子划分”是8比特数据,其表示每个时间片段的被均等划分的时段的数量。“子划分=1”表示时间片段未被划分。
“方向线的编号”表示视差信息设置的整数计数。例如,在存在两个视差信息设置(包括视差信息设置的值为最大值(Max)所处的第一像素位置和视差信息设置的值为最小值(Min)所处的像素位置(第二像素位置))的情况下,假设“方向线的编号=1”。“Zone_id”是配置像素位置(x,y)的方向数据的2比特分区标识符。如上所述,“Zone_id=00”表示第一象限,“Zone_id=01”表示第二象限,“Zone_id=10”表示第三象限,以及“Zone_id=11”表示第四象限。
“2D_direction_theta”是10比特数据,其表示配置像素位置(x,y)的方向数据的正切数据(tanθ=y/x)。“Line Scale”是10比特数据,其表示从原点(0,0)到像素位置(x,y)的相对距离(Line Scale=L/LineFull)。“Disparity_gradient_Phai”是12比特数据,其表示像素位置(x,y)的视差信息的值(视差向量)与从原点(0,0)到像素位置(x,y)的距离的比率(tanφ=D/L)。
图23示出了在上述“情况2”下产生的视差信息设置的内容的示例。图23的视差信息设置的内容的示例与上述的图22的视差信息设置的内容的示例相似,除了利用“Disparity”替代了“Disparity_gradient_phai”之外。
“Disparity”是12比特数据,其表示视差信息的值(视差向量)。
图24示出了在上述“情况3”下产生的视差信息设置的内容的示例。图24的视差信息设置的内容的示例与上述的图22的视差信息设置的内容的示例相似,除了利用“Direction”替代了“Zone_idD”和“2D_direction_theta”之外。“Direction”是8比特数据,其表示从原点(0,0)到像素位置(x,y)的方向。
图25示出了在上述“情况4”下产生的视差信息设置的内容的示例。图25的视差信息设置的内容的示例与上述的图24的视差信息设置的内容的示例相似,除了利用“Disparity”替代了“Disparity_gradient_phai”之外。
“Disparity”是12比特数据,其表示像素位置(x,y)的视差信息的值(视差向量)。
图27示出了在上述“情况5”下产生的视差信息设置的内容的示例。“TS(时间片段)”是8比特数据,其表示事件、节目、场景等的被均等划分的时段的数量。“TS=1”表示时段未被划分。“子划分”是8比特数据,其表示每个时间片段的被均等划分的时段的数量。“子划分=1”表示时间片段未被划分。
“视差点的数量”表示视差信息设置的总数量。例如,在存在两个视差信息设置(包括视差信息设置的值为最大值(Max)所处的第一像素位置和视差信息设置的值为最小值(Min)所处的像素位置(第二像素位置))的情况下,假设“视差点的数量=1”。“relative_plain_mode”是1比特数据,其表示相对平面(plain)的类型。“relative_plain_mode=1”表示坐标模式0和使图像中心O作为坐标原点(0,0)的坐标的平面。“relative_plain_mode=0”表示坐标模式1和使图像的左上侧(左上)作为坐标原点(0,0)的坐标的平面。
“Relative_x”是11比特数据,其表示从原点(0,0)到像素位置(x,y)的水平距离(Rxa)。该水平距离(Rxa)被表示为相对于图像在水平方向的尺寸的比率。“Relative_y”是11比特数据,其表示从原点(0,0)到像素位置(x,y)的垂直距离(Rya)。该垂直距离(Rya)被表示为相对于图像在垂直方向的尺寸的比率。“视差”是12比特数据,其表示像素位置(x,y)的视差信息的值(视差向量)。
图28示出了在上述“情况6”下产生的视差信息设置的内容的示例。图28的视差信息设置的内容的示例与上述的图27的视差信息设置的内容的示例相似,除了利用“Relative_Disparity_ratio”替代了“Disparity”之外。“Relative_Disparity_ratio”是12比特数据,其表示像素位置(x,y)的视差信息的值(视差向量)与水平分辨率PH的比率。
图30到35示出了包括在上述“情况1”到“情况6”下视差信息设置产生单元122产生的视差信息设置的描述符(z-OSD描述符)的示例。“descriptor_tag”是8比特数据,其表示描述符的类型。这里,描述符被表示为包括视差信息设置的描述符(z-OSD描述符)。“descriptor_length”是8比特数据,其表示信息的长度(尺寸)。上述的视差信息设置被插入作为该描述符的信息。图30到35示出了包括在上述“情况1”到“情况6”下产生的视差信息设置的描述符(z-OSD描述符)。
在图2的传送数据产生单元110中,在从多路复用器126输出的比特流数据BSD中,连同预定节目的包括左眼图像数据和右眼图像数据的立体图像数据一起,包括与预定节目的立体图像数据相对应的预定像素位置的视差信息设置。相应地,在接收侧,通过使用视差信息设置,可以使用重叠左眼图像和右眼图像的重叠信息,例如诸如OSD之类的图形信息,对于该图形信息已经根据图像内每个对象的透视图执行了视差调节。因此,在显示诸如OSD之类的图形信息时,可以保持图像内每个对象的透视图的一致性。
另外,在图2的传送数据产生单元110中在从多路复用器126中输出的比特流数据BSD中包括的视差信息设置被配置为包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据。相应地,视差信息设置与立体图像的分辨率无关,并且也与监视器的显示分辨率或监视器尺寸无关。因此,在接收侧,可以通过使用视差信息设置而与监视器的显示分辨率或监视器尺寸无关地容易地执行视差调节。
[机顶盒的描述]
返回参考图1,机顶盒200接收被携带在广播波中从广播站100传送来的比特流数据(传输流)BSD。在比特流数据BSD中,包括立体图像数据、音频数据、视差信息设置,该立体图像数据包括左眼图像数据和右眼图像数据。
机顶盒200包括比特流处理单元201。该比特流处理单元201从比特流数据中提取立体图像数据、音频数据、视差信息设置等。比特流处理单元201适当地产生诸如OSD之类的图形数据所重叠的左眼图像和右眼图像的数据。在此情况下,基于视差信息设置,在重叠左眼图像的左眼图形信息和重叠右眼图像的右眼图形信息之间存在视差。通过如上地在左眼图形信息和右眼图形信息右眼字幕之间提供视差,用户可以辨别例如在图像前重叠立体图像的图形信息。
[机顶盒的配置示例]
将描述机顶盒200的配置示例。图36示出了机顶盒200的配置示例。该机顶盒200包括比特流处理单元201、HDMI端子202、天线端子203、数字调谐器204、视频处理电路205、HDMI传送单元206、和音频处理电路207。另外,机顶盒200包括CPU 211、快闪ROM 212、DRAM 213、内部总线214、遥控接收单元215、和遥控传送器216。
天线端子203是向其输入接收天线(图中未示出)所接收的电视广播信号的端子。数字调谐器204处理输入到天线端子203的电视广播信号,并且输出与用户所选择的频道相对应的预定比特流数据(传输流)BSD。
如上所述,比特流处理单元201从比特流数据BSD中提取立体图像数据、音频数据等,并且输出所提取的数据。比特流处理单元201适当地将诸如OSD之类的图形信息的显示数据与立体图像数据合成。此时,比特流处理单元201基于视差信息设置在重叠左眼图像的左眼图形信息和重叠右眼图像的右眼图形信息之间提供视差。
如果必要,视频处理电路205对从比特流处理单元201输出的立体图像数据执行图像质量调节处理,并且将处理后的立体图像数据提供至HDMI传送单元206。如果必要,音频处理电路207对从比特流处理单元201输出的音频数据执行声音质量调节处理,并且将处理后的音频数据提供至HDMI传送单元206。
HDMI传送单元206通过与HDMI兼容的通信从HDMI端子202传送例如未压缩的图像数据和音频数据。在此情况下,由于通过HDMI的TMDS信道传送数据,因此图像数据和音频数据被封装并且被从HDMI传送单元206输出到HDMI端子202。
CPU 211控制机顶盒200的每个单元的操作。快闪ROM 212存储控制软件和数据。DRAM 213配置CPU 211的工作区。CPU 211在DRAM 213上展开从快闪ROM 212读出的软件或数据,并且启动软件,由此控制机顶盒200的每个单元。
遥控接收单元215接收从遥控传送器216传送而来的遥控信号(遥控代码)并且将所接收的遥控信号提供至CPU 211。CPU 211基于遥控代码来控制机顶盒200的每个单元。CPU 211、快闪ROM 212和DRAM 213连接到内部总线214。
将描述比特流处理单元201。该比特流处理单元201包括去多路复用器220、视频解码器221、音频解码器224、OSD显示数据产生单元226和视频重叠单元228。去多路复用器220从比特流数据BSD中提取视频和音频的分组,并将所提取的分组传送到每个解码器。另外,去多路复用器220从比特流数据BSD中提取视差信息设置,并将所提取的视差信息设置传送到OSD显示数据产生单元226和上述的HDMI传送单元206。
视频解码器221基于从去多路复用器220提取的视频的分组来重新配置视频基本流,并且执行解码处理,由此获取包括左眼图像数据和右眼图像数据的立体图像数据。音频解码器224基于从去多路复用器220提取的音频的分组来重新配置音频基本流,并且执行解码处理,从而获取音频数据并将所获取的音频数据输出至比特流处理单元201的外部。
OSD显示数据产生单元226产生与在立体图像数据中包括的左眼图像数据相对应的左眼图形信息的数据和与在立体图像数据中包括的右眼图像数据相对应的右眼图形信息的数据。在此情况下,OSD显示数据产生单元226基于去多路复用器220所提取的视差信息设置使得在左眼图形信息和右眼图形信息之间出现视差。
这里,基于在视差信息设置中包括的位置数据和视差数据,OSD显示数据产生单元226获取图像区域内与该视差信息设置相对应的位置,并且通过在传送侧执行的处理的逆处理来再现该位置的视差信息设置。
视频重叠单元228将OSD显示数据产生单元226所产生的左眼图形信息和右眼图形信息的数据、与视频解码器221所获取的立体图像数据(左眼图像数据和右眼图像数据)彼此重叠,由此获取用于显示的立体图像数据。然后,该视频重叠单元228将用于显示的立体图像数据输出到比特流处理单元201的外部。
将简要描述机顶盒200的操作。输入至天线端子203的电视广播信号被提供至数字调谐器204。该数字调谐器204处理电视广播信号,并且输出与用户所选择的频道相对应的预定比特流数据(传输流)BSD。
从数字调谐器204输出的比特流数据BSD被提供至比特流处理单元201。在该比特流处理单元201中,从比特流数据BSD中提取立体图像数据、音频数据、视差信息设置等。在比特流处理单元201中,在适当时,诸如OSD之类的图形信息的显示数据与立体图像数据合成。
此时,在比特流处理单元201中,基于视差信息设置使得在重叠左眼图像的左眼图形信息和重叠右眼图像的右眼图形信息之间出现视差。相应地,在最优状态下,可以保持以重叠方式显示在立体图像上的图形信息的透视图与图像内每个对象的透视图的一致性。
比特流处理单元201所获取的用于显示的立体图像数据被提供至视频处理电路205。在该视频处理电路205中,如果必要,对用于显示的立体图像数据执行图像质量调节处理等等。从视频处理电路205输出的处理后的用于显示的立体图像数据被提供至HDMI传送单元206。
另外,比特流处理单元201所获取的音频数据被提供至音频处理电路207。在该音频处理电路207中,如果必要,对音频数据执行声音质量调节处理等等。从音频处理电路207输出的处理后的音频数据被提供至HDMI传送单元206。然后,被提供到HDMI传送单元206的立体图像数据和音频数据被通过HDMI的TMDS信道从HDMI端子202提供至HDMI电缆400。
[电视接收器的描述]
返回参考图1,电视接收器300通过HDMI电缆400接收从机顶盒200传送来的立体图像数据。该电视接收器300包括3D信号处理单元301。该3D信号处理单元301对立体图像数据执行与传送类型相对应的处理(解码处理),由此产生左眼图像数据和右眼图像数据。3D信号处理单元301获取配置立体图像数据的左眼图像数据和右眼图像数据。
[电视接收器的配置示例]
将描述电视接收器300的配置示例。图37示出了电视接收器300的配置示例。这个电视接收器300包括:3D信号处理单元301;HDMI端子302;HDMI接收单元303;天线端子304;数字调谐器305;和比特流处理单元306。
另外,该电视接收器300包括:OSD显示数据产生单元313;视频重叠单元314;视频处理电路307;面板驱动电路308;显示面板309;音频处理电路310;音频放大电路311和扬声器312。此外,电视接收器300包括:CPU321、快闪ROM 322、DRAM 323;内部总线324;遥控接收单元325;以及遥控传送器326。
天线端子304是向其输入接收天线(图中未示出)所接收的电视广播信号的端子。数字调谐器305处理输入到天线端子304的电视广播信号,并且输出与用户所选择的频道相对应的预定比特流数据(传输流)。
比特流处理单元306具有与图36的机顶盒200的比特流处理单元201的配置相似的配置。该比特流处理单元306从比特流数据中提取立体图像数据(左眼图像数据和右眼图像数据)、音频数据、视差信息设置等。
HDMI接收单元303接收通过与HDMI兼容的通信经由HDMI电缆400提供至HDMI端子302的未压缩的图像数据和音频数据。例如,HDMI接收单元303的版本是HDMI 1.4,并且处于可以应对立体图像数据的状态。后面将详细描述HDMI接收单元303。
3D信号处理单元301对HDMI接收单元303所接收的或比特流处理单元306所获取的立体图像数据执行解码处理,由此产生左眼图像数据和右眼图像数据。在此情况下,3D信号处理单元301对比特流处理单元306所获取的立体图像数据执行与传送系统格式相对应的解码处理。另外,3D信号处理单元301对HDMI接收单元303所接收的立体图像数据执行与后面要描述的TMDS传送数据结构相对应的解码处理。
OSD显示数据产生单元313产生与在立体图像数据中包括的左眼图像数据相对应的左眼图形信息的数据和与在立体图像数据中包括的右眼图像数据相对应的右眼图形信息的数据。图形信息是用于菜单、节目表等的OSD显示的重叠信息。在这样的情况下,OSD显示数据产生单元313基于比特流处理单元306所获取的或HDMI接收单元303所接收的视差信息设置使得在左眼图形信息和右眼图形信息之间出现视差。
这里,基于在视差信息设置中包括的位置数据和视差数据,OSD显示数据产生单元313获取图像区域内与该视差信息设置相对应的位置,并且通过在传送侧执行的处理的逆处理来再现该位置的视差信息的值。
视频重叠单元314将OSD显示数据产生单元313所产生的左眼图形信息和右眼图形信息的数据、与3D信号处理单元301所获取的立体图像数据(左眼图像数据和右眼图像数据)彼此重叠,由此获取用于显示的立体图像数据。
视频处理电路307基于3D信号处理单元301所产生的左眼图像数据和右眼图像数据产生用于显示立体图像的图像数据。另外,如果必要,视频处理电路307对图像数据执行图像质量调节处理等等。面板驱动电路308基于从视频处理电路307输出的图像数据来驱动显示面板309。显示面板309例如由液晶显示器(LCD)、等离子显示面板(PDP)等配置。
音频处理电路310对HDMI接收单元303所接收的或比特流处理单元306所获取的音频信号执行诸如D/A转换之类的必要处理。音频放大电路311放大从音频处理电路310输出的音频信号,并将放大后的音频信号提供至扬声器312。
CPU 321控制电视接收器300的每个单元的操作。快闪ROM 322存储控制软件和数据。DRAM 323配置CPU 321的工作区。CPU 321在DRAM 323上展开从快闪ROM 322读出的软件或数据,并且启动软件,由此控制电视接收器300的每个单元。
遥控接收单元325接收从遥控传送器326传送而来的遥控信号(遥控代码)并且将所接收的遥控信号提供至CPU 321。CPU 321基于遥控代码来控制电视接收器300的每个单元。CPU 321、快闪ROM 322和DRAM 323连接到内部总线324。
将简要描述图37所示的电视接收器300的操作。HDMI接收单元303接收从经由HDMI电缆400与HDMI端子302连接的机顶盒200传送而来的立体图像数据和音频数据。HDMI接收单元303所接收的立体图像数据被提供至3D信号处理单元301。另外,HDMI接收单元303所接收的音频数据被提供至音频处理电路310。
输入到天线端子304的电视广播信号被提供至数字调谐器305。在该数字调谐器305中,处理电视广播信号,并且输出与用户所选择的频道相对应的预定比特流数据(传输流)。
从数字调谐器305输出的比特流数据被提供至比特流处理单元306。在该比特流处理单元306中,从比特流数据中提取立体图像数据(左眼图像数据和右眼图像数据)、音频数据、视差信息设置等。比特流处理单元306所获取的立体图像数据被提供至3D信号处理单元301。另外,比特流处理单元306所获取的音频数据被提供至音频处理电路310。
3D信号处理单元301对HDMI接收单元303所接收的或比特流处理单元306所获取的立体图像数据执行解码处理,由此产生左眼图像数据和右眼图像数据。左眼图像数据和右眼图像数据被提供至视频重叠单元314。
OSD显示数据产生单元313产生与在立体图像数据中包括的左眼图像数据相对应的左眼图形信息的数据和与在立体图像数据中包括的右眼图像数据相对应的右眼图形信息的数据。在此情况下,OSD显示数据产生单元313基于比特流处理单元306所获取的或HDMI接收单元303所接收的视差信息设置使得在左眼图形信息和右眼图形信息之间出现视差。
视频重叠单元314将OSD显示数据产生单元313所产生的左眼图形信息和右眼图形信息的数据、与3D信号处理单元301所获取的立体图像数据(左眼图像数据和右眼图像数据)彼此重叠,由此获取用于显示的立体图像数据。用于显示的立体图像数据被输出至视频处理电路307。在视频处理电路307中,基于左眼图像数据和右眼图像数据产生用于显示立体图像的图像数据,并且在必要时执行图像质量调节处理。
视频处理电路307所获取的图像数据被提供至面板驱动电路308。相应地,由显示面板309显示立体图像。例如,在显示面板309上,以时分方式交替地显示根据左眼图像数据的左眼图像和根据右眼图像数据的右眼图像。通过用户佩带快门眼镜,所述快门眼镜的左眼快门和右眼快门与显示面板309的显示同步地交替打开,左眼中仅观看到左眼图像,右眼中仅观看到右眼图像,由此可以辨别立体图像。
另外,在音频处理电路310中,对HDMI接收单元303所接收的或比特流处理单元306所获取的音频信号执行诸如D/A转换之类的必要处理。在音频放大电路311放大音频信号之后,将放大后的音频信号提供至扬声器312。相应地,从扬声器输出与在显示面板309上显示的显示图像相对应的音频。
这里,将描述由OSD显示数据产生单元313(包括机顶盒200的OSD显示数据产生单元226)执行的视差信息设置的处理。例如,将描述在上述“情况1”下产生的视差信息设置的情况。在此情况下,如图38所示,在视差信息设置中,包括配置方向数据的正切数据(tanθ)和分区标识符(Zone_id)。另外,在视差信息设置中,包括距离数据(Line Scale)和视差数据(视差梯度:tanφ)。
OSD显示数据产生单元313在步骤ST41中确定显示图像的配置(垂直分辨率和水平分辨率、以及像素间距离),并且检查图像中心O,并且通过变换为像素数量来计算从图像中心O到末端的距离。
接下来,OSD显示数据产生单元313在步骤ST42中基于分区标识符(Zone_id)检查该位置所位于的象限,并且如图39所示,基于正切数据(tanθ)获取从图像中心O延伸的直线“方向线”的斜率。另外,OSD显示数据产生单元313基于距离数据(Line Scale)和直线“方向线”到显示器的末端点的长度来获取如图39所示的距离Lα(OA)和Lβ(OB)。相应地,OSD显示数据产生单元313辨别出视差信息值为最大值所处的位置(xβ,yβ)以及视差信息值为最小值所处的位置(xα,yα)。
接下来,如图40所示,OSD显示数据产生单元313在步骤ST43中通过使用视差数据(tanφα,tanφβ)和距离Lα(OA)和Lβ(OB)来再现视差信息值Dα和Dβ。
另外,例如,将描述在上述“情况6”下产生的视差信息设置的情况。在此情况下,如图41所示,在视差信息设置中,包括坐标模式数据、水平距离数据Rxa、垂直距离数据Rya和视差数据(Relative_Disparity_ratio)。
OSD显示数据产生单元313在步骤ST41中确定显示图像的配置(垂直分辨率和水平分辨率、以及像素间距离)。然后,在坐标模式为坐标模式1的情况下,OSD显示数据产生单元313计算距二维平面上的左上端的相对位置(参见图19)。另一方面,在坐标模式为坐标模式0的情况下,OSD显示数据产生单元313通过变换为像素数量来计算从图像中心O到末端的距离,从而指定设备位置(参见图18)。
接下来,OSD显示数据产生单元313在步骤ST52中基于距离数据Rxa和Rya、以及视差数据(Relative_Disparity_ratio),获取视差偏移位置并且再现视差的量,从而将其分配给显示平面。
这里,将描述基于监视器尺寸的区别的在视差信息和位置之间的关系。例如,如图42所示,将考虑小尺寸监视器和大尺寸监视器。在监视器分辨率相同的情况下,小尺寸监视器的像素间隙小,而大尺寸监视器的像素间隙大。在显示监视器上适当地获取视差信息位置。然后,将所接收的视差信息值转换为与显示监视器上的立体图像的深度相匹配的适当视差信息值。
另外,将描述基于分辨率的区别的在视差信息和位置之间的关系。例如,如图43所示,将考虑高分辨率监视器和低分辨率监视器。在监视器尺寸相同的情况下,高分辨率监视器的像素间隙小,而低分辨率监视器的像素间隙大。在显示监视器上适当地获取视差信息位置。然后,将所接收的视差信息值转换为与显示监视器上的立体图像的深度相匹配的适当视差信息值。
存在所计算的视差信息位置或视差信息值是小数(decimal)的情况。在此情况下,OSD显示数据产生单元226对于偏移调节使用内插处理,执行所述偏移调节使得基于视差信息在重叠左眼图像的左眼图像信息和重叠右眼图像的右眼图像信息之间出现视差。相应地,可以执行具有子像素精度的偏移调节。图44示意性地示出了像素数据在水平方向上被偏移1/2像素的情况下的内插处理的示例。在图44(a)中,黑色圆圈表示所接收的数据。在图44(b)中,白色圆圈示出所接收的数据简单地在水平方向上被偏移1/2像素的状态。然而,没有由位于像素位置处的白色圆圈所表示的数据。因此,偏移调节单元225对于由白色圆圈表示的数据执行内插处理,并且产生位于由图44(b)中的阴影圆圈表示的像素位置处的数据从而作为偏移调节后的数据。
[HDMI传送单元和HDMI接收单元的配置示例]
图45示出了图1所示的立体图像显示系统10中的机顶盒200的HDMI传送单元(HDMI源)206和电视接收器300的HDMI接收单元(HDMI宿)303的配置示例。
HDMI传送单元206以有效图像间隔(下文中,适当地,也称为有效视频间隔)通过多个信道单向地将与未压缩的一个屏幕所对应的图像的像素数据相对应的差分信号传送至HDMI接收单元303。这里,有效图像间隔是通过在从一个垂直同步信号到另一个垂直同步信号的间隔中排除水平消隐间隔和垂直消隐间隔而获取的间隔。另外,HDMI传送单元206在水平消隐间隔或垂直消隐间隔中通过多个信道将与伴随着图像的至少音频数据和控制数据、其它辅助数据等相对应的差分信号传送至HDMI接收单元303。
作为由HDMI传送单元206和HDMI接收单元303形成的HDMI系统的传送信道,存在以下传送信道。换句话说,存在三个TMDS信道#0到#2作为用于与像素时钟同步地以串行方式将像素数据和音频数据单向地从HDMI传送单元206传送至HDMI接收单元303。另外,作为用于传送像素时钟的传送信道,存在TMDS时钟信道。
HDMI传送单元206包括HDMI传送器81。HDMI传送器81例如将未压缩图像的像素数据转换为对应的差分信号,并且通过三个TMDS信道#0、#1和#2作为多个信道以串行方式将差分信号单向地传送至经由HDMI电缆400连接的HDMI接收单元303。
另外,传送器81将伴随着未压缩图像的音频数据、必要控制数据、其它辅助数据等转换为对应的差分信号,并且通过三个TMDS信道#0、#1和#2以串行方式将该差分信号传送至HDMI接收单元303。
此外,传送器81通过TMDS时钟信道将像素时钟传送至经由HDMI电缆400连接的HDMI接收单元303,所述像素时钟与通过三个TMDS信道#0、#1和#2传送的像素数据相同步。这里,在一个TMDS信道#i(i=0、1或2)中,在像素时钟的一个时钟期间,传送10比特的像素数据。
在有效视频间隔中,HDMI接收单元303接收与像素数据相对应的差分信号,其被通过多个信道从HDMI传送单元206单向地传送而来。另外,在水平消隐间隔或垂直消隐间隔中,HDMI接收单元303接收与音频数据或控制数据相对应的差分信号,其被通过多个信道从HDMI传送单元206单向地传送而来。
换句话说,HDMI接收单元303包括HDMI接收器82。HDMI接收器82接收通过TMDS信道#0、#1和#2从HDMI传送单元206单向地传送而来的与像素数据相对应的差分信号、以及与音频数据或控制数据相对应的差分信号。在此情况下,HDMI接收器82与通过TMDS时钟信道从HDMI传送单元206传送而来的像素时钟相同步地接收差分信号。
除了上述的TMDS信道#0到#2和TMDS时钟信道之外,作为HDMI系统的传送信道,存在被称为显示数据信道(DDC)83或CEC线84的传送信道。DDC 83由两根信号线形成,其被包括在HDMI电缆400中并且未在图中示出。DDC 83被HDMI传送单元206用来从HDMI接收单元303中读出增强型的扩展显示标识数据(E-EDID)。
换句话说,除了HDMI接收器82之外,HDMI接收单元303包括EDID只读存储器(ROM)85,其存储作为与其性能(配置/能力)相关的性能信息的E-EDID。HDMI传送单元206例如响应于来自CPU 211的请求(参见图36),通过DDC 83从经由HDMI电缆400连接的HDMI接收单元303中读出E-EDID。
HDMI传送单元206将所读出的E-EDID传送至CPU 211。CPU 211将E-EDID存储在快闪ROM 212或DRAM 213中。CPU 211可以基于E-EDID辨别出HDMI接收单元303的性能的设置。例如,CPU 211辨别出包括HDMI接收单元303的电视接收器300是否能够应对立体图像数据,并且在可以应对立体图像数据的情况下,辨别该电视接收器可以响应的TDMS传送数据结构等等。
CEC线84由一根信号线形成,其未在图中示出并且被包括在HDMI电缆400中,并且被用于在HDMI传送单元206和HDMI接收单元303之间的控制数据的双向通信。该CEC线84配置控制数据线。
另外,在HDMI电缆400中,包括与被称为热插拔检测(HPD)的引脚相连接的线(HPD线)86。源设备可以通过使用线86来检测宿设备的连接。另外,该HPD线86也被用作HEAC线,其配置双向通信线。此外,在HDMI电缆400中,包括线(电源线)87,其用于从源设备向宿设备供电。另外,在HDMI电缆400中,包括效用线(utility line)88。该效用线88也被用作HEAC+线,其配置双向通信线。
图46示出了TMDS传送数据的结构示例。图46示出了在通过TMDS信道#0、#1和#2传送水平1920像素×垂直1080行的图像数据的情况下的各种传送数据间隔。
在通过HDMI的TMDS信道#0、#1和#2传送传送数据的视频场中,依据传送数据的类型存在三种类型的时段。这三种类型的时段是视频数据时段、数据岛时段以及控制时段。
这里,视频场时段是从垂直同步信号的上升沿(有效沿)到下一个垂直同步信号的上升沿的间隔。该视频场时段被划分为水平消隐时段、垂直消隐时段和有效视频时段。该有效视频时段是从视频场时段中排除水平消隐时段和垂直消隐时段而获取的间隔。
视频数据时段被分配给有效视频时段。在该视频数据时段中,传送有效像素(Active pixel)的数据,其与配置与一个未压缩的屏幕相对应的图像数据的、与1920像素×1080行相对应。
数据岛时段和控制时段被分配给水平消隐间隔和垂直消隐间隔。在数据岛时段和控制时段中,传送辅助数据。换句话说,数据岛时段被分配给水平消隐间隔和垂直消隐间隔的一部分。在该数据岛时段中,传送辅助数据中与控制无关的数据,例如音频数据的分组。
控制时段被分配给水平消隐间隔和垂直消隐时段的其它部分。在控制时段中,传送辅助数据中与控制相关的数据,例如垂直同步信号、水平同步信号、控制分组等。
图47示出了HDMI端子的引脚布置。图47所示的引脚布置被称为类型A。通过作为差分线的两根线来传送作为TMDS信道#i的差分信号的TMDS数据#i+和TMDS数据#i-。这两根线连接到被分配有TMDS数据#i+的引脚(具有引脚号1、4或7的引脚)和被分配有TMDS数据#i-的引脚(具有引脚号3、6或9的引脚)。
另外,传送作为控制数据的CEC信号所经过的CEC线84与具有引脚号13的引脚连接。此外,传送诸如E-EDID之类的串行数据(SDA)信号所经过的线与具有引脚号16的引脚连接。传送作为用于在传送和接收SDA信号时的同步的时钟信号的串行时钟(SCL)信号所经过的线与具有引脚号15的引脚连接。上述的DDC 83由传送SDA信号所经过的线和传送SCL信号所经过的线来配置。
此外,如上所述,被源设备用来检测宿设备的连接的HPD线(HEAC线)86与具有引脚号19的引脚连接。另外,效用线(HEAC+线)88与具有引脚号14的引脚连接。另外,如上所述的用于供电的线87与具有引脚号18的引脚连接。
[E-EDID结构]
如上所述,HDMI传送单元206例如根据来自CPU 211的请求(参见图36),通过DDC 83从经由HDMI电缆400连接的HDMI接收单元303中读出E-EDID。然后,CPU 211基于E-EDID,辨别出HDMI接收单元303的性能的设置,例如,是否能够应对立体图像数据。
图48示出了E-EDID的数据结构的示例。该E-EDID由基本块和扩展块形成。在基本块中,在前导(lead)中布置由以“E-EDID 1.3基本机构”表示的E-EDID的规范定义的数据。在该基本块中,随后布置由“优选定时”表示的用于保持与传统EDID的兼容性的定时信息。另外,在该基本块中,随后布置由“第二定时”表示的用于保持与传统EDID的兼容性的除了“优选定时”之外的定时信息。
在基本块中,在“第二定时”之后,布置由“监视器名称”表示的表示显示设备的名称的信息。在基本块中,随后布置由“监视器范围限制”表示的表示在纵横比为4:3或16:9的情况下用于显示的像素的数量的信息。
在扩展块的前导中,布置“短视频描述符”。这是表示可以显示的图像尺寸(分辨率)、帧速率、和隔行模式(interlaced mode)/逐行模式(progressivemode)的信息。随后,布置“短音频描述符”。这是诸如可再现的音频编解码类型、采样频率、截止带、编解码比特数量等等之类的信息。随后,布置与左扬声器和右扬声器相关的信息,其由“扬声器分配”表示。
另外,在扩展块中,在“扬声器分配”之后,布置对于每个制作者唯一地定义的数据,其由“供应商专有”来表示。在扩展块中,随后布置由“第三定时”表示的用于保持与传统EDID的兼容性的定时信息。另外,在扩展块中,随后布置由“第四定时”表示的用于保持与传统EDID的兼容性的定时信息。
图49示出了供应商专用区域(HDMI供应商专用数据块)的数据结构的示例。在该供应商专用区域中,放置了块0到N,它们都是1个字节的块。
在块0中,布置由“供应者专用标志码(=3)”表示的表示“供应者专用”数据的数据区域的首标。另外,在块0中,布置由“长度(=N)”表示的表示“供应者专用”数据的长度的信息。另外,在块1到3中,布置由“24比特IEEE注册标识符(0x000C03)LSB在前”表示的表示HDMI(R)的注册号“0x000C03”的信息。此外,在块4和5中,布置由“A”、“B”、“C”和“D”表示的表示宿设备的24比特物理地址的信息。
在块6中,布置由“Supports_AI”表示的表示宿设备所对应的功能的标志。另外,在块6中,布置由“DC-48比特”、“DC-36比特”和“DC-30比特”表示的指定每个像素的比特数量的信息。此外,在该块6中,布置由“DC-Y444”表示的表示宿设备是否与YCbCr4:4:4图像的传送相对应的标志。另外,在该块6中,布置由“双DVI”表示的表示宿设备是否与双数字可视接口(DVI)相对应的标志。
另外,在块7中,布置由“Max-TMDS-Clock”表示的表示TMDS的像素时钟的最高频率的信息。此外,在块8的第六比特和第七比特中,布置由“等待时间(Latency)”表示的表示是否存在视频和音频的延迟的标志。另外,在块8的第五比特中,布置由“HDMI_Video_present”表示的表示是否可以应对另外的HDMI视频格式(3D、4k×2k)的标志。
另外,在块9中,布置由“视频等待时间Video_Latency”表示的逐行视频的延迟时间数据,在块10中,布置由“音频等待时间Audieo_Latency”表示的伴随着逐行视频的音频延迟时间数据。此外,在块11中,布置由“隔行视频等待时间Interlaced_Video_Latency”表示的隔行视频的延迟时间数据。另外,在块12中,布置由“隔行音频等待时间Interlaced_Audieo_Latency”表示的伴随着隔行视频的音频延迟时间数据。
此外,在块13的第7比特中,布置由“3D_present”表示的表示是否能够应对3D图像数据的标志。另外,在块14的第7比特到第5比特中,布置由“HDMI_VIC_LEN”表示的表示可以应对的除了强制3D数据结构之外的数据结构的块(其未在图中示出并且被布置在块15及其随后块中)的尺寸信息。另外,在块14的第4比特到第0比特中,布置由“HDMI_3D_LEN”表示的表示可以应对的4k×2k视频格式的块(其未在图中示出并且被布置在块15及其随后块中)的尺寸信息。
[立体图像数据的TMDS传送数据结构]
图50示出了作为立体图像数据的TDMS传送数据结构之一的帧封装类型的3D视频格式。该3D视频格式是用于传送逐行类型的左眼(L)和右眼(R)图像数据作为立体图像数据的格式。
在该3D视频格式中,传送具有1920×1080p和1080×720p的像素格式的图像数据作为左眼(L)和右眼(R)图像数据。另外,在图50中,示出了左眼(L)和右眼(R)图像数据每个都是1920行×1080像素的示例。
根据该3D视频格式,产生以视频场间隔为单位的传送数据,每个视频场间隔包括由垂直同步信号分割开的水平消隐间隔(Hblank)、垂直消隐间隔(Vblank)和有效视频间隔(Hactive×Vactive)。在该3D视频格式中,有效视频间隔包括两个有效视频区域(有效视频)和介于其间的一个有效分隔区域(有效分隔)。左眼(L)图像数据被布置在第一有效视频区域中,而右眼(R)图像数据被布置在第二有效视频区域中。
尽管这里未详细描述,然而在HDMI 1.4中,除了图50的上述3D视频格式之外,还定义了作为立体图像数据的TMDS传送数据结构的3D视频格式。例如,存在行交错类型、左右并排(全)类型、隔行格式的帧封装类型等等。
在图36的机顶盒200中,采用通过HDMI接口将基带的立体图像数据和音频数据传送到电视接收器300的配置。从机顶盒200到电视接收器300,通过HDMI接口传送比特流处理单元201所使用的视差信息设置中的全部或一些以供使用。
在图36的机顶盒200中,通过比特流处理单元201将视差信息设置提供至HDMI传送单元206。然后,通过HDMI传送单元206,连同立体图像数据和音频数据一起,视差信息设置被从HDMI端子202递送到HDMI电缆400。另外,在图37的电视接收器300中,如上所述的HDMI接收单元303所接收的视差信息设置被提供至OSD显示数据产生单元313以供使用。
[HDMI中传送视差信息设置的方法]
作为通过HDMI接口传送视差信息设置的方法,例如可以考虑以下方法(1)和(2)。
(1)使用HDMI供应商专用信息帧(Vendor Specific InfoFrame)的方法
(2)使用诸如帧封装类型的3D视频格式的有效分隔的方法
首先,将描述被提及为(1)的使用HDMI供应商专用信息帧的方法。在该方法中,在HDMI供应商专用信息帧分组中,假设HDMI_Video_Format=“010”,3D_Meta_present=1,并且分配供应商专用信息帧扩展。在此情况下,定义3D_Metadata_type,例如如未使用的“010”,并且指定视差信息设置(视差设置)的信息。
图51示出了HDMI供应者专用信息帧的分组结构。由于在CEA-861-D中定义了HDMI供应者专用信息帧,因此将不给出具体描述。
在第4字节(PB4)的第7比特到第5比特中,布置表示图像数据的类型的3比特的信息“HDMI_Video_Format”。在图像数据为3D图像数据的情况下,该3比特信息被设置为“010”。另外,在图像数据为3D图像数据的情况下,在第5字节(PB5)的第7比特到第4比特中,布置表示TMDS传送数据的结构的4比特的信息“3D_Structure”。例如,在帧封装类型的情况下(参见图50),该4比特的信息被设置为“0000”。
另外,在第5字节(PB5)的第3比特中,布置“3D_Meta_present”,并且在指定了供应者专用信息帧扩展的情况下,该1比特被设置为“1”。另外,在第7字节(PB7)的第7比特到第5比特中,布置“3D_Metadata_type”。在指定了视差信息设置(视差设置)的信息的情况下,该3比特的信息例如被设置为未使用的“010”。
另外,在第7字节(PB7)的第4比特到第0比特中,布置“3D_Metadata_length”。基于这5比特的信息,表示此后布置的3D_Metadata区域的长度。例如,在“3D_Metadata_length=27(0x1B)”的情况下,从紧接在其后放置的位置开始传送视差信息设置,由此具有27字节的尺寸。例如,在所示样式中布置了“情况1”下的与五个像素相对应的视差信息设置的位置(参见图22)。
接下来,将描述在(2)中提及的有效分隔的方法。在该方法中,如在图52中示出的HDMI供应者专用信息帧的分组结构,在第5字节(PB5)的第2比特(其是当前状态下的保留比特)中,定义“ActiveSpaceEnable”,并且将该1比特的信息设置为“1”。另外,通过使用在当前状态下被保留的该有效分隔区域,新定义了信息区域,并且在其中布置了视差信息设置。
有效分隔区域连同其中布置了左眼图像数据和右眼图像数据的有效视频区域一起配置有效视频间隔。这里,有效视频区域配置主视频区域,而有效分隔区域配置辅视频区域。尽管有效分隔区域依据视频的画面尺寸变化,然而在1920×1080的图像尺寸的情况下,有效分隔区域具有与45行(86400字节)相对应的容量,其接近于一帧。
例如,“情况1”下的视差信息设置的最大数据尺寸为1+5×256=1281字节,并且落在有效分隔区域之内。图53示出了视差信息设置在有效分隔区域中的布置的示例。在字节0中,布置3比特的“Active_space_info_Type”、3比特的“Block_Size”、和2比特的“Connect_Info”的信息。在字节1和2中,布置具有16比特的“Data_Length”的高8比特和低8比特,其表示布置了在其后放置的视差信息设置的区域的长度。
如上所述,在图1所示的图像传送和接收系统10中,从广播站100(传送数据产生单元201)到机顶盒200或电视接收器300,连同预定节目的包括左眼图像数据和右眼图像数据的立体图像数据一起,传送与预定节目的立体图像数据相对应的预定像素位置的视差信息设置。相应地,在接收侧,通过使用视差信息设置,可以使用重叠左眼图像和右眼图像的重叠信息,例如在如OSD等中包括的图形信息,对于该图形信息已经根据图像内每个对象的透视图执行了视差调节。因此,在显示例如OSD等的图形信息时,可以保持图像内每个对象的透视图的一致性。
另外,在图1所示的图像传送和接收系统10中,从广播站100(传送数据产生单元201)到机顶盒200或电视接收器300传送的视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据。相应地,视差信息设置与立体图像的分辨率无关,并且也与监视器的显示分辨率或监视器尺寸无关。因此,在接收侧,可以通过使用视差信息设置而与监视器的显示分辨率或监视器尺寸无关地容易地执行视差调节。
另外,在图1所示的图像传送和接收系统10中,从机顶盒200到电视接收器300,连同预定节目的立体图像数据一起,通过HDMI电缆400传送与预定节目的立体图像数据相对应的预定像素位置的视差信息设置。相应地,在诸如电视接收器300之类的图像显示设备中,通过使用视差信息设置,可以使用重叠左眼图像和右眼图像的重叠信息,例如在OSD等中包括的图形信息,对于该图形信息已经根据图像内每个对象的透视图执行了视差调节。因此,例如在显示例如OSD等的图形信息时,可以保持图像内每个对象的透视图的一致性。
<2.修改示例>
另外,在上述实施例中,已经将立体图像显示系统10示出为由广播站100、机顶盒200和电视接收器300来配置。然而,如图37所示,电视接收器300包括与在机顶盒200内布置的比特流处理单元201相同地作用的比特流处理单元306。相应地,如图55所示,可以考虑由广播站100和电视接收器300配置的立体图像显示系统10A。
另外,在上述实施例中,已经示出了其中在传输流(比特流数据)的PSI信息或SI信息的预定位置处插入包括视差信息设置的描述符的示例。然而,可以考虑以下情况,其中,视差信息设置在被插入到包括立体图像数据的视频基本流、包括字幕数据的字幕基本流等中的情况下被传送。下文中,将描述在“情况5”下产生视差信息设置的情况。尽管未详细示出,然而本发明还可以类似地应用于在其它情况下产生视差信息设置的情况。
首先,将描述以下情况,其中,视差信息设置在被插入到包括立体图像数据的视频基本流(视频数据流)中的情况下被传送。图56示出了该情况下的传输流(比特流数据)的配置示例。如该配置示例所示,包括视差信息设置的元数据(z-OSD元数据)被插入到视频基本流中。这里,元数据被嵌入作为用户数据。
图57示意性地示出了视频基本流的结构的示例。在视频基本流中,布置了包括以序列为单位的参数的序列首标部分。在序列首标部分之后,布置包括以画面为单位的参数和用户数据的画面首标部分。在该画面首标部分之后,布置包括画面数据的有效载荷部分。下面,重复地布置画面首标部分和有效载荷部分。
例如上述的视差信息设置被嵌入在画面首标部分的用户数据区域中。图58示出了用户数据的配置示例。图58(a)示出了在编码类型为MPEG2的情况下的用户数据的配置。图58(b)示出了在编码类型为H.264AVC(MPEG-4AVC)的情况下的用户数据的配置。另外,图58(c)示出了在编码类型为VC-1的情况下的用户数据的配置。
尽管未详细描述,每种类型的用户数据的配置几乎相同。换句话说,首先布置表示用户数据的开始的代码,此后布置表示数据类型的标识符“user_identifier”,此后布置数据主体“user_structure”。
图59示出了包括视差信息设置的用户数据的结构(语法)的示例。在该结构中,与图34所示的描述符(z-OSD描述符)相似,包括在上述的“情况5”下产生的视差信息设置。图60中示出了结构的该示例的定义内容(语义)的主数据。
“视差点的数量NumberOfDisparityPoints”表示视差信息设置的总数量。例如,在存在两个视差信息设置(包括视差信息的值为最大值(Max)所处的第一像素位置和视差信息的值为最小值(Min)所处的像素位置(第二像素位置))的情况下,假设“视差点的数量=1”。“relative_plain_mode”是1比特数据,其表示相对平面(plane)的类型。“relative_plain_mode=1”表示坐标模式0和将图像中心O设置为坐标原点(0,0)的坐标的平面。“relative_plain_mode=0”表示坐标模式1和将图像的左上侧(左上)设置为坐标原点(0,0)的坐标的平面。
“Relative_x”是11比特数据,其表示从原点(0,0)到像素位置(x,y)的水平距离(Rxa)。该水平距离(Rxa)被表示为相对于图像在水平方向的尺寸的比率。“Relative_y”是11比特数据,其表示从原点(0,0)到像素位置(x,y)的垂直距离(Rya)。该垂直距离(Rya)被表示为相对于图像在垂直方向的尺寸的比率。“视差”是12比特数据,其表示像素位置(x,y)的视差信息的值(视差向量)。
接下来,将描述以下情况,其中,视差信息设置在被插入到包括字幕数据的字幕基本流(字幕数据流)中的情况下被传送。图61示出了该情况下的传输流(比特流数据)的配置示例。如该配置示例所示,新定义的包括视差信息设置的片段(zOSD:z-OSD片段)被插入到字幕基本流中。
换句话说,在字幕基本流中,包括已知片段,诸如显示清晰度片段(DDS)、页组成片段(PCS)、区域组成片段(RCS)和对象数据片段(ODS)。另外,在字幕基本流中,包括在视差信息设置中包括的片段(zOSD)。例如,如图62所示,片段zOSD的类型为“0x50”。
图63示出了zOSD(z-OSD)片段的结构(语法)的示例。图60中示出了zOSD的定义内容(语义)的主数据。“segment_continued_flag”是表示zOSD片段是否位于当前片段之后的一比特的标志信息。“segment_continued_flag=1”表示出现片段。“segment_continued_flag=0”表示不出现片段。在接收侧,可以基于该标志信息检查其中包括视差信息设置的片段或分组是否连续出现,并且因此可以预先检查视差信息等的更新的可能性。
“delta_PTS[32..0]”是32比特数据,其表示在首标部分中包括的指定字幕的显示定时的PTS(时间信息)中的不同(改变)。“Disparity_position_id”是16比特数据,其示出与视差信息设置相对应的像素位置。另外,布置32比特数据以便将其一分为三。
“relative_plain_mode”是1比特数据,其表示相对平面的类型。“其表示坐标模式0和其中将图像中心O设置为坐标原点(0,0)的平面。“relative_plain_mode=0”表示坐标模式1和将图像的左上侧(左上)设置为坐标原点(0,0)的坐标的平面。
“Relative_x”是11比特数据,其表示从原点(0,0)到像素位置(x,y)的水平距离(Rxa)。该水平距离(Rxa)被表示为相对于图像在水平方向的尺寸的比率。“Relative_y”是11比特数据,其表示从原点(0,0)到像素位置(x,y)的垂直距离(Rya)。该垂直距离(Rya)被表示为相对于图像在垂直方向的尺寸的比率。“视差”是12比特数据,其表示像素位置(x,y)的视差信息的值(视差向量)。
图64(a)示出了传统字幕数据流的配置的示例。在PES首标,包括时间信息(PTS)。另外,包括DDS、PCS、RCS、ODS和EOS片段作为PES有效载荷数据。图64(b)示出了其中包括上述zOSD的字幕数据流的配置的示例。在PES首标中,包括时间信息(PTS)。另外,包括DDS、PCS、RCS、ODS、zOSD和EOS片段作为PES有效载荷数据。
在图64(b)所示的配置示例中,首先传送DDS、PCS、RCS、ODS和zOSD片段作为PES有效载荷数据。此后,可以传送其中更新了时间差分值(delta_PTS)和视差信息设置的内容的预定数量的zOSD片段。最后,在zOSD片段中还传送EOS片段。在图64(b)所示的配置示例中,不传送整个字幕数据流,通过顺序传送zOSD片段,可以传送被按顺序更新的视差信息设置。在此情况下,在最后zOSD中“segment_continued_flag=0”时,之前的zOSD中“segment_continued_flag=1”。
接下来,将描述视差信息设置被作为独立元数据流传送的情况。图65示出了在此情况下的传输流(比特流数据)的配置的示例。如该配置示例所示的,存在向其中插入了包括视差信息设置的元数据(z-OSD元数据)的元数据基本流。
图66示出了向其中插入了包括视差信息设置的元数据(z-OSD元数据)的元数据基本流的结构(语法)的示例。在图60中示出了该结构示例的定义内容(语义)的主数据。“z-OSD_Metadata_stream_id”表示向其中插入了元数据(z-OSD元数据)的元数据基本流。“z-OSD_Metadata_set()”表示包括视差信息设置的元数据。
图67示出了“z-OSD_Metadata_set()”的具体结构的示例。“segment_continued_flag”是表示zOSD片段是否位于当前片段之后的一比特的标志信息。“segment_continued_flag=1”表示出现片段。“segment_continued_flag=0”表示不出现片段。在接收侧,可以基于该标志信息检查其中包括视差信息设置的片段或分组是否连续出现,并且因此可以预先检查视差信息等的更新的可能性。
“delta_PTS[32..0]”是32比特数据,其表示在首标部分中包括的指定字幕的显示定时的PTS(时间信息)中的不同(改变)。“Disparity_position_id”是16比特数据,其示出与视差信息设置相对应的像素位置。另外,布置32比特数据以便将其一分为三。
“relative_plain_mode”是1比特数据,其表示相对平面的类型。其表示坐标模式0和将图像中心O设置为坐标原点(0,0)的坐标的平面。“relative_plain_mode=0”表示坐标模式1和将图像的左上侧(左上)设置为坐标原点(0,0)的坐标的平面。
“Relative_x”是11比特数据,其表示从原点(0,0)到像素位置(x,y)的水平距离(Rxa)。该水平距离(Rxa)被表示为相对于图像在水平方向的尺寸的比率。“Relative_y”是11比特数据,其表示从原点(0,0)到像素位置(x,y)的垂直距离(Rya)。该垂直距离(Rya)被表示为相对于图像在垂直方向的尺寸的比率。“视差”是12比特数据,其表示像素位置(x,y)的视差信息的值(视差向量)。
如上所述,通过将包括视差信息设置的片段或分组插入字幕基本流或独立的元数据流中,可以传送视差信息设置。这里,视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据。
然而,视差信息不限于视差信息设置,并且显然可以类似地传送任何其它类型的视差信息。换句话说,要传送的视差信息例如可以由表示位置或区域的位置数据、或者用于该位置或区域的视差数据形成,并且位置数据不限于表示相对于整个图像的相对位置的情况而且可以表示在图像内的绝对位置等。
另外,在上述实施例中,作为从机顶盒200向电视接收器300A传送视差信息设置的方法,已经描述了使用HDMI供应商专用信息帧的方法和使用有效分隔的方法。除此之外,可以考虑其中通过由HPD线86(HEAC-线)和效用线88(HEAC+线)配置的双向通信线执行传送的情况。
另外,在上述实施例中,已经描述了其中通过HDMI数字接口连接机顶盒200和电视接收机300的情况。然而,显然本发明还可以应用于其中通过与HDMI数字接口相似的数字接口(有线或无线)连接机顶盒200和电视接收机300的情况。
此外,在上述实施例中,已经描述了以下的示例,其中,通过HDMI接口从机顶盒200向电视接收机300传送比特流处理单元201所使用的视差信息设置的全部或一些。然而,显然如上通过HDMI接口传送视差信息设置的技术可以应用于其它源设备和宿设备的组合。例如,可以考虑BD或DVD等的盘播放器、以及游戏设备等作为源设备,并且可以考虑监视器设备、以及投影仪装置等作为宿设备。
工业实用性
根据本发明,可以很好地执行在显示立体图像时的重叠信息(例如在OSD等中包括的图形信息)的显示,并且该显示可以应用于立体图像显示系统等。
参考标号列表
10和10A  立体图像显示系统
100  广播站
110  传送数据产生单元
111L和111R  照相机
112  视频成帧单元
113  视差图产生单元
114  麦克风
115  数据取得单元
115a  数据记录介质
116到118  切换开关
119  视频编码器
120  音频编码器
122  视差信息设置产生单元
126  多路复用器
200  机顶盒(STB)
201  比特流处理单元
202  HDMI端子
203  天线端子
204  数字调谐器、
205  视频处理电路
206  HDMI传送单元
207  音频处理电路
211  CPU
215  遥控接收单元
216  遥控传送器
220  去多路复用器
221  视频解码器
224  音频解码器
226  OSD显示数据产生单元
228  视频重叠单元
300  电视接收器(TV)
301  3D信号处理单元
302  HDMI端子
303  HDMI接收单元
304  天线端子
305  数字调谐器
306  比特流处理单元
307  视频处理电路
308  面板驱动电路
309  显示面板
310  音频处理电路
311  音频放大电路
312  扬声器
313  OSD显示数据产生单元
314  视频重叠单元
321  CPU
325  遥控接收单元
326  遥控传送器
400  HDMI电缆

Claims (20)

1.一种立体图像数据传送设备,包括:
图像数据输出单元,用于输出预定节目的包括左眼图像数据和右眼图像数据的立体图像数据;
视差信息设置输出单元,用于输出与从图像数据输出单元输出的预定节目的立体图像数据相对应的预定像素位置的视差信息设置;以及
传送单元,用于传送从图像数据输出单元输出的立体图像数据和从视差信息设置输出单元输出的视差信息设置,
其中,视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据。
2.如权利要求1所述的立体图像数据传送设备,其中,位置数据由通过使用图像中心作为原点而表示从该原点到预定像素位置的方向的方向数据和表示从原点到预定像素位置的距离的距离数据形成。
3.如权利要求2所述的立体图像数据传送设备,其中,视差数据是表示用于预定像素位置的视差信息的值与距原点的距离的比率的数据。
4.如权利要求2所述的立体图像数据传送设备,其中,视差数据是用于预定像素位置的在特定显示分辨率下的视差信息的值。
5.如权利要求1所述的立体图像数据传送设备,其中,位置信息由表示从原点到预定像素位置的水平距离的水平距离数据和表示从原点到预定像素位置的垂直距离的垂直距离数据形成。
6.如权利要求5所述的立体图像数据传送设备,其中,视差数据是表示用于预定像素位置的视差信息的值相对于特定显示分辨率的比率的数据
7.如权利要求5所述的立体图像数据传送设备,其中,视差数据是用于预定像素位置的在特定显示分辨率下的视差信息的值。
8.如权利要求1所述的立体图像数据传送设备,其中,预定像素位置是第一像素位置和第二像素位置,在第一像素位置处,视差信息的值最大,而在第二像素位置处,视差信息的值最小。
9.如权利要求1所述的立体图像数据传送设备,其中,视差信息设置输出单元输出通过以分级方式均等地划分预定节目的时段而获得的每个划分时段的视差信息设置。
10.如权利要求1所述的立体图像数据传送设备,其中,传送单元传送包括从图像数据传送单元输出的预定节目的立体图像数据的传输流,并且在被插入该传输流中的PSI信息或SI信息的预定位置处插入包括从视差信息设置输出单元输出的视差信息设置的描述符。
11.如权利要求1所述的立体图像数据传送设备,其中,传送单元传送视差信息设置,该视差信息设置被包括在用于传送预定信息的基本流中。
12.如权利要求11所述的立体图像数据传送设备,其中,其它信息是立体图像数据,而视差信息设置可以被插入到基本流的首标部分的用户数据区域中。
13.如权利要求11所述的立体图像数据传送设备,其中,预定信息是字幕数据或独立数据,而基本流包括视差信息被插入其中的片段或分组。
14.一种传送立体图像数据的方法,该方法包括:
输出预定节目的包括左眼图像数据和右眼图像数据的立体图像数据;
输出与在立体图像数据的输出中输出的预定节目的立体图像数据相对应的预定像素位置的视差信息设置;以及
传送在立体图像数据的输出中输出的立体图像数据和在视差信息设置的输出中输出的视差信息设置,
其中,视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据
15.一种视差图像数据接收设备,其包括:
接收单元,用于接收预定节目的包括左眼图像数据和右眼图像数据的立体图像数据、以及与预定节目的立体图像数据相对应的预定像素位置的视差信息设置;
重叠信息数据输出单元,用于输出与在由接收单元接收的立体图像数据中包括的左眼图像数据相对应的左眼重叠信息的数据、以及与在由接收单元接收的立体图像数据中包括的右眼图像数据相对应的右眼重叠信息的数据;以及
数据重叠单元,用于将从重叠信息数据输出单元输出的左眼重叠信息的数据和右眼重叠信息的数据、重叠于在由接收单元接收的立体图像数据中包括的左眼图像数据和右眼图像数据,
其中,视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据,并且
重叠信息数据输出单元基于由接收单元接收的视差信息设置使得在左眼重叠信息和右眼重叠信息之间出现视差。
16.一种立体图像数据接收设备,包括:
接收单元,用于接收预定节目的包括左眼图像数据和右眼图像数据的立体图像数据、以及与预定节目的立体图像数据相对应的预定像素位置的视差信息设置;以及
传送单元,用于将由接收单元接收的左眼图像数据、右眼图像数据、和视差信息设置经由传送线传送到外部设备,
其中,视差信息设置包括表示预定像素位置相对于整个图像的相对位置的位置数据和用于该预定像素位置的视差数据。
17.如权利要求16所示的立体图像数据接收设备,
其中,传送单元通过使用差分信号经由传送线将图像数据经由多个信道传送到外部设备,并且
传送单元通过将视差信息设置插入图像数据的消隐时段中来将视差信息传送到外部设备。
18.如权利要求16所示的立体图像数据接收设备,
其中,传送单元包括:
传送数据产生单元,用于以视频场时段为单位来产生传送数据,所述视频场时段包括根据垂直同步信号被分割开的水平消隐间隔、垂直消隐间隔和有效视频间隔;以及
传送数据传送单元,用于通过使用差分信号经由多个信道经由传送线将传送数据产生单元产生的传送数据传送到外部设备,
有效视频间隔包括主视频区域和辅视频区域,并且
传送数据产生单元将图像数据布置在主视频区域中并将与布置在主视频区域中的图像数据相关的视差信息设置布置在辅视频区域中。
19.一种立体图像数据传送设备,包括:
图像数据输出单元,用于输出预定节目的包括左眼图像数据和右眼图像数据的立体图像数据;
视差信息输出单元,用于输出与从图像数据输出单元的预定节目的立体图像数据相对应的视差信息;以及
传送单元,用于传送从图像数据输出单元输出的立体图像数据和从视差信息输出单元输出的视差信息,
其中,传送单元将包括视差信息的片段或分组插入到用于传送预定信息的基本流中,并且
所述片段或分组还包括表示视差信息的使用定时的定时信息。
20.如权利要求19所示的立体图像数据传送设备,其中,片段或分组还包括表示片段或分组是否连续出现的标志信息。
CN2011800060755A 2010-09-06 2011-09-01 立体图像数据传送设备、立体图像数据传送方法、以及立体图像数据接收设备 Pending CN102714746A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2010-199370 2010-09-06
JP2010199370A JP5633259B2 (ja) 2010-09-06 2010-09-06 立体画像データ送信装置、立体画像データ送信方法および立体画像データ受信装置
PCT/JP2011/069887 WO2012032997A1 (ja) 2010-09-06 2011-09-01 立体画像データ送信装置、立体画像データ送信方法および立体画像データ受信装置

Publications (1)

Publication Number Publication Date
CN102714746A true CN102714746A (zh) 2012-10-03

Family

ID=45810599

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2011800060755A Pending CN102714746A (zh) 2010-09-06 2011-09-01 立体图像数据传送设备、立体图像数据传送方法、以及立体图像数据接收设备

Country Status (11)

Country Link
US (1) US20120262546A1 (zh)
EP (1) EP2485492A4 (zh)
JP (1) JP5633259B2 (zh)
KR (1) KR20130098132A (zh)
CN (1) CN102714746A (zh)
AU (1) AU2011300020B2 (zh)
BR (1) BR112012010777A2 (zh)
CA (1) CA2779687A1 (zh)
MX (1) MX2012005359A (zh)
RU (1) RU2012118689A (zh)
WO (1) WO2012032997A1 (zh)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130099403A (ko) * 2012-02-29 2013-09-06 삼성전자주식회사 이미지 프로세싱 방법 및 이를 이용한 이미지 프로세싱 유닛
JP6307213B2 (ja) * 2012-05-14 2018-04-04 サターン ライセンシング エルエルシーSaturn Licensing LLC 画像処理装置、画像処理方法およびプログラム
KR101966920B1 (ko) * 2012-07-10 2019-04-08 삼성전자주식회사 다시점 영상의 시차 정보를 이용하여 영상의 움직임을 추정하는 방법 및 장치
CN103686118A (zh) * 2012-09-19 2014-03-26 珠海扬智电子科技有限公司 影像深度调整方法与装置
US9762889B2 (en) * 2013-05-08 2017-09-12 Sony Corporation Subtitle detection for stereoscopic video contents
EP2814251A1 (en) * 2013-06-14 2014-12-17 Pace Plc Method and system for operating a set-top-box supporting 3D video content
JP5984858B2 (ja) * 2014-01-24 2016-09-06 キヤノン株式会社 画像処理装置及びプログラム
US10979689B2 (en) * 2014-07-16 2021-04-13 Arris Enterprises Llc Adaptive stereo scaling format switch for 3D video encoding
US9699390B2 (en) * 2014-09-02 2017-07-04 Htc Corporation Controlling method for image capturing and image integration
US20210297649A1 (en) * 2018-09-28 2021-09-23 Sony Interactive Entertainment Inc. Image data output device, content creation device, content reproduction device, image data output method, content creation method, and content reproduction method
CN110853588A (zh) * 2019-10-23 2020-02-28 西安万像电子科技有限公司 数据处理方法及装置

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004274125A (ja) * 2003-03-05 2004-09-30 Sony Corp 画像処理装置および方法
US20090142041A1 (en) * 2007-11-29 2009-06-04 Mitsubishi Electric Corporation Stereoscopic video recording method, stereoscopic video recording medium, stereoscopic video reproducing method, stereoscopic video recording apparatus, and stereoscopic video reproducing apparatus
CN101589619A (zh) * 2007-11-20 2009-11-25 索尼株式会社 信息处理装置、信息处理方法、显示控制装置、显示控制方法和程序
WO2010013382A1 (ja) * 2008-07-31 2010-02-04 三菱電機株式会社 映像符号化装置、映像符号化方法、映像再生装置、映像再生方法、映像記録媒体、及び映像データストリーム
CN101653011A (zh) * 2007-03-16 2010-02-17 汤姆森许可贸易公司 用于将文本与三维内容相结合的系统和方法
WO2010038388A1 (ja) * 2008-09-30 2010-04-08 富士フイルム株式会社 3次元表示装置および方法並びにプログラム
WO2010092823A1 (ja) * 2009-02-13 2010-08-19 パナソニック株式会社 表示制御装置
WO2010095074A1 (en) * 2009-02-17 2010-08-26 Koninklijke Philips Electronics N.V. Combining 3d image and graphical data

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11155152A (ja) * 1997-11-21 1999-06-08 Canon Inc 三次元形状情報入力方法及び装置及び画像入力装置
JP4190357B2 (ja) 2003-06-12 2008-12-03 シャープ株式会社 放送データ送信装置、放送データ送信方法および放送データ受信装置
JP4739291B2 (ja) * 2007-08-09 2011-08-03 富士フイルム株式会社 撮影画角算出装置
KR101506219B1 (ko) * 2008-03-25 2015-03-27 삼성전자주식회사 3차원 영상 컨텐츠 제공 방법, 재생 방법, 그 장치 및 그기록매체
US20090315981A1 (en) * 2008-06-24 2009-12-24 Samsung Electronics Co., Ltd. Image processing method and apparatus
CN102150433B (zh) * 2008-09-18 2014-04-09 松下电器产业株式会社 立体视觉影像再现装置及立体视觉影像显示装置
JPWO2010038409A1 (ja) * 2008-09-30 2012-03-01 パナソニック株式会社 再生装置、記録媒体、及び集積回路
WO2010048632A1 (en) * 2008-10-24 2010-04-29 Real D Stereoscopic image format with depth information
US8335425B2 (en) * 2008-11-18 2012-12-18 Panasonic Corporation Playback apparatus, playback method, and program for performing stereoscopic playback
JP4737573B2 (ja) * 2009-02-05 2011-08-03 富士フイルム株式会社 3次元画像出力装置及び方法
WO2011118215A1 (ja) * 2010-03-24 2011-09-29 パナソニック株式会社 映像処理装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004274125A (ja) * 2003-03-05 2004-09-30 Sony Corp 画像処理装置および方法
CN101653011A (zh) * 2007-03-16 2010-02-17 汤姆森许可贸易公司 用于将文本与三维内容相结合的系统和方法
CN101589619A (zh) * 2007-11-20 2009-11-25 索尼株式会社 信息处理装置、信息处理方法、显示控制装置、显示控制方法和程序
US20090142041A1 (en) * 2007-11-29 2009-06-04 Mitsubishi Electric Corporation Stereoscopic video recording method, stereoscopic video recording medium, stereoscopic video reproducing method, stereoscopic video recording apparatus, and stereoscopic video reproducing apparatus
WO2010013382A1 (ja) * 2008-07-31 2010-02-04 三菱電機株式会社 映像符号化装置、映像符号化方法、映像再生装置、映像再生方法、映像記録媒体、及び映像データストリーム
WO2010038388A1 (ja) * 2008-09-30 2010-04-08 富士フイルム株式会社 3次元表示装置および方法並びにプログラム
WO2010092823A1 (ja) * 2009-02-13 2010-08-19 パナソニック株式会社 表示制御装置
WO2010095074A1 (en) * 2009-02-17 2010-08-26 Koninklijke Philips Electronics N.V. Combining 3d image and graphical data

Also Published As

Publication number Publication date
RU2012118689A (ru) 2013-11-10
CA2779687A1 (en) 2012-03-15
JP2012060267A (ja) 2012-03-22
BR112012010777A2 (pt) 2019-09-24
AU2011300020A1 (en) 2012-05-31
EP2485492A4 (en) 2014-07-02
MX2012005359A (es) 2012-06-08
KR20130098132A (ko) 2013-09-04
WO2012032997A1 (ja) 2012-03-15
EP2485492A1 (en) 2012-08-08
AU2011300020B2 (en) 2014-09-18
JP5633259B2 (ja) 2014-12-03
US20120262546A1 (en) 2012-10-18

Similar Documents

Publication Publication Date Title
CN102714746A (zh) 立体图像数据传送设备、立体图像数据传送方法、以及立体图像数据接收设备
CN102177724B (zh) 立体图像数据传输装置、立体图像数据发送方法、立体图像数据接收装置和立体图像数据接收方法
CN102210155B (zh) 发送立体图像数据的立体图像数据发送装置和方法
CN102342113B (zh) 立体图像数据传输装置和立体图像数据接收装置
CN102210154A (zh) 立体图像数据发送装置和立体图像数据接收装置
JP5531972B2 (ja) 立体画像データ送信装置、立体画像データ送信方法、立体画像データ受信装置および立体画像データ受信方法
CN102369735B (zh) 立体图像数据发送装置、立体图像数据发送方法、立体图像数据接收装置和立体图像数据接收方法
CN102342111A (zh) 立体图像数据传输装置、立体图像数据传输方法、立体图像数据接收装置、以及立体图像数据接收方法
CN102177723A (zh) 立体图像数据发送器、用于发送立体图像数据的方法和立体图像数据接收器
CN102172034A (zh) 图像数据发送设备、控制方法和程序
CN103597823A (zh) 发送装置、发送方法和接收器装置
JP2011166757A (ja) 送信装置、送信方法および受信装置
CN102884800A (zh) 发送装置、发送方法、接收装置、以及接收方法
CN103053166A (zh) 立体图像数据发送设备、立体图像数据发送方法和立体图像数据接收设备
JP2011010255A (ja) 立体画像データ送信方法、立体画像データ受信装置および立体画像データ受信方法
JP2013176141A (ja) 立体画像データ受信装置および立体画像データ受信方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C12 Rejection of a patent application after its publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20121003