CN103125123A - 再现装置、再现方法、集成电路、广播系统及广播方法 - Google Patents
再现装置、再现方法、集成电路、广播系统及广播方法 Download PDFInfo
- Publication number
- CN103125123A CN103125123A CN2012800031526A CN201280003152A CN103125123A CN 103125123 A CN103125123 A CN 103125123A CN 2012800031526 A CN2012800031526 A CN 2012800031526A CN 201280003152 A CN201280003152 A CN 201280003152A CN 103125123 A CN103125123 A CN 103125123A
- Authority
- CN
- China
- Prior art keywords
- image
- group
- broadcast
- picture
- stream
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 33
- 239000000284 extract Substances 0.000 claims description 30
- 230000014509 gene expression Effects 0.000 claims description 18
- 238000012545 processing Methods 0.000 claims description 18
- 230000015572 biosynthetic process Effects 0.000 claims description 11
- 230000033228 biological regulation Effects 0.000 claims description 7
- 238000000605 extraction Methods 0.000 claims description 7
- 230000006870 function Effects 0.000 description 50
- 238000000926 separation method Methods 0.000 description 35
- 238000001308 synthesis method Methods 0.000 description 22
- 230000005540 biological transmission Effects 0.000 description 19
- 238000004891 communication Methods 0.000 description 15
- 238000005520 cutting process Methods 0.000 description 12
- 230000009897 systematic effect Effects 0.000 description 12
- 238000005516 engineering process Methods 0.000 description 11
- 238000003860 storage Methods 0.000 description 10
- 238000005755 formation reaction Methods 0.000 description 8
- 230000001360 synchronised effect Effects 0.000 description 8
- 230000006978 adaptation Effects 0.000 description 6
- 238000012937 correction Methods 0.000 description 6
- 239000000872 buffer Substances 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 4
- 230000014759 maintenance of location Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000003709 image segmentation Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000000178 monomer Substances 0.000 description 2
- 241001269238 Data Species 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 230000032798 delamination Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 239000000945 filler Substances 0.000 description 1
- 238000011049 filling Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 1
- 239000010931 gold Substances 0.000 description 1
- 229910052737 gold Inorganic materials 0.000 description 1
- 238000002156 mixing Methods 0.000 description 1
- 238000000465 moulding Methods 0.000 description 1
- 235000001968 nicotinic acid Nutrition 0.000 description 1
- 238000012856 packing Methods 0.000 description 1
- VYMDGNCVAMGZFE-UHFFFAOYSA-N phenylbutazonum Chemical class O=C1C(CCCC)C(=O)N(C=2C=CC=CC=2)N1C1=CC=CC=C1 VYMDGNCVAMGZFE-UHFFFAOYSA-N 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000000153 supplemental effect Effects 0.000 description 1
- 238000013316 zoning Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/44—Receiver circuitry for the reception of television signals according to analogue transmission standards
- H04N5/445—Receiver circuitry for the reception of television signals according to analogue transmission standards for displaying additional information
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
- H04N21/462—Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
- H04N21/4622—Retrieving content or additional data from different sources, e.g. from a broadcast channel and the Internet
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
- H04N21/234318—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into objects, e.g. MPEG-4 objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/266—Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/44012—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving rendering scenes according to scene graphs, e.g. MPEG-4 scene graphs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
- H04N21/631—Multimode Transmission, e.g. transmitting basic layers and enhancement layers of the content over different transmission paths or transmitting with different error corrections, different keys or with different transmission protocols
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/06—Systems for the simultaneous transmission of one television signal, i.e. both picture and sound, by more than one carrier
- H04N7/063—Simultaneous transmission of separate parts of one picture
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Television Systems (AREA)
Abstract
本发明提供一种再现装置,在将广播影像和追加影像相结合并生成一个结合影像进行显示的情况下,追加影像能够采用不是根据与广播影像的固定的相对位置而确定的影像的任意影像。再现装置用于再现原始影像,该再现装置具有:第1接收单元,从广播波取得由广播图像组构成的广播影像,该广播图像组是提取构成所述原始影像的帧图像组中的各个帧图像的任意部分而得到的广播图像的组;第2接收单元,接收由剩余图像组构成的追加影像,该剩余图像组是所述帧图像组中的各个帧图像的所述被抽取的部分以外的剩余图像的组;配置信息取得单元,取得有关所述帧图像组的、表示各个帧图像中的广播图像和剩余图像的配置的配置信息;及再现单元,根据所述配置信息来配置所述广播图像组和所述剩余图像组,由此生成所述帧图像组并进行显示。
Description
技术领域
本发明涉及将通过广播波接收的影像和使用网络接收的影像相结合,并作为一个影像进行显示的技术。
背景技术
近年来,广播经营商等正在研究广播和通信的混合服务,该混合服务基于以广播服务为中心并运用通信来强化广播服务的观点。作为用于提供这种混合服务的技术的一例,在非专利文献1中公开了这样的技术(“Hybridcast(注册商标)”),利用接收机接收通过广播波发送的广播节目和经由网络发送的内容,并进行同步及合成处理后进行提供。
如果采用该技术,例如接收机接收通过广播发送的广播影像和经由网络发送的追加影像,将广播影像排列于右侧、将追加影像排列于左侧,并作为一张结合影像进行显示,由此能够显示使通过广播波发送的影像更为宽屏的影像。另外,在不能应对上述技术的接收机(下面称为“老式接收机”)中,只能接收通过广播波发送的影像进行显示,因而也能够确保与老式接收机的互换性。
现有技术文献
非专利文献
非专利文献1:松村欣司、金次保明,“HybridcastTMの概要と技術”,NHK技研R&D No.1242010年
发明概要
发明要解决的问题
可是,广播影像是老式接收机也能够再现的影像,并且往往是拍摄了重要度较高的被摄体的重要度较高的影像。例如,在足球赛直播的示例中,广播影像是拍摄了大致足球周围的影像。
另一方面,追加影像根据与广播影像的固定的相对位置来确定内容,有时成为重要度较低的影像,例如被排列在广播影像的左侧的影像。例如,在足球赛直播的示例中,在广播影像是从视听者观察时左侧球门周围的影像的情况下,追加影像是拍摄了从视听者观察时左侧球门的更左侧的观众席附近的影像。
在这种情况下,即使是在将广播影像和追加影像相结合的结合影像中,也导致重要度较低的区域的比率增多。
发明内容
本发明正是鉴于上述问题而提出的,其目的在于提供一种再现装置,在追加影像采用了不是根据与广播影像的固定的相对位置而确定的影像的任意影像的情况下,也能够将广播影像和追加影像相结合并生成一个结合影像进行显示。
用于解决问题的手段
为了解决上述问题,本发明的再现装置用于再现原始影像,该再现装置具有:第1接收单元,从广播波取得由广播图像组构成的广播影像,该广播图像组是提取构成所述原始影像的帧图像组中的各个帧图像的任意部分而得到的广播图像的组;第2接收单元,接收由剩余图像组构成的追加影像,该剩余图像组是所述帧图像组中的各个帧图像的所述被抽取的部分以外的剩余图像的组;配置信息取得单元,取得有关所述帧图像组的、表示各个帧图像中的广播图像和剩余图像的配置的配置信息;以及再现单元,根据所述配置信息来配置所述广播图像组和所述剩余图像组,由此生成所述帧图像组并进行显示。
发明效果
根据上述的结构,本发明的再现装置能够使用广播影像、和不是根据与广播影像的固定的相对位置而确定的影像的任意影像即追加影像,再现原始影像。
附图说明
图1是表示本发明的一个实施方式的广播系统的结构的块图。
图2是表示本发明的一个实施方式的再现系统的结构的块图。
图3是用于说明将影像分离的技术的图。
图4是表示影像配置设定数据的一例的图。
图5是用于说明影像配置设定数据向传输流中的存储的图。
图6是表示广播系统的影像发送处理的步骤的流程图。
图7是用于说明再现装置中的影像的合成的图。
图8是表示再现装置的影像再现处理的步骤的流程图。
图9是表示本发明的变形例的图像的分割和合成以及影像配置设定数据的图。
图10是表示本发明的变形例的图像的分割和合成以及影像配置设定数据的图。
图11是表示本发明的变形例的图像的分割和合成以及影像配置设定数据的图。
图12是用于说明本发明的变形例的、宏块跨越图像的边界的情况的图。
图13是用于说明基于MPEG-4MVC的编码方式的图。
图14是用于说明本发明的变形例的、将广播影像作为基本视视频流进行编码、将超宽屏影像作为扩展视视频流进行编码的情况的图。
图15是用于说明本发明的变形例的、在视之间参照将广播影像放大后的放大影像来对超宽屏影像进行压缩编码的情况的图。
图16是表示本发明的变形例的系统的结构的块图。
图17是表示本发明的变形例的图,(a)表示多角度服务(multi angleservice)的一例的图,(b)表示其它视点影像信息的一例的图。
图18是表示本发明的变形例的其它视点影像信息的图。
图19(a)是用于说明使用本发明的变形例的索引影像的其它视点影像的选择的图,(b)是表示其它视点影像信息的一例的图。
图20是表示本发明的变形例的追加流解码部的结构的图,(a)表示结构1的图,(b)表示结构2的图,(c)表示结构3的图。
图21是表示本发明的变形例的再现装置的结构的块图。
图22是用于说明由多个装置分担广播影像和追加影像的接收及再现的情况的图。
图23是表示MPEG-2传输流形式的数字流的结构的图。
图24是表示视频流如何被存储在PES包串中的图。
图25是表示视频流的图片的参照关系的图。
图26是表示视频流的层次构造的图。
图27是表示视频访问单元的结构的图。
图28是用于说明裁剪(cropping)区域的图。
图29是用于说明裁剪区域的图。
图30是表示TS包的数据构造的图。
图31是表示PMT的数据构造的图。
图32是用于说明单纯地将广播影像和追加影像结合的图。
图33是表示本发明的变形例的广播系统的结构的块图。
图34是表示本发明的变形例的再现装置的结构的块图。
图35是表示本发明的变形例的系统的结构的块图。
图36是表示本发明的变形例的再现装置的结构的块图。
图37是表示本发明的变形例的广播系统的结构的块图。
图38是表示本发明的变形例的再现装置的结构的块图。
图39是表示本发明的变形例的系统的结构的块图。
图40是表示本发明的变形例的再现装置的结构的块图。
具体实施方式
<1.概况>
下面,说明本发明的一个实施方式的内容广播接收系统。
内容广播接收系统构成为包括广播系统和再现装置。
广播系统通过广播来发送内容(下面,将通过广播发送的内容称为“广播内容”),通过网络通信来发送与广播内容相关联的内容(下面,称为“追加内容”)。在本实施方式中,作为内容的一例是采用影像。即,广播内容是广播影像,追加内容是追加影像。
再现装置接收广播影像和追加影像,并将其相结合进行再现。
内容广播接收系统是考虑了与没有接收追加影像并进行再现的功能的再现装置(老式装置)的互换性的系统。即,广播系统以老式装置能够接收并再现的格式来发送广播影像。
在此,使用图32说明单纯地将广播影像和追加影像相结合的情况。
另外,图32中的被摄体是进行足球比赛的足球场。在本实施方式中,在拍摄足球场并进行广播的情况下,作为被摄体的重要度是“足球”最高,其次根据赞助商等的关系等是“广告”的重要度第二高,但毕竟是一例,并不限于此。
图32(a)示意地表示将追加影像3202单纯地结合在广播影像3201的左侧来生成影像3211的情况。
广播影像3201是拍摄了重要度最高的足球周围的风景的影像。另外,在影像3211中拍摄了重要度最高的足球周围的风景的影像、和重要度第二高的被摄体即广告3206整体。
在此,假设足球按照图32(b)所示移动到球门左侧的球门附近。
在这种情况下,作为广播影像3203是拍摄了重要度最高的足球周围的风景。另外,作为追加影像3204是拍摄了广播影像3203的左侧的风景。并且,在再现装置中将广播影像3203和追加影像3204相结合,再现如影像3212那样的影像。
这样,导致在影像3212中只拍摄了重要度第二高的被摄体即广告3206的一部分。即,不能避免重要度较低的影像的比率增多。
本发明使追加影像只能采用根据与广播影像的固定的相对位置而确定的影像所产生的问题(例如,不能显示重要度第二高的被摄体等)消除。
在本实施方式中,作为一例如图3所示,拍摄超宽屏影像310作为原始影像,选择超宽屏影像310中任意范围的影像作为广播影像311,并作为广播流进行发送。在此,在本实施方式中,所谓超宽屏影像是指拍摄比使用广播波广播的影像宽而且高析像度的影像所得到的影像。
另外,将把超宽屏影像310中广播影像311被抽取后的剩余部分的影像312和影像313相结合而生成的追加影像320,作为追加流通过网络进行发送。由此,能够使用根据与广播影像的固定的相对位置而确定的影像以外的影像作为追加影像。
在再现装置侧,能够利用广播影像311和追加影像320生成超宽屏影像310并进行显示。
下面,对本实施方式进行详细说明。
<2.广播系统100>
<2-1.结构>
图1是表示广播系统100的结构的块图。
广播系统100如图1所示构成为包括宽屏影像摄影部101、影像分离部102、影像配置部103、广播流生成部104、和追加流生成部105。
并且,广播系统100构成为包括处理器和存储器,通过由处理器执行在存储器中存储的程序,实现宽屏影像摄影部101、影像分离部102、影像配置部103、广播流生成部104、和追加流生成部105的功能。
<宽屏影像摄影部101>
宽屏影像摄影部101利用拍摄比使用广播波广播的影像宽而且高析像度的超宽屏影像的视频摄像机构成,将拍摄到的与超宽屏影像相关的影像数据输出给影像分离部102。
在本实施方式中,作为一例,假设广播波的影像是具有横1920像素×纵1080像素的像素数的全高清的影像,超宽屏影像是具有横3820像素×纵1080像素的像素数的影像。
<影像分离部102>
影像分离部102具有这样的功能(下面称为“影像分离功能”):从宽屏影像摄影部101接收与超宽屏影像相关的影像数据,将超宽屏影像分离为通过广播波传输的影像(下面称为“广播影像”)和其它影像。
(影像分离功能)
影像分离功能是通过对构成影像的各个帧图像,将帧图像分离为多个图像而实现的。
影像分离功能包括选择范围取得功能和图像分离功能。
(1)选择范围取得功能
下面,使用图3说明选择范围取得功能。
图3的超宽屏影像310是宽为c像素、高为d像素的影像。
影像分离部102在超宽屏影像310中取得应该作为广播影像发送的范围(下面称为“选择范围”)的指定。作为一例,通过由用户操作遥控器等输入装置(未图示)来指定选择范围。
在图3的示例中,超宽屏影像310中用波纹线包围的矩形部分之内表示选择范围。具体地讲,选择范围是指左上角的点的坐标是(a、0)、并且由宽为(b-a)、高为d的矩形包围的范围。
另外,下面有时对影像、图像等示出(x、y)等坐标,该坐标表示以图像的左上角为原点(0、0)的像素的位置。
(2)图像分离功能
下面,使用图3说明图像分离功能。
影像分离部102从超宽屏影像310中抽取选择范围内的影像311。影像311是宽为b-a、高为d的矩形影像。
影像分离部102从超宽屏影像310中抽取影像311的结果是得到剩余的影像312和影像313。
另外,影像分离部102将表示选择范围的选择范围信息输出给影像配置部103。
选择范围信息包括选择范围的左上角的点在宽屏影像中的坐标、选择范围的宽度、和选择范围的高度。
<影像配置部103>
影像配置部103具有影像配置功能。
影像配置功能包括追加影像生成功能和影像配置设定数据生成功能。
(1)追加影像生成功能
追加影像生成功能是这样的功能:从由影像分离部102从超宽屏影像中分离出广播影像后的剩余的影像,生成用于作为追加影像通过通信来发送的影像。
剩余的影像有时是一个,有时是多个。
例如,影像分离部102将不通过广播波发送的影像312和影像313相结合,并生成影像320。
其中,影像312是左上角的点的坐标为(0、0)、宽为a、高为d的矩形影像。影像313是左上角的点的坐标为(b、0)、宽为c-b、高为d的矩形影像。
另外,追加影像320是将影像312和影像313相结合得到的影像,是宽为a+(c-b)、高为d的矩形影像。
另外,为了使构成追加影像的各个帧图像形成为矩形,通常影像是由矩形的帧图像构成的影像,因为在对追加影像进行发送、压缩编码、解码等时,能够与通常的帧图像相同地进行处理。
(2)影像配置设定数据生成功能
影像配置设定数据生成功能是生成影像配置设定数据的功能。
影像配置设定数据是表示为了生成超宽屏影像而应该如何配置广播影像和剩余的影像的信息。
下面,根据具体示例说明影像配置设定数据生成功能。
影像分离部102参照选择范围信息生成影像配置设定数据。
作为一例,影像配置设定数据表示为了生成超宽屏影像310而应该如何配置广播影像311和剩余的影像312及313。
图4是表示影像配置设定数据的一例的图。
影像配置设定数据400包括与通过由影像分离部102将影像分离而生成的广播影像和剩余的各个影像相关的矩形ID、流区域信息、和合成位置信息。
矩形ID是用于识别通过由影像分离部102将影像分离而生成的各个影像的ID。
关于矩形ID,在图4的示例中,对广播影像311赋值“0”,对影像312赋值“1”,对影像313赋值“2”。
流区域信息包括流确定信息、x位置、y位置、宽和高。
流确定信息表示用矩形ID确定出的影像是通过广播波、通信哪一方发送的。在通过广播波发送时,流确定信息的值是“0”,在通过通信发送时,流确定信息的值是“1”。
x位置和y位置表示用矩形ID确定出的影像在广播影像或者追加影像中的x坐标和y坐标。至于用矩形ID确定出的影像包含在广播影像或者追加影像的哪一方,能够用流确定信息进行区分。即,在流确定信息表示广播波时包含在广播影像中,在流确定信息表示通信时包含在追加影像中。
宽和高表示用矩形ID确定出的影像的宽和高。
合成位置信息由X位置和Y位置构成。
X位置和Y位置表示用矩形ID确定出的影像在超宽屏影像中的x坐标和y坐标。
影像分离部102例如对于广播影像311,对矩形ID设定“0”、对流确定信息设定表示广播波的“0”、对x位置设定“0”,对y位置设定“0”、对宽设定“b-a”、对高设定“d”、对X位置设定在超宽屏影像中的x坐标即“a”、对Y位置设定在超宽屏影像中的y坐标即“0”。
另外,影像分离部102对于广播影像313,对矩形ID设定“2”、对流确定信息设定表示通信的“1”、对x位置设定在追加影像中的x坐标即“a”、对y位置设定在追加影像中的y坐标即“0”、对宽设定“c-b”、对高设定“d”、对X位置设定在超宽屏影像中的x坐标即“b”、对Y位置设定在超宽屏影像中的y坐标即“0”。
另外,在上述的说明中记载为诸如对每个超宽屏影像生成影像配置设定数据,但实际上能够对构成超宽屏影像的一个或者多个帧图像分别生成影像配置设定数据,并进行每个帧图像的分离、结合的控制。
<广播流生成部104>
广播流生成部104具有将广播影像变换为能够通过广播波广播的格式进行输出的功能(下面称为“广播流生成功能”)。
作为广播流生成功能,广播流生成部104根据MPEG-2(MovingPicture Experts Group-2:运动图像专家组-2)、MPEG-4AVC等规定的视频编解码,对广播影像进行压缩编码,由此生成视频流。
另外,广播流生成部104根据AC3(Audio Code number3:音频编码3)、AAC(Advanced Audio Coding:进阶音频编码)等规定的音频编解码,对声音进行压缩编码,由此生成音频流。
并且,广播流生成部104对视频流、音频流、字幕流、数据广播用数据等进行复用,由此生成一条MPEG-2TS等的系统流。
下面,将作为如上所述生成的系统流而被广播的系统流称为“广播流”(121)。
另外,关于声音,由于与本发明的关联性较小,因而除必要情况之外不进行特殊说明。
<追加流生成部105>
追加流生成部105具有将追加影像变换为用于通过通信发送的格式进行输出的功能(下面称为“追加流生成功能”)。
作为追加流生成功能,追加流生成部105根据MPEG-2、MPEG-4AVC等规定的视频编解码,对由影像配置部103生成的追加影像进行压缩编码,由此生成视频流。并且,通过对视频流、音频流、字幕流、数据广播用数据等进行复用,生成一条MPEG-2TS等的系统流。
下面,将作为如上所述生成的系统流而通过通信发送的系统流称为“追加流”。
另外,作为追加流生成功能的一种功能,追加流生成部105将由影像配置部103生成的影像配置设定数据123存储在追加流122中。例如,追加流生成部105按照图5所示将影像配置设定数据123作为补充数据的一部分、或者作为PMT(Program Map Table:节目映射表)等的描述符的一部分,存储在视频流中。
<其它结构>
在图1中没有图示,广播系统100具有与通常的数字广播的发送系统具有的发送部相同结构的发送部,该发送部用于使用广播波发送广播流,由OFDM调制部、频率变换部和RF发送部等构成。
该发送部将由广播流生成部104生成的广播流通过广播波发送给再现装置200等。
另外,在图1中没有图示,广播系统100具有使用网络发送及接收数据的网络接口。
该网络接口将由追加流生成部105生成的追加流通过网络发送给再现装置200。
<2-2.动作>
图6是表示广播系统100的影像发送处理的步骤的流程图。
在广播系统100中,首先宽屏影像摄影部101拍摄超宽屏影像(作为一例,指超宽屏影像310)作为原始影像(S601)。
然后,影像分离部102利用选择范围取得功能,取得所拍摄到的超宽屏影像中的选择范围(S602)。
然后,影像分离部102利用影像分离功能,从构成原始影像的各个帧图像中抽取选择范围,并生成由抽取的图像组构成的广播影像(S603)。
然后,广播流生成部104利用广播流生成功能,生成将广播影像复用得到的广播流(S604)。
然后,影像配置部103利用追加影像生成功能,根据从构成超宽屏影像的各个帧图像中抽取选择范围后的剩余的影像生成追加图像,并生成由所生成的追加图像组构成的追加影像(S605)。
并且,影像配置部103利用影像配置设定数据生成功能生成影像配置设定数据(S606)。
然后,追加流生成部105利用追加流生成功能,生成将追加影像和影像配置设定数据复用得到的追加流(S607)。
并且,广播流生成部104通过广播波对广播流进行广播(S608)。
并且,追加流生成部105通过通信向再现装置200发送追加流(S609)。
<3.再现装置200>
<3-1.结构>
图2是表示再现装置200的结构的块图。
再现装置200如图2所示构成为包括调谐器201、广播流解码部202、第1影像平面203、NIC(网络接口卡)211、追加流解码部212、第2影像平面213、影像合成方法设定部214、影像合成部221、和合成影像平面222。
并且,再现装置200构成为包括处理器和存储器,通过由处理器执行在存储器中存储的程序,实现调谐器201、广播流解码部202、NIC211、追加流解码部212、影像合成方法设定部214、和影像合成部221的功能。
<调谐器201>
调谐器201利用调谐器LSI实现,该调谐器LSI包括数字调谐器、OFDM(Orthogonal Frequency Division Multiplexing:正交频分复用)解调部、纠错部、和复用分离部等。
调谐器201具有这样的功能:即接收广播波,提取与用户使用遥控器(未图示)等指示的规定的频道(服务ID)相关的信号,从提取出的信号中抽取与影像、声音、字幕等相关的TS包并进行输出。
从广播波的接收到与影像、声音、数据广播等相关的TS包的抽取的处理是众所周知的,因而省略说明。
<广播流解码部202>
广播流解码部202利用AV信号处理LSI实现,并具有这样的功能:接收与影像相关的TS包并进行解码,由此生成视频帧,并在用PTS(Presentation Time Stamp:演示时间戳)表示的定时进行输出。
在本实施方式中,广播流解码部202从调谐器201接收TS包,将所生成的视频帧(下面称为“广播视频帧”)写入第1影像平面203中。
<第1影像平面203>
第1影像平面203利用帧存储器构成。第1影像平面203存储由广播流解码部202生成的广播视频帧。
另外,假设对第1影像平面203分配了平面ID=1。
<NIC211>
NIC211利用通信用的LSI构成,具有通过网络发送及接收数据的功能。
NIC211在通过网络接收到追加流的情况下,将接收到的追加流输出给追加流解码部212。
<追加流解码部212>
追加流解码部212利用AV信号处理LSI实现,并具有包含在追加流中的视频流的解码功能。
作为视频流的解码功能,具体地讲,追加流解码部212从NIC211接收追加流,并对包含在追加流中的视频流进行解码,由此生成视频帧(下面称为“追加视频帧”)并写入到第2影像平面213中。并且,追加流解码部212抽取被存储于追加流中的影像配置设定数据241。
<第2影像平面213>
第2影像平面213由帧存储器构成。第2影像平面213存储由追加流解码部212生成的追加视频帧。
另外,假设对第2影像平面213分配了平面ID=2。
<影像合成方法设定部214>
影像合成方法设定部214具有输出合成指示的合成指示功能,该合成指示将合成信息作为参数,该合成信息参照影像配置设定数据241,将被存储于第1影像平面203中的广播视频帧和被存储于第2影像平面213中的追加视频帧进行合成,生成构成超宽屏影像的帧图像。
(合成指示功能)
关于影像合成方法设定部214的合成指示功能,使用具体示例进行说明。
影像合成方法设定部214取得与被存储于第1影像平面203中的广播视频帧和被存储于第2影像平面213中的追加视频帧的PTS对应的影像配置设定数据241。
作为一例,假设影像配置设定数据241是图4中的影像配置设定数据400表示的内容。
首先,影像合成方法设定部214计数影像配置设定数据400中的矩形ID的数量(图像数),并输出给影像合成部221。
影像合成方法设定部214读出影像配置设定数据400的第1行(矩形ID=0)。
由于流确定信息是0(=广播波),因而影像合成方法设定部214判定为矩形ID=0的图像是从第1影像平面203读出的。
并且,根据影像配置设定数据400的第1行的记载,向影像合成部221输出合成指示(为了方便,称为“合成指示1”),该合成指示将平面ID(=1)、x位置(=0)、y位置(=0)、宽(=b-a)、高(=d)、X位置(=a)和Y位置(=0)作为参数。
然后,影像合成方法设定部214读出影像配置设定数据400的第2行(矩形ID=1)。
由于流确定信息是1(=通信),因而影像合成方法设定部214判定为矩形ID=1的图像是从第2影像平面213读出的。
并且,根据影像配置设定数据400的第2行的记载,向影像合成部221输出合成指示(为了方便,称为“合成指示2”),该合成指示将平面ID(=2)、x位置(=0)、y位置(=0)、宽(=a)、高(=d)、X位置(=0)和Y位置(=0)作为参数。
然后,影像合成方法设定部214读出影像配置设定数据400的第3行(矩形ID=2)。
由于流确定信息是1(=通信),因而影像合成方法设定部214判定为矩形ID=2的图像是从第2影像平面213读出的。
并且,根据影像配置设定数据400的第3行的记载,向影像合成部221输出合成指示(为了方便,称为“合成指示3”),该合成指示将平面ID(=2)、x位置(=a)、y位置(=0)、宽(=c-b)、高(=d)、X位置(=b)和Y位置(=0)作为参数。
以后,在具有影像配置设定数据400的第N行(N为4以上的自然数)的情况下,影像合成方法设定部214也读出这些行。
并且,对于影像配置设定数据400的第N行,影像合成方法设定部214判定流确定信息是0或1中哪一个,在是0时判定为从第1影像平面203读出(平面ID=1),在是1时判定为从第2影像平面213读出(平面ID=2)。
并且,根据影像配置设定数据400的第N行的记载,向影像合成部221输出合成指示(为了方便,称为“合成指示N”),该合成指示将平面ID、x位置、y位置、宽、高、X位置和Y位置作为参数。
<影像合成部221>
影像合成部221利用AV信号处理LSI实现。
影像合成部221具有按照由影像合成方法设定部214通知的合成指示1~N将各个影像合成,并生成超宽屏影像的影像合成功能。超宽屏影像的生成是通过生成构成超宽屏影像的各个帧图像而进行的。
作为一例,按照合成指示1~3,如图7的示意图所示,将被存储于第1影像平面203中的广播影像的帧图像(ID=0)、和被存储于第2影像平面213中的追加影像的帧图像(ID=1和2)合成,并生成超宽屏影像的帧图像,并输出给合成影像平面222。
影像合成部221将被存储于合成影像平面222中的构成超宽屏影像的帧图像,按照PTS的定时输出给显示器(未图示)。由此,超宽屏影像被再现。
(影像合成功能)
根据具体示例说明影像合成功能。
影像合成部221从影像合成方法设定部214取得图像数。图像数与为了生成超宽屏影像而进行结合的影像的数量一致。
并且,影像合成部221将合成影像平面222初始化。
并且,影像合成部221从影像合成方法设定部214取得合成指示。并且,在作为参数而包含在合成指示中的、用平面ID识别出的影像平面(第1影像平面203或者第2影像平面213)中,将左上角的坐标为(x位置、y位置)的宽×高的图像写入到以合成影像平面222的(X位置、Y位置)为左上角的坐标的位置。
具体地讲,影像合成部221在接收到上述的合成指示1的情况下,从第1影像平面203的(0、0)位置读出宽为b-a、高为d的图像,将读出的图像写入到合成影像平面222的(a、0)位置。
并且,影像合成部221在接收到上述的合成指示2的情况下,从第2影像平面213的(0、0)位置读出宽为a、高为d的图像,将读出的图像写入到合成影像平面222的(a、0)位置。
并且,影像合成部221在接收到上述的合成指示3的情况下,从第2影像平面213的(a、0)位置读出宽为c-b、高为d的图像,将读出的图像写入到合成影像平面222的(b、0)位置。
通过以上的处理,在合成影像平面222中,超宽屏影像(例如,图3中的超宽屏影像310)被复原。
<合成影像平面222>
合成影像平面222利用帧存储器构成。合成影像平面222存储从影像合成部221输出的宽屏视频帧。
<3-2.动作>
图8是表示再现装置200的影像再现处理的步骤的流程图。
再现装置200首先通过调谐器201接收广播流(S801)。并且,NIC211接收追加流(S802)。
然后,广播流解码部202对广播流进行解码,由此生成构成广播影像的广播图像(S803)。并且,追加流解码部212对追加流进行解码,由此生成构成追加影像的追加图像(S804)。并且,追加流解码部212从追加流抽取影像配置设定数据(S805)。
然后,影像合成方法设定部214利用合成指示功能,根据影像配置设定数据向影像合成部221输出合成指示。
影像合成部221根据合成指示,从追加图像中抽取多个小图像(下面称为“部分图像”)(S806)。
并且,影像合成部221根据合成指示将广播图像和多个部分图像合成,由此生成构成作为原始影像的超宽屏影像的帧图像,并存储在合成影像平面222中(S807)。
影像合成部221按照PTS来显示被存储在合成影像平面222中的各个帧图像,由此再现原始影像(S808)。
<4.变形例>
以上说明了本发明的内容广播接收系统的实施方式,但是当然也能够对示例的内容广播接收系统进行如下所述的变形,本发明不限于如在上述的实施方式中示出的内容广播接收系统。
(1)在上述的实施方式中,追加流生成部105将影像配置设定数据(123)存储在PMT等的描述符中,但只要能够发送给再现装置200即足以。
例如,也可以将影像配置设定数据存储在SIT(Service InformationTable:服务信息表)中。
另外,也可以将影像配置设定数据存储在视频流中的各帧的补充数据等中。
并且,也可以将影像配置设定数据仅存储在GOP(Group of Pictures:图片组)开头的访问单元中,并设为在GOP内有效。
并且,在将影像配置设定数据存储在描述符中的情况下,也可以在视频流中设定使影像配置设定数据有效的区间,并与有效的区间的开始时刻的PTS、结束时刻的PTS等时刻信息一起进行存储。
并且,也可以构成为对影像配置设定数据分配PID,并在流中进行复用。
并且,也可以将影像配置设定数据存储在广播流中,而不是追加流中。
并且,对于选择范围不变的帧组,也可以不按照每个帧,而是按照帧组来生成一个影像配置设定数据。
(2)在上述的实施方式中,在选择范围取得处理中,关于超宽屏影像310的选择范围的指定,通过由用户操作遥控器等输入装置来进行指定,但只要能够确定出选择范围即足以。
例如,也可以是,用户以划分区域的方式(例如描画矩形的方式)接触显示有超宽屏影像310的触摸屏,影像分离部102取得表示该接触的范围的信息,将该区域内部确定为选择范围。
并且,也可以是,通过图像识别处理等,检测超宽屏影像310中的重要的被摄体等,将以该被摄体为中心的规定范围内的区域作为选择范围。作为一例,也可以是,对显示正在进行足球比赛的足球场的超宽屏影像310实施图像处理并识别足球的位置,将以足球为中心的区域自动选择为选择范围等。
(3)在上述的实施方式中,使用广播流和追加流发送的影像是超宽屏影像,但不限于此,也可以发送将广播影像高质量化的其它影像。
例如,作为高质量化的一例,也可以发送使广播影像高析像度化的影像。
图9是用于说明使用广播流和追加流发送被高析像度化后的原始影像的示例的图。
图9的图像901表示构成原始影像的帧图像组中的一个帧图像。
在本变形例中,广播系统100的影像分离部102将图像901分割为图像902~图像904这3个图像。图像902是广播图像。
对于构成原始影像的其它帧图像,进行与图像901相同的分割。
并且,广播流生成部104将广播图像(图像902等)作为广播流的一部分进行复用,通过广播波发送该广播流。
并且,对于从图像901抽取出图像902后的剩余的图像即图像903和图像904,影像配置部103对这些图像进行上下结合,由此生成图像911作为构成追加影像的追加图像。
并且,影像配置部103生成表示图像902~图像904在图像901中的配置的影像配置设定数据。
并且,追加流生成部105将追加图像(图像911等)作为追加流的一部分进行复用。并且,追加流生成部105将影像配置设定数据作为追加流的一部分进行复用。
并且,追加流生成部105通过网络通信发送追加流。
在此,说明本变形例的影像配置设定数据的一例。
图9(b)是表示图像901的影像配置设定数据900的图。
关于影像配置设定数据900的详细情况,其结构与上述的影像配置设定数据400相同,仅是值不同,因而省略说明。
作为接收侧的再现装置200接收广播流、追加流,根据包含在追加流中的影像配置设定数据,将图像902、图像903和图像904相结合,将高清晰度的图像901复原。并且,再现装置200对图像901的其它帧图像同样进行复原,由此将帧图像组复原并再现原始影像。
(4)除上述的变形例(3)所示之外,也可以使用广播流和追加流将广播影像被高析像度化和宽屏化后的影像作为原始影像进行发送。
图10是用于说明使用广播流和追加流发送原始影像的示例的图。
图10的图像1001表示构成原始影像的帧图像组中的一个帧图像。
在本变形例中,广播系统100的影像分离部102将构成原始影像的帧图像即图像1001分割为图像1002~图像1004这3个图像。图像1002是广播图像。
对于构成原始影像的其它帧图像,进行与图像1001的情况相同的分割。
并且,广播流生成部104将广播图像(图像1002等)作为广播流的一部分进行复用,通过广播波发送该广播流。
在此,在将从图像1001抽取出图像1002后的剩余的图像即图像1003和图像1004以原有状态进行结合时,由于图像1004是纵长的,因而结合结果不会成为如上述变形例(3)那样的矩形图像(作为一例,指图像911)。
因此,将使图像1004顺时针地旋转270度后的图像1014结合于图像1003的下端,并生成图像1015。但是,图像1003的宽度和图像1014的宽度不同,因而在图像1014的右侧附加用于使图像1015成为矩形的空白图像1006(即,全黑的图像等)。
并且,影像配置部103生成表示图像1002~图像1004在图像1001中的配置的影像配置设定数据。
并且,追加流生成部105将图像1015作为追加流的一部分进行复用。并且,追加流生成部105将影像配置设定数据作为追加流的一部分进行复用。
并且,追加流生成部105通过网络通信发送追加流。
在此,说明本变形例的影像配置设定数据的一例。
图10(b)是表示图像1001的影像配置设定数据1000的图。
关于影像配置设定数据1000的详细情况,其结构与上述的影像配置设定数据400相同,但是追加了用于对各个图像指定旋转角度的“旋转角度”项目。
具体地讲,对于图像1014(矩形ID=2),进行表示使顺时针地旋转90度的指定。
作为接收侧的再现装置200接收广播流、追加流,根据包含在追加流中的影像配置设定数据,将图像1002、图像1003和图像1014相结合,将图像1001复原,但是关于图像1014是采用通过使其顺时针地旋转被指定为90度“旋转角度”而变更状态后的图像。另外,图像1014的状态变更后的图像是图像1004。
并且,也可以进行如下所述的扩展,即对影像配置设定数据指定用于将各个图像放大缩小的水平方向的倍率、垂直方向的倍率。
图11是用于说明在将多个图像相结合来生成追加图像时进行放大缩小的情况的图。
图11的图像1101表示构成原始影像的帧图像组中的一个帧图像。
在本变形例中,广播系统100的影像分离部102将图像1101分割为图像1102~图像1104这3个图像。图像1102是广播图像。
对于构成原始影像的其它帧图像,进行与图像1101的情况相同的分割。
并且,广播流生成部104将广播图像(图像1102等)作为广播流的一部分进行复用,通过广播波发送该广播流。
在此,在将从图像1101抽取出图像1102后的剩余的图像即图像1103和图像1104以原有状态进行结合时,由于图像1103和图像1104在水平方向及垂直方向上的长度不同,因而结合结果不会成为如上述变形例(3)那样的矩形图像。
因此,对于图像1103和图像1104,将图像1103沿水平方向变为1/2倍(图像1113),将图像1104沿垂直方向变为1/2倍(图像1114),然后进行合成并生成追加图像1115。
并且,影像配置部103生成表示图像1102~图像1104在图像1101中的配置的影像配置设定数据。
并且,追加流生成部105将图像1115作为追加流的一部分进行复用。并且,追加流生成部105将影像配置设定数据作为追加流的一部分进行复用。
并且,追加流生成部105通过网络通信发送追加流。
在此,说明本变形例的影像配置设定数据的一例。
图11(b)是表示图像1101的影像配置设定数据1100的图。
关于影像配置设定数据1100的详细情况,其结构与上述的影像配置设定数据400相同,但是追加了用于对各个图像指定水平方向及垂直方向的倍率的项目。
具体地讲,对于图像1113(矩形ID=1),进行表示使沿水平方向变为2倍的指定。并且,对于图像1114(矩形ID=2),进行表示使沿垂直方向变为2倍的指定。
作为接收侧的再现装置200接收广播流、追加流,根据包含在追加流中的影像配置设定数据,将图像1102、图像1113和图像1114相结合,将图像1101复原,但是关于图像1113是采用将其沿水平方向放大2倍后的图像(图像903),关于图像1114是采用将其沿垂直方向放大2倍后的图像(图像904)。
(5)在上述的实施方式中,说明了使用广播流和追加流广播宽屏影像的示例,但是不需要始终发送广播流和追加流双方。例如,也可以是,不是在整个期间中发送宽屏影像,而是具有仅发送广播流即广播影像的期间。
在这种情况下,对于仅发送广播影像的期间,在影像配置设定数据中仅记载广播影像。
并且,在再现装置200侧,在该期间中仅接收广播波,仅再现广播影像。并且,也可以是,在能够显示宽屏影像的显示器中显示比宽屏影像小的广播影像,因而对于显示器中正在显示广播影像的区域以外的区域,显示黑色等单色图像或显示规定的背景图像等。并且,也可以将广播影像放大显示于显示器中。
(6)在上述的实施方式中,说明了使分割图像时的边界跨越宏块的情况。例如,也存在如图12所示的情况,即在将图像1201分割为多个图像1202和1203并生成追加图像时,使宏块跨越多个图像的边界1210。
这样如果宏块跨越边界(1210),则导致宏块内部的像素间的相关降低,压缩率降低。
为了避免这种情况,也可以进行如图12的图像1221所示的调整,在图像1222的左端部以及/或者图像1223的右端部设置边缘(margin)图像1232以及/或者1233,使宏块不跨越边界(1231)。
(7)在上述的实施方式中,生成作为独立的流的广播流和追加流并通过不同路径进行发送,但是只要能够发送广播影像和追加影像即足以。
例如,也可以是,不生成作为独立的流的广播流和追加流,而是生成具有从属关系的流,并通过一个路径进行发送。作为一例,可以考虑对宽屏影像进行使用了视间参照的压缩编码,并通过一个路径进行发送。关于使用了视间参照的压缩编码,可以举出使用MPEG-4AVC/H.264的修正标准规格即MPEG-4MVC(Multiview Video Coding:多视视频编码)的方法。
图13是用于说明基于MPEG-4MVC的编码方式的图。
依据于MPEG-4MVC标准规格的流由与现有设备具有再现互换性的“基本视视频流”、和通过与基本视同时进行处理来实现其它视点的影像的再现的“扩展视视频流”构成。
在本变形例中,从广播流生成基本视视频流,从追加流生成扩展视视频流。
基本视视频流如图13所示是对于构成影像的帧(图片)组,仅利用时间方向的冗余性并使用图片间预测编码进行压缩得到的。
另一方面,扩展视视频流是对于构成影像的帧组,在利用了时间方向的冗余性的图片间预测编码的基础上,还使用利用了视点间的冗余性的视间预测编码进行压缩得到的。
基本视视频流的图片是参照扩展视视频流的相同显示时刻(PTS)的图片被压缩的。
在此,图13中的箭头表示参照关系。
例如,扩展视视频流的开头P图片(P0)参照基本视视频流的I图片(I0)。并且,扩展视视频流的B图片(B1)参照基本视视频流的Br图片(Br1)。并且,扩展视视频流的第二个P图片(P3)参照基本视视频流的P图片(P3)。
在此,基本视视频流不参照扩展视视频流,因而能够单体进行再现。
另一方面,扩展视视频流参照基本视视频流,因而不能单体进行再现。
但是,对于3D影像,由于是从左右视点观察相同的被摄体,因而左眼影像与右眼影像的相关较大。因此,在诸如对于基本视视频流将左眼影像复用、对于扩展视视频流将右眼影像复用的情况下,通过进行视点间的图片间预测编码,相比基本视视频流的数据量,能够大幅削减扩展视视频流的数据量。
在此,关于使用视间参照进行压缩的影像(图像)对,通常假设是析像度相同的影像对,但在本变形例中,如图14所示,将广播影像1402作为基本视视频流进行编码,将超宽屏影像1401作为扩展视视频流进行编码,由此生成MPEG-4MVC的流(下面,称为“MPEG-4MVC广播流”)。
在这种情况下,在将超宽屏影像作为扩展视视频流进行压缩编码的情况下,对于超宽屏影像1401中与广播影像1402相当的部分(部分1403),全部参照基本视视频流1402。因此,将该部分1403进行压缩编码后的数据的量非常小。
广播系统100通过广播向再现装置200发送MPEG-4MVC广播流。
在再现装置200中,通过广播来接收MPEG-4MVC广播流。并且,再现装置200一边参照MPEG-4MVC广播流中的基本视视频流一边对扩展视视频流进行解码,由此生成超宽屏影像1401并进行显示。
并且,也可以如图15所示,在将包括广播影像1501的广播影像作为基本视视频流进行压缩编码的情况下,将广播影像1501放大为例如2倍的面积来生成放大影像1502,对该放大影像1502进行视间参照,对超宽屏影像1503进行压缩编码,由此生成扩展视视频流。
由此,作为通过扩展视视频流而发送的影像的析像度,能够选择广播图像的析像度以外的析像度。
(8)在内容广播接收系统中,也可以实现使用广播流和追加流从多个其它视点影像中选择用户期望的影像进行再现(下面,称为“多角度”)的服务。
图16是表示本变形例的系统的结构的块图。
本变形例的系统由广播系统1601和再现装置1602构成。广播流是从广播系统1601通过广播被发送给再现装置1602,追加流是从广播系统1601通过网络通信被发送给再现装置1602。
(广播系统1601)
广播系统1601如图16所示构成为包括广播影像摄影部1611、广播流生成部104、其它视点影像摄影部1612、追加流生成部105、其它视点影像摄影部1613、追加流生成部1614、发送追加流选择部1615、和开关1616。
广播影像摄影部1611由视频摄像机构成,将拍摄到的影像(广播波影像)输出给广播流生成部104。
广播流生成部104与使用图1已经说明的结构相同。
其它视点影像摄影部1612利用视频摄像机构成,将拍摄到的影像(其它视点影像1)输出给广播流生成部104。
追加流生成部105原则上具有与使用图1已经说明的结构相同的结构,通过对其它视点影像1进行压缩编码来生成追加流122。追加流生成部105还取代影像配置设定数据123将其它视点影像信息1631存储在追加流中。
其它视点影像摄影部1613由视频摄像机构成,将拍摄到的影像(其它视点影像2)输出给广播流生成部1614。
追加流生成部1614具有与上述的追加流生成部105相同的结构,通过对其它视点影像2进行压缩编码来生成追加流124。追加流生成部105还将其它视点影像信息1631存储在追加流中。
发送追加流选择部1615将追加流122和追加流124中被再现装置1602请求的部分发送给再现装置1602。
来自该再现装置1602的请求例如是使用URL的形式进行的。预先对追加流122和追加流124分别分配独立的URL,再现装置1602请求访问与期望发送的追加流对应的URL。
发送追加流选择部1615受理该访问请求,并切换开关1616使输出与再现装置1602请求访问的URL对应的追加流。并且,发送追加流选择部1615将与再现装置1602请求访问的URL对应的追加流发送给再现装置1602。
并且,发送追加流选择部1615生成其它视点影像信息。
图17(b)是表示其它视点影像信息的一例(其它视点影像信息1631、1651)的图。
其它视点影像信息是这样的表信息,即,将用于确定视点(角度)的唯一的ID即“角度ID”、记载了用于确定流的类别并进行访问的方法的“流类别”、以及记载了角度影像的内容的“内容”设为对。
开关1616是根据发送追加流选择部1615的控制,切换使发送追加流122和追加流124中的哪个追加流的开关。
(再现装置1602)
再现装置1602如图16所示构成为包括调谐器201、广播流解码部202、第1影像平面203、NIC211、追加流解码部212、第2影像平面213、影像合成部221、合成影像平面222、和接收追加流选择部1652。
调谐器201、广播流解码部202、第1影像平面203、NIC211、第2影像平面213、影像合成部221及合成影像平面222,与使用图2已经说明的结构相同。
追加流解码部212基本上与使用图2已经说明的结构相同,但不同之处在于,抽取包含在追加流中的其它视点影像信息1651并发送给接收追加流选择部1652。另外,该其它视点影像信息1651是与其它视点影像信息1631相同的信息。
接收追加流选择部1652通过从追加流解码部212接收其它视点影像信息并进行菜单显示等,催促用户从多个其它视点影像中选择一个其它视点影像。并且,经由网络请求广播系统1601传输存储有通过用户进行遥控器输入等而选择的其它视点影像的追加流。作为针对该请求的答复,NIC211从广播系统1601接收存储有所选择的其它视点影像的追加流。
作为上述的菜单显示的一例,接收追加流选择部1652显示图17(a)的菜单1701。在菜单1701中直接显示出其它视点影像信息1651中的“内容”项目。
用户使用遥控器等选择被菜单显示的“内容”中的一个“内容”。
接收追加流选择部1652参照其它视点影像信息1651,读出与所选择的“内容”对应的“角度ID”、与该角度ID对应的“流类别”。并且,接收追加流选择部1652使用在流类别中记载的URL请求广播系统1601传输与该读出的流类别相关的流。
通过以上处理,能够从具有多个其它视点影像的追加流中选择用户喜欢的影像并进行再现。
另外,其它视点影像信息1631(1651)也可以不存储在追加流中,而存储在广播流中,还可以构成为相对于流而独立的元数据文件。
另外,作为一例,其它视点影像信息1631(1651)也可以如图18所示能够分别地设定用于取得视频和音频的信息(作为一例,指PID)。
在图18的示例中,对于角度ID=1的流,示出了将视频作为PID=A的包存储在通过通信提供的追加流中。并且,示出了将音频作为PID=Z的包存储在通过广播波提供的广播流中。
对于角度ID=2的流,示出了将视频作为PID=B的包存储在通过通信提供的追加流中。并且,示出了将音频作为PID=Y的包存储在通过通信提供的追加流中。
如上所述,根据本变形例,在利用各种方式构成追加流时,能够记载取得该追加流用的信息,因而能够增大生成追加流时的自由度。
另外,在上述的示例中,使用PID进行流的确定,但是只要能够确定出流即足以。
例如,也可以使用分层传输描述符的参照对象PID等的标签进行确定。
(9)作为从上述变形例(8)的多个其它视点影像中选择一个其它视点影像时的UI(用户接口),也可以构成为显示用于在一个画面内显示多个其它视点影像的缩小影像(下面,称为“其它视点缩小影像”)的索引影像,从这些其它视点影像中选择用户喜欢的其它视点影像。
在此,各个其它视点影像利用角度ID进行识别。
为了实现这种结构,作为一例,采用存储作为图19(a)的影像1901而示出的“索引影像”和“显示区域与角度ID的对应关系信息”的追加流。
“显示区域与角度ID的对应关系信息”是表示索引影像(作为一例指影像1901)中、显示有各个其它视点缩小影像的显示区域与所显示的其它视点缩小影像的角度ID的对应关系的信息。
图19中的影像1902是从视觉上表示出对应关系信息所表示的内容、即在影像1901中显示出的4个其它视点缩小影像与角度ID(1902)的对应的图。具体地讲,这样表述图19中的影像1902,对于被纵横分割为两部分的区域,左上区域的其它视点缩小影像的角度ID是0,右上区域的其它视点缩小影像的角度ID是1,左下区域的其它视点缩小影像的角度ID是2,右下区域的其它视点缩小影像的角度ID是3。
并且,如图19(b)所示,在其它视点影像信息中追加了有关索引影像(角度ID=4)的信息。
再现装置1602首先接收包括索引影像的追加流并进行解码,并显示于显示器。并且,使用户选择包含在索引影像中的其它视点缩小影像(作为一例,指图19中的影像1911~1914)中的1个其它视点缩小影像。
再现装置1602显示与用户选择的其它视点缩小影像对应的其它视点影像。
例如,在用户选择了影像1901中的影像1912(角度ID=1)的情况下,将角度ID=1的影像即影像1921显示于显示器。
另外,作为用于使用户从4个其它视点缩小影像中选择1个其它视点缩小影像的UI的一例,也可以将使图像1902中的文字显示部分以外的部分成为半透明状等的菜单图像重叠显示于影像1901上,并利用遥控器等选择角度ID=0~3。
另外,在再现装置1602是平板终端等具有触摸屏的装置的情况下,也可以将角度选择用的索引影像显示于触摸屏,使用户通过触摸来选择所显示的多个其它视点缩小影像中的任意一个。在这种情况下,平板终端参照其它视点影像信息中与识别其它视点缩小影像的角度ID对应的流类别,通过通信从广播系统接收利用流类别表示的追加流并进行再现。另外,平板终端也可以构成为显示如下的信息,即由另一个再现装置接收追加流并进行解码,并变换为平板终端能够显示的格式,使用无线LAN等传送的信息。
(10)在上述的变形例中,在切换为其它视点影像时,优选能够无缝地切换,使影像不会中断。下面,使用图20说明用于无缝地进行切换的三种结构示例。
图20表示追加流解码部的具体结构的一例。
(结构例1:图20(a))
图20(a)表示与MPEG-2系统中的视频流的解码器模型相同的结构。
PID滤波器参照TS包的PID对TS包进行滤波处理,并输出给TB(传输缓冲器)2004。
被输入到TB2004的TS包在被去除TS标题后,以规定速率传送给MB(主缓冲器)2005。在此,规定速率表示每单位时间必须从TB2004取出的数据量。
通过从TB2004向MB2005的数据传送,打包视频ES数据(视频PES数据)被存储在MB2005中。
如果EB(基本缓冲器,elementary buffer)2006中有空余,从MB2005按照规定定时向EB2006传送视频PES数据。
在此,随着数据从TB2004向MB2005、EB2006移动,TS包标题、PES标题等系统流的标题信息被去除,形成为在EB2006中仅存储有视频的基本流的状态。
Dec(解码器)2007具有对视频的基本流进行解码的功能,按照DTS(Decoding Time Stamp:编解码时间戳)的定时从EB2006向Dec2007传输数据。
Dec2007的输出被保存在DPB(解码图片缓冲器)2008中,并按照PTS的定时输出给Plane(显示平面)2009。
在此,如图20(a)所示,在视频流的解码器是一个的情况下,需要通过切换向PID滤波器2003的输入,进行追加流#1(以后称为TS1)和追加流#2(以后称为TS2)的输入切换。
在此,为了无缝地进行角度切换,需要预先存储TS1中的角度切换定时时的TS包的位置(作为一例,用PTS等时间信息表示)。并且,对于TS2,在成为了能够向视频解码器输入位置(PTS)与对上述的TS1预先存储的TS包的位置相同的TS包的状态时,将输入视频解码器的包的PID从TS1的PID切换为TS2的PID。
(结构例2:图20(b))
图20(b)是表示具有多个视频流的解码器模型的结构的图。
在该结构中,在把将解码后的图像存储在Plane2009中的流从TS1切换为TS2的情况下,在确定了切换后与TS1的解码并行地开始TS2的解码。并且,在完成有关TS2的显示准备(应该显示的图片的解码)后,在最近的PTS定时,将Plane2009的输入从DPB2008切换为DPB2026。由此,在Plane2009中存储的图片被从由TS1生成的图片无缝地切换为由TS2生成的图片。
(结构例3:图20(c))
图20(c)是表示在视频流的解码器模型中具有多个缓冲器、但核心部分(Dec2042以后的结构)为一个的结构的图。
在该结构中,在从TS1切换为TS2的情况下,在检测到TS2的GOP开头的定时开始TS2的解码。并且,在EB2024中被积累了足够的数据的阶段,在GOP开头的图片的DTS的定时,将针对Dec2042的输入从TS1的EB2006切换为TS2的EB2024。
在此,DTS和PTS的定时不一致,因而构成为在按照TS2的DTS进行切换后、PTS的定时到来之前,显示TS1的DPB的图片。即,SW1(2041)按照DTS的定时进行切换,SW2(2043)按照PTS的定时进行切换。由此,能够实现无缝的切换。
另外,也可以构成为,在通过SW1(2041)将Dec2042的输入切换为TS2的EB2024的定时,如果与下一个PTS对应的图片没有存储在TS1的DPB2008中,则显示在前一个PTS的定时被存储于TS1的DPB2008中的图片。
(11)在上述的实施方式中说明了在宽屏电视机显示宽屏影像的结构,但只要能够显示宽屏影像即足以。
例如,也可以是,将宽屏影像分割为两部分,在一台电视机显示右半部分的影像,在另一台电视机显示左半部分的影像。
在这种情况下,例如在再现装置200中如图21所示,在合成影像平面222的后段具有影像输出部2101。
该影像输出部2101以使用上述的两台电视机进行显示的方式将宽屏影像分割,使从输出1输出右半部分的影像,从输出2输出左半部分的影像。
影像输出部2101预先取得与用于将宽屏影像划分显示于两台电视机的电视机相关的信息。
另外,也可以构成为,广播系统100的影像配置部103将宽屏影像进行分割,将用于在再现装置200侧显示于多台显示器的显示指示信息包含在影像配置设定数据123中发送给再现装置200。
显示指示信息例如表示将在再现装置200中被复原后的宽屏影像的右半部分显示于从用户侧观察为左侧的显示器,将宽屏影像的右半部分显示于从用户侧观察为右侧的显示器。
再现装置200在将宽屏影像复原的情况下,通过参照影像配置设定数据将宽屏影像的右半部分作为输出1进行输出,将其显示于从用户侧观察为左侧的显示器,并且通过将宽屏影像的右半部分作为输出2进行输出,将其显示于从用户侧观察为右侧的显示器。
(12)在上述的实施方式中,在再现装置200中接收广播流和追加流双方并进行再现,但也可以由多个装置分担进行接收及再现的处理。
例如,如图22所示,电视机1(相当于再现装置200)通过广播波接收广播流并再现广播影像。便携终端通过网络接收追加流并再现追加影像。此时,便携终端通过无线LAN(Local Area Network:局域网)向电视机2发送追加影像,电视机2显示追加影像。
在这种情况下,假设在影像配置设定数据中记载使哪台电视机显示追加影像,并将该信息包含在追加流中而从广播系统100发送给便携终端。
通过形成如上所述的结构,即使在电视机1和电视机2不具有通过网络与广播系统100进行通信的功能的情况下、或者不能通过网络与广播系统100进行通信的情况下,也能够使电视机1和电视机2显示广播影像和追加影像。
如上所述,为了在多台电视机显示广播流和追加流的影像时获取影像彼此的同步,例如可以采用如下的方法等:(a)电视机1和便携终端访问时间服务器取得当前时刻来获取时刻同步的方法,(b)在遥控器(未图示)的信号中附加同步用的信息,并使电视机1和便携终端接收,由此获取时刻同步的方法,(c)由电视机1和便携终端对相同频道的广播波进行解码,并使用PCR使同步一致的方法,(d)即使不是相同频道,对于同时广播(通常的广播波和一段广播波),例如在电视机1中接收广播波进行解码,在便携终端中接收一段广播进行解码,取得PCR并使用PCR使同步一致的方法,(e)在便携终端具有摄像功能的情况下,在一边拍摄在电视机1中显示的影像一边在便携终端中对一段广播进行解码,将拍摄到的影像和对一段广播进行解码得到的影像进行比较,并检测时间上的偏差进行补偿,由此获取同步的方法。
(13)在上述的实施方式中,通过网络从广播系统100向再现装置200发送追加流,但只要能够发送即足以。
例如,也可以是,通过广播波从广播系统100向再现装置200发送追加流。
图33是表示本变形例的广播系统100的结构的块图。
图33的广播系统100在以下方面与使用图1已经说明的广播系统100不同。
即,在图33的广播系统中,追加流生成部105将追加影像变换为能够通过广播波而非通信进行广播的格式,由此生成追加流122。并且,未图示的发送部通过广播波发送将由广播流生成部104生成的广播流121和由追加流生成部105生成的追加流122进行复用得到的流。
图34是表示本变形例的再现装置200的结构的块图。
图34的再现装置200在以下方面与使用图2已经说明的再现装置200不同。
即,图34的再现装置200不具有NIC211,而是由调谐器201从接收到的广播波中抽取与广播流121相关的TS包和与追加流122相关的TS包。并且,调谐器201将与广播流121相关的TS包输出给广播流解码部202,将与追加流122相关的TS包输出给追加流解码部212。
根据以上所述,能够形成通过广播波从广播系统100向再现装置200也发送追加流的结构。
(14)对于在上述的变形例(8)中说明的系统,也可以与上述的变形例(13)的情况相同地,通过广播波从广播系统向再现装置也发送追加流。
图35是表示本变形例的系统的结构的块图。
图35的系统在以下方面与使用图16已经说明的系统不同。
在图35的广播系统1601中,追加流生成部105和追加流生成部1614将其它视点影像变换为能够通过广播波而非通信进行广播的格式,由此生成追加流(122、124)。并且,未图示的发送部通过广播波发送将广播流121、追加流122和追加流124进行复用得到的流。
另一方面,图35的再现装置1602不具有NIC211,而是由调谐器201从接收到的广播波中将与广播流121相关的TS包输出给广播流解码部202。
并且,接收追加流选择部1652对调谐器201请求抽取追加流,在该追加流中存储有通过用户进行遥控器输入等而选择出的其它视点影像。
并且,调谐器201抽取与被请求的追加流(122或者124)相关的TS包。并且,调谐器201将与追加流相关的TS包输出给追加流解码部212。
根据以上所述,能够形成通过广播波从广播系统100向再现装置200也发送追加流的结构。
(15)对于在上述的变形例(11)中说明的再现装置200,也可以与上述的变形例(13)的情况相同地,通过广播波从广播系统100向再现装置200也发送追加流。
图36是表示本变形例的再现装置200的结构的块图。
在这种情况下,图36的再现装置200与上述的变形例(13)的情况相同地不具有NIC211,而是由调谐器201从接收到的广播波中抽取与广播流121相关的TS包和与追加流122相关的TS包。并且,调谐器201将与广播流121相关的TS包输出给广播流解码部202,将与追加流122相关的TS包输出给追加流解码部212。
根据以上所述,能够形成通过广播波从广播系统100向再现装置200也发送追加流的结构。
(16)在上述的变形例(13)~(15)中构成为通过一个广播波从广播系统向再现装置发送广播流和追加流,但也可以构成为通过多个广播波进行发送。
例如,也可以通过不同的广播波发送广播流和追加流。
图37是表示本变形例的广播系统100的结构的块图。
图37的广播系统100通过广播波发送追加流,这一点与使用图33已经说明的广播系统100不同。
图38是表示本变形例的再现装置200的结构的块图。
图38的再现装置200在以下方面与使用图34说明的再现装置200不同。
即,图38的再现装置200具有调谐器3801,使用调谐器3801通过广播波接收追加流。
根据以上所述,能够形成通过广播波从广播系统向再现装置也发送追加流的结构。
(17)对于在上述的变形例(14)中说明的系统,也可以构成为与上述的变形例(16)的情况相同地,通过多个广播波发送广播流和追加流。
图39是表示本变形例的系统的结构的块图。
图39的系统在以下方面与使用图35已经说明的系统不同。
即,在图39的广播系统1601中,通过广播波发送将追加流122和追加流124进行复用得到的流。
另外,图39的再现装置1602具有调谐器3901,接收将追加流进行复用得到的广播波。
接收追加流选择部1652对调谐器3901请求抽取追加流,在该追加流中存储有通过用户进行遥控器输入等而选择出的其它视点影像。
并且,调谐器3901抽取与被请求的追加流(122或者124)相关的TS包。并且,调谐器3901将与追加流相关的TS包输出给追加流解码部212。
根据以上所述,能够形成通过多个广播波发送广播流和追加流的结构。
(18)对于在上述的变形例(15)中说明的再现装置200,也可以构成为与上述的变形例(16)的情况相同地,通过多个广播波接收广播流和追加流。
图40是表示本变形例的再现装置200的结构的块图。
在这种情况下,图40的再现装置200与上述的变形例(16)的情况相同地具有调谐器3801,使用调谐器3801通过广播波接收追加流。
根据以上所述,能够形成通过多个广播波接收广播流和追加流的结构。
(19)关于在上述的实施方式中示出的广播系统100的影像分离处理和选择范围取得处理等、以及再现装置200的合成指示处理、影像合成处理等,也可以将用于使广播系统100和再现装置200的处理器以及与该处理器连接的各种电路执行这些处理的、由机械语言或者高级语言的程序码构成的控制程序,记录在记录介质中或者通过各种通信路径等进行流通并分发。这种记录介质包括IC卡、硬盘、光盘、软盘、ROM、闪存等。也可以将上述进行流通及分发的控制程序存储在处理器能够读取的存储器等中以供应用,通过由该处理器执行该控制程序来实现如在各个实施方式中示出的各种功能。另外,处理器除了直接执行控制程序外,也可以通过进行编译后执行或者通过进行翻译后执行。
(20)在上述的实施方式中示出的各个功能构成要素(广播系统100的宽屏影像摄影部101、影像分离部102、影像配置部103、广播流生成部104和追加流生成部105、以及再现装置200的调谐器201、广播流解码部202、第1影像平面203、NIC211、追加流解码部212、第2影像平面213、影像合成方法设定部214、影像合成部221、合成影像平面222等)也可以作为执行其功能的电路来实现,还可以通过由一个或者多个处理器执行程序来实现。
另外,上述的各个功能构成要素可以典型地实现作为集成电路即LSI来实现。这些功能构成要素可以形成为独立的单片,也可以形成为包含一部分或者全部的单片。在此是形成为LSI,但根据集成度的不同,有时也被称为IC、系统LSI、超级(super)LSI、特级(ultra)LSI。并且,集成电路化的方法不限于LSI,也可以利用专用电路或者通用处理器实现。也可以采用在制作LSI后能够编程的可现场编程门阵列(FPGA:Field Programmable GateArray)、能够重构架LSI内部的电路单元的连接和设定的可配置处理器(reconfigurable processor)。另外,如果伴随半导体技术的发展或利用派生的其他技术替换LSI的集成电路化的技术问世,当然也可以使用该技术进行功能单元的集成化。还存在适用仿生技术等的可能性。
(21)也可以将上述实施方式和各个变形例进行部分组合。
<5.补充1>
进行有关上述实施方式的补充说明。
<流的复用化>
下面,说明通过数字电视广播波等传输的流即MPEG-2传输流形式的数字流。
MPEG-2传输流是依据于在ISO/IEC13818-1和ITU-T劝告H222.0中被标准化的标准规格的流。
图23是表示MPEG-2传输流形式的数字流的结构的图。
如图23所示,通过将由视频帧串构成的视频流、由音频帧串构成的音频流、字幕流等进行复用,能够得到传输流。
视频流是采用MPEG-2、MPEG-4AVC等方式对节目的主影像进行压缩编码得到的流。
音频流是采用杜比AC-3、MPEG-2AAC、MPEG-4AAC、HE-AAC等方式对节目的主声音和副声音进行压缩编码得到的流。
字幕流是存储节目的字幕信息的流。
关于复用的步骤,对于视频是将由多个视频帧构成的视频流2301变换为PES包串2302,再变换为TS包2303。
对于音频是将由多个音频帧构成的音频流2304变换为PES包串2305,再变换为TS包2306。
对于字幕是将字幕流2307的数据分别变换为PES包串2308,再变换为TS包2309。
并且,将TS包2303、TS包2306和TS包2309作为一条流进行复用,由此得到MPEG-2传输流2313。
包含在传输流中的各个流能够利用被称为PID的流识别用的ID进行识别。通过抽取该PID的包,再现装置抽取对象的流。PID与流的对应关系被存储在后述的PMT包的描述符中。
图24是表示视频流如何被存储在PES包串中的图。
流2401表示视频流中的视频帧串。
PES包串2402表示PES包串。
如图24中的箭头yy1、yy2、yy3、yy4所示,视频流中的多个视频演示单元即I图片、B图片、P图片被按照每个图片进行分割,并存储在PES包的有效载荷中。
各个PES包具有PES标题,在PES标题中存储有图片的显示时刻即PTS(Presentation Time-Stamp:演示时间戳)和图片的解码时刻即DTS(Decoding Time-Stamp:解码时间戳)。
<视频流的压缩编码>
在此,对视频流的压缩编码进行说明。
在MPEG-2、MPEG-4AVC、SMPTE VC-1(Society of Motion PictureTelevision Engineers VC-1)等动态图像压缩编码中,利用动态图像的空间方向和时间方向的冗余性。
作为采用时间方向的冗余性的方法,能够使用图片间预测编码。
在此,所谓图片是指削减了图像的冗余度的帧或者字段。
在图片间预测编码中,作为编码对象的图片的压缩编码,将按照显示时间顺序位于前方或者后方的图片作为参照图片,由此削减时间方向的冗余度。并且,检测相对于该参照图片的运动量,对进行了运动补偿的图片与编码对象的图片之差分值进行压缩编码,由此削减时间方向的冗余度。
图25是表示通常的视频流的图片的参照关系的图。
图25中的箭头表示参照图片。
图片根据编码方法被划分为I图片、P图片、B图片。
I图片(图中的I0等)是不使用参照图片,仅使用编码对象图片进行图片内预测编码而生成的图片。
P图片(图中的P3、P6等)是参照已经处理过的一张图片进行图片间预测编码得到的图片。
B图片(图中的B1、B2、B4、B5等)是同时参照已经处理过的两张图片进行图片间预测编码得到的图片。并且,在B图片中,将被其它图片参照的图片称为Br图片。
另外,将视频流由帧构成(帧构造)时的帧、以及由字段构成(字段构造)时的字段称为“视频访问单元”。
<视频流的层次构造>
图26是用于说明视频流的层次构造的图。
视频流由作为编码处理的基本单位的多个GOP构成。动态图像的编辑和随机访问以该GOP为单位进行。
GOP构成为包括一个以上的上述的视频访问单元。
视频访问单元由AU识别码、序列标题、图片标题、补充数据、压缩图片数据、装填数据、序列尾端码、流尾端码等构成。这些数据在MPEG-4AVC中是以NAL单元单位进行存储。
AU识别码是表示访问单元的开头的开始代码。
序列标题是存储由多个视频访问单元构成的再现序列中的共用信息的标题。具体地讲,在序列标题中存储有析像度、帧频、宽高比、比特率等信息。
图片标题是存储图片整体的编码方式等信息的标题。
补充数据是在压缩数据的解码中非必须的附加信息。例如,存储有与影像同步地显示于TV的隐藏字幕的文字信息和GOP构造信息等。
在压缩图片数据中存储有被压缩编码后的图片的数据。在装填数据中存储有用于修整形式的没有意义的数据。例如,被用作用于保持所确定的比特率的填充数据。序列尾端码是表示再现序列的尾端的数据。流尾端码是表示比特流的尾端的数据。
AU识别码、序列标题、图片标题、补充数据、压缩图片数据、装填数据、序列尾端码、流尾端码的内容,根据视频的编码方式而不同。
例如,在视频的编码方式是MPEG-4AVC时,AU识别码是AU定界符(Access Unit Delimiter),序列标题是SPS(Sequence Paramter Set),图片标题是PPS(Picture Parameter Set),补充数据是SEI(SupplementalEnhancement Information),压缩图片数据是多个条带,装填数据是FillerData,序列尾端码是End of Sequence,流尾端码是End of Stream。
另外,在视频的编码方式是MPEG-2时,序列标题是sequence_Header、sequence_extension、group_of_picture_Header,图片标题是picture_Header、picture_coding_extension,补充数据是user_data,压缩图片数据是多个条带,序列尾端码是sequence_end_code。另外,不存在AU识别码,但是能够使用各个标题的开始码检测出访问单元的断开处。
其中,有时能够省略上述数据中的几种数据。例如,序列标题也可以仅记载于GOP开头的视频访问单元,不在除此以外的视频访问单元中记载。
另外,根据编码方式,关于视频访问单元,有时在该视频访问单元中没有图片标题的记载,也可以存在参照码顺序靠前的视频访问单元的图片标题的情况。
例如,作为一例,在图27所示的GOP开头的视频访问单元(2701)中,作为压缩图片数据是存储有I图片的数据,一定记载AU识别码、序列标题、图片标题、压缩图片数据。关于补充数据、装填数据、序列尾端码、流尾端码,根据需要进行记载。
另一方面,在GOP开头以外的视频访问单元(2702)中一定记载AU识别码、压缩图片数据,关于补充数据、装填数据、序列尾端码、流尾端码,根据需要进行记载。
<裁剪及比例化>
裁剪是指从被编码后的帧区域中抽取一部分区域。比例化是指将该抽取的区域放大、缩小。
通过进行裁剪及比例化,能够从被编码后的帧区域中生成在实际显示中使用的区域。
例如,如图28所示,从被编码后的帧区域2801中指定实际显示的区域作为“裁剪区域”(作为一例,指裁剪区域2802)。并且,按照表示在实际显示于电视机等时的比例化方法的比例化信息,对裁剪区域2802进行上变换(up convert)等,由此生成实际在显示中使用的区域(图像)2803。
关于裁剪区域的指定,如果是MPEG-4AVC,则能够使用在SPS中存储的frame_cropping信息进行。
frame_cropping信息如图29的说明用图像2901所示,将裁剪区域的上线/下线/左线/右线与被编码后的帧区域的上线/下线/左线/右线之差分,指定为上下左右的裁剪量。
更具体地讲,在指定裁剪区域时,将frame_cropping_flag设定为1,对frame_crop_top_offset/frame_crop_bottom_offset/frame_crop_left_offset/
frame_crop_right_offset指定上/下/左/右的裁剪量。
另外,对于MPEG-2,如图29的说明用图像2902所示,能够使用裁剪区域的纵横的尺寸(sequence_display_extension的display_horizontal_size、display_vertical_size)、和被编码后的帧区域的中心与裁剪区域的中心之差分信息(picture_display_extension的frame_centre_horizontal_offset、frame_centre_vertical_offset),指定裁剪区域。
另外,比例化信息例如被设定为宽高比。再现装置使用该宽高比的信息,对裁剪区域进行上变换并显示。
例如,比例化信息在MPEG-4AVC中是指在SPS中存储宽高比的信息(aspect_ratio_idc)。
例如,在MPEG-4AVC中,将宽高比指定为4:3,以便将1440×1080的裁剪区域放大为1920×1080进行显示。在这种情况下,沿水平方向将上变换为4/3倍(1440×4/3=1920),放大为1920×1080进行显示。
在MPEG-2中,同样在sequence_header中存储宽高比的信息(aspect_ratio_information)。
<TS包>
图30是表示TS包的数据构造的图。
TS包是由4字节的TS标题、自适应字段、TS有效载荷构成的188字节固定长度的包。
TS标题由transport_priority、PID、adaptaion_field_control等构成。
PID是如前面所述用于识别在传输流中被复用的流的ID。transport_priority是用于识别同一PID的TS包中的包的类别的信息。adaptaion_field_control是用于控制自适应字段和TS有效载荷的结构的信息。自适应字段和TS有效载荷包括仅存在任意一方的情况和双方均存在的情况,adaptaion_field_control表示其有无。
在adaptaion_field_control为1的情况下,表示仅存在TS有效载荷,在adaptaion_field_control为2的情况下,表示仅存在自适应字段,在adaptaion_field_control为3的情况下,表示TS有效载荷和自适应字段双方均存在。
自适应字段是存储PCR等信息、或用于使TS包成为188字节固定长度的填充用数据的存储区域。在TS有效载荷中将PES包分割进行存储。
在包含于传输流中的TS包中,除影像/声音/字幕等的各个流以外,还有PAT(Program Association Table:节目关联表)、PMT(Program Map Table:节目映射表)、PCR(Program Clock Reference)等。这些包被称为PSI(ProgramSpecific Information:节目特殊信息)。
PAT表示在传输流中使用的PMT的PID是什么,PAT自身的PID是0。
PMT具有包含于传输流中的影像/声音/字幕等的各个流的PID、和与各个PID对应的流的属性信息,还具有与传输流相关的各种描述符。
在描述符中具有指示许可/不许可AV流的复制的复制控制信息等。PCR具有与该PCR包被传送给解码器的定时对应的STC时间的信息,以便获取TS包在解码器中的到达时刻与PTS/DTS的时间轴即STC(System TimeClock:系统时钟)的同步。
图31是表示PMT的数据构造的图。
在PMT的开头配置有记载了包含在该PMT中的数据的长度等的PMT标题。在其后面配置有与传输流相关的多个描述符。前述的复制控制信息等被记载为描述符。在描述符的后面配置有与包含在传输流中的各个流相关的多个流信息。流信息由用于识别流的压缩编解码等的流类型、流的PID、记载有流的属性信息(帧频、宽高比)的流描述符构成。
<6.补充2>
下面,说明作为本发明的一个实施方式的内容广播接收系统的结构及其变形例和效果。
(1)本发明的一个实施方式的再现装置用于再现原始影像,该再现装置具有:第1接收单元,从广播波取得由广播图像组构成的广播影像,该广播图像组是提取构成所述原始影像的帧图像组中的各个帧图像的任意部分而得到的广播图像的组;第2接收单元,接收由剩余图像组构成的追加影像,该剩余图像组是所述帧图像组中的各个帧图像的所述被抽取的部分以外的剩余图像的组;配置信息取得单元,取得有关所述帧图像组的、表示各个帧图像中的广播图像和剩余图像的配置的配置信息;以及再现单元,根据所述配置信息来配置所述广播图像组和所述剩余图像组,由此生成所述帧图像组并进行显示。
根据这种结构,能够使用广播影像、和不是根据与广播影像的固定的相对位置而确定的影像的任意影像即追加影像,再现原始影像。
(2)另外,也可以是,各个所述帧图像被分割为所述广播图像和多个部分图像,所述剩余图像是将所述多个部分图像结合而形成的,所述配置信息包括表示所述剩余图像中所述多个部分图像各自的配置位置的信息,所述再现单元参照所述配置信息,将所述剩余图像分割为所述多个部分图像并与所述广播图像结合,由此生成所述帧图像。
根据这种结构,即使在将帧图像划分为广播图像和不连续的多个部分图像的情况下,也能够利用这些广播图像和多个部分图像生成帧图像。因此,能够增大在广播系统中对帧图像进行分割时的、帧图像的分割方法的自由度。
(3)另外,也可以是,各个所述帧图像沿水平方向被分割为作为所述多个部分图像之一的左部分图像、所述广播图像、以及作为所述多个部分图像之一的右部分图像这三个图像,所述再现单元参照所述配置信息,将所述剩余图像分割为所述左部分图像和所述右部分图像,将所述左部分图像结合于所述广播图像的左端,将所述右部分图像结合于所述广播图像的右端,由此生成所述帧图像。
根据这种结构,原始影像能够采用使广播图像沿水平方向宽屏化的影像。
(4)另外,也可以是,各个所述帧图像沿垂直方向被分割为作为所述多个部分图像之一的上部分图像、所述广播图像、以及作为所述多个部分图像之一的下部分图像这三个图像,所述再现单元参照所述配置信息,将所述剩余图像分割为所述上部分图像和所述下部分图像,将所述上部分图像与所述广播图像的上端结合,将所述下部分图像与所述广播图像的下端结合,由此生成所述帧图像。
根据这种结构,原始影像能够采用比广播图像增大了析像度的影像。
(5)另外,也可以是,所述多个部分图像中的至少一个部分图像在与其它部分图像结合时被放大或者缩小,在所述配置信息中记载有用于使所述被放大或者缩小后的部分图像恢复为原来尺寸的倍率,所述再现单元在将所述广播图像与所述多个部分图像结合时,在根据所述配置信息对所述被放大或者缩小后的部分图像进行恢复为原来尺寸的处理后进行结合。
另外,也可以是,所述多个部分图像中的至少一个部分图像在与其它部分图像结合时被旋转,在所述配置信息中记载有用于使所述被旋转后的部分图像恢复为旋转前的姿态的旋转角度,所述再现单元在将所述广播图像和所述多个部分图像结合时,在使所述被旋转后的部分图像旋转了所述配置信息中记载的旋转角度后进行结合。
根据这种结构,能够进一步增大在广播系统中对帧图像进行分割时的、帧图像的分割方法的自由度。
(6)另外,也可以是,所述广播系统通过网络发送所述追加影像,所述第2接收单元通过所述网络接收所述追加影像。
根据这种结构,能够区分为广播波和通信来接收原始影像。
(7)另外,也可以是,按照由所述被抽取的部分相同的帧图像构成的规定的每个组各生成一个所述配置信息,所述再现单元在生成所述帧图像组时,对于各个所述组参照对该组生成的配置信息,生成构成该组的帧图像。
根据这种结构,相比对各个帧图像生成配置信息的情况,能够减少待接收的配置信息的量。因此,能够降低通信线路的混杂程度。
(8)本发明的一个实施方式的再现方法由再现原始影像的再现装置执行,该再现方法包括:第1接收步骤,从广播波取得由广播图像组构成的广播影像,该广播图像组是提取构成所述原始影像的帧图像组中的各个帧图像的任意部分而得到的广播图像的组;第2接收步骤,接收由剩余图像组构成的追加影像,该剩余图像组是所述帧图像组中的各个帧图像的所述被抽取的部分以外的剩余图像的组;配置信息取得步骤,取得有关所述帧图像组的、表示各个帧图像中的广播图像和剩余图像的配置的配置信息;以及再现步骤,根据所述配置信息来配置所述广播图像组和所述剩余图像组,由此生成所述帧图像组并进行显示。
本发明的一个实施方式的集成电路是在再现原始影像的再现装置中使用的集成电路,该集成电路具有:第1接收单元,从广播波取得由广播图像组构成的广播影像,该广播图像组是提取构成所述原始影像的帧图像组中的各个帧图像的任意部分而得到的广播图像的组;第2接收单元,接收由剩余图像组构成的追加影像,该剩余图像组是所述帧图像组中的各个帧图像的所述被抽取的部分以外的剩余图像的组;配置信息取得单元,取得有关所述帧图像组的、表示各个帧图像中的广播图像和剩余图像的配置的配置信息;以及再现单元,根据所述配置信息来配置所述广播图像组和所述剩余图像组,由此生成所述帧图像组并进行显示。
根据这种结构,能够使用广播影像、和不是根据与广播影像的固定的相对位置而确定的影像的任意影像即追加影像,再现原始影像。
(9)本发明的一个实施方式的广播系统用于发送原始影像,该广播系统具有:第1发送单元,抽取构成所述原始影像的帧图像组中的各个帧图像的任意部分,使用广播波发送由所述抽取出的图像组构成的广播影像;第2发送单元,生成由剩余图像组构成的追加影像并进行发送,该剩余图像组是所述帧图像组中的各个帧图像的所述被抽取的部分以外的剩余图像的组;以及配置信息发送单元,生成有关所述帧图像组的、表示各个帧图像中的广播图像和剩余图像的配置的配置信息并进行发送。
本发明的一个实施方式的广播方法由发送原始影像的广播系统执行,该广播方法包括:第1发送步骤,抽取构成所述原始影像的帧图像组中的各个帧图像的任意部分,使用广播波发送由所述抽取出的图像组构成的广播影像;第2发送步骤,生成由剩余图像组构成的追加影像并进行发送,该剩余图像组是所述帧图像组中的各个帧图像的所述被抽取的部分以外的剩余图像的组;以及配置信息发送步骤,生成有关所述帧图像组的、表示各个帧图像中的广播图像和剩余图像的配置的配置信息并进行发送。
本发明的一个实施方式的集成电路是在发送原始影像的广播系统中使用的集成电路,该集成电路具有:第1发送单元,抽取构成所述原始影像的帧图像组中的各个帧图像的任意部分,使用广播波发送由所述抽取出的图像组构成的广播影像;第2发送单元,生成由剩余图像组构成的追加影像并进行发送,该剩余图像组是所述帧图像组中的各个帧图像的所述被抽取的部分以外的剩余图像的组;以及配置信息发送单元,生成有关所述帧图像组的、表示各个帧图像中的广播图像和剩余图像的配置的配置信息并进行发送。
根据这种结构,能够使用广播影像、和不是根据与广播影像的固定的相对位置而确定的影像的任意影像即追加影像,向再现装置发送原始影像。
产业上的可利用性
本发明的一个实施方式的再现装置,在将广播影像和追加影像相结合并生成一个结合影像进行显示的情况下,追加影像能够采用不是根据与广播影像的固定的相对位置而确定的影像的任意影像,因而能够用于从广播和通信双方接收影像并进行结合及再现的装置等。
标号说明
100广播系统;101宽屏影像摄影部;102影像分离部;103影像配置部;104广播流生成部;105追加流生成部;106追加流生成部;200再现装置;201调谐器;202广播流解码部;203影像平面;211NIC;212追加流解码部;213影像平面;214影像合成方法设定部;215影像合成方法设定部;221影像合成部;222合成影像平面。
Claims (13)
1.一种再现原始影像的再现装置,其特征在于,该再现装置具有:
第1接收单元,从广播波取得由广播图像组构成的广播影像,该广播图像组是提取构成所述原始影像的帧图像组中的各个帧图像的任意部分而得到的广播图像的组;
第2接收单元,接收由剩余图像组构成的追加影像,该剩余图像组是所述帧图像组中的各个帧图像的所述被抽取的部分以外的剩余图像的组;
配置信息取得单元,取得有关所述帧图像组的、表示各个帧图像中的广播图像和剩余图像的配置的配置信息;以及
再现单元,根据所述配置信息来配置所述广播图像组和所述剩余图像组,由此生成所述帧图像组并进行显示。
2.根据权利要求1所述的再现装置,其特征在于,各个所述帧图像被分割为所述广播图像和多个部分图像,
所述剩余图像是将所述多个部分图像结合而形成的,
所述配置信息包括表示所述剩余图像中所述多个部分图像各自的配置位置的信息,
所述再现单元参照所述配置信息,将所述剩余图像分割为所述多个部分图像并与所述广播图像结合,由此生成所述帧图像。
3.根据权利要求2所述的再现装置,其特征在于,各个所述帧图像沿水平方向被分割为作为所述多个部分图像之一的左部分图像、所述广播图像、以及作为所述多个部分图像之一的右部分图像这三个图像,
所述再现单元参照所述配置信息,将所述剩余图像分割为所述左部分图像和所述右部分图像,将所述左部分图像结合于所述广播图像的左端,将所述右部分图像结合于所述广播图像的右端,由此生成所述帧图像。
4.根据权利要求2所述的再现装置,其特征在于,各个所述帧图像沿垂直方向被分割为作为所述多个部分图像之一的上部分图像、所述广播图像、以及作为所述多个部分图像之一的下部分图像这三个图像,
所述再现单元参照所述配置信息,将所述剩余图像分割为所述上部分图像和所述下部分图像,将所述上部分图像与所述广播图像的上端结合,将所述下部分图像与所述广播图像的下端结合,由此生成所述帧图像。
5.根据权利要求2所述的再现装置,其特征在于,所述多个部分图像中的至少一个部分图像在与其它部分图像结合时被放大或者缩小,
在所述配置信息中记载有用于使所述被放大或者缩小后的部分图像恢复为原来尺寸的倍率,
所述再现单元在将所述广播图像与所述多个部分图像结合时,在根据所述配置信息对所述被放大或者缩小后的部分图像进行恢复为原来尺寸的处理后进行结合。
6.根据权利要求2所述的再现装置,其特征在于,所述多个部分图像中的至少一个部分图像在与其它部分图像结合时被旋转,
在所述配置信息中记载有用于使所述被旋转后的部分图像恢复为旋转前的姿态的旋转角度,
所述再现单元在将所述广播图像和所述多个部分图像结合时,在使所述被旋转后的部分图像旋转了所述配置信息中记载的旋转角度后进行结合。
7.根据权利要求1所述的再现装置,其特征在于,所述广播系统通过网络发送所述追加影像,
所述第2接收单元通过所述网络接收所述追加影像。
8.根据权利要求1所述的再现装置,其特征在于,按照由所述被抽取的部分相同的帧图像构成的规定的每个组各生成一个所述配置信息,
所述再现单元在生成所述帧图像组时,对于各个所述组参照对该组生成的配置信息,生成构成该组的帧图像。
9.一种由再现原始影像的再现装置执行的再现方法,其特征在于,该再现方法包括:
第1接收步骤,从广播波取得由广播图像组构成的广播影像,该广播图像组是提取构成所述原始影像的帧图像组中的各个帧图像的任意部分而得到的广播图像的组;
第2接收步骤,接收由剩余图像组构成的追加影像,该剩余图像组是所述帧图像组中的各个帧图像的所述被抽取的部分以外的剩余图像的组;
配置信息取得步骤,取得有关所述帧图像组的、表示各个帧图像中的广播图像和剩余图像的配置的配置信息;以及
再现步骤,根据所述配置信息来配置所述广播图像组和所述剩余图像组,由此生成所述帧图像组并进行显示。
10.一种在再现原始影像的再现装置中使用的集成电路,其特征在于,该集成电路具有:
第1接收单元,从广播波取得由广播图像组构成的广播影像,该广播图像组是提取构成所述原始影像的帧图像组中的各个帧图像的任意部分而得到的广播图像的组;
第2接收单元,接收由剩余图像组构成的追加影像,该剩余图像组是所述帧图像组中的各个帧图像的所述被抽取的部分以外的剩余图像的组;
配置信息取得单元,取得有关所述帧图像组的、表示各个帧图像中的广播图像和剩余图像的配置的配置信息;以及
再现单元,根据所述配置信息来配置所述广播图像组和所述剩余图像组,由此生成所述帧图像组并进行显示。
11.一种发送原始影像的广播系统,其特征在于,该广播系统具有:
第1发送单元,抽取构成所述原始影像的帧图像组中的各个帧图像的任意部分,使用广播波发送由所述抽取出的图像组构成的广播影像;
第2发送单元,生成由剩余图像组构成的追加影像并进行发送,该剩余图像组是所述帧图像组中的各个帧图像的所述被抽取的部分以外的剩余图像的组;以及
配置信息发送单元,生成有关所述帧图像组的、表示各个帧图像中的广播图像和剩余图像的配置的配置信息并进行发送。
12.一种由发送原始影像的广播系统执行的广播方法,其特征在于,该广播方法包括:
第1发送步骤,抽取构成所述原始影像的帧图像组中的各个帧图像的任意部分,使用广播波发送由所述抽取出的图像组构成的广播影像;
第2发送步骤,生成由剩余图像组构成的追加影像并进行发送,该剩余图像组是所述帧图像组中的各个帧图像的所述被抽取的部分以外的剩余图像的组;以及
配置信息发送步骤,生成有关所述帧图像组的、表示各个帧图像中的广播图像和剩余图像的配置的配置信息并进行发送。
13.一种在发送原始影像的广播系统中使用的集成电路,其特征在于,该集成电路具有:
第1发送单元,抽取构成所述原始影像的帧图像组中的各个帧图像的任意部分,使用广播波发送由所述抽取出的图像组构成的广播影像;
第2发送单元,生成由剩余图像组构成的追加影像并进行发送,该剩余图像组是所述帧图像组中的各个帧图像的所述被抽取的部分以外的剩余图像的组;以及
配置信息发送单元,生成有关所述帧图像组的、表示各个帧图像中的广播图像和剩余图像的配置的配置信息并进行发送。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201161522393P | 2011-08-11 | 2011-08-11 | |
US61/522,393 | 2011-08-11 | ||
PCT/JP2012/005088 WO2013021656A1 (ja) | 2011-08-11 | 2012-08-09 | 再生装置、再生方法、集積回路、放送システム、及び放送方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103125123A true CN103125123A (zh) | 2013-05-29 |
CN103125123B CN103125123B (zh) | 2017-04-26 |
Family
ID=47668190
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201280003152.6A Active CN103125123B (zh) | 2011-08-11 | 2012-08-09 | 再现装置、再现方法、集成电路、广播系统及广播方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8773584B2 (zh) |
EP (1) | EP2744197A4 (zh) |
JP (1) | JP5979499B2 (zh) |
CN (1) | CN103125123B (zh) |
WO (1) | WO2013021656A1 (zh) |
Families Citing this family (38)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9190110B2 (en) | 2009-05-12 | 2015-11-17 | JBF Interlude 2009 LTD | System and method for assembling a recorded composition |
US11232458B2 (en) | 2010-02-17 | 2022-01-25 | JBF Interlude 2009 LTD | System and method for data mining within interactive multimedia |
WO2013190789A1 (ja) * | 2012-06-22 | 2013-12-27 | ソニー株式会社 | 受信装置およびその同期処理方法 |
JP5641090B2 (ja) * | 2013-03-14 | 2014-12-17 | ソニー株式会社 | 送信装置、送信方法、受信装置および受信方法 |
BR112015032851B1 (pt) * | 2013-07-05 | 2023-03-07 | Sony Corporation | Dispositivos e métodos de transmissão e de recepção |
US10721530B2 (en) * | 2013-07-29 | 2020-07-21 | Koninklijke Kpn N.V. | Providing tile video streams to a client |
TWI520610B (zh) * | 2013-08-01 | 2016-02-01 | 晨星半導體股份有限公司 | 電視控制裝置與相關方法 |
JPWO2015060349A1 (ja) * | 2013-10-22 | 2017-03-09 | シャープ株式会社 | 表示制御装置、配信装置、表示制御方法、および表示制御システム |
US9348495B2 (en) | 2014-03-07 | 2016-05-24 | Sony Corporation | Control of large screen display using wireless portable computer and facilitating selection of audio on a headphone |
US9653115B2 (en) | 2014-04-10 | 2017-05-16 | JBF Interlude 2009 LTD | Systems and methods for creating linear video from branched video |
US10694192B2 (en) | 2014-06-27 | 2020-06-23 | Koninklijke Kpn N.V. | HEVC-tiled video streaming |
US10397666B2 (en) | 2014-06-27 | 2019-08-27 | Koninklijke Kpn N.V. | Determining a region of interest on the basis of a HEVC-tiled video stream |
JP6239472B2 (ja) * | 2014-09-19 | 2017-11-29 | 株式会社東芝 | エンコード装置、デコード装置、ストリーミングシステム、および、ストリーミング方法 |
US9792957B2 (en) | 2014-10-08 | 2017-10-17 | JBF Interlude 2009 LTD | Systems and methods for dynamic video bookmarking |
US11412276B2 (en) | 2014-10-10 | 2022-08-09 | JBF Interlude 2009 LTD | Systems and methods for parallel track transitions |
WO2016105322A1 (en) * | 2014-12-25 | 2016-06-30 | Echostar Ukraine, L.L.C. | Simultaneously viewing multiple camera angles |
US10582265B2 (en) | 2015-04-30 | 2020-03-03 | JBF Interlude 2009 LTD | Systems and methods for nonlinear video playback using linear real-time video players |
US10715843B2 (en) | 2015-08-20 | 2020-07-14 | Koninklijke Kpn N.V. | Forming one or more tile streams on the basis of one or more video streams |
US10460765B2 (en) * | 2015-08-26 | 2019-10-29 | JBF Interlude 2009 LTD | Systems and methods for adaptive and responsive video |
EP3345184A1 (en) * | 2015-09-02 | 2018-07-11 | THOMSON Licensing | Method, apparatus and system for facilitating navigation in an extended scene |
EP3360330B1 (en) | 2015-10-08 | 2021-03-24 | Koninklijke KPN N.V. | Enhancing a region of interest in video frames of a video stream |
US11164548B2 (en) | 2015-12-22 | 2021-11-02 | JBF Interlude 2009 LTD | Intelligent buffering of large-scale video |
US11856271B2 (en) | 2016-04-12 | 2023-12-26 | JBF Interlude 2009 LTD | Symbiotic interactive video |
US20180070048A1 (en) * | 2016-09-05 | 2018-03-08 | International Business Machines Corporation | Management of media content on a storage medium |
US11050809B2 (en) | 2016-12-30 | 2021-06-29 | JBF Interlude 2009 LTD | Systems and methods for dynamic weighting of branched video paths |
US10257578B1 (en) | 2018-01-05 | 2019-04-09 | JBF Interlude 2009 LTD | Dynamic library display for interactive videos |
US11601721B2 (en) | 2018-06-04 | 2023-03-07 | JBF Interlude 2009 LTD | Interactive video dynamic adaptation and user profiling |
US20200296462A1 (en) | 2019-03-11 | 2020-09-17 | Wci One, Llc | Media content presentation |
US20200296316A1 (en) | 2019-03-11 | 2020-09-17 | Quibi Holdings, LLC | Media content presentation |
US11523185B2 (en) | 2019-06-19 | 2022-12-06 | Koninklijke Kpn N.V. | Rendering video stream in sub-area of visible display area |
US11490047B2 (en) | 2019-10-02 | 2022-11-01 | JBF Interlude 2009 LTD | Systems and methods for dynamically adjusting video aspect ratios |
US11245961B2 (en) | 2020-02-18 | 2022-02-08 | JBF Interlude 2009 LTD | System and methods for detecting anomalous activities for interactive videos |
US12096081B2 (en) | 2020-02-18 | 2024-09-17 | JBF Interlude 2009 LTD | Dynamic adaptation of interactive video players using behavioral analytics |
CN111479162B (zh) * | 2020-04-07 | 2022-05-13 | 成都酷狗创业孵化器管理有限公司 | 直播数据传输方法、装置以及计算机可读存储介质 |
US12047637B2 (en) | 2020-07-07 | 2024-07-23 | JBF Interlude 2009 LTD | Systems and methods for seamless audio and video endpoint transitions |
US20240004717A1 (en) * | 2020-12-04 | 2024-01-04 | Nippon Telegraph And Telephone Corporation | Control apparatus, control method, and program |
US11882337B2 (en) | 2021-05-28 | 2024-01-23 | JBF Interlude 2009 LTD | Automated platform for generating interactive videos |
US11934477B2 (en) | 2021-09-24 | 2024-03-19 | JBF Interlude 2009 LTD | Video player integration within websites |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5068728A (en) * | 1990-06-22 | 1991-11-26 | Albert Macovski | Compatible increased aspect ratio television system |
US5430486A (en) * | 1993-08-17 | 1995-07-04 | Rgb Technology | High resolution video image transmission and storage |
US6025882A (en) * | 1987-07-27 | 2000-02-15 | Geshwind; David Michael | Methods and devices for incorporating additional information such as HDTV side strips into the blanking intervals of a previous frame |
US20060088162A1 (en) * | 2002-12-09 | 2006-04-27 | Daniel Lecomte | Synchronisation of secure audiovisual streams |
CN101783873A (zh) * | 2009-01-19 | 2010-07-21 | 北京视典无限传媒技术有限公司 | 数字化多媒体信息传输平台 |
Family Cites Families (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB8721565D0 (en) * | 1987-09-14 | 1987-10-21 | Rca Corp | Video signal processing system |
JP3241368B2 (ja) * | 1990-09-27 | 2001-12-25 | 日本電気株式会社 | テレビジョン信号伝送方式 |
JPH05191803A (ja) * | 1992-01-13 | 1993-07-30 | Hitachi Ltd | 動画像の合成装置および多地点間会議装置 |
ES2165417T3 (es) * | 1994-04-15 | 2002-03-16 | Koninkl Philips Electronics Nv | Disposicion para la decodificacion de señales digitales de video. |
JPH07298258A (ja) * | 1994-04-28 | 1995-11-10 | Nippon Telegr & Teleph Corp <Ntt> | 画像符号化復号化方法 |
US5768539A (en) * | 1994-05-27 | 1998-06-16 | Bell Atlantic Network Services, Inc. | Downloading applications software through a broadcast channel |
GB9526304D0 (en) * | 1995-05-22 | 1996-02-21 | British Sky Broadcasting Ltd | Interactive services interface |
US6020931A (en) * | 1996-04-25 | 2000-02-01 | George S. Sheng | Video composition and position system and media signal communication system |
JPH11122610A (ja) * | 1997-10-17 | 1999-04-30 | Toshiba Corp | 画像符号化方法及び画像復号化方法並びにこれらの装置 |
AU2001266303A1 (en) * | 2000-06-26 | 2002-01-08 | Nds Limited | Time shifted interactive television |
EP1233614B1 (fr) * | 2001-02-16 | 2012-08-08 | C.H.I. Development Mgmt. Ltd. XXIX, LLC | Système de transmission et de traitement vidéo pour générer une mosaique utilisateur |
US7206352B2 (en) * | 2001-04-02 | 2007-04-17 | Koninklijke Philips Electronics N.V. | ATSC digital television system |
JP4646446B2 (ja) * | 2001-06-28 | 2011-03-09 | パナソニック株式会社 | 映像信号処理装置 |
US7050113B2 (en) * | 2002-03-26 | 2006-05-23 | International Business Machines Corporation | Digital video data scaler and method |
CN1509081A (zh) * | 2002-12-20 | 2004-06-30 | �ʼҷ����ֵ��ӹɷ�����˾ | 通过广播和网络流传送双层hdtv信号的方法和系统 |
US7911536B2 (en) * | 2004-09-23 | 2011-03-22 | Intel Corporation | Screen filled display of digital video content |
US7489833B2 (en) * | 2004-10-06 | 2009-02-10 | Panasonic Corporation | Transmitting device, reconstruction device, transmitting method and reconstruction method for broadcasts with hidden subtitles |
JP2006115001A (ja) * | 2004-10-12 | 2006-04-27 | Fujitsu Ltd | 映像送信装置および映像受信装置 |
JP2007104540A (ja) | 2005-10-07 | 2007-04-19 | Open Interface Inc | 撮影画像配信装置、撮影画像配信プログラム及び撮影画像配信方法 |
JP4760288B2 (ja) * | 2005-10-13 | 2011-08-31 | ソニー株式会社 | 画像表示システム、表示装置、画像再合成装置、画像再合成方法及びプログラム |
JP5191493B2 (ja) * | 2006-11-20 | 2013-05-08 | エスケー プラネット カンパニー、リミテッド | 放送コンテンツに関連した付加情報サービス提供システム、付加情報サービス提供サーバー及び付加情報サービス提供方法 |
JP4645638B2 (ja) * | 2007-11-22 | 2011-03-09 | ソニー株式会社 | 信号送信装置、信号送信方法、信号受信装置及び信号受信方法 |
JP2010258707A (ja) | 2009-04-23 | 2010-11-11 | Sharp Corp | 映像表示装置、映像表示方法、プログラムおよび記録媒体 |
JP2011091578A (ja) | 2009-10-21 | 2011-05-06 | Canon Inc | 映像判定装置、映像表示装置及びそれらの制御方法、プログラム |
JP2011199389A (ja) * | 2010-03-17 | 2011-10-06 | Sony Corp | 画像処理装置、画像変換方法、およびプログラム |
JP5132808B1 (ja) * | 2011-10-11 | 2013-01-30 | 株式会社東芝 | デジタル放送録画再生装置およびデジタル放送録画再生方法 |
-
2012
- 2012-08-09 JP JP2013505237A patent/JP5979499B2/ja active Active
- 2012-08-09 CN CN201280003152.6A patent/CN103125123B/zh active Active
- 2012-08-09 WO PCT/JP2012/005088 patent/WO2013021656A1/ja active Application Filing
- 2012-08-09 US US13/824,581 patent/US8773584B2/en active Active
- 2012-08-09 EP EP12821943.3A patent/EP2744197A4/en not_active Withdrawn
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6025882A (en) * | 1987-07-27 | 2000-02-15 | Geshwind; David Michael | Methods and devices for incorporating additional information such as HDTV side strips into the blanking intervals of a previous frame |
US5068728A (en) * | 1990-06-22 | 1991-11-26 | Albert Macovski | Compatible increased aspect ratio television system |
US5430486A (en) * | 1993-08-17 | 1995-07-04 | Rgb Technology | High resolution video image transmission and storage |
US20060088162A1 (en) * | 2002-12-09 | 2006-04-27 | Daniel Lecomte | Synchronisation of secure audiovisual streams |
CN101783873A (zh) * | 2009-01-19 | 2010-07-21 | 北京视典无限传媒技术有限公司 | 数字化多媒体信息传输平台 |
Also Published As
Publication number | Publication date |
---|---|
JPWO2013021656A1 (ja) | 2015-03-05 |
EP2744197A4 (en) | 2015-02-18 |
CN103125123B (zh) | 2017-04-26 |
EP2744197A1 (en) | 2014-06-18 |
WO2013021656A1 (ja) | 2013-02-14 |
JP5979499B2 (ja) | 2016-08-24 |
US20130235270A1 (en) | 2013-09-12 |
US8773584B2 (en) | 2014-07-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103125123B (zh) | 再现装置、再现方法、集成电路、广播系统及广播方法 | |
KR101812612B1 (ko) | 3d 비디오 신호를 생성하는 방법 | |
WO2012017643A1 (ja) | 符号化方法、表示装置、及び復号方法 | |
KR100992767B1 (ko) | 영상 데이터 재생 장치, 영상 데이터 생성 장치 및 기록 매체 | |
CN105103540B (zh) | 文件生成方法、文件生成装置及记录介质 | |
WO2013061526A1 (ja) | 放送受信装置、放送受信方法およびプログラム | |
CN103202021A (zh) | 编码装置、解码装置、再现装置、编码方法及解码方法 | |
CN103168473B (zh) | 数字接收机以及用于处理数字接收机中的3d 内容的方法 | |
JPWO2020008758A1 (ja) | 情報処理装置および情報処理方法、並びにプログラム | |
JP2005094145A (ja) | 画像記録装置及び画像再生装置 | |
KR20160149150A (ko) | 스테레오스코픽 비디오 데이터를 처리하기 위한 mmt 장치 및 방법 | |
JP2010161807A (ja) | 記録媒体、映像データ再生装置及び映像データ生成装置 | |
KR20120036783A (ko) | 디지털 방송에서의 콘텐츠 재생 방법 | |
CN108702533A (zh) | 发送装置、发送方法、接收装置和接收方法 | |
KR20090019499A (ko) | 콘텐츠 정보 생성 방법 및 콘텐츠 정보를 이용한 콘텐츠처리 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C41 | Transfer of patent application or patent right or utility model | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20160311 Address after: Osaka Japan Applicant after: PANASONIC INTELLECTUAL PROPERTY MANAGEMENT Co.,Ltd. Address before: Osaka Japan Applicant before: Matsushita Electric Industrial Co.,Ltd. |
|
GR01 | Patent grant | ||
GR01 | Patent grant |