KR102529711B1 - 수신 장치, 송신 장치, 및 데이터 처리 방법 - Google Patents

수신 장치, 송신 장치, 및 데이터 처리 방법 Download PDF

Info

Publication number
KR102529711B1
KR102529711B1 KR1020177009683A KR20177009683A KR102529711B1 KR 102529711 B1 KR102529711 B1 KR 102529711B1 KR 1020177009683 A KR1020177009683 A KR 1020177009683A KR 20177009683 A KR20177009683 A KR 20177009683A KR 102529711 B1 KR102529711 B1 KR 102529711B1
Authority
KR
South Korea
Prior art keywords
processing
broadcast
application
data
segment
Prior art date
Application number
KR1020177009683A
Other languages
English (en)
Other versions
KR20170074866A (ko
Inventor
다츠야 이가라시
노리후미 긱카와
요시하루 데와
야스아키 야마기시
Original Assignee
소니그룹주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 소니그룹주식회사 filed Critical 소니그룹주식회사
Publication of KR20170074866A publication Critical patent/KR20170074866A/ko
Application granted granted Critical
Publication of KR102529711B1 publication Critical patent/KR102529711B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23614—Multiplexing of additional data and video streams
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/443—OS processes, e.g. booting an STB, implementing a Java virtual machine in an STB or power management in an STB
    • H04N21/4431—OS processes, e.g. booting an STB, implementing a Java virtual machine in an STB or power management in an STB characterized by the use of Application Program Interface [API] libraries
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21—Server components or server architectures
    • H04N21/218—Source of audio or video content, e.g. local disk arrays
    • H04N21/2187—Live feed
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23406—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving management of server-side video buffer
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23424—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving splicing one content stream with another content stream, e.g. for inserting or substituting an advertisement
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/433—Content storage operation, e.g. storage operation in response to a pause request, caching operations
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/435—Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/438—Interfacing the downstream path of the transmission network originating from a server, e.g. retrieving MPEG packets from an IP network
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44004—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving video buffer management, e.g. video decoder buffer or video display buffer
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44209—Monitoring of downstream path of the transmission network originating from a server, e.g. bandwidth variations of a wireless network
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/462—Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
    • H04N21/4622—Retrieving content or additional data from different sources, e.g. from a broadcast channel and the Internet
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/643—Communication protocols
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/643—Communication protocols
    • H04N21/64322—IP
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81—Monomedia components thereof
    • H04N21/8166—Monomedia components thereof involving executable data, e.g. software
    • H04N21/8173—End-user applications, e.g. Web browser, game
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845—Structuring of content, e.g. decomposing content into time segments
    • H04N21/8456—Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/266—Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
    • H04N21/2668—Creating a channel for a dedicated end-user group, e.g. insertion of targeted commercials based on end-user profiles

Abstract

방송 수신 데이터와 네트워크 수신 데이터의 합성 처리를 효율적으로 실행하는 장치, 방법을 제공한다. 수신 장치가 통신부를 통하여 수신하는 방송 수신 데이터를, API(Application Programming Interface)를 적용하여, 수신 장치가 실행할 애플리케이션의 처리 오브젝트인 미디어 소스 오브젝트로 설정한다. 애플리케이션은, 미디어 소스 오브젝트에 대한 처리로서, 상기 방송 수신 데이터와, 네트워크를 통하여 수신하는 네트워크 수신 데이터의 합성 처리를 실행한다. 애플리케이션은, API 적용 처리에 의해 애플리케이션 시간축과 방송 시간축의 시간차에 상당하는 시간 오프셋을 취득하고, 고정밀도, 저지연의 데이터 합성 처리를 실행한다.

Description

수신 장치, 송신 장치, 및 데이터 처리 방법{RECEIVING DEVICE, TRANSMITTING DEVICE, AND DATA PROCESSING METHOD}
본 개시는, 수신 장치, 송신 장치, 및 데이터 처리 방법에 관한 것이다. 더욱 상세하게는 예를 들어 방송파나 네트워크를 통한 데이터의 송신 또는 수신을 실행하는 수신 장치, 송신 장치, 및 통신 데이터에 대한 데이터 처리 방법에 관한 것이다.
방송국이나 콘텐츠 서버 등, 콘텐츠를 제공하는 송신 장치로부터, 텔레비전, PC, 휴대 단말기 등의 수신 장치에 대하여 방송파 등에 의한 일방향 통신, 또는, 인터넷 등의 네트워크를 통한 쌍방향 통신, 일방향 통신에 의해, 방송 프로그램 등의 콘텐츠를 송수신하는 시스템에 관한 개발이나 규격화가 현재 왕성하게 진행되고 있다.
그러나, 네트워크를 통한 데이터 송신에 있어서는, 네트워크의 폭주 등에 따라, 일정한 비트 레이트에서의 데이터 수신이 곤란해지는 경우가 있다.
이러한 문제를 해결하기 위해서, 복수의 비트 레이트의 데이터 세분화 파일인 세그먼트를 네트워크 상에 송신하고, 네트워크 상황에 따라서 클라이언트측에서 최적의 비트 레이트의 세그먼트를 선택하여 재생하는 어댑티브(적응형) 스트리밍이 제안되어 있다.
이 어댑티브(적응형) 스트리밍의 규격으로서, DASH(Dynamic Adaptive Streaming over HTTP)가 있다. DASH는, HTTP(Hyper Text Transfer Protocol) 프로토콜을 사용한 어댑티브(적응형) 스트리밍 기술의 표준 규격이다.
어댑티브(적응형) 스트리밍에서는, 콘텐츠 배신 서버는 여러가지 클라이언트에서 배신 콘텐츠의 재생을 가능하게 하기 위해서, 복수의 비트 레이트의 동화상 콘텐츠의 세분화 파일과 이들 속성 정보나 URL을 기술한 매니페스트 파일을 작성하여 보유한다.
클라이언트는, 매니페스트 파일을 서버로부터 취득하고, 자 장치의 표시부의 사이즈나 이용 가능한 통신 대역에 따른 최적의 비트 레이트 콘텐츠를 선택하고, 선택 콘텐츠를 수신하여 재생한다. 네트워크 대역의 변동에 따라서 비트 레이트의 동적인 변경도 가능하고, 클라이언트측에서는, 상황에 따른 최적의 콘텐츠를 수시 전환하여 수신하는 것이 가능하게 되어, 영상 도중 끊김의 발생을 저감한 동화상 콘텐츠 재생이 실현된다. 또한, 어댑티브(적응형) 스트리밍에 대해서는, 예를 들어 특허문헌 1(일본 특허 공개 제2011-87103호 공보)에 기재가 있다.
MPEG(Moving Picture Expert Group) 부호화된 동화상이나 음성 데이터를 상기 DASH에 따라서 스트리밍 배신하기 위한 사양을 정한 규격으로서 MPEG-DASH 규격이 있다.
MPEG-DASH 규격에는, 이하의 2개의 규격이 포함된다.
(a) 동화상이나 음성 파일의 관리 정보인 메타데이터를 기술하기 위한 매니페스트 파일(MPD: Media Presentation Description)에 관한 규격.
(b) 동화상 콘텐츠 전송용의 파일 포맷(세그먼트 포맷)에 관한 규격.
MPEG 데이터를 DASH에 따라서 스트리밍 배신하는 경우에는, 이 MPEG-DASH 규격에 따른 처리가 행하여진다.
한편, 방송, 인터넷으로부터의 콘텐츠 배신을 수신하는 클라이언트(수신 장치)에는 대화적 서비스를 행하기 위하여 HTML5 브라우저가 탑재되어, HTML5로 기술된 애플리케이션이 클라이언트에서 실행된다.
상기 어댑티브(적응형) 스트리밍도 HTML5 애플리케이션의 JavaScript(등록 상표)에 의해 제어가 행하여진다.
WWW(World Wide Web) 이용 기술의 국제적 표준화 단체인 W3C(World Wide Web Consortium)는 이것을 위한 API(Application Programming Interface)의 표준 규격으로서, MSE(Media Source Extentions)-API를 규정하고 있다.
이 MSE-API를 이용함으로써, 어댑티브 스트리밍 뿐만 아니라, 애플리케이션이 유저의 속성에 맞춘 광고를 콘텐츠에 삽입하는 것도 가능하다.
그러나, 예를 들어, 텔레비전 등의 클라이언트(수신 장치)가 방송파를 통한 수신 데이터에 네트워크를 통하여 수신하는 데이터를 애플리케이션의 제어에 의해 중첩, 또는 치환하여 출력하고자 하는 경우, 데이터 출력 시간의 지연이 발생한다는 문제가 있다.
이것은, 예를 들어, MSE-API에서는, 애플리케이션이 튜너 수신 데이터와 네트워크 수신 데이터를 처리하고, 또한 합성 처리에 있어서 실행되는 여러가지 데이터 처리의 처리 시간에 기인한다.
또한, 광고 삽입에 있어서 복수의 HTML5 비디오를 타이밍을 맞춰서 중첩 표시하는 경우에도, 애플리케이션의 제어에 의해 방송 프로그램의 영상, 음성과 광고의 영상, 음성의 출력 타이밍을 정확하게 맞추는 것은 어렵다.
이것은, HTML5 브라우저 등의 애플리케이션 실행 환경에서는, 애플리케이션이 1초 이하의 정밀도로 타이밍 맞춤을 하는 리얼타임 처리에 적합하지 않다는 문제에 기인한다.
또한, 방송 시스템의 경우에는, 프로그램 또는 채널마다 서로 다른 애플리케이션을 전환하여 실행하는 것이 일반적이다. 따라서, 애플리케이션이 MSE-API를 이용하여 방송파를 통하여 수신한 영상 음성 데이터와 인터넷의 영상 음성 데이터를 제어하는 경우에는, 프로그램의 전환, 채널의 전환에서 영상, 음성 재생의 연속성이 상실된다는 중대한 문제가 있다.
일본 특허 공개 제2011-87103호 공보
본 개시는, 예를 들어, 상기 문제를 감안하여 이루어진 것이며, 방송파, 또는, 네트워크로부터 수신한 영상 음성 데이터의 합성 처리를 애플리케이션이 행함과 함께, 재생 지연의 감소나, 연속적인 영상이나 음성 데이터의 재생을 가능하게 하는 수신 장치, 송신 장치, 및 데이터 처리 방법을 제공하는 것을 목적으로 한다.
본 개시의 제1 측면은,
수신 장치의 수신 데이터의 버퍼 처리를, 수신 장치가 실행할 애플리케이션의 미디어 재생의 처리 오브젝트인 미디어 소스 오브젝트로서 개시하는 데이터 처리부를 갖는 수신 장치에 있다.
또한, 본 개시의 제2 측면은,
수신 장치에 있어서 이용되는 애플리케이션을 송신하는 통신부를 갖고,
상기 애플리케이션은, 수신 장치에 있어서의 수신 데이터의 버퍼 처리를 개시하는 미디어 소스 오브젝트를 이용하여, 수신 데이터와 애플리케이션의 수신 데이터의 합성 처리를 실행시키는 애플리케이션인 송신 장치에 있다.
또한, 본 개시의 제3 측면은,
수신 장치에 있어서 실행하는 데이터 처리 방법이며,
상기 수신 장치의 데이터 처리부가, 수신 데이터를 수신 장치가 실행할 애플리케이션의 미디어 재생의 처리 오브젝트인 미디어 소스 오브젝트로 설정하는 데이터 처리 방법에 있다.
또한, 본 개시의 제4 측면은,
송신 장치에 있어서 실행하는 데이터 처리 방법이며,
송신 장치의 통신부가, 수신 장치에 있어서 이용되는 애플리케이션을 송신하고,
상기 애플리케이션은, 수신 장치에 있어서의 수신 데이터의 버퍼 처리를 개시하는 미디어 소스 오브젝트를 이용하여, 수신 데이터와 애플리케이션의 수신 데이터의 합성 처리를 실행시키는 애플리케이션인 데이터 처리 방법에 있다.
본 개시의 또 다른 목적, 특징이나 이점은, 후술하는 본 개시의 실시예나 첨부하는 도면에 기초하는 보다 상세한 설명에 의해 밝혀질 것이다. 또한, 본 명세서에 있어서 시스템이란, 복수의 장치의 논리적 집합 구성이며, 각 구성의 장치가 동일 하우징 내에 있는 것에 한정하지는 않는다.
본 개시의 일 실시예 구성에 의하면, 방송 수신 데이터와 네트워크 수신 데이터의 합성 처리를 효율적으로 실행하는 장치, 방법이 실현된다.
구체적으로는, 예를 들어 수신 장치가 통신부를 통하여 수신하는 방송 수신 데이터의 처리를, HTML5 브라우저의 MSEAPI(Application Programming Interface)를 적용하여, 수신 장치가 실행할 애플리케이션의 처리 오브젝트인 미디어 소스 오브젝트로서 애플리케이션이 제어 가능하도록 설정한다. 애플리케이션은, 미디어 소스 오브젝트에 대한 처리로서, 방송 수신 데이터의 미디어 소스 오브젝트를 HTML5의 비디오 오브젝트로 설정하고, 방송 수신 데이터의 영상 음성 재생을 애플리케이션으로부터 제어한다. 애플리케이션은 방송 수신 데이터의 미디어 소스 오브젝트를 이용하여 상기 방송 수신 데이터와, 네트워크를 통하여 수신하는 네트워크 수신 데이터의 합성 처리의 제어를 실행한다. 애플리케이션은, API 적용 처리에 의해 애플리케이션 시간축과 방송 시간축의 시간차에 상당하는 시간 오프셋을 취득하고, 고정밀도, 저지연의 데이터 합성 처리의 제어를 실행한다.
본 구성에 의해, 방송 수신 데이터와 네트워크 수신 데이터의 합성 처리 및 출력 처리를 저지연, 고정밀도로 행하는 것이 가능하게 된다.
또한, 본 명세서에 기재된 효과는 어디까지나 예시이지 한정되는 것은 아니며, 또한 부가적인 효과가 있어도 된다.
도 1은 본 개시의 처리를 실행하는 통신 시스템의 일 구성예에 대하여 설명하는 도면이다.
도 2는 송신 장치의 송신 데이터에 대하여 설명하는 도면이다.
도 3은 송신 장치 및 수신 장치의 프로토콜 스택의 예를 도시하는 도면이다.
도 4는 서비스 워커(SW)를 이용한 처리의 구체예(사용예)에 대하여 설명하는 도면이다.
도 5는 서비스 워커(SW)를 이용한 처리의 구체예(사용예)에 대하여 설명하는 도면이다.
도 6은 서비스 워커(SW)를 이용한 처리의 일례를 설명하는 도면이다.
도 7은 방송 수신 콘텐츠와, 네트워크 수신 콘텐츠의 합성 표시 처리예에 대하여 설명하는 도면이다.
도 8은 방송 수신 콘텐츠와, 네트워크 수신 콘텐츠의 합성 표시 처리예에 대하여 설명하는 도면이다.
도 9는 어댑티브(적응형) 스트리밍에 대하여 설명하는 도면이다.
도 10은 어댑티브(적응형) 스트리밍에 따라서, 여러가지 비트 레이트의 세그먼트를 수신하여 재생하는 수신 장치의 처리 구성예를 도시하는 도면이다.
도 11은 방송파와 네트워크를 통한 2개의 경로의 수신 데이터를 합성하여 출력하는 경우의 처리와, 지연 요인에 대하여 설명하는 도면이다.
도 12는 본 개시의 수신 장치(클라이언트)에 있어서의 합성 처리, 즉 방송파의 수신 데이터의 일부를, 네트워크 수신 데이터로 치환하여 출력하는 처리를 설명하는 도면이다.
도 13은 방송파의 수신 데이터의 일부를, 네트워크 수신 데이터로 치환하여 출력하는 미디어 소스 갱신 처리에 대하여 설명하는 도면이다.
도 14는 수신 장치에 있어서의 데이터 수신 및 합성 처리에 적용하는 하드웨어 구성예에 대하여 설명하는 도면이다.
도 15는 수신 장치가 실행하는 전체적인 처리의 시퀀스를 설명하는 흐름도를 도시하는 도면이다.
도 16은 수신 장치의 애플리케이션이 실행하는 처리의 시퀀스를 설명하는 흐름도를 도시하는 도면이다.
도 17은 수신 장치의 애플리케이션이 실행하는 처리의 시퀀스를 설명하는 흐름도를 도시하는 도면이다.
도 18은 통신 장치인 송신 장치와 수신 장치의 구성예에 대하여 설명하는 도면이다.
도 19는 통신 장치인 송신 장치와 수신 장치의 하드웨어 구성예에 대하여 설명하는 도면이다.
이하, 도면을 참조하면서 본 개시의 수신 장치, 송신 장치, 및 데이터 처리 방법의 상세에 대하여 설명한다. 또한, 설명은 이하의 항목에 따라서 행한다.
1. 통신 시스템의 구성예에 대해서
2. 데이터 통신 프로토콜 FLUTE, 및 ROUTE에 대해서
3. 송신 장치와 수신 장치가 실행하는 통신 처리예에 대해서
4. 서비스 워커(SW)에 대해서
5. 방송파와 네트워크 양쪽의 수신 데이터의 합성 처리에 대해서
6. 방송파와 네트워크 양쪽의 수신 데이터의 합성 처리에 있어서의 지연을 해소 또는 감소시킨 실시예에 대해서
7. 수신 장치에 있어서의 데이터 수신 및 합성 처리에 적용하는 하드웨어 구성예에 대해서
8. 수신 장치가 실행하는 처리의 시퀀스에 대해서
9. 서비스 워커(SW)와 애플리케이션을 이용한 처리예에 대해서
10. 송신 장치와 수신 장치의 구성예에 대해서
11. 본 개시의 구성 정리
[1. 통신 시스템의 구성예에 대해서]
먼저, 도 1을 참조하여 본 개시의 처리를 실행하는 통신 시스템의 일 구성예에 대하여 설명한다.
도 1에 도시한 바와 같이, 통신 시스템(10)은 화상 데이터나 음성 데이터 등의 콘텐츠를 송신하는 통신 장치인 송신 장치(20)와, 송신 장치(20)가 송신하는 콘텐츠를 수신하는 통신 장치인 수신 장치(30)를 갖는다.
송신 장치(20)는 구체적으로는, 예를 들어 방송국(21)이나 콘텐츠 서버(22) 등, 콘텐츠를 제공하는 측의 장치이다.
한편, 수신 장치(30)는 일반 유저의 클라이언트 장치이며, 구체적으로는, 예를 들어 텔레비전(31), PC(32), 휴대 단말기(33) 등으로 구성된다.
송신 장치(20)와 수신 장치(30) 간의 데이터 통신은, 인터넷 등의 네트워크를 통한 쌍방향 통신, 일방향 통신, 또는, 방송파 등에 의한 일방향 통신 중 적어도 어느 하나, 또는 양자를 이용한 통신으로서 행하여진다.
송신 장치(20)로부터 수신 장치(30)에 대한 콘텐츠 송신은, 예를 들어 어댑티브(적응형) 스트리밍 기술의 규격인 MPEG-DASH 규격에 따라서 실행한다.
MPEG-DASH 규격에는, 이하의 2개의 규격이 포함된다.
(a) 동화상이나 음성 파일의 관리 정보인 메타데이터를 기술하기 위한 매니페스트 파일(MPD: MediaPresentationDescription)에 관한 규격,
(b) 동화상 콘텐츠 전송용의 파일 포맷(세그먼트 포맷)에 관한 규격,
송신 장치(20)로부터, 수신 장치(30)에 대한 콘텐츠 배신은, 상기 MPEG-DASH 규격에 따라서 실행한다.
송신 장치(20)는 콘텐츠 데이터를 부호화하고, 부호화 데이터 및 부호화 데이터의 메타데이터를 포함하는 데이터 파일을 생성한다. 부호화 처리는, 예를 들어 MPEG에 있어서 규정되는 MP4파일 포맷에 따라서 행하여진다. 또한, 송신 장치(20)가 MP4 형식의 데이터 파일을 생성하는 경우의 부호화 데이터의 파일은 「mdat」, 메타데이터는 「moov」나 「moof」 등이라 불린다.
송신 장치(20)가 수신 장치(30)에 제공하는 콘텐츠는, 예를 들어 음악 데이터나, 영화, 텔레비전 프로그램, 비디오, 사진, 문서, 회화 및 도표 등의 영상 데이터나, 게임 및 소프트웨어 등, 여러가지 데이터이다.
송신 장치(20)의 송신 데이터에 대하여 도 2를 참조하여 설명한다.
MPEG-DASH 규격에 따라서 데이터 송신을 실행하는 송신 장치(20)는 도 2에 도시한 바와 같이, 크게 나누어서 이하의 복수 종류의 데이터 송신을 행한다.
(a) 시그널링 데이터(50)
(b) AV 세그먼트(60)
(c) 기타 데이터(ESG, NRT 콘텐츠 등)(70)
AV 세그먼트(60)는 수신 장치에 있어서 재생하는 화상(Video)이나, 음성(Audio) 데이터, 즉 예를 들어 방송국의 제공하는 프로그램 콘텐츠 등으로 구성된다. 예를 들어, 상술한 MP4 부호화 데이터(mdat)나, 메타데이터(moov, moof)에 의해 구성된다.
한편, 시그널링 데이터(50)는 프로그램표 등의 프로그램 예정 정보나, 프로그램 취득에 필요한 어드레스 정보(URL 등), 또한 콘텐츠의 재생 처리에 필요한 정보, 예를 들어 코덱 정보(부호화 방식 등) 등을 포함하는 안내 정보, 제어 정보에 의해 구성된다.
수신 장치(30)는 이 시그널링 데이터(50)를 재생 대상으로 되는 프로그램 콘텐츠를 저장한 AV 세그먼트(60)의 수신에 선행하여 수신할 것이 필요해진다.
이 시그널링 데이터(50)는 예를 들어 XML(Extensible Markup Language) 형식의 데이터로서, 스마트폰이나 텔레비전 등의 유저 단말기인 수신 장치(클라이언트)로 송신된다.
전술한 바와 같이, 시그널링 데이터는 수시로 반복 송신된다. 예를 들어 100msec마다 등, 빈번히 반복 송신된다.
이것은, 수신 장치(클라이언트)가, 언제든 바로 시그널링 데이터를 취득하는 것을 가능하게 하기 위해서이다.
클라이언트(수신 장치)는 수시로, 수신 가능한 시그널링 데이터에 기초하여, 필요한 프로그램 콘텐츠의 액세스용 어드레스의 취득이나, 코덱 설정 처리 등, 프로그램 콘텐츠의 수신 및 재생에 필요한 처리를 지체 없이 실행하는 것이 가능하게 된다.
기타 데이터(70)는 예를 들어 ESG(Electronic Service Guide), NRT 콘텐츠 등이 포함된다.
ESG는, 전자 서비스 가이드(Electronic Service Guide)이며, 예를 들어 프로그램표 등의 안내 정보이다.
NRT 콘텐츠는 논리얼타임형의 콘텐츠이다.
NRT 콘텐츠에는, 예를 들어, 클라이언트인 수신 장치(30)의 브라우저 상에서 실행되는 여러가지 애플리케이션 파일, 동화상, 정지 화상 등의 데이터 파일 등이 포함된다.
후술하는 애플리케이션 등의 제어 프로그램으로서 이용되는 서비스 워커(Service Worker)도, NRT 콘텐츠에 포함된다.
도 2에 도시하는 이하의 데이터, 즉,
(a) 시그널링 데이터(50)
(b) AV 세그먼트(60)
(c) 기타 데이터(ESG, NRT 콘텐츠 등)(70)
이들 데이터는, 예를 들어, 데이터 통신 프로토콜: FLUTE(File Delivery over Uni-directional Transport)에 따라서 송신된다.
[2. 데이터 통신 프로토콜 FLUTE, 및 ROUTE에 대해서]
데이터 통신 프로토콜: FLUTE(File Delivery over Uni-directional Transport)는 멀티캐스트에 의해 전송하는 콘텐츠의 세션 관리를 행하는 프로토콜이다.
예를 들어 송신 장치인 서버측에서 생성되는 파일(URL과 버전으로 식별된다)은 FLUTE 프로토콜에 따라서, 수신 장치인 클라이언트로 송신된다.
수신 장치(클라이언트)(30)는, 예를 들어 수신 장치(클라이언트)(30)의 기억부(클라이언트 캐시)에, 수신 파일의 URL 및 버전과 파일을 대응지어서 축적한다.
동일한 URL이면서 버전이 상이한 것은 파일의 내용이 갱신되어 있는 것으로 간주한다. FLUTE 프로토콜은 일방향 파일 전송 제어만을 행함으로써 클라이언트에 있어서의 파일의 선택적인 필터링 기능은 없지만, FLUTE로 전송 제어하는 파일을 그 파일에 관련지어지는 메타데이터를 이용하여, 클라이언트측에서 취사 선택함으로써, 선택적인 필터링을 실현하고, 유저의 기호를 반영한 로컬 캐시를 구성·갱신 관리하는 것이 가능하게 된다.
또한, 메타데이터는, FLUTE 프로토콜에 확장하여 포함시킬 수도 있고, 별도ESG(Electronic Service Guide) 등의 프로토콜로 기술할 수도 있다.
또한, FLUTE는, 당초 멀티캐스트에 있어서의 파일 전송 프로토콜로서 사양화되었다. FLUTE는, FDT와, ALC라 불리는 스케일러블한 파일 오브젝트의 멀티캐스트 프로토콜, 구체적으로는 그 빌딩 블록인 LCT나 FEC 컴포넌트의 조합에 의해 구성된다.
종래의 FLUTE는, 주로 비동기형의 파일 전송에 이용하기 위하여 개발되었지만, 현재, 방송파 및 네트워크를 통한 데이터 배신 시스템에 관한 규격화 단체인 ATSC(Advanced Television System Committee)에 있어서, 브로드캐스트 라이브 스트리밍에도 적용하기 쉽게 하기 위한 확장을 행하고 있다. 이 FLUTE의 확장 사양이 ROUTE(Real-Time Object Delivery over Unidirectional Transport)라 불린다.
방송파 및 네트워크를 통한 데이터 배신 시스템에 관한 규격의 하나로서 현재, 표준화가 진행되고 있는 규격으로서 ATSC(Advanced Television System Committee)3.0이 있다. 이 ATSC3.0은, ROUTE를 종래의 FLUTE 프로토콜로 치환하고, 시그널링 데이터나, ESG, 또는 비동기 파일, 동기형 스트림 등의 송신에 채용한 스택 구성을 규정하고 있다.
[3. 송신 장치와 수신 장치가 실행하는 통신 처리예에 대해서]
이어서, 송신 장치와 수신 장치가 실행하는 통신 처리예에 대하여 설명한다.
도 3은, 송신 장치 및 수신 장치의 프로토콜 스택의 예를 도시하는 도면이다.
도 3에 도시하는 예는, 이하의 2개의 통신 데이터의 처리를 행하기 위한 2개의 프로토콜 스택을 갖는다.
(a) 브로드캐스트(멀티캐스트도 포함한다) 통신(예를 들어 방송형 데이터 배신)
(b) 유니캐스트(브로드밴드) 통신(예를 들어 HTTP형의 클라이언트 서버형 통신)
도 3의 좌측이 (a) 브로드캐스트 통신(예를 들어 방송형 데이터 배신)에 대응하는 프로토콜 스택이다.
도 3의 우측이 (b) 유니캐스트(브로드밴드) 통신(예를 들어 HTTP형의 클라이언트 서버형 통신)에 대응하는 프로토콜 스택이다.
도 3 좌측에 도시하는 (a) 브로드캐스트 통신(예를 들어 방송형 데이터 배신)에 대응하는 프로토콜 스택은, 하위 레이어로부터 순서대로, 이하의 레이어를 갖는다.
(1) 브로드캐스트 물리 레이어(Broadcast PHY)
(2) IP 멀티캐스트 레이어(IP Multicast)
(3) UDP 레이어
(4) ROUTE(=확장형 FLUTE) 레이어
(5) ESG, NRTcontent, DASH(ISO BMFF) 및 Video/Audio/CC
(6) 애플리케이션 레이어(Applications(HTML5))
또한, (2) IP 멀티캐스트 레이어(IP Multicast)의 상위 레이어로서 Signaling(시그널링) 레이어가 설정된다.
시그널링 레이어는, 앞서 도 2를 참조하여 설명한 시그널링 데이터(50)의 송수신에 적용되는 레이어이다. 시그널링 데이터에는, 프로그램표 등의 프로그램 예정 정보나, 프로그램 취득에 필요한 어드레스 정보(URL 등), 또한 콘텐츠의 재생 처리에 필요한 정보, 예를 들어 코덱 정보(부호화 방식 등) 등을 포함하는 안내 정보, 제어 정보 등이 포함된다.
또한, (1) 브로드캐스트 물리 레이어(Broadcast PHY)의 상위 레이어로서 장래의 새로운 프로토콜의 이용 허용 레이어(Future Extensibility)가 설정되어 있다.
(1) 브로드캐스트 물리 레이어(Broadcast PHY)는 브로드캐스트 통신을 실행하기 위한 예를 들어 방송계의 통신부를 제어하는 통신 제어부에 의해 구성되는 물리 레이어이다.
(2) IP 멀티캐스트 레이어(IP Multicast)는 IP 멀티캐스트에 따른 데이터 송수신 처리를 실행하는 레이어이다.
(3) UDP 레이어는, UDP 패킷의 생성, 해석 처리 레이어이다.
(4) ROUTE 레이어는, 확장형 FLUTE 프로토콜인 ROUTE 프로토콜에 따라서 전송 데이터의 저장이나 취출을 행하는 레이어이다.
ROUTE는, FLUTE와 마찬가지로, ALC라 불리는 스케일러블한 파일 오브젝트의 멀티캐스트 프로토콜이며, 구체적으로는 그 빌딩 블록인 LCT나 FEC 컴포넌트의 조합에 의해 구성된다.
(5) ESG, NRTcontent, DASH(ISO BMFF) 및 Video/Audio/CC는, ROUTE 프로토콜에 따라서 전송되는 데이터이다.
DASH 규격에 따른 동보형 배신 서비스는, MBMS(Multimedia Broadcast Multicast Service)라 불린다. 이 MBMS를 LTE에서 효율적으로 실현시키는 방식으로서 eMBMS(evolved Multimedia Broadcast Multicast Service)가 있다.
MBMS나 eMBMS는, 동보형 배신 서비스이며, 특정한 에어리어 내에 위치하는 수신 장치인 복수의 유저 단말기(UE)에 대하여 공통의 베어러에서 일제히 동일 데이터, 예를 들어 영화 콘텐츠 등을 배신하는 서비스이다. MBMS나 eMBMS에 따른 동보 배신에 의해, 배신 서비스 제공 에어리어에 위치하는 다수의 스마트폰이나 PC, 또는 텔레비전 등의 수신 장치에, 동일한 콘텐츠를 동시에 제공할 수 있다.
MBMS, 및 eMBMS는, 3GPP 파일 포맷(ISO-BMFF 파일, MP4 파일)에 따른 파일을, 전송 프로토콜 ROUTE, 또는 FLUTE에 따라서 다운로드하는 처리에 대하여 규정하고 있다.
앞서 도 2를 참조하여 설명한 이하의 데이터, 즉,
(a) 시그널링 데이터(50)
(b) AV 세그먼트(60)
(c) 기타 데이터(ESG, NTR 콘텐츠 등)(70)
이들 데이터의 대부분은 ROUTE 프로토콜, 또는 FLUTE 프로토콜에 따라서 송신된다.
(5) ESG, NRTcontent, DASH(ISO BMFF) 및 Video/Audio/CC는, ROUTE 프로토콜에 따라서 전송되는 데이터이다.
ESG는, 전자 서비스 가이드(Electronic Service Guide)이며, 예를 들어 프로그램표 등의 안내 정보이다.
NRTcontent는 논리얼타임형의 콘텐츠이다.
전술한 바와 같이, NRT 콘텐츠에는, 예를 들어, 클라이언트인 수신 장치의 브라우저 상에서 실행되는 여러가지 애플리케이션 파일, 동화상, 정지 화상 등의 데이터 파일 등이 포함된다. 또한, 후술하는 애플리케이션 등의 제어 프로그램으로서 이용되는 서비스 워커(Service Worker(SW))도, NRT 콘텐츠에 포함된다.
Video/Audio/CC는, DASH 규격에 따라서 배신되는 비디오나 오디오 등, 재생 대상으로 되는 실제 데이터이다.
(6) 애플리케이션 레이어(Applications(HTML5))는 ROUTE 프로토콜에 따라서 전송할 데이터의 생성, 또는 해석, 기타, 여러가지 데이터의 출력 제어 등을 실행하는 애플리케이션 레이어이며, 예를 들어 HTML5를 적용한 데이터 생성, 해석, 출력 처리 등을 행한다.
한편, 도 3의 우측에 도시하는, (b) 유니캐스트(브로드밴드) 통신(예를 들어 HTTP형의 P2P 통신)에 대응하는 프로토콜 스택은, 하위 레이어로부터 순서대로, 이하의 레이어를 갖는다.
(1) 브로드밴드 물리 레이어(Broadband PHY)
(2) IP 유니캐스트 레이어(IP Unicast)
(3) TCP 레이어
(4) HTTP 레이어
(5) ESG, Signaling, NRTcontent, DASH(ISO BMFF) 및 Video/Audio/CC
(6) 애플리케이션 레이어(Applications(HTML5))
(1) 브로드밴드 물리 레이어(Broadband PHY)는 브로드밴드 통신을 실행하는 예를 들어 네트워크 카드 등의 통신부를 제어하는 디바이스 드라이버 등의 통신 제어부에 의해 구성되는 물리 레이어이다.
(2) IP 유니캐스트 레이어(IP Unicast)는 IP 유니캐스트 송수신 처리를 실행하는 레이어이다.
(3) HTTP 레이어는, HTTP 패킷의 생성, 해석 처리 레이어이다.
이 상위 레이어는, 도 3 좌측의 (a) 브로드캐스트 통신(예를 들어 방송형 데이터 배신)의 스택 구성과 동일하다.
또한, 송신 장치(서버)(20), 수신 장치(클라이언트)(30)는, 도 3의 2개의 처리계, 즉,
(a) 브로드캐스트 통신(예를 들어 방송형 데이터 배신)
(b) 유니캐스트(브로드밴드) 통신(예를 들어 HTTP형의 P2P 통신)
이들 2개의 통신 프로토콜 스택 중 적어도 어느 하나에 따른 처리를 행한다.
도 3에 도시하는 프로토콜 스택에 있어서, ROUTE(FLUTE)에 따라서 멀티캐스트 전송되는 파일군의 속성(파일의 식별자인 URL을 포함한다)은 ROUTE(FLUTE)의 제어 파일 내에 기술할 수 있는가 하면, 파일 전송 세션을 기술하는 시그널링(Signaling) 데이터 중에 기술할 수도 있다. 또한, 파일 전송 세션의 추가적인 상세 속성을 엔드 유저에 대한 제시 용도로도 적용 가능한) ESG에 의해 기술할 수도 있다.
[4. 서비스 워커(SW)에 대해서]
이어서, 송신 장치(서버)(20)가 제공하고, 주로 수신 장치(클라이언트)(30)에 있어서 이용되는 서비스 워커(SW: Service Worker)에 대하여 설명한다.
서비스 워커(SW)는 방송 서버(21)나, 데이터 배신 서버(22) 등의 송신 장치(20)로부터 수신 장치에 제공된다.
서비스 워커(SW)는 수신 장치(클라이언트)(30)에서 실행되는 애플리케이션(=애플리케이션 프로그램)이나, 애플리케이션의 실행 시에 이용되는 데이터 파일 등의 취득 처리나, 기억부(캐시)에 대한 저장 처리, 또한 갱신 처리, 삭제 처리 등을 실행하는 프로그램이다. 구체적으로는, 예를 들어 JavaScript(등록 상표)에 의해 구성된다.
서비스 워커(SW)는 예를 들어 방송 서버(21)나, 데이터 배신 서버(22) 등의 송신 장치(20)가 제공하는 방송 프로그램(방송 콘텐츠)에 대응하여 설정되고, 송신 장치(20)로부터 수신 장치(30)에 제공되는 애플리케이션의 제어 및 관리 프로그램으로서, 수신 장치(30)에 제공된다.
서비스 워커(SW), 애플리케이션, 및 애플리케이션의 실행 시에 이용되는 데이터 파일, 이들은, 예를 들어 앞서 도 2, 도 3을 참조하여 설명한 NRT 콘텐츠(논리얼타임 콘텐츠)로서, 송신 장치(20)로부터 수신 장치(30)에 제공된다.
또는, 방송 프로그램을 배신하는 서버와는 다른 데이터 제공 서버가, 서비스 워커(SW), 애플리케이션, 및 애플리케이션의 실행 시에 이용되는 데이터 파일을 수신 장치(30)에 제공하는 구성으로 해도 된다.
서비스 워커(SW)는 예를 들어, 수신 장치(30)에 있어서 웹페이지 등의 열람 처리를 실행하기 위하여 이용되는 프로그램인 브라우저를 이용하여 정보 표시를 실행하는 애플리케이션의 리소스 관리(취득, 보유, 갱신, 삭제 등) 처리 등을 실행한다.
서비스 워커(SW)를 이용한 처리의 구체예(사용예)에 대해서, 도 4, 도 5를 참조하여 설명한다.
도 4는, 수신 장치(30)가 방송 서버(21) 등의 송신 장치(20)로부터, 어떤 프로그램 콘텐츠를 수신하고, 수신 장치(30)의 표시부에 표시하고 있는 상태를 도시하고 있다.
방송 서버(21) 등의 송신 장치(20)는 프로그램 배신에 아울러, NRT 콘텐츠(논리얼타임 콘텐츠)로서, 날씨 정보를 표시하는 애플리케이션, 및 이 날씨 정보 표시 애플리케이션에 이용되는 여러가지 데이터 파일, 예를 들어 동화상, 정지 화상, 음성 등의 여러가지 데이터를 포함하는 데이터 파일을 수신 장치(30)에 제공한다.
이하에서는, 이들 애플리케이션 및 데이터 파일을 「리소스」라 칭한다.
방송 서버(21)는 또한, 이들 「리소스」를 관리하는 리소스 관리 프로그램으로서, 서비스 워커(SW)도 역시 NRT 콘텐츠(논리얼타임 콘텐츠)로서 수신 장치(30)에 제공한다.
수신 장치(30)는 송신 장치(20)로부터 수신한 「리소스」, 즉 애플리케이션 및 데이터 파일을 이용하여, 도 4에 도시한 바와 같이, 프로그램 표시에 맞춰서, 날씨 정보의 표시를 행할 수 있다.
이러한, 애플리케이션을 이용한 데이터 표시는, 지금까지의 데이터 배신 구성에서는, 애플리케이션의 제공되는 프로그램의 종료와 함께 실행할 수 없게 되어버린다.
이것은, 날씨 정보 표시 애플리케이션 등의 리소스는, 프로그램 수신중에는, 수신 장치(30)에 있어서 이용 가능한 설정, 예를 들어, 일시 기억 캐시에 저장되고, 이용 가능한 상태로 설정되지만, 프로그램 종료, 또는 유저가 채널을 전환하면, 이들 캐시 데이터가 소거, 또는 액세스 불가능한 상태로 설정되어버리기 때문이다.
서비스 워커(SW)는 이러한 프로그램 대응의 애플리케이션이나 데이터를, 프로그램 종료 후나, 채널 전환 후, 또는 방송의 비수신 상태, 네트워크 비접속 상태 등의 오프라인 상태여도 이용 가능하게 하기 위한 리소스 관리 프로그램으로서 기능한다.
도 5에 도시한 바와 같이, 날씨 정보 표시 애플리케이션을, 이 애플리케이션을 제공한 프로그램의 종료 후나, 다른 채널에 전환 후, 또는 데이터 수신을 실행하고 있지 않은 오프라인 상태여도, 이용하는 것이 가능하게 된다. 즉 날씨 정보를 수신 장치(30)의 표시부에 표시하여 열람하는 것이 가능하게 된다.
또한, 날씨 정보 표시 애플리케이션은, 예를 들어 브라우저 상에서 표시되는 프로그램이다.
이 날씨 정보 표시 애플리케이션은, 서비스 워커(SW)의 제어에 의해, 수신 장치(30)의 기억부(영속 캐시)에 저장된다. 예를 들어 유저에 의한 표시 요구 등의 리퀘스트(이벤트)가 있으면, 서비스 워커(SW)의 제어에 의해, 수신 장치(30)의 기억부(영속 캐시)로부터 판독되어, 표시부에 표시된다.
또한, 애플리케이션 등의 리소스를 저장하는 기억부(영속 캐시)는 수신 장치(30)의 전원이 오프가 되어도 저장 데이터가 소거되지 않는 불휘발성 메모리로 하는 것이 바람직하다.
이와 같이, 서비스 워커(SW)를 이용함으로써, 여러가지 프로그램 대응 애플리케이션을, 프로그램의 표시, 비표시와 무관계로 이용하는 것이 가능하게 된다.
또한, 서비스 워커(SW)는 예를 들어 어떤 프로그램 대응의 리소스(애플리케이션, 및 애플리케이션 관련 데이터) 단위마다 설정되고, 리소스와 함께, 또는 리소스 송신에 전후하여 송신 장치(20)로부터 수신 장치(30)에 제공된다.
서비스 워커(SW)는 각 프로그램 대응의 설정으로 할 수도 있지만, 복수 프로그램을 포함하는 특정한 채널 대응의 리소스에 대하여 공통으로 이용 가능하게 한 서비스 워커(SW)를 설정할 수도 있다.
서비스 워커(SW)와, 서비스 워커(SW)에 의해 관리되는 리소스(애플리케이션 및 애플리케이션 관련 데이터)는 수신 장치(30)의 기억부(영속 캐시)에 저장된다.
도 6은, 서비스 워커(SW)를 이용한 처리의 일례를 설명하는 도면이다.
도 6에는, 수신 장치(30)가 송신 장치(20)로부터 리소스로서의 웹페이지(예를 들어 도 4, 도 5에 도시하는 날씨 정보 표시 페이지)를 취득하여 수신 장치(30)의 기억부(영속 캐시)에 저장하여 이용하는 시퀀스의 일례를 도시하고 있다.
또한, 웹페이지는, 소정의 웹페이지 표시 애플리케이션과, 표시용 데이터에 의해 구성되는 리소스를 이용하여 표시된다.
도 6에는, 수신 장치 내 표시 제어부(90)의 구성 요소로서 표시 처리부(91), 서비스 워커(SW)(92), 캐시(기억부)(93)를 도시하고 있다.
스텝 S101 내지 S102는, 수신 장치(30)에 의한 송신 장치(20)에 대한 첫회 억세스 처리에 의한 리소스(웹페이지) 취득 처리이다.
이것은, 예를 들어 방송 서버 등이 송신하는 NRT 콘텐츠로부터 취득된다.
이 취득 처리 후, 표시 처리부(91)에 의해, 웹페이지(95)가 수신 장치(30)의 표시부에 표시된다. 이 표시는, 이 웹페이지를 제공하고 있는 프로그램에 맞춰서 표시되어 있는 상태이며, 앞서 도 3을 참조하여 설명한 표시 상태에 상당한다.
이 표시 기간에 있어서, 예를 들어 유저에 의한 지시로서 리소스(웹페이지)의 등록(인스톨) 요구가 이루어지면, 스텝 S103에 있어서, 서비스 워커(SW)(92)가, 리소스(웹페이지)의 등록(인스톨) 처리를 개시한다.
구체적으로는, 스텝 S104에 도시하는 바와 같이 리소스를 캐시(93)에 전달하고, 기억부(영속 캐시)에 저장하는 처리를 행한다.
그 후, 프로그램 종료 후, 또는 채널 전환 후, 또는 오프라인 설정 상태에 있어서, 스텝 S105에 있어서, 유저가 웹페이지의 열람 요구를 행한다.
서비스 워커(SW)(92)는, 이 열람 요구의 입력을 페치 이벤트로서 검출하고, 페치 이벤트 검출에 따라, 스텝 S106에 있어서, 리소스(웹페이지)를 기억부(영속 캐시)로부터 취득한다.
표시 처리부(91)는 스텝 S107에 있어서, 웹페이지(96)를 표시한다.
이 웹페이지 표시 처리는, 프로그램 종료 후, 또는 채널 전환 후, 또는 오프라인 설정 상태에 있어서의 표시 처리이며, 앞서 도 5를 참조하여 설명한 표시 상태에 상당한다.
이와 같이, 서비스 워커(SW)를 이용함으로써, 여러가지 프로그램 대응 애플리케이션을, 프로그램의 표시, 비표시와 무관계로 이용하는 것이 가능하게 되고, 예를 들어, 프로그램 부속의 표시 정보로서 설정된 웹페이지를 프로그램과 무관계로, 임의의 타이밍에 표시하는 등의 처리가 가능하게 된다.
이와 같이, 서비스 워커(SW)는 예를 들어, 웹페이지, HTML 페이지, JavaScript(등록 상표) 등을 구성 요소로 한 애플리케이션이나, 애플리케이션에 이용되는 데이터 등을 포함하는 리소스의 취득, 보존, 갱신, 삭제 등의, 리소스 관리를 실행한다.
리소스의 보존, 또는 캐시는, 영속적인 캐시이며, 통상의 로컬/일시적인 캐시와는 달리, 애플리케이션이 가동되고 있지 않아도, 데이터가 보존된다.
웹페이지 표시 프로그램인 브라우저에 일종의 프록시 서버가 실장되어, 언제나, 필요할 때에 프록시 서버(영속 캐시)를 액세스하여 웹페이지를 취득하여 표시 가능하게 한 이미지이다.
또한, 서비스 워커(SW) 자체도 영속 캐시에 저장(인스톨)된다. 서비스 워커(SW)가 수신 장치에 인스톨되면, 이 서비스 워커(SW)의 관리 대상으로 하는 리소스에 대해서, 여러가지 제어가 가능하게 된다.
예를 들어, 리소스에의 액세스 리퀘스트(리소스에의 페치 리퀘스트)에 따라, 브라우저측의 처리(로컬 캐시나 네트워크로부터의 리소스의 취득)가 시작되기 전에, 서비스 워커(SW)의 처리가 개시되어, 영속 캐시로부터의 리소스의 제공이 행하여진다.
또한, 서비스 워커(SW)는 JavaScirpt(등록 상표)로 제공되기 때문에, 다양한 수속을 포함시키는 것이 가능하고, 영속 캐시의 리소스의 일부의 갱신 등 캐시 제어에 관한 유연한 처리 기술이 가능하게 되어 있다.
또한, 서비스 워커(SW) 자체도 갱신 가능하다. 서비스 워커(SW)는 송신 장치(20)로부터 제공되는데, 이 서비스 워커(SW)의 헤더 정보(HTTPCache-Control)에 갱신 일시 정보나 갱신 데이터의 액세스 정보 등, 갱신 처리에 필요한 각종 정보가 기록되고, 이 헤더 정보에 기초하여 갱신 처리가 실행된다.
예를 들어, 헤더에 설정된 사용 기한 등에 기초하여, 사용 기한이 되면, 수신 장치(30)는 새로운 버전의 서비스 워커(SW)의 취득 처리를 실행하고, 캐시에 저장된 구 버전의 SW를 치환하는 갱신 처리를 행한다.
[5. 방송파와 네트워크 양쪽의 수신 데이터의 합성 처리에 대해서]
수신 장치(30)는 송신 장치인 방송 서버(21)로부터 방송파를 통하여 프로그램 콘텐츠를 수신하고, 또한, 데이터 배신 서버(22)로부터 네트워크를 통하여 여러가지 콘텐츠를 수신하는 것이 가능하다. 수신 장치(30)는 이들 2개의 통신 경로를 병용하여, 2개의 통신 경로로부터 수신한 데이터를 합성하여 표시할 수 있다.
예를 들어, 수신 장치에 있어서 실행하는 애플리케이션, 예를 들어 상술한 서비스 워커(SW)의 관리 애플리케이션 등, 수신 장치(30)에서 실행되는 애플리케이션을 적용하고, 2개의 통신 경로로부터 수신한 데이터를 합성하는 처리를 실행시키는 것이 가능하게 된다.
예를 들어, 애플리케이션은,
(a) 방송파를 통하여 수신하는 프로그램 콘텐츠
(b) 네트워크를 통하여 수신하는 광고 콘텐츠
이들 2개의 데이터를 합성하여 표시하는 처리를 행한다.
구체적인 처리예에 대하여 도 7, 도 8을 참조하여 설명한다.
도 7에는, 수신 장치(클라이언트)(30)의 표시부에 표시되는 데이터의 시간 경과에 수반하는 추이를 나타내고 있다.
(1) 시간 t0 내지 t1에서는, 방송파를 통하여 수신하는 프로그램 콘텐츠를 표시하고 있다.
(2) 시간 t1 내지 t2에서는, 방송파를 통하여 수신하는 프로그램 콘텐츠에, 네트워크를 통하여 수신하는 광고 콘텐츠를 중첩하여 표시하고 있다.
(3) 시간 t2 내지 t3에서는, 방송파를 통하여 수신하는 프로그램 콘텐츠를 표시하고 있다.
(2)의 시간 t1 내지 t2에 있어서 네트워크를 통하여 수신하는 광고 콘텐츠는, 예를 들어 특정한 지역이나 특정한 유저를 대상으로 한 광고 콘텐츠(타깃 광고)로서 유저에게 제공할 수 있다.
수신 장치(30)가 (2)의 시간 t1 내지 t2에 있어서 네트워크를 통하여 수신하는 광고 콘텐츠는, 수신 장치(30)에 있어서 애플리케이션을 실행하고 있는 경우에 수신 가능한 콘텐츠가 된다.
애플리케이션을 실행하고 있지 않은 수신 장치에서는, 방송파를 통하여 수신하는 데이터만이 표시된다.
도 7에 도시하는 구성은, 시간 t1 내지 t2에 있어서, 방송파의 수신 데이터에 네트워크 수신 데이터를 함께 표시(병렬 표시)하는 예이다. 이 경우에는, 광고 콘텐츠를 프로그램 콘텐츠에 중첩하여 재생하기 위하여 복수의 영상 복호화 장치가 필요하다.
이밖에, 수신 장치(30)의 애플리케이션 처리 형태로서는, 2개의 수신 데이터의 병렬 표시가 아니라, 방송파를 통한 수신 데이터의 일부 기간의 데이터를, 네트워크 수신 데이터에 완전히 치환하여 출력하는 처리도 가능하다. 이 경우에는, 하나의 영상 복호화 장치에서 재생 가능하다.
이 치환 표시예를 도 8에 도시하였다.
(1) 시간 t0 내지 t1에서는, 방송파를 통하여 수신하는 프로그램 콘텐츠를 표시하고 있다.
(2) 시간 t1 내지 t2에서는, 네트워크를 통하여 수신하는 광고 콘텐츠를 표시하고 있다.
(3) 시간 t2 내지 t3에서는, 방송파를 통하여 수신하는 프로그램 콘텐츠를 표시하고 있다.
(2)의 시간 t1 내지 t2에 있어서 네트워크를 통하여 수신하는 광고 콘텐츠는, 예를 들어 특정한 지역이나 특정한 유저를 대상으로 한 광고 콘텐츠(타깃 광고)로서 유저에게 제공할 수 있다.
수신 장치(30)가 (2)의 시간 t1 내지 t2에 있어서 네트워크를 통하여 수신하는 광고 콘텐츠는, 수신 장치(30)가 애플리케이션을 실행하고 있는 경우에 있어서 수신 가능한 콘텐츠가 된다.
애플리케이션을 실행하고 있지 않은 수신 장치에서는, 시간 t1 내지 t2의 사이에, 방송파를 통하여 수신하는 불특정 다수용 광고 콘텐츠를 수신하여 표시하는 설정으로 할 수 있다.
이와 같이, 애플리케이션의 처리에 의해, 방송 수신 데이터와 네트워크 수신 데이터의 합성 표시 처리를 실행할 수 있다.
그러나, 이, 방송 수신 데이터와 네트워크 수신 데이터의 합성 처리의 처리 시간이 길어지면, 재생 지연을 발생시키게 되는 경우가 있다.
특히, 예를 들어 도 8에 도시한 바와 같이, 방송 수신 데이터를 네트워크 수신 데이터로 치환하여 표시하는 경우, 합성 처리에 시간을 요하면, 도 8에 도시하는 시간 t1에 있어서, 광고 표시가 실행되지 않고, 화상이 도중에 끊어져버린다고 하는 사태가 발생할 가능성이 있다.
이하, 이 문제점에 대하여 설명한다.
이 문제점의 설명 전에, 네트워크 상황에 따라서 클라이언트측에서 최적의 비트 레이트의 세그먼트를 선택하여 재생하는 어댑티브(적응형) 스트리밍 처리에 대하여 설명한다.
전술한 바와 같이, 네트워크를 통한 데이터 송신에 있어서는, 네트워크의 폭주 등에 따라, 일정한 비트 레이트에서의 데이터 수신이 곤란해지는 경우가 있다.
이러한 문제를 해결하기 위해서, 복수의 비트 레이트의 데이터 세분화 파일인 세그먼트를 네트워크 상에 송신하고, 네트워크 상황에 따라서 클라이언트측에서 최적의 비트 레이트의 세그먼트를 선택하여 재생하는 어댑티브(적응형) 스트리밍이 제안되어 있다.
수신 장치(30)는 네트워크 수신 데이터에 한하지 않고, 방송 수신 데이터에 대해서도 네트워크 상황이나, 지진의 표시 장치의 해상도 정보에 따라서 최적의 비트 레이트의 데이터를 선택 취득하여 출력 가능한 구성을 갖는다.
또한, 수신 장치(30)는 어떤 비트 레이트의 데이터가 송신되느냐에 관한 정보를, 송신 장치(20)가 제공하는 매니페스트 파일에 기초하여 취득할 수 있다.
도 9는, 어댑티브(적응형) 스트리밍에 대하여 설명하는 도면이다.
데이터 배신 서버(22)는 배신 데이터로서, 예를 들어 라이브 영상을 포함하는 콘텐츠를 배신하는 경우, 미리 복수의 다른 비트 레이트의 데이터를 준비한다.
도면에 도시하는 예에서는,
고비트 레이트(2Mbps) 데이터(101),
중비트 레이트(1.5Mbps) 데이터(102),
저비트 레이트(1Mbps) 데이터(103),
이들 데이터를 배신 데이터로 한다.
이들 데이터는 세분화된 데이터인 세그먼트 단위에서 네트워크를 통하여 수신 장치(30)에 제공된다. A1 내지 An, B1 내지 Bn, C1 내지 Cn의 각각이 세그먼트 데이터이다.
A1, B1, C1은 모두 동일 씬의 데이터이며, 비트 레이트가 서로 다른 데이터(세그먼트)로서 구성되어 있다.
각 세그먼트는, 하나의 세그먼트 단위로 복호 가능한 데이터, 예를 들어 MP4 파일을 포함하는 세그먼트이다.
또한, 세그먼트의 속성 정보나 URL을 기술한 매니페스트 파일(104)을 네트워크를 통하여 수신 장치(30)에 제공한다.
수신 장치(클라이언트)(30)는, 매니페스트 파일(104)을 서버로부터 취득하고, 자 장치의 표시부의 사이즈나 이용 가능한 통신 대역에 따른 최적의 비트 레이트 데이터(세그먼트)를 선택하고, 선택 데이터를 수신하여 재생한다. 네트워크 대역의 변동에 따라서 비트 레이트의 동적인 변경도 가능하고, 클라이언트측에서는, 상황에 따른 최적의 데이터를 수시 전환하여 수신하는 것이 가능하게 되어, 영상 도중 끊김의 발생을 저감한 동화상 콘텐츠 재생이 실현된다.
도면에 도시하는 재생 데이터(105)가 수신 장치(30)에 있어서의 재생 데이터이며, 여러가지 비트 레이트의 데이터(세그먼트)가 혼재하여 재생된다.
예를 들어, 도 7, 도 8을 참조하여 설명한 광고 콘텐츠도 이러한 세그먼트 데이터의 조합에 의해 구성된다.
도 10은, 어댑티브(적응형) 스트리밍에 따라서, 여러가지 비트 레이트의 세그먼트를 수신하여 재생하는 수신 장치(30)의 처리 구성예를 도시하는 도면이다.
도 10에 도시하는 구성은, 예를 들어 수신 장치(30)에 있어서 실행되는 브라우저에 의해 이용되는 API(Application Programming Interface)로서 실장 가능한 MSE(Media Source Extentions)-API의 처리 구성이다.
미디어 소스(110)는 예를 들어 외부 서버로부터 수신하는 재생 대상 데이터를 나타내는 오브젝트이다. 이 오브젝트에는, 복수의 비트 레이트의 세그먼트 데이터가 포함된다.
또한, 오브젝트란, 애플리케이션에 의한 처리나 액세스가 가능한 요소를 의미하고, 수신 장치(30)가 수신하는 데이터나, 기억부에 저장되는 데이터, 또는 수신 장치의 기억부나 통신부 등의 하드웨어가 오브젝트로 설정 가능한 요소가 된다.
미디어 소스(110)는 예를 들어 수신 장치(30)의 기억부에 저장된 비디오나 음성 데이터에 상당한다.
MSE-API는, 미디어 소스(110)를 각각의 비트 레이트의 데이터(세그먼트) 단위로 할당하고, 개별의 소스 버퍼(111 내지 113)를 설정한다.
이들 개별의 소스 버퍼(111 내지 113)는 미디어 소스(110)의 구성 요소이며, 모두 애플리케이션에 의한 처리 대상으로 되는 오브젝트이다.
소스 버퍼(111)는 비디오 데이터와 2ch 오디오 데이터의 각 세그먼트를 포함하는 데이터의 소스 버퍼이다.
소스 버퍼(112)는 비디오 데이터만, 소스 버퍼(113)는 오디오 데이터만을 저장하는 소스 버퍼이다.
이들 각 데이터는, 각각 재생 시간을 동기시킨 트랙 버퍼(114)에 할당되고, 비디오, 오디오 개별의 디코더(115)에 있어서 디코드 처리가 이루어진 후, 화상 출력부(117), 음성 출력부(116)에 출력된다.
또한, 화상 출력부(117)에는, 어느 하나의 비디오 디코드 결과가 출력되고, 음성 출력부(116)에는 어느 하나의 오디오 디코드 결과가 출력된다.
어느 디코드 결과, 즉 어느 비트 레이트 데이터를 선택하여 출력할지는, 수신 장치(클라이언트)(30)측에 있어서, 네트워크 상황이나 수신 장치의 출력부 기능 등에 따라서 결정할 수 있다.
이와 같이, 수신 장치는, 네트워크를 통하여 수신하는 여러가지 비트 레이트의 데이터를 적절히, 선택하여 출력하는 것이 가능하게 된다.
그러나, 이러한 애플리케이션이 MSE API를 이용하여 네트워크 수신 데이터를 방송파에 합성하여 출력하는 처리에 시간을 요하면 합성 화상의 출력에 지연이 발생하는 경우가 있다.
지연의 구체적 요인으로서는, 예를 들어 이하와 같은 요인이 있다고 생각된다.
(A) 라이브 방송에서의 재생 지연의 요인
합성 처리를 실행하는 애플리케이션은, 방송파에 의해 송신되는 방송 스트림을, XHR(XMLHttpRequest)에 의해 세그먼트 단위로 읽어들인다. 읽어들이기 세그먼트는, 도 10을 참조하여 설명한 네트워크 경유의 수신 세그먼트의 저장 영역을 상정한 오브젝트로서의 소스 버퍼에 추가(Append)한다. 이 일련의 처리에 의해 지연이 발생한다.
(B) 프로그램 전환 시, 채널 전환 시에 있어서의 지연
합성 처리를 실행하는 애플리케이션은, 프로그램 단위, 또는 채널 단위로 설정되어 있고, 프로그램 전환 시, 채널 전환 시에는 애플리케이션도 전환할 필요가 있다. 이 전환 처리에 의해 지연이 발생하고, 또한, 연속하여 재생되지 못하고 영상이 정지하거나 흑색 화상이 삽입되는 문제가 있다.
이와 같이, 애플리케이션이 네트워크 수신 데이터를 방송파에 합성하여 출력하는 경우에는 상기와 같은 문제가 있다.
도 11을 참조하여, 방송파와 네트워크를 통한 2개의 경로의 수신 데이터를 합성하여 출력하는 처리와, 지연 요인에 대하여 설명한다.
또한, 이하에서는, 방송파의 수신 데이터의 일부를 네트워크 수신 데이터로 치환하여 출력하는 경우의 처리예에 대하여 설명한다. 즉, 도 8을 참조하여 설명한 바와 같이, 방송 수신 데이터의 일부 기간의 데이터를 네트워크 수신 데이터로 치환하여 출력하는 처리예에 대하여 설명한다.
도 11은, 수신 장치(클라이언트)(30)에 있어서의 합성 처리, 즉 방송 수신 데이터의 일부를, 네트워크 수신 데이터로 치환하여 출력하는 처리를 설명하는 도면이다.
수신 장치(클라이언트)(30)는, 방송 서버(21)로부터의 방송파를, 안테나(131)를 통하여 수신한다.
또한, 데이터 배신 서버(22)로부터 데이터 수신을 행한다.
안테나(131)를 통하여 수신하는 데이터를 방송 수신 세그먼트(125),
데이터 배신 서버(22)로부터의 수신 데이터를 네트워크 수신 세그먼트(126)로 한다.
방송 수신 세그먼트(125)는 예를 들어 영화 등의 프로그램 콘텐츠이며, 네트워크 수신 세그먼트(126)는 프로그램 콘텐츠가 결정된 타이밍에 표시하는 광고 콘텐츠인 것으로 한다.
도면에 도시하는 예에서는, 방송 수신 세그먼트(125)의 일부 세그먼트 a, b, c, d, e, f의 6개의 세그먼트를 도시하고 있다.
한편, 네트워크 수신 세그먼트(126)로서 (c), (d)의 두 세그먼트를 나타내고 있다.
또한, 각 세그먼트는, 각 세그먼트 단위로 복호 가능한 예를 들어 MPEG 압축된 데이터(MP4 데이터)이다.
데이터의 치환은 세그먼트 단위로 실행한다.
네트워크 수신 세그먼트인 2개의 광고 세그먼트 (c), (d)를 방송 수신 세그먼트(125)의 세그먼트 a, b, c, d, e, f 중의 세그먼트 c, d로 치환하여 출력한다.
즉, 수신 장치(30)에 있어서의 출력 콘텐츠를 이하의 세그먼트열로 한다.
a, b, (c), (d), e, f
상기 세그먼트열 중, 세그먼트 a, b, e, f는, 방송 수신 세그먼트이며, 세그먼트 (c), (d)는 네트워크 수신 세그먼트이다.
수신 장치(30)는 브라우저(HTML5 브라우저)(140)를 갖고, 브라우저(140) 상에서 애플리케이션(Web application(JavaScript(등록 상표))(142)을 실행한다.
애플리케이션(142)은 예를 들어 API(앞서 설명한 도 10에 도시하는 MSE-API) 등을 이용한 처리에 의해, 방송 수신 세그먼트(125)와, 네트워크 수신 세그먼트(126)의 합성 처리를 행한다.
방송 수신 세그먼트(125)는 수신 장치에 설정되는 프록시 서버로서의 HTTP 서버(133)에 일단 저장된다.
HTTP 서버(133)에 데이터를 저장함으로써 애플리케이션(142)은 HTTP 서버(133)로부터, XHR(XMLHttpRequest)(141)을 적용하여 세그먼트 단위의 데이터 읽어들이기를 행하는 것이 가능하게 된다.
애플리케이션(142)은 HTTP 서버(133)에 저장된 방송 수신 세그먼트(125)를 XHR(XMLHttpRequest)(141)에 의해 세그먼트 단위로 읽어들인다.
애플리케이션(142)에 의한 세그먼트 읽어들이기에 있어서, 네트워크 수신 세그먼트 (c), (d)에 의해 치환 대상으로 되는 방송 수신 세그먼트 c, d는 읽어들이지 않고, 출력 대상으로 되는 방송 수신 세그먼트 a, b, e, f만 읽어들이는 처리를 행한다.
그 후, 애플리케이션(142)은 읽어들인 방송 수신 세그먼트 a, b, e, f와, 데이터 배신 서버(22)로부터 수신한 방송 수신 세그먼트 (c), (d)를 합성한다.
애플리케이션(142)은 앞서 도 8을 참조하여 설명한 방송파로서 수신하는 프로그램 콘텐츠를 비표시로 하고, 네트워크를 통하여 수신하는 광고 콘텐츠를 프로그램 콘텐츠로 치환한 세그먼트열, 즉,
a, b, (c), (d), e, f
상기 세그먼트열을 생성한다.
애플리케이션(142)은 방송 수신 세그먼트(125)의 일부 세그먼트를 네트워크 수신 세그먼트(126)로 치환한 세그먼트열,
a, b, (c), (d), e, f
상기 세그먼트열을 포함하는 미디어 소스(143)의 생성 처리를 실행한다.
이 미디어 소스(143)는 도 10에 도시하는 미디어 소스(110)에 상당한다.
또한, 도 10에 도시하는 예에서는, 미디어 소스(110)에는 여러가지 비트 레이트의 데이터가 혼재하는 것으로 하여 설명했지만, 도 11에 도시하는 예에서는, 설명을 간략화하기 위해서, 이미 출력 예정인 하나의 비트 레이트가 결정되어 있고, 그 비트 레이트의 세그먼트에 대한 처리를 행하는 것으로 하여 설명한다.
이와 같이, 애플리케이션(142)은 방송 수신 세그먼트(125)의 일부 세그먼트를 네트워크 수신 세그먼트(126)로 치환한 미디어 소스(143)의 생성 처리를 실행한다.
그 후, 미디어 소스(143)는 데이터의 종류에 따라 할당되고, 화상 대응 소스 버퍼(144)와, 음성 대응 소스 버퍼(145)가 생성된다.
화상 대응 소스 버퍼(144)는 화상 디코더(134)에 의해 디코드되어, 화상 표시부(135)에 표시된다.
음성 대응 소스 버퍼(145)는 음성 디코더(136)에 의해 디코드되어, 음성 출력부(137)에 출력된다.
이 결과로서 재생되는 세그먼트가 도면에 도시하는 재생 세그먼트(127)이며, 방송 수신 세그먼트(125)의 일부 세그먼트가 네트워크 수신 세그먼트(126)로 치환되어 재생된다.
예를 들어 도 8에 도시하는 시간 t0 내지 t3의 일련 데이터 표시가 실행된다.
도 11을 참조하여 설명한 애플리케이션(142)에 의해 실행되는 방송 수신 세그먼트(125)와 네트워크 수신 세그먼트(126)의 합성 처리는, 앞서 도 10을 참조하여 설명한 MSE(Media Source Extentions)-API를 이용하여 실행된다.
이 API의 처리 알고리즘은 예를 들어, 이하의 알고리즘이 된다.
<script>
var video=document.getElementById('v');
var mediaSource=new MediaSource();
mediaSource.addEventListener('sourceopen',onSourceOpen.bind(this, video));
video.src=window.URL.createObjectURL(mediaSource);
var videoSourceBuffer=mediaSource.addSourceBuffer('video/mp4;codecs="avc1.4d401f"');
var audioSourceBuffer=mediaSource.addSourceBuffer('audio/mp4;codecs="mp4a.40.2"')
</script>
상기 API의 처리의 개요는 이하와 같다.
(S1) 신규의 미디어 소스(143)를 작성한다.
(S2) 미디어 소스(143) 대응의 비디오 소스 버퍼(144)와, 오디오 소스 버퍼(145)를 추가하고, HTML5의 비디오 오브젝트에 미디어 버퍼를 설정한다.
애플리케이션(142)은 이들 API 처리에 의해 생성된 미디어 소스(143), 비디오 소스 버퍼(144), 오디오 소스 버퍼(145)에 상술한 합성 세그먼트를 설정하는 처리를 행한다.
그러나, 도 11을 참조하여 설명한 세그먼트 합성 처리에 있어서, 문제가 되는 것이 재생 지연이다. 구체적으로는, 예를 들어 네트워크 수신 콘텐츠의 표시 타이밍이, 규정의 시간보다 지연되어버리는 경우가 있다는 것이다. 특히 라이브 이벤트의 프로그램 콘텐츠나 채널 전환의 경우에 이 지연의 문제가 크다.
이것은, 도 11을 참조하여 설명한 일련의 합성 처리에 시간을 요하게 되어버린다는 것이 큰 요인이다.
특히, 이하의 처리의 처리 시간이 지연의 요인으로서 생각된다.
(a) 방송 수신 세그먼트(125)의 HTTP 서버(133)에 대한 저장과, 애플리케이션(142)에 의한 HTTP 서버(133)로부터의 세그먼트 단위의 읽어들이기 처리
(b) 애플리케이션(142)에 의한 미디어 소스(143)에 세그먼트 데이터의 치환이나 추가하는 처리,
이들 일련의 처리가 지연을 발생시키는 큰 요인이라고 생각된다.
(a)의 처리는, 전술한 바와 같이, 방송 수신 세그먼트(125)는 HTTP 서버(133)에 일단, 저장되고, 그 후, 애플리케이션(142)이 HTTP 서버(133)에 저장된 방송 수신 세그먼트(125)를 XHR(XMLHttpRequest)(141)에 의해 세그먼트 단위로 읽어들이는 처리이다.
(b)의 처리는, 애플리케이션(142)이 방송 수신 세그먼트(125)의 일부 세그먼트를 네트워크 수신 세그먼트(126)로 치환하여 미디어 소스(143)를 생성하는 처리이다.
이들 처리에는, 소정의 시간을 요하기 때문에, 재생 지연을 피할 수 없는 상황이 되고 있다고 생각된다.
또한, 애플리케이션(142)은 프로그램 전환이나 채널 전환 시에 전환하는 것이 필요해지는 경우가 많아, 이 애플리케이션 전환 처리 시간이나, 또한 지연을 크게 하는 요인이 된다. HTTP 서버(133) 대신에 WebSocket 서버를 이용하여, 애플리케이션(125)이 Web Socket API에 의해 푸시형의 데이터 송수신을 함으로써 지연을 저감하는 방법도 생각할 수 있지만, 최저라도 하나의 세그먼트를 수신하고, 송신한다는 처리에 요하는 시간은 저감할 수 없다.
[6. 방송파와 네트워크 양쪽의 수신 데이터의 합성 처리에 있어서의 지연을 해소 또는 감소시킨 실시예에 대해서]
이어서, 방송파와 네트워크 양쪽의 수신 데이터의 합성 처리에 있어서의 지연을 해소 또는 감소시킨 실시예에 대하여 설명한다.
도 12는, 본 개시의 수신 장치(클라이언트)(30)에 있어서의 합성 처리, 즉 방송파의 수신 데이터의 일부를, 네트워크 수신 데이터로 치환하여 출력하는 처리를 설명하는 도면이다.
또한, 도 12에 도시하는 처리도 도 11과 마찬가지로, 방송파의 수신 데이터의 일부를 네트워크 수신 데이터로 치환하여 출력하는 경우의 처리, 즉, 도 8을 참조하여 설명한 데이터 치환 처리를 행하는 경우의 처리예이다.
수신 장치(클라이언트)(30)는, 방송 서버(21)로부터의 방송파를, 안테나(131)를 통하여 수신한다.
또한, 데이터 배신 서버(22)로부터 데이터 수신을 행한다.
안테나(131)를 통하여 수신하는 데이터를 방송 수신 세그먼트(125),
데이터 배신 서버(22)로부터의 수신 데이터를 네트워크 수신 세그먼트(126)로 한다.
방송파 세그먼트(125)는 예를 들어 영화 등의 프로그램 콘텐츠이며, 네트워크 수신 세그먼트(126)는 프로그램 콘텐츠가 결정된 타이밍에 표시하는 광고 콘텐츠인 것으로 한다.
도면에 도시하는 예에서는, 방송 수신 세그먼트(125)의 일부 세그먼트 a, b, c, d, e, f의 6개의 세그먼트를 도시하고 있다.
한편, 네트워크 수신 세그먼트(126)로서 (c), (d)의 2개의 세그먼트를 나타내고 있다.
또한, 각 세그먼트는, 각 세그먼트 단위로 복호 가능한 예를 들어 MPEG 압축된 데이터(MP4 데이터)이다.
데이터의 치환은 세그먼트 단위로 실행한다.
네트워크 수신 세그먼트인 2개의 광고 세그먼트 (c), (d)를 방송 수신 세그먼트(125)의 세그먼트 a, b, c, d, e, f 중의 세그먼트 c, d와 치환하여 출력한다.
즉, 수신 장치(30)에 있어서의 출력 콘텐츠를 이하의 세그먼트열로 한다.
a, b, (c), (d), e, f
상기 세그먼트열 중, 세그먼트 a, b, e, f는, 방송 수신 세그먼트이며, 세그먼트 (c), (d)는 네트워크 수신 세그먼트이다.
수신 장치(30)는 브라우저(HTML5 브라우저)(210)를 갖고, 브라우저(210) 상에서 애플리케이션(Web application(JavaScript(등록 상표))(212)을 실행한다.
이 애플리케이션(212)이 방송 수신 세그먼트(125)와, 네트워크 수신 세그먼트(126)의 합성 처리를 행한다.
이 도 12에 도시하는 구성에서는, 방송 수신 세그먼트(125)는 그대로 미디어 소스(213)로서 구성된다.
앞서 도 11을 참조하여 설명한 구성에서는, 방송 수신 세그먼트(125)는 수신 장치에 설정되는 프록시 서버로서의 HTTP 서버(133)에 일단, 저장되고, 그 후, 애플리케이션에 의한 서버로부터의 세그먼트 단위의 판독이 실행되고 있었다.
이 도 12에 도시하는 구성에서는, 방송 수신 세그먼트(125)에 대한 HTTP 서버에 대한 저장 처리나 판독 처리가 실행되지 않고, 방송 수신 세그먼트(125)는 그대로 미디어 소스(213)로서 구성된다.
이 시점에서, 미디어 소스(213)는 도면에 도시하는 세그먼트열(1)과 같이, 방송 수신 세그먼트, a, b, c, d, e, f에 의해 구성된다. 즉, 방송 수신 세그먼트는 애플리케이션(212)이 실행되고 있는지 여부에 관계없이, 화상 디코더, 음성 디코더에 보내져, 재생되고 있다.
그 후, 애플리케이션(212)은 방송파로 전송된 시그널링에 의해 방송의 프로그램에 연동하여 기동되어, 네트워크 수신 세그먼트(126)인 세그먼트 (c), (d)만을 취득하고, 이 네트워크 수신 세그먼트 (c), (d)를 방송 수신 세그먼트, a, b, c, d, e, f만에 의해 구성된 미디어 소스(213)의 일부 세그먼트 c, d와 치환하는 처리를 실행한다.
즉, 애플리케이션(212)은 방송 수신 세그먼트, a, b, c, d, e, f만에 의해 구성된 미디어 소스(1) 갱신 처리를 실행하고, 갱신된 미디어 소스(2), 즉,
a, b, (c), (d), e, f
상기 세그먼트열을 포함하는 미디어 소스(2)가 되도록 제어한다.
이와 같이, 애플리케이션(212)은 방송 수신 세그먼트열만으로 이루어지는 미디어 소스의 구성 세그먼트의 일부를 네트워크 수신 세그먼트로 치환하는 미디어 소스 갱신 처리의 제어를 실행한다.
이 구체적 처리에 대해서는, 후단에서 설명한다.
그 후,
a, b, (c), (d), e, f
상기 세그먼트열을 갖는 미디어 소스(2)(213)는, 데이터의 종류에 따라 할당되고, 화상 대응 소스 버퍼(214)와, 음성 대응 소스 버퍼(215)가 생성된다.
화상 대응 소스 버퍼(214)는 화상 디코더(221)에 의해 디코드되어, 화상 표시부(222)에 표시된다.
음성 대응 소스 버퍼(215)는 음성 디코더(223)에 의해 디코드되어, 음성 출력부(224)에 출력된다.
이 결과로서 재생되는 세그먼트가 도면에 도시하는 재생 세그먼트(225)이며, 방송 수신 세그먼트(125)의 일부 세그먼트가 네트워크 수신 세그먼트(126)로 치환되어 재생된다.
예를 들어 도 8에 도시하는 시간 t0 내지 t3의 일련 데이터 표시가 실행된다.
도 12를 참조하여 설명한 애플리케이션(212)에 의해 실행되는 방송 수신 세그먼트(125)와 네트워크 수신 세그먼트(126)의 합성 처리는, 앞서 도 10을 참조하여 설명한 MSE(Media Source Extentions)-API를 베이스로 하여 개량한 신API(Application Programming Interface)를 이용하여 실행된다.
이 신API의 처리 알고리즘은 예를 들어, 이하의 알고리즘이 된다.
<script>
var video=document.getElementById('v');
var tuner=navigator.tv.currentTuner();
var mediaSource=.tuner.getMediaSource();
mediaSource.addEventListener('sourceopen',onSourceOpen.bind(this,video));
video.src=window.URL.createObjectURL(mediaSource);
var videoSourceBuffer=mediaSource.sourceBuffers[0];
var audioSourceBuffer=mediaSoorce.sourceBuffers[1];
</script>
상기 신API의 처리의 개요는 이하와 같다.
(S1) 통신부(튜너)(202) 수신 세그먼트 저장용의 미디어 소스(213)를 취득하고, 애플리케이션(142)에 의한 참조가 가능한 설정으로 한다.
(S2) 미디어 소스(213) 대응의 비디오 소스 버퍼(214)와, 오디오 소스 버퍼(215)를 취득하고, 애플리케이션(142)에 의한 참조가 가능한 설정으로 한다. 미디어 소스(213)는 HTML5의 비디오 오브젝트로 설정한다.
애플리케이션(142)은 이들 API 처리에 의해 참조 가능하게 된 미디어 소스(212), 비디오 소스 버퍼(214), 오디오 소스 버퍼(215)를 참조하여, 이들 오브젝트에 저장되어 있는 통신부(튜너)(202) 수신 세그먼트에 대하여 네트워크 수신 세그먼트에 의한 세그먼트 치환의 제어를 실행한다.
이와 같이, 애플리케이션(142)은 신API의 처리에 의해 참조 가능하게 된 방송 수신 세그먼트용의 미디어 소스와, 소스 버퍼에 대한 방송 수신 세그먼트의 데이터 저장 상황을 확인하고, 치환 대상인 방송 수신 세그먼트가 버퍼에 저장되어 있음을 확인하면, 광고 콘텐츠의 재생 콘텐츠를 삽입하는 시간 위치의 방송 수신 세그먼트를 네트워크 수신 세그먼트로 치환하는 처리를 실행한다.
도 12를 참조하여 설명한 처리예에서는, 방송 수신 미디어 세그먼트는 애플리케이션으로 처리되지 않기 때문에, 앞서 도 11을 참조하여 설명한 재생 지연의 요인이 해소된다.
즉, 이하의 처리의 처리 시간이 불필요하게 되기 때문에, 처리 지연이 해소된다.
(a) 방송 수신 세그먼트의 HTTP 서버에 대한 저장과, 애플리케이션에 의한 HTTP 서버로부터의 세그먼트 단위의 읽어들이기 처리
(b) 애플리케이션에 의한 미디어 소스에의 방송 수신 세그먼트의 치환이나 추가 처리
도 12를 참조하여 설명한 처리예에서는, 이들 일련의 지연 발생 요인이 되는 처리가 불필요하게 되어, 이 결과 재생 지연을 해소할 수 있다.
도 12에 도시하는 처리 구성에서는, 방송 수신 세그먼트(125)는 그대로 미디어 소스(213)로서 설정되므로, 방송 수신 세그먼트(125)의 HTTP 서버에의 저장 처리나, 애플리케이션에 의한 읽어들이기 처리가 불필요하게 된다. 또한, 애플리케이션에 의한 미디어 소스의 생성 처리도 불필요하게 된다.
또한, 애플리케이션은, 프로그램 전환이나 채널 전환 시에 전환하는 것이 필요해지지만, 방송 수신 세그먼트에 의해 구성되는 미디어 소스는, 애플리케이션 전환과 무관계로 생성되므로 애플리케이션 전환 처리 시간에 따라서, 미디어 소스 생성의 지연이나, 애플리케이션의 전환 시에 방송 세그먼트의 재생이 중단되는 문제는 발생하지 않는다.
도 12에 도시하는 애플리케이션(212)이 실행하는 미디어 소스 갱신 처리의 상세에 대해서, 도 13을 참조하여 밝힌다.
도 13에는, 이하의 세 데이터를 시계열(좌측으로부터 우측으로 시간이 경과)로 나타내고 있다.
(A) 애플리케이션 수신 세그먼트(네트워크 수신 세그먼트)
(B) 튜너 수신 세그먼트(방송 수신 세그먼트)
(C) 디코더 입력 세그먼트(출력 세그먼트)
시간축으로서, 이하의 2개의 시간축을 나타내고 있다.
하단에 방송 시간축(WallClock(UTC))
상단에 HTML5 비디오 오브젝트 시간축(CurrentTime)
방송 시간축(WallClock(UTC))은 방송 서버(21)가 방송파를 통하여 송신하는 데이터의 시간 관리에 적용하는 시간을 나타내는 시간축(수신 영상 음성 재생 시간축)이다.
여기에서는, 소위 실시간 정보에 상당하는 월클럭(WallClock(UTC))을 적용한 예를 나타낸다.
방송파를 통하여 수신하는 방송 수신 세그먼트에는, 방송 시간축(WallClock(UTC))에 따른 타임 스탬프가 설정되어 있다.
한편, HTML5 비디오 시간축(CurrentTime)은 애플리케이션(212)의 처리 시간이나, 애플리케이션(212)에 의한 생성 데이터의 관리용의 시간을 규정한 애플리케이션 시간축(애플리케이션 미디어 재생 시간축)이다.
애플리케이션(212)은 HTML5 비디오 시간축(CurrentTime)에 따라서 처리를 실행한다.
도 13에 있어서, HTML5 비디오 시간축(CurrentTime) 상의 각 시간 t3h 내지 t5h는, HTML5 비디오 시간축(CurrentTime) 상의 시간인 것을 나타내기 위해 (h)를 부기하였다.
이하, 각 시간축에 나타내는 t1 내지 t5, t3h 내지 t5h에 있어서의 처리에 대해서, 순차, 설명한다.
(시간 t1)
먼저, 시간 t1에 있어서, 수신 장치는, 튜너 선국을 행한다. 예를 들어 유저가 선택한 특정한 채널의 프로그램 수신을 개시한다.
튜너에 의한 프로그램 수신의 개시에 맞춰서,
(B) 튜너 수신 세그먼트(방송 수신 세그먼트)가 방송 서버(21)로부터 송신되어, 수신 장치(30)에 있어서 순차, 수신된다.
이 시점에서는, 애플리케이션(212)에 의한 세그먼트의 합성 처리는 개시되어 있지 않고,
(B) 튜너 수신 세그먼트(방송 수신 세그먼트)
는, 그대로,
(C) 디코더 입력 세그먼트(출력 세그먼트)
로서 설정되어, 튜너 수신 세그먼트(방송 수신 세그먼트)가 디코드되어서 출력(표시, 음성 출력)된다.
(시간 t2)
시간 t2에 있어서, 튜너 수신 프로그램에 대응하여 설정된 애플리케이션(HTML5 애플리케이션)(212)이 기동한다.
애플리케이션(212)의 기동은, 예를 들어 튜너 수신 프로그램, 또는 그 메타데이터에 포함되는 트리거 정보에 기초하여 실행된다.
유저에 의한 애플리케이션 기동 지시에 기초하여 기동하는 설정도 가능하다.
(시간 t3(=t3h))
시간 t3은, 시간 t2에 있어서의 애플리케이션 기동 후, 애플리케이션(212)에 의한 처리가 개시 가능하게 된 시간이다.
애플리케이션(212)은 이 처리 가능 개시 시간이, HTML5 비디오 시간축의 기점(currentTime=0)으로 설정되고, HTML5 비디오 시간축의 CurrentTime은 튜너 수신 프로그램의 재생과 함께 갱신된다. .
애플리케이션의 처리 타이밍은, HTML5 비디오 시간(currentTime)에 기초하여 결정된다.
시간 t3(t3h=CurrentTime=0)에 있어서, 애플리케이션(212)은 처리 대상 오브젝트로서 미디어 소스나 소스 버퍼를 확보한다.
이것은, 앞서 도 12를 참조하여 설명한 신API의 처리에 의해 행하여진다. 전술한 바와 같이, 신API의 처리는 이하와 같다.
(S1) 통신부(튜너)(202) 수신 세그먼트 저장용의 미디어 소스(213)를 취득하고, 애플리케이션(142)에 의한 참조가 가능한 설정으로 한다.
(S2) 미디어 소스(213) 대응의 비디오 소스 버퍼(214)와, 오디오 소스 버퍼(215)를 취득하고, 애플리케이션(142)에 의한 참조가 가능한 설정으로 한다.
이들 API 처리에 의해, 애플리케이션(212)은 미디어 소스나 소스 버퍼를 참조하여, 버퍼 상황의 확인에 기초하는 처리가 가능하게 된다.
또한, 도 12에 도시하는 미디어 소스(213), 소스 버퍼(214, 215)는, 애플리케이션(212)에 의한 처리 대상으로 되는 오브젝트이며, 구체적으로는, 수신 장치(30)의 기억부(버퍼)에 저장되는 방송 수신 세그먼트열에 상당한다.
비디오 소스 버퍼(214)는, 수신 장치(30)의 기억부(버퍼)에 저장되는 비디오 데이터만으로 이루어지는 세그먼트열에 상당한다.
오디오 소스 버퍼(215)는, 수신 장치(30)의 기억부(버퍼)에 저장되는 오디오 데이터만으로 이루어지는 세그먼트열에 상당한다.
미디어 소스(213)는 수신 장치(30)의 기억부(버퍼)에 저장되는 비디오 데이터와 오디오 데이터를 포함하는 방송 수신 세그먼트열에 상당한다.
이 시간 t3(=t3h) 이후, 애플리케이션(212)은 미디어 소스(213), 소스 버퍼(214, 215)(기억부 내에 저장되는 방송 수신 세그먼트열)를 참조하여, 여러가지 처리를 행하는 것이 가능하게 된다.
애플리케이션은, 먼저, 시간 t3(=t3h) 이후, 새롭게 미디어 소스(213)에 설정된 튜너 수신 세그먼트, 즉, 수신 장치(30)의 기억부(버퍼)에 새롭게 저장된 방송 수신 세그먼트에 설정된 타임 스탬프를 취득한다.
도면에 도시하는 예에서는, 세그먼트[Seg(tuner1)]가, 시간 t3(=t3h) 이후에 최초로 미디어 소스(213)에 입력한 튜너 수신 세그먼트이다.
애플리케이션(213)은 이 세그먼트[Seg(tuner1)]에 설정된 타임 스탬프를 취득한다.
방송 수신 세그먼트에는, 방송 시간계의 타임 스탬프, 즉 월클럭(WallClock(UTC))에 따른 타임 스탬프가 설정되어 있다.
애플리케이션은, 이 타임 스탬프(WallClock(UTC))를 사용하여, 방송 시간축(WallClock(UTC))과, HTML5 비디오 시간축(currentTime)의 차분(시간 오프셋)인 방송 타임 오프셋(broadcastTimeOffset)을 산출한다.
즉, 시간 t3(=t3h) 이후에 최초로 미디어 소스(213)에 입력한 튜너 수신 세그먼트[Seg(tuner1)]에 설정된 타임 스탬프가 나타내는 시간을, 방송 타임 오프셋(broadcastTimeOffset)으로 한다.
구체예로서, 세그먼트[Seg(tuner1)]에 설정된 타임 스탬프가,
UTC 2014년 10월 3일 오전 7시 3분 40초
였다고 하자.
이 경우, 애플리케이션은, 방송 타임 오프셋(broadcastTimeOffset)을 상기 시간으로 설정한다. 즉,
broadcastTimeOffset=UTC 2014년 10월 3일 오전 7시 3분 40초
로 한다.
이 시간 오프셋은, 방송 시간축(WallClock(UTC))과, HTML5 비디오 시간축(currentTime)의 차분(시간 오프셋)에 상당한다.
즉, 시간 t3(=t3h)에 있어서,
HTML5 비디오 시간: currentTime=0,
방송 시간: WallClock(UTC)=2014년 10월 3일 오전 7시 3분 40초
이며,
시간 오프셋: broadcastTimeOffset=UTC 2014년 10월 3일 오전 7시 3분 40초는, 방송 시간축(WallClock(UTC))과, HTML5 비디오 시간축(currentTime)의 차분(시간 오프셋)에 상당한다.
또한, 상술한 시간 오프셋 산출 처리예는, 애플리케이션(212)의 처리 대상 오브젝트인 미디어 소스, 즉 미디어 소스로서의 기억부에 저장된 방송 수신 세그먼트의 타임 스탬프를 사용하여 산출하는 처리예이며, 전술한 신API(MSE-API)에 의해 미디어 소스로부터 취득하는 데이터를 그대로 이용할 수 있다.
즉, API에 의한 시간 오프셋 정보의 취득 처리로서 실행하는 것이 가능하다.
또한, 시간 오프셋 정보의 취득 처리는, 기타의 오브젝트로부터 취득하는 것도 가능하다. 예를 들어, 미디어 소스 이외의 애플리케이션의 처리 오브젝트로서 설정 가능한 통신부(튜너)(202)나, 비디오 데이터 등의 오브젝트를 통한 오프셋 정보의 취득 또는 산출을 행하는 구성으로 해도 된다.
(시간 t4h)
그 후, 애플리케이션은, 시간 t4h에 있어서, 네트워크를 통한 합성용 세그먼트의 수신을 개시한다. 즉, 방송 수신 세그먼트로 치환하여 출력하기 위한 예를 들어 광고 콘텐츠 등을 포함하는 네트워크 수신 세그먼트의 수신 처리를 개시한다.
또한, 네트워크를 통한 합성용 세그먼트의 수신 개시 시간 t4h는, 네트워크 수신 세그먼트(광고: Ad)의 출력 개시 시간 t5(BroadcastAdStartTime)(=t5h=VideoAdStartTime)로부터 미리 규정한 시간[마진(Margin)] 전의 시간이라 하자.
마진은, 예를 들어, 인터넷을 개재한 데이터 취득에 필요한 시간 등에 따라 결정할 수 있다.
애플리케이션(212)은 네트워크를 통한 합성용 세그먼트의 수신 개시 시간 t4h를, 이하의 식에 의해 산출한다.
t4h=VideoAdStartTimeBefore
=t5h-Margin
=VideoAdStarttime-Margin
=t5-broadcastTimeOffset
=BroadcastAdStartTime-broadcastTimeOffset
또한, 상기 식에 있어서,
t4h:VideoAdStartTimeBefore
t5h:VideoAdStarttime
Margin
이들 시간은, HTML5 비디오 시간축(currentTime)에 따른 시간 정보이다.
t5:BroadcastAdStartTime
이 시간은, 방송 시간축(WallClock(UTC))에 따른 시간 정보이다.
또한, 애플리케이션(212)은 (광고: Ad)의 출력 개시 시간 t5(BroadcastAdStartTime)에 대해서, 콘텐츠(프로그램)의 속성 정보(메타데이터)로부터 취득하는 것이 가능하다.
또한,
broadcastTimeOffset
는, 시간 t3(=t3h)에 있어서 산출한 시간 오프셋이며,
broadcastTimeOffset=UTC 2014년 10월 3일 오전 7시 3분 40초
이다.
애플리케이션(212)은 네트워크를 통한 합성용 세그먼트의 수신 개시 시간 t4h를, 이들 각 데이터를 사용하여 산출한다.
이 시간 t4h 이후, 애플리케이션(212)은 네트워크를 통하여, 네트워크 수신 세그먼트(광고: Ad)를 순차, 수신한다.
도 13에 도시하는 세그먼트 Sa1 내지 Sa5이다.
애플리케이션은, 이들 네트워크 수신 세그먼트 Sa1 내지 Sa5를, 튜너 수신 세그먼트 S1 내지 S5의 위치에 설정하는 처리를 실행한다.
즉, 튜너 수신 세그먼트 S1 내지 S5를 네트워크 수신 세그먼트 Sa1 내지 Sa5로 치환하는 처리를 행한다.
애플리케이션(212)은 전술한 신API(새MSE-API)의 처리에 의해 참조 가능하게 된 미디어 소스(213), 소스 버퍼(214, 215)에 저장된 방송 수신 세그먼트의 저장 상황을 확인하여 세그먼트 치환 처리를 실행한다.
이 세그먼트 치환 처리는, 치환 후의 네트워크 수신 세그먼트의 출력에 맞도록 실행하면 된다.
예를 들어, 네트워크 수신 세그먼트 Sa1은, 튜너 수신 세그먼트 S1의 위치로 치환하여 설정되고, 튜너 수신 세그먼트 S1의 출력 시간(t5)에 출력된다.
따라서, 네트워크 수신 세그먼트 Sa1의 치환 처리는, 광고 개시 시간 t5(=BroadcastAdStartTime=2014년 10월 3일 오전 7시 16분 20초)까지 완료해 두는 것이 필요해진다.
도 13에 도시하는 예에서는, 시간 t5h(=t5)가 광고 개시 시간이다.
이 시간은, 소스 버퍼의 세그먼트(S1)가 출력되는 시간이며, 이 시간(t5)의 타임 스탬프의 설정된 세그먼트(S1)를 치환 대상 세그먼트열의 개시 위치로 하고, 네트워크 수신 세그먼트 Sa1로부터 순차, 치환하면 된다.
애플리케이션은, 이 처리를 위해서, 방송 시간계인 월클럭(WallClock(UTC))에 따른 광고 개시 시간 t5(=BroadcastAdStartTime=2014년 10월 3일 오전 7시 16분 20초)를 애플리케이션의 시간축[HTML5 비디오 시간축(currentTime)]에 있어서의 시간 t5h(VideoAdStartTime)로 변환한다.
변환 처리는 이하의 식에 따라서 실행된다.
t5h(VideoAdStartTime)
=t5-(broadcastTimeOffset)
=(BroadcastAdStartTime)-(broadcastTimeOffset)
=(2014년 10월 3일 오전 7시 16분 20초)-(2014년 10월 3일 오전 7시 3분 40초)
=12분 40초
또한, 상기 식에 있어서,
t5h:VideoAdStarttime
이 시간은, HTML5 비디오 시간축(currentTime)에 따른 시간 정보이다.
t5:BroadcastAdStartTime
이 시간은, 방송 시간축(WallClock(UTC))에 따른 시간 정보이다.
또한, 애플리케이션(212)은 (광고: Ad)의 출력 개시 시간 t5(BroadcastAdStartTime)에 대해서, 콘텐츠(프로그램)의 속성 정보(메타데이터)로부터 취득하는 것이 가능하다.
또한, 기억부(버퍼)에 저장된 방송 수신 세그먼트 S1의 타임 스탬프로부터 취득하는 것도 가능하다.
세그먼트 S1에는 출력 시간을 나타내는 타임 스탬프로서, 방송 시간계인 월클럭(WallClock(UTC))에 따른 광고 개시 시간 t5(=BroadcastAdStartTime=2014년 10월 3일 오전 7시 16분 20초)가 설정되어 있다.
또한, 상기 식에 있어서,
broadcastTimeOffset
은, 시간 t3(=t3h)에 있어서 산출한 시간 오프셋이며,
broadcastTimeOffset=UTC 2014년 10월 3일 오전 7시 3분 40초
이다.
상기 산출식에 의해 산출된
12분 40초
는, HTML5 비디오 시간축에 따른 시간(currentTime), 즉 애플리케이션 기동 시간: t3h=0으로부터의 경과 시간에 상당한다.
애플리케이션은, 이 산출 시간,
currentTime=12분 30초까지, 수신 장치의 기억부(버퍼)에 저장된 방송 수신 세그먼트 S1을 네트워크 수신 세그먼트 Sa1로 치환하는 처리를 실행한다.
애플리케이션은, HTML5 비디오 시간축에 따른 시간(currentTime)에 출력 대상으로서 설정된 소스 버퍼의 방송 수신 세그먼트, 즉 세그먼트 S1을 네트워크 수신 세그먼트 Sa1로 치환하는 처리를 실행한다.
이후의 세그먼트 S2 내지 S5에 대해서도, 각 세그먼트에 설정된 출력 시간을 나타내는 타임 스탬프의 경과 전에 동일한 처리를 실행하고, 네트워크 수신 세그먼트 Sa2 내지 Sa5로 치환하는 처리를 실행한다.
(시간 t5h(=t5))
수신 장치(30)의 기억부에 저장된 방송 수신 세그먼트의 세그먼트 S1 내지 S5는, 애플리케이션(212)의 처리에 의해, 순차, 네트워크 수신 세그먼트 Sa1 내지 Sa5로 치환되고, 광고 개시 시간 t5(=BroadcastAdStartTime=2014년 10월 3일 오전 7시 16분 20초) 이후, 치환 후의 네트워크 수신 세그먼트 Sa1 내지 Sa5가, 순차, 출력된다.
도 13에 도시하는 (c) 디코더 입력 세그먼트는, 치환 후의 세그먼트열을 나타내고 있다. 이 세그먼트열이 디코더에 입력되고, 디코드 처리 후, 표시부 등의 출력부에 출력되게 된다.
이 처리에 의해, 방송파 수신 세그먼트의 일부가 네트워크 수신 세그먼트로 치환되고, 앞서 도 8을 참조하여 설명한 바와 같은 데이터 전환 표시가 가능하게 된다.
즉, 방송 수신 데이터인 프로그램 콘텐츠를, 소정 타이밍에 네트워크 수신 데이터인 광고 콘텐츠로 전환하고, 그 후, 다시, 방송 수신 데이터인 프로그램 콘텐츠로 전환하는 데이터 출력 처리가 가능하게 된다.
시간 t3h 이후, 애플리케이션(212)은 애플리케이션(212)의 참조 가능한 오브젝트로 설정된 도 13의 (B) 튜너 수신 세그먼트, 즉 기억부(버퍼)에 저장된 방송 수신 세그먼트를 참조하여, 버퍼링된 방송 수신 세그먼트의 출력 시간에 상당하는 타임 스탬프를 취득하고, 각각의 타임 스탬프에 이르기 전에, 방송 수신 세그먼트 S1 내지 S5를 네트워크 수신 세그먼트 Sa1 내지 Sa5로 치환하는 처리를 완료시킨다.
기억부(버퍼)에 저장된 방송 수신 세그먼트는, 전술한 신API의 처리에 의해, 애플리케이션(212)에 의한 처리 대상 오브젝트인 미디어 소스(213)나, 소스 버퍼(214, 215)로서 설정되어, 애플리케이션은, 버퍼 상황을 확인하는 것이 가능하다.
애플리케이션(212)은 버퍼링된 방송 수신 세그먼트 S1 내지 S5의 타임 스탬프를 확인하고, 각각의 타임 스탬프 설정 시간까지, 치환 처리를 완료시킨다.
또한, 방송 수신 세그먼트 S1 내지 S5의 타임 스탬프는, 방송 시간축(WallClock(UTC))에 따른 시간 정보이다.
애플리케이션(212)은 타임 스탬프 설정 시간을, 전술한 시간(t3h)에 있어서 산출한 시간 오프셋: broadcastTimeOffset=UTC 2014년 10월 3일 오전 7시 3분 40초를 고려하여, HTML5 비디오 시간축(currentTime)에 따른 시간 정보로 변환한다.
이 변환 처리에 의해, 생성한 시간에 기초하여, 각 세그먼트의 치환 처리를 각 세그먼트의 출력 개시 시간까지 완료시킨다.
이와 같이, 애플리케이션(212)은 수신 장치(30)의 기억부(버퍼)에 저장된 방송 수신 세그먼트의 일부를 네트워크 수신 세그먼트에 의해 치환하는 미디어 소스 갱신 처리를 실행한다.
이 처리에 의해, 방송파 수신 세그먼트의 일부가 네트워크 수신 세그먼트로 치환되고, 앞서 도 8을 참조하여 설명한 바와 같은 데이터 전환 표시가 가능하게 된다.
즉, 방송 수신 데이터인 프로그램 콘텐츠를, 소정 타이밍에 네트워크 수신 데이터인 광고 콘텐츠로 전환하고, 그 후, 다시, 방송 수신 데이터인 프로그램 콘텐츠로 전환하는 데이터 출력 처리가 가능하게 된다.
이 실시예에서는, 튜너 수신 세그먼트는, HTTP 서버에의 저장, 판독 처리가 행하여지지 않고, 직접, 애플리케이션(212)의 처리 대상 오브젝트로서의 소스 버퍼로서 설정된다.
애플리케이션(212)은 소스 버퍼의 세그먼트 치환을 수반하는 소스 버퍼 갱신 처리에 의해, 방송파 수신 세그먼트만으로 이루어지는 소스 버퍼의 일부 세그먼트를, 네트워크 수신 세그먼트로 치환한다.
이 소스 버퍼 갱신 처리는, HTTP 서버에 대한 데이터 저장, 판독 처리에 비하여 극히 단시간의 처리로 하여 실행하는 것이 가능하고, 치환된 세그먼트의 출력을 지연 없이 실행하는 것이 가능하게 된다.
[7. 수신 장치에 있어서의 데이터 수신 및 합성 처리에 적용하는 하드웨어 구성예에 대해서]
이어서, 도 14를 참조하여 수신 장치에 있어서의 데이터 수신 및 합성 처리에 적용하는 하드웨어 구성예에 대하여 설명한다.
도 14에는, 수신 장치(30)에 있어서 실행하는 이하의 처리, 즉,
(a) 네트워크 및 방송파를 통한 데이터 수신 처리,
(b) 수신 데이터에 기초하는 데이터 합성 처리(세그먼트 합성 처리)를 실행하여 표시부 등의 출력부에 출력하는 데이터의 생성 처리,
이들 처리를 실행하는 수신 장치(30)의 하드웨어 구성예를 도시하는 도면이다.
도 14에 도시한 바와 같이, 수신 장치(30)는
방송 수신 데이터 처리부(310), 네트워크 수신 데이터 처리부(330), 또한. 메타데이터(시그널링) 처리부(321), 버퍼 관리부(322), 합성부(341)를 갖는다.
방송 수신 데이터 처리부(310)는 튜너(311), 기억부(버퍼)(312), 디코더 앤드 렌더러(313)를 갖는다.
또한, 네트워크 수신 데이터 처리부(330)는 네트워크 I/F(331), HT 애플리케이션 실행부(HTML5 브라우저)(332), 그래픽 시스템(HTML 페이지 출력부)(333)을 갖는다.
방송파를 통하여 송신되는 데이터는, 안테나를 통하여 방송 수신 데이터 처리부(310)의 튜너(311)에 의해 수신된다. 수신 데이터는, 기억부(버퍼)(312)에 저장된 후, 디코더 앤드 렌더러(313)에 있어서, 디코드 처리 및 묘화 처리가 이루어지고, 합성부(341)에 있어서, 네트워크 수신 데이터 처리부가 생성하는 HTML 페이지와의 합성 처리가 이루어져서 합성 화상의 출력이 실행된다.
네트워크를 통하여 송신되는 데이터는, 네트워크 수신 데이터 처리부(330)의 네트워크 I/F(331)에 의해 수신된다. 수신 데이터는, 애플리케이션 실행부(332)에 전달되어, 필요에 따라, 전술한 방송 수신 세그먼트와의 합성 처리가 행하여진다.
애플리케이션 실행부(332)가 생성한 데이터가, 그래픽 시스템(HTML 페이지 생성부)(333)에 전달되어, 생성된 HTML 페이지가 합성부(341)에 출력된다.
합성부(341)에 있어서, 방송 수신 데이터 처리부가 생성한 출력 데이터와의 합성 처리가 이루어져서 합성 화상의 출력이 실행된다.
여기서, 애플리케이션 실행부(332)가 전술한 방송 수신 세그먼트와 네트워크 수신 세그먼트의 합성 처리를 행하는 경우의 처리예에 대하여 설명한다.
방송 수신 세그먼트는, 모두 기억부(버퍼)(312)에 저장된다.
이 기억부(버퍼)(312)에 저장된 방송 수신 세그먼트의 버퍼 저장 정보는, 버퍼 관리부(322)를 통하여 애플리케이션 실행부(332)가 취득할 수 있다.
기억부(버퍼)(312)의 저장 데이터는, 도 12에 도시하는 애플리케이션(212)의 처리 대상 오브젝트인 미디어 소스(213), 소스 버퍼(214, 215)를 구성하는 데이터이다.
전술한 바와 같이, 애플리케이션(212)은 신API의 처리에 의해, 기억부(버퍼)(312)의 저장 데이터를 참조하는 것이 가능하게 된다.
도 14에 도시하는 하드웨어 구성에서는, 애플리케이션 실행부(332)는 버퍼 관리부(322)를 통하여 버퍼 정보를 취득하는 처리를 실행한다.
또한, 애플리케이션 실행부(332)는 튜너(311)를 통하여 수신되는 각종 메타데이터(시그널링 데이터)를 메타데이터(시그널링) 처리부(321)를 통하여 취득할 수 있다.
이 메타데이터(시그널링)에는, 예를 들어, 앞서 도 13을 참조하여 설명한 광고 개시 시간(t5) 등의 정보가 포함된다.
애플리케이션 실행부(332)는 버퍼 관리부(322)를 통하여 취득하는 버퍼 정보, 예를 들어, 기억부(버퍼)(312)에 저장된 방송 수신 세그먼트의 타임 스탬프 정보 등을 취득하고, 또한, 메타데이터(시그널링) 처리부(321)를 통하여 예를 들어, 앞서 도 13을 참조하여 설명한 광고 개시 시간(t5) 등의 정보를 취득한다.
애플리케이션 실행부(212)는 이들 정보를 적용하여, 앞서 도 13을 참조하여 설명한 세그먼트의 치환 처리, 즉, 기억부(버퍼)(312)에 저장된 방송 수신 세그먼트의 일부를 네트워크 수신 세그먼트로 치환하는 처리를 버퍼 관리부(322)에 지시하여 실행시킨다.
이 하드웨어 구성예에 의하면, 방송 수신 세그먼트의 미디어 소스의 버퍼링 정보는 API로서는 공개되어 있지만, 방송 세그먼트 자체는 소프트웨어로 실장된 브라우저에 전송되는 일은 없고, 방송 수신 데이터 처리부에서 처리되기 때문에 하드웨어화할 수 있어서, 소프트웨어의 부하를 저감할 수 있기 때문에, 고성능 CPU나 대량의 메모리를 요하지 않는 저비용 실장이나 저소비 전력화의 실장이 가능하다.
[8. 수신 장치가 실행하는 처리의 시퀀스에 대해서]
이어서, 도 15 이하에 도시하는 흐름도를 참조하여, 수신 장치(30), 및 도 12에 도시하는 애플리케이션(212)(=도 14에 도시하는 애플리케이션 실행부(332))이 실행하는 처리의 시퀀스에 대하여 설명한다.
먼저, 도 15에 도시하는 흐름도를 참조하여, 수신 장치(30)가 실행하는 전체적인 처리에 관한 시퀀스를 설명한다.
도 15에 도시하는 플로우는, 예를 들어 수신 장치(30)의 기억부에 기억된 프로그램에 따라서, 수신 장치의 프로그램 실행 기능을 갖는 CPU 등을 구비한 데이터 처리부의 제어 하에 실행된다.
이하, 도 15에 도시하는 플로우의 각 스텝의 처리에 대해서, 순차, 설명한다.
(스텝 S201)
먼저, 스텝 S201에 있어서, 수신 장치(30)측의 유저에 의해 수신 채널의 선택이 이루어지고, 선택된 채널의 콘텐츠(프로그램)의 수신 처리와 재생 처리가 개시된다.
이 콘텐츠는, 방송 서버(21)가 송신하는 방송파로부터 취득된다.
또한, 수신 장치(30)는 콘텐츠(프로그램)의 수신에 맞춰서, 콘텐츠 대응의 애플리케이션이나, 콘텐츠 대응의 여러가지 메타데이터를 수신한다.
(스텝 S202)
이어서, 수신 장치는, 스텝 S101에서 선택되어, 수신, 재생을 개시한 콘텐츠(프로그램)에 대응하여 설정된 애플리케이션을 기동한다. 예를 들어 도 12에 도시하는 애플리케이션(212)이다.
애플리케이션의 기동은, 예를 들어 튜너 수신 프로그램, 또는 그 메타데이터에 포함되는 트리거 정보에 기초하여 실행된다.
유저에 의한 애플리케이션 기동 지시에 기초하여 기동하는 설정으로 해도 된다.
(스텝 S203)
이어서, 수신 장치(30)는 기동한 애플리케이션에 의한 처리를 실행한다. 구체적으로는, 네트워크를 통하여 수신한 광고 콘텐츠 등의 네트워크 수신 데이터를 방송 수신 데이터로 치환하고, 또는 중첩하는 데이터 합성 처리를 실행한다.
이것은, 앞서 도 12 내지 도 14를 참조하여 설명한 처리에 상당한다.
이 스텝 S203의 애플리케이션 처리의 상세 시퀀스에 대해서는, 도 16 내지 도 17에 도시하는 흐름도를 참조하여 후단에서 설명한다.
(스텝 S204 내지 S205)
스텝 S204는, 채널 전환의 유무 판정 처리이다.
채널 전환이 발생하면, 스텝 S205로 진행하여, 프로그램 연동의 애플리케이션은 종료된다. 애플리케이션 종료 후, 스텝 S201로 복귀되고, 전환 후의 채널 대응의 콘텐츠(프로그램)의 수신, 재생 처리를 개시한다.
한편, 스텝 S204에 있어서 채널 전환 없음의 판정의 경우에는, 스텝 S206으로 진행한다. 기타, 채널 전환이 발생하지 않은 경우에도, 앞서 나타낸 바와 같이 수신 프로그램의 메타데이터에 포함되는 트리거 정보에 기초하여, 별도의 애플리케이션이 기동되는 경우도 있다.
(스텝 S206 내지 S207)
스텝 S206은, 유저에 의한 수신 장치(30)의 전원 오프 동작이 이루어졌는지 여부의 판정 처리이다.
전원이 오프된 경우, 스텝 S207로 진행하여, 콘텐츠 수신, 재생을 종료한다. 아울러 애플리케이션의 처리도 종료된다.
한편, 전원이 오프되지 않은 경우에는, 스텝 S203에 있어서의 애플리케이션의 처리를 계속하여 실행한다.
이어서, 스텝 S203에 있어서 실행되는 애플리케이션 처리의 상세 시퀀스에 대해서, 도 16, 도 17에 도시하는 흐름도를 참조하여 설명한다.
도 16의 플로우 스텝 S301로부터, 각 스텝의 처리 상세에 대해서, 순차, 설명한다.
또한, 애플리케이션은, 도 12를 참조하여 설명한 애플리케이션(212)이며, 구체적으로는, 예를 들어 브라우저 상에서 동작하는 HTML5 애플리케이션이다.
(스텝 S301)
먼저, 애플리케이션은, 스텝 S301에 있어서, 애플리케이션의 처리 대상(오브젝트)으로서 HTML5 비디오 오브젝트를 설정한다.
이것은, 방송 수신 데이터와 네트워크 수신 데이터의 합성 처리를 가능하게 하기 위한 준비 처리이며, 애플리케이션이 생성하는 합성 데이터용의 처리 오브젝트로서 HTML5 비디오 데이터를 설정하는 처리이다.
(스텝 S302)
이어서, 애플리케이션은, 스텝 S302에 있어서, 애플리케이션의 처리 대상(오브젝트)으로서 튜너를 설정한다. 도 12에 도시하는 방송 수신 세그먼트(125)를 수신하는 통신부(튜너)(202)이다.
이것도, 방송 수신 데이터와 네트워크 수신 데이터의 합성 처리를 가능하게 하기 위한 준비 처리이며, 방송 수신 데이터를 수신하는 통신부(튜너)(202)를 처리 대상(오브젝트)에 설정하는 처리이다. CurrentTuner라고 기재되어 있는 것은, 수신기가 복수 튜너를 탑재하고 있는 경우, 텔레비전에 표시되고 있는 튜너의 오브젝트를 취득한다는 의미이다. 이 튜너 오브젝트는 애플리케이션이 채널 전환을 지시하는 API로서도 이용된다.
또한, 이 처리는, 전술한 신API를 적용한 처리로서 실행된다.
전술한 신API(MSE-API)가 실행하는 처리 알고리즘 중의 이하의 처리에 상당한다.
tuner=navigator.tv.currentTuner();
(스텝 S303)
이어서, 애플리케이션은, 스텝 S303에 있어서, 스텝 S302에 있어서 처리 대상 오브젝트로 설정한 튜너 오브젝트로부터, 튜너 미디어 소스 오브젝트를 취득한다.
이 처리는, 도면에 도시하는 미디어 소스(213)의 취득 처리에 상당한다.
도 12에 도시하는 통신부(튜너)(202)는, 방송 서버(21)가 송신하는 방송 수신 세그먼트(125)를 수신하고, 수신 세그먼트를 미디어 소스로서 기억부(버퍼)에 저장된 설정이 된다. 단, 하드웨어 구성으로서 도 14에 도시하는 바와 같이, 튜너로부터의 수신 세그먼트는 애플리케이션의 실행부에 관계없이, 기억부(버퍼)(312)에 방송 수신 세그먼트(125)를 저장하고, 디코더 앤드 렌더러(313)를 거쳐서 재생되게 된다.
애플리케이션은, 이 기억부(버퍼)(312)에 저장된 방송 수신 세그먼트의 버퍼링 정보를 제공하는 애플리케이션의 처리 대상 오브젝트인 미디어 소스, 즉, 도 12에 도시하는 미디어 소스(213)로서 취득한다.
또한, 이 처리도, 전술한 신API를 적용한 처리로서 실행된다.
전술한 신API가 실행하는 처리 알고리즘 중의 이하의 처리에 상당한다.
mediaSource=.tuner.getMediaSource();
(스텝 S304)
이어서, 애플리케이션은, 스텝 S304에 있어서, 스텝 S301에 있어서 애플리케이션의 처리 대상 오브젝트로 설정한 HTML5 비디오 오브젝트에, 스텝 S303에서 취득한 튜너 미디어 소스 오브젝트를 설정한다.
즉, 애플리케이션에 의한 합성 처리의 준비 처리로서, 방송 수신 세그먼트만으로 구성되는 미디어 소스를, HTML5 비디오 오브젝트로 설정하는 처리이다.
이것은, 예를 들어, 도 13에 도시하는 (B) 튜너 수신 세그먼트의 세그먼트 S1 등을 포함하는 세그먼트열(=갱신전 미디어 소스)을 HTML5 비디오 오브젝트로 설정하는 처리이다.
또한, 이 처리도, 전술한 신API를 적용한 처리로서 실행된다.
전술한 신API가 실행하는 처리 알고리즘 중의 이하의 처리에 상당한다. 단, 이 처리는 원래의 MSEAPI에서 행하여지는 처리와 동일하다.
video.src=window.URL.createObjectURL(mediaSource);
(스텝 S305)
이어서, 애플리케이션은, 스텝 S305에 있어서, 스텝 S303에서 취득한 튜너 미디어 소스 오브젝트로부터, 방송 시간 오프셋을 취득한다.
이 시간 오프셋 취득 처리는, 앞서 도 13을 참조하여 설명한 방송 타임 오프셋(broadcastTimeOffset)의 취득 처리이다.
튜너 미디어 소스 오브젝트에 포함되는 방송 수신 세그먼트에는, 방송 시간계의 타임 스탬프, 즉 월클럭(WallClock(UTC))에 따른 타임 스탬프가 설정되어 있다.
애플리케이션은, 이 타임 스탬프(WallClock(UTC))를 사용하여, 방송 시간축(WallClock(UTC))과, HTML5 비디오 시간축(currentTime)의 차분(시간 오프셋)인 방송 타임 오프셋(broadcastTimeOffset)을 결정한다.
앞서, 도 13을 참조하여 설명한 바와 같이, 예를 들어, 도 13에 도시하는 세그먼트[Seg(tuner1)]에 설정된 타임 스탬프가,
UTC 2014년 10월 3일 오전 7시 3분 40초
였다고 하자.
이 경우, 애플리케이션은, 방송 타임 오프셋(broadcastTimeOffset)을 상기 시간으로 설정한다. 즉,
broadcastTimeOffset=UTC 2014년 10월 3일 오전 7시 3분 40초
로 한다.
이 시간 오프셋은, 방송 시간축(WallClock(UTC))과, HTML5 비디오 시간축(currentTime)의 차분(시간 오프셋)에 상당한다.
즉, 시간 t3(=t3h)에 있어서,
HTML5 비디오 시간: currentTime=0,
방송 시간: WallClock(UTC)=2014년 10월 3일 오전 7시 3분 40초
이며,
시간 오프셋: broadcastTimeOffset=UTC 2014년 10월 3일 오전 7시 3분 40초는, 방송 시간축(WallClock(UTC))과, HTML5 비디오 시간축(currentTime)의 차분(시간 오프셋)에 상당한다.
또한, 상술한 시간 오프셋 산출 처리예는, 애플리케이션의 처리 대상 오브젝트인 미디어 소스, 즉 미디어 소스로서의 기억부에 저장된 방송 수신 세그먼트의 타임 스탬프를 사용하여 산출하는 처리예이며, 전술한 신API(MSE-API)에 의해 미디어 소스로부터 취득하는 데이터를 그대로 이용할 수 있다.
즉, 이하의 API에 의한 시간 오프셋 정보의 취득 처리로서 실행하는 것이 가능하다.
broadcastTimeOffset=mediaSource.broadcastTimeOffset
또한, 시간 오프셋 정보의 취득 처리는, 기타 오브젝트로부터 취득하는 것도 가능하다. 예를 들어, 이하와 같이 미디어 소스 이외의 애플리케이션의 처리 오브젝트로서 설정 가능한 통신부(튜너)나, 비디오 데이터 등의 오브젝트를 통한 오프셋 정보의 취득 또는 산출을 행하는 구성으로 해도 된다.
broadcastTimeOffset=navigator.tv.currentTuner().broadcastTimeOffset
broadcastTimeOffset=video.broadcastTimeOffset
(스텝 S306)
이어서, 애플리케이션은, 스텝 S306에 있어서, 스텝 S303에서 취득한 튜너 미디어 소스 오브젝트로부터, 비디오, 오디오의 각 소스 버퍼를 취득한다.
비디오 소스 버퍼는, 도 12에 도시하는 소스 버퍼(214)에 상당하고, 오디오 소스 버퍼는, 도 12에 도시하는 소스 버퍼(215)에 상당한다.
이들 소스 버퍼(214, 215)는, 미디어 소스(213)의 일부 구성 요소로 구성되는 오브젝트, 즉 애플리케이션이 처리 가능한 오브젝트이다.
이들은, 수신 장치(30)의 기억부(버퍼)에 저장되는 방송 수신 세그먼트열에 상당한다.
비디오 소스 버퍼(214)는, 도 14에 도시하는 수신 장치(30)의 기억부(버퍼)(312)에 저장되는 비디오 데이터만으로 이루어지는 세그먼트열에 상당한다.
오디오 소스 버퍼(215)는, 수신 장치(30)의 기억부(버퍼)(312)에 저장되는 오디오 데이터만으로 이루어지는 세그먼트열에 상당한다.
미디어 소스(213)는 수신 장치(30)의 기억부(버퍼)(312)에 저장되는 비디오 데이터와 오디오 데이터를 포함하는 방송 수신 세그먼트열에 상당한다.
애플리케이션은, 스텝 S306에 있어서, 스텝 S303에서 취득한 튜너 미디어 소스 오브젝트로부터, 비디오, 오디오의 각 소스 버퍼를 취득한다.
또한, 이 처리도, 전술한 신API를 적용한 처리로서 실행된다.
전술한 신API가 실행하는 처리 알고리즘 중의 이하의 처리에 상당한다. 원래의 MSEAPI에서는 애플리케이션이 신규로 버퍼를 작성하고 있었지만, 신API에서는 튜너 미디어 소스 오브젝트는 방송 수신 데이터에 포함되는 비디오, 오디오의 수나 코덱의 종류에 맞춰서 브라우저에 의해 생성된다.
videoSourceBuffer=mediaSource.sourceBuffers [0];
audioSourceBuffer=mediaSoorce.sourceBuffers [1];
(스텝 S307)
이어서, 애플리케이션은, 스텝 S307에 있어서, 방송파를 통하여 수신하는 메타데이터(시그널링 데이터)로부터, 네트워크 수신 데이터(예를 들어 MP4 광고를 포함하는 세그먼트열)의 삽입의 개시 시간(BroadcastAdStartTime)과, 네트워크 수신 세그먼트 파일의 URL 리스트, 세그먼트 파일의 수를 취득한다.
이것은, 도 14에 도시하는 튜너(311)로부터, 메타데이터(시그널링) 처리부(321)를 통하여 애플리케이션 실행부(332)에 이르는 데이터 경로를 통하여 실행되는 처리이다.
방송 서버(21)는 콘텐츠(프로그램)에 아울러, 여러가지 메타데이터를 시그널링 데이터로서 수신 장치(30)에 제공하고 있고, 수신 장치(30)는 이들 메타데이터를 튜너(도 12의 통신부(튜너)(202)=도 14의 튜너(311))를 통하여 수신한다.
애플리케이션은, 이 메타데이터(시그널링 데이터)로부터, 네트워크 수신 데이터(예를 들어 MP4 광고를 포함하는 세그먼트열)의 삽입의 개시 시간(BroadcastAdStartTime)과, 네트워크 수신 세그먼트 파일의 URL 리스트, 세그먼트 파일의 수를 취득한다. 이들 정보는, MPEGDASH의 매니페스트 파일(MPD: Media Presentation Description)을 사용하여 기술할 수도 있고, 따라서 어댑티브 스트리밍에 의해 콘텐츠 재생할 수도 있다. 또한, 서비스 워커를 사용함으로써, 광고 콘텐츠의 세그먼트를 미리 취득하고, 수신기의 영속적 캐시에 보존해 둠으로써, 네트워크의 대역에 영향받지 않고, 방송 프로그램과 동등한 고화질, 고음질로 광고를 재생하는 것이 가능하다.
또한, 네트워크를 통하여 수신하고, 방송 데이터에 합성하는 콘텐츠에는 여러 종류가 있지만, 예를 들어 광고 데이터의 경우, 제공 지역이나 유저에 따라서 서로 다른 광고로 하는 설정이 가능하다. 소위 타깃 광고의 설정이 가능하게 된다.
이러한 경우, 수신 장치나 유저의 속성에 따라 제공되는 광고 동화상은 서로 다르게 되며, 네트워크 수신 세그먼트 파일의 URL 리스트, 세그먼트 파일의 수 등은, 수신 장치마다 서로 다른 설정이 되는 경우가 있다.
(스텝 S308 내지 S309)
이어서, 애플리케이션은, 스텝 S308에 있어서, 스텝 S301에서 처리 대상으로서 설정하고, 스텝 S304에서 튜너 미디어 소스를 설정한 HTML5 비디오 오브젝트, 즉, 방송 수신 세그먼트만에 의해 구성되는 HTML5 비디오 오브젝트의 커런트타임(currentTime)을 취득한다. 커런트타임(currentTime)은 애플리케이션의 시간축[HTML5 비디오 시간축(currentTime)]에 따른 시간 정보이다.
또한, 스텝 S309에 있어서, 네트워크를 통하여, 네트워크 수신 세그먼트, 예를 들어 광고 콘텐츠를 포함하는 MP4 파일을 저장한 세그먼트의 수신을 개시한다.
이 스텝 S308 내지 S309의 처리는, 앞서 도 13을 참조하여 설명한 시간(t3h 내지 t4h)의 처리에 상당한다.
즉, 앞서 도 13을 참조하여 설명한 바와 같이, 애플리케이션은, 네트워크를 통한 합성용 세그먼트의 수신 개시 시간 t4h를, 이하의 식에 의해 산출한다.
t4h=VideoAdStartTimeBefore
=t5h-Margin
=VideoAdStarttime-Margin
=t5-broadcastTimeOffset
=BroadcastAdStartTime-broadcastTimeOffset
또한, 상기 식에 있어서,
t4h:VideoAdStartTimeBefore
t5h:VideoAdStarttime
Margin
이들 시간은, HTML5 비디오 시간축(currentTime)에 따른 시간 정보이다.
t5:BroadcastAdStartTime
이 시간은, 방송 시간축(WallClock(UTC))에 따른 시간 정보이다.
또한, 애플리케이션은, (광고: Ad)의 출력 개시 시간 t5(BroadcastAdStartTime)를 스텝 S307에 있어서 콘텐츠(프로그램)의 속성 정보(메타데이터)로부터 취득 완료한다.
또한,
broadcastTimeOffset
은, 스텝 S305에 있어서 산출한 시간 오프셋이며,
도 13을 참조하여 설명한 예에서는,
broadcastTimeOffset=UTC 2014년 10월 3일 오전 7시 3분 40초
이다.
애플리케이션은, 네트워크를 통한 합성용 세그먼트의 수신 개시 시간(VideoAdStartTimeBefore), 즉, 도 13에 도시하는 시간 t4h를, 이들 각 데이터를 사용하여 산출한다.
(스텝 S310 내지 S311)
애플리케이션은, 스텝 S310에 있어서, HTML5 비디오 시간축(currentTime)에 따른 시간(currentTime)이 네트워크를 통한 합성용 세그먼트의 수신 개시 시간(VideoAdStartTimeBefore)이 된 것인지 여부를 판정한다.
시간이 되었다고 판정한 경우에는, 스텝 S311로 진행하여, 네트워크를 통한 합성용 세그먼트, 예를 들어 MP4 광고 콘텐츠를 저장한 세그먼트의 수신을 개시한다.
시간이 되지 않은 경우에는, 스텝 S308로 복귀되고, 스텝 S308 내지 S309의 처리를 반복한다.
(스텝 S312)
애플리케이션은, 스텝 S312에 있어서, 스텝 S311에서 네트워크를 통하여 수신한 네트워크 수신 세그먼트(예를 들어 MP4 광고)를 비디오, 오디오의 각 소스 버퍼의 (VideoAdStartTime)의 위치에 추가하는 처리를 행한다.
애플리케이션의 처리 대상 오브젝트로서 설정된 비디오, 오디오의 각 소스 버퍼에 설정된 데이터(세그먼트)는 모두 애플리케이션의 시간축[HTML5 비디오 시간축(currentTime)]에 따른 처리를 행하는 오브젝트로서 설정된다.
네트워크 수신 세그먼트의 추가 위치를 규정하는 (VideoAdStartTime)은 HTML5 비디오 시간축(currentTime)]에 있어서의 시간이다. 이것은, 앞서 도 13을 참조하여 설명한 시간(t5h)에 상당한다.
앞서 도 13을 참조하여 설명한 바와 같이, 시간(t5h=VideoAdStartTime)은 방송 시간계인 월클럭(WallClock(UTC))에 따른 광고 개시 시간 t5(=BroadcastAdStartTime)를 이용하여 산출한다.
산출 처리는 이하의 식에 따라서 실행된다. 도 13을 참조하여 설명한 시간 정보를 적용하여 설명한다.
t5h(VideoAdStartTime)
=t5-(broadcastTimeOffset)
=(BroadcastAdStartTime)-(broadcastTimeOffset)
=(2014년 10월 3일 오전 7시 16분 20초)-(2014년 10월 3일 오전 7시 3분 40초)
=12분 40초
또한, 상기 식에 있어서,
t5h:VideoAdStarttime
이 시간은, HTML5 비디오 시간축(currentTime)에 따른 시간 정보이다.
t5:BroadcastAdStartTime
이 시간은, 방송 시간축(WallClock(UTC))에 따른 시간 정보이다.
또한, 애플리케이션은, (광고: Ad)의 출력 개시 시간 t5(BroadcastAdStartTime)를 스텝 S307에 있어서, 콘텐츠(프로그램)의 속성 정보(메타데이터)로부터 취득 완료한 것이다.
애플리케이션은, 이와 같이 하여 산출한 HTML5 비디오 시간축(currentTime)에 따른 시간 정보인 광고 개시 시간(VideoAdStartTime)의 시간 위치에, 스텝 S311에서 네트워크를 통하여 수신한 네트워크 수신 세그먼트(예를 들어 MP4 광고)를 추가하는 처리를 행한다. 디코드&렌더러(313)의 처리에 의한 지연 때문에 실제로는 HTML5 비디오의 CurrentTime의 값과 튜너의 미디어 소스의 버퍼에 저장되어 있는 세그먼트의 버퍼 범위를 나타내는 Buffered 프로퍼티에는 이 지연분의 어긋남이 있으므로, 보다 치밀한 타이밍 제어에는 Buffered 프로퍼티의 값을 이용하여, 세그먼트의 치환 처리를 행하는 것이 좋다.
(스텝 S313 내지 S314)
이어서, 애플리케이션은, 스텝 S313에 있어서, 모든 네트워크 수신 세그먼트의 처리를 완료했는지 여부를 판정한다.
처리가 완료되지 않은 경우에는, 스텝 S311로 복귀되고, 미처리 세그먼트에 대하여 스텝 S311 이하의 처리를 실행한다.
모든 세그먼트에 대한 처리가 완료되었다고 판정한 경우에는, 스텝 S314로 진행하고, 다음 네트워크 수신 세그먼트열(예를 들어 다음 광고)의 처리를 위해서, 스텝 S307로 복귀된다.
이상, 애플리케이션이 실행하는 처리의 상세에 대해서, 도 16, 도 17에 도시하는 흐름도를 참조하여 설명하였다.
이들 설명으로부터 이해되는 바와 같이, 애플리케이션은, 도 14에 도시하는 수신 장치(30)의 기억부(버퍼)에 저장된 방송 수신 세그먼트의 일부를 네트워크 수신 세그먼트에 의해 치환하는 미디어 소스 갱신 처리를 실행한다.
이 처리에 의해, 방송파 수신 세그먼트의 일부가 네트워크 수신 세그먼트로 치환되고, 앞서 도 8을 참조하여 설명한 바와 같은 데이터 전환 표시가 가능하게 된다.
즉, 방송 수신 데이터인 프로그램 콘텐츠를, 소정 타이밍에 네트워크 수신 데이터인 광고 콘텐츠로 전환하고, 그 후, 다시, 방송 수신 데이터인 프로그램 콘텐츠로 전환하는 데이터 출력 처리가 가능하게 된다.
본 실시예에서는, 튜너 수신 세그먼트는, 앞서 도 11을 참조하여 설명한 바와 같은 HTTP 서버에의 저장, 판독 처리가 행하여지지 않는다.
본 실시예에서는, 튜너 수신 세그먼트는, 직접, 애플리케이션의 처리 대상 오브젝트인 소스 버퍼로서 설정된다.
애플리케이션은, 소스 버퍼의 세그먼트 치환을 수반하는 소스 버퍼 갱신 처리에 의해, 방송파 수신 세그먼트만으로 이루어지는 소스 버퍼의 일부 세그먼트를, 네트워크 수신 세그먼트로 치환한다.
이 소스 버퍼 갱신 처리는, HTTP 서버에 대한 데이터 저장, 판독 처리에 비하여 극히 단시간의 처리로 하여 실행하는 것이 가능하고, 치환된 세그먼트의 출력을 지연 없이 실행하는 것이 가능하게 된다.
[9. 서비스 워커(SW)와 애플리케이션을 이용한 처리예에 대해서]
상술한 애플리케이션은, 앞서 설명한 서비스 워커(SW)의 관리 애플리케이션으로서 설정하는 것이 가능하게 된다.
서비스 워커(SW)의 관리 애플리케이션으로서 설정함으로써, 애플리케이션은, 애플리케이션의 제공된 콘텐츠(프로그램) 종료 후에도, 수신 장치의 기억부에 저장되고, 다른 프로그램 재생중이나, 네트워크가 접속되지 않은 오프라인 상태여도 임의의 타이밍에 실행하는 것이 가능하게 된다.
서비스 워커(SW)는 예를 들어 방송파나 네트워크를 통하여 송신되는 데이터를 선택적으로 취득하는 처리나, 애플리케이션의 기동 타이밍을 제어하는 처리 등을 실행하는 기능을 갖는다.
이 서비스 워커(SW)와 애플리케이션을 조합함으로써, 예를 들어, 이하와 같은 처리를 행하는 것이 가능하게 된다.
(처리예 1)
애플리케이션이, 유저의 시청 이력을 취득하고, 취득한 시청 이력 정보를 메타데이터로서 서비스 워커(SW)에 통지한다.
서비스 워커(SW)는 메타데이터(시청 이력 정보)에 기초하여, 방송파에 의해 송신되는 여러 종류의 광고 데이터로부터, 유저의 흥미에 적합한 광고를 선택 취득한다.
애플리케이션은, 서비스 워커(SW)가 선택적으로 취득한 광고 콘텐츠의 표시 처리를 실행한다.
이러한 처리를 행함으로써, 유저의 흥미에 일치하는 광고를 집중적으로 제공하는 것이 가능하게 된다.
(처리예 2)
서비스 워커(SW)가 사전에 광고 데이터와, 그 출력 시간을 기록한 메타데이터를 취득하고, 수신 장치의 기억부에 저장해 둔다.
애플리케이션은, 수신 장치의 기억부에 저장된 광고 데이터와, 메타데이터를 취득하고, 메타데이터에 기록된 출력 시간에 맞춰서 취득한 광고 데이터를 출력하는 처리를 실행한다.
서비스 워커(SW)와 애플리케이션을 조합함으로써, 예를 들어, 상기와 같은 처리를 행하는 것이 가능하게 된다.
또한, 상술한 실시예에서는, 도 8에 도시된 치환 표시에 의해 광고를 표시하는 예를 나타냈지만, 도 7과 같이 광고 콘텐츠를 중첩하는 경우에도 용이하게 실현하는 것이 가능하다. 중첩 표시하는 경우에는, 방송의 수신 데이터를 저장한 미디어 소스 외에, 중첩하는 네트워크 수신한 데이터를 재생하는 미디어 소스에 2개의 미디어 소스를 이용하고, HTML5의 비디오 오브젝트도 2개 작성하고, 각각의 미디어 소스를 설정한다.
네트워크 수신된 데이터를 재생할 미디어 소스를 통상의 MSE-API로 작성한다. 본 실시예에서 나타낸 바와 같이, 방송 데이터의 미디어 소스가 설정된 HTML5 비디오의 시간축과 방송의 시간축을 맞추는 것은 가능하므로, 네트워크 수신된 데이터를 재생할 HTML5 비디오 시간축을 방송 데이터의 HTML5 비디오의 시간축에 맞출 수 있다면, 방송 시간의 임의의 타이밍에 광고 콘텐츠를 중첩하여 표시시키는 것이 가능하다.
구체적으로는 HTML5의 비디오 오브젝트에는 MediaGroup 프로퍼티가 정의되어 있고, 복수의 비디오 재생을 CurrentTime이 동시에 진행되도록 동기시키는 것이 가능하다. 중첩 표시의 경우에는 도 16에 도시된 설정의 플로우는, 이하에 나타내는 JavaScript(등록 상표)에 따른 처리로서 행해진다.
<script>
var videoTuner=document.getElementById('vTuner');
var tuner=navigator.tv.currentTuner();
var mediaSourceTuner=.tuner.getMediaSource();
mediaSourceTuner.addEventListener('sourceopen',onSourceOpen.bind(this,video));
videoTuner.src=window.URL.createObjectURL(mediaSourceTuner);
var videoSourceBufferTuner=mediaSourceTuner.sourceBuffers[0];
var audioSourceBufferTuner=mediaSourceTuner.sourceBuffers[1];
var videoAd=document.getElementById('vAd');
var mediaSourceAd=new MediaSource();
mediaSourceAd.addEventListener('sourceopen',onSourceOpen.bind(this, video));
videoAd.src=window.URL.createObjectURL(mediaSourceAd);
var videoSourceBufferAd=mediaSourceAd.addSourceBuffer('video/mp4;codecs="avc1.4d401f"');
var audioSourceBufferAd=mediaSourceAd.addSourceBuffer('audio/mp4;codecs="mp4a.40.2"')
videoTuner.mediaGroup="SYNC";
videoAd.mediaGroup="SYNC";
</script>
광고 콘텐츠의 세그먼트 추가 처리는 도 17에 도시된 플로우는 중첩 표시에서도 거의 동일하다. 중첩 표시에서는 애플리케이션은 방송 데이터의 미디어 소스가 아니고, 네트워크의 미디어 소스(mediaSourceAd)의 소스 버퍼(audioSourceBufferAd, videoSourceBufferAd)에 네트워크로부터 수신한 광고의 세그먼트 데이터를 광고 개시 시간의 위치에 삽입하는 것이 다르다.
동일한 MediaGroup 프로퍼티의 값을 갖는 비디오 오브젝트의 CurrentTime은 동기하여 진행하고, 동기하고 있는 어느 MediaSource에 재생 위치의 세그먼트 데이터가 저장되어 있는 경우에는 CurrentTime가 갱신되어 재생이 계속되는 것으로 한다. 이 경우에는 MediaSourceAd의 소스 버퍼에는 광고 구간의 시간 범위만 세그먼트 데이터를 추가하면 된다. 한편, MediaSoucer를 설정하지 않고 HTML5 비디오의 동기를 취하는 경우에는, 서로의 HTML5 비디오 시간축의 동기 시간의 오프셋(예, video.mediaGroupTimeOffset)을 설정하도록 HTML5 비디오를 확장함으로써 실현할 수 있다.
[10. 송신 장치와 수신 장치의 구성예에 대해서]
이어서, 통신 장치인 송신 장치(서버)(20)와, 수신 장치(클라이언트)(30)의 장치 구성예에 대해서, 도 18, 도 19를 참조하여 설명한다.
도 18에는, 송신 장치(서버)(20)와, 수신 장치(클라이언트)(30)의 구성예를 도시하고 있다.
송신 장치(서버)(20)는, 데이터 처리부(751), 통신부(752), 기억부(753)를 갖는다.
수신 장치(클라이언트)(30)는, 데이터 처리부(771), 통신부(772), 기억부(773), 입력부(774), 출력부(775)를 갖는다.
데이터 처리부에는 통신 데이터 처리부(771a), 재생 처리부(771b)가 포함된다.
송신 장치(서버)(20)의 데이터 처리부(751)는 데이터 배신 서비스를 실행하기 위한 각종 데이터 처리를 실행한다. 예를 들어 데이터 배신 서비스의 구성 데이터의 생성이나 송신 제어를 행한다. 또한, 데이터 처리부(751)는 수신 장치(클라이언트)(30)에 제공하는 애플리케이션, 서비스 워커(SW), 기타의 여러가지 데이터나, 시그널링 데이터의 생성, 송신 처리를 행한다.
통신부(752)는 AV 세그먼트 외에, 애플리케이션, 서비스 워커(SW), 기타 여러가지 데이터, 시그널링 데이터 등의 배신 등의 통신 처리를 행한다.
기억부(753)는 배신 대상으로 하는 AV 세그먼트, 애플리케이션, 서비스 워커(SW), 애플리케이션에 의해 이용되는 데이터, 시그널링 데이터 등이 저장된다.
또한, 기억부(753)는 데이터 처리부(751)가 실행하는 데이터 처리의 워크 에어리어로서 이용되고, 또한 각종 파라미터의 기억 영역으로서도 이용된다.
한편, 수신 장치(클라이언트)(30)는, 데이터 처리부(771), 통신부(772), 기억부(773), 입력부(774), 출력부(775)를 갖는다.
통신부(772)는 송신 장치(서버)(20)로부터 배신되는 데이터, 예를 들어 AV 세그먼트나 애플리케이션, 서비스 워커(SW), 애플리케이션에 의해 이용되는 데이터, 시그널링 데이터 등을 수신한다.
데이터 처리부(771)는 통신 데이터 처리부(771a), 재생 처리부(771b)를 갖고, 예를 들어 앞서 설명한 실시예에 따른 처리 등을 실행한다.
구체적으로는, 애플리케이션이나, API, 또한, 서비스 워커(SW)를 이용한 데이터 처리 등을 실행한다.
유저의 지시 커맨드, 예를 들어 채널 선택, 애플리케이션 기동, 인스톨 등의 여러가지 커맨드는 입력부(774)를 통하여 입력된다.
재생 데이터는 표시부나 스피커 등의 출력부(775)에 출력된다.
기억부(773)는 AV 세그먼트, 서비스 워커(SW), 애플리케이션, 애플리케이션에 의해 이용되는 데이터, 시그널링 데이터 등이 저장된다.
또한, 기억부(773)는 데이터 처리부(771)가 실행하는 데이터 처리의 워크 에어리어로서 이용되고, 또한 각종 파라미터의 기억 영역으로서도 이용된다.
도 19는, 송신 장치(20), 수신 장치(30)로서 적용 가능한 통신 장치의 하드웨어 구성예를 도시하고 있다.
CPU(Central Processing Unit)(801)은, ROM(Read Only Memory)(802), 또는 기억부(808)에 기억되어 있는 프로그램에 따라서 각종 처리를 실행하는 데이터 처리부로서 기능한다. 예를 들어, 상술한 실시예에 있어서 설명한 시퀀스에 따른 처리를 실행한다. RAM(Random Access Memory)(803)에는, CPU(801)이 실행하는 프로그램이나 데이터 등이 기억된다. 이들 CPU(801), ROM(802), 및 RAM(803)은, 버스(804)에 의해 서로 접속되어 있다.
CPU(801)은 버스(804)를 통하여 입출력 인터페이스(805)에 접속되고, 입출력 인터페이스(805)에는, 각종 스위치, 키보드, 마우스, 마이크로폰 등을 포함하는 입력부(806), 디스플레이, 스피커 등을 포함하는 출력부(807)가 접속되어 있다. CPU(801)은, 입력부(806)로부터 입력되는 명령에 대응하여 각종 처리를 실행하고, 처리 결과를 예를 들어 출력부(807)에 출력한다.
입출력 인터페이스(805)에 접속되어 있는 기억부(808)는 예를 들어 하드 디스크 등을 포함하고, CPU(801)이 실행하는 프로그램이나 각종 데이터를 기억한다. 통신부(809)는 인터넷이나 로컬 에어리어 네트워크 등의 네트워크를 통한 데이터 통신의 송수신부, 또한 방송파의 송수신부로서 기능하고, 외부의 장치와 통신한다.
입출력 인터페이스(805)에 접속되어 있는 드라이브(810)는 자기 디스크, 광 디스크, 광자기 디스크, 또는 메모리 카드 등의 반도체 메모리 등의 리무버블 미디어(811)를 구동하고, 데이터의 기록 또는 판독을 실행한다.
또한, 데이터의 부호화 또는 복호는, 데이터 처리부로서의 CPU(801)이 처리로 하여 실행 가능한데, 부호화 처리 또는 복호 처리를 실행하기 위한 전용 하드웨어로서의 코덱을 구비한 구성으로 해도 된다.
[11. 본 개시의 구성 정리]
이상, 특정한 실시예를 참조하면서, 본 개시의 실시예에 대하여 자세히 해석해 왔다. 그러나, 본 개시의 요지를 일탈하지 않는 범위에서 당업자가 실시예의 수정이나 대용을 할 수 있음은 자명하다. 즉, 예시라고 하는 형태로 본 발명을 개시해 온 것이며, 한정적으로 해석되어서는 안된다. 본 개시의 요지를 판단하기 위해서는, 특허 청구 범위의 란을 참작해야 한다.
또한, 본 명세서에 있어서 개시한 기술은, 이하와 같은 구성을 취할 수 있다.
(1) 수신 장치의 수신 데이터의 버퍼 처리를, 수신 장치가 실행할 애플리케이션의 미디어 재생의 처리 오브젝트인 미디어 소스 오브젝트로서 개시하는 데이터 처리부를 갖는 수신 장치.
(2) 상기 데이터 처리부는, API(Application Programming Interface)를 적용하여, 상기 수신 데이터를 상기 미디어 소스 오브젝트로 설정하고, 애플리케이션이 상기 버퍼의 상태의 취득이나 버퍼에 저장되어 있는 수신 데이터의 치환, 또는 추가의 처리를 실행하는 (1)에 기재된 수신 장치.
(3) 상기 데이터 처리부는, 상기 애플리케이션에 의한 처리 시간을 규정하는 애플리케이션의 미디어 재생 시간축과, 상기 수신 데이터에 있어서 이용되는 영상 음성 재생 시간축의 시간차에 상당하는 시간 오프셋을 취득하는 (1) 또는 (2)에 기재된 수신 장치.
(4) 상기 데이터 처리부는, 상기 애플리케이션, 또는 상기 API의 적용 처리에 의해, 상기 시간 오프셋을 취득하는 (3)에 기재된 수신 장치.
(5) 상기 애플리케이션은,
상기 미디어 소스 오브젝트에 대한 처리로서, 상기 데이터 처리부에 저장된 수신 데이터와, 애플리케이션 수신 데이터의 합성 처리를 실행하는 (1) 내지 (4) 중 어느 하나에 기재된 수신 장치.
(6) 상기 애플리케이션은,
상기 애플리케이션에 의한 처리 시간을 규정하는 애플리케이션 미디어 재생 시간축과, 상기 수신 데이터에 있어서 이용되는 영상 음성 재생 시간축의 시간차에 상당하는 시간 오프셋을 취득하고, 취득한 시간 오프셋을 이용하여, 상기 수신 데이터에 대한 상기 애플리케이션이 수신한 데이터의 삽입 시간 위치를 결정하는 (5)에 기재된 수신 장치.
(7) 상기 애플리케이션은,
상기 시간 오프셋을 이용하여, 상기 애플리케이션 수신 데이터의 수신 개시 시간을 결정하는 (6)에 기재된 수신 장치.
(8) 상기 애플리케이션은,
상기 수신 데이터를 구성하는 세그먼트를, 상기 애플리케이션 수신 데이터를 구성하는 세그먼트로 치환하는 세그먼트 치환 처리를 실행하는 (5) 내지 (7) 중 어느 하나에 기재된 수신 장치.
(9) 수신 장치에 있어서 이용되는 애플리케이션을 송신하는 통신부를 갖고,
상기 애플리케이션은, 수신 장치에 있어서의 수신 데이터의 버퍼 처리를 개시하는 미디어 소스 오브젝트를 이용하여, 수신 데이터와 애플리케이션의 수신 데이터의 합성 처리를 실행시키는 애플리케이션인 송신 장치.
(10) 상기 애플리케이션을 실행하는 수신 장치는, API(Application Programming Interface)를 적용하여, 상기 수신 데이터를 상기 미디어 소스 오브젝트로 설정하는 처리를 실행하고,
상기 애플리케이션은, 상기 API에 의해 설정된 미디어 소스 오브젝트를 이용한 처리를 실행하는 애플리케이션인 (9)에 기재된 송신 장치.
(11) 수신 장치에 있어서 실행하는 데이터 처리 방법이며,
상기 수신 장치의 데이터 처리부가, 수신 데이터를 수신 장치가 실행할 애플리케이션의 미디어 재생의 처리 오브젝트인 미디어 소스 오브젝트로 설정하는 데이터 처리 방법.
(12) 송신 장치에 있어서 실행하는 데이터 처리 방법이며,
송신 장치의 통신부가, 수신 장치에 있어서 이용되는 애플리케이션을 송신하고,
상기 애플리케이션은, 수신 장치에 있어서의 수신 데이터의 버퍼 처리를 개시하는 미디어 소스 오브젝트를 이용하여, 수신 데이터와 애플리케이션의 수신 데이터의 합성 처리를 실행시키는 애플리케이션인 데이터 처리 방법.
또한, 명세서 중에 있어서 설명한 일련의 처리는 하드웨어, 또는 소프트웨어, 또는 양자의 복합 구성에 의해 실행하는 것이 가능하다. 소프트웨어에 의한 처리를 실행하는 경우에는, 처리 시퀀스를 기록한 프로그램을, 전용의 하드웨어에 내장된 컴퓨터 내의 메모리에 인스톨하여 실행시키거나, 또는, 각종 처리가 실행 가능한 범용 컴퓨터에 프로그램을 인스톨하여 실행시키는 것이 가능하다. 예를 들어, 프로그램은 기록 매체에 미리 기록해 둘 수 있다. 기록 매체부터 컴퓨터에 인스톨하는 외에, LAN(Local Area Network), 인터넷과 같은 네트워크를 통하여 프로그램을 수신하고, 내장한 하드 디스크 등의 기록 매체에 인스톨할 수 있다.
또한, 실시예에 있어서는 방송으로부터 브로드밴드 수신한 프로그램 콘텐츠의 세그먼트에 네트워크로부터 수신한 광고 콘텐츠의 세그먼트로 치환하는 것을 나타냈지만, 수신 경로에 대해서는 한정하는 것은 아니고, 프로그램 콘텐츠, 광고 콘텐츠의 양쪽을 네트워크 경유로 수신하는 경우, 또는, 양쪽을 방송 경유로 수신하는 경우에도 적응하는 것이 가능하다.
또한, 명세서에 기재된 각종 처리는, 기재에 따라서 시계열로 실행될 뿐만 아니라, 처리를 실행하는 장치의 처리 능력 또는 필요에 따라 병렬적으로 또는 개별로 실행되어도 된다. 또한, 본 명세서에 있어서 시스템이란, 복수의 장치의 논리적 집합 구성이며, 각 구성의 장치가 동일 하우징 내에 있는 것에 한정하지는 않는다.
이상, 설명한 바와 같이, 본 개시의 일 실시예 구성에 의하면, 방송 수신 데이터와 네트워크 수신 데이터의 합성 처리를 효율적으로 실행하는 장치, 방법이 실현된다.
구체적으로는, 예를 들어 수신 장치가 통신부를 통하여 수신하는 방송 수신 데이터를, API(Application Programming Interface)를 적용하여, 수신 장치가 실행할 애플리케이션의 처리 오브젝트인 미디어 소스 오브젝트로 설정한다. 애플리케이션은, 미디어 소스 오브젝트에 대한 처리로서, 상기 방송 수신 데이터와, 네트워크를 통하여 수신하는 네트워크 수신 데이터의 합성 처리를 실행한다. 애플리케이션은, API 적용 처리에 의해 애플리케이션 시간축과 방송 시간축의 시간차에 상당하는 시간 오프셋을 취득하고, 고정밀도, 저지연의 데이터 합성 처리를 실행한다.
본 구성에 의해, 방송 수신 데이터와 네트워크 수신 데이터의 합성 처리 및 출력 처리를 저지연, 고정밀도로 행하는 것이 가능하게 된다. 이에 의해 방송된 프로그램 콘텐츠에 대하여 네트워크로부터의 광고 콘텐츠를 삽입하는 것이 용이하게 되어, 방송 서비스와 인터넷 서비스의 융합이 진행될 것으로 기대된다.
10: 통신 시스템
20: 송신 장치
21: 방송 서버
22: 데이터 배신 서버
30: 수신 장치
31: TV
32: PC
33: 휴대 단말기
50: 시그널링 데이터
60: AV 세그먼트
70: 기타 데이터
90: 수신 장치 내 표시 제어부
91: 표시 처리부
92: 서비스 워커(SW)
93: 캐시
95, 96: 웹페이지
101: 고비트 레이트 데이터
102: 중비트 레이트 데이터
103: 저비트 레이트 데이터
104: 매니페스트 파일
105: 재생 데이터
110: 미디어 소스
111 내지 113: 소스 버퍼
114: 트랙 버퍼
125: 방송 수신 세그먼트
126: 네트워크 수신 세그먼트
127: 재생 세그먼트
131: 안테나
132: 통신부(튜너)
133: HTTP 서버
134: 화상 디코더
135: 화상 표시부
136: 음성 디코더
137: 음성 출력부
140: 브라우저
141: XHR
142: 애플리케이션
143: 미디어 소스
144, 145: 소스 버퍼
201: 안테나
202: 통신부(튜너)
210: 브라우저
212: 애플리케이션
213: 미디어 소스
214, 215: 소스 버퍼
221: 화상 디코더
222: 화상 표시부
223: 음성 디코더
224: 음성 출력부
225: 재생 세그먼트
310: 방송 수신 데이터 처리부
311: 튜너
312: 기억부(버퍼)
313: 디코더 앤드 렌더러
321: 메타데이터(시그널링) 처리부
322: 버퍼 관리부
330: 네트워크 수신 데이터 처리부
331: 네트워크 I/F
332: 애플리케이션 실행부
333: 그래픽 시스템
341: 합성부
751: 데이터 처리부
752: 통신부
753: 기억부
771: 데이터 처리부
772: 통신부
773: 기억부
774: 입력부
775: 출력부
801: CPU
802: ROM
803: RAM
804: 버스
805: 입출력 인터페이스
806: 입력부
807: 출력부
808: 기억부
809: 통신부
810: 드라이브
811: 리무버블 미디어

Claims (20)

  1. 수신 장치로서,
    웹 애플리케이션의 API(Application Programming Interface)를 적용하여 상기 수신 장치가 방송으로부터 수신한 방송 수신 데이터를 미디어 재생의 처리 오브젝트인 미디어 소스 오브젝트로 설정하고,
    상기 미디어 소스 오브젝트와 연관된 버퍼에 저장되어 있는 상기 방송 수신 데이터에서 방송 콘텐츠의 방송 콘텐츠 세그먼트 정보를 취득하기 위한 처리를 실행하기 위해 상기 웹 애플리케이션을 제어하고,
    상기 방송으로부터 수신한 메타데이터를 기초로, 상기 방송 콘텐츠의 치환 또는 추가의 개시 시간을 취득하기 위해 상기 웹 애플리케이션을 제어하고,
    치환될 상기 방송 콘텐츠의 세그먼트의 상기 방송 콘텐츠 세그먼트 정보가 취득되는 것을 기초로, 상기 버퍼에 저장되어 있는 상기 방송 수신 데이터의 상기 방송 콘텐츠를, 네트워크를 통해 수신된 애플리케이션 수신 데이터의, 상기 방송 콘텐츠와는 다른 네트워크 콘텐츠로 치환 또는 추가의 처리를 실행하기 위해 상기 웹 애플리케이션을 제어하도록 구성되는 처리 회로를 포함하고,
    상기 웹 애플리케이션은 프로그램 또는 채널에 관련된 것이고,
    상기 방송 수신 데이터는 상기 방송 수신 데이터에 대한 판독 처리 및 상기 웹 애플리케이션에 의한 상기 미디어 소스 오브젝트의 생성 처리 없이 상기 미디어 소스 오브젝트로 설정되는, 수신 장치.
  2. 삭제
  3. 제1항에 있어서, 상기 처리 회로는, 상기 웹 애플리케이션에 의한 처리 시간을 규정하는 애플리케이션의 미디어 재생 시간축과, 상기 방송 수신 데이터의 상기 방송 콘텐츠에 있어서 이용되는 영상 음성 재생 시간축의 시간차에 상당하는 시간 오프셋을 취득하도록 구성되는, 수신 장치.
  4. 제3항에 있어서, 상기 처리 회로는, 상기 웹 애플리케이션, 또는 상기 API의 적용 처리에 의해, 상기 시간 오프셋을 취득하도록 구성되는, 수신 장치.
  5. 제1항에 있어서, 상기 처리 회로는,
    상기 미디어 소스 오브젝트에 대한 처리로서, 상기 처리 회로에 의해 저장된 상기 방송 수신 데이터의 상기 방송 콘텐츠와, 상기 웹 애플리케이션에 의해 수신된 상기 애플리케이션 수신 데이터의 상기 네트워크 콘텐츠를 합성하기 위한 합성 처리를 실행하기 위해 상기 웹 애플리케이션을 제어하도록 구성되는, 수신 장치.
  6. 제5항에 있어서, 상기 처리 회로는,
    상기 웹 애플리케이션에 의한 처리 시간을 규정하는 애플리케이션 미디어 재생 시간축과, 상기 방송 수신 데이터의 상기 방송 콘텐츠에 있어서 이용되는 영상 음성 재생 시간축의 시간차에 상당하는 시간 오프셋을 취득하고, 취득한 시간 오프셋을 이용하여, 상기 방송 수신 데이터의 상기 방송 콘텐츠에 대한 상기 애플리케이션 수신 데이터의 상기 네트워크 콘텐츠의 삽입 시간 위치를 결정하기 위해 상기 웹 애플리케이션을 제어하도록 구성되는, 수신 장치.
  7. 제6항에 있어서, 상기 처리 회로는,
    상기 시간 오프셋을 이용하여, 상기 애플리케이션 수신 데이터의 상기 네트워크 콘텐츠의 수신 개시 시간을 결정하기 위해 상기 웹 애플리케이션을 제어하도록 구성되는, 수신 장치.
  8. 제5항에 있어서, 상기 처리 회로는,
    상기 방송 수신 데이터의 상기 방송 콘텐츠의 상기 세그먼트를, 상기 애플리케이션 수신 데이터의 상기 네트워크 콘텐츠의 세그먼트로 치환하는 세그먼트 치환 처리를 실행하기 위해 상기 웹 애플리케이션을 제어하도록 구성되는, 수신 장치.
  9. 송신 장치로서,
    웹 애플리케이션을 갖는 수신 장치로 방송 수신 데이터를 송신하도록 구성되는 통신 회로를 포함하고,
    상기 웹 애플리케이션은 프로그램 또는 채널에 관련된 것이고,
    상기 수신 장치의 처리 회로는,
    상기 웹 애플리케이션의 API(Application Programming Interface)를 적용하여 상기 방송 수신 데이터를 미디어 소스 오브젝트로 설정하고,
    상기 미디어 소스 오브젝트와 연관된 버퍼에 저장되어 있는 상기 방송 수신 데이터에서 방송 콘텐츠의 방송 콘텐츠 세그먼트 정보를 취득하기 위한 처리를 실행하기 위해 상기 웹 애플리케이션을 제어하고,
    방송으로부터 수신한 메타데이터를 기초로, 상기 방송 콘텐츠의 치환 또는 추가의 개시 시간을 취득하기 위해 상기 웹 애플리케이션을 제어하고,
    치환될 상기 방송 콘텐츠의 세그먼트의 상기 방송 콘텐츠 세그먼트 정보가 취득되는 것을 기초로, 상기 버퍼에 저장되어 있는 상기 방송 수신 데이터의 상기 방송 콘텐츠를 네트워크를 통해 수신된 애플리케이션 수신 데이터의, 상기 방송 콘텐츠와는 다른 네트워크 콘텐츠로 치환 또는 추가의 처리를 실행하기 위해 상기 웹 애플리케이션을 제어하도록 구성되고,
    상기 방송 수신 데이터는 상기 방송 수신 데이터에 대한 판독 처리 및 상기 웹 애플리케이션에 의한 상기 미디어 소스 오브젝트의 생성 처리 없이 상기 미디어 소스 오브젝트로 설정되는, 송신 장치.
  10. 삭제
  11. 수신 장치에 의해 실행되는 데이터 처리 방법으로서,
    웹 애플리케이션의 API(Application Programming Interface)를 적용하여 방송으로부터 수신한 방송 수신 데이터를 미디어 재생의 처리 오브젝트인 미디어 소스 오브젝트로 설정하는 단계;
    상기 미디어 소스 오브젝트와 연관된 버퍼에 저장되어 있는 상기 방송 수신 데이터에서 방송 콘텐츠의 방송 콘텐츠 세그먼트 정보를 취득하기 위한 처리를 실행하기 위해 상기 웹 애플리케이션을 제어하는 단계;
    상기 방송으로부터 수신한 메타데이터를 기초로, 상기 방송 콘텐츠의 치환 또는 추가의 개시 시간을 취득하기 위해 상기 웹 애플리케이션을 제어하는 단계; 및
    치환될 상기 방송 콘텐츠의 세그먼트의 상기 방송 콘텐츠 세그먼트 정보가 취득되는 것을 기초로, 상기 버퍼에 저장되어 있는 상기 방송 수신 데이터의 상기 방송 콘텐츠를 네트워크를 통해 수신된 애플리케이션 수신 데이터의, 상기 방송 콘텐츠와는 다른 네트워크 콘텐츠로 치환 또는 추가의 처리를 실행하기 위해 상기 웹 애플리케이션을 제어하는 단계
    를 포함하고,
    상기 웹 애플리케이션은 프로그램 또는 채널에 관련된 것이고,
    상기 방송 수신 데이터는 상기 방송 수신 데이터에 대한 판독 처리 및 상기 웹 애플리케이션에 의한 상기 미디어 소스 오브젝트의 생성 처리 없이 상기 미디어 소스 오브젝트로 설정되는, 데이터 처리 방법.
  12. 송신 장치에 의해 실행되는 데이터 처리 방법으로서,
    상기 송신 장치의 통신 회로에 의해, 웹 애플리케이션을 갖는 수신 장치로 방송 수신 데이터를 송신하는 단계를 포함하고,
    상기 웹 애플리케이션은 프로그램 또는 채널에 관련된 것이고,
    상기 수신 장치의 처리 회로는,
    상기 웹 애플리케이션의 API(Application Programming Interface)를 적용하여 상기 방송 수신 데이터를 미디어 소스 오브젝트로 설정하고,
    상기 미디어 소스 오브젝트와 연관된 버퍼에 저장되어 있는 상기 방송 수신 데이터에서 방송 콘텐츠의 방송 콘텐츠 세그먼트 정보를 취득하기 위한 처리를 실행하기 위해 상기 웹 애플리케이션을 제어하고,
    방송으로부터 수신한 메타데이터를 기초로, 상기 방송 콘텐츠의 치환 또는 추가의 개시 시간을 취득하기 위해 상기 웹 애플리케이션을 제어하고,
    치환될 상기 방송 콘텐츠의 세그먼트의 상기 방송 콘텐츠 세그먼트 정보가 취득되는 것을 기초로, 상기 버퍼에 저장되어 있는 상기 방송 수신 데이터의 상기 방송 콘텐츠를 네트워크를 통해 수신된 애플리케이션 수신 데이터의, 상기 방송 콘텐츠와는 다른 네트워크 콘텐츠로 치환 또는 추가의 처리를 실행하기 위해 상기 웹 애플리케이션을 제어하도록 구성되고,
    상기 방송 수신 데이터는 상기 방송 수신 데이터에 대한 판독 처리 및 상기 웹 애플리케이션에 의한 상기 미디어 소스 오브젝트의 생성 처리 없이 상기 미디어 소스 오브젝트로 설정되는, 데이터 처리 방법.
  13. 제9항에 있어서,
    상기 처리 회로는, 상기 미디어 소스 오브젝트에 대한 처리로서, 상기 웹 애플리케이션에 의해 수신된 상기 애플리케이션 수신 데이터의 상기 네트워크 콘텐츠와 상기 방송 수신 데이터의 상기 방송 콘텐츠를 합성하기 위한 합성 처리를 실행하기 위해 상기 웹 애플리케이션을 제어하도록 구성되는, 송신 장치.
  14. 제12항에 있어서,
    상기 처리 회로는, 상기 미디어 소스 오브젝트에 대한 처리로서, 상기 웹 애플리케이션에 의해 수신된 상기 애플리케이션 수신 데이터의 상기 네트워크 콘텐츠와 상기 방송 수신 데이터의 상기 방송 콘텐츠를 합성하기 위한 합성 처리를 실행하기 위해 상기 웹 애플리케이션을 제어하도록 구성되는, 데이터 처리 방법.
  15. 제1항에 있어서,
    상기 처리 회로는, 상기 버퍼에 저장되어 있는 상기 방송 수신 데이터의 상기 방송 콘텐츠의 상기 세그먼트를, 상기 웹 애플리케이션에 의해 수신된 상기 애플리케이션 수신 데이터의 상기 네트워크 콘텐츠의 세그먼트로 치환함으로써 상기 미디어 소스 오브젝트에 대한 치환 또는 추가의 처리를 실행하기 위해 상기 웹 애플리케이션을 제어하도록 구성되는, 수신 장치.
  16. 제1항에 있어서,
    상기 처리 회로는, 상기 버퍼에 저장되어 있는 상기 방송 수신 데이터의 상기 방송 콘텐츠의 세그먼트를, 서버로부터 수신된 상기 애플리케이션 수신 데이터의 상기 네트워크 콘텐츠의 세그먼트로 치환하기 위해 상기 웹 애플리케이션을 제어하도록 더 구성되는, 수신 장치.
  17. 제1항에 있어서,
    상기 처리 회로는, 상기 버퍼에 저장되어 있는 상기 방송 수신 데이터의 상기 방송 콘텐츠의 세그먼트를, 서버로부터 수신된 상기 애플리케이션 수신 데이터의 상기 네트워크 콘텐츠의 세그먼트에 추가하기 위해 상기 웹 애플리케이션을 제어하도록 더 구성되는, 수신 장치.
  18. 제1항에 있어서,
    상기 처리 회로는, 상기 버퍼에 저장되어 있는 상기 방송 수신 데이터의 상기 방송 콘텐츠에 대한 치환 또는 추가의 처리를 위한 데이터를 발생시키는 미디어 소스를 생성하도록 더 구성되는, 수신 장치.
  19. 제18항에 있어서,
    상기 처리 회로는, 상기 미디어 소스에 상당하는 HTML5(Hypertext Markup Language 5) 비디오 객체를 생성하도록 더 구성되는, 수신 장치.
  20. 제1항에 있어서,
    상기 웹 애플리케이션은 HTML5(Hypertext Markup Language 5) 애플리케이션인, 수신 장치.
KR1020177009683A 2014-10-20 2015-10-14 수신 장치, 송신 장치, 및 데이터 처리 방법 KR102529711B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014213498 2014-10-20
JPJP-P-2014-213498 2014-10-20
PCT/JP2015/079098 WO2016063780A1 (ja) 2014-10-20 2015-10-14 受信装置、送信装置、およびデータ処理方法

Publications (2)

Publication Number Publication Date
KR20170074866A KR20170074866A (ko) 2017-06-30
KR102529711B1 true KR102529711B1 (ko) 2023-05-09

Family

ID=55760822

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020177009683A KR102529711B1 (ko) 2014-10-20 2015-10-14 수신 장치, 송신 장치, 및 데이터 처리 방법

Country Status (7)

Country Link
US (2) US11070872B2 (ko)
EP (1) EP3211904A4 (ko)
JP (1) JP6610555B2 (ko)
KR (1) KR102529711B1 (ko)
CA (1) CA2963765C (ko)
MX (1) MX2017004885A (ko)
WO (1) WO2016063780A1 (ko)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10120542B2 (en) * 2014-10-08 2018-11-06 International Business Machines Corporation Reproducing state of source environment when image was screen captured on a different computing device using resource location, resource navigation and positional metadata embedded in image
US20180097974A1 (en) * 2016-10-03 2018-04-05 App Onboard, Inc. Video-tree system for interactive media reproduction, simulation, and playback
US20180124453A1 (en) * 2016-11-01 2018-05-03 App Onboard, Inc. Dynamic graphic visualizer for application metrics
US11089381B2 (en) * 2017-01-20 2021-08-10 Hanwha Techwin Co., Ltd. Apparatus and method for simultaneous playback and backup of media in a web browser
JP6861046B2 (ja) * 2017-02-14 2021-04-21 日本放送協会 配信装置およびプログラム
ES2778848T3 (es) * 2017-07-05 2020-08-12 Siemens Mobility GmbH Procedimiento y dispositivo para la transmisión unidireccional sin repercusión de datos a un servidor de aplicación remoto
JP7284906B2 (ja) * 2018-02-15 2023-06-01 ビテック、インコーポレイテッド メディアコンテンツの配信および再生
CN110545491B (zh) * 2018-05-29 2021-08-10 北京字节跳动网络技术有限公司 一种媒体文件的网络播放方法、装置及存储介质
CN110545479B (zh) * 2018-05-29 2021-07-06 北京字节跳动网络技术有限公司 媒体播放的加载控制方法、装置及存储介质
US11095944B2 (en) * 2019-08-19 2021-08-17 Roku, Inc. Content-modification system with broadcast schedule utilization feature
CN114503600A (zh) * 2019-10-31 2022-05-13 六科股份有限公司 具有延迟缓冲器特征的内容修改系统
CN111193798A (zh) * 2019-12-31 2020-05-22 山东公链信息科技有限公司 一种打散后加密分散存储的图片分布式存储技术
US10992401B1 (en) * 2020-03-05 2021-04-27 Rovi Guides, Inc. Systems and methods for generating playlist for a vehicle
US10972206B1 (en) 2020-03-05 2021-04-06 Rovi Guides, Inc. Systems and methods for generating playlist for a vehicle
US11805160B2 (en) 2020-03-23 2023-10-31 Rovi Guides, Inc. Systems and methods for concurrent content presentation
US11790364B2 (en) 2020-06-26 2023-10-17 Rovi Guides, Inc. Systems and methods for providing multi-factor authentication for vehicle transactions
US11599880B2 (en) 2020-06-26 2023-03-07 Rovi Guides, Inc. Systems and methods for providing multi-factor authentication for vehicle transactions
US11818189B2 (en) 2021-01-06 2023-11-14 Tencent America LLC Method and apparatus for media streaming
US11792473B2 (en) * 2021-08-06 2023-10-17 Sony Group Corporation Stream repair memory management
CN114745561B (zh) * 2022-04-06 2023-05-30 珠海格力电器股份有限公司 直播间交互方法、装置、电子设备及存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100128595A1 (en) * 2008-11-25 2010-05-27 Jeyhan Karaoguz Utilizing A Replacement Pathway For Lost Packet Delivery During Media Reception In A Set-Top Box (STB)

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002268999A (ja) 2001-03-09 2002-09-20 Toshiba Corp コンテンツ再生方法及び装置
US20030066094A1 (en) * 2001-09-29 2003-04-03 Koninklijke Philips Electronics N.V. Robust method for recovering a program time base in MPEG-2 transport streams and achieving audio/video sychronization
US7246318B2 (en) * 2002-06-28 2007-07-17 Microsoft Corporation Application programming interface for utilizing multimedia data
US7426734B2 (en) * 2003-10-24 2008-09-16 Microsoft Corporation Facilitating presentation functionality through a programming interface media namespace
US7626612B2 (en) * 2006-06-30 2009-12-01 Motorola, Inc. Methods and devices for video correction of still camera motion
US20080040743A1 (en) * 2006-07-29 2008-02-14 Srinivasa Dharmaji Micro-splicer for inserting alternate content to a content stream on a handheld device
US8612643B2 (en) * 2007-06-30 2013-12-17 Microsoft Corporation Interfaces for digital media processing
EP2430834A1 (en) * 2009-05-13 2012-03-21 NDS Limited Splicing system
JP2011087103A (ja) 2009-10-15 2011-04-28 Sony Corp コンテンツ再生システム、コンテンツ再生装置、プログラム、コンテンツ再生方法、およびコンテンツサーバを提供
US8555163B2 (en) * 2010-06-09 2013-10-08 Microsoft Corporation Smooth streaming client component
US20120095819A1 (en) * 2010-10-14 2012-04-19 Phone Through, Inc. Apparatuses, methods, and computer program products enabling association of related product data and execution of transaction
US9026671B2 (en) 2011-04-05 2015-05-05 Qualcomm Incorporated IP broadcast streaming services distribution using file delivery methods
JP2013009332A (ja) * 2011-05-20 2013-01-10 Nippon Hoso Kyokai <Nhk> 受信機
CA2837053C (en) 2011-05-25 2016-12-06 Lg Electronics Inc. Transmitting/receiving system and method for processing a broadcasting signal
JP6348251B2 (ja) 2012-09-13 2018-06-27 サターン ライセンシング エルエルシーＳａｔｕｒｎ Ｌｉｃｅｎｓｉｎｇ ＬＬＣ 端末装置、受信方法、およびプログラム
WO2014115295A1 (ja) 2013-01-25 2014-07-31 株式会社 東芝 ビデオ表示装置及びビデオ表示方法
US20140297882A1 (en) * 2013-04-01 2014-10-02 Microsoft Corporation Dynamic track switching in media streaming
JPWO2014162748A1 (ja) 2013-04-05 2017-02-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 受信装置、及び受信方法
US9332047B2 (en) * 2013-09-30 2016-05-03 Brightcove Inc. Dynamic chunk manipulation for streaming mixed live and on-demand media: dynamic permutation layer

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100128595A1 (en) * 2008-11-25 2010-05-27 Jeyhan Karaoguz Utilizing A Replacement Pathway For Lost Packet Delivery During Media Reception In A Set-Top Box (STB)

Also Published As

Publication number Publication date
US11070872B2 (en) 2021-07-20
WO2016063780A1 (ja) 2016-04-28
EP3211904A1 (en) 2017-08-30
KR20170074866A (ko) 2017-06-30
CA2963765C (en) 2022-12-13
CA2963765A1 (en) 2016-04-28
JPWO2016063780A1 (ja) 2017-07-27
JP6610555B2 (ja) 2019-11-27
EP3211904A4 (en) 2018-04-25
US11785289B2 (en) 2023-10-10
US20170289616A1 (en) 2017-10-05
US20210314657A1 (en) 2021-10-07
MX2017004885A (es) 2017-07-05

Similar Documents

Publication Publication Date Title
KR102529711B1 (ko) 수신 장치, 송신 장치, 및 데이터 처리 방법
JP6807852B2 (ja) Ｌｃｔに基づくｄａｓｈフォーマットを有するファイルフォーマットベースのストリーミング
JP6462566B2 (ja) 送信装置、送信方法、受信装置および受信方法
JP2023099620A (ja) 送信方法および受信方法
US11375258B2 (en) Transitioning between broadcast and unicast streams
EP3425921A1 (en) Method and apparatus for transmitting and receiving adaptive streaming mechanism-based content
US11025982B2 (en) System and method for synchronizing content and data for customized display
EP2690876A2 (en) Heterogeneous network-based linked broadcast content transmitting/receiving device and method
KR102499231B1 (ko) 수신 장치, 송신 장치 및 데이터 처리 방법
KR20160139020A (ko) Mmt 및 dash를 이용한 브로드캐스트 및 브로드밴드 하이브리드 서비스
RU2656093C2 (ru) Устройство поставки контента, способ поставки контента, программа, оконечное устройство и система поставки контента
CN109756744B (zh) 数据处理方法、电子设备及计算机存储介质
US20140059630A1 (en) Apparatuses for providing and receiving augmented broadcasting service in hybrid broadcasting environment
EP2312826A2 (en) Network device, information processing apparatus, stream switching method, information processing method, program, and content distribution system
KR20180058219A (ko) 송신 장치, 수신 장치, 및 데이터 처리 방법
KR101666246B1 (ko) 메타데이터 우선제공 증강방송 장치 및 방법
KR102533674B1 (ko) 수신 장치, 송신 장치 및 데이터 처리 방법
JP2008016894A (ja) 送信装置及び受信装置
US11856242B1 (en) Synchronization of content during live video stream
KR101414638B1 (ko) 인터넷 프로토콜 텔레비전 수신기 및 채널 전환 방법
KR20180058220A (ko) 송신 장치, 수신 장치, 및 데이터 처리 방법
KR101999235B1 (ko) Mmtp기반 하이브리드 브로드캐스트 브로드밴드 서비스 제공 방법 및 시스템

Legal Events

Date Code Title Description
AMND Amendment
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
X091 Application refused [patent]
AMND Amendment
E902 Notification of reason for refusal
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant