JP2019083555A - 情報処理装置、コンテンツ要求方法およびコンピュータプログラム - Google Patents

情報処理装置、コンテンツ要求方法およびコンピュータプログラム Download PDF

Info

Publication number
JP2019083555A
JP2019083555A JP2019006720A JP2019006720A JP2019083555A JP 2019083555 A JP2019083555 A JP 2019083555A JP 2019006720 A JP2019006720 A JP 2019006720A JP 2019006720 A JP2019006720 A JP 2019006720A JP 2019083555 A JP2019083555 A JP 2019083555A
Authority
JP
Japan
Prior art keywords
unit
data
image
information
mpd
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019006720A
Other languages
English (en)
Other versions
JP6708271B2 (ja
Inventor
山岸 靖明
Yasuaki Yamagishi
靖明 山岸
五十嵐 卓也
Takuya Igarashi
卓也 五十嵐
平林 光浩
Mitsuhiro Hirabayashi
光浩 平林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JP2019083555A publication Critical patent/JP2019083555A/ja
Application granted granted Critical
Publication of JP6708271B2 publication Critical patent/JP6708271B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/858Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot
    • H04N21/8586Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot by using a URL
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/2187Live feed
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/23439Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements for generating different versions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/262Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists
    • H04N21/26258Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists for generating a list of items to be played back in a given order, e.g. playlist, or scheduling item distribution according to such list
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/266Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
    • H04N21/2662Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/437Interfacing the upstream path of the transmission network, e.g. for transmitting client requests to a VOD server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/44029Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display for generating different versions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/61Network physical structure; Signal processing
    • H04N21/6106Network physical structure; Signal processing specially adapted to the downstream path of the transmission network
    • H04N21/6125Network physical structure; Signal processing specially adapted to the downstream path of the transmission network involving transmission via Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/658Transmission by the client directed to the server
    • H04N21/6587Control parameters, e.g. trick play commands, viewpoint selection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • H04N21/8456Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)
  • Facsimiles In General (AREA)
  • Telephonic Communication Services (AREA)

Abstract

【課題】ABS技術を用いてクライアントからリモートで機器を制御する際にメタ情報の肥大化を避けてメンテナンスをすることが可能な情報処理装置を提供する。【解決手段】コンテンツ再生装置は、同一のコンテンツを異なるビットレートで符号化して得られる各符号化データを構成する複数のサブセグメントの各々にアクセスするための、またはMPD(media presentation description)に記載されている、サーバへのリクエストにより取得するあらゆる要素にアクセスするためのアクセス情報にパラメータを付加するための所定の定義を記憶する記憶部と、前記アクセス情報で定義されているアドレスに前記記憶部が記憶する所定の定義に基づきパラメータを指定してアクセスする通信部と、を備える。アクセス情報で定義されているアドレスは、コンテンツを撮像する装置を制御するためのアドレスである。【選択図】図5

Description

本開示は、情報処理装置、コンテンツ要求方法およびコンピュータプログラムに関する。
近日、コンテンツ伝送のためのHTTP(HyperText Transfer Protocol)、およびコンテンツ圧縮符号化に関するMP4が広く利用されている。HTTPによれば、インターネットにおいて、コンテンツのダウンロードだけでなく、ストリーミングを行うことが可能である。このHTTPストリーミングは、「DLNA guidelines」(2006)や「Open IPTV Forum」(2009)などのネットワークメディア規格にも採用されている。また、MP4(ISO/IEC−14496−12,14)は、記憶フォーマットとしてだけでなく、ダウンロードやストリーミングなどの伝送フォーマットとしても利用可能である。
また、ストリーミングに関しては、下記非特許文献1に記載されているように、ABS(Adaptive BitStreaming)技術が知られている。ABS技術は、同一コンテンツが異なるビットレートで表現された複数の符号化データをコンテンツサーバに格納し、クライアントが、ネットワーク帯域に応じて複数の符号化データのいずれかの符号化データを選択しながら再生する技術である。
通常のストリーミングの場合には、ネットワークの帯域がビットレートを下回ったときには、データの供給が消費に追いつかなくなり、クライアント側でバッファリングしているデータは枯渇する。結果、クライアントは再生を継続することができなくなる。それに対し、ABS技術では、帯域が小さくなった時には低いビットレートの符号化データに再生データを切り替えるので、再生時における途切れを抑制することが可能になる。
このABS技術の分野においては、下記非特許文献2のようにクライアント側からネットワークカメラのリモート制御を行なう技術が提案されている。また、このABS技術の分野においては、下記非特許文献3のようにサーバ側でパラメータを付加して、クライアントにそのパラメータを記憶させつつ、配信先のサーバを適宜変更するようなリダイレクションを実行する技術も提案されている。
MPEG-DASH(Dynamic Adaptive Streaming over HTTP)(URL:http://mpeg.chiariglione.org/standards/mpeg-dash/media-presentation-description-and-segment-formats/text-isoiec-23009-12012-dam-1) m28017 DASH: Device/Server Specific Representation in MPD (CE-URLPARAM),MPEG#103, Geneva, 2013 m28354 Core Experiment on Parameters insertion in media segment URL,MPEG#103, Geneva, 2013
ネットワークカメラのリモート制御のように、クライアントからリモートで機器を制御する用途にABS技術を利用する場合に、メタ情報の内部に記述される情報は、制御を細かくしようとすればする程、肥大化してしまう。メタ情報の内部に記述される情報が肥大化してしまうとメンテナンスの容易性も悪化してしまうことになる。
そこで本開示は、ABS技術を用いてクライアントからリモートで機器を制御する際にメタ情報の肥大化を避けてメンテナンスをすることが可能な、新規かつ改良された情報処理装置、コンテンツ要求方法およびコンピュータプログラムを提供する。
本開示によれば、同一のコンテンツを異なるビットレートで符号化して得られる各符号化データを構成する複数のサブセグメントの各々にアクセスするための、またはMPDに記載されている、サーバへのリクエストにより取得するあらゆる要素にアクセスするためのアクセス情報にパラメータを付加するための所定の定義を記憶する記憶部と、前記アクセス情報で定義されているアドレスに前記記憶部が記憶する所定の定義に基づきパラメータを指定してアクセスする通信部と、を備え、前記アクセス情報で定義されているアドレスは、前記コンテンツを撮像する装置を制御するためのアドレスである、情報処理装置が提供される。
また本開示によれば、同一のコンテンツを異なるビットレートで符号化して得られる各符号化データを構成する複数のサブセグメントの各々にアクセスするための、またはMPDに記載されている、サーバへのリクエストにより取得するあらゆる要素にアクセスするためのアクセス情報にパラメータを付加するための所定の定義を記憶することと、前記アクセス情報で定義されているアドレスに前記記憶部が記憶する所定の定義に基づきパラメータを指定してアクセスすることと、を備え、前記アクセス情報で定義されているアドレスは、前記コンテンツを撮像する装置を制御するためのアドレスである、コンテンツ要求方法が提供される。
また本開示によれば、コンピュータに、同一のコンテンツを異なるビットレートで符号化して得られる各符号化データを構成する複数のサブセグメントの各々にアクセスするための、またはMPDに記載されている、サーバへのリクエストにより取得するあらゆる要素にアクセスするためのアクセス情報にパラメータを付加するための所定の定義を記憶することと、前記アクセス情報で定義されているアドレスに前記記憶部が記憶する所定の定義に基づきパラメータを指定してアクセスすることと、を実行させ、前記アクセス情報で定義されているアドレスは、前記コンテンツを撮像する装置を制御するためのアドレスである、コンピュータプログラムが提供される。
以上説明したように本開示によれば、ABS技術を用いてクライアントからリモートで機器を制御する際にメタ情報の肥大化を避けてメンテナンスをすることが可能な、新規かつ改良された情報処理装置、コンテンツ要求方法およびコンピュータプログラムを提供することが出来る。
本開示の実施形態によるコンテンツ再生システムの構成を示した説明図である。 本実施形態によるコンテンツ再生システムにおけるデータの流れを示した説明図である。 MPDの具体例を示した説明図である。 本実施形態によるコンテンツサーバ10の構成を示した機能ブロック図である。 本実施形態によるコンテンツ再生装置20の構成を示した機能ブロック図である。 本実施形態によるコンテンツサーバ13の構成を示した機能ブロック図である。 Parameter Descriptionの内容を示す説明図である。 Parameter Descriptionの内容を示す説明図である。 Parameter Descriptionを参照するMPDの例を示す説明図である。 本開示の実施形態によるコンテンツ再生システムの動作例を示したシーケンス図である。 本開示の実施形態によるコンテンツ再生システムの動作例を示したシーケンス図である。 コンピュータのハードウエアの構成例を示すブロック図である。 多視点画像符号化方式の例を示す図である。 本開示を適用した多視点画像符号化装置の構成例を示す図である。 本開示を適用した多視点画像復号装置の構成例を示す図である。 階層画像符号化方式の例を示す図である。 スペーシャルなスケーラブル符号化の例を説明する図である。 テンポラルなスケーラブル符号化の例を説明する図である。 信号雑音比のスケーラブル符号化の例を説明する図である。 本開示を適用した階層画像符号化装置の構成例を示す図である。 本開示を適用した階層画像復号装置の構成例を示す図である。 本開示を適用したテレビジョン装置の概略構成例を示す図である。 本開示を適用した携帯電話機の概略構成例を示す図である。 本開示を適用した記録再生装置の概略構成例を示す図である。 本開示を適用した撮像装置の概略構成例を示す図である。 スケーラブル符号化利用の一例を示すブロック図である。 スケーラブル符号化利用の他の例を示すブロック図である。 スケーラブル符号化利用のさらに他の例を示すブロック図である。 本開示を適用したビデオセットの概略的な構成の一例を示している。 本開示を適用したビデオプロセッサの概略的な構成の一例を示している。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書及び図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する場合もある。例えば、実質的に同一の機能構成または論理的意義を有する複数の構成を、必要に応じてコンテンツ再生装置20A、20Bおよび20Cのように区別する。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。例えば、コンテンツ再生装置20A、20Bおよび20Cを特に区別する必要が無い場合には、単にコンテンツ再生装置20と称する。
なお、説明は以下の順序で行うものとする。
<1.コンテンツ再生システムの概要>
<2.コンテンツサーバ10の構成>
<3.コンテンツ再生装置20の構成>
<4.コンテンツサーバ13の構成>
<5.MPDの構成>
<6.まとめ>
<1.コンテンツ再生システムの概要>
まず、図1〜図3を参照し、本開示の実施形態によるコンテンツ再生システムについて概略的に説明する。
以下では、まず、このような各実施形態において共通する基本構成について図1および図2を参照して説明する。
図1は、本開示の実施形態によるコンテンツ再生システムの構成を示した説明図である。図1に示したように、本開示の実施形態によるコンテンツ再生システムは、コンテンツサーバ10、13と、ネットワークカメラ11と、ネットワーク12と、コンテンツ再生装置20(クライアント装置)と、を備える。
コンテンツサーバ10とコンテンツ再生装置20は、ネットワーク12を介して接続されている。このネットワーク12は、ネットワーク12に接続されている装置から送信される情報の有線、または無線の伝送路である。
例えば、ネットワーク12は、インターネット、電話回線網、衛星通信網などの公衆回線網や、Ethernet(登録商標)を含む各種のLAN(Local Area Network)、WAN(Wide Area Network)などを含んでもよい。また、ネットワーク12は、IP−VPN(Internet Protocol−Virtual Private Network)などの専用回線網を含んでもよい。
コンテンツサーバ10は、コンテンツデータを符号化し、符号化データおよび符号化データのメタ情報を含むデータファイルを生成して記憶する。なお、コンテンツサーバ10がMP4形式のデータファイルを生成する場合、符号化データは「mdat」に該当し、メタ情報は「moov」に該当する。
また、コンテンツデータは、音楽、講演およびラジオ番組などの音楽データや、映画、テレビジョン番組、ビデオプログラム、写真、文書、絵画および図表などの映像データや、ゲームおよびソフトウェアなどであってもよい。またコンテンツデータは、ネットワークカメラ11で撮像されている映像であってもよい。コンテンツサーバ10は、コンテンツ再生装置20からのリクエストに応じてネットワークカメラ11を制御し得る。
ここで、本実施形態によるコンテンツサーバ10は、同一コンテンツに関し、異なるビットレートで複数のデータファイルを生成する。また本実施形態によるコンテンツサーバ13は、コンテンツ再生装置20からのコンテンツの再生要求に対して、コンテンツサーバ10のURLの情報に、コンテンツ再生装置20で当該URLに付加させるパラメータの情報を含めてコンテンツ再生装置20に送信する。以下、図2を参照して当該事項について具体的に説明する。
図2は、本実施形態によるコンテンツ再生システムにおけるデータの流れを示した説明図である。コンテンツサーバ10は、同一のコンテンツデータを異なるビットレートで符号化し、図2に示したように例えば2MbpsのファイルA、1.5MbpsのファイルB、1MbpsのファイルCを生成する。相対的に、ファイルAはハイビットレートであり、ファイルBは標準ビットレートであり、ファイルCはロービットレートである。
また、図2に示したように、各ファイルの符号化データは複数のセグメントに区分されている。例えば、ファイルAの符号化データは「A1」、「A2」、「A3」、・・・「An」というセグメントに区分されており、ファイルBの符号化データは「B1」、「B2」、「B3」、・・・「Bn」というセグメントに区分されており、ファイルCの符号化データは「C1」、「C2」、「C3」、・・・「Cn」というセグメントに区分されている。
なお、各セグメントはMP4のシンクサンプル(たとえば、AVC/H.264の映像符号化ではIDR−ピクチャ)で始まる単独で再生可能な1または2以上の映像符号化データおよび音声符号化データより構成サンプルで構成されてもよい。例えば、一秒30フレームのビデオデータが15フレーム固定長のGOP(Group of Picture)にて符号化されていた場合、各セグメントは、4GOPに相当する2秒分の映像ならびに音声符号化データであっても、20GOPに相当する10秒分の映像ならびに音声符号化データであってもよい。
また、各ファイルにおける配置順番が同一のセグメントによる再生範囲(コンテンツの先頭からの時間位置の範囲)は同一である。例えば、セグメント「A2」、セグメント「B2」、およびセグメント「C2」の再生範囲は同一であり、各セグメントが2秒分の符号化データである場合、セグメント「A2」、セグメント「B2」、およびセグメント「C2」の再生範囲は、いずれもコンテンツの2秒〜4秒である。
コンテンツサーバ10は、このような複数のセグメントから構成されるファイルA〜ファイルCを生成すると、ファイルA〜ファイルCを記憶する。そして、コンテンツサーバ10は、図2に示したように、異なるファイルを構成するセグメントをコンテンツ再生装置20に順次に送信し、コンテンツ再生装置20は、受信したセグメントをストリーミング再生する。
ここで、本実施形態によるコンテンツサーバ10は、各符号化データのビットレート情報およびアクセス情報を含むプレイリストファイル(以下、MPD:Media Presentation Description)をコンテンツ再生装置20に送信し、コンテンツ再生装置20は、MPDに基づき、複数のビットレートのうちのいずれかのビットレートを選択し、選択したビットレートに対応するセグメントの送信をコンテンツサーバ10に要求する。
図1では、1つのコンテンツサーバ10のみが図示されているが、本開示は係る例に限定されないことは言うまでもない。
図3は、MPDの具体例を示した説明図である。図3に示したように、MPDには、異なるビットレート(BANDWIDTH)を有する複数の符号化データに関するアクセス情報が含まれる。例えば、図3に示したMPDは、256Kbps、1.024Mbps、1.384Mbps、1.536Mbps、2.048Mbpsの各々の符号化データが存在することを示す共に、各符号化データに関するアクセス情報を含む。コンテンツ再生装置20は、かかるMPDに基づき、ストリーミング再生する符号化データのビットレートを動的に変更することが可能である。
なお、図1にはコンテンツ再生装置20の一例として携帯端末を示しているが、コンテンツ再生装置20はかかる例に限定されない。例えば、コンテンツ再生装置20は、PC(Personal Computer)、家庭用映像処理装置(DVDレコーダ、ビデオデッキなど)、PDA(Personal Digital Assistants)、家庭用ゲーム機器、家電機器などの情報処理装置であってもよい。また、コンテンツ再生装置20は、携帯電話、PHS(Personal Handyphone System)、携帯用音楽再生装置、携帯用映像処理装置、携帯用ゲーム機器などの情報処理装置であってもよい。
<2.コンテンツサーバ10の構成>
以上、図1〜図3を参照し、本開示の実施形態によるコンテンツ再生システムの概要を説明した。続いて、図4を参照し、本実施形態によるコンテンツサーバ10の構成を説明する。
図4は、本実施形態によるコンテンツサーバ10の構成を示した機能ブロック図である。図4に示したように、本実施形態によるコンテンツサーバ10は、ファイル生成部120と、記憶部130と、通信部140と、を備える。
ファイル生成部120は、コンテンツデータを符号化するエンコーダ122を備え、同一のコンテンツでビットレートが異なる複数の符号化データ、および上述したMPDを生成する。例えば、ファイル生成部120は、256Kbps、1.024Mbps、1.384Mbps、1.536Mbps、2.048Mbpsの各々の符号化データを生成した場合、図3に示したようなMPDを生成する。
記憶部130は、ファイル生成部120により生成されたビットレートが異なる複数の符号化データおよびMPDを記憶する。この記憶部130は、不揮発性メモリ、磁気ディスク、光ディスク、およびMO(Magneto Optical)ディスクなどの記憶媒体であってもよい。不揮発性メモリとしては、例えば、EEPROM(Electrically Erasable Programmable Read−Only Memory)、EPROM(Erasable Programmable ROM)があげられる。また、磁気ディスクとしては、ハードディスクおよび円盤型磁性体ディスクなどがあげられる。また、光ディスクとしては、CD(Compact Disc、DVD−R(Digital Versatile Disc Recordable)およびBD(Blu−Ray Disc(登録商標))などがあげられる。
通信部140は、コンテンツ再生装置20とのインターフェースであって、ネットワーク12を介してコンテンツ再生装置20と通信する。より詳細には、通信部140は、HTTPに従ってコンテンツ再生装置20と通信するHTTPサーバとしての機能を有する。例えば、通信部140は、MPDをコンテンツ再生装置20に送信し、HTTPに従ってコンテンツ再生装置20からMPDに基づいて要求された符号化データを記憶部130から抽出し、HTTPレスポンスとしてコンテンツ再生装置20に符号化データを送信する。
<3.コンテンツ再生装置20の構成>
以上、本実施形態によるコンテンツサーバ10の構成を説明した。続いて、図5を参照し、本実施形態によるコンテンツ再生装置20の構成を説明する。
図5は、本実施形態によるコンテンツ再生装置20の構成を示した機能ブロック図である。図5に示したように、本実施形態によるコンテンツ再生装置20は、通信部220と、記憶部230と、再生部240と、選択部250と、を備える。
通信部220は、コンテンツサーバ10とのインターフェースであって、コンテンツサーバ10に対してデータを要求し、コンテンツサーバ10からデータを取得する。より詳細には、通信部220は、HTTPに従ってコンテンツ再生装置20と通信するHTTPクライアントとしての機能を有する。例えば、通信部220は、HTTP Rangeを利用することにより、コンテンツサーバ10からMPDや符号化データのセグメントを選択的に取得することができる。
記憶部230は、コンテンツの再生に関する種々の情報を記憶する。例えば、通信部220によりコンテンツサーバ10から取得されるセグメントを順次にバッファリングする。記憶部230にバッファリングされた符号化データのセグメントは、FIFO(First In First Out)で再生部240へ順次に供給される。
また記憶部230は、ネットワークカメラ11に対して方向や倍率を指示していして、ネットワークカメラ11で撮像された映像をコンテンツサーバ10から取得するための定義情報を保持する。記憶部230が保持する定義情報については後に詳述する。
再生部240は、記憶部230から供給されるセグメントを順次に再生する。具体的には、再生部240は、セグメントのデコード、DA変換、およびレンダリングなどを行う。
選択部250は、MPDに含まれるいずれのビットレートに対応する符号化データのセグメントを取得するかを同一コンテンツ内で順次に選択する。例えば、選択部250がネットワーク12の帯域に応じてセグメント「A1」、「B2」、「A3」を順次に選択すると、図2に示したように、通信部220がコンテンツサーバ10からセグメント「A1」、「B2」、「A3」を順次に取得する。
本実施形態によるコンテンツ再生装置20は、ネットワークカメラ11を制御して、指定した方向から、また指定した倍率で、ネットワークカメラ11が撮像した映像をコンテンツサーバ10から取得する。そしてコンテンツ再生装置20は、ネットワークカメラ11の制御に、非特許文献1で開示されているABS技術を用いる。
<4.コンテンツサーバ13の構成>
図6は、コンテンツサーバ13の構成例を示す説明図である。図6に示したように、本実施形態によるコンテンツサーバ13は、記憶部310と、通信部320と、を備える。
記憶部310は、MPDのURLの情報を記憶する。MPDのURLの情報は、コンテンツの再生を要求するコンテンツ再生装置20からの求めに応じ、コンテンツサーバ13からコンテンツ再生装置20へ送信される。また記憶部310は、コンテンツ再生装置20へのMPDのURLの情報を提供する際に、当該MPDに記述されているURLにコンテンツ再生装置20でパラメータを付加させる際の定義情報を記憶する。
通信部320は、コンテンツ再生装置20とのインターフェースであって、ネットワーク12を介してコンテンツ再生装置20と通信する。すなわち通信部320は、コンテンツの再生を要求するコンテンツ再生装置20から、MPDのURLの情報の要求を受信し、コンテンツ再生装置20へMPDのURLの情報を送信する。通信部320から送信されるMPDのURLには、コンテンツ再生装置20でパラメータを付加させるための情報が含まれる。
コンテンツ再生装置20でMPDのURLに付加させるパラメータについては、コンテンツサーバ13およびコンテンツ再生装置20で共有する定義情報で様々に設定することが出来る。一例を挙げれば、コンテンツ再生装置20の現在位置、コンテンツ再生装置20を使用するユーザのユーザID、コンテンツ再生装置20のメモリサイズ、コンテンツ再生装置20のストレージの容量などの情報を、コンテンツ再生装置20でMPDのURLに付加させることが出来る。
<4.MPDの構成>
続いて、本実施形態によるMPDの構成について説明する。上記非特許文献2では、ネットワークカメラをクライアントから制御するために、上記非特許文献1のsection 5.3.9.4.2で内容が公開されているSegmentTemplate要素に、パン角度の属性「pan_range」、チルト角度の属性「tilt_range」、ズーム倍率の属性「zoom_range」を指定する方法が提案されている。
しかし、このようにパラメータをMPDで指定すると、ネットワークカメラの制御を細かくしようとすればする程、MPDの内容が肥大化してしまう。MPDの内部に記述される情報が肥大化してしまうと、MPDメンテナンスの容易性も悪化してしまうことになる。
そこで本実施形態では、上記非特許文献1のsection 5.3.9.4.2で内容が公開されているSegmentTemplate要素に、属性「pan_range」、「tilt_range」、「zoom_range」を追加する替わりに、属性「pd」だけを追加する。属性「pd」は、ネットワークカメラ11を制御するための定義情報のURIを1つまたは複数指定するための属性である。SegmentTemplate要素の属性「pd」で指定される定義情報をParameter Descriptionとも称する。Parameter
Descriptionは、例えば、WADL(Web Application Description Language、http://www.w3.org/Submission/wadl/)、WSDL(Web Service Description Language、http://www.ibm.com/developerworks/webservices/library/ws-restwsdl/)その他のWebAPI記述言語に基づいて記述され得る。この定義情報は記憶部310や記憶部230に記憶され得る。Parameter Descriptionが記憶部310と記憶部230の両方に記憶される場合は、双方の内容が同期されること、すなわち、双方の内容が同一に維持されることが前提である。
以下では、ネットワークカメラ11が撮像する映像を取得するためのURLが「http://cdn1.example.com/camera1/」とMPDに記述されており、そのMPDの<AdaptationSet>タグのEssentialProperty要素に「schemeIdUri=’urn:PanAngleDef’」と指定され、SegmentTemplate要素の属性「pd」にParameter Descriptionとして「urn:PanAngleDef」と指定されている例を説明する。
図7は、上述のParameter Descriptionである「urn:PanAngleDef」の内容を示す説明図である。このParameter Descriptionは、ネットワークカメラ11のパン角度を指定するための定義情報である。
<resource>タグは、ネットワークカメラ11が撮像する映像の場所を指定するタグであり、要素「path」にその場所が記述される。図6の例では「pan-{degree}」と記述されている。この「degree」に値を設定してコンテンツサーバ10に要求することで、コンテンツ再生装置20は、ネットワークカメラ11のパン角度を指定することができる。
<param>タグで囲まれた部分に、Parameter
Descriptionの定義内容が記述される。
「name」要素は、コンテンツ再生装置20からネットワークカメラ11を制御するためのパラメータの名称を規定する。図7の例では「name」要素に、ネットワークカメラ11のパン角度を指定するためのパラメータ「degree」が指定されている。
「required」要素は、コンテンツ再生装置20での、そのクエリパラメータの記述が必須か否かを規定する。図7の例では、「required」要素に「true」が指定されており、このパラメータの記述が必須であることを示している。
「style」要素は、コンテンツ再生装置20でMPDのURLに付加させるパラメータの形式を規定する。パラメータの形式には、クエリパラメータやテンプレート等がある。図7に示した例では、「style」要素に「template」が指定されており、このパラメータはテンプレートの形式でコンテンツ再生装置20に記述させることを示している。
<doc>タグで囲まれた部分には、このParameter
Descriptionに関する情報が記述される。図7には、このParameter Descriptionは、パラメータ「degree」についての詳細であり、パン角度の最大値、最小値、増加量を指定することが示されている。
コンテンツ再生装置20は、図7に示した内容に基づいてパラメータを付加する。例えばコンテンツ再生装置20は、パン角度が40度の方向から撮像した映像を要求する場合は、URLを「http://cdn1.example.com/camera1/pan-40」と指定して通信部220から当該URLにアクセスする。コンテンツサーバ10は、コンテンツ再生装置20からの要求に基づいてネットワークカメラ11のパン角度を40度に指定して、ネットワークカメラ11が撮像した映像をコンテンツ再生装置20へ送信することができる。
別の例を示す。以下では、ネットワークカメラ11が撮像する映像を取得するためのURLが「http://cdn1.example.com/camera1/」とMPDに記述されており、そのMPDの<AdaptationSet>タグのEssentialProperty要素に「schemeIdUri=’urn:ZoomScaleDef’」と指定され、SegmentTemplate要素の属性「pd」にParameter Descriptionとして「urn:ZoomScaleDef」と指定されている例を説明する。
図8は、上述のParameter Descriptionである「urn:ZoomScaleDef」の内容を示す説明図である。このParameter Descriptionは、ネットワークカメラ11のズーム倍率を指定するための定義情報である。
例えば、コンテンツ再生装置20は、ズーム倍率が3倍の映像を要求する場合は、URLを「http://cdn1.example.com/camera1/zoom-3」と指定して通信部220から当該URLにアクセスする。コンテンツサーバ10は、コンテンツ再生装置20からの要求に基づいてネットワークカメラ11のズーム倍率を3倍に指定して、ネットワークカメラ11が撮像した映像をコンテンツ再生装置20へ送信することができる。
図9は、上述してきたParameter Descriptionを参照するよう構成されているMPDの例を示す説明図である。上記非特許文献3では、Parameter要素を導入して、そのParameter要素のid属性にテンプレートとして利用するパラメータの名前(図9の例では「angle」)を指定し、descriptorId属性から、EssentialProperty(対象のMPDでサポートされるべきdescriptorを指定する要素)を参照するよう提案している。しかし、上記非特許文献2ではその先の定義については提案されていない。
そこで、その先の定義を上述のParameter Descriptionを利用していたのが、図9に示したMPDである。schemeIdUri要素で指定された「urn:PanAngleDef」は、図7に示したParameter
Descriptionである。このようにMPDが定義されていることで、コンテンツ再生装置20は、http://cdn1.example.com/camera1/pan-40というアドレスにアクセスしてコンテンツを取得することが出来る。Parameter Descriptionに標準の記述方式を利用することにより、既にある標準のフレームワークを利用することができるので、URL署名等の機能追加が容易となる。
上述の一連の処理をより詳細に説明する。図10A及び図10Bは、上述の一連の処理を詳細に示すシーケンス図である。図10A及び図10Bに示したシーケンス図は、コンテンツサーバ13からコンテンツ再生装置20へMPDのURLの情報を送り、コンテンツ再生装置20がMPDのURLに基づいてネットワークカメラ11からコンテンツを取得し、ネットワークカメラ11が撮像した映像を再生する際の動作を示したものである。
コンテンツ再生装置20がコンテンツを再生部240で再生しようとする場合、まずコンテンツ再生装置20は、MPDのURLをコンテンツサーバ13から取得する(ステップS101)。ステップS101の取得は、例えば再生部240が通信部220を通じて実行する。コンテンツ再生装置20は、MPDのURLをコンテンツサーバ13から取得すると、続いてURLパラメータの参照を内包するMPDかどうか判断する(ステップS102)。ステップS102の判断は再生部240が実行し得る。URLパラメータの参照を内包するMPDとは、例えば図9に示した「urn:PanAngleDef」のようなパラメータを含んだMPDのことをいう。
ステップS102の判断の結果、ステップS101で取得したMPDのURLが、URLパラメータの参照を内包するMPDで無い場合は、コンテンツ再生装置20はhttpによりMPDのURLをコンテンツサーバ13に要求する(ステップS103)。ステップS103の要求は、例えば再生部240が通信部220を通じて実行する。例えば「http://a.com/x.mpd」というURLをコンテンツ再生装置20が取得した場合は、コンテンツ再生装置20はhttp-requestにより「http://a.com/x.mpd」をコンテンツサーバ13に要求する。
コンテンツ再生装置20からMPDのURLの要求を受信したコンテンツサーバ13は、コンテンツ再生装置20から取得したい状態情報、例えば上述の例ではネットワークカメラ11のアングル情報を決定し、対応するParameter Descriptionを記憶部310に照会する(ステップS104)。記憶部310は、当該Parameter DescriptionのURIを応答する(ステップS105)。上述の例に当てはめれば、記憶部310からは、コンテンツサーバ10からの照会に応じて、「urn:PanAngleDef」というURIが返される。
記憶部310からの応答を受信したコンテンツサーバ10は、MPD内に、Parameter DescriptionのURI(urn:PanAngleDef)を格納する。またコンテンツサーバ10は、SegmentTemplate要素の属性pdを追加してMPDを更新し(例えばy.mpdとする)、その更新したMPDを指し示すMPDのURL(http://a.com/y.mpd)を、http-response-redirectによりコンテンツ再生装置20に応答する(ステップS106)。
コンテンツサーバ13からの応答を受信したコンテンツ再生装置20は、更新されたMPDのURLをhttpによりコンテンツサーバ10に要求する(ステップS107)。上述の例に当てはめれば、コンテンツ再生装置20はhttp-requestにより「http://a.com/y.mpd」というMPDのURLをコンテンツサーバ10に要求する。
コンテンツ再生装置20からの要求を受信したコンテンツサーバ10は、当該MPDの本体をコンテンツ再生装置20へ応答する(ステップS108)。
MPDの本体がコンテンツサーバ10から送られると(または上記ステップS102の判断の結果、ステップS101で取得したURLパラメータの参照を内包するMPDであった場合は)、MPDの本体をコンテンツサーバ10から送られたコンテンツ再生装置20は、その送られたMPDを解釈する(ステップS109)。ステップS109のMPDの解釈は例えば再生部240が実行し得る。コンテンツ再生装置20は、コンテンツサーバ10から送られたMPDを解釈して、再生する対象のAdaptationSet、またはRepresentation/SubRepresentationを決定する。
MPDの解釈により再生する対象のAdaptationSet、またはRepresentation/SubRepresentationを決定すると、コンテンツ再生装置20は、再生する対象に対する検知処理を実行する(ステップS110)。ステップS110の検知処理は例えば再生部240が実行し得る。具体的には、コンテンツ再生装置20は、当該AdaptationSet、またはRepresentation/SubRepresentationにEssentialPropertyがあり、EssentialPropertyにそのschemeIdUri属性の値が指定されており(例えばurn:PanAngleDef)、schemeIdUri属性で指定されるURIにて参照されるParameter
Descriptionの解釈が再生処理の上で必須となることを検知する。またコンテンツ再生装置20は、そのURIがURLパラメータの挿入を意味するURIとなっていることを検知する。
コンテンツ再生装置20は、再生する対象に対する検知処理を実行すると、続いてURIを記憶する(ステップS111)。具体的には、コンテンツ再生装置20はSegmentTemplate要素の属性pdにて指定されたURI(urn:PanAngleDef)を記憶する。URIの記憶処理は例えば再生部240が実行する。
コンテンツ再生装置20は、ステップS111でURIを記憶すると、続いてURLパラメータで指定されたURI(例えばurn:PanAngleDef)により、Parameter Descriptionを記憶部310に対し照会する(ステップS112)。ステップS112の照会処理は、例えば再生部240が通信部220を通じて実行する。記憶部310は、例えばWADLにて記述された当該Parameter
Descriptionの本体を、コンテンツ再生装置20に応答する(ステップS113)。
コンテンツ再生装置20は、記憶部310からParameter Descriptionの本体を取得すると、パラメータの構成方法を決定し、パラメータに格納する内容を取得する(ステップS114)。ステップS114の処理は、例えば再生部240が実行し得る。例えばパラメータにネットワークカメラ11のアングルのパラメータを格納する場合は、コンテンツ再生装置20は、ユーザとの対話処理等によりネットワークカメラ11のアングルの値をパラメータに格納する。
コンテンツ再生装置20は、パラメータに格納する内容を取得すると、パラメータが付加されたセグメントのURLを生成し、httpによりコンテンツサーバ10へ要求する(ステップS115)。具体的には、コンテンツ再生装置20は、当該SegmentTemplate要素のmedia属性に記載された規則に則って、URLパラメータが付加されたセグメントのURLを生成する。例えば図9の「$」で囲まれた「angle」というSubstitutionParameterの部分に上記パラメータを挿入するという規則があれば、コンテンツ再生装置20は、その規則に則って、パラメータが付加されたセグメントのURLを生成する。コンテンツ再生装置20は、ステップS115の処理により、「http://cdn1.example.com/camera1/pan-40」というセグメントのURLを生成する。
コンテンツ再生装置20から要求を受けたコンテンツサーバ10は、URLパラメータを解釈して最適なセグメントの本体をコンテンツ再生装置20へ応答する(ステップS116)。コンテンツ再生装置20は、コンテンツサーバ10から受信したセグメントを再生する(ステップS117)。
コンテンツ再生装置20は、コンテンツサーバ10との間で、上述した一連の処理を実行することで、MPDに記述されているURLにパラメータを付加し、http://cdn1.example.com/camera1/pan-40というアドレスにアクセスして、角度が40度の方向を向いているネットワークカメラ11が撮像する映像を取得し、取得した映像を再生することが出来る。
<第1実施の形態>
(本開示を適用したコンピュータの説明)
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
図11は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
コンピュータにおいて、CPU(Central Processing Unit)201,ROM(Read Only Memory)202,RAM(Random Access Memory)203は、バス204により相互に接続されている。
バス204には、さらに、入出力インタフェース205が接続されている。入出力インタフェース205には、入力部206、出力部207、記憶部208、通信部209、及びドライブ210が接続されている。
入力部206は、キーボード、マウス、マイクロホンなどよりなる。出力部207は、ディスプレイ、スピーカなどよりなる。記憶部208は、ハードディスクや不揮発性のメモリなどよりなる。通信部209は、ネットワークインタフェースなどよりなる。ドライブ210は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア211を駆動する。
以上のように構成されるコンピュータでは、CPU201が、例えば、記憶部208に記憶されているプログラムを、入出力インタフェース205及びバス204を介して、RAM203にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU201)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア211に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
コンピュータでは、プログラムは、リムーバブルメディア211をドライブ210に装着することにより、入出力インタフェース205を介して、記憶部208にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部209で受信し、記憶部208にインストールすることができる。その他、プログラムは、ROM202や記憶部208に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
<第2実施の形態>
(多視点画像符号化・多視点画像復号への適用)
上述した一連の処理は、多視点画像符号化・多視点画像復号に適用することができる。図12は、多視点画像符号化方式の一例を示す。
図12に示されるように、多視点画像は、複数の視点(ビュー(view))の画像を含む。この多視点画像の複数のビューは、他のビューの画像を利用せずに自身のビューの画像のみを用いて符号化・復号を行うベースビューと、他のビューの画像を利用して符号化・復号を行うノンベースビューとによりなる。ノンベースビューは、ベースビューの画像利用するようにしても良いし、他のノンベースビューの画像を利用するようにしてもよい。
このようにすることにより、冗長な情報の伝送を抑制し、伝送する情報量(符号量)を低減することができる(つまり、符号化効率の低減を抑制することができる)。
(多視点画像符号化装置)
図13は、上述した多視点画像符号化を行う多視点画像符号化装置を示す図である。図13に示されるように、多視点画像符号化装置600は、符号化部601、符号化部602、および多重化部603を有する。
符号化部601は、ベースビュー画像を符号化し、ベースビュー画像符号化ストリームを生成する。符号化部602は、ノンベースビュー画像を符号化し、ノンベースビュー画像符号化ストリームを生成する。多重化部603は、符号化部601において生成されたベースビュー画像符号化ストリームと、符号化部602において生成されたノンベースビュー画像符号化ストリームとを多重化し、多視点画像符号化ストリームを生成する。
この多視点画像符号化装置600の符号化部601および符号化部602に対して、符号化装置10(図19)を適用することができる。つまり、各ビューに対する符号化において、エンハンスメントレイヤと解像度情報のデフォルトのマッピングを改善できる。また、符号化部601および符号化部602は、互いに同一のフラグやパラメータ(例えば、画像間の処理に関するシンタクス要素等)を用いて、符号化を行うことができる(すなわち、フラグやパラメータを共有することができる)ので、符号化効率の低減を抑制することができる。
(多視点画像復号装置)
図14は、上述した多視点画像復号を行う多視点画像復号装置を示す図である。図14に示されるように、多視点画像復号装置610は、逆多重化部611、復号部612、および復号部613を有する。
逆多重化部611は、ベースビュー画像符号化ストリームとノンベースビュー画像符号化ストリームとが多重化された多視点画像符号化ストリームを逆多重化し、ベースビュー画像符号化ストリームと、ノンベースビュー画像符号化ストリームとを抽出する。復号部612は、逆多重化部611により抽出されたベースビュー画像符号化ストリームを復号し、ベースビュー画像を得る。復号部613は、逆多重化部611により抽出されたノンベースビュー画像符号化ストリームを復号し、ノンベースビュー画像を得る。
この多視点画像復号装置610の復号部612および復号部613に対して、復号装置110(図25)を適用することができる。つまり、エンハンスメントレイヤと解像度情報のデフォルトのマッピングを改善できる。また、復号部612および復号部613は、互いに同一のフラグやパラメータ(例えば、画像間の処理に関するシンタクス要素等)を用いて、復号を行うことができる(すなわち、フラグやパラメータを共有することができる)ので、符号化効率の低減を抑制することができる。
<第3実施の形態>
(階層画像符号化・階層画像復号への適用)
上述した一連の処理は、階層画像符号化・階層画像復号(スケーラブル符号化・スケーラブル復号)に適用することができる。図15は、階層画像符号化方式の一例を示す。
階層画像符号化(スケーラブル符号化)は、画像データを、所定のパラメータについてスケーラブル(scalable)機能を有するように、画像を複数レイヤ化(階層化)し、レイヤ毎に符号化するものである。階層画像復号(スケーラブル復号)は、その階層画像符号化に対応する復号である。
図15に示されるように、画像の階層化においては、スケーラブル機能を有する所定のパラメータを基準として1の画像が複数の画像(レイヤ)に分割される。つまり、階層化された画像(階層画像)は、その所定のパラメータの値が互いに異なる複数の階層(レイヤ)の画像を含む。この階層画像の複数のレイヤは、他のレイヤの画像を利用せずに自身のレイヤの画像のみを用いて符号化・復号を行うベースレイヤと、他のレイヤの画像を利用して符号化・復号を行うノンベースレイヤ(エンハンスメントレイヤとも称する)とによりなる。ノンベースレイヤは、ベースレイヤの画像を利用するようにしても良いし、他のノンベースレイヤの画像を利用するようにしてもよい。
一般的に、ノンベースレイヤは、冗長性が低減されるように、自身の画像と、他のレイヤの画像との差分画像のデータ(差分データ)により構成される。例えば、1の画像をベースレイヤとノンベースレイヤ(エンハンスメントレイヤとも称する)に2階層化した場合、ベースレイヤのデータのみで元の画像よりも低品質な画像が得られ、ベースレイヤのデータとノンベースレイヤのデータを合成することで、元の画像(すなわち高品質な画像)が得られる。
このように画像を階層化することにより、状況に応じて多様な品質の画像を容易に得ることができる。例えば携帯電話のような、処理能力の低い端末に対しては、ベースレイヤ(base layer)のみの画像圧縮情報を伝送し、空間時間解像度の低い、或いは、画質の良くない動画像を再生し、テレビやパーソナルコンピュータのような、処理能力の高い端末に対しては、ベースレイヤ(base layer)に加えて、エンハンスメントレイヤ(enhancement
layer)の画像圧縮情報を伝送し、空間時間解像度の高い、或いは、画質の高い動画像を再生するといったように、トランスコード処理を行うことなく、端末やネットワークの能力に応じた画像圧縮情報を、サーバから送信することが可能となる。
このようにすることにより、冗長な情報の伝送を抑制し、伝送する情報量(符号量)を低減することができる(つまり、符号化効率の低減を抑制することができる)。
(スケーラブルなパラメータ)
このような階層画像符号化・階層画像復号(スケーラブル符号化・スケーラブル復号)において、スケーラブル(scalable)機能を有するパラメータは、任意である。例えば、図16に示されるような空間解像度をそのパラメータとしてもよい(spatial scalability)。このスペーシャルスケーラビリティ(spatial
scalability)の場合、レイヤ毎に画像の解像度が異なる。つまり、この場合、図16に示されるように、各ピクチャが、元の画像より空間的に低解像度のベースレイヤと、ベースレイヤと合成することにより元の空間解像度が得られるエンハンスメントレイヤの2階層に階層化される。もちろん、この階層数は一例であり、任意の階層数に階層化することができる。
また、このようなスケーラブル性を持たせるパラメータとして、他には、例えば、図17に示されるような、時間解像度を適用しても良い(temporal scalability)。このテンポラルスケーラビリティ(temporal
scalability)の場合、レイヤ毎にフレームレートが異なる。つまり、この場合、図17に示されるように、各ピクチャが、元の動画像より低フレームレートのベースレイヤと、ベースレイヤと合成することにより元のフレームレートが得られるエンハンスメントレイヤの2階層に階層化される。もちろん、この階層数は一例であり、任意の階層数に階層化することができる。
さらに、このようなスケーラブル性を持たせるパラメータとして、例えば、信号雑音比(SNR(Signal to Noise ratio))を適用しても良い(SNR scalability)。このSNRスケーラビリティ(SNR scalability)の場合、レイヤ毎にSN比が異なる。つまり、この場合、図18に示されるように、各ピクチャが、元の画像よりSNRの低いベースレイヤと、ベースレイヤと合成することにより元のSNRが得られるエンハンスメントレイヤの2階層に階層化される。もちろん、この階層数は一例であり、任意の階層数に階層化することができる。
スケーラブル性を持たせるパラメータは、上述した例以外であっても、もちろんよい。例えば、スケーラブル性を持たせるパラメータとして、ビット深度を用いることもできる(bit-depth scalability)。このビット深度スケーラビリティ(bit-depth
scalability)の場合、レイヤ毎にビット深度が異なる。この場合、例えば、ベースレイヤ(base
layer)が8ビット(bit)画像よりなり、これにエンハンスメントレイヤ(enhancement layer)を加えることにより、10ビット(bit)画像が得られるようにすることができる。
また、スケーラブル性を持たせるパラメータとして、クロマフォーマットを用いることもできる(chroma scalability)。このクロマスケーラビリティ(chroma
scalability)の場合、レイヤ毎にクロマフォーマットが異なる。この場合、例えば、ベースレイヤ(base
layer)が4:2:0フォーマットのコンポーネント画像よりなり、これにエンハンスメントレイヤ(enhancement layer)を加えることにより、4:2:2フォーマットのコンポーネント画像が得られるようにすることができる。
(階層画像符号化装置)
図19は、上述した階層画像符号化を行う階層画像符号化装置を示す図である。図19に示されるように、階層画像符号化装置620は、符号化部621、符号化部622、および多重化部623を有する。
符号化部621は、ベースレイヤ画像を符号化し、ベースレイヤ画像符号化ストリームを生成する。符号化部622は、ノンベースレイヤ画像を符号化し、ノンベースレイヤ画像符号化ストリームを生成する。多重化部623は、符号化部621において生成されたベースレイヤ画像符号化ストリームと、符号化部622において生成されたノンベースレイヤ画像符号化ストリームとを多重化し、階層画像符号化ストリームを生成する。
この階層画像符号化装置620の符号化部621および符号化部622に対して、符号化装置10(図19)を適用することができる。つまり、エンハンスメントレイヤと解像度情報のデフォルトのマッピングを改善できる。また、符号化部621および符号化部622は、互いに同一のフラグやパラメータ(例えば、画像間の処理に関するシンタクス要素等)を用いて、イントラ予測のフィルタ処理の制御等を行うことができる(すなわち、フラグやパラメータを共有することができる)ので、符号化効率の低減を抑制することができる。
(階層画像復号装置)
図20は、上述した階層画像復号を行う階層画像復号装置を示す図である。図20に示されるように、階層画像復号装置630は、逆多重化部631、復号部632、および復号部633を有する。
逆多重化部631は、ベースレイヤ画像符号化ストリームとノンベースレイヤ画像符号化ストリームとが多重化された階層画像符号化ストリームを逆多重化し、ベースレイヤ画像符号化ストリームと、ノンベースレイヤ画像符号化ストリームとを抽出する。復号部632は、逆多重化部631により抽出されたベースレイヤ画像符号化ストリームを復号し、ベースレイヤ画像を得る。復号部633は、逆多重化部631により抽出されたノンベースレイヤ画像符号化ストリームを復号し、ノンベースレイヤ画像を得る。
この階層画像復号装置630の復号部632および復号部633に対して、復号装置110(図25)を適用することができる。つまり、エンハンスメントレイヤと解像度情報のデフォルトのマッピングを改善できる。また、復号部612および復号部613は、互いに同一のフラグやパラメータ(例えば、画像間の処理に関するシンタクス要素等)を用いて、復号を行うことができる(すなわち、フラグやパラメータを共有することができる)ので、符号化効率の低減を抑制することができる。
<第4実施の形態>
(テレビジョン装置の構成例)
図21は、本開示を適用したテレビジョン装置の概略構成を例示している。テレビジョン装置900は、アンテナ901、チューナ902、デマルチプレクサ903、デコーダ904、映像信号処理部905、表示部906、音声信号処理部907、スピーカ908、外部インタフェース部909を有している。さらに、テレビジョン装置900は、制御部910、ユーザインタフェース部911等を有している。
チューナ902は、アンテナ901で受信された放送波信号から所望のチャンネルを選局して復調を行い、得られた符号化ビットストリームをデマルチプレクサ903に出力する。
デマルチプレクサ903は、符号化ビットストリームから視聴対象である番組の映像や音声のパケットを抽出して、抽出したパケットのデータをデコーダ904に出力する。また、デマルチプレクサ903は、EPG(Electronic Program Guide)等のデータのパケットを制御部910に供給する。なお、スクランブルが行われている場合、デマルチプレクサ等でスクランブルの解除を行う。
デコーダ904は、パケットの復号化処理を行い、復号処理化によって生成された映像データを映像信号処理部905、音声データを音声信号処理部907に出力する。
映像信号処理部905は、映像データに対して、ノイズ除去やユーザ設定に応じた映像処理等を行う。映像信号処理部905は、表示部906に表示させる番組の映像データや、ネットワークを介して供給されるアプリケーションに基づく処理による画像データなどを生成する。また、映像信号処理部905は、項目の選択などのメニュー画面等を表示するための映像データを生成し、それを番組の映像データに重畳する。映像信号処理部905は、このようにして生成した映像データに基づいて駆動信号を生成して表示部906を駆動する。
表示部906は、映像信号処理部905からの駆動信号に基づき表示デバイス(例えば液晶表示素子等)を駆動して、番組の映像などを表示させる。
音声信号処理部907は、音声データに対してノイズ除去などの所定の処理を施し、処理後の音声データのD/A変換処理や増幅処理を行いスピーカ908に供給することで音声出力を行う。
外部インタフェース部909は、外部機器やネットワークと接続するためのインタフェースであり、映像データや音声データ等のデータ送受信を行う。
制御部910にはユーザインタフェース部911が接続されている。ユーザインタフェース部911は、操作スイッチやリモートコントロール信号受信部等で構成されており、ユーザ操作に応じた操作信号を制御部910に供給する。
制御部910は、CPU(Central Processing Unit)やメモリ等を用いて構成されている。メモリは、CPUにより実行されるプログラムやCPUが処理を行う上で必要な各種のデータ、EPGデータ、ネットワークを介して取得されたデータ等を記憶する。メモリに記憶されているプログラムは、テレビジョン装置900の起動時などの所定タイミングでCPUにより読み出されて実行される。CPUは、プログラムを実行することで、テレビジョン装置900がユーザ操作に応じた動作となるように各部を制御する。
なお、テレビジョン装置900では、チューナ902、デマルチプレクサ903、映像信号処理部905、音声信号処理部907、外部インタフェース部909等と制御部910を接続するためバス912が設けられている。
このように構成されたテレビジョン装置では、デコーダ904に本願の復号装置(復号方法)の機能が設けられる。このため、符号化ストリームの復号処理において、エンハンスメントレイヤと解像度情報のデフォルトのマッピングを改善できる。
<第5実施の形態>
(携帯電話機の構成例)
図22は、本開示を適用した携帯電話機の概略構成を例示している。携帯電話機920は、通信部922、音声コーデック923、カメラ部926、画像処理部927、多重分離部928、記録再生部929、表示部930、制御部931を有している。これらは、バス933を介して互いに接続されている。
また、通信部922にはアンテナ921が接続されており、音声コーデック923には、スピーカ924とマイクロホン925が接続されている。さらに制御部931には、操作部932が接続されている。
携帯電話機920は、音声通話モードやデータ通信モード等の各種モードで、音声信号の送受信、電子メールや画像データの送受信、画像撮影、またはデータ記録等の各種動作を行う。
音声通話モードにおいて、マイクロホン925で生成された音声信号は、音声コーデック923で音声データへの変換やデータ圧縮が行われて通信部922に供給される。通信部922は、音声データの変調処理や周波数変換処理等を行い、送信信号を生成する。また、通信部922は、送信信号をアンテナ921に供給して図示しない基地局へ送信する。また、通信部922は、アンテナ921で受信した受信信号の増幅や周波数変換処理および復調処理等を行い、得られた音声データを音声コーデック923に供給する。音声コーデック923は、音声データのデータ伸張やアナログ音声信号への変換を行いスピーカ924に出力する。
また、データ通信モードにおいて、メール送信を行う場合、制御部931は、操作部932の操作によって入力された文字データを受け付けて、入力された文字を表示部930に表示する。また、制御部931は、操作部932におけるユーザ指示等に基づいてメールデータを生成して通信部922に供給する。通信部922は、メールデータの変調処理や周波数変換処理等を行い、得られた送信信号をアンテナ921から送信する。また、通信部922は、アンテナ921で受信した受信信号の増幅や周波数変換処理および復調処理等を行い、メールデータを復元する。このメールデータを、表示部930に供給して、メール内容の表示を行う。
なお、携帯電話機920は、受信したメールデータを、記録再生部929で記憶媒体に記憶させることも可能である。記憶媒体は、書き換え可能な任意の記憶媒体である。例えば、記憶媒体は、RAMや内蔵型フラッシュメモリ等の半導体メモリ、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、USB(Universal Serial Bus)メモリ、またはメモリカード等のリムーバブルメディアである。
データ通信モードにおいて画像データを送信する場合、カメラ部926で生成された画像データを、画像処理部927に供給する。画像処理部927は、画像データの符号化処理を行い、符号化データを生成する。
多重分離部928は、画像処理部927で生成された符号化データと、音声コーデック923から供給された音声データを所定の方式で多重化して通信部922に供給する。通信部922は、多重化データの変調処理や周波数変換処理等を行い、得られた送信信号をアンテナ921から送信する。また、通信部922は、アンテナ921で受信した受信信号の増幅や周波数変換処理および復調処理等を行い、多重化データを復元する。この多重化データを多重分離部928に供給する。多重分離部928は、多重化データの分離を行い、符号化データを画像処理部927、音声データを音声コーデック923に供給する。画像処理部927は、符号化データの復号化処理を行い、画像データを生成する。この画像データを表示部930に供給して、受信した画像の表示を行う。音声コーデック923は、音声データをアナログ音声信号に変換してスピーカ924に供給して、受信した音声を出力する。
このように構成された携帯電話装置では、画像処理部927に本願の符号化装置および復号装置(符号化方法および復号方法)の機能が設けられる。このため、エンハンスメントレイヤと解像度情報のデフォルトのマッピングを改善できる。
<第6実施の形態>
(記録再生装置の構成例)
図23は、本開示を適用した記録再生装置の概略構成を例示している。記録再生装置940は、例えば受信した放送番組のオーディオデータとビデオデータを、記録媒体に記録して、その記録されたデータをユーザの指示に応じたタイミングでユーザに提供する。また、記録再生装置940は、例えば他の装置からオーディオデータやビデオデータを取得し、それらを記録媒体に記録させることもできる。さらに、記録再生装置940は、記録媒体に記録されているオーディオデータやビデオデータを復号して出力することで、モニタ装置等において画像表示や音声出力を行うことができるようにする。
記録再生装置940は、チューナ941、外部インタフェース部942、エンコーダ943、HDD(Hard Disk Drive)部944、ディスクドライブ945、セレクタ946、デコーダ947、OSD(On-Screen Display)部948、制御部949、ユーザインタフェース部950を有している。
チューナ941は、図示しないアンテナで受信された放送信号から所望のチャンネルを選局する。チューナ941は、所望のチャンネルの受信信号を復調して得られた符号化ビットストリームをセレクタ946に出力する。
外部インタフェース部942は、IEEE1394インタフェース、ネットワークインタフェース部、USBインタフェース、フラッシュメモリインタフェース等の少なくともいずれかで構成されている。外部インタフェース部942は、外部機器やネットワーク、メモリカード等と接続するためのインタフェースであり、記録する映像データや音声データ等のデータ受信を行う。
エンコーダ943は、外部インタフェース部942から供給された映像データや音声データが符号化されていないとき所定の方式で符号化を行い、符号化ビットストリームをセレクタ946に出力する。
HDD部944は、映像や音声等のコンテンツデータ、各種プログラムやその他のデータ等を内蔵のハードディスクに記録し、また再生時等にそれらを当該ハードディスクから読み出す。
ディスクドライブ945は、装着されている光ディスクに対する信号の記録および再生を行う。光ディスク、例えばDVDディスク(DVD−Video、DVD−RAM、DVD−R、DVD−RW、DVD+R、DVD+RW等)やBlu−ray(登録商標)ディスク等である。
セレクタ946は、映像や音声の記録時には、チューナ941またはエンコーダ943からのいずれかの符号化ビットストリームを選択して、HDD部944やディスクドライブ945のいずれかに供給する。また、セレクタ946は、映像や音声の再生時に、HDD部944またはディスクドライブ945から出力された符号化ビットストリームをデコーダ947に供給する。
デコーダ947は、符号化ビットストリームの復号化処理を行う。デコーダ947は、復号処理化を行うことにより生成された映像データをOSD部948に供給する。また、デコーダ947は、復号処理化を行うことにより生成された音声データを出力する。
OSD部948は、項目の選択などのメニュー画面等を表示するための映像データを生成し、それをデコーダ947から出力された映像データに重畳して出力する。
制御部949には、ユーザインタフェース部950が接続されている。ユーザインタフェース部950は、操作スイッチやリモートコントロール信号受信部等で構成されており、ユーザ操作に応じた操作信号を制御部949に供給する。
制御部949は、CPUやメモリ等を用いて構成されている。メモリは、CPUにより実行されるプログラムやCPUが処理を行う上で必要な各種のデータを記憶する。メモリに記憶されているプログラムは、記録再生装置940の起動時などの所定タイミングでCPUにより読み出されて実行される。CPUは、プログラムを実行することで、記録再生装置940がユーザ操作に応じた動作となるように各部を制御する。
このように構成された記録再生装置では、エンコーダ943に本願の符号化装置(符号化方法)の機能が設けられる。このため、符号化ストリームの符号化において、エンハンスメントレイヤと解像度情報のデフォルトのマッピングを改善できる。また、デコーダ947に本願の復号装置(復号方法)の機能が設けられる。このため、符号化ストリームの復号において、エンハンスメントレイヤと解像度情報のデフォルトのマッピングを改善できる。
<第7実施の形態>
(撮像装置の構成例)
図24は、本開示を適用した撮像装置の概略構成を例示している。撮像装置960は、被写体を撮像し、被写体の画像を表示部に表示させたり、それを画像データとして、記録媒体に記録する。
撮像装置960は、光学ブロック961、撮像部962、カメラ信号処理部963、画像データ処理部964、表示部965、外部インタフェース部966、メモリ部967、メディアドライブ968、OSD部969、制御部970を有している。また、制御部970には、ユーザインタフェース部971が接続されている。さらに、画像データ処理部964や外部インタフェース部966、メモリ部967、メディアドライブ968、OSD部969、制御部970等は、バス972を介して接続されている。
光学ブロック961は、フォーカスレンズや絞り機構等を用いて構成されている。光学ブロック961は、被写体の光学像を撮像部962の撮像面に結像させる。撮像部962は、CCDまたはCMOSイメージセンサを用いて構成されており、光電変換によって光学像に応じた電気信号を生成してカメラ信号処理部963に供給する。
カメラ信号処理部963は、撮像部962から供給された電気信号に対してニー補正やガンマ補正、色補正等の種々のカメラ信号処理を行う。カメラ信号処理部963は、カメラ信号処理後の画像データを画像データ処理部964に供給する。
画像データ処理部964は、カメラ信号処理部963から供給された画像データの符号化処理を行う。画像データ処理部964は、符号化処理を行うことにより生成された符号化データを外部インタフェース部966やメディアドライブ968に供給する。また、画像データ処理部964は、外部インタフェース部966やメディアドライブ968から供給された符号化データの復号化処理を行う。画像データ処理部964は、復号化処理を行うことにより生成された画像データを表示部965に供給する。また、画像データ処理部964は、カメラ信号処理部963から供給された画像データを表示部965に供給する処理や、OSD部969から取得した表示用データを、画像データに重畳させて表示部965に供給する。
OSD部969は、記号、文字、または図形からなるメニュー画面やアイコンなどの表示用データを生成して画像データ処理部964に出力する。
外部インタフェース部966は、例えば、USB入出力端子などで構成され、画像の印刷を行う場合に、プリンタと接続される。また、外部インタフェース部966には、必要に応じてドライブが接続され、磁気ディスク、光ディスク等のリムーバブルメディアが適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて、インストールされる。さらに、外部インタフェース部966は、LANやインターネット等の所定のネットワークに接続されるネットワークインタフェースを有する。制御部970は、例えば、ユーザインタフェース部971からの指示にしたがって、メディアドライブ968から符号化データを読み出し、それを外部インタフェース部966から、ネットワークを介して接続される他の装置に供給させることができる。また、制御部970は、ネットワークを介して他の装置から供給される符号化データや画像データを、外部インタフェース部966を介して取得し、それを画像データ処理部964に供給したりすることができる。
メディアドライブ968で駆動される記録メディアとしては、例えば、磁気ディスク、光磁気ディスク、光ディスク、または半導体メモリ等の、読み書き可能な任意のリムーバブルメディアが用いられる。また、記録メディアは、リムーバブルメディアとしての種類も任意であり、テープデバイスであってもよいし、ディスクであってもよいし、メモリカードであってもよい。もちろん、非接触IC(Integrated Circuit)カード等であってもよい。
また、メディアドライブ968と記録メディアを一体化し、例えば、内蔵型ハードディスクドライブやSSD(Solid State Drive)等のように、非可搬性の記憶媒体により構成されるようにしてもよい。
制御部970は、CPUを用いて構成されている。メモリ部967は、制御部970により実行されるプログラムや制御部970が処理を行う上で必要な各種のデータ等を記憶する。メモリ部967に記憶されているプログラムは、撮像装置960の起動時などの所定タイミングで制御部970により読み出されて実行される。制御部970は、プログラムを実行することで、撮像装置960がユーザ操作に応じた動作となるように各部を制御する。
このように構成された撮像装置では、画像データ処理部964に本願の符号化装置および復号装置(符号化方法および復号方法)の機能が設けられる。このため、符号化ストリームの符号化または復号において、エンハンスメントレイヤと解像度情報のデフォルトのマッピングを改善できる。
<スケーラブル符号化の応用例>
(第1のシステム)
次に、スケーラブル符号化(階層符号化)されたスケーラブル符号化データの具体的な利用例について説明する。スケーラブル符号化は、例えば、図25に示される例のように、伝送するデータの選択のために利用される。
図25に示されるデータ伝送システム1000において、配信サーバ1002は、スケーラブル符号化データ記憶部1001に記憶されているスケーラブル符号化データを読み出し、ネットワーク1003を介して、パーソナルコンピュータ1004、AV機器1005、タブレットデバイス1006、および携帯電話機1007等の端末装置に配信する。
その際、配信サーバ1002は、端末装置の能力や通信環境等に応じて、適切な品質の符号化データを選択して伝送する。配信サーバ1002が不要に高品質なデータを伝送しても、端末装置において高画質な画像を得られるとは限らず、遅延やオーバーフローの発生要因となる恐れがある。また、不要に通信帯域を占有したり、端末装置の負荷を不要に増大させたりしてしまう恐れもある。逆に、配信サーバ1002が不要に低品質なデータを伝送しても、端末装置において十分な画質の画像を得ることができない恐れがある。そのため、配信サーバ1002は、スケーラブル符号化データ記憶部1001に記憶されているスケーラブル符号化データを、適宜、端末装置の能力や通信環境等に対して適切な品質の符号化データとして読み出し、伝送する。
例えば、スケーラブル符号化データ記憶部1001は、スケーラブルに符号化されたスケーラブル符号化データ(BL+EL)1011を記憶するとする。このスケーラブル符号化データ(BL+EL)1011は、ベースレイヤとエンハンスメントレイヤの両方を含む符号化データであり、復号することにより、ベースレイヤの画像およびエンハンスメントレイヤの画像の両方を得ることができるデータである。
配信サーバ1002は、データを伝送する端末装置の能力や通信環境等に応じて、適切なレイヤを選択し、そのレイヤのデータを読み出す。例えば、配信サーバ1002は、処理能力の高いパーソナルコンピュータ1004やタブレットデバイス1006に対しては、高品質なスケーラブル符号化データ(BL+EL)1011をスケーラブル符号化データ記憶部1001から読み出し、そのまま伝送する。これに対して、例えば、配信サーバ1002は、処理能力の低いAV機器1005や携帯電話機1007に対しては、スケーラブル符号化データ(BL+EL)1011からベースレイヤのデータを抽出し、スケーラブル符号化データ(BL+EL)1011と同じコンテンツのデータであるが、スケーラブル符号化データ(BL+EL)1011よりも低品質なスケーラブル符号化データ(BL)1012として伝送する。
このようにスケーラブル符号化データを用いることにより、データ量を容易に調整することができるので、遅延やオーバーフローの発生を抑制したり、端末装置や通信媒体の負荷の不要な増大を抑制したりすることができる。また、スケーラブル符号化データ(BL+EL)1011は、レイヤ間の冗長性が低減されているので、各レイヤの符号化データを個別のデータとする場合よりもそのデータ量を低減させることができる。したがって、スケーラブル符号化データ記憶部1001の記憶領域をより効率よく使用することができる。
なお、パーソナルコンピュータ1004乃至携帯電話機1007のように、端末装置には様々な装置を適用することができるので、端末装置のハードウエアの性能は、装置によって異なる。また、端末装置が実行するアプリケーションも様々であるので、そのソフトウエアの能力も様々である。さらに、通信媒体となるネットワーク1003も、例えばインターネットやLAN(Local Area Network)等、有線若しくは無線、またはその両方を含むあらゆる通信回線網を適用することができ、そのデータ伝送能力は様々である。さらに、他の通信等によっても変化する恐れがある。
そこで、配信サーバ1002は、データ伝送を開始する前に、データの伝送先となる端末装置と通信を行い、端末装置のハードウエア性能や、端末装置が実行するアプリケーション(ソフトウエア)の性能等といった端末装置の能力に関する情報、並びに、ネットワーク1003の利用可能帯域幅等の通信環境に関する情報を得るようにしてもよい。そして、配信サーバ1002が、ここで得た情報を基に、適切なレイヤを選択するようにしてもよい。
なお、レイヤの抽出は、端末装置において行うようにしてもよい。例えば、パーソナルコンピュータ1004が、伝送されたスケーラブル符号化データ(BL+EL)1011を復号し、ベースレイヤの画像を表示しても良いし、エンハンスメントレイヤの画像を表示しても良い。また、例えば、パーソナルコンピュータ1004が、伝送されたスケーラブル符号化データ(BL+EL)1011から、ベースレイヤのスケーラブル符号化データ(BL)1012を抽出し、記憶したり、他の装置に転送したり、復号してベースレイヤの画像を表示したりするようにしてもよい。
もちろん、スケーラブル符号化データ記憶部1001、配信サーバ1002、ネットワーク1003、および端末装置の数はいずれも任意である。また、以上においては、配信サーバ1002がデータを端末装置に伝送する例について説明したが、利用例はこれに限定されない。データ伝送システム1000は、スケーラブル符号化された符号化データを端末装置に伝送する際、端末装置の能力や通信環境等に応じて、適切なレイヤを選択して伝送するシステムであれば、任意のシステムに適用することができる。
(第2のシステム)
また、スケーラブル符号化は、例えば、図26に示される例のように、複数の通信媒体を介する伝送のために利用される。
図26に示されるデータ伝送システム1100において、放送局1101は、地上波放送1111により、ベースレイヤのスケーラブル符号化データ(BL)1121を伝送する。また、放送局1101は、有線若しくは無線またはその両方の通信網よりなる任意のネットワーク1112を介して、エンハンスメントレイヤのスケーラブル符号化データ(EL)1122を伝送する(例えばパケット化して伝送する)。
端末装置1102は、放送局1101が放送する地上波放送1111の受信機能を有し、この地上波放送1111を介して伝送されるベースレイヤのスケーラブル符号化データ(BL)1121を受け取る。また、端末装置1102は、ネットワーク1112を介した通信を行う通信機能をさらに有し、このネットワーク1112を介して伝送されるエンハンスメントレイヤのスケーラブル符号化データ(EL)1122を受け取る。
端末装置1102は、例えばユーザ指示等に応じて、地上波放送1111を介して取得したベースレイヤのスケーラブル符号化データ(BL)1121を、復号してベースレイヤの画像を得たり、記憶したり、他の装置に伝送したりする。
また、端末装置1102は、例えばユーザ指示等に応じて、地上波放送1111を介して取得したベースレイヤのスケーラブル符号化データ(BL)1121と、ネットワーク1112を介して取得したエンハンスメントレイヤのスケーラブル符号化データ(EL)1122とを合成して、スケーラブル符号化データ(BL+EL)を得たり、それを復号してエンハンスメントレイヤの画像を得たり、記憶したり、他の装置に伝送したりする。
以上のように、スケーラブル符号化データは、例えばレイヤ毎に異なる通信媒体を介して伝送させることができる。したがって、負荷を分散させることができ、遅延やオーバーフローの発生を抑制することができる。
また、状況に応じて、伝送に使用する通信媒体を、レイヤ毎に選択することができるようにしてもよい。例えば、データ量が比較的多いベースレイヤのスケーラブル符号化データ(BL)1121を帯域幅の広い通信媒体を介して伝送させ、データ量が比較的少ないエンハンスメントレイヤのスケーラブル符号化データ(EL)1122を帯域幅の狭い通信媒体を介して伝送させるようにしてもよい。また、例えば、エンハンスメントレイヤのスケーラブル符号化データ(EL)1122を伝送する通信媒体を、ネットワーク1112とするか、地上波放送1111とするかを、ネットワーク1112の利用可能帯域幅に応じて切り替えるようにしてもよい。もちろん、任意のレイヤのデータについて同様である。
このように制御することにより、データ伝送における負荷の増大を、より抑制することができる。
もちろん、レイヤ数は任意であり、伝送に利用する通信媒体の数も任意である。また、データ配信先となる端末装置1102の数も任意である。さらに、以上においては、放送局1101からの放送を例に説明したが、利用例はこれに限定されない。データ伝送システム1100は、スケーラブル符号化された符号化データを、レイヤを単位として複数に分割し、複数の回線を介して伝送するシステムであれば、任意のシステムに適用することができる。
(第3のシステム)
また、スケーラブル符号化は、例えば、図27に示される例のように、符号化データの記憶に利用される。
図27に示される撮像システム1200において、撮像装置1201は、被写体1211を撮像して得られた画像データをスケーラブル符号化し、スケーラブル符号化データ(BL+EL)1221として、スケーラブル符号化データ記憶装置1202に供給する。
スケーラブル符号化データ記憶装置1202は、撮像装置1201から供給されるスケーラブル符号化データ(BL+EL)1221を、状況に応じた品質で記憶する。例えば、通常時の場合、スケーラブル符号化データ記憶装置1202は、スケーラブル符号化データ(BL+EL)1221からベースレイヤのデータを抽出し、低品質でデータ量の少ないベースレイヤのスケーラブル符号化データ(BL)1222として記憶する。これに対して、例えば、注目時の場合、スケーラブル符号化データ記憶装置1202は、高品質でデータ量の多いスケーラブル符号化データ(BL+EL)1221のまま記憶する。
このようにすることにより、スケーラブル符号化データ記憶装置1202は、必要な場合のみ、画像を高画質に保存することができるので、画質劣化による画像の価値の低減を抑制しながら、データ量の増大を抑制することができ、記憶領域の利用効率を向上させることができる。
例えば、撮像装置1201が監視カメラであるとする。撮像画像に監視対象(例えば侵入者)が写っていない場合(通常時の場合)、撮像画像の内容は重要でない可能性が高いので、データ量の低減が優先され、その画像データ(スケーラブル符号化データ)は、低品質に記憶される。これに対して、撮像画像に監視対象が被写体1211として写っている場合(注目時の場合)、その撮像画像の内容は重要である可能性が高いので、画質が優先され、その画像データ(スケーラブル符号化データ)は、高品質に記憶される。
なお、通常時であるか注目時であるかは、例えば、スケーラブル符号化データ記憶装置1202が、画像を解析することにより判定しても良い。また、撮像装置1201が判定し、その判定結果をスケーラブル符号化データ記憶装置1202に伝送するようにしてもよい。
なお、通常時であるか注目時であるかの判定基準は任意であり、判定基準とする画像の内容は任意である。もちろん、画像の内容以外の条件を判定基準とすることもできる。例えば、収録した音声の大きさや波形等に応じて切り替えるようにしてもよいし、所定の時間毎に切り替えるようにしてもよいし、ユーザ指示等の外部からの指示によって切り替えるようにしてもよい。
また、以上においては、通常時と注目時の2つの状態を切り替える例を説明したが、状態の数は任意であり、例えば、通常時、やや注目時、注目時、非常に注目時等のように、3つ以上の状態を切り替えるようにしてもよい。ただし、この切り替える状態の上限数は、スケーラブル符号化データのレイヤ数に依存する。
また、撮像装置1201が、スケーラブル符号化のレイヤ数を、状態に応じて決定するようにしてもよい。例えば、通常時の場合、撮像装置1201が、低品質でデータ量の少ないベースレイヤのスケーラブル符号化データ(BL)1222を生成し、スケーラブル符号化データ記憶装置1202に供給するようにしてもよい。また、例えば、注目時の場合、撮像装置1201が、高品質でデータ量の多いベースレイヤのスケーラブル符号化データ(BL+EL)1221を生成し、スケーラブル符号化データ記憶装置1202に供給するようにしてもよい。
以上においては、監視カメラを例に説明したが、この撮像システム1200の用途は任意であり、監視カメラに限定されない。
<第8実施の形態>
(実施のその他の例)
以上において本開示を適用する装置やシステム等の例を説明したが、本開示は、これに限らず、このような装置またはシステムを構成する装置に搭載するあらゆる構成、例えば、システムLSI(Large Scale Integration)等としてのプロセッサ、複数のプロセッサ等を用いるモジュール、複数のモジュール等を用いるユニット、ユニットにさらにその他の機能を付加したセット等(すなわち、装置の一部の構成)として実施することもできる。
(ビデオセットの構成例)
本開示をセットとして実施する場合の例について、図28を参照して説明する。図28は、本開示を適用したビデオセットの概略的な構成の一例を示している。
近年、電子機器の多機能化が進んでおり、その開発や製造において、その一部の構成を販売や提供等として実施する場合、1機能を有する構成として実施を行う場合だけでなく、関連する機能を有する複数の構成を組み合わせ、複数の機能を有する1セットとして実施を行う場合も多く見られるようになってきた。
図28に示されるビデオセット1300は、このような多機能化された構成であり、画像の符号化や復号(いずれか一方でもよいし、両方でも良い)に関する機能を有するデバイスに、その機能に関連するその他の機能を有するデバイスを組み合わせたものである。
図28に示されるように、ビデオセット1300は、ビデオモジュール1311、外部メモリ1312、パワーマネージメントモジュール1313、およびフロントエンドモジュール1314等のモジュール群と、コネクティビティ1321、カメラ1322、およびセンサ1323等の関連する機能を有するデバイスとを有する。
モジュールは、互いに関連するいくつかの部品的機能をまとめ、まとまりのある機能を持った部品としたものである。具体的な物理的構成は任意であるが、例えば、それぞれ機能を有する複数のプロセッサ、抵抗やコンデンサ等の電子回路素子、その他のデバイス等を配線基板等に配置して一体化したものが考えられる。また、モジュールに他のモジュールやプロセッサ等を組み合わせて新たなモジュールとすることも考えられる。
図28の例の場合、ビデオモジュール1311は、画像処理に関する機能を有する構成を組み合わせたものであり、アプリケーションプロセッサ、ビデオプロセッサ、ブロードバンドモデム1333、およびRFモジュール1334を有する。
プロセッサは、所定の機能を有する構成をSoC(System On a Chip)により半導体チップに集積したものであり、例えばシステムLSI(Large Scale Integration)等と称されるものもある。この所定の機能を有する構成は、論理回路(ハードウエア構成)であってもよいし、CPU、ROM、RAM等と、それらを用いて実行されるプログラム(ソフトウエア構成)であってもよいし、その両方を組み合わせたものであってもよい。例えば、プロセッサが、論理回路とCPU、ROM、RAM等とを有し、機能の一部を論理回路(ハードウエア構成)により実現し、その他の機能をCPUにおいて実行されるプログラム(ソフトウエア構成)により実現するようにしてもよい。
図28のアプリケーションプロセッサ1331は、画像処理に関するアプリケーションを実行するプロセッサである。このアプリケーションプロセッサ1331において実行されるアプリケーションは、所定の機能を実現するために、演算処理を行うだけでなく、例えばビデオプロセッサ1332等、ビデオモジュール1311内外の構成を必要に応じて制御することもできる。
ビデオプロセッサ1332は、画像の符号化・復号(その一方若しくは両方)に関する機能を有するプロセッサである。
ブロードバンドモデム1333は、インターネットや公衆電話回線網等の広帯域の回線を介して行われる有線若しくは無線(またはその両方)の広帯域通信に関する処理を行うプロセッサ(若しくはモジュール)である。例えば、ブロードバンドモデム1333は、送信するデータ(デジタル信号)をデジタル変調する等してアナログ信号に変換したり、受信したアナログ信号を復調してデータ(デジタル信号)に変換したりする。例えば、ブロードバンドモデム1333は、ビデオプロセッサ1332が処理する画像データや画像データが符号化されたストリーム、アプリケーションプログラム、設定データ等、任意の情報をデジタル変調・復調することができる。
RFモジュール1334は、アンテナを介して送受信されるRF(Radio Frequency)信号に対して、周波数変換、変復調、増幅、フィルタ処理等を行うモジュールである。例えば、RFモジュール1334は、ブロードバンドモデム1333により生成されたベースバンド信号に対して周波数変換等を行ってRF信号を生成する。また、例えば、RFモジュール1334は、フロントエンドモジュール1314を介して受信されたRF信号に対して周波数変換等を行ってベースバンド信号を生成する。
なお、図28において点線1341に示されるように、アプリケーションプロセッサ1331とビデオプロセッサ1332を、一体化し、1つのプロセッサとして構成されるようにしてもよい。
外部メモリ1312は、ビデオモジュール1311の外部に設けられた、ビデオモジュール1311により利用される記憶デバイスを有するモジュールである。この外部メモリ1312の記憶デバイスは、どのような物理構成により実現するようにしてもよいが、一般的にフレーム単位の画像データのような大容量のデータの格納に利用されることが多いので、例えばDRAM(Dynamic Random Access Memory)のような比較的安価で大容量の半導体メモリにより実現するのが望ましい。
パワーマネージメントモジュール1313は、ビデオモジュール1311(ビデオモジュール1311内の各構成)への電力供給を管理し、制御する。
フロントエンドモジュール1314は、RFモジュール1334に対してフロントエンド機能(アンテナ側の送受信端の回路)を提供するモジュールである。図20に示されるように、フロントエンドモジュール1314は、例えば、アンテナ部1351、フィルタ1352、および増幅部1353を有する。
アンテナ部1351は、無線信号を送受信するアンテナおよびその周辺の構成を有する。アンテナ部1351は、増幅部1353から供給される信号を無線信号として送信し、受信した無線信号を電気信号(RF信号)としてフィルタ1352に供給する。フィルタ1352は、アンテナ部1351を介して受信されたRF信号に対してフィルタ処理等を行い、処理後のRF信号をRFモジュール1334に供給する。増幅部1353は、RFモジュール1334から供給されるRF信号を増幅し、アンテナ部1351に供給する。
コネクティビティ1321は、外部との接続に関する機能を有するモジュールである。コネクティビティ1321の物理構成は、任意である。例えば、コネクティビティ1321は、ブロードバンドモデム1333が対応する通信規格以外の通信機能を有する構成や、外部入出力端子等を有する。
例えば、コネクティビティ1321が、Bluetooth(登録商標)、IEEE 802.11(例えばWi-Fi(Wireless Fidelity、登録商標))、NFC(Near Field Communication)、IrDA(InfraRed Data Association)等の無線通信規格に準拠する通信機能を有するモジュールや、その規格に準拠した信号を送受信するアンテナ等を有するようにしてもよい。また、例えば、コネクティビティ1321が、USB(Universal Serial Bus)、HDMI(登録商標)(High-Definition Multimedia
Interface)等の有線通信規格に準拠する通信機能を有するモジュールや、その規格に準拠した端子を有するようにしてもよい。さらに、例えば、コネクティビティ1321が、アナログ入出力端子等のその他のデータ(信号)伝送機能等を有するようにしてもよい。
なお、コネクティビティ1321が、データ(信号)の伝送先のデバイスを含むようにしてもよい。例えば、コネクティビティ1321が、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等の記録媒体に対してデータの読み出しや書き込みを行うドライブ(リムーバブルメディアのドライブだけでなく、ハードディスク、SSD(Solid State Drive)、NAS(Network Attached Storage)等も含む)を有するようにしてもよい。また、コネクティビティ1321が、画像や音声の出力デバイス(モニタやスピーカ等)を有するようにしてもよい。
カメラ1322は、被写体を撮像し、被写体の画像データを得る機能を有するモジュールである。カメラ1322の撮像により得られた画像データは、例えば、ビデオプロセッサ1332に供給されて符号化される。
センサ1323は、例えば、音声センサ、超音波センサ、光センサ、照度センサ、赤外線センサ、イメージセンサ、回転センサ、角度センサ、角速度センサ、速度センサ、加速度センサ、傾斜センサ、磁気識別センサ、衝撃センサ、温度センサ等、任意のセンサ機能を有するモジュールである。センサ1323により検出されたデータは、例えば、アプリケーションプロセッサ1331に供給されてアプリケーション等により利用される。
以上においてモジュールとして説明した構成をプロセッサとして実現するようにしてもよいし、逆にプロセッサとして説明した構成をモジュールとして実現するようにしてもよい。
以上のような構成のビデオセット1300において、後述するようにビデオプロセッサ1332に本開示を適用することができる。したがって、ビデオセット1300は、本開示を適用したセットとして実施することができる。
(ビデオプロセッサの構成例)
図29は、本開示を適用したビデオプロセッサ1332(図28)の概略的な構成の一例を示している。
図29の例の場合、ビデオプロセッサ1332は、ビデオ信号およびオーディオ信号の入力を受けてこれらを所定の方式で符号化する機能と、符号化されたビデオデータおよびオーディオデータを復号し、ビデオ信号およびオーディオ信号を再生出力する機能とを有する。
図29に示されるように、ビデオプロセッサ1332は、ビデオ入力処理部1401、第1画像拡大縮小部1402、第2画像拡大縮小部1403、ビデオ出力処理部1404、フレームメモリ1405、およびメモリ制御部1406を有する。また、ビデオプロセッサ1332は、エンコード・デコードエンジン1407、ビデオES(Elementary Stream)バッファ1408Aおよび1408B、並びに、オーディオESバッファ1409Aおよび1409Bを有する。さらに、ビデオプロセッサ1332は、オーディオエンコーダ1410、オーディオデコーダ1411、多重化部(MUX(Multiplexer))1412、逆多重化部(DMUX(Demultiplexer))1413、およびストリームバッファ1414を有する。
ビデオ入力処理部1401は、例えばコネクティビティ1321(図28)等から入力されたビデオ信号を取得し、デジタル画像データに変換する。第1画像拡大縮小部1402は、画像データに対してフォーマット変換や画像の拡大縮小処理等を行う。第2画像拡大縮小部1403は、画像データに対して、ビデオ出力処理部1404を介して出力する先でのフォーマットに応じて画像の拡大縮小処理を行ったり、第1画像拡大縮小部1402と同様のフォーマット変換や画像の拡大縮小処理等を行ったりする。ビデオ出力処理部1404は、画像データに対して、フォーマット変換やアナログ信号への変換等を行って、再生されたビデオ信号として例えばコネクティビティ1321(図28)等に出力する。
フレームメモリ1405は、ビデオ入力処理部1401、第1画像拡大縮小部1402、第2画像拡大縮小部1403、ビデオ出力処理部1404、およびエンコード・デコードエンジン1407によって共用される画像データ用のメモリである。フレームメモリ1405は、例えばDRAM等の半導体メモリとして実現される。
メモリ制御部1406は、エンコード・デコードエンジン1407からの同期信号を受けて、アクセス管理テーブル1406Aに書き込まれたフレームメモリ1405へのアクセススケジュールに従ってフレームメモリ1405に対する書き込み・読み出しのアクセスを制御する。アクセス管理テーブル1406Aは、エンコード・デコードエンジン1407、第1画像拡大縮小部1402、第2画像拡大縮小部1403等で実行される処理に応じて、メモリ制御部1406により更新される。
エンコード・デコードエンジン1407は、画像データのエンコード処理、並びに、画像データが符号化されたデータであるビデオストリームのデコード処理を行う。例えば、エンコード・デコードエンジン1407は、フレームメモリ1405から読み出した画像データを符号化し、ビデオストリームとしてビデオESバッファ1408Aに順次書き込む。また、例えば、ビデオESバッファ1408Bからビデオストリームを順次読み出して復号し、画像データとしてフレームメモリ1405に順次書き込む。エンコード・デコードエンジン1407は、これらの符号化や復号において、フレームメモリ1405を作業領域として使用する。また、エンコード・デコードエンジン1407は、例えばマクロブロック毎の処理を開始するタイミングで、メモリ制御部1406に対して同期信号を出力する。
ビデオESバッファ1408Aは、エンコード・デコードエンジン1407によって生成されたビデオストリームをバッファリングして、多重化部(MUX)1412に供給する。ビデオESバッファ1408Bは、逆多重化部(DMUX)1413から供給されたビデオストリームをバッファリングして、エンコード・デコードエンジン1407に供給する。
オーディオESバッファ1409Aは、オーディオエンコーダ1410によって生成されたオーディオストリームをバッファリングして、多重化部(MUX)1412に供給する。オーディオESバッファ1409Bは、逆多重化部(DMUX)1413から供給されたオーディオストリームをバッファリングして、オーディオデコーダ1411に供給する。
オーディオエンコーダ1410は、例えばコネクティビティ1321(図28)等から入力されたオーディオ信号を例えばデジタル変換し、例えばMPEGオーディオ方式やAC3(AudioCode
number 3)方式等の所定の方式で符号化する。オーディオエンコーダ1410は、オーディオ信号が符号化されたデータであるオーディオストリームをオーディオESバッファ1409Aに順次書き込む。オーディオデコーダ1411は、オーディオESバッファ1409Bから供給されたオーディオストリームを復号し、例えばアナログ信号への変換等を行って、再生されたオーディオ信号として例えばコネクティビティ1321(図28)等に供給する。
多重化部(MUX)1412は、ビデオストリームとオーディオストリームとを多重化する。この多重化の方法(すなわち、多重化により生成されるビットストリームのフォーマット)は任意である。また、この多重化の際に、多重化部(MUX)1412は、所定のヘッダ情報等をビットストリームに付加することもできる。つまり、多重化部(MUX)1412は、多重化によりストリームのフォーマットを変換することができる。例えば、多重化部(MUX)1412は、ビデオストリームとオーディオストリームとを多重化することにより、転送用のフォーマットのビットストリームであるトランスポートストリームに変換する。また、例えば、多重化部(MUX)1412は、ビデオストリームとオーディオストリームとを多重化することにより、記録用のファイルフォーマットのデータ(ファイルデータ)に変換する。
逆多重化部(DMUX)1413は、多重化部(MUX)1412による多重化に対応する方法で、ビデオストリームとオーディオストリームとが多重化されたビットストリームを逆多重化する。つまり、逆多重化部(DMUX)1413は、ストリームバッファ1414から読み出されたビットストリームからビデオストリームとオーディオストリームとを抽出する(ビデオストリームとオーディオストリームとを分離する)。つまり、逆多重化部(DMUX)1413は、逆多重化によりストリームのフォーマットを変換(多重化部(MUX)1412による変換の逆変換)することができる。例えば、逆多重化部(DMUX)1413は、例えばコネクティビティ1321やブロードバンドモデム1333等(いずれも図28)から供給されたトランスポートストリームを、ストリームバッファ1414を介して取得し、逆多重化することにより、ビデオストリームとオーディオストリームとに変換することができる。また、例えば、逆多重化部(DMUX)1413は、例えばコネクティビティ1321により(図28)各種記録媒体から読み出されたファイルデータを、ストリームバッファ1414を介して取得し、逆多重化することにより、ビデオストリームとオーディオストリームとに変換することができる。
ストリームバッファ1414は、ビットストリームをバッファリングする。例えば、ストリームバッファ1414は、多重化部(MUX)1412から供給されたトランスポートストリームをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、例えばコネクティビティ1321やブロードバンドモデム1333(いずれも図28)等に供給する。
また、例えば、ストリームバッファ1414は、多重化部(MUX)1412から供給されたファイルデータをバッファリングし、所定のタイミングにおいて、若しくは外部から要求等に基づいて、例えばコネクティビティ1321(図28)等に供給し、各種記録媒体に記録させる。
さらに、ストリームバッファ1414は、例えばコネクティビティ1321やブロードバンドモデム1333等(いずれも図28)を介して取得したトランスポートストリームをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、逆多重化部(DMUX)1413に供給する。
また、ストリームバッファ1414は、例えばコネクティビティ1321(図28)等において各種記録媒体から読み出されたファイルデータをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、逆多重化部(DMUX)1413に供給する。
次に、このような構成のビデオプロセッサ1332の動作の例について説明する。例えば、コネクティビティ1321(図28)等からビデオプロセッサ1332に入力されたビデオ信号は、ビデオ入力処理部1401において4:2:2Y/Cb/Cr方式等の所定の方式のデジタル画像データに変換され、フレームメモリ1405に順次書き込まれる。このデジタル画像データは、第1画像拡大縮小部1402または第2画像拡大縮小部1403に読み出されて、4:2:0Y/Cb/Cr方式等の所定の方式へのフォーマット変換および拡大縮小処理が行われ、再びフレームメモリ1405に書き込まれる。この画像データは、エンコード・デコードエンジン1407によって符号化され、ビデオストリームとしてビデオESバッファ1408Aに書き込まれる。
また、コネクティビティ1321(図28)等からビデオプロセッサ1332に入力されたオーディオ信号は、オーディオエンコーダ1410によって符号化され、オーディオストリームとして、オーディオESバッファ1409Aに書き込まれる。
ビデオESバッファ1408Aのビデオストリームと、オーディオESバッファ1409Aのオーディオストリームは、多重化部(MUX)1412に読み出されて多重化され、トランスポートストリーム若しくはファイルデータ等に変換される。多重化部(MUX)1412により生成されたトランスポートストリームは、ストリームバッファ1414にバッファされた後、例えばコネクティビティ1321やブロードバンドモデム1333(いずれも図28)等を介して外部ネットワークに出力される。また、多重化部(MUX)1412により生成されたファイルデータは、ストリームバッファ1414にバッファされた後、例えばコネクティビティ1321(図28)等に出力され、各種記録媒体に記録される。
また、例えばコネクティビティ1321やブロードバンドモデム1333(いずれも図28)等を介して外部ネットワークからビデオプロセッサ1332に入力されたトランスポートストリームは、ストリームバッファ1414にバッファされた後、逆多重化部(DMUX)1413により逆多重化される。また、例えばコネクティビティ1321(図28)等において各種記録媒体から読み出され、ビデオプロセッサ1332に入力されたファイルデータは、ストリームバッファ1414にバッファされた後、逆多重化部(DMUX)1413により逆多重化される。つまり、ビデオプロセッサ1332に入力されたトランスポートストリームまたはファイルデータは、逆多重化部(DMUX)1413によりビデオストリームとオーディオストリームとに分離される。
オーディオストリームは、オーディオESバッファ1409Bを介してオーディオデコーダ1411に供給され、復号されてオーディオ信号が再生される。また、ビデオストリームは、ビデオESバッファ1408Bに書き込まれた後、エンコード・デコードエンジン1407により順次読み出されて復号されてフレームメモリ1405に書き込まれる。復号された画像データは、第2画像拡大縮小部1403によって拡大縮小処理されて、フレームメモリ1405に書き込まれる。そして、復号された画像データは、ビデオ出力処理部1404に読み出されて、4:2:2Y/Cb/Cr方式等の所定の方式にフォーマット変換され、さらにアナログ信号に変換されて、ビデオ信号が再生出力される。
なお、エンコード・デコードエンジン1407において、本開示(すなわち、上述した各実施形態に係る画像符号化装置や画像復号装置の機能)は、論理回路等のハードウエアにより実現するようにしてもよいし、組み込みプログラム等のソフトウエアにより実現するようにしてもよいし、それらの両方により実現するようにしてもよい。
<5.まとめ>
以上説明したように本開示の一実施形態では、非特許文献1で公開されているSegmentTemplate要素に、ネットワークカメラ11を遠隔制御するための定義情報のURIを1つまたは複数指定するための属性を追加する。このようにSegmentTemplate要素に属性を追加することで、クライアントであるコンテンツ再生装置20で動的にセグメントのリクエストURLを指定できる。
クライアントであるコンテンツ再生装置20で動的にセグメントのリクエストURLを指定できることで、本開示の一実施形態は、上記非特許文献2で提案されている方法に比べてMPDを圧縮することができる。また定義情報(Parameter Description)をMPDから参照できるようにしておくことで、本開示の一実施形態は、上記非特許文献2で提案されている方法に比べて、アプリケーション要件に応じてMPDスキーマを個別拡張する際のメンテナンス負荷を軽減することができる。
コンテンツサーバ10およびコンテンツ再生装置20に内蔵されるCPU、ROMおよびRAMなどのハードウェアに、上述したコンテンツサーバ10およびコンテンツ再生装置20の各構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供される。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示はかかる例に限定されない。本開示の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
なお、本技術は以下のような構成も取ることができる。
(1)
同一のコンテンツを異なるビットレートで符号化して得られる各符号化データを構成する複数のサブセグメントの各々にアクセスするための、またはMPDに記載されている、サーバへのリクエストにより取得するあらゆる要素にアクセスするためのアクセス情報にパラメータを付加するための所定の定義を記憶する記憶部と、
前記アクセス情報で定義されているアドレスに前記記憶部が記憶する所定の定義に基づきパラメータを指定してアクセスする通信部と、
を備え、
前記アクセス情報で定義されているアドレスは、前記コンテンツを撮像する装置を制御するためのアドレスである、情報処理装置。
(2)
同一のコンテンツを異なるビットレートで符号化して得られる各符号化データを構成する複数のサブセグメントの各々にアクセスするための、またはMPDに記載されている、サーバへのリクエストにより取得するあらゆる要素にアクセスするためのアクセス情報にパラメータを付加するための所定の定義を記憶することと、
前記アクセス情報で定義されているアドレスに前記記憶部が記憶する所定の定義に基づきパラメータを指定してアクセスすることと、
を備え、
前記アクセス情報で定義されているアドレスは、前記コンテンツを撮像する装置を制御するためのアドレスである、コンテンツ要求方法。
(3)
コンピュータに、
同一のコンテンツを異なるビットレートで符号化して得られる各符号化データを構成する複数のサブセグメントの各々にアクセスするための、またはMPDに記載されている、サーバへのリクエストにより取得するあらゆる要素にアクセスするためのアクセス情報にパラメータを付加するための所定の定義を記憶することと、
前記アクセス情報で定義されているアドレスに前記記憶部が記憶する所定の定義に基づきパラメータを指定してアクセスすることと、
を実行させ、
前記アクセス情報で定義されているアドレスは、前記コンテンツを撮像する装置を制御するためのアドレスである、コンピュータプログラム。
10、13 コンテンツサーバ
11 ネットワークカメラ
12 ネットワーク
20 コンテンツ再生装置
120 ファイル生成部
122 エンコーダ
130 記憶部
140 通信部
220 通信部
230 記憶部
240 再生部
250 選択部

Claims (3)

  1. クライアント装置から取得したい情報を前記クライアント装置に記述させるための情報が記載された定義情報にアクセスするための属性情報が付加されたmedia presentation description(MPD)を生成する生成部と、
    作成した前記MPDを前記クライアント装置に送信する送信部と、
    を備え、
    前記送信部は、さらに、前記MPDに記載されているコンテンツファイルのアクセス情報に対して、前記定義情報に基づいてパラメータが付加されたクライアント装置からのURLリクエストに基づいて、コンテンツを送信する、情報処理装置。
  2. クライアント装置から取得したい情報を前記クライアント装置に記述させるための情報が記載された定義情報にアクセスするための属性情報が付加されたmedia presentation description(MPD)を生成することと、
    作成した前記MPDを前記クライアント装置に送信するとともに、前記MPDに記載されているコンテンツファイルのアクセス情報に対して、前記定義情報に基づいてパラメータが付加されたクライアント装置からのURLリクエストに基づいて、コンテンツを送信することと、
    を含む、情報処理方法。
  3. コンピュータに、
    クライアント装置から取得したい情報を前記クライアント装置に記述させるための情報が記載された定義情報にアクセスするための属性情報が付加されたmedia presentation description(MPD)を生成することと、
    作成した前記MPDを前記クライアント装置に送信するとともに、前記MPDに記載されているコンテンツファイルのアクセス情報に対して、前記定義情報に基づいてパラメータが付加されたクライアント装置からのURLリクエストに基づいて、コンテンツを送信することと、
    を実行させる、コンピュータプログラム。
JP2019006720A 2013-04-19 2019-01-18 情報処理装置、コンテンツ要求方法およびコンピュータプログラム Expired - Fee Related JP6708271B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2013088875 2013-04-19
JP2013088875 2013-04-19

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2015512498A Division JP6481206B2 (ja) 2013-04-19 2014-04-16 情報処理装置、コンテンツ要求方法およびコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2019083555A true JP2019083555A (ja) 2019-05-30
JP6708271B2 JP6708271B2 (ja) 2020-06-10

Family

ID=51731411

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2015512498A Expired - Fee Related JP6481206B2 (ja) 2013-04-19 2014-04-16 情報処理装置、コンテンツ要求方法およびコンピュータプログラム
JP2019006720A Expired - Fee Related JP6708271B2 (ja) 2013-04-19 2019-01-18 情報処理装置、コンテンツ要求方法およびコンピュータプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2015512498A Expired - Fee Related JP6481206B2 (ja) 2013-04-19 2014-04-16 情報処理装置、コンテンツ要求方法およびコンピュータプログラム

Country Status (13)

Country Link
US (2) US20160057509A1 (ja)
EP (2) EP2988521A4 (ja)
JP (2) JP6481206B2 (ja)
KR (1) KR102177605B1 (ja)
CN (2) CN110087093A (ja)
AU (2) AU2014254809B2 (ja)
BR (1) BR112015025883A8 (ja)
CA (1) CA2908163A1 (ja)
MX (1) MX354254B (ja)
MY (1) MY177461A (ja)
RU (2) RU2755145C2 (ja)
SG (3) SG11201508375VA (ja)
WO (1) WO2014171474A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106797499A (zh) * 2014-10-10 2017-05-31 索尼公司 编码装置和方法、再现装置和方法以及程序
KR101789640B1 (ko) * 2014-11-13 2017-11-20 엘지전자 주식회사 방송 신호 송신 장치, 방송 신호 수신 장치, 방송 신호 송신 방법, 및 방송 신호 수신 방법
JP6624958B2 (ja) * 2016-02-03 2019-12-25 キヤノン株式会社 通信装置、通信システム、通信制御方法およびコンピュータプログラム
US11442760B2 (en) * 2016-07-01 2022-09-13 Intel Corporation Aperture access processors, methods, systems, and instructions
CN108668179B (zh) * 2017-03-27 2021-05-14 华为技术有限公司 媒体索引文件的传输方法及相关设备
CN111294658A (zh) * 2018-12-07 2020-06-16 北京字节跳动网络技术有限公司 信息处理方法和装置
US11470136B2 (en) * 2020-10-07 2022-10-11 Tencent America LLC URL customization using the session-based dash operations

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7941554B2 (en) * 2003-08-01 2011-05-10 Microsoft Corporation Sparse caching for streaming media
US9380096B2 (en) * 2006-06-09 2016-06-28 Qualcomm Incorporated Enhanced block-request streaming system for handling low-latency streaming
US8176525B2 (en) * 2006-09-29 2012-05-08 Rockstar Bidco, L.P. Method and system for trusted contextual communications
US8219711B2 (en) * 2008-11-24 2012-07-10 Juniper Networks, Inc. Dynamic variable rate media delivery system
CN102055773B (zh) * 2009-11-09 2013-10-09 华为技术有限公司 实现基于http的流媒体业务的方法、系统和网络设备
CN102055717B (zh) * 2009-11-09 2014-08-13 华为技术有限公司 快速播放的方法、终端及服务器
US8510375B2 (en) * 2009-12-11 2013-08-13 Nokia Corporation Apparatus and methods for time mapping media segments in streaming media files
KR101636108B1 (ko) * 2010-01-18 2016-07-04 텔레폰악티에볼라겟엘엠에릭슨(펍) 에이치티티피 미디어 스트림 분배를 위한 방법과 배열
US8918533B2 (en) * 2010-07-13 2014-12-23 Qualcomm Incorporated Video switching for streaming video data
KR20120034550A (ko) * 2010-07-20 2012-04-12 한국전자통신연구원 스트리밍 컨텐츠 제공 장치 및 방법
US9226045B2 (en) * 2010-08-05 2015-12-29 Qualcomm Incorporated Signaling attributes for network-streamed video data
CN106330905B (zh) * 2010-09-01 2020-12-01 艾迪尔哈布股份有限公司 内容提供方法和接收提供的内容的方法
US8849950B2 (en) * 2011-04-07 2014-09-30 Qualcomm Incorporated Network streaming of video data using byte range requests
KR101719998B1 (ko) * 2011-12-12 2017-03-27 엘지전자 주식회사 미디어 컨텐트를 수신하는 장치 및 방법
US20150172353A1 (en) * 2012-07-11 2015-06-18 Miska Hannuksela Method and apparatus for interacting with a media presentation description that describes a summary media presentation and an original media presentation
US9143543B2 (en) * 2012-11-30 2015-09-22 Google Technology Holdings LLC Method and system for multi-streaming multimedia data
US9396126B2 (en) * 2013-01-30 2016-07-19 Google Inc. Clearing an application cache
US8869218B2 (en) * 2013-03-15 2014-10-21 Wowza Media Systems, LLC On the fly transcoding of video on demand content for adaptive streaming

Also Published As

Publication number Publication date
AU2017228638A1 (en) 2017-10-05
RU2652789C2 (ru) 2018-05-03
MX2015014186A (es) 2015-12-11
JP6708271B2 (ja) 2020-06-10
EP2988521A1 (en) 2016-02-24
KR20150145228A (ko) 2015-12-29
RU2755145C2 (ru) 2021-09-13
JPWO2014171474A1 (ja) 2017-02-23
BR112015025883A2 (pt) 2017-07-25
EP2988521A4 (en) 2016-12-21
RU2018109258A (ru) 2019-02-26
AU2014254809A1 (en) 2015-10-08
AU2017228638B2 (en) 2018-11-08
CN110087093A (zh) 2019-08-02
BR112015025883A8 (pt) 2020-01-14
CN105122828A (zh) 2015-12-02
CN105122828B (zh) 2019-05-10
MX354254B (es) 2018-02-20
KR102177605B1 (ko) 2020-11-11
AU2014254809B2 (en) 2017-07-13
RU2015143204A (ru) 2017-04-13
SG10201909965RA (en) 2019-11-28
WO2014171474A1 (ja) 2014-10-23
CA2908163A1 (en) 2014-10-23
US20160057509A1 (en) 2016-02-25
US20180220204A1 (en) 2018-08-02
EP3349476A1 (en) 2018-07-18
JP6481206B2 (ja) 2019-03-13
RU2018109258A3 (ja) 2021-07-06
SG10201801143XA (en) 2018-04-27
SG11201508375VA (en) 2015-11-27
MY177461A (en) 2020-09-16

Similar Documents

Publication Publication Date Title
JP6658931B2 (ja) 情報処理装置および方法
JP6708271B2 (ja) 情報処理装置、コンテンツ要求方法およびコンピュータプログラム
RU2645284C2 (ru) Устройство для обработки изображений и способ
JP2019110542A (ja) サーバ装置、クライアント装置、コンテンツ配信方法およびコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190121

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190924

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191001

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200421

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200504

R151 Written notification of patent or utility model registration

Ref document number: 6708271

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees