JP2017139628A - 通信装置、通信システム、通信制御方法およびコンピュータプログラム - Google Patents

通信装置、通信システム、通信制御方法およびコンピュータプログラム Download PDF

Info

Publication number
JP2017139628A
JP2017139628A JP2016019295A JP2016019295A JP2017139628A JP 2017139628 A JP2017139628 A JP 2017139628A JP 2016019295 A JP2016019295 A JP 2016019295A JP 2016019295 A JP2016019295 A JP 2016019295A JP 2017139628 A JP2017139628 A JP 2017139628A
Authority
JP
Japan
Prior art keywords
video
segment
playlist
metadata
video data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016019295A
Other languages
English (en)
Other versions
JP6624958B2 (ja
Inventor
祐樹 藤森
Yuki Fujimori
祐樹 藤森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2016019295A priority Critical patent/JP6624958B2/ja
Application filed by Canon Inc filed Critical Canon Inc
Priority to US16/074,693 priority patent/US20190045269A1/en
Priority to KR1020187024453A priority patent/KR102087533B1/ko
Priority to CN201780009846.3A priority patent/CN108605149A/zh
Priority to PCT/JP2017/002656 priority patent/WO2017135133A1/en
Priority to EP17705184.4A priority patent/EP3412030A1/en
Publication of JP2017139628A publication Critical patent/JP2017139628A/ja
Application granted granted Critical
Publication of JP6624958B2 publication Critical patent/JP6624958B2/ja
Priority to US17/148,396 priority patent/US20210136455A1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/27Server based end-user applications
    • H04N21/274Storing end-user multimedia data in response to end-user request, e.g. network recorder
    • H04N21/2743Video hosting of uploaded data from client
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4728End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234345Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements the reformatting operation being performed only on part of the stream, e.g. a region of the image or a time segment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/262Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists
    • H04N21/26258Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists for generating a list of items to be played back in a given order, e.g. playlist, or scheduling item distribution according to such list
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440245Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display the reformatting operation being performed only on part of the stream, e.g. a region of the image or a time segment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • H04N21/8456Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/85406Content authoring involving a specific file format, e.g. MP4 format
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/858Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot
    • H04N21/8586Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot by using a URL

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Computer Security & Cryptography (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

【課題】映像データ中で配信されるべき着目領域の配信に係る処理を効率的に実行可能な通信装置、方法及びプログラムを提供する。
【解決手段】通信装置101は、映像データを複数の映像領域に分割する映像領域分割部202と、分割された複数の映像領域からオブジェクトが含まれるオブジェクト領域を判別するオブジェクト認識部203と、判別されたオブジェクト領域の映像データを含む映像セグメントと、判別されたオブジェクト領域のオブジェクトの識別子及びその位置情報とを含むメタデータセグメントを生成するセグメント生成部205と、他の通信装置と通信を行う通信部207を有する。通信部207は、他の通信装置へメタデータセグメントを送信し、メタデータセグメントを受信した他の通信装置から映像セグメントの配信要求を受信し、配信要求された映像セグメントを他の通信装置へ送信する。
【選択図】図2

Description

本発明は、通信装置、通信システム、通信制御方法およびコンピュータプログラムに関し、特に映像データのストリーミング技術に関する。
近年、音声データや映像データ等のコンテンツをストリーミング配信する配信システムが提供されている。このような配信システムにより、ユーザはユーザが保持する端末装置を介して、ライブ映像等の所望のコンテンツをリアルタイムで楽しむことができる。
スマートフォンやタブレット型パソコンのような端末の普及により、様々な端末装置を用いていつでもどこでもストリーミングコンテンツを楽しみたいという需要が高まっている。このような要求を実現するため、端末装置の能力や端末装置が置かれる通信状況に応じて、取得するストリームを動的に変更する技術(MPEG−DASH、Http Live Streamingなど)が注目されている。“ISO−IEC 23009−1”に、“Dynamic Adaptive Streaming over HTTP(DASH)”の技術が規定されている。また、“draft−pantos−http−live−streaming−16”に、“Http Live Streaming”技術が規定されている。
これらの技術では、映像データを細かい時間単位のセグメントに分割し、このセグメントを取得するためのURL(Uniform Resource Locator)をプレイリスト(Playlist)と呼ばれるファイルに記述する。受信装置は、このプレイリストを取得し、プレイリストに記述されている情報を用いて所望の映像データを取得する。
ここで、プレイリスト中には、複数のバージョンの映像データセグメントに対するURLを記述することができる。これにより、受信装置が自身の能力や通信環境に応じて、最適なバージョンの映像データをプレイリストから選択し、選択した映像データセグメントを取得することができる。
特許文献1は、このような映像データのセグメントを受信装置に取得させるURLを記述するプレイリストの技術を用いて、映像データ中でユーザが着目する領域の映像データを配信する技術を開示する。この映像データ中の着目領域を、(Region Of Interest(以下、「ROI」という。))。より詳細には、特許文献1では、映像データを予めタイル状に領域分割し、映像全体のデータと、映像全体のデータの中でユーザが着目するオブジェクトが映り込むROIの領域のデータとを配信することが可能となる。
英国特許GB2505912B号公報
ところで、配信される映像データ中に移りこむオブジェクトの数や位置は時系列的に変化していくため、映像データの配信前に、所望のオブジェクトを含む領域をROIとして予め指定することは困難である。
本発明は、上記課題を解決するためになされたものであり、その目的は、映像データ中で配信されるべき着目領域の配信に係る処理を効率的に実行可能な通信装置を提供することにある。
上記課題を解決するために、本発明に係る通信装置の一態様は、映像データを複数の映像領域に分割する分割手段と、分割された前記映像領域の中から、オブジェクトが含まれる映像領域であるオブジェクト領域を判別する判別手段と、前記判別手段により判別されたオブジェクト領域の映像データを含む映像セグメントを生成する第1の生成手段と、前記判別手段により判別されたオブジェクト領域の前記オブジェクトの識別子と前記オブジェクトの位置情報とを含むメタデータセグメントを生成する第2の生成手段と、前記第2の生成手段により生成された前記メタデータセグメントを他の通信装置へ送信する第1の送信手段と、前記第1の送信手段により送信されたメタデータセグメントを受信した前記他の通信装置から映像セグメントの配信要求を受信する受信手段と、前記受信手段により受信された配信要求により特定される映像セグメントを前記他の通信装置へ送信する第2の送信手段と、を具備する。
本発明によれば、映像データ中で配信されるべき着目領域の配信に係る処理を効率的に実行することが可能となる。
本実施形態の画像配信システムの構成図である。 本実施形態における送信装置101の機能構成を示すブロック図である。 本実施形態における受信装置102の機能構成を示すブロック図である。 本実施形態において表示される映像の具体例を示す図である。 本実施形態におけるプレイリストの具体例を示す図である。 本実施形態におけるプレイリストの具体例を示す図である。 本実施形態におけるメタデータの具体例を示す図である。 本実施形態におけるメタデータの具体例を示す図である。 本実施形態におけるプレイリストの具体例を示す図である。 本実施形態における送信装置101の処理の具体例を示す図である。 本実施形態における受信装置102の処理の具体例を示す図である。 本実施形態における受信装置102の処理の具体例を示す図である。 ユーザインタフェース部307の具体的な表示例を示す図である。 送信装置101と受信装置102の間の通信を示すシーケンス図である。 送信装置101と受信装置102の間の通信を示すシーケンス図である。 実施形態で説明した各部のハードウエア構成の一例を示す図である。
以下、添付図面を参照して、本発明を実施するための形態について詳細に説明する。
なお、以下に説明する実施の形態は、本発明の実現手段としての一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施の形態に限定されるものではない。
本実施形態の通信システムにおいては、映像データの送信装置が、映像データ中で着目領域(ROI)の候補となるべきオブジェクトを特定する情報(例えば、座標情報や大きさ情報などの位置情報)を、プレイリストを介して受信装置側に通知する。受信装置は、ROIの候補からユーザに所望するROIを選択させ、選択されたROIのオブジェクトを特定する情報を送信装置へ送信し、選択されたROIを含む映像セグメントを、送信装置に配信させる。また、オブジェクトを特定する情報は、例えば、オブジェクトの名称やIDを用いて絶対的に特定する情報でもよいし、リストの上から3番目の如く相対的に特定する情報であってもよい。また、座標情報の場合も、絶対座標によって特定する情報でもよいし、画面上や映像上の相対的な位置で特定する情報であってもよい。
(本実施形態のシステムの全体構成)
図1には、本実施形態における映像データを配信する通信システムの全体構成を示す。本実施形態に係る送信装置101(通信装置)は、ネットワーク103を介して、受信装置102(通信装置)と接続されている。なお、図1では、送信装置101、受信装置102はそれぞれ1台のみ示されているが、複数の送信装置101、複数の受信装置102がそれぞれ存在する通信システムを構成してもよい。
送信装置101は、本実施形態において映像データを配信するための送信装置である。送信装置101の具体的な例としては、カメラ装置、ビデオカメラ装置、スマートフォン装置、PC装置、携帯電話などが挙げられるが、後述の機能構成を満たすものであればよく、ここで挙げた機器の例には限定されない。
受信装置102は、本実施形態における映像データを受信する受信装置である。受信装置102の具体例は、スマートフォン装置、PC装置、テレビ、携帯電話、などが挙げられるが、後述の機能構成を満たすものであればよく、ここで挙げた機器の例には限定されない。
ネットワーク103は、本実施形態における映像データが配信されるためのネットワークであり、映像データを伝送できればどのようなネットワークでもよい。例えば、有線LAN(Local Area Network)、または無線LAN(Wireless LAN)等を利用することができる。ネットワーク103は、これに限られず、LTE(Long Term Evolution)や3GなどのWAN(Wide Area Network)でもよい。また、Bluetooth(登録商標)、Zigbee(登録商標)などのPAN(Personal Area Network)でもよい。
(送信装置101の機能構成)
図2は、本実施形態における送信装置101の機能構成図である。本実施形態における送信装置101は、撮像部201と、映像領域分割部202と、オブジェクト認識部203と、映像領域判別部204と、セグメント生成部205と、プレイリスト生成部206と、通信部207と、を備えている。
撮像部201は撮影を行い、映像データを出力する。映像領域分割部202は、撮像部201が撮影したこの映像データを領域分割して符号化する。この結果、映像領域分割部202は、符号化した領域分割された映像データを出力する。なお、映像領域分割部202は、領域分割前の全体の映像データも符号化する機能を備える。なお、図2には撮像部201が送信装置101内に備えられるものとして示されているが、撮像部201は、送信装置101の外部にあって映像データを送信装置101に提供してもよい。
符号化の方式としては、HEVC(High Efficiency Video Coding)を利用する例を説明するが、これに限られるものではない。例えば、H.264やMPEG2(Moving Picture Experts Group phase 2)や、それらと同等の符号化方式であればどのようなものでも利用可能である。
オブジェクト認識部203は、映像領域分割部202が符号化した映像データに対して、この映像データ中に映るROIの候補となりうるオブジェクトの認識を行う。オブジェクト認識部203が実行するオブジェクト認識の方法は、映像データ中に映る複数のオブジェクトを同時に認識可能な方法であり、映像データ中の各オブジェクトの位置情報(座標情報と大きさ)を認識結果として出力する。なお、オブジェクト認識部203は、送信装置101の外部に配置してもよい。外部に配置された場合のオブジェクト認識部203は、送信装置101から符号化された映像データを受信し、映像データ中のオブジェクトの認識結果である位置情報(座標情報と大きさ)を送信装置101に送信してもよい。
映像領域判別部204は、オブジェクト認識部203が認識したオブジェクトの認識結果である位置情報(座標情報と大きさ)を用いて、映像領域分割部202が分割した映像領域の中からオブジェクトの含まれる映像領域(以下、「オブジェクト領域」という。)を判別する。
セグメント生成部205は、映像セグメントとメタデータセグメントを生成する。映像セグメントは、映像領域判別部204が判別した映像領域(オブジェクト領域)及び全体の映像データを含むデータである。なお、セグメント生成部205は、映像セグメントとして、オブジェクト領域のみを含む映像セグメントを生成してもよい。
一方、メタデータセグメントは、プレイリストの属性情報と、オブジェクトの映像中の座標情報とを含むデータである。プレイリストの属性情報には、例えばオブジェクトの数や映像データの帯域の情報を含む。なお、メタデータセグメントは、座標情報を含むので、座標セグメントとも言い得る。
メタデータセグメントは、オブジェクトの位置情報を含んでいてもよい。この位置情報は、上述したように、映像データ中のオブジェクトの座標情報と、オブジェクトの大きさと、を含むことができる。また、オブジェクトの位置に関する情報であれば、どのような情報でもよく、オブジェクトの輪郭線の情報や、オブジェクトの頂点の座標情報、オブジェクトの向きに関する情報等を含んでいてもよい。また、メタデータセグメント中の座標情報は、上で説明したように、絶対座標でもよいし、相対座標でもよい。
本実施形態における映像セグメントのファイルフォーマットとしては、例えばISOBMFF(Base Media File Format)を利用することができる。ただし、ファイルフォーマットはこれに限らずに、MPEG2TS(MPEG2 Transport Stream)などのフォーマットを利用してもよい。
プレイリスト生成部206(第3の生成手段)は、セグメント生成部205が作成した映像セグメント、メタデータセグメントへのアクセスを可能とするURL(「資源識別子」、または「アクセス識別子」と呼ぶ。)を記述したプレイリストを生成する。本実施形態では、URL(資源識別子)を、映像セグメントへアクセスするための識別子として用いたが、アクセスすることができれば他の識別子やリンク情報を用いてもよい。
通信部207は、受信装置102からの要求に応じて、生成されたプレイリスト及びセグメント(映像セグメント及びメタデータセグメント)を、ネットワーク103を介して受信装置102に送信する。
なお、プレイリストのフォーマットとしてMPEG−DASHで規定されているMPD(Media Presentation Description)を利用することができる。本実施形態ではこのMPDを利用する例を説明するが、“http Livestreaming”におけるプレイリストの記述方法など、MPDと同等の機能を有するフォーマットであればどのようなフォーマットでもよい。
(受信装置102の機能構成)
図3は、本実施形態における受信装置102の機能構成図である。
本実施形態における受信装置102は、表示部301と、復号化部302と、セグメント解析部303と、プレイリスト解析部304と、取得セグメント決定部305と、通信部306と、を備えている。受信装置102は、さらに、ユーザインタフェース部307と、取得オブジェクト決定部308と、を備えている。
表示部301は、復号化部302が復号化した映像セグメントの表示、及びセグメント解析部303がメタデータセグメントに基づき解析したメタデータの表示を行う。なお、表示部301は、必要に応じて映像セグメント内のROIの領域のみを表示してもよい。
復号化部302は、セグメント解析部303が出力する映像ビットストリームの復号化を行い、復号化した映像セグメントを表示部301に供給して表示させる。
セグメント解析部303は、通信部306が出力する映像セグメント及びメタデータセグメントの解析を行う。セグメント解析部303は、映像セグメントを解析して得られた映像ビットストリームを復号化部302に対して出力する。また、セグメント解析部303は、メタデータセグメントを解析して、オブジェクトの座標情報及びプレイリストの属性情報を取得する。取得されたオブジェクトの座標情報は表示部301及び取得オブジェクト決定部308に対して出力される。一方、取得されたプレイリストの属性情報は、プレイリスト解析部304に対して出力される。
プレイリスト解析部304は、通信部306から出力されたプレイリストの解析を行う。また、プレイリスト解析部304は、セグメント解析部303が出力する、メタデータセグメントから得られたプレイリストの属性情報を用いてプレイリストを一部更新する。
取得オブジェクト決定部308は、ユーザインタフェース部307から通知されたユーザ入力と、セグメント解析部303から出力されたオブジェクトの座標情報と、に基づき、ユーザが着目するROIとしてその映像を取得すべきオブジェクトを決定する。
取得セグメント決定部305は、取得オブジェクト決定部308が決定したオブジェクトと、ユーザインタフェース部307が出力するユーザ入力と、に基づき、ROIのオブジェクトを含む取得すべき映像セグメントとその取得タイミングとを決定する。決定された取得セグメントの情報及び取得タイミングとは、通信部306に対して出力される。
通信部306はネットワーク103を介して送信装置101にプレイリスト及びセグメント(映像セグメントおよびメタデータセグメント)を要求し、これらプレイリストおよびセグメント(映像セグメントおよびメタデータセグメント)を受信する。プレイリストは、上述したように、映像セグメントに対するアクセス識別子であるURLを含むデータである。また、プレイリストは、メタデータセグメント(座標セグメント)に対するアクセス識別子であるURLを含むデータである。
ユーザインタフェース部307は、ユーザ入力を受付け、取得オブジェクト決定部308に選択されたオブジェクトをROIとして通知する。なお、本実施形態ではユーザインタフェース部307としてタッチパネルを利用するが、これに限定されず、マウス、キーボード、音声入力その他各種の入力を利用することができる。
(表示される映像の具体例)
図4は、本実施形態において表示される映像の具体例を示す図である。図4(a)は、領域分割前の全体映像401を示す。図4(b)は、全体映像401が領域分割された様子を示す。
図4(b)において、分割された後の映像402中の破線が分割領域間の境界を示す。本実施形態では全体映像401の中に枠406、枠407、枠408でそれぞれ囲まれた3つの領域中にそれぞれオブジェクト406a、407a、408aが認識されていることを想定する。なお、オブジェクトの数は3つに限らず0以上であればよい。
それぞれのオブジェクトを含む領域をROIと推定し、受信装置102がROIの映像データのみを表示する場合、それぞれこれらROIオブジェクトを含む分割領域403、404、405のみを送信装置101より取得すればよい。
受信装置102において、オブジェクト406aのROIを表示したい場合、分割領域403に対応する映像セグメントを取得しそのまま表示してもよいし、あるいは分割領域403中から、ROIのオブジェクト部分409のみを取り出して表示してもよい。
(プレイリストの具体例)
図5および図6を用いて本実施形態におけるプレイリストの具体例について説明する。
図5のプレイリスト501、図6のプレイリスト510は、MPEG−DASHで規定されているMPDのフォーマットに従った実際の記述例である。本実施形態ではMPDのフォーマットの例を示すがこれに限定されず、HLS(HTTP Live Streaming)で規定されている同等のプレイリストその他同等のプレイリストでもよい。プレイリスト501、510はそれぞれ複数のオブジェクトに対して2種類のビットレートのストリームを配信可能とするプレイリストの例である。なお、ビットレートの種類の数については本実施形態では2種類としているがこれに限定されず、3種類以上でもよい。
図5のMPDフォーマット中で、テンプレート502で示すように「$」記号を用いてプレイリスト内の文字列をテンプレート化する方法が規定されている。
本実施形態においては、この方法を拡張したダイナミックテンプレートを提案する。ダイナミックテンプレートは、プレイリスト501、510内の一部属性情報を関連するメタデータストリームに含まれる値に置き換えることで、プレイリスト中の属性情報(映像セグメントの情報)を動的に更新可能とする仕組みである。
これにより、プレイリスト中の映像セグメントと、メタデータセグメント(座標セグメント)とを関連付けることができる。
本実施形態では、図5において、ダイナミックテンプレート503〜505、図6において、ダイナミックテンプレート511〜514がそれぞれ示されている。
なお、本実施形態では、ダイナミックテンプレート中の「!」記号で囲まれた部分が、値を置き換え可能な部分として示しているが、これに限らず他の記号を用いて示してもよい。ダイナミックテンプレート(503〜505等)は、メタデータストリーム内で規定される値によって動的に置換することが可能である。例えばダイナミックテンプレート503の「!ObjectID!」は関連するメタデータストリームを示すリプリゼンテーション508内の情報を用いて更新することができる。このように、本実施形態におけるプレイリスト生成部206(第3の生成手段)は、前記メタデータセグメントの情報に基づき、内容を更新可能な前記プレイリストを生成する。
ダイナミックテンプレート(503〜505等)を更新するためのリプリゼンテーション(508等)は、以下のようにして特定される。例えば、プレイリスト501中のAssociationID(以下、「AID」と略す。)及びAssoiciationType(以下、「AType」と略す。)によって、リプリゼンテーションは特定される。リプリゼンテーション506及び507のリプリゼンテーション属性としてAID=‘Rm’、AType=‘dtpl’と記述する。これにより、リプリゼンテーション508で示すメタデータストリーム(IDが‘Rm’)に対してダイナミックテンプレートとしての関連性を示すことができる。このAtypeの情報は、映像セグメントとメタデータセグメント(座標セグメント)の関連性の情報である。これによって、映像セグメントに対して、メタデータストリーム(メタデータセグメント群)を関連づけることができる。
なお、本実施形態ではダイナミックテンプレートを意味するATypeとして‘dtpl’を示したが、これに限らず別の文字列を、ダイナミックテンプレートを意味するATypeとして用いてもよい。
次に、ダイナミックテンプレートの具体的な使用方法について、プレイリスト501を用いて説明する。プレイリスト501において「!」記号で囲まれた「!ObjectID!」と「!ObjectBW!」属性がそれぞれリプリゼンテーションID‘Rm’で示されるリプリゼンテーション(以下、「リプリゼンテーションRm」と呼ぶ。)によって更新される。例えば時刻tにおけるリプリゼンテーションRmはテンプレート509の情報とBaseURLの情報より、<BaseURL>/Rm−t.mp4のURLに要求することで取得することができる。
図7、図8は、この要求により取得されるストリーム内のメタデータの例を示す。なお、本実施形態においては図7、図8にメタデータの記述例を示すが、これに限らずXML(Extensible Markup Language)やバイナリXMLなどの形式を利用して記述してもよい。また、JSON(JavaScript(登録商標) Object Notation)などのデータ記述言語で記述してもよい。
まず、図7のメタデータ515を説明する。メタデータ515中の、行516の記述により、ObjectID=1、2、3の3つのObjectIDが存在することが記述されている。これは時刻tにおいて映像中に3つのオブジェクトが認識されROIの候補となっていることを意味する。なお、本実施形態では、ObjectID=0は分割前の全体映像を示すこととしている。これにより、メタデータ515に追加の記述の必要なしに全体映像の配信も可能となる。あるいは、全体映像を示すストリームはダイナミックテンプレートを使わずに別のAdaptationsetとして別途プレイリスト501内に記述してもよい。
例えば行517により、ObjectIDが1で示されるオブジェクトをROIとするストリームの帯域幅が2種類存在し、その値が、行517中に示す2種の値であることが判明する。これらの値(帯域幅)を使用して、プレイリストのダイナミックテンプレート503〜505の「!ObjectID!」およびダイナミックテンプレート504、505中の「!ObjectBW!」をそれぞれ時刻tにおける値に更新することができる。例えば時刻tにおけるObjectID=1に対応するROIの映像ストリームは<BaseURL>/1/1_low(もしくはmid)/t.mp4のURLに要求することで取得できる。そのときの帯域幅はそれぞれ1_lowが1000000で1_midが2000000となる。また本実施形態では特定時刻tにおける情報のみを記載したが、複数時刻の情報を一つのメタデータセグメント内に記載してもよい。その場合は、テンプレート502、509で用いるパラメータとして「$Time$」の代わりに例えば「$Number$」を使用すればよい。
以上のようにメタデータセグメント515を用いることで、時刻tにおけるオブジェクトの数及び各オブジェクトをROIとするストリームの帯域幅を更新する。これにより、プレイリスト自体の更新を行うことなく各ROIの映像ストリームを取得することが可能になる。
ただし、図7のメタデータ515のみでは各ObjectIDが画面内のどのオブジェクトに対応するかを知ることができない。そこで、本実施形態では、図8に示すメタデータ518に示すように、オブジェクトの画面内の座標情報をメタデータとして追加する。図8において、行519に示すように画面内の左上端を原点として時刻tにおけるオブジェクトの水平方向位置をx、垂直方向位置をy、画面全体の幅をW、高さをHとしたときのオブジェクトの幅をw、高さをhとして記述している。これにより、各オブジェクトのObjectIDと、それが画面内のどのオブジェクトに対応するかを、受信装置102において対応付け可能となる。
この値を利用し、図9のプレイリスト520中のダイナミックテンプレート521で示されている「urn:mpeg:dash:srd:2014」スキームで規定された各属性値をダイナミックテンプレートとし、メタデータストリームで更新してもよい。
なお、図6に示すように、全てのメタデータを1つのメタデータストリーム配信するのではなく、複数のメタデータトラックに分けて配信してもよい。図6のプレイリスト510において、1つ目のメタデータストリームに、図8で示す行519に相当するオブジェクトの画面内の座標情報を格納することができる。そして、図6のプレイリスト510において、2つ目のメタデータストリームに、図7で示す行516、行517に相当するオブジェクトの数と使用する帯域幅の情報を格納することもできる。
このような記述によって、受信装置102は、必要なオブジェクトのみの座標情報を選択的に取得することが可能となる。この場合ダイナミックテンプレートの解決に用いるメタデータストリームと映像ストリームの関連性は前述の例と同様に、ATypeとして‘dtpl’を用いることによって関連性を表すことができる。すなわち、このダイナミックテンプレートの解決に用いる関連性を表す情報は、ATypeで規定される情報である。
他方、座標情報を含むメタデータストリームと映像ストリームの関連性は、図6のプレイリスト510で示すように、ATypeとして‘rois’を導入することによって表現することができる。この結果、受信装置102は、映像ストリームとメタデータストリームとの関連性を把握することができる。なお、ここでは、座標情報を含むメタデータストリームと映像ストリームとの関連性を示すのに‘rois’を用いているが、これに限らず別の文字列を、座標情報を意味するATypeとして用いてもよい。
(送信装置101における処理)
次に、図10を用いて本実施形態における送信装置101が実行する処理について説明する。
図10に示すように、送信装置101が実行する処理は、主として2種類のタスクによって構成される。一方のタスクは、プレイリストやセグメントデータ処理を行うタスク600であり、他方のタスクは、受信装置102から送信されてきた要求を処理するタスク602である。なお、本タスク構成は、本実施形態における送信装置101の処理構成の一例であるが、単一のタスクで実施することや、より多くの種類のタスクで実施してもよい。
タスク600は、領域分割映像記録604と、プレイリスト作成606と、オブジェクト認識608と、メタデータ記録610と、メタデータセグメント化611と、映像セグメント化612と、を含む。
図2の映像領域分割部202は、撮像部201より取得される映像データを領域分割可能な形で符号化し、記録することによって、領域分割映像記録604を実行する。また、この領域分割映像記録604と並行もしくはほぼ同時に、プレイリスト生成部206は、プレイリスト生成606を実行する。この処理によって、タスク600は、図5、図6、図9で示すようなプレイリスト501、510、520を生成する。
次に、オブジェクト認識部203は、映像データ内のオブジェクトの数及びその座標情報を取得することによって、オブジェクト認識608を実行する。さらに、映像領域判別部204は、各オブジェクトが含まれる映像領域の領域数より各オブジェクトを含む映像データの帯域を計算し、それらの情報を送信装置101の記録装置に記録することによって、メタデータ記録610を実行する。
セグメント生成部205は、このようにして記録されたメタデータ(例えば515、518)を、mp4セグメントとしてセグメント化することによって、メタデータセグメント化611を実行する。なお、本実施形態ではmp4セグメントとしてセグメント化する例を説明したが、MPEG2TSとしてセグメント化してもよい。セグメントの符号化方式はこれらに限定されるものではなく、どのような符号化方式でもよい。なお、mp4は、動画像圧縮符号化の標準規格であるMPEG−4の第14部で規定されているファイルフォーマットを表す。
セグメント処理部205は、タスク600内のこれまで述べた上記各処理の実行と並行して、もしくは各処理の実行に引き続き連続して映像セグメント化612を実行する。具体的には、セグメント生成部205は、領域分割した映像データをそれぞれ異なるmp4セグメント(MPEG2TSなどでもよい)の中に別トラックとして格納することによって、映像セグメント化612を実行する。
一方、タスク602は、プレイリスト送信614と、メタデータセグメント送信616と、objectIDパース618と、オブジェクトベースの再セグメント化622と、映像セグメント送信624と、を含む。
図2の通信部207は、受信装置102からのプレイリスト要求を常に監視し、プレイリスト要求があれば、プレイリスト生成606で生成されたプレイリストを受信装置102に送信することによって、プレイリスト送信614を実行する。同様に、通信部207は、受信装置102からセグメント要求を常に監視し、メタデータセグメント要求があれば、メタデータセグメント化611で記録されたメタデータセグメントを受信装置102に送信する。これによって、通信部207は、タスク602に含まれるメタデータセグメント送信616を実行する。
また、通信部207は、受信装置102からセグメント要求を常に監視する。映像セグメント要求があれば、要求されたObjectIDパース(parse)618により、要求された映像セグメントがどのオブジェクトに対する要求であるかを解析する。
そして、オブジェクトベースの再セグメント化622において、要求されたオブジェクトが含まれる映像領域のみのトラックを抽出した映像セグメントを生成する。
生成した映像セグメント(ROIを含む映像セグメント)は、通信部207を介して受信装置102に送信される。この送信処理は、映像セグメント送信処理624である。
ここで、オブジェクトがすでに画面内から消失した後要求されたオブジェクトに対する映像セグメント及びメタデータセグメントの要求があった場合には、受信装置102に対してエラーを通知してもよい。あるいはこの場合、映像セグメントを送信する代わりに全体映像を送信してもよい。
(受信装置102における処理)
図11、図12を用いて本実施形態における受信装置102の処理について説明する。
受信装置102の処理は主に図11と図12にそれぞれ示す2つのタスクによって構成される。一方のタスク630は、図11に示されるように、プレイリストやセグメントデータ処理を行うタスクである。他方のタスク670は、図12に示すように、ユーザインタフェース部307からの要求を処理するタスクである。なお、ここで説明するタスクの構成は、本実施形態における受信装置102の処理の構成の一例であるが、これを単一のタスクで実施してもよいし、より多くの種類のタスクで実施してもよい。
まず初めに、図11に示すタスク630について説明する。
プレイリスト要求632において、受信装置102の通信部306は、送信装置101に対してプレイリスト要求を送信する。プレイリスト解析634において、通信部306は、送信装置101から送信されてきたプレイリストを受信し、プレイリスト解析部304は、受信したプレイリストの解析を行う。
ダイナミックテンプレート有無判断636において、プレイリスト解析部304は、受信したプレイリストにダイナミックテンプレートがあるかないかの判定を行う。ダイナミックテンプレートの有無の判定は、受信したプレイリスト中において特定文字列の検索を行うことによって可能である。本実施形態では前述したとおり、ダイナミックテンプレート部分を、「!」記号で囲むことよって表しているため、この部分の有無を検索することによってダイナミックテンプレートの有無を判定することができる。この判定において、ダイナミックテンプレートがないと判定された場合は、標準DASH656に進み、標準のDASHにおけるMPD解析の処理を行えばよい。他方、ダイナミックテンプレートが存在すると判定された場合は、ダイナミックテンプレート解決方法判断638に進む。
ダイナミックテンプレート解決方法判断638において、プレイリスト解析部304は、ダイナミックテンプレートを解決する方法があるかの判定を行う。本実施形態では前述したとおり、ATypeを‘dtpl’にすることによって関連付けられたメタデータストリームを取得し、取得したメタデータストリームを用いてダイナミックテンプレートを解決することができる。ここで、関連するメタデータストリームが存在しない場合は、ダイナミックテンプレートの解決を不可能と判定し、プレイリストパージ640に進む。関連するメタデータストリームが存在し、ダイナミックテンプレートを解決する方法があると判定した場合は、メタデータセグメント要求642に進む。メタデータセグメント要求642において、通信部306は、送信装置101に対してメタデータセグメントの要求を送信する。
プレイリストパージ640において、プレイリスト解析部304は、ダイナミックテンプレートに関連する箇所をプレイリストから除去する。その後、標準DASH656に移行し、標準のDASHにおけるMPD解析の処理を実行する。
メタデータ解析644において、通信部306は、メタデータセグメントを受信し、受信したメタデータセグメントの解析を行う。
テンプレートパラメータ選択648において、セグメント解析部303は、メタデータ解析644において解析したメタデータセグメントの情報を用いて、メタデータセグメント中のどの値をテンプレートの値(パラメータ)として用いるか選択する。テンプレートパラメータの選択の具体的な方法は、図13を用いて後述する。
テンプレート更新650において、プレイリスト解析部304は、テンプレートパラメータ選択648において選択したテンプレートパラメータを用いてプレイリスト内のダイナミックテンプレートを更新する。すなわち、受信したメタデータセグメント(座標セグメント)を解析し、プレイリスト中のどのテンプレートパラメータを更新するべきかをセグメント解析部303が決定している。そして、プレイリスト解析部304は、セグメント解析部303が決定したメタデータセグメント(座標セグメント)の更新内容に基づき、プレイリストを更新する。
映像セグメント要求652において、取得セグメント決定部305は、更新されたプレイリストの情報を用いて映像セグメントを決定し、決定した映像セグメントを、ユーザが選択したROIの映像セグメントとして送信装置101に対して要求する。
復号化と再生654において、通信部306は、上記要求に係る映像セグメントを受信し、セグメント解析部303は、受信した映像セグメントからビットストリームを抽出する。また、復号化と再生654において、復号化部302は、抽出したビットストリームを復号化し、表示部301は、復号化されたビットストリームを表示する。このとき、セグメント解析部303は、メタデータ解析644におけるメタデータ解析の処理において得ていたオブジェクトの数や座標情報、帯域の情報を表示部301に出力し、表示部301は出力された情報を必要に応じて表示してもよい。
次に、メタデータセグメント要求642に戻り、処理を繰り返す。このように、図11のフローチャートで示されるタスクは、以降、映像ストリーミングが終了するまで同様の処理を繰り返す。
次に、図12のフローチャートで示されるタスク670について説明する。
ユーザ入力待ち672において、ユーザインタフェース部307は、ユーザ入力待ち処理を実行する。ユーザ入力有無判断674において、ユーザインタフェース部307は、ユーザ入力があるかないかの判定を行う。ユーザ入力がなければ、ユーザ入力待ち672に戻りこれを繰り返し、ユーザ入力があればユーザ入力解析676に進む。ユーザ入力解析676において、ユーザインタフェース部307は、ユーザ入力の解析を行う。ユーザ入力反映678において、ユーザインタフェース部307は、解析した結果を受信装置102内に反映する。
具体的なユーザ入力とその反映の例については図13を用いて以下で説明する。
(テンプレートパラメータ選択方法とユーザインタフェース)
テンプレートパラメータ選択方法及びユーザインタフェースの具体例ついて図13を用いて説明する。図13は、本実施形態における受信装置102のユーザインタフェース部307の一具体例であるタッチパネルの外観を示す説明図である。なお、本実施形態におけるユーザインタフェース部307の一具体例として図13を挙げるが、ユーザインタフェース部307は、同等の機能を有するものであればこれに限定されない。
図13(a)には、オブジェクト選択前のユーザインタフェース部307の一つの表示画面701が示されている。また、図13(b)には、オブジェクト選択後のユーザインタフェース部307の表示画面706が示されている。図13(a)および図13(b)には、プレイリストのURLを入力可能とする入力ボックス702と、入力ボックス702に入力されたURLに対してプレイリスト取得を発行するときに押下するロードボタン703と、が示されている。
上述したユーザ入力有無判断674において、ユーザインタフェース部307は、このロードボタン703の押下を検出した場合、ユーザ入力解析676において、ユーザインタフェース部307は、ユーザ入力の解析を行う。ユーザ入力反映678において、ユーザインタフェース部307は、この解析の結果、プレイリストの要求がなされたことを受信装置102内において反映する。その結果、このようにして、図11に示すタスクにおけるプレイリスト要求632が開始される。
なお、ユーザがURLを入力ボックス702に入力する場合、ユーザインタフェース部307は、URLのリスト(候補)を表示して、表示したリスト(候補)中から所望のURLを選択させてもよい。また、URLを固定したい場合は、あらかじめユーザが設定(固定)したURLを、固定で入力ボックス702に表示させるように構成してもよい。さらに、事前に決められたURLのみに取得要求を出すような場合は、入力ボックス702をユーザインタフェース部307は表示しないように構成してもよい。
図13(a)において、映像が表示される枠704が示されており、また図13(b)において、映像が表示される枠707が示されている。また、図13(a)および図13(b)には、はユーザが視聴したい時刻を設定するためのスライドバー708が示されている。ユーザは、スライドバー708を操作することで、全ストリーム中のどの部分を視聴したいかを選択することができる。
ユーザ入力解析676において、ユーザインタフェース部307は、スライドバー708の操作を検出した場合、ユーザ入力反映678において、ユーザインタフェース部307は、この操作を取得セグメント決定部305に送信する。その結果、映像セグメント要求652において、セグメント決定部305は、ユーザが視聴したい時刻の情報が反映されるように、要求される映像セグメントの時刻を更新する。
また、上述したテンプレートパラメータ選択648において、セグメント解析部303は、用いるテンプレートの値(パラメータ)を選択しているが、それに替えて、全体映像を表すようにパラメータを選択してもよい。映像の再生の最初においては、ユーザが、画面内のオブジェクトを選択しやすくさせるために、領域を限定せずに全体映像を表示させたものである。この場合、例えば、1回目のテンプレートパラメータ選択648において、セグメント解析部303は、メタデータ515中のObjectID=0で示される情報を選択することができる。
また、全体映像のストリームが、ダイナミックテンプレートを使わない別のAdaptationSetとして記述されている場合は、初めは当該別のAdaptationSetを単純に取得してもよい。このとき、受信装置102側の処理としては、セグメント解析部303は、前述したようにメタデータ518中の行519を一例とするオブジェクトの座標情報を取り出し、取り出した座標情報を表示部301に渡すことができる。このような処理によって、ユーザインタフェース部307は、表示部301にオブジェクトの座標情報を枠710,711,712として表示させることができる。
図13の表示例701で示すように、表示部30lは、同じ時刻情報を持つ映像データとメタデータを映像にオーバーレイする形で表示することができる。このような表示によって、表示部301は、ユーザに対して、全体の映像と、そのとき全体映像に含まれるオブジェクトの座標情報と、を共に示すことができる。
表示部301がユーザに表示例701を表示させた状態の映像を提示した後、ユーザは着目したいオブジェクトをユーザインタフェース部307上で選択する。これにより、表示例706に示すように、着目したいオブジェクトのみの映像を表示させることが可能になる。
図13(a)において、例えば枠710で示されたオブジェクトが、ユーザによって着目したいオブジェクトとして選択された場合、その選択されたオブジェクトを含む映像が、例えば図13(b)に示すように表示される。
ユーザの選択の方法としては、例えば、ユーザインタフェース部307は、ユーザのタッチ入力やマウス入力を検出して、枠710で示される枠内が押下されたと判断することができる。このような判断がなされた場合に、ユーザインタフェース部307は、該当する枠(710等)が対応するObjectIDのオブジェクトが選択されたと判定することができる。本実施形態では入力の一例として、ユーザによるタッチやマウスを具体例に挙げたが、これに限らずキーボード、音声などの入力でもよい。
ユーザ入力解析676において、ユーザインタフェース部307は、オブジェクトの選択を検出した場合、ユーザ入力反映678において、ユーザインタフェース部307は選択したオブジェクト情報を反映する処理を実行する。この反映に従って、テンプレートパラメータ選択648において、セグメント解析部303は、選択するパラメータを決定する。例えば枠710内がユーザ入力により押下された場合、ユーザインタフェース部307は、枠704内における枠710の相対的な座標情報を取得する。そして、ユーザインタフェース部307は、取得した座標情報を取得オブジェクト決定部308に送信する。
取得オブジェクト決定部308は、この相対的な座標情報及びセグメント解析部303が解析したメタデータから得られるObjectIDとその座標の対応関係から、画面上で選択されたオブジェクトが対応するObjectIDを割り出すことができる。取得オブジェクト決定部308は、割り出したこのObjectIDの情報を取得セグメント決定部305に渡す。このような処理によって、受信装置102の処理で前述したように、取得セグメント決定部305は、ダイナミックテンプレートを更新し、取得する映像セグメントを決定することができる。オブジェクト選択後の画面表示としては表示例706に示すように選択されたオブジェクトのみを表示することができる。このとき、取得される映像データとしては、例えば、分割領域群403で示すように4つの分割領域の組合せとすることもできる。表示する部分は分割領域群403全体でもよいし、切り出した領域409の部分のみをオブジェクトの座標情報を用いてクロップ(crop)して表示してもよい。
オブジェクト選択後の画面表示状態から再度他のオブジェクトを選択可能な状態に戻りたい場合に、表示例701の全体映像を表示したい場合がある。この場合は、ユーザは、枠707内の任意の点をユーザ入力によって押下してもよいし、別途、全体映像に戻るためのボタンなどを用意してユーザに押下させても良い。また、ユーザが全体映像の表示に戻りたい場合は、テンプレートパラメータ選択648において、ObjectID=0番を選択した初期の状態に戻してもよい。
<変形例>
変形例として、初めにユーザに着目するオブジェクトを選択させるために、枠704内で映像を流す前に、受信装置102は、ユーザが視聴したい映像セグメント内の初めのフレームを静止画として表示させてもよい。表示は、受信装置102の表示部301が実行することができる。この場合、通信部306は、取得する映像セグメントとしては、ユーザが視聴したい初めのフレームを含む映像セグメントのみを送信装置101から取得すればよい。また、通信部306は、メタデータセグメントもユーザが視聴したい初めのフレームの時刻に対応するもののみを送信装置101から取得すればよい。そして、本実施形態で説明した方法と同様に、ユーザに選択を行わせた時点で選択されたオブジェクトを含む映像セグメントを送信装置101に要求すればよい。
(シーケンス図)
図14、図15に示すシーケンス図を用いて、本実施形態における送信装置101と受信装置102の間の送受信の具体例について説明する。
図12のユーザ入力解析676において、ユーザインタフェース部307は、プレイリスト要求のユーザ入力が検出する。すると、ユーザ入力反映678において、ユーザインタフェース部307は、その入力内容を受信装置102における処理に反映し、図14の本シーケンスは開始する。
M1において、受信装置102は、送信装置101に対してプレイリスト要求を送信する。この処理は、プレイリスト要求632の処理に相当する。M2において、送信装置101は、プレイリスト要求に対する応答であるプレイリスト応答として、プレイリスト生成606において生成したプレイリストを受信装置102に送信する。ここで、送信装置101内でプレイリスト生成606が完了しておらず、プレイリストの送信準備が完了していない場合は、M2において送信装置101の通信部207はエラーを応答してもよい。
M3において、受信装置102は、受信したプレイリストを用いてプレイリスト解析を行う。これはプレイリスト解析634、ダイナミックテンプレート有無判断636、ダイナミックテンプレート解決方法判断638、プレイリストパージ640の処理に相当する。M4において、受信装置102は、M3におけるプレイリストの解析結果に従って、送信装置101に対してユーザが視聴したい時刻に対応するメタデータセグメント要求を送信する。これはメタデータセグメント要求642の処理に相当する。
M5において、送信装置101は、メタデータセグメント応答として、メタデータセグメント化611において生成したメタデータセグメントを送信する。M5において、送信装置101内でメタデータセグメント化611が完了しておらず、メタデータセグメントの送信準備が完了していない場合は、送信装置101の通信部207はエラーを応答してもよい。
M6において、受信装置102は、受信したメタデータセグメントを用いてメタデータ解析、テンプレート更新を行う。これはメタデータ解析644、テンプレートパラメータ選択648、テンプレート更新650の処理に相当する。M7において、受信装置102は、メタデータ解析、テンプレート更新の結果に従って送信装置101に対してユーザが視聴したいオブジェクト、及び時刻に対応する映像セグメント要求(映像セグメント配信要求)を送信する。これは映像セグメント要求652の処理に相当する。
M8において、送信装置101は、映像セグメント応答として、映像セグメント化612において生成した映像セグメントを受信装置102に対して送信する。ここで、送信装置101内で映像セグメント化612が完了しておらず、映像セグメントの送信準備が完了していない場合は、M8において送信装置101の通信部207はエラーを応答してもよい。M9において、受信装置102は、受信した映像セグメントを用いて映像の復号化、再生を行う。これは復号化と再生654に相当する処理である。
L1において、以降、M4からM9までの処理を繰り返し行う。
図15は、テンプレートパラメータ選択方法と、本実施形態において説明したユーザインタフェース部307の動作の場合のシーケンス図を示す。図15のM1からM8までは、図14のM1からM8の処理と同様のため説明を割愛する。図15のM9bの復号化、再生処理においては1フレーム分の復号化のみを行い静止画としての表示を行う点が、図14のM9と異なる。
M10において、受信装置102は、ユーザがオブジェクト選択を行う。M11において、受信装置102は、ユーザによって選択されたオブジェクトに応じて、送信装置101に対して映像セグメント要求を送信する。この処理は、テンプレートパラメータ選択648、テンプレート更新650、映像セグメント要求652の処理に対応する。
M12およびM13については、それぞれ図12におけるM8およびM9と同様の処理のため説明を割愛する。
ループ処理L3において、選択オブジェクトや視聴時刻の変更要求がない限りM11からM13までの処理が繰り返し実行される。選択オブジェクトや視聴時刻の変更要求がされるとループ処理L3を抜けてループ処理L2の処理に戻る。すなわち、再びM4の処理から開始されて、ループ処理L3の繰り返しの処理に至る。
本実施形態において、選択オブジェクトや視聴時刻の変更要求は、前述したようにユーザインタフェース部307がユーザ入力を受けることによって発生させてもよい。また、オブジェクトが画面内から消失した場合に送信装置101から送信されるエラー情報もしくは、全体映像の受信をトリガーとして発生させてもよい。
(ハードウエア構成例)
図16は、上記各実施形態の各部を構成することのできるコンピュータ810の構成の例を示す。例えば、図2に示す送信装置101を、コンピュータ810で構成することができる。また、図3に示す受信装置102に含まれる各部を、コンピュータ810で構成することもできる。
CPU811は、ROM812、RAM813、外部メモリ814等に格納されたプログラムを実行することによって、上記各実施形態の各部を実現する。ROM812、RAM813は上記CPUが実行するプログラムや各種データを保持することができる。RAM813は、上述したプレイリスト501やメタデータ515等を保持することができる。
また、外部メモリ814は、ハードディスク、光学式ディスクや半導体記憶装置等で構成してよく、映像セグメント等を格納してもよい。また、撮像部815は、撮像部201を構成してもよい。
入力部816は、ユーザインタフェース部307を構成することができる。キーボードやタッチパネルで構成することができるが、マウス等のポインティングデバイスや各種スイッチで構成してもよい。
表示部817は、図3の表示部301を構成することができ、各種ディスプレイで構成することができる。通信I/F818は、外部と通信を行うインターフェースであり、図2の通信部207や図3の通信部306を構成することができる。また、コンピュータ810の上記説明した各部はバス819によって相互に接続されている。
(その他の実施形態)
本発明は、以下の処理を実行することによっても実現される。
即ち、上述した実施形態の1以上の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給することができる。そして、そのシステム或いは装置のコンピュータ(またはCPUやMPUまたは1つ以上のプロセッサ等)がプログラムを読み出して実行する処理で上述した各処理を実現することもできる。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
101・・・送信装置、102・・・受信装置、103・・・ネットワーク、201・・・撮像部、202・・・映像領域分割部、203・・・オブジェクト認識部、204・・・映像領域判別部、205・・・セグメント生成部、206・・・プレイリスト生成部、207・・・通信部、301・・・表示部、302・・・復号化部、303・・・セグメント解析部、304・・・プレイリスト解析部、305・・・取得セグメント決定部、306・・・通信部、307・・・ユーザインタフェース部、308・・・取得オブジェクト決定部

Claims (14)

  1. 映像データを複数の映像領域に分割する分割手段と、
    前記分割手段により分割された前記複数の映像領域の中から、オブジェクトが含まれる映像領域であるオブジェクト領域を判別する判別手段と、
    前記判別手段により判別された前記オブジェクト領域の映像データを含む映像セグメントを生成する第1の生成手段と、
    前記判別手段により判別されたオブジェクト領域の前記オブジェクトの識別子と前記オブジェクトの位置情報とを含むメタデータセグメントを生成する第2の生成手段と、
    前記第2の生成手段により生成された前記メタデータセグメントを他の通信装置へ送信する第1の送信手段と、
    前記第1の送信手段により送信されたメタデータセグメントを受信した前記他の通信装置から映像セグメントの配信要求を受信する受信手段と、
    前記受信手段により受信された配信要求により特定される映像セグメントを前記他の通信装置へ送信する第2の送信手段と、
    を具備することを特徴とする通信装置。
  2. 前記映像セグメントと前記メタデータセグメントとの関連を資源識別子で記述するプレイリストを生成する第3の生成手段と、
    前記第3の生成手段により生成された前記プレイリストを前記他の通信装置へ送信する第3の送信手段と、をさらに具備することを特徴とする請求項1に記載の通信装置。
  3. 前記第3の生成手段は、前記メタデータセグメントの情報に基づき、内容を更新可能な前記プレイリストを生成することを特徴とする請求項2に記載の通信装置。
  4. 前記資源識別子はURL(Uniform Resource Locator)であることを特徴とする請求項2または3に記載の通信装置。
  5. 前記メタデータセグメントは、前記プレイリストの属性情報を含み、
    前記プレイリストの属性情報は、少なくとも、前記オブジェクトの数、前記映像データの帯域、のいずれかを含むことを特徴とする請求項2から4のいずれか1項に記載の通信装置。
  6. 前記メタデータセグメントは、前記映像データ中の前記オブジェクトの位置情報を含み、
    前記位置情報は、少なくとも、前記オブジェクトの前記映像データ中の座標情報と、前記オブジェクトの大きさ、のいずれかを含むことを特徴とする請求項1から5のいずれか1項に記載の通信装置。
  7. 第1の生成手段は、さらに、前記全体の映像データも含む映像セグメントを生成することを特徴とする請求項1から6のいずれか1項に記載の通信装置。
  8. 映像データを含む映像セグメントと、前記映像データ内のオブジェクトの識別子と前記オブジェクトの位置情報とを含むメタデータセグメントとをそれぞれ受信する第1の受信手段と、
    前記第1の受信手段により受信された前記映像データ内の前記オブジェクトから、1つ又は複数のオブジェクトをユーザに選択させる選択手段と、
    前記選択手段により選択されたオブジェクトの位置情報を取得し、前記メタデータセグメントに含まれるオブジェクトの位置情報に基づいて選択されたオブジェクトの識別子を決定する決定手段と、
    決定された前記オブジェクトの識別子に対応する映像セグメントの配信要求を他の通信装置へ送信する送信手段と、
    を具備することを特徴とする通信装置。
  9. 前記映像セグメントと前記メタデータセグメントとの関連を資源識別子で記述するプレイリストを受信する第2の受信手段、
    をさらに具備し、
    前記第1の受信手段は、前記プレイリストに基づき、前記選択されたオブジェクトが含まれる前記映像セグメントに対応する映像データを取得することを特徴とする通信装置。
  10. 前記映像セグメントおよび前記メタデータセグメントを解析し、前記オブジェクトの座標および前記プレイリストの属性情報を出力する第1の解析手段と、
    前記プレイリストの属性情報に基づき、前記プレイリストを更新する第2の解析手段と、
    前記選択手段によって、前記ユーザが選択したオブジェクトによって前記プレイリストを更新する第2の決定手段と、
    をさらに具備し、
    前記第2の解析手段は、前記メタデータセグメントに基づき、前記プレイリストの前記資源識別子の内容を更新することによって、前記メタデータセグメントと前記映像セグメントとの関連性を更新することを特徴とする請求項9に記載の通信装置。
  11. ネットワークと、
    前記ネットワークに接続する前記請求項1から7のいずれか1項に記載の通信装置と、
    前記ネットワークに接続する前記請求項8から10のいずれか1項に記載の通信装置と、
    を具備することを特徴とする通信システム。
  12. 映像データを複数の映像領域に分割するステップと、
    前記分割するステップにおいて分割された前記複数の映像領域の中から、オブジェクトが含まれる映像領域であるオブジェクト領域を判別するステップと、
    前記判別するステップにおいて判別された前記オブジェクト領域の映像データを含む映像セグメントを生成するステップと、
    前記判別するステップにおいて判別されたオブジェクト領域の前記オブジェクトの識別子と前記オブジェクトの位置情報とを含むメタデータセグメントを生成するステップと、
    前記生成するステップにおいて生成された前記メタデータセグメントを他の通信装置へ送信するステップと、
    前記送信するステップにおいて送信されたメタデータセグメントを受信した前記他の通信装置から映像セグメントの配信要求を受信するステップと、
    前記受信するステップにおいて受信された配信要求により特定される映像セグメントを前記他の通信装置へ送信するステップと、
    を含むことを特徴とする通信制御方法。
  13. 映像データを含む映像セグメントと、前記映像データ内のオブジェクトの識別子と前記オブジェクトの位置情報とを含むメタデータセグメントとをそれぞれ受信するステップと、
    前記受信するステップにおいて受信された前記映像データ内の前記オブジェクトから、1つ又は複数のオブジェクトをユーザに選択させるステップと、
    前記選択させるステップにおいて選択されたオブジェクトの位置情報を取得し、前記メタデータセグメントに含まれるオブジェクトの位置情報に基づいて選択されたオブジェクトの識別子を決定するステップと、
    決定された前記オブジェクトの識別子に対応する映像セグメントの配信要求を他の通信装置へ送信するステップと、
    を含むことを特徴とする通信制御方法。
  14. コンピュータを、請求項1から請求項10のいずれか1項に記載の通信装置の各手段として機能させるためのコンピュータプログラム。
JP2016019295A 2016-02-03 2016-02-03 通信装置、通信システム、通信制御方法およびコンピュータプログラム Active JP6624958B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2016019295A JP6624958B2 (ja) 2016-02-03 2016-02-03 通信装置、通信システム、通信制御方法およびコンピュータプログラム
KR1020187024453A KR102087533B1 (ko) 2016-02-03 2017-01-26 통신 장치, 통신 제어 방법, 및 컴퓨터 프로그램
CN201780009846.3A CN108605149A (zh) 2016-02-03 2017-01-26 通信装置、通信控制方法和计算机程序
PCT/JP2017/002656 WO2017135133A1 (en) 2016-02-03 2017-01-26 Communication apparatus, communication control method, and computer program
US16/074,693 US20190045269A1 (en) 2016-02-03 2017-01-26 Communication apparatus, communication control method, and computer program
EP17705184.4A EP3412030A1 (en) 2016-02-03 2017-01-26 Communication apparatus, communication control method, and computer program
US17/148,396 US20210136455A1 (en) 2016-02-03 2021-01-13 Communication apparatus, communication control method, and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016019295A JP6624958B2 (ja) 2016-02-03 2016-02-03 通信装置、通信システム、通信制御方法およびコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2017139628A true JP2017139628A (ja) 2017-08-10
JP6624958B2 JP6624958B2 (ja) 2019-12-25

Family

ID=58044119

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016019295A Active JP6624958B2 (ja) 2016-02-03 2016-02-03 通信装置、通信システム、通信制御方法およびコンピュータプログラム

Country Status (6)

Country Link
US (2) US20190045269A1 (ja)
EP (1) EP3412030A1 (ja)
JP (1) JP6624958B2 (ja)
KR (1) KR102087533B1 (ja)
CN (1) CN108605149A (ja)
WO (1) WO2017135133A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020137103A (ja) * 2019-02-19 2020-08-31 株式会社シンクアウト 情報処理システムおよび情報処理プログラム
JP2020170903A (ja) * 2019-04-01 2020-10-15 日本電信電話株式会社 情報処理システム、コンテンツ生成装置、コンテンツ提示装置、コンテンツ生成方法、コンテンツ提示方法およびプログラム
CN112437318A (zh) * 2020-11-09 2021-03-02 北京达佳互联信息技术有限公司 一种内容显示方法、装置、系统及存储介质
JP2022524871A (ja) * 2019-03-14 2022-05-10 ノキア テクノロジーズ オサケユイチア メディアコンテンツにおけるレイトバインディングのための方法および装置

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6843655B2 (ja) * 2017-03-09 2021-03-17 キヤノン株式会社 送信装置、受信装置、情報処理方法及びプログラム
CN108366303A (zh) * 2018-01-25 2018-08-03 努比亚技术有限公司 一种视频播放方法、移动终端及计算机可读存储介质
US11689776B2 (en) 2018-03-15 2023-06-27 Saturn Licensing Llc Information processing apparatus, information processing apparatus, and program
CN108449623B (zh) * 2018-03-27 2021-07-27 卓米私人有限公司 抓取物体的控制方法、服务器和目标客户端
JP2020150516A (ja) * 2019-03-15 2020-09-17 シャープ株式会社 画像復号装置及び画像符号化装置
US10715871B1 (en) * 2019-03-27 2020-07-14 Verizon Patent And Licensing, Inc. Determining an end screen time for displaying an end screen user interface
US10547915B1 (en) * 2019-07-19 2020-01-28 Look At Me, Inc. System and method for optimizing playlist information for ultra low latency live streaming
JP7442302B2 (ja) * 2019-11-22 2024-03-04 キヤノン株式会社 データ処理装置およびその制御方法、プログラム
US11902625B2 (en) * 2021-06-29 2024-02-13 Rovi Guides, Inc. Systems and methods for providing focused content
EP4287058B1 (en) * 2022-05-31 2024-04-10 Axis AB A device and a method for signing a metadata frame corresponding to an image frame of a sequence of image frames

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003111050A (ja) * 2001-09-27 2003-04-11 Olympus Optical Co Ltd 映像配信サーバ及び映像受信クライアントシステム
US20140199043A1 (en) * 2013-01-15 2014-07-17 Samsung Electronics Co., Ltd Method and computing device for performing virtual camera functions during playback of media content
WO2014171474A1 (ja) * 2013-04-19 2014-10-23 ソニー株式会社 情報処理装置、コンテンツ要求方法およびコンピュータプログラム
JP2016009925A (ja) * 2014-06-23 2016-01-18 キヤノン株式会社 データ処理装置、データ処理方法、及びプログラム
JP2016015551A (ja) * 2014-06-30 2016-01-28 キヤノン株式会社 動画再生装置、動画再生方法及びそのプログラム、動画配信装置、動画配信方法及びそのプログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8832753B2 (en) * 2008-01-16 2014-09-09 Apple Inc. Filtering and tailoring multimedia content based on observed user behavior
US8621000B2 (en) * 2011-03-23 2013-12-31 Verizon Patent And Licensing Inc. Region of interest streaming
GB2505912B (en) 2012-09-14 2015-10-07 Canon Kk Method and device for generating a description file, and corresponding streaming method
CN110139130B (zh) * 2012-10-12 2022-09-20 佳能株式会社 流传输数据的方法、发送和接收视频数据的方法和设备
WO2014063730A1 (en) * 2012-10-24 2014-05-01 Huawei Technologies Co., Ltd. Communication receiver
ES2744216T3 (es) * 2013-01-16 2020-02-24 Huawei Tech Co Ltd Inserción y adición de parámetros de URL en flujo continuo adaptativo
GB2513303B (en) * 2013-04-16 2017-06-07 Canon Kk Method and device for partitioning an image
WO2015014773A1 (en) * 2013-07-29 2015-02-05 Koninklijke Kpn N.V. Providing tile video streams to a client
US20160255412A1 (en) * 2013-10-22 2016-09-01 Sharp Kabushiki Kaisha Display control device, distribution device, display control method, and display control system
WO2015123861A1 (zh) * 2014-02-21 2015-08-27 华为技术有限公司 处理视频的方法、终端和服务器
KR101953679B1 (ko) * 2014-06-27 2019-03-04 코닌클리즈케 케이피엔 엔.브이. Hevc-타일드 비디오 스트림을 기초로 한 관심영역 결정

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003111050A (ja) * 2001-09-27 2003-04-11 Olympus Optical Co Ltd 映像配信サーバ及び映像受信クライアントシステム
US20140199043A1 (en) * 2013-01-15 2014-07-17 Samsung Electronics Co., Ltd Method and computing device for performing virtual camera functions during playback of media content
WO2014171474A1 (ja) * 2013-04-19 2014-10-23 ソニー株式会社 情報処理装置、コンテンツ要求方法およびコンピュータプログラム
JP2016009925A (ja) * 2014-06-23 2016-01-18 キヤノン株式会社 データ処理装置、データ処理方法、及びプログラム
JP2016015551A (ja) * 2014-06-30 2016-01-28 キヤノン株式会社 動画再生装置、動画再生方法及びそのプログラム、動画配信装置、動画配信方法及びそのプログラム

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020137103A (ja) * 2019-02-19 2020-08-31 株式会社シンクアウト 情報処理システムおよび情報処理プログラム
JP7304508B2 (ja) 2019-02-19 2023-07-07 株式会社シンクアウト 情報処理システムおよび情報処理プログラム
JP2022524871A (ja) * 2019-03-14 2022-05-10 ノキア テクノロジーズ オサケユイチア メディアコンテンツにおけるレイトバインディングのための方法および装置
US11653054B2 (en) 2019-03-14 2023-05-16 Nokia Technologies Oy Method and apparatus for late binding in media content
JP7373581B2 (ja) 2019-03-14 2023-11-02 ノキア テクノロジーズ オサケユイチア メディアコンテンツにおけるレイトバインディングのための方法および装置
JP2020170903A (ja) * 2019-04-01 2020-10-15 日本電信電話株式会社 情報処理システム、コンテンツ生成装置、コンテンツ提示装置、コンテンツ生成方法、コンテンツ提示方法およびプログラム
JP7280495B2 (ja) 2019-04-01 2023-05-24 日本電信電話株式会社 情報処理システム、コンテンツ生成装置、コンテンツ提示装置、コンテンツ生成方法、コンテンツ提示方法およびプログラム
CN112437318A (zh) * 2020-11-09 2021-03-02 北京达佳互联信息技术有限公司 一种内容显示方法、装置、系统及存储介质

Also Published As

Publication number Publication date
US20190045269A1 (en) 2019-02-07
CN108605149A (zh) 2018-09-28
EP3412030A1 (en) 2018-12-12
JP6624958B2 (ja) 2019-12-25
KR20180105690A (ko) 2018-09-28
US20210136455A1 (en) 2021-05-06
WO2017135133A1 (en) 2017-08-10
KR102087533B1 (ko) 2020-03-10

Similar Documents

Publication Publication Date Title
JP6624958B2 (ja) 通信装置、通信システム、通信制御方法およびコンピュータプログラム
JP6501933B2 (ja) Xmlドキュメントの生成装置、生成方法、情報処理装置、情報処理方法、及びプログラム
US10187668B2 (en) Method, system and server for live streaming audio-video file
US10171541B2 (en) Methods, devices, and computer programs for improving coding of media presentation description data
US11330310B2 (en) Encoding device and method, reproduction device and method, and program
JP5267165B2 (ja) ストリーミング配信システム、その動作制御方法及びプログラム
JP2017515336A (ja) 分割タイムドメディアデータのストリーミングを改善するための方法、デバイス、およびコンピュータプログラム
KR102133207B1 (ko) 통신장치, 통신 제어방법 및 통신 시스템
US10911809B2 (en) Communication apparatus, communication method, and program
CN113225585A (zh) 一种视频清晰度的切换方法、装置、电子设备以及存储介质
KR20220031560A (ko) 정보 처리 장치, 정보 처리 방법, 재생 처리 장치 및 재생 처리 방법
US20230007314A1 (en) System and method of server-side dynamic spatial and temporal adaptations for media processing and streaming
CN114731463A (zh) 数据处理设备及其控制方法和程序
JP6623905B2 (ja) サーバ装置、情報処理方法およびプログラム
JP6587539B2 (ja) 送信装置、情報処理方法及びプログラム
US20230156257A1 (en) Information processing apparatus, information processing method, and storage medium
US20230112894A1 (en) Information processing apparatus, information processing method, and storage medium
US20220337800A1 (en) Systems and methods of server-side dynamic adaptation for viewport-dependent media processing
JP6506084B2 (ja) 動画再生装置及びプログラム
JP2019106732A (ja) 動画再生装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190131

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190521

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190717

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191029

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191126

R151 Written notification of patent or utility model registration

Ref document number: 6624958

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D03