JP2015050599A - 動画配信システム、動画配信装置、端末装置、及びプログラム - Google Patents

動画配信システム、動画配信装置、端末装置、及びプログラム Download PDF

Info

Publication number
JP2015050599A
JP2015050599A JP2013180556A JP2013180556A JP2015050599A JP 2015050599 A JP2015050599 A JP 2015050599A JP 2013180556 A JP2013180556 A JP 2013180556A JP 2013180556 A JP2013180556 A JP 2013180556A JP 2015050599 A JP2015050599 A JP 2015050599A
Authority
JP
Japan
Prior art keywords
layer
frame
packet
data
layer data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013180556A
Other languages
English (en)
Other versions
JP5902653B2 (ja
Inventor
泰裕 永井
Yasuhiro Nagai
泰裕 永井
隆生 岡廻
Takao Okameguri
隆生 岡廻
藤井 輝也
Teruya Fujii
輝也 藤井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SoftBank Corp
Original Assignee
SoftBank Mobile Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SoftBank Mobile Corp filed Critical SoftBank Mobile Corp
Priority to JP2013180556A priority Critical patent/JP5902653B2/ja
Publication of JP2015050599A publication Critical patent/JP2015050599A/ja
Application granted granted Critical
Publication of JP5902653B2 publication Critical patent/JP5902653B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

【課題】通信路の通信品質が低下した場合にも、安定した動画再生を実現できる、動画配信装置を提供する。【解決手段】数の階層を含むように符号化された動画データに含まれる第1階層の第1レイヤデータ及び第2階層の第2レイヤデータを取得するレイヤデータ取得部と、第1レイヤデータ及び第2レイヤデータに含まれる複数のフレームのそれぞれを、シーケンスIDと、レイヤIDと、第1レイヤデータのフレームと第2レイヤデータのフレームとを異なるQoSを用いて送信することを示すQoSIDとを対応付けてパケット化することにより、複数のフレームのそれぞれに対応する複数のパケットを生成するパケット生成部と、QoS保証可能な通信路を介して、前記複数のパケットを送信するパケット送信部とを備える。【選択図】図2

Description

本発明は、動画配信システム、動画配信装置、端末装置、及びプログラムに関する。
従来、スケーラブル符号化を用いたストリーミング技術が知られていた。(例えば、特許文献1参照)。また、通信路の通信品質が低下した場合に、スケーラブル符号化により生成した基本レイヤデータ及び拡張レイヤデータのうち拡張レイヤデータを送信しないように制御する技術が知られていた。
[先行技術文献]
[特許文献]
[特許文献1]特表2009−540629号公報
しかし、通信路の通信品質が測定されたときと、実際にデータを送信するときとで、通信品質が異なる場合があり、例えば、通信品質が低下してしまっていた場合に基本レイヤデータがロスすることによって動画が途中で止まってしまう等の問題が発生する場合があった。
本発明の第1の態様によれば、複数の階層を含むように符号化された動画データを配信する動画配信装置と、動画データを受信して復号化する端末装置とを備える動画配信システムであって、動画配信装置が、動画データに含まれる第1階層の第1レイヤデータ及び第2階層の第2レイヤデータを取得するレイヤデータ取得部と、第1レイヤデータ及び第2レイヤデータに含まれる複数のフレームのそれぞれを、フレームのシーケンスを識別するシーケンスIDと、階層を識別するレイヤIDと、第1レイヤデータのフレームと第2レイヤデータのフレームとを異なるQoSを用いて送信することを示すQoSIDとを対応付けてパケット化することにより、複数のフレームのそれぞれに対応する複数のパケットを生成するパケット生成部と、QoS保証可能な通信路を介して、複数のパケットを端末装置に送信するパケット送信部とを有し、端末装置が、複数のパケットを受信するパケット受信部と、パケット受信部が受信した複数のパケットのそれぞれに含まれるフレームについて、各フレームが受信されたか否かを判定するフレーム判定部と、受信された複数のフレームのうち、第1レイヤデータのフレームとこれに対応する第2レイヤデータのフレームの両方が受信された場合、両方のフレームを用い、第1レイヤデータのフレーム又は第2レイヤデータのフレームのどちらかしか受信されなかった場合当該フレームを用いて、動画データを復号化する復号化部とを有する、動画配信システムが提供される。
本発明の第2の態様によれば、複数の階層を含むように符号化された動画データに含まれる第1階層の第1レイヤデータ及び第2階層の第2レイヤデータを取得するレイヤデータ取得部と、第1レイヤデータ及び第2レイヤデータに含まれる複数のフレームのそれぞれを、フレームのシーケンスを識別するシーケンスIDと、階層を識別するレイヤIDと、第1レイヤデータのフレームと第2レイヤデータのフレームとを異なるQoSを用いて送信することを示すQoSIDとを対応付けてパケット化することにより、複数のフレームのそれぞれに対応する複数パケットを生成するパケット生成部と、QoS保証可能な通信路を介して、複数のパケットを送信するパケット送信部とを備える動画配信装置が提供される。
本発明の第3の態様によれば、コンピュータを、上記動画配信装置として機能させるためのプログラムが提供される。
本発明の第4の態様によれば、複数の階層を含むように符号化された動画データに含まれる第1階層の第1レイヤデータ及び第2階層の第2レイヤデータのそれぞれに含まれる複数のフレームのそれぞれを、フレームのシーケンスを識別するシーケンスIDと、階層を識別するレイヤIDと、第1レイヤデータのフレームと第2レイヤデータのフレームとを異なるQoSを用いて送信することを示すQoSIDとを対応付けてパケット化することにより生成された、複数のパケットを受信するパケット受信部と、パケット受信部が受信した複数のパケットのそれぞれに含まれるフレームについて、シーケンスID及びレイヤIDに基づいて、各フレームが受信されたか否かを判定するフレーム判定部と、複数のフレームのうち、第1レイヤデータのフレームとこれに対応する第2レイヤデータのフレームの両方が受信された場合、両方のフレームを用い、第1レイヤデータのフレーム又は第2レイヤデータのフレームのどちらかしか受信されなかった場合、当該フレームを用いて、動画データを復号化する復号化部とを備える端末装置が提供される。
本発明の第5の態様によれば、コンピュータを、上記端末装置として機能させるためのプログラムが提供される。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
動画配信システムの通信環境の一例を概略的に示す。 複数の基本レイヤフレーム及び複数の拡張空間レイヤフレームのそれぞれに対応付けられたQoSID、シーケンスID、及びレイヤIDの一例を概略的に示す。 複数の基本レイヤフレーム及び複数の拡張時間レイヤフレームのそれぞれに対応付けられたQoSID、シーケンスID、及びレイヤIDの一例を概略的に示す。 複数の基本レイヤフレーム、複数の拡張時間レイヤフレーム及び複数の拡張空間レイヤフレームのそれぞれに対応付けられたQoSID、シーケンスID、及びレイヤIDの一例を概略的に示す。 動画配信装置の機能構成の一例を概略的に示す。 端末装置の機能構成の一例を概略的に示す。 端末装置による復号化処理のフローチャートの一例を概略的に示す。 端末装置による復号化処理のフローチャートの一例を概略的に示す。 端末装置による復号化処理のフローチャートの一例を概略的に示す。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、動画配信システム10の通信環境の一例を概略的に示す。本実施形態に係る動画配信システム10は、動画配信装置100、動画サーバ200、端末装置300、及び通信中継装置400を備える。動画配信装置100、動画サーバ200、端末装置300、及び通信中継装置400は、ネットワーク20を介して通信してよい。ネットワーク20は、インターネット、有線LAN、無線LAN、有線電話網、及び無線電話網の少なくともいずれかを含んでよい。
動画配信装置100は、複数の階層を含むように符号化された動画データを配信する。動画配信装置100は、例えば、スケーラブル符号化された動画データを配信する。動画配信装置100は、他の符号化方式によって複数の階層を含むように符号化された動画データを配信してもよい。
動画配信装置100は、例えば、自らが格納する動画データを符号化して配信する。また、動画配信装置100は、他の装置が配信する動画データを受信して、受信した動画データを符号化して配信してよい。例えば、動画配信装置100は、動画サーバ200が配信する動画データを受信して、受信した動画データを符号化して配信してよい。動画配信装置100は、動画サーバ200から動画のストリーミングを受け付けて、受け付けたストリーミングに基づいて動画データを生成してもよい。また、動画配信装置100は、他の装置が符号化した動画データを受信して、受信した符号化された動画データを配信してもよい。例えば、動画配信装置100は、動画サーバ200から符号化された動画データを受信する。動画配信装置100は、符号化された動画データをライブストリーミングによって配信してもよい。すなわち、動画配信装置100は、動画データをリアルタイムで符号化して、ストリーミング配信してもよい。
動画サーバ200は、動画データを配信する。動画サーバ200は、動画をストリーミング配信してよい。また、動画サーバ200は、動画データを複数の階層を含むように符号化して配信してもよい。
端末装置300は、複数の階層を含むように符号化された動画データを動画配信装置100から受信して復号化する。端末装置300は、少なくとも一部がQoS保証可能な通信路を介して、動画配信装置100から符号化された動画データを受信してよい。
通信中継装置400は、動画配信装置100と端末装置300との間の通信を中継する。通信中継装置400は、QoS制御機能を備えていてよい。通信中継装置400は、例えば、動画配信装置100から受信した複数の階層を含むように符号化された動画データを、QoS保証可能な通信路を介して、端末装置300に送信する。
図1は、端末装置300と通信中継装置400とが無線通信する例を示す。端末装置300は、無線通信可能な携帯電話、タブレット端末、及びPC等であってよい。通信中継装置400は、無線基地局及びアクセスポイント等であってよい。端末装置300と通信中継装置400とは有線通信してもよい。端末装置300は、有線通信可能なPCであってよい。通信中継装置400は、スイッチ及びルーター等であってよい。端末装置300と通信中継装置400とはネットワーク20を介して通信してもよい。
本実施形態において、動画配信装置100は、符号化された動画データに含まれる第1階層の第1レイヤデータ及び第2階層の第2レイヤデータについて、第1レイヤデータと第2レイヤデータとが異なるQoSを用いて送信されるように、第1レイヤデータ及び第2レイヤデータを配信する。例えば、動画配信装置100は、第1レイヤデータ及び第2レイヤデータに含まれる複数のフレームのそれぞれを、フレームのシーケンスを識別するシーケンスIDと、階層を識別するレイヤIDと、第1レイヤデータのフレームと第2レイヤデータのフレームとを異なるQoSを用いて送信することを示すQoSIDとを対応付けてパケット化することにより、複数のフレームのそれぞれに対応する複数のパケットを生成する。そして、通信中継装置400が、動画配信装置100から受信した複数のパケットに含まれるQoSIDを参照することによって、第1レイヤデータのフレームと第2レイヤデータのフレームとを異なるQoSを用いて端末装置300に送信する。
例えば、動画配信装置100は、第1レイヤデータのフレームにQoS保証して送信することを示すQoSIDを対応付け、第2レイヤデータのフレームにQoS保証しないで送信することを示すQoSIDを対応付ける。そして、通信中継装置400が、動画配信装置100から受信した複数のパケットに含まれるQoSIDを参照することによって、第1レイヤデータのフレームをQoS保証して端末装置300に送信し、第2レイヤデータのフレームをQoS保証せずに端末装置300に送信する。
これにより、例えば、動画配信装置100と端末装置300との間の通信路の通信品質が高いときには、第1レイヤデータと第2レイヤデータとを用いた高品質な動画データを端末装置300に再生させることができ、通信路の通信品質が低い場合であっても、第1レイヤデータ及び第2レイヤデータのうち第1レイヤデータのみを用いた動画データを端末装置300に再生させることができる。
一例として、動画配信装置100は、スケーラブル符号化された動画データに含まれる基本レイヤデータ及び少なくとも1つの拡張レイヤデータについて、基本レイヤデータが少なくとも1つの拡張レイヤデータよりも高くQoS保証されるように、基本レイヤデータ及び拡張レイヤデータを配信する。
基本レイヤデータとは、例えば、動画が再生中に途切れたり停止したりしない等の必要最低限の条件を少なくとも満たすためのデータである。基本レイヤデータは、第1レイヤデータの一例であってよい。
拡張レイヤデータとは、基本レイヤデータに加えることによって動画の品質を向上できるデータである。例えば、基本レイヤデータが低解像度の動画データであり、拡張レイヤデータが解像度を向上させるデータである。また、例えば、基本レイヤデータが低フレームレートの動画データであり、拡張レイヤデータがフレームレートを向上させるデータである。また、例えば、基本レイヤデータが低画質の動画データであり、拡張レイヤデータが画質を向上させるデータである。拡張レイヤデータは、第2レイヤデータの一例であってよい。
例えば、動画配信装置100は、基本レイヤデータに含まれる複数のフレームのそれぞれを、フレームのシーケンスを識別するシーケンスIDと、基本レイヤを識別するレイヤIDと、QoS保証して送信することを示すQoSIDとを対応付けてパケット化することにより、複数のフレームのそれぞれに対応する複数の基本レイヤパケットを生成する。また、動画配信装置100は、少なくとも1つの拡張レイヤデータに含まれる複数のフレームのそれぞれを、フレームのシーケンスを識別するシーケンスIDと、拡張レイヤを識別するレイヤIDと、QoS保証せずに送信することを示すQoSIDを対応付けてパケット化することにより、複数のフレームのそれぞれに対応する複数の拡張レイヤパケットを生成する。
そして、通信中継装置400が、動画配信装置100から受信した基本レイヤパケット及び拡張レイヤパケットに含まれるQoSIDを参照することによって、基本レイヤパケットはQoS保証して端末装置300に送信し、拡張レイヤパケットはQoS保証せずに端末装置300に送信する。これにより、動画配信装置100と端末装置300との間の通信路の通信品質が高いときには、高品質な動画データを端末装置300に再生させることができ、通信路の通信品質が低い場合であっても、必要最低限の条件を満たす動画データを端末装置300に再生させることができる。
図2は、動画配信装置100によって、基本レイヤデータ510の複数の基本レイヤフレーム512及び拡張空間レイヤデータ520の複数の拡張空間レイヤフレーム522のそれぞれに対応付けられたQoSID130、シーケンスID140、及びレイヤID150の一例を概略的に示す。基本レイヤデータ510及び拡張空間レイヤデータ520は、動画データが空間スケーラブル符号化されることによって生成されたデータである。基本レイヤデータ510のみを復号化した動画データよりも、基本レイヤデータ510及び拡張空間レイヤデータ520を復号化した動画データの方が、解像度が高い動画データとなる。
図2に示す例では、9つの基本レイヤフレーム512のそれぞれに、基本レイヤフレーム512を拡張空間レイヤフレーム522よりも高いQoSを用いて送信することを示すQoSID「1」が対応付けられている。また、9つの拡張空間レイヤフレーム522のそれぞれに、拡張空間レイヤフレーム522を基本レイヤフレーム512よりも低いQoSを用いて送信することを示すQoSID「2」が対応付けられている。基本レイヤフレーム512を拡張空間レイヤフレーム522よりも高いQoSを用いて送信するとは、例えば、基本レイヤフレーム512をQoS保証して送信し、拡張空間レイヤフレーム522をQoS保証せずに送信することであってよい。
また、9つの基本レイヤフレーム512及び9つの拡張空間レイヤフレーム522のそれぞれに、フレームのシーケンスを識別するシーケンスID「1」から「9」が対応付けられている。また、9つの基本レイヤフレーム512のそれぞれに基本レイヤを識別するレイヤID「1」が対応付けられ、9つの拡張空間レイヤフレーム522のそれぞれに拡張空間レイヤを識別するレイヤID「2」が対応付けられている。
動画配信装置100は、複数の基本レイヤフレーム512及び複数の拡張空間レイヤフレーム522に、図2に示すQoSID130、シーケンスID140、及びレイヤID150を対応付けてパケット化することにより、複数の基本レイヤパケット及び複数の拡張空間レイヤパケットを生成してよい。これにより、QoS制御機能を有する通信中継装置400に対して、基本レイヤパケットを拡張空間レイヤパケットよりも高くQoS制御して、基本レイヤパケット及び拡張空間レイヤパケットを端末装置300に送信させることができる。
なお、図2では、一の拡張空間レイヤデータ520にQoSID130、シーケンスID140、及びレイヤID150が対応付けられた例を示しているが、複数の拡張空間レイヤデータ520にQoSID130、シーケンスID140、及びレイヤID150が対応付けられてもよい。この場合、複数の拡張空間レイヤデータ520に対して異なるレイヤIDを対応付けることにより、複数の拡張空間レイヤデータ520を識別可能にできる。例えば、2つの拡張空間レイヤデータ520がある場合、動画配信装置100は、一方の拡張空間レイヤデータ520のフレームにレイヤID「2」を対応付け、他方の拡張空間レイヤデータ520のフレームにレイヤID「3」を対応付けてよい。
動画配信装置100は、基本レイヤデータ510及び複数の拡張空間レイヤデータ520に対して、対応付けるQoSIDを動的に変更してもよい。例えば、動画配信装置100は、一のシーケンスについて、基本レイヤデータ510のフレームにQoSID「1」、一の拡張空間レイヤデータ520にQoSID「2」、他の拡張空間レイヤデータ520にQoSID「3」を対応付け、他のシーケンスについて、基本レイヤデータ510のフレームにQoSID「1」、一の拡張空間レイヤデータ520にQoSID「2」、他の拡張空間レイヤデータ520にQoSID「2」を対応付ける。例えば、動画配信装置100が、通信回線の品質の変化に応じて、対応付けるQoSIDを動的に変更することによって、通信回線の品質に適した動画データの配信を実現できる。
図3は、動画配信装置100によって、基本レイヤデータ610の複数の基本レイヤフレーム612及び拡張時間レイヤデータ620の複数の拡張時間レイヤフレーム622のそれぞれに対応付けられたQoSID130、シーケンスID140、及びレイヤID150の一例を概略的に示す。基本レイヤデータ610及び拡張時間レイヤデータ620は、動画データが時間スケーラブル符号化されることによって生成されたデータである。
基本レイヤデータ610のみを復号化した動画データよりも、基本レイヤデータ610及び拡張時間レイヤデータ620を復号化した動画データの方が、フレームレートが高い動画データとなる。ここで、基本レイヤフレーム612は、他のフレームを用いることなく復号化可能なキーフレームであって、例えばIフレームである。また、拡張時間レイヤフレーム622は、他のフレームを用いることによって予測復号化される予測復号フレームであって、例えばPフレーム又はBフレームである。
図3では、3つの基本レイヤフレーム612のそれぞれに、基本レイヤフレーム612を拡張時間レイヤフレーム622よりも高いQoSを用いて送信することを示すQoSID「1」が対応付けられている。また、6つの拡張時間レイヤフレーム622のそれぞれに、拡張時間レイヤフレーム622を基本レイヤフレーム612よりも低いQoSを用いて送信することを示すQoSID「2」が対応付けられている。
また、3つの基本レイヤフレーム612及び6つの拡張時間レイヤフレーム622のそれぞれに、フレームのシーケンスを識別するシーケンスID「1」から「9」が対応付けられている。また、3つの基本レイヤフレーム612のそれぞれに基本レイヤを識別するレイヤID「1」が対応付けられており、6つの拡張時間レイヤフレーム622のそれぞれに拡張時間レイヤを識別するレイヤID「2」が対応付けられている。
一の基本レイヤフレーム612と、当該一の基本レイヤフレーム612との直接的又は間接的な差分を符号化した拡張時間レイヤフレーム622とからなるグループを映像グループと呼ぶ場合がある。図3に示す例では、シーケンスID「1」の基本レイヤフレーム612及びシーケンスID「2」から「4」の拡張時間レイヤフレーム622が第1映像グループであり、シーケンスID「5」の基本レイヤフレーム612及びシーケンスID「6」から「8」の拡張時間レイヤフレーム622が第2映像グループである。
動画配信装置100は、複数の基本レイヤフレーム612及び複数の拡張時間レイヤフレーム622に、図3に示すQoSID130、シーケンスID140、及びレイヤID150を対応付けてパケット化することにより、複数の基本レイヤパケット及び複数の拡張時間レイヤパケットを生成してよい。これにより、QoS制御機能を有する通信中継装置400に、基本レイヤパケットを拡張時間レイヤパケットよりも高くQoS制御して基本レイヤパケット及び拡張時間レイヤパケットを端末装置300に送信させることができる。
なお、図3では、一の拡張時間レイヤデータ620にQoSID130、シーケンスID140、及びレイヤID150が対応付けられた例を示しているが、複数の拡張時間レイヤデータ620にQoSID130、シーケンスID140、及びレイヤID150が対応付けられてもよい。この場合、複数の拡張時間レイヤデータ620に対して、異なるレイヤIDを対応付けることにより、複数の拡張時間レイヤデータ620を識別可能にできる。例えば、2つの拡張時間レイヤデータ620がある場合、動画配信装置100は、一方の拡張時間レイヤデータ620のフレームにレイヤID「2」を対応付け、他方の拡張時間レイヤデータ620のフレームにレイヤID「3」を対応付けてよい。例えば、動画配信装置100は、PフレームにレイヤID「2」を対応付け、Bフレームに、レイヤID「2」よりも階層が低いレイヤID「3」を対応付けてよい。
図4は、動画配信装置100によって、基本レイヤデータ710の複数の基本レイヤフレーム712、拡張時間レイヤデータ720の複数の拡張時間レイヤフレーム722、及び拡張空間レイヤデータ730の複数の拡張空間レイヤフレーム732のそれぞれに対応付けられたQoSID130、シーケンスID140、空間レイヤID152、及び時間レイヤID154の一例を概略的に示す。基本レイヤデータ710、拡張時間レイヤデータ720、及び拡張空間レイヤデータ730は、動画データが時間スケーラブル符号化及び空間スケーラブル符号化されることによって生成されたデータである。
基本レイヤデータ710のみを復号化した動画データよりも、基本レイヤデータ710、拡張時間レイヤデータ720及び拡張空間レイヤデータ730を復号化した動画データの方が、解像度及びフレームレートが高い動画データとなる。基本レイヤフレーム712は、例えばIフレームであり、拡張時間レイヤフレーム722は、例えばPフレーム又はBフレームである。
図4では、3つの基本レイヤフレーム712のそれぞれに、基本レイヤフレーム712を拡張時間レイヤフレーム722及び拡張空間レイヤフレーム732よりも高いQoSを用いて送信することを示すQoSID「1」が対応付けられている。また、6つの拡張時間レイヤフレーム722のそれぞれに、拡張時間レイヤフレーム722を、基本レイヤフレーム712よりも低くかつ拡張空間レイヤフレーム732よりも高いQoSを用いて送信することを示すQoSID「2」が対応付けられている。また、9つの拡張空間レイヤフレーム732のそれぞれに、基本レイヤフレーム712及び拡張時間レイヤフレーム722よりも低いQoSを用いて送信することを示すQoSID「3」が対応付けられている。
また、3つの基本レイヤフレーム712及び6つの拡張時間レイヤフレーム722及び9つの拡張空間レイヤフレーム732のそれぞれに、フレームのシーケンスを識別するシーケンスID「1」から「9」が対応付けられている。
また、3つの基本レイヤフレーム712のそれぞれに空間レイヤID「1」及び時間レイヤID「1」が対応付けられている。また、6つの拡張時間レイヤフレーム722のそれぞれに空間レイヤID「1」及び時間レイヤID「2」が対応付けられている。また、9つの拡張空間レイヤフレーム732のそれぞれに空間レイヤID「2」が対応付けられている。
また、9つの拡張空間レイヤフレーム732のうち、基本レイヤフレーム712のシーケンスIDと同一のシーケンスIDを含む拡張空間レイヤフレーム732に、時間レイヤID「1」が対応付けられている。また、9つの拡張空間レイヤフレーム732のうち、拡張時間レイヤフレーム722のシーケンスIDと同一のシーケンスIDを含む拡張空間レイヤフレーム732に時間レイヤID「2」が対応付けられている。
一の基本レイヤフレーム712と、当該一の基本レイヤフレーム712との直接的又は間接的な差分を符号化した拡張時間レイヤフレーム722と、これらと同一のシーケンスIDを含む拡張空間レイヤフレーム732とからなるグループを映像グループと呼ぶ場合がある。図4に示す例では、シーケンスID「1」の基本レイヤフレーム712、シーケンスID「2」から「4」の拡張時間レイヤフレーム722、及びシーケンスID「1」から「4」の拡張空間レイヤフレーム732が第1映像グループであり、シーケンスID「5」の基本レイヤフレーム712、シーケンスID「6」から「8」の拡張時間レイヤフレーム722、及びシーケンスID[5]から「8」の拡張空間レイヤフレーム732が第2映像グループである。
動画配信装置100は、複数の基本レイヤフレーム712、複数の拡張時間レイヤフレーム722、及び複数の拡張空間レイヤフレーム732に、図4に示すQoSID130、シーケンスID140、及びレイヤID150を対応付けてパケット化することにより、複数の基本レイヤパケット、複数の拡張時間レイヤパケット及び複数の拡張空間レイヤパケットを生成してよい。これにより、QoS制御機能を有する通信中継装置400に対して、基本レイヤパケットを拡張時間レイヤパケットよりも高くQoS制御し、拡張時間レイヤパケットを拡張空間レイヤパケットよりも高くQoS制御して、基本レイヤパケット、拡張時間レイヤパケット及び拡張空間レイヤパケットを端末装置300に送信させることができる。
図5は、動画配信装置100の機能構成の一例を概略的に示す。動画配信装置100は、ストリーミング受付部102、指示受付部104、動画データ生成部106、動画データ格納部108、符号化部110、レイヤデータ取得部112、レイヤデータ受信部114、パケット生成部116、パケット送信部120、通信品質取得部122、及び符号化関連情報送信部124を備える。動画配信装置100がこれらのすべての構成を備えることは必須とは限らない。
ストリーミング受付部102は、動画のストリーミングを受け付ける。ストリーミング受付部102は、例えば、動画サーバ200が配信する動画のストリーミングを受け付ける。ストリーミング受付部102は、動画配信装置100の管理者の指示に従って、動画サーバ200が配信する動画のストリーミングを受け付けてよい。動画配信装置100の管理者とは、動画配信装置100が提供する動画配信サービスを管理する人物であってよい。また、ストリーミング受付部102は、指示受付部104が端末装置300から受け付けた指示に従って、動画サーバ200が配信する動画のストリーミングを受け付けてもよい。
指示受付部104は、端末装置300から各種指示を受け付ける。例えば、指示受付部104は、自らが格納する動画データを端末装置300に送信する指示を、端末装置300から受け付ける。また、指示受付部104は、動画サーバ200が配信する動画のストリーミングを受け付けて動画データを生成し、当該動画データを端末装置300に送信する指示を、端末装置300から受け付けてもよい。
動画データ生成部106は、ストリーミング受付部102が受け付けた動画のストリーミングに基づいて動画データを生成する。例えば、動画データ生成部106は、一の動画データのストリーミングを受け付けて蓄積し、動画データを構成する。
動画データ格納部108は、複数の動画データを格納する。動画データ格納部108は、例えば、動画配信装置100の管理者によって保存された動画データを格納する。また、動画データ格納部108は、動画データ生成部106によって生成された動画データを格納してもよい。動画データ格納部108は、他の装置から受信した動画データを格納してもよい。
符号化部110は、動画データ格納部108に格納された動画データを複数の階層を含むように符号化する。符号化部110は、動画データを符号化することにより、第1階層の第1レイヤデータ及び第2階層の第2レイヤデータを生成してよい。なお、符号化部110は、さらに多くの階層のレイヤデータを生成してもよい。
符号化部110は、例えば、動画データをスケーラブル符号化して、基本レイヤデータ及び少なくとも1つの拡張レイヤデータを生成する。符号化部110は、動画データを空間スケーラブル符号化して、基本レイヤデータ及び少なくとも1つの拡張空間レイヤデータを生成してよい。また、符号化部110は、動画データを時間スケーラブル符号化して、基本レイヤデータ及び少なくとも1つの拡張時間レイヤデータを生成してよい。
レイヤデータ取得部112は、符号化された動画データに含まれる複数のレイヤデータを取得する。レイヤデータ取得部112は、符号化部110によって生成された第1レイヤデータ及び第2レイヤデータを取得してよい。
レイヤデータ取得部112は、例えば、符号化部110によって生成された基本レイヤデータ及び少なくとも1つの拡張レイヤデータを取得する。レイヤデータ取得部112は、例えば、スケーラブル符号化部110によって生成された基本レイヤデータ及び少なくとも1つの拡張レイヤデータを取得する。レイヤデータ取得部112は、レイヤデータ受信部114が受信した他の装置によって生成された基本レイヤデータ及び少なくとも1つの拡張レイヤデータを、レイヤデータ受信部114から取得してもよい。
レイヤデータ受信部114は、他の装置から、当該他の装置が動画データをスケーラブル符号化して生成した基本レイヤデータ及び少なくとも1つの拡張レイヤデータを受信してもよい。例えば、動画サーバ200が、基本レイヤデータ及び少なくとも1つの拡張レイヤデータを配信するサービスを提供している場合、レイヤデータ受信部114は、動画サーバ200から、基本レイヤデータ及び少なくとも1つの拡張レイヤデータを受信する。
パケット生成部116は、レイヤデータ取得部112が取得した複数のレイヤデータのそれぞれに含まれる複数のフレームをパケット化することにより、当該複数のフレームのそれぞれに対応する複数のパケットを生成する。パケット生成部116は、レイヤデータ取得部112が取得した第1レイヤデータ及び第2レイヤデータに含まれる複数のフレームのそれぞれを、フレームのシーケンスを識別するシーケンスIDと、階層を識別するレイヤIDと、第1レイヤデータのフレームと第2レイヤデータのフレームとを異なるQoSを用いて送信することを示すQoSIDとを対応付けてパケット化することにより、複数のフレームのそれぞれに対応する複数のパケットを生成してよい。
パケット生成部116は、例えば、レイヤデータ取得部112が取得した基本レイヤデータに含まれる複数のフレームのそれぞれを、シーケンスIDと、基本レイヤを識別するレイヤIDと、基本レイヤデータのフレームを少なくとも1つの拡張レイヤデータのフレームよりも高いQoSを用いて送信することを示すQoSIDとを対応付けてパケット化することにより、基本レイヤデータの複数のフレームのそれぞれに対応する複数の基本レイヤパケットを生成してよい。
また、パケット生成部116は、レイヤデータ取得部112が取得した少なくとも1つの拡張レイヤデータに含まれる複数のフレームを、シーケンスIDと、拡張レイヤを識別するレイヤIDと、少なくとも1つの拡張レイヤデータのフレームを基本レイヤデータのフレームよりも低いQoSを用いて送信することを示すQoSIDとを対応付けてパケット化することにより、少なくとも1つの拡張レイヤデータの複数のフレームのそれぞれに対応する複数の拡張レイヤパケットを生成してよい。
QoSIDは、フレームをQoS保証して送信すること又はフレームをQoS保証せずに送信することを示してよい。パケット生成部116は、基本レイヤデータのフレームを少なくとも1つの拡張レイヤデータのフレームよりも高いQoSを用いて送信することを示すQoSIDとして、フレームをQoS保証して送信することを示すQoSIDを用いてよい。また、パケット生成部116は、少なくとも1つの拡張レイヤデータのフレームを基本レイヤデータのフレームよりも低いQoSを用いて送信することを示すQoSIDとして、QoS保証せずに送信することを示すQoSIDを用いてよい。
パケット生成部116は、レイヤデータ取得部112が取得した複数のレイヤデータに含まれるフレームにシーケンスID、レイヤID、QoSID、及びUDPヘッダを付加したUDPパケットを生成してよい。例えば、パケット生成部116は、基本レイヤデータに含まれるフレームにシーケンスID、レイヤID、QoSID、及びUDPヘッダを付加したUDPパケットを、基本レイヤパケットとして生成する。また、パケット生成部116は、例えば、拡張レイヤデータに含まれるフレームにシーケンスID、レイヤID、QoSID、及びUDPヘッダを付加したUDPパケットを、拡張レイヤパケットとして生成する。このように、基本レイヤデータに含まれるフレーム及び拡張レイヤデータに含まれるフレームをUDPパケット化することにより、フレーム毎にUDPパケットを生成でき、基本レイヤフレームと拡張レイヤフレームとの対応を取りやすくさせることができる。
パケット生成部116は、レイヤデータ取得部112が複数の拡張レイヤデータを取得した場合に、複数の拡張レイヤデータ毎に異なるQoSIDを対応付けてもよい。例えば、レイヤデータ取得部112が、第1拡張レイヤデータと、第1拡張レイヤデータよりも階層が高い第2拡張レイヤデータを取得した場合、パケット生成部116は、第1拡張レイヤデータに含まれる複数のフレームのそれぞれに、第2拡張レイヤデータのフレームよりも高くかつ基本レイヤデータのフレームよりも低くQoS保証して送信することを示すQoSIDを対応付けてパケット化することにより、複数のフレームのそれぞれに対応する複数の第1拡張レイヤパケットを生成する。
また、パケット生成部116は、第2拡張レイヤデータに含まれる複数のフレームのそれぞれに、基本レイヤデータのフレーム及び第1拡張レイヤデータのフレームよりも低いQoSを用いて送信することを示すQoSIDを対応付けてパケット化することにより、複数のフレームのそれぞれに対応する複数の第2拡張レイヤパケットを生成する。これにより、拡張レイヤデータの階層に応じたQoSIDを、拡張レイヤデータのフレームに対応付けることができる。
パケット送信部120は、パケット生成部116が生成した複数のパケットを端末装置300に送信する。パケット送信部120は、パケット生成部116が生成した複数のパケットを、通信中継装置400を介して端末装置300に送信してよい。例えば、パケット送信部120は、パケット生成部116が生成した複数の基本レイヤパケット及び複数の拡張レイヤパケットを、通信中継装置400を介して端末装置300に送信する。
通信中継装置400は、パケット送信部120が送信したパケットに含まれるQoSIDを参照して、当該パケットの送信を制御する。例えば、通信中継装置400は、QoSIDがQoS保証して送信することを示す場合、QoS制御して当該パケットを送信し、QoSIDがQoS保証して送信しないことを示す場合、QoS制御せずに当該パケットを送信する。通信中継装置400がLTE基地局である場合、通信中継装置400は、QoS保証して送信することを示すQoSIDを含むパケットをGBR(Guaranteed Bit Rate)で送信してよい。また、通信中継装置400は、QoS保証せずに送信することを示すQoSIDを含むパケットをNon−GBRで送信してよい。
通信中継装置400は、パケット送信部120から、複数の基本レイヤパケット、複数の第1拡張レイヤパケット、及び複数の第2拡張レイヤパケットを受信した場合、異なるレベルでQoS制御してよい。例えば、基本レイヤパケットを、第1拡張レイヤパケット及び第2拡張レイヤパケットよりも高いQoSを用いて送信し、第1拡張レイヤパケットを第2拡張レイヤパケットよりも高いQoSを用いて送信してよい。通信中継装置400がLTE基地局である場合、通信中継装置400は、基本レイヤパケットを第1拡張レイヤパケットよりも優先度の高いGBRで送信し、第1拡張レイヤパケットを基本レイヤパケットよりも優先度の低いGBRで送信し、第2拡張レイヤパケットをNon−GBRで送信してよい。
通信品質取得部122は、動画配信装置100と端末装置300との間の通信路の通信品質を取得する。通信品質取得部122は、例えば、動画配信装置100と端末装置300との間の通信路の通信品質を、端末装置300から受信する。端末装置300は、動画配信装置100との間の通信中に、通信路の通信品質を測定してよい。また、端末装置300は、動画配信装置100に対して品質測定パケットを送信することにより、動画配信装置100と端末装置300との間の通信路の通信品質を測定してよい。
また、通信品質取得部122が、端末装置300に対して品質測定パケットを送信することにより、動画配信装置100と端末装置300との間の通信路の通信品質を測定してもよい。また、通信品質取得部122は、端末装置300と通信中継装置400との間の通信路の通信品質を取得してもよい。例えば、通信品質取得部122は、端末装置300又は通信中継装置400によって測定された、端末装置300と通信中継装置400との間の通信路の通信品質を端末装置300又は通信中継装置400から取得してもよい。
通信品質取得部122は、取得した通信品質をパケット生成部116及びパケット送信部120に送信してよい。パケット生成部116は、レイヤデータ取得部112が、複数階層のレイヤデータを取得した場合に、通信品質取得部122から受信した通信品質に基づいて、パケット化する階層とパケット化しない階層とを制御してよい。
パケット生成部116は、例えば、レイヤデータ取得部112が第1レイヤデータ及び第2レイヤデータを取得した場合であって、通信品質が予め定められた閾値より高い場合、第1レイヤデータ及び第2レイヤデータのそれぞれに含まれる複数のフレームをパケット化することにより複数のパケットを生成し、通信品質が予め定められた閾値より高くない場合、第1レイヤデータに含まれる複数のフレームをパケット化することにより複数のパケットを生成する。すなわち、パケット生成部116は、通信品質が予め定められた閾値より高くない場合、第2レイヤデータに含まれる複数のフレームをパケット化しなくてもよい。これにより、通信品質の変化に応じて、適切にパケット化するフレームの数を制御することができる。なお、パケット生成部116は、レイヤデータ取得部112が3階層以上のレイヤデータを取得した場合であって、通信品質が予め定められた閾値より高くない場合、少なくとも最も階層の高いレイヤデータに含まれる複数のフレームをパケット化しなくてよい。
パケット生成部116は、例えば、レイヤデータ取得部112が複数階層の拡張レイヤデータを取得した場合に、通信品質取得部122から受信した通信品質に基づいて、パケット化する階層とパケット化しない階層とを制御する。例えば、レイヤデータ取得部112が第1拡張レイヤデータ及び第2拡張レイヤデータを取得した場合であって、通信品質が予め定められた閾値より高い場合、パケット生成部116は、第1拡張レイヤデータ及び第2拡張レイヤデータに含まれる複数のフレームのそれぞれをパケット化して、複数の第1拡張レイヤパケット及び複数の第2拡張レイヤパケットを生成する。そして、パケット送信部120が、複数の基本レイヤパケット、複数の第1拡張レイヤパケット、及び複数の第2拡張レイヤパケットを、端末装置300に送信する。
また、レイヤデータ取得部112が第1拡張レイヤデータ及び第2拡張レイヤデータを取得した場合であって、通信品質が予め定められた閾値より高くない場合、パケット生成部116は、第1拡張レイヤデータに含まれる複数のフレームのそれぞれをパケット化して、複数の第1拡張レイヤパケットを生成する。そして、パケット送信部120が、複数の基本レイヤパケット及び複数の第1拡張レイヤパケットを、端末装置300に送信する。このように、通信路の通信品質が予め定められた閾値より高くない場合に、優先度のより低い拡張レイヤパケットを送信しないように制御することによって、優先度のより高い拡張レイヤパケットが、通信中にロスしてしまう可能性を低減させることができる。
また、パケット生成部116は、レイヤデータ取得部112が複数階層のレイヤデータを取得した場合、通信品質取得部122から取得した通信品質に基づいて、複数階層のレイヤデータのそれぞれに対して用いるQoSのレベルを制御してもよい。例えば、レイヤデータ取得部112が第1レイヤデータ及び第2レイヤデータを取得した場合、パケット生成部116は、通信品質取得部122が取得した通信品質に基づいて、第1レイヤデータ及び第2レイヤデータに含まれる複数のフレームのそれぞれに対応付けるQoSIDを制御する。パケット生成部116は、通信品質が予め定められた閾値よりも高い場合、複数のフレームのそれぞれに、第1レイヤデータのフレームと第2レイヤデータのフレームとを異なるQoSを用いて送信することを示すQoSIDを対応付けてよく、通信品質が予め定められた閾値よりも高くない場合、第2レイヤデータのフレームに対して、通信品質が予め定められた閾値よりも高い場合に比べて低いQoSを用いて送信することを示すQoSIDを対応付けてよい。これにより、通信品質に応じて、複数のレイヤデータのそれぞれに対して用いるQoSのレベルを適切に制御することができる。
なお、パケット生成部116は、レイヤデータ取得部112が3階層以上のレイヤデータを取得した場合であって、通信品質が予め定められた閾値より高くない場合、少なくとも最も階層の高いレイヤデータに含まれるフレームに対して、通信品質が予め定められた閾値よりも高い場合に比べて低いQoSを用いて送信することを示すQoSIDを対応付けてよい。パケット生成部116は、通信品質取得部122が取得した通信品質に基づいて、パケット化する階層とパケット化しない階層との制御及び複数階層のレイヤデータのそれぞれに対して用いるQoSのレベルの制御を実行してもよい。
符号化関連情報送信部124は、符号化に関連する情報を端末装置300に送信する。例えば、符号化関連情報送信部124は、スケーラブル符号化された動画データを端末装置300に送信する場合に、シーケンスIDの最大値を示す最大シーケンスIDを送信する。
また、符号化関連情報送信部124は、レイヤデータ取得部112が複数階層の拡張空間レイヤデータを取得した場合に、複数階層の拡張空間レイヤデータの最大階層数を、端末装置300に送信してよい。例えば、レイヤデータ取得部112が、第1拡張空間レイヤデータ及び第2拡張空間レイヤデータを取得した場合、符号化関連情報送信部124は、最大階層数である2を端末装置300に送信する。符号化関連情報送信部124は、最大階層数送信部の一例であってよい。
また、符号化関連情報送信部124は、レイヤデータ取得部112が、複数の映像グループのそれぞれにIフレームとして所属する複数のフレームを有する基本レイヤデータと、複数の映像グループのそれぞれにPフレーム又はBフレームとして所属する複数のフレームを有する拡張時間レイヤデータとを取得した場合に、複数の映像グループのそれぞれの映像グループに所属するフレームの数を示す映像フレーム数を端末装置300に送信してよい。符号化関連情報送信部124は、映像フレーム数送信部の一例であってよい。
図6は、端末装置300の機能構成の一例を概略的に示す。端末装置300は、指示送信部302、パケット受信部304、バッファ306、符号化関連情報受信部308、フレーム判定部310、経過時間計測部312、復号化部314、及び動画再生部316を備える。端末装置300がこれらのすべての構成を備えることは必須とは限らない。
指示送信部302は、動画配信装置100に指示を送信する。例えば、指示送信部302は、動画配信装置100に格納された動画データを端末装置300に送信する指示を、動画配信装置100に送信する。また、例えば、指示送信部302は、動画サーバ200が配信する動画データを受信して、当該動画データを端末装置300に送信する指示を、動画配信装置100に送信する。
パケット受信部304は、動画配信装置100からパケットを受信する。パケット受信部304は、パケット送信部120が送信した複数のパケットを受信してよい。例えば、パケット受信部304は、パケット送信部120が送信した複数の基本レイヤパケット及び複数の拡張レイヤパケットを受信する。
バッファ306は、パケット受信部304が受信したパケットを格納する。バッファ306は、パケット受信部304が受信した複数のパケットを格納してよい。例えば、バッファ306は、パケット受信部304が受信した複数の基本レイヤパケット及び複数の拡張レイヤパケットを格納する。
符号化関連情報受信部308は、符号化関連情報送信部124から符号化関連情報を受信する。符号化関連情報受信部308は、例えば、符号化関連情報送信部124が送信した最大シーケンスIDを受信する。
また、符号化関連情報受信部308は、符号化関連情報送信部124が送信した最大階層数を受信してよい。符号化関連情報受信部308は、最大階層数受信部の一例であってよい。また、符号化関連情報受信部308は、符号化関連情報送信部124が送信した映像フレーム数を受信してよい。符号化関連情報受信部308は、映像フレーム数受信部の一例であってよい。
フレーム判定部310は、パケット受信部304が受信した複数のパケットのそれぞれに含まれるフレームについて、対応するフレームが受信されたか否かを判定する。一のフレームに対応するフレームとは、一のフレームを復号化するときに用いられるフレームであってよい。例えば、一のフレームが基本レイヤフレームである場合、一のフレームに対応するフレームは拡張レイヤフレームである。
例えば、フレーム判定部310は、パケット受信部304が受信した複数の基本レイヤパケットのそれぞれについて、基本レイヤパケットに含まれるシーケンスID及びレイヤIDに基づいて、対応する拡張レイヤパケットが受信されたか否かを判定する。基本レイヤパケットに対応する拡張レイヤパケットとは、例えば、基本レイヤパケットと同一のシーケンスIDを含む拡張空間レイヤパケットである。また、基本レイヤパケットに対応する拡張レイヤパケットとは、例えば、基本レイヤパケットと同一の映像グループに所属する拡張レイヤパケットである。
経過時間計測部312は、フレーム判定部310の指示に従って、経過時間を計測する。経過時間計測部312は、複数の経過時間を計測可能であってよい。経過時間計測部312は、複数のシーケンスIDのそれぞれに対応付けた経過時間をそれぞれが計測する複数のタイマーを備えてよい。
復号化部314は、パケット受信部304が受信した複数のパケットに基づいて、動画データを復号化する。復号化部314は、パケット受信部304が受信した複数のパケットのそれぞれに含まれる複数のフレームのうち、対応するフレームが受信されたフレームについては当該フレーム及び対応するフレームを用い、対応するフレームが受信されなかったフレームについては当該フレームを用いて、動画データを復号化してよい。
例えば、復号化部314は、複数の基本レイヤパケット及び複数の拡張レイヤパケットに基づいて、動画データを復号化する。復号化部314は、フレーム判定部310によって、対応する拡張レイヤパケットが受信されたと判定された基本レイヤパケットについては基本レイヤパケット及び拡張レイヤパケットを用い、対応する拡張レイヤパケットが受信されなかった基本レイヤパケットについては基本レイヤパケットを用いて、動画データを復号化する。
動画再生部316は、復号化部314によって復号化された動画データを再生する。例えば、動画再生部316は、復号化部314によって復号化された動画データを、端末装置300が備えるディスプレイに表示する。動画再生部316は、他の装置が備えるディスプレイに動画データを表示してもよい。
図7は、端末装置300による復号化処理のフローチャートの一例を概略的に示す。図7に示す復号化処理は、端末装置300が備える制御部が主体となって実行されてよい。ここでは、空間スケーラブル符号化された動画データを復号化する処理の流れを説明する。図7に示すフローチャートは、例えば、指示送信部302が動画データの送信指示を動画配信装置100に送信した場合に開始する。
ステップ702(ステップをSと省略して表記する場合がある。)では、符号化関連情報受信部308が、符号化関連情報送信部124から最大シーケンスID及び最大階層数を受信する。S704で、パケット受信部304が動画配信装置100からパケットを受信した場合、S706に進み、パケットを受信していない場合、S718に進む。
S706では、フレーム判定部310が、バッファ306内のパケットを確認する。フレーム判定部310は、S704で受信したパケットに含まれるシーケンスIDと同一のシーケンスIDを含むパケットがバッファ306内にあるか否かを確認する。
S708では、フレーム判定部310が、S704で受信したパケットに含まれるシーケンスIDについて、S702で受信した最大階層数のパケットがすべて受信されているか否かを判定する。例えば、S702で受信した最大階層数が4の場合、S704で受信したパケットを含めて、同一シーケンスIDのパケットが4つ受信されているか否かを判定する。フレーム判定部310によって、最大階層数のパケットがすべて受信されていると判定されなかった場合、S710に進み、受信されていると判定された場合、S716に進む。
S710では、バッファ306が、S704で受信したパケットを格納する。S712では、S704で受信したパケットに含まれるシーケンスIDに対応するタイマーがスタート済みであるか否かを判定する。S712で、スタート済みでないと判定された場合、当該シーケンスIDに対応するタイマーをスタートさせる(S714)。S712で、タイマーがスタート済みであると判定された後及びS714でタイマーをスタートさせた後、S704に戻る。
S716では、復号化部314が、最大階層数の全てのパケットにそれぞれ含まれるフレームを用いた高画質な動画データを復号化する。そして、動画再生部316が、復号化部314によって復号化された動画データを再生する。
S704で、パケット受信部304が動画配信装置100からパケットを受信していない場合、S718に進む。S718では、S714でスタートしたタイマーにより計測される時間が、予め定められた時間を経過したか否かを判定する。予め定められた時間が経過していないと判定された場合、S704に戻り、経過していると判定された場合、S720に進む。予め定められた時間は、動画データの再生が途中で止まってしまう等の支障を来さないように定められた時間であってよい。
S720では、フレーム判定部310が、バッファ306内のパケットを確認する。フレーム判定部310は、バッファ306に格納された、S718でタイムアウトしたタイマーに対応するシーケンスIDと同一のシーケンスIDを含むパケットを確認する。S722では、フレーム判定部310が、S720で確認した、同一シーケンスIDを含むパケットに含まれるレイヤIDのうち、再生可能な一番高いレイヤIDを確認する。
例えば、S718でタイムアウトしたタイマーに対応するシーケンスIDと同一のシーケンスIDを含むパケットが2つあり、そのレイヤIDが「1」と「2」だった場合、フレーム判定部310は、再生可能な一番高いレイヤIDが「2」であることを確認する。
S724では、復号化部314が、S722で確認した再生可能な一番高いレイヤIDに基づいて、動画データを復号化する。例えば、再生可能な一番高いレイヤIDが「2」である場合、復号化部314は、レイヤID「1」のパケットのフレームと、レイヤID「2」のパケットのフレームとを用いて、動画データを復号化する。そして、動画再生部316が、復号化部314によって復号化された動画データを再生する。また、再生可能な一番高いレイヤIDが「1」である場合、復号化部314は、レイヤID「1」のパケットのフレームのみを用いて、動画データを復号する。そして、動画再生部316が、復号化部314によって復号化された動画データを再生する。
S726では、フレーム判定部310が、S704で受信したパケットに含まれるシーケンスID又はS718でタイムアウトしたタイマーに対応するシーケンスIDが、S702で受信した最大シーケンスIDと等しいか否かを判定する。S726で、フレーム判定部310が、等しくないと判定した場合、S704に戻り、等しいと判定した場合、処理が終了する。
端末装置300が上述した復号化処理を実行することにより、基本レイヤパケットに対応する拡張空間レイヤパケットが、通信路においてパケットロスした場合でも、基本レイヤパケットを用いることによって、低解像度ながらも、途中で途切れたり停止したりすることなく動画を再生することができる。また、基本レイヤパケットに対応する拡張空間レイヤパケットを受信した部分については、高解像度の動画を再生できる。したがって、拡張空間レイヤパケットが受信できた部分については高解像度、拡張空間レイヤパケットが受信できなかった部分については低解像度の、途中で途切れたり停止したりすることのない動画を提供することができる。
図8は、端末装置300による復号化処理のフローチャートの一例を概略的に示す。図8に示す復号化処理は、端末装置300が備える制御部が主体となって実行されてよい。ここでは、時間スケーラブル符号化された動画データを復号化する処理の流れを説明する。図8に示すフローチャートは、例えば、指示送信部302が動画データの送信指示を動画配信装置100に送信した場合に開始する。
S802では、符号化関連情報受信部308が、符号化関連情報送信部124から最大シーケンスID及び映像フレーム数を受信する。なお、ここで映像フレーム数とは、他のフレームを用いることなく復号化可能なキーフレームと、キーフレーム間に含まれる他のフレームを用いることによって予測復号化される予測復号フレームを合計したフレーム数を示す。S804で、パケット受信部304が動画配信装置100からパケットを受信した場合、S806に進み、パケットを受信していない場合、S818に進む。
S806では、フレーム判定部310が、バッファ306内のパケットを確認する。フレーム判定部310は、S804で受信したパケットと同一映像グループのパケットがバッファ306内にあるか否かを確認する。フレーム判定部310は、例えば、下記の数式1を用いて、S804で受信したパケットと同一映像グループのパケットを確認する。
Figure 2015050599
上記の数式において、sはS804で受信したパケットに含まれるシーケンスIDであり、NはS802で受信した映像フレーム数である。int(s−1/N)は、(s−1/N)の余りを除く商のみを示す。例えば、映像フレーム数が4であり、S804で受信したパケットに含まれるシーケンスIDが「3」の場合、フレーム判定部310は、シーケンスIDが「1」以上「4」以下のパケットが、同一映像グループのパケットであると判定する。
S808では、フレーム判定部310が、S804で受信したパケットに含まれるシーケンスIDについて、同一映像グループの全てのパケットが受信されているか否かを判定する。例えば、フレーム判定部310は、S802で受信した映像フレーム数が4であり、S804で受信したパケットのシーケンスIDが「3」である場合、シーケンスIDが「1」から「4」のパケットがすべて受信されているか否かを判定する。フレーム判定部310によって、同一映像グループのパケットがすべて受信されていると判定されなかった場合、S810に進み、受信されていると判定された場合、S816に進む。
S810では、バッファ306が、S804で受信したパケットを格納する。S812では、S804で受信したパケットに含まれるシーケンスIDに対応するタイマーがスタート済みであるか否かを判定する。S812で、スタート済みでないと判定された場合、当該シーケンスIDに対応するタイマーをスタートさせる(S814)。S812で、タイマーがスタート済みであると判定された後及びS814でタイマーをスタートした後、S804に戻る。
S816では、復号化部314が、同一映像グループの全てのパケットにそれぞれ含まれるフレームを用いた高フレームレートの動画データを復号化する。そして、動画再生部316が、復号化部314によって復号化された動画データを再生する。
S804で、パケット受信部304が動画配信装置100からパケットを受信していない場合、S818に進む。S818では、S814でスタートしたタイマーにより計測されている時間が、予め定められた時間を経過したか否かを判定する。予め定められた時間が経過していないと判定された場合、S804に戻り、経過していると判定された場合、S820に進む。予め定められた時間は、動画データの再生が途中で止まってしまう等の支障を来さないように定められた時間であってよい。
S820では、フレーム判定部310が、バッファ306に格納されたパケットのうち、S818でタイムアウトしたタイマーに対応するシーケンスIDに対応する映像グループに所属するパケットを確認する。S822では、フレーム判定部310が、S820で確認した、シーケンスIDに対応する映像グループに所属するパケットのレイヤIDのうち、再生可能な一番高いレイヤIDを確認する。
例えば、S818でタイムアウトしたタイマーに対応するシーケンスIDに対応する映像グループに所属するパケットが、Iフレームを含むパケットとPフレームを含むパケットであり、それぞれのレイヤIDが「1」と「2」であった場合、再生可能な一番高いレイヤIDが「2」であることが確認される。
S824では、復号化部314が、S822で確認した再生可能な一番高いレイヤIDに基づいて、動画データを復号化する。例えば、再生可能な一番高いレイヤIDが「2」である場合、復号化部314は、レイヤID「1」のパケットのフレームと、レイヤID「2」のパケットのフレームとを用いて、動画データを復号化する。そして、動画再生部316が、復号化部314によって復号化された動画データを再生する。また、再生可能な一番高いレイヤIDが「1」である場合、復号化部314は、レイヤID「1」のパケットのフレームのみを用いて、動画データを復号する。そして、動画再生部316が、復号化部314によって復号化された動画データを再生する。
S826では、フレーム判定部310が、S804で受信したパケットに含まれるシーケンスID又はS818でタイムアウトしたタイマーに対応するシーケンスIDが、S802で受信した最大シーケンスIDと等しいか否かを判定する。S826で、フレーム判定部310が、等しくないと判定した場合、S804に戻り、等しいと判定した場合、処理が終了する。
端末装置300が上述した復号化処理を実行することにより、基本レイヤパケットに対応する拡張時間レイヤパケットが、通信路においてパケットロスした場合でも、基本レイヤパケットを用いることによって、低フレームレートながらも、途中で途切れたり停止したりすることなく動画を再生することができる。また、基本レイヤパケットに対応する拡張時間レイヤパケットを受信した部分については、高フレームレートの動画を再生できる。したがって、拡張時間レイヤパケットが受信できた部分については高フレームレート、拡張時間レイヤパケットが受信できなかった部分については低フレームレートの、途中で途切れたり停止したりすることのない動画を提供することができる。
図9は、端末装置300による復号化処理のフローチャートの一例を概略的に示す。図9に示す復号化処理は、端末装置300が備える制御部が主体となって実行されてよい。ここでは、時間スケーラブル符号化及び空間スケーラブル符号化された動画データを復号化する処理の流れを説明する。ここでは、図8に示すフローチャートと異なる部分を主に説明する。
S902では、符号化関連情報受信部308が、符号化関連情報送信部124から最大シーケンスID、映像フレーム数、及び最大階層数を受信する。S904で、パケット受信部304が動画配信装置100からパケットを受信した場合、S906に進み、パケットを受信していない場合、S918に進む。
S906では、フレーム判定部310が、バッファ306内のパケットを確認する。フレーム判定部310は、S904で受信したパケットと同一映像グループのパケットが、バッファ306内にあるか否かを確認する。
S908では、フレーム判定部310が、S902で受信した映像フレーム数及び最大階層数を用いて、S904で受信したパケットについて、同一映像グループの全てのパケットが受信されているか否かを判定する。フレーム判定部310によって、同一映像グループのパケットがすべて受信されていると判定されなかった場合、S910に進み、受信されていると判定された場合、S916に進む。
S910では、バッファ306が、S904で受信したパケットを格納する。S912では、S904で受信したパケットに含まれるシーケンスIDに対応するタイマーがスタート済みであるか否かを判定する。S912で、スタート済みでないと判定された場合、当該シーケンスIDに対応するタイマーをスタートさせる(S914)。S912で、タイマーがスタート済みであると判定された後及びS914でタイマーをスタートした後、S904に戻る。
S916では、復号化部314が、同一映像グループの全てのパケットにそれぞれ含まれるフレームを用いた高解像度及び高フレームレートの動画データを復号化する。そして、動画再生部316が、復号化部314によって復号化された動画データを再生する。
S904で、パケット受信部304が動画配信装置100からパケットを受信していない場合、S918に進む。S918では、S914でスタートしたタイマーにより計測される時間が、予め定められた時間を経過したか否かを判定する。予め定められた時間が経過していないと判定された場合、S904に戻り、経過していると判定された場合、S920に進む。
S920では、フレーム判定部310が、バッファ306に格納されたパケットのうち、S918でタイムアウトしたタイマーに対応するシーケンスIDに対応する映像グループに所属するパケットを確認する。S922では、フレーム判定部310が、S920で確認したシーケンスIDに対応する映像グループに所属するパケットのレイヤIDのうち、再生可能な時間レイヤID及び空間レイヤIDを確認する。
例えば、最大階層数が2であり、S918でタイムアウトしたタイマーに対応するシーケンスIDに対応する映像グループに所属するパケットのうち、空間レイヤIDが「1」のパケットがすべて受信され、空間レイヤID「2」のパケットが受信された場合、再生可能な時間レイヤIDが「2」、空間レイヤIDが「2」であることが確認される。最大階層数が2であり、S918でタイムアウトしたタイマーに対応するシーケンスIDに対応する映像グループに所属するパケットのうち、空間レイヤIDが「1」のパケットがすべて受信され、空間レイヤID「2」のパケットが受信されていなかった場合、再生可能な時間レイヤIDが「2」、空間レイヤIDが「1」であることが確認される。また、最大階層数が2であり、S918でタイムアウトしたタイマーに対応するシーケンスIDに対応する映像グループに所属するパケットのうち、時間レイヤIDが「1」、空間レイヤIDが「1」のパケットと「2」のパケットのみが受信されていた場合、再生可能な時間レイヤIDが「1」、空間レイヤIDが「2」であることが確認される。また、最大階層数が2であり、S918でタイムアウトしたタイマーに対応するシーケンスIDに対応する映像グループに所属するパケットのうち、時間レイヤIDが「1」、空間レイヤIDが「1」のパケットのみが受信されていた場合、再生可能な時間レイヤIDが「1」、空間レイヤIDが「1」であることが確認される。
S924では、復号化部314が、S922で確認した再生可能な時間レイヤID及び空間レイヤIDに基づいて、最も高品質な動画データを復号化する。S926では、フレーム判定部310が、S904で受信したパケットに含まれるシーケンスID又はS918でタイムアウトしたタイマーに対応するシーケンスIDが、S902で受信した最大シーケンスIDと等しいか否かを判定する。S926で、フレーム判定部310が、等しくないと判定した場合、S904に戻り、等しいと判定した場合、処理が終了する。
端末装置300が上述した復号化処理を実行することにより、基本レイヤパケットに対応する拡張時間レイヤパケット及び拡張空間レイヤパケットが、通信路においてパケットロスした場合でも、基本レイヤパケットを用いることによって、低解像度及び低フレームレートながらも、途中で途切れたり停止したりすることなく動画を再生することができる。また、基本レイヤパケットに対応する拡張時間レイヤパケット及び拡張空間レイヤパケットを受信した部分については、高解像度及び高フレームレートの動画を再生できる。
以上の説明において、動画配信装置100及び端末装置300の各部は、ハードウエアにより実現されてもよく、ソフトウエアにより実現されてもよい。また、ハードウエアとソフトウエアとの組み合わせにより実現されてもよい。また、プログラムが実行されることにより、コンピュータが、動画配信装置100として機能してもよい。また、プログラムが実行されることにより、コンピュータが、端末装置300として機能してもよい。プログラムは、コンピュータ読み取り可能な媒体又はネットワークに接続された記憶装置から、動画配信装置100又は端末装置300の少なくとも一部を構成するコンピュータにインストールされてよい。
コンピュータにインストールされ、コンピュータを本実施形態に係る動画配信装置100又は端末装置300として機能させるプログラムは、CPU等に働きかけて、コンピュータを、動画配信装置100又は端末装置300の各部としてそれぞれ機能させる。これらのプログラムに記述された情報処理は、コンピュータに読込まれることにより、ソフトウエアと動画配信装置100又は端末装置300のハードウエア資源とが協働した具体的手段として機能する。そして、これらの具体的手段によって、本実施形態におけるコンピュータの使用目的に応じた情報の演算又は加工を実現することにより、使用目的に応じた特有の動画配信装置100又は端末装置300を構築することができる。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階などの各処理の実行順序は、特段「より前に」、「先立って」などと明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」などを用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 動画配信システム、20 ネットワーク、100 動画配信装置、102 ストリーミング受付部、104 指示受付部、106 動画データ生成部、108 動画データ格納部、110 符号化部、112 レイヤデータ取得部、114 レイヤデータ受信部、116 パケット生成部、120 パケット送信部、122 通信品質取得部、124 符号化関連情報送信部、130 QoSID、140 シーケンスID、150 レイヤID、152 空間レイヤID、154 時間レイヤID、200 動画サーバ、300 端末装置、302 指示送信部、304 パケット受信部、306 バッファ、308 符号化関連情報受信部、310 フレーム判定部、312 経過時間計測部、314 復号化部、316 動画再生部、400 通信中継装置、510 基本レイヤデータ、512 基本レイヤフレーム、520 拡張空間レイヤデータ、522 拡張空間レイヤフレーム、610 基本レイヤデータ、612 基本レイヤフレーム、620 拡張時間レイヤデータ、622 拡張時間レイヤフレーム、710 基本レイヤデータ、712 基本レイヤフレーム、720 拡張時間レイヤデータ、722 拡張時間レイヤフレーム、730 拡張空間レイヤデータ、732 拡張空間レイヤフレーム

Claims (14)

  1. 複数の階層を含むように符号化された動画データを配信する動画配信装置と、
    前記動画データを受信して復号化する端末装置と
    を備える動画配信システムであって、
    前記動画配信装置は、
    前記動画データに含まれる第1階層の第1レイヤデータ及び第2階層の第2レイヤデータを取得するレイヤデータ取得部と、
    前記第1レイヤデータ及び前記第2レイヤデータに含まれる複数のフレームのそれぞれを、フレームのシーケンスを識別するシーケンスIDと、階層を識別するレイヤIDと、前記第1レイヤデータのフレームと前記第2レイヤデータのフレームとを異なるQoSを用いて送信することを示すQoSIDとを対応付けてパケット化することにより、前記複数のフレームのそれぞれに対応する複数のパケットを生成するパケット生成部と、
    QoS保証可能な通信路を介して、前記複数のパケットを前記端末装置に送信するパケット送信部と
    を有し、
    前記端末装置は、
    前記複数のパケットを受信するパケット受信部と、
    前記パケット受信部が受信した前記複数のパケットのそれぞれに含まれるフレームついて、各フレームが受信されたか否かを判定するフレーム判定部と、
    前記受信された複数のフレームのうち、第1レイヤデータのフレームとこれに対応する第2レイヤデータのフレームの両方が受信された場合、両方のフレームを用い、第1レイヤデータのフレーム又は第2レイヤデータのフレームのどちらかしか受信されなかった場合は当該フレームを用いて、前記動画データを復号化する復号化部と
    を有する、
    動画配信システム。
  2. 前記動画配信装置と前記端末装置との間の通信を中継する通信中継装置
    をさらに備え、
    前記通信中継装置は、前記動画配信装置から受信した前記パケットに含まれる前記QoSIDを参照して、前記第1レイヤデータのフレームと前記第2レイヤデータのフレームとを異なるQoSを用いて前記端末装置に送信する、請求項1に記載の動画配信システム。
  3. 前記QoSIDは、前記フレームをQoS保証して送信すること又は前記フレームをQoS保証せずに送信することを示し、
    前記パケット生成部は、前記第1レイヤデータのフレームにQoS保証して送信することを示すQoSIDを対応付け、前記第2レイヤデータのフレームにQoS保証しないで送信することを示すQoSIDを対応付ける、請求項1又は2に記載の動画配信システム。
  4. 前記動画配信装置は、
    前記通信路の通信品質を取得する通信品質取得部
    をさらに有し、
    前記パケット生成部は、前記通信品質が予め定められた閾値より高い場合、前記第1レイヤデータ及び前記第2レイヤデータのそれぞれに含まれる前記複数のフレームをパケット化することにより前記複数のパケットを生成し、前記通信品質が前記予め定められた閾値より高くない場合、前記第1レイヤデータに含まれる複数のフレームをパケット化することにより、前記複数のパケットを生成し、
    前記パケット送信部は、前記通信品質が前記予め定められた閾値より高い場合、前記第1レイヤデータ及び前記第2レイヤデータのそれぞれに含まれる前記複数のフレームをパケット化することにより生成された前記複数のパケットを前記端末装置に送信し、前記通信品質が前記予め定められた閾値より高くない場合、前記第1レイヤデータに含まれる複数のフレームをパケット化することにより生成された前記複数のパケットを前記端末装置に送信する、請求項1から3のいずれか1項に記載の動画配信システム。
  5. 前記動画配信装置は、
    前記通信路の通信品質を取得する通信品質取得部
    をさらに有し、
    前記パケット生成部は、前記通信品質が予め定められた閾値よりも高い場合、前記複数のフレームのそれぞれに、前記第1レイヤデータのフレームと前記第2レイヤデータのフレームとを異なるQoSを用いて送信することを示すQoSIDを対応付け、前記通信品質が前記予め定められた閾値よりも高くない場合、前記第2レイヤデータのフレームに対して、前記通信品質が前記予め定められた閾値よりも高い場合に比べて低いQoSを用いて送信することを示すQoSIDを対応付けることにより、前記複数のパケットを生成する、請求項1から3のいずれか一項に記載の動画配信システム。
  6. 前記レイヤデータ取得部は、スケーラブル符号化された前記動画データに含まれる、前記第1レイヤデータである基本レイヤデータ及び前記第2レイヤデータである拡張レイヤデータを取得し、
    前記パケット生成部は、前記基本レイヤデータに含まれる複数のフレームのそれぞれを、前記シーケンスIDと、基本レイヤを識別するレイヤIDと、前記基本レイヤデータのフレームを前記拡張レイヤデータのフレームよりも高いQoSを用いて送信することを示すQoSIDとを対応付けてパケット化することにより、前記基本レイヤデータの前記複数のフレームのそれぞれに対応する複数の基本レイヤパケットを生成し、前記拡張レイヤデータに含まれる複数のフレームのそれぞれを、前記シーケンスIDと、拡張レイヤを識別するレイヤIDと、前記拡張レイヤデータのフレームを前記基本レイヤデータのフレームよりも低いQoSを用いて送信することを示すQoSIDとを対応付けてパケット化することにより、前記拡張レイヤデータの前記複数のフレームのそれぞれに対応する複数の拡張レイヤパケットを生成し、
    前記パケット送信部は、QoS保証可能な通信路を介して、前記複数の基本レイヤパケット及び前記複数の拡張レイヤパケットを前記端末装置に送信し、
    前記パケット受信部は、前記複数の基本レイヤパケット及び前記複数の拡張レイヤパケットを受信し、
    前記フレーム判定部は、前記パケット受信部が受信した前記複数の基本レイヤパケットから取り出した基本レイヤデータの各フレームについて、前記シーケンスID及び前記レイヤIDに基づいて、対応する拡張レイヤパケットから取り出した前記基本レイヤパケットから取り出した各フレームに対応する拡張レイヤデータの各フレームが受信されたか否かを判定し、
    前記復号化部は、対応する前記拡張レイヤパケットが受信された基本レイヤパケットについては前記基本レイヤパケットから取り出したフレーム及び前記拡張レイヤパケットから取り出したフレームを用い、対応する前記拡張レイヤパケットが受信されなかった基本レイヤパケットについては前記基本レイヤパケットから取り出したフレームを用いて、前記動画データを復号化する、請求項1から5のいずれか一項に記載の動画配信システム。
  7. 前記レイヤデータ取得部は、空間スケーラブル符号化された前記動画データが含む前記基本レイヤデータ及び複数階層の拡張空間レイヤデータを取得し、
    前記パケット生成部は、前記複数階層の拡張空間レイヤデータの複数のフレームのそれぞれを、前記シーケンスID、階層に応じた前記レイヤID、及び前記QoSIDを対応付けてパケット化することにより、前記複数階層の拡張空間レイヤデータの前記複数のフレームのそれぞれに対応する複数の拡張空間レイヤパケットを生成し、
    前記パケット送信部は、前記複数の基本レイヤパケット及び前記複数の拡張空間レイヤパケットを前記端末装置に送信し、
    前記動画配信装置は、
    前記複数階層の拡張空間レイヤデータの最大階層数を前記端末装置に送信する最大階層数送信部
    をさらに有し、
    前記端末装置は、
    前記最大階層数送信部から前記最大階層数を受信する最大階層数受信部
    をさらに有し、
    前記パケット受信部は、前記複数の基本レイヤパケット及び前記複数の拡張空間レイヤパケットを受信し、
    前記フレーム判定部は、前記複数の基本レイヤパケットから取り出した基本レイヤデータの各フレームについて、予め定められた時間の間に、前記基本レイヤパケットに含まれるシーケンスIDと同一のシーケンスIDを含む最大階層数の拡張空間レイヤパケットに含まれる前記基本レイヤデータの各フレームに対応する拡張空間レイヤデータに対応するフレームが受信されたか否かを判定し、
    前記復号化部は、
    複数の前記基本レイヤパケットのそれぞれについて、
    予め定められた時間の間に、前記基本レイヤパケットに含まれるシーケンスIDと同一のシーケンスIDを含む最大階層数の拡張空間レイヤパケットが受信された場合、前記基本レイヤパケットから取り出したフレーム及び前記最大階層数の拡張空間レイヤパケットから取り出したフレームを用い、
    前記予め定められた時間の間に、前記基本レイヤパケットに含まれるシーケンスIDと同一のシーケンスIDを含む最大階層数未満の拡張空間レイヤパケットが受信された場合、前記基本レイヤパケットから取り出したフレーム及び前記最大階層数未満の拡張空間レイヤパケットから取り出したフレームを用い、
    前記予め定められた時間の間に、前記基本レイヤパケットに含まれるシーケンスIDと同一のシーケンスIDを含む拡張空間レイヤパケットが受信されなかった場合、前記基本レイヤパケットから取り出したフレームを用いて、
    前記動画データを復号化する、請求項6項に記載の動画配信システム。
  8. 前記レイヤデータ取得部は、時間スケーラブル符号化された前記動画データが含む、他のフレームを用いることなく復号化可能なキーフレームとして複数の映像グループのそれぞれに含まれる複数のフレームを有する前記基本レイヤデータと、他のフレームを用いることによって予測復号化される予測復号フレームとして前記複数の映像グループのそれぞれに含まれる複数のフレームを有する拡張時間レイヤデータとを取得し、
    前記パケット生成部は、前記拡張時間レイヤデータに含まれる複数のフレームのそれぞれを、前記シーケンスID、前記レイヤID、及び前記QoSIDを対応付けてパケット化することにより、前記拡張時間レイヤデータの前記複数のフレームのそれぞれに対応する複数の拡張時間レイヤパケットを生成し、
    前記パケット送信部は、前記複数の基本レイヤパケット及び前記複数の拡張時間レイヤパケットを前記端末装置に送信し、
    前記動画配信装置は、
    前記複数の映像グループのそれぞれの映像グループに含まれるフレームの数を示す映像フレーム数を前記端末装置に送信する映像フレーム数送信部
    をさらに有し、
    前記端末装置は、
    前記映像フレーム数送信部から前記映像フレーム数を受信する映像フレーム数受信部
    をさらに有し、
    前記パケット受信部は、前記複数の基本レイヤパケット及び前記複数の拡張時間レイヤパケットを受信し、
    前記フレーム判定部は、前記複数の映像グループのそれぞれについて、予め定められた時間の間に、一の映像グループに含まれるすべてのフレームに対応する基本レイヤパケット及び拡張時間レイヤパケットが受信されたか否かを判定し、
    前記復号化部は、
    前記複数の基本レイヤパケットのそれぞれについて、
    予め定められた時間の間に、前記基本レイヤパケットが有するフレームを含む映像グループに含まれるすべての予測復号フレームにそれぞれ対応するフレームをそれぞれが含む複数の拡張時間レイヤパケットが受信された場合、前記基本レイヤパケットから取り出したフレーム及び前記複数の拡張時間レイヤパケットから取り出したフレームを用い、
    前記予め定められた時間の間に、前記基本レイヤパケットが有するフレームを含む映像グループに含まれる一部の予測復号フレームにそれぞれ対応するフレームをそれぞれが含む前記拡張時間レイヤパケットが受信された場合であって、前記拡張時間レイヤパケットが再生可能である場合、前記基本レイヤパケットから取り出したフレーム及び前記拡張時間レイヤパケットから取り出したフレームを用い、
    前記予め定められた時間の間に、前記基本レイヤパケットが有するフレームを含む映像グループに含まれる予測復号フレームに対応するフレームを有する前記拡張時間レイヤパケットが受信されなかった場合、前記基本レイヤパケットから取り出したフレームを用いて、
    前記動画データを復号化する、請求項6に記載の動画配信システム。
  9. 前記レイヤデータ取得部は、時間スケーラブル符号化及び空間スケーラブル符号化された前記動画データに含まれる前記基本レイヤデータ、拡張時間レイヤデータ及び拡張空間レイヤデータを取得し、
    前記パケット生成部は、前記拡張時間レイヤデータに含まれる複数のフレームのそれぞれに、前記シーケンスIDと、拡張時間レイヤを識別するレイヤIDと、前記QoSIDとを対応付けてパケット化することにより、前記複数のフレームのそれぞれに対応する複数の拡張時間レイヤパケットを生成し、前記拡張空間レイヤデータに含まれる複数のフレームのそれぞれに、前記シーケンスIDと、拡張空間レイヤを識別するレイヤIDと、前記QoSIDとを対応付けてパケット化することにより、前記複数のフレームのそれぞれに対応する複数の拡張空間レイヤパケットを生成し、
    前記パケット送信部は、前記複数の基本レイヤパケット、前記複数の拡張時間レイヤパケット及び前記複数の拡張空間レイヤパケットを前記端末装置に送信し、
    前記パケット受信部は、前記複数の基本レイヤパケット、前記複数の拡張時間レイヤパケット及び前記複数の拡張空間レイヤパケットを受信し、
    前記フレーム判定部は、前記複数の基本レイヤパケットから取り出した基本レイヤデータに含まれる各フレームについて、前記シーケンスID及び前記レイヤIDに基づいて、対応する拡張時間レイヤパケットに含まれる前記基本レイヤデータに含まれる各フレームに対応する拡張時間レイヤデータの各フレーム及び拡張空間レイヤパケットに含まれる前記基本レイヤデータに含まれる各フレームに対応する拡張時間レイヤデータの各フレームが受信されたか否かを判定し、
    前記復号化部は、
    複数の前記基本レイヤパケットのそれぞれについて、
    対応する前記拡張時間レイヤパケット及び前記拡張空間レイヤパケットが受信された場合、前記基本レイヤパケットから取り出したフレーム、前記拡張時間レイヤパケットから取り出したフレーム及び前記拡張空間レイヤパケットから取り出したフレームを用い、
    対応する前記拡張時間レイヤパケット又は前記拡張空間レイヤパケットが受信された場合、前記基本レイヤパケットから取り出したフレームと、前記拡張時間レイヤパケットから取り出したフレーム又は前記拡張空間レイヤパケットから取り出したフレームとを用い、
    対応する前記拡張時間レイヤパケット及び前記拡張空間レイヤパケットが受信されなかった場合、前記基本レイヤパケットから取り出したフレームを用いて、
    前記動画データを復号化する、請求項6に記載の動画配信システム。
  10. 前記動画配信装置は、
    動画のストリーミングを受け付けるストリーミング受付部と、
    前記ストリーミング受付部が受け付けた前記ストリーミングに基づいて動画データを生成する動画データ生成部と、
    前記動画データ生成部が生成した動画データを格納する動画データ格納部と、
    前記動画データを複数の階層を含むように符号化する符号化部と
    をさらに有し、
    前記レイヤデータ取得部は、前記符号化部によって符号化された前記動画データに含まれる前記第1レイヤデータ及び前記第2レイヤデータを取得する、請求項1から9のいずれか一項に記載の動画配信システム。
  11. 複数の階層を含むように符号化された動画データに含まれる第1階層の第1レイヤデータ及び第2階層の第2レイヤデータを取得するレイヤデータ取得部と、
    前記第1レイヤデータ及び前記第2レイヤデータに含まれる複数のフレームのそれぞれを、フレームのシーケンスを識別するシーケンスIDと、階層を識別するレイヤIDと、前記第1レイヤデータのフレームと前記第2レイヤデータのフレームとを異なるQoSを用いて送信することを示すQoSIDとを対応付けてパケット化することにより、前記複数のフレームのそれぞれに対応する複数のパケットを生成するパケット生成部と、
    QoS保証可能な通信路を介して、前記複数のパケットを送信するパケット送信部と
    を備える動画配信装置。
  12. コンピュータを、請求項11に記載の動画配信装置として機能させるためのプログラム。
  13. 複数の階層を含むように符号化された動画データに含まれる第1階層の第1レイヤデータ及び第2階層の第2レイヤデータのそれぞれに含まれる複数のフレームのそれぞれを、フレームのシーケンスを識別するシーケンスIDと、階層を識別するレイヤIDと、前記第1レイヤデータのフレームと前記第2レイヤデータのフレームとを異なるQoSを用いて送信することを示すQoSIDとを対応付けてパケット化することにより生成された複数のパケットを受信するパケット受信部と、
    前記パケット受信部が受信した前記複数のパケットのそれぞれに含まれるフレームについて、前記シーケンスID及び前記レイヤIDに基づいて、各フレームが受信されたか否かを判定するフレーム判定部と、
    前記複数のフレームのうち、第1レイヤデータのフレームとこれに対応する第2レイヤデータのフレームの両方が受信された場合、両方のフレームを用い、第1レイヤデータのフレーム又は第2レイヤデータのフレームのどちらかしか受信されなかった場合、当該フレームを用いて、前記動画データを復号化する復号化部と
    を備える端末装置。
  14. コンピュータを、請求項13に記載の端末装置として機能させるためのプログラム。
JP2013180556A 2013-08-30 2013-08-30 動画配信システム、動画配信装置、端末装置、及びプログラム Active JP5902653B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013180556A JP5902653B2 (ja) 2013-08-30 2013-08-30 動画配信システム、動画配信装置、端末装置、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013180556A JP5902653B2 (ja) 2013-08-30 2013-08-30 動画配信システム、動画配信装置、端末装置、及びプログラム

Publications (2)

Publication Number Publication Date
JP2015050599A true JP2015050599A (ja) 2015-03-16
JP5902653B2 JP5902653B2 (ja) 2016-04-13

Family

ID=52700270

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013180556A Active JP5902653B2 (ja) 2013-08-30 2013-08-30 動画配信システム、動画配信装置、端末装置、及びプログラム

Country Status (1)

Country Link
JP (1) JP5902653B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018093305A (ja) * 2016-11-30 2018-06-14 キヤノン株式会社 表示装置及びその制御方法、プログラム、記憶媒体

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004266330A (ja) * 2003-01-30 2004-09-24 Matsushita Electric Ind Co Ltd 通信端末装置及びその制御方法
JP2009540629A (ja) * 2006-03-03 2009-11-19 ヴィドヨ,インコーポレーテッド スケーラブルビデオ通信でエラー耐性、ランダムアクセス、およびレート制御を提供するシステムおよび方法
JP2010212942A (ja) * 2009-03-10 2010-09-24 Nec Corp 映像配信システム、映像配信方法、映像配信装置及び映像配信プログラム
JP2010239315A (ja) * 2009-03-30 2010-10-21 Nec Corp 通信品質優先度設定システム、方法、装置、及びプログラム
WO2012011466A1 (ja) * 2010-07-20 2012-01-26 シャープ株式会社 中継装置、中継方法、通信システム、中継制御プログラム、および記録媒体
JP2012095053A (ja) * 2010-10-26 2012-05-17 Toshiba Corp ストリーム伝送システム、送信装置、受信装置、ストリーム伝送方法及びプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004266330A (ja) * 2003-01-30 2004-09-24 Matsushita Electric Ind Co Ltd 通信端末装置及びその制御方法
JP2009540629A (ja) * 2006-03-03 2009-11-19 ヴィドヨ,インコーポレーテッド スケーラブルビデオ通信でエラー耐性、ランダムアクセス、およびレート制御を提供するシステムおよび方法
JP2010212942A (ja) * 2009-03-10 2010-09-24 Nec Corp 映像配信システム、映像配信方法、映像配信装置及び映像配信プログラム
JP2010239315A (ja) * 2009-03-30 2010-10-21 Nec Corp 通信品質優先度設定システム、方法、装置、及びプログラム
WO2012011466A1 (ja) * 2010-07-20 2012-01-26 シャープ株式会社 中継装置、中継方法、通信システム、中継制御プログラム、および記録媒体
JP2012095053A (ja) * 2010-10-26 2012-05-17 Toshiba Corp ストリーム伝送システム、送信装置、受信装置、ストリーム伝送方法及びプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JPN6014016041; H. Schulzrinne et al.: RFC3550 RTP: A Transport Protocol for Real-Time Applications , 200307, p.1,12-13 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018093305A (ja) * 2016-11-30 2018-06-14 キヤノン株式会社 表示装置及びその制御方法、プログラム、記憶媒体

Also Published As

Publication number Publication date
JP5902653B2 (ja) 2016-04-13

Similar Documents

Publication Publication Date Title
CN110620892B (zh) 视频通信中的视频标注技术
CN104735470B (zh) 一种流媒体数据传输方法及装置
RU2601442C2 (ru) Способ и устройство передачи/приема мультимедиа-содержимого в системе мультимедиа
MX2017010564A (es) Método de codificación de imágenes de video, método de decodificación de imágenes de video, dispositivo de codificación y dispositivo de decodificación.
US8127040B2 (en) Signaling buffer parameters indicative of receiver buffer architecture
US8479059B2 (en) Radio communication device, radio communication system, program and radio communication method
CN107211116B (zh) 用于无线装置中的多视图视频的系统和方法
JP2017522767A (ja) ビデオビットストリームにおけるランダムアクセス
JP2013526795A (ja) レイヤーコーディングビデオを送受信する方法及び装置
KR20120035881A (ko) Http 스트리밍의 표현 스위칭시 자연스런 재생을 위한 스케일러블한 http 스트리밍 전송 방법
US9723610B2 (en) Multi-layer timing synchronization framework
JP2010028378A (ja) 通信装置及び通信方法
CN108429921B (zh) 一种视频编解码方法及装置
JP2015138990A (ja) 受信装置、送信装置及び通信システム
KR20140123753A (ko) 무선 통신 시스템에서 비디오 트래픽 스케줄링 방법 및 장치
JP6193569B2 (ja) 受信装置、受信方法、及びプログラム、撮像装置、撮像方法、及びプログラム、送信装置、送信方法、及びプログラム
JP2015041822A (ja) 画像通信装置およびその制御方法
JP5902653B2 (ja) 動画配信システム、動画配信装置、端末装置、及びプログラム
JP2012244566A (ja) 伝送ビットレートに基づいて映像フレームレートを制御させる受信装置、システム、プログラム及び方法
JP2009188674A (ja) 送信装置、受信装置、動画音声伝送品質評価方法および動画音声伝送品質評価プログラム
JP6197708B2 (ja) 動画像伝送システム、動画像符号化装置、動画像復号装置及び動画像符号化用コンピュータプログラムならびに動画像復号用コンピュータプログラム
JP5941939B2 (ja) 動画配信装置、動画符号化装置及びプログラム
CN105052224B (zh) 视频业务调度方法和装置
JP6400163B2 (ja) 受信装置、受信方法、送信装置、送信方法、及びプログラム
JP5675164B2 (ja) 送信装置、送信方法、並びにプログラム

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20141021

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150121

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20150129

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20150403

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160310

R150 Certificate of patent or registration of utility model

Ref document number: 5902653

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S802 Written request for registration of partial abandonment of right

Free format text: JAPANESE INTERMEDIATE CODE: R311802

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250