JP6560696B2 - データのセグメント受信を制御するクライアント、プログラム及び方法 - Google Patents
データのセグメント受信を制御するクライアント、プログラム及び方法 Download PDFInfo
- Publication number
- JP6560696B2 JP6560696B2 JP2017014691A JP2017014691A JP6560696B2 JP 6560696 B2 JP6560696 B2 JP 6560696B2 JP 2017014691 A JP2017014691 A JP 2017014691A JP 2017014691 A JP2017014691 A JP 2017014691A JP 6560696 B2 JP6560696 B2 JP 6560696B2
- Authority
- JP
- Japan
- Prior art keywords
- segment
- request
- data
- files
- client
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Information Transfer Between Computers (AREA)
Description
(a)各視点の映像ストリーム
(b)各視点に存在する対象物情報(マスク画像、3次元の位置・大きさに係る情報)
(c)各視点のカメラキャリブレーション情報
1つのセグメント分を受信するにあたり、この1つのセグメント分として準備された当該複数種のセグメントファイルのうちの1つ又は一部を取得する要求を、サーバ宛てに送信させ、次いで順次、要求していない残りのセグメントファイルのうちの少なくとも1つを取得する要求を、サーバ宛てに送信させるデータ要求手段と、
受信された1つのセグメント分のセグメントファイルの処理を実行するデータ処理手段と
を有するクライアントが提供される。
データ要求手段は、注視点及び/又は注聴点に係る映像及び/又は音声セグメントファイルに最も高い優先度を設定することも好ましい。
データ要求手段は、受け付けた指示又は予め決められた事項に基づいて、次のセグメント分を受信するにあたって取得すべき各セグメントファイルにつき、いずれの当該段階のセグメントファイルを選択するかを決定することも好ましい。
データ要求手段は1つのセグメント分を受信するにあたり、1つの要求の結果として受信されたある段階のセグメントファイルの受信の具合に基づいて、次に又は以後取得を要求するセグメントファイルの段階を決定することも好ましい。
データ要求手段は、1つの要求の結果として受信されたあるビットレートのセグメントファイルの受信の際に算出されたスループットに基づいて、次に又は以後取得を要求するセグメントファイルのビットレートを決定することも好ましい。
データ要求手段は、当該1つのセグメント分を受信するにあたり、受信遅延判定手段での判定結果に基づき、以後行う各要求において、取得を要求するセグメントファイルの数を決定することも好ましい。
であって、
1つのセグメント分を受信するにあたり、この1つのセグメント分として準備された当該複数種のセグメントファイルのうちの1つ又は一部を取得する要求を、サーバ宛てに送信させ、次いで順次、要求していない残りのセグメントファイルのうちの少なくとも1つを取得する要求を、サーバ宛てに送信させるデータ要求手段と、
受信された1つのセグメント分のセグメントファイルの処理を実行するデータ処理手段と
してコンピュータを機能させるクライアント制御プログラムが提供される。
1つのセグメント分を受信するにあたり、この1つのセグメント分として準備された当該複数種のセグメントファイルのうちの1つ又は一部を取得する要求を、サーバ宛てに送信させ、次いで順次、要求していない残りのセグメントファイルのうちの少なくとも1つを取得する要求を、サーバ宛てに送信させるステップと、
受信された1つのセグメント分のセグメントファイルの処理を実行するステップと
を有するクライアント制御方法が提供される。
(A1)配信サーバ2から1つのセグメント分を受信するにあたり、この1つのセグメント分として準備された複数種のセグメントファイル(本実施形態では、互いに視点の異なる複数の映像データ)のうちの1つ又は一部を取得する要求(本実施形態ではHTTP Request)を、配信サーバ2宛てに送信させ、
(A2)次いで順次、要求していない残りのセグメントファイルのうちの少なくとも1つを取得する要求(HTTP Request)を、配信サーバ2宛てに送信させ、
(B)受信された1つのセグメント分のセグメントファイルの処理、本実施形態では映像再生処理、を実行する。
同じく、図1に示した機能ブロック図によれば、本発明のクライアントであるスマートフォン1は、通信インタフェース部101と、タッチパネルディスプレイ(TP・DP)102と、プロセッサ・メモリとを有する。ここで、プロセッサ・メモリは、スマートフォン1のコンピュータを機能させるプログラムを実行することによって、本発明によるクライアント制御方法の一実施形態であるデータ要求、受信及び処理機能を実現させる。
(a)後に詳述するデータ要求部111で生成されたHTTP Request(セグメント要求)を、事業者通信網やインターネット等の無線又は有線の通信ネットワークを介して配信サーバ2宛てに送信する。また、
(b)配信サーバ2から、HTTP Requestへの応答として、要求した視点及びビットレートのセグメントファイルを受信する。
(c)後に詳述するデータ処理部113での処理結果、例えば合成された自由視点映像データ、を外部の情報処理装置宛てに送信してもよく、
(d)外部のサーバから、本発明によるクライアント制御プログラム(アプリ)をダウンロードしてもよい。
(S102)HTTPサーバは、予め生成しておいたMPDファイルを、要求元のHTTPクライアントに送信する。
(S104)HTTPサーバは、ステップS103の要求に応答し、再生時間1のセグメントファイルを、要求元のHTTPクライアントに送信する。
(S108)HTTPサーバは、ステップS107の要求に応答し、再生時間2のセグメントファイルを、要求元のHTTPクライアントに送信する。
(1) bi(t)=p(xi|xi-1)*b(t)
によって決定することができる。なお、直近のスループットは、前の再生時間の全視点分のセグメントファイルの合計サイズと、ダウンロードに要した全時間とから算出される。
(a)この1つのセグメント分として準備された多視点の(複数種の)セグメントファイルのうちの1つ又は一部を取得する要求(HTTP Request)を、配信サーバ2宛てに送信させ、
(b)次いで順次、要求していない残りのセグメントファイルのうちの少なくとも1つを取得する要求(HTTP Request)を、配信サーバ2宛てに送信させる。
(2) b'(t')*l < TP*Δt
を満たす最大値に決定することができる。または、上式(2)を満たす、予め設定された合計ビットレート候補値の中から選択して決定してもよい。ここで、直近のスループットTPは、時刻t'以前に受信されたセグメントファイルの各受信時に算出されたスループット値の重み付き平均(例えば、直前に算出したスループットの重みをより大きくした平均)によって算定されることも好ましい。また、上式(2)の再生時間長lは、例えばMPDファイルに記述されている値を採用することができる。
(3) bi'(t')=p(xi|xi-1)*b'(t')
によって決定することができる。
(4) S/TP+(RTT/2)*n > Δt
が成立する場合、受信遅延が発生するとの判定を行う。ここで、Δtは、次の再生時間(今回受信すべきセグメントファイルの再生時間)である再生時間2の開始時刻までの残り時間である。また、nは(「以後送信するHTTP Requestの数」−1)に相当する。結局、上式(4)は、現時点から見て受信完了に必要な時間が、このΔtを超えてしまう場合の条件式となっている。
<ダウンロード(予測)時間> <RTT/2>
セグメントファイルC1: 2秒 1秒
セグメントファイルB1: 1.5秒 1秒
セグメントファイルD1: 1.5秒 1秒
セグメントファイルA1: 0.5秒 1秒
セグメントファイルE1: 0.5秒 1秒
となり、現時点から見て受信完了に必要な時間は、合計して11秒となる。これは、1セグメントの時間長(10秒)を超える値であり、結果として受信遅延が発生すると判定される。
<ダウンロード(予測)時間> <RTT/2>
セグメントファイルC1: 2秒 1秒
ファイルB1及びD1: 1.5秒+1.5秒 1秒
ファイルA1及びE1: 0.5秒+0.5秒 1秒
となり、現時点から見て受信完了に必要な時間は、合計して9秒となる。これは、1セグメントの時間長(10秒)内に収まる値であり、結果として受信遅延は発生しないと判定される。
(a)注視点及び/又は注聴点のセグメント、さらには注視点及び/又は注聴点に近い視点及び/又は聴点のセグメントから順序立てて要求する。
(b)先に要求した視点及び/又は聴点のダウンロード結果に基づき、後に要求する視点及び/又は聴点のビットレート配分と要求タイミングとを動的に決定する。
(c)複数のHTTP Request発信におけるオーバーヘッドによる受信遅延がないことを確認し、受信遅延が見込まれる場合、1つのHTTP Requestによって複数視点及び/又は複数聴点のセグメントファイルのパラレル受信を行う。
101 通信インタフェース部
102 タッチパネルディスプレイ(TP・DP)
111 データ要求部
111a 要求視点決定部
111b 要求ビットレート決定部
111c 要求タイミング決定部
112 通信管理部
112a スループット算出部
112b 受信遅延判定部
113 データ処理部
113a 視点位置検出部
113b 自由視点合成部
113c メディアエンジン
113d 受信履歴記録部
2 配信サーバ
Claims (11)
- 複数のセグメントに分割された送信データであって、各セグメントについて複数種のセグメントファイルが準備されている送信データを送信可能なサーバに対するクライアントであって、
1つのセグメント分を受信するにあたり、該1つのセグメント分として準備された当該複数種のセグメントファイルのうちの1つ又は一部を取得する要求を、前記サーバ宛てに送信させ、次いで順次、要求していない残りのセグメントファイルのうちの少なくとも1つを取得する要求を、前記サーバ宛てに送信させるデータ要求手段と、
受信された1つのセグメント分のセグメントファイルの処理を実行するデータ処理手段と
を有することを特徴とするクライアント。 - 前記データ要求手段は、受け付けた指示又は予め決められた事項に基づいて、取得すべき当該複数種のセグメントファイルに優先度を設定し、当該優先度のより高いセグメントファイルを取得する要求を、より優先して送信させることを特徴とする請求項1に記載のクライアント。
- 当該送信データは映像及び/又は音声ストリ−ムデータであって、当該複数種のセグメントファイルは、互いに視点及び/又は聴点の異なる複数種の映像及び/又は音声セグメントファイルであり、
前記データ要求手段は、注視点及び/又は注聴点に係る映像及び/又は音声セグメントファイルに最も高い優先度を設定する
ことを特徴とする請求項2に記載のクライアント。 - 当該複数種のセグメントファイルの各々について、互いにデータ量の異なる複数段階のセグメントファイルが準備されており、
前記データ要求手段は、受け付けた指示又は予め決められた事項に基づいて、次のセグメント分を受信するにあたって取得すべき各セグメントファイルにつき、いずれの当該段階のセグメントファイルを選択するかを決定する
ことを特徴とする請求項1から3のいずれか1項に記載のクライアント。 - 当該複数種のセグメントファイルの各々について、互いにデータ量の異なる複数段階のセグメントファイルが準備されており、
前記データ要求手段は1つのセグメント分を受信するにあたり、1つの要求の結果として受信されたある段階のセグメントファイルの受信の具合に基づいて、次に又は以後取得を要求するセグメントファイルの段階を決定する
ことを特徴とする請求項1から4のいずれか1項に記載のクライアント。 - 当該送信データは映像及び/又は音声ストリ−ムデータであり、当該複数種のセグメントファイルは、互いに視点及び/又は聴点の異なる複数種の映像及び/又は音声セグメントファイルであって、当該複数段階のセグメントファイルは、互いにビットレートの異なる映像及び/又は音声セグメントファイルであり、
前記データ要求手段は、1つの要求の結果として受信されたあるビットレートのセグメントファイルの受信の具合に基づいて、次に又は以後取得を要求するセグメントファイルのビットレートを決定する
ことを特徴とする請求項5に記載のクライアント。 - 前記データ要求手段は、当該あるビットレートのセグメントファイルの受信の際に算出されたスループットに基づいて、以後取得を要求する当該複数種の映像及び/又は音声セグメントファイルの各々に対し選択すべきビットレートを割り当てたビットレート分布を決定することを特徴とする請求項6に記載のクライアント。
- 1つのセグメント分の受信が、少なくとも、次に受信すべき次のセグメント分の受信の開始までに完了するか否かを判定する受信遅延判定手段を更に有し、
前記データ要求手段は、当該1つのセグメント分を受信するにあたり、前記受信遅延判定手段での判定結果に基づき、以後行う各要求において、取得を要求するセグメントファイルの数を決定する
ことを特徴とする請求項1から7のいずれか1項に記載のクライアント。 - 前記データ要求手段は、以後行う1つの要求において、複数のセグメントファイルの取得を要求する際、当該1つの要求の中に、前記サーバによるプッシュ送信の指示を含めることを特徴とする請求項8に記載のクライアント。
- 複数のセグメントに分割された送信データであって、各セグメントについて複数種のセグメントファイルが準備されている送信データを送信可能なサーバに対するクライアントに搭載されたコンピュータを機能させるクライアント制御プログラムであって、
であって、
1つのセグメント分を受信するにあたり、該1つのセグメント分として準備された当該複数種のセグメントファイルのうちの1つ又は一部を取得する要求を、前記サーバ宛てに送信させ、次いで順次、要求していない残りのセグメントファイルのうちの少なくとも1つを取得する要求を、前記サーバ宛てに送信させるデータ要求手段と、
受信された1つのセグメント分のセグメントファイルの処理を実行するデータ処理手段と
してコンピュータを機能させることを特徴とするクライアント制御プログラム。 - 複数のセグメントに分割された送信データであって、各セグメントについて複数種のセグメントファイルが準備されている送信データを送信可能なサーバに対するクライアントに搭載されたコンピュータにおけるクライアント制御方法であって、
1つのセグメント分を受信するにあたり、該1つのセグメント分として準備された当該複数種のセグメントファイルのうちの1つ又は一部を取得する要求を、前記サーバ宛てに送信させ、次いで順次、要求していない残りのセグメントファイルのうちの少なくとも1つを取得する要求を、前記サーバ宛てに送信させるステップと、
受信された1つのセグメント分のセグメントファイルの処理を実行するステップと
を有することを特徴とするクライアント制御方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017014691A JP6560696B2 (ja) | 2017-01-30 | 2017-01-30 | データのセグメント受信を制御するクライアント、プログラム及び方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017014691A JP6560696B2 (ja) | 2017-01-30 | 2017-01-30 | データのセグメント受信を制御するクライアント、プログラム及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018125621A JP2018125621A (ja) | 2018-08-09 |
JP6560696B2 true JP6560696B2 (ja) | 2019-08-14 |
Family
ID=63109758
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017014691A Active JP6560696B2 (ja) | 2017-01-30 | 2017-01-30 | データのセグメント受信を制御するクライアント、プログラム及び方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6560696B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7365212B2 (ja) * | 2019-12-03 | 2023-10-19 | 株式会社ソニー・インタラクティブエンタテインメント | 動画再生装置、動画再生システム、および動画再生方法 |
WO2022269723A1 (ja) * | 2021-06-21 | 2022-12-29 | 日本電信電話株式会社 | 同期制御を行う通信システム、その同期制御方法、受信サーバ及び同期制御プログラム |
CN113973217B (zh) * | 2021-11-02 | 2023-09-22 | 秒影工场(北京)科技有限公司 | 一种影像数据传输到云端的方法及装置 |
JP7339999B2 (ja) * | 2021-12-16 | 2023-09-06 | ソフトバンク株式会社 | 配信システム、配信サーバ、配信方法、通信端末、再生方法、及びプログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1188866A (ja) * | 1997-07-18 | 1999-03-30 | Pfu Ltd | 高精細画像表示装置及びそのプログラム記憶媒体 |
JP6607433B2 (ja) * | 2014-06-23 | 2019-11-20 | パナソニックIpマネジメント株式会社 | 映像配信方法及びサーバ |
JP2017022529A (ja) * | 2015-07-09 | 2017-01-26 | キヤノン株式会社 | 通信システム、通信装置、通信方法、及び、プログラム |
-
2017
- 2017-01-30 JP JP2017014691A patent/JP6560696B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018125621A (ja) | 2018-08-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20230283653A1 (en) | Methods and apparatus to reduce latency for 360-degree viewport adaptive streaming | |
EP3459252B1 (en) | Method and apparatus for spatial enhanced adaptive bitrate live streaming for 360 degree video playback | |
JP7436599B2 (ja) | 空間的不均等ストリーミング | |
KR102324326B1 (ko) | 상이한 인코딩 파라미터를 이용해 인코딩되는 복수의 인코딩 스트리밍 | |
JP6560696B2 (ja) | データのセグメント受信を制御するクライアント、プログラム及び方法 | |
JP7486527B2 (ja) | イマーシブメディアコンテンツの提示および双方向性の360°ビデオ通信 | |
EP4046389A1 (en) | Immersive viewport dependent multiparty video communication | |
US9402114B2 (en) | System and method for providing randomization in adaptive bitrate streaming environments | |
JP5481606B1 (ja) | 画像生成システムおよび画像生成用プログラム | |
JP7307211B2 (ja) | クライアント、サーバ、受信方法及び送信方法 | |
US11523144B2 (en) | Communication apparatus, communication method, and computer-readable storage medium | |
WO2018020901A1 (ja) | 情報処理装置及びその制御方法、コンピュータプログラム | |
US10708667B1 (en) | Combining fragments with different encodings | |
JP5915604B2 (ja) | 情報処理装置、プログラム及び情報処理方法 | |
KR101454809B1 (ko) | 트랜스코딩 작업 스케줄링 방법 및 이를 이용한 트랜스코딩 시스템 | |
JP6611748B2 (ja) | 画質情報でセグメント受信を制御するクライアント、システム、プログラム及び方法 | |
JP6758268B2 (ja) | 表示可能解像度に基づいて配信プロファイルを決定するクライアント、プログラム及び方法 | |
JP6513054B2 (ja) | コンテンツ配信システムのクライアント装置、コンテンツの取得方法及びプログラム | |
JP5997439B2 (ja) | オーディオ、ビデオ、及びコンピュータグラフィックスコンテンツの少なくとも一つをレンダリングするための方法及び入出力デバイス、及び、プリレンダリングされたオーディオ、プリレンダリングされたビデオ、及びプリレンダリングされたコンピュータグラフィックスコンテンツの少なくとも一つを配信するためのサービスを行うデバイス | |
JP2019033362A (ja) | 配信装置、受信装置及びプログラム | |
WO2018178510A2 (en) | Video streaming | |
Alhilal et al. | FovOptix: Human Vision-Compatible Video Encoding and Adaptive Streaming in VR Cloud Gaming | |
EP4099702A2 (en) | Management of a client device buffer | |
JP7259947B2 (ja) | 映像配信装置、映像配信方法及びプログラム | |
KR20230094695A (ko) | 멀티뷰 스트림을 위한 적응적 스트리밍 처리 방법 및 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190107 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190607 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190712 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190719 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6560696 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |