JP7339999B2 - 配信システム、配信サーバ、配信方法、通信端末、再生方法、及びプログラム - Google Patents

配信システム、配信サーバ、配信方法、通信端末、再生方法、及びプログラム Download PDF

Info

Publication number
JP7339999B2
JP7339999B2 JP2021204236A JP2021204236A JP7339999B2 JP 7339999 B2 JP7339999 B2 JP 7339999B2 JP 2021204236 A JP2021204236 A JP 2021204236A JP 2021204236 A JP2021204236 A JP 2021204236A JP 7339999 B2 JP7339999 B2 JP 7339999B2
Authority
JP
Japan
Prior art keywords
stream
data
video data
communication terminal
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021204236A
Other languages
English (en)
Other versions
JP2023089627A (ja
Inventor
和夫 五十嵐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SoftBank Corp
Original Assignee
SoftBank Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SoftBank Corp filed Critical SoftBank Corp
Priority to JP2021204236A priority Critical patent/JP7339999B2/ja
Publication of JP2023089627A publication Critical patent/JP2023089627A/ja
Application granted granted Critical
Publication of JP7339999B2 publication Critical patent/JP7339999B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、配信システム、配信サーバ、配信方法、通信端末、再生方法、及びプログラムに関する。
特許文献1には、映像配信において、広帯域を必要としないよう、複数の映像を1ストリームに合成して配信し、受信端末において複数の映像に分割し再生する技術が開示されている。
[先行技術文献]
[特許文献]
[特許文献1]特開2012-99890号公報
本発明の一実施態様によれば、配信システムが提供される。配信システムは、映像を配信する配信サーバを備えてよい。配信システムは、通信端末を備えてよい。配信サーバは、複数の映像データと複数の音声データを記憶するデータ記憶部を有してよい。配信サーバは、複数の映像データ及び複数の音声データを単一のストリームとして結合した結合ストリームを生成するストリーム生成部を有してよい。配信サーバは、ストリーム生成部によって生成された結合ストリームを配信するストリーム配信部を有してよい。通信端末は、ストリーム配信部によって配信された結合ストリームを受信するストリーム受信部を有してよい。通信端末は、ストリーム受信部が受信した結合ストリームから複数の映像データ及び複数の音声データに分割する分割部を有してよい。通信端末は、分割部が分割した複数の映像データの少なくとも1つの映像データと、複数の音声データの少なくとも1つの音声データとを再生する再生部を有してよい。
上記再生部は、上記通信端末の入力部が上記複数の映像データ及び上記複数の音声データから上記少なくとも1つの映像データ及び上記少なくとも1つの音声データを選択する入力を受け付けた場合に、選択された当該少なくとも1つの映像データと選択された当該少なくとも1つの音声データとを再生してよい。上記再生部は、上記通信端末の入力部が上記複数の映像データ及び上記複数の音声データから複数の上記映像データ及び複数の上記音声データを選択する入力を受け付けた場合に、選択された当該複数の映像データと選択された当該複数の音声データとを再生してよい。
上記複数の音声データのそれぞれは上記複数の映像データのそれぞれに対応してよく、上記再生部は、上記映像データと、当該映像データに対応する音声データとを再生してよい。上記再生部は、上記通信端末の入力部が上記複数の映像データから上記少なくとも1つの映像データを選択する入力を受け付けた場合に、選択された当該少なくとも1つの映像データと、当該少なくとも1つの映像データに対応する上記少なくとも1つの音声データとを再生してよい。上記再生部は、上記通信端末の入力部が上記複数の映像データから複数の上記映像データを選択する入力を受け付けた場合に、選択された当該複数の映像データと、それぞれが当該複数の映像データに対応する複数の上記音声データとを再生してよい。
上記再生部は、上記分割部によって分割された上記複数の映像データのうち選択された映像データを表示する表示領域と、上記複数の映像データのうち選択されていない複数の映像データのそれぞれをそれぞれが表す複数の映像オブジェクトとを並べて表示してよい。上記再生部は、上記表示領域及び上記複数の映像オブジェクトを仮想3次元空間に配置して表示してよい。上記再生部は、上記表示領域を中央に配置し、上記複数の映像オブジェクトを上記仮想3次元空間の奥行方向に傾斜させて配置して表示してよい。上記再生部は、上記表示領域及び上記複数の映像オブジェクトの並びの方向に対する入力に応じて、上記表示領域に表示する映像データを切り替えてよい。上記ストリーム生成部は、上記複数の映像データの数に応じて上記複数の映像データの画質を決定し、決定した画質とした上記複数の映像データと、上記複数の音声データを単一のストリームとして結合した結合ストリームを生成してよい。
本発明の一実施態様によれば、配信サーバが提供される。配信サーバは、複数の映像データと複数の音声データを記憶するデータ記憶部を備えてよい。配信サーバは、複数の映像データ及び複数の音声データを単一のストリームとして結合した結合ストリームを生成するストリーム生成部を備えてよい。配信サーバは、ストリーム生成部によって生成された結合ストリームを配信するストリーム配信部を備えてよい。上記ストリーム生成部は、上記複数の映像データの数に応じて上記複数の映像データの画質を決定し、決定した画質とした上記複数の映像データと、上記複数の音声データを単一のストリームとして結合した結合ストリームを生成してよい。
本発明の一実施態様によれば、コンピュータを、上記配信サーバとして機能させるためのプログラムが提供される。
本発明の一実施態様によれば、コンピュータによって実行される配信方法が提供される配信方法は、複数の映像データ及び複数の音声データを単一のストリームとして結合した結合ストリームを生成するストリーム生成段階を備えてよい。配信方法は、ストリーム生成段階において生成された結合ストリームを配信するストリーム配信段階を備えてよい。
本発明の一実施態様によれば、通信端末が提供される。通信端末は、複数の映像データ及び複数の音声データを単一のストリームとして結合して生成された結合ストリームを受信するストリーム受信部を備えてよい。通信端末は、ストリーム受信部が受信した結合ストリームから複数の映像データ及び複数の音声データに分割する分割部を備えてよい。通信端末は、分割部が分割した複数の映像データの少なくとも1つの映像データと、複数の音声データの少なくとも1つの音声データとを再生する再生部を備えてよい。上記再生部は、上記分割部によって分割された上記複数の映像データのうち選択された映像データを表示する表示領域と、上記複数の映像データのうち選択されていない複数の映像データのそれぞれをそれぞれが表す複数の映像オブジェクトとを仮想3次元空間内に並べて表示してよい。
本発明の一実施態様によれば、コンピュータを、上記通信端末として機能させるためのプログラムが提供される。
本発明の一実施態様によれば、コンピュータによって実行される再生方法が提供される。再生方法は、複数の映像データ及び複数の音声データを単一のストリームとして結合して生成された結合ストリームを受信するストリーム受信段階を備えてよい。再生方法は、ストリーム受信段階において受信した結合ストリームから複数の映像データ及び複数の音声データに分割する分割段階を備えてよい。再生方法は、分割段階において分割した複数の映像データの少なくとも1つの映像データと、複数の音声データの少なくとも1つの音声データとを再生する再生段階を備えてよい。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
配信システム10の一例を概略的に示す。 従来の映像配信について説明するための説明図である。 配信システム10による映像配信の一例について説明するための説明図である。 通信端末200による表示例を概略的に示す。 配信サーバ100の機能構成の一例を概略的に示す。 通信端末200の機能構成の一例を概略的に示す。 複数の映像データの数に応じた複数の映像データの画質の調整方法について説明するための説明図である。 複数の映像データの数に応じた複数の映像データの画質の調整方法について説明するための説明図である。 配信サーバ100又は通信端末200として機能するコンピュータ1200のハードウェア構成の一例を概略的に示す。
スマートフォンアプリケーション等において、マルチアングル動画配信サービスがいくつか開始されており、今後も増加していくものとみられる。一方、マルチアングル配信においては確立されたオープンな技術仕様や、デファクトスタンダードとなっているサービスも無く、例えば、複数動画をそれぞれ伝送するためのサーバ側の配信設備が必要、複数動画の同期が必要、各動画に紐づく音源が1種類のみしか配信できない(音源が選べない)等の課題が存在し、各サービスにて改善に取り組まれている。本実施形態に係るシステムは、これらの課題の解決に貢献する技術を提供する。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、配信システム10の一例を概略的に示す。配信システム10は、配信サーバ100及び通信端末200を備える。
配信サーバ100は、映像を配信する。配信サーバ100は、映像を、ネットワーク20を介して通信端末200に配信してよい。
ネットワーク20は、インターネットを含んでよい。ネットワーク20は、LAN(Local Area Network)を含んでよい。ネットワーク20は、移動体通信ネットワークを含んでよい。移動体通信ネットワークは、3G(3rd Generation)通信方式、LTE(Long Term Evolution)通信方式、5G(5th Generation)通信方式、及び6G(6th Generation)通信方式以降の通信方式のいずれに準拠していてもよい。
配信サーバ100は、ネットワーク20に有線接続されてよい。配信サーバ100は、ネットワーク20に無線接続されてよい。配信サーバ100は、無線基地局を介してネットワーク20に接続されてよい。配信サーバ100は、Wi-Fi(登録商標)アクセスピントを介してネットワーク20に接続されてよい。
通信端末200は、ネットワーク20に有線接続されてよい。通信端末200は、ネットワーク20に無線接続されてよい。通信端末200は、無線基地局を介してネットワーク20に接続されてよい。配信サーバ100は、Wi-Fiアクセスピントを介してネットワーク20に接続されてよい。
配信サーバ100は、1つの装置によって実現されてよい。配信サーバ100は、複数の装置によって実現されてもよい。
通信端末200は、配信サーバ100から映像を受信して、表示する機能を有していれば、どのような端末であってもよい。通信端末200の例として、スマートフォン、タブレット端末、ウェアラブル端末、PC(Personal Computer)、及びテレビ装置等が挙げられるが、これらに限られない。
図2は、従来の映像配信について説明するための説明図である。従来の配信システムにおいては、配信サーバ50が、複数の映像データと、1つの音声データ310とを通信端末60に配信する。図2では、ストリームA300、ストリームB302、ストリームC304、ストリームD306、及びストリームE308を配信する場合を例示している。ストリームA300、ストリームB302、ストリームC304、ストリームD306、及びストリームE308は、複数の映像データの一例であってよい。
従来の配信システムにおいては、通信端末60が、受信した複数の映像データを表示し、受信した音声データ310を音声出力する。通信端末60は、図2に例示するように、複数の映像データのうちの選択された映像データを大きな領域に表示し、他の映像データを小さな領域に表示し、選択に応じて表示を切り替える。
従来の配信システムでは、図2に示すように、複数の映像データを配信する場合に、複数の映像データに対応する1つの音声データを配信していた。例えば、アイドルグループのコンサート映像を配信する場合であって、グループメンバ全員を含む映像と、グループメンバのそれぞれを含む映像とをマルチアングル配信する場合に、アイドルグループ全体の歌唱を含む1つの音楽データが配信されていた。
しかし、複数の映像データを配信する場合に、複数の音声データを合わせて配信するニーズが存在すると考えられる。例えば、複数の映像コンテンツに、複数の映像のみならず、複数の異なる音声がそれぞれ含まれる場合、それぞれを聞き分けたいというユーザのニーズが存在する。
具体的には、アイドルグループのコンサート映像をマルチアングル配信する場合に、グループ全体の歌唱を含む音声データの他、グループメンバそれぞれの歌唱に特化した音声データを聞きたいというニーズが存在する。また、スポーツの試合映像を配信する場合に、各選手に特化した音声データや、特定チームの応援席の音声データと、そうでない席の音声データを聞きたいというニーズが存在する。
そのようなニーズを満たすシステムを提供することが望ましい。通信帯域への負荷をあまり増加させることなく、そのようなニーズを満たすシステムを提供することがより望ましい。また、技術的な難易度を抑えたうえで、そのようなニーズを満たすシステムを提供することがより望ましい。
図3は、配信システム10による映像配信の一例について説明するための説明図である。配信サーバ100は、複数の映像データ及び複数の音声データを単一のストリームとして結合した結合ストリーム320を生成する。図3では、ストリームA300、ストリームB302、ストリームC304、ストリームD306、及びストリームE308と、音声データ310、音声データ312、音声データ314、音声データ316、及び音声データ318とを結合した結合ストリーム320を例示している。
複数の音声データは、複数の映像データのそれぞれに対応していてよい。例えば、複数の映像データが、アイドルグループの複数のメンバの映像のデータである場合に、複数の音声データは、複数のメンバに特化した歌唱等の音声のデータであってよい。
あるメンバに特化した音声とは、複数のメンバのうちの当該メンバの歌唱のみを含む音声であってよい。また、あるメンバに特化した音声とは、複数のメンバのうちの当該メンバの歌唱の割合が多い音声であってよく、具体例として、複数のメンバのうちの当該メンバの歌唱の音量が他のメンバの歌唱の音量よりも大きい音声であってよい。
図3では、音声データ310がストリームA300に対応し、音声データ312がストリームB302に対応し、音声データ314がストリームC304に対応し、音声データ316がストリームD306に対応し、音声データ318がストリームE308に対応している場合を例示している。なお、複数の音声データは、複数の映像データとは独立して準備されたものであってもよい。
配信サーバ100は、結合ストリーム320を通信端末200に配信する。配信サーバ100は、ネットワーク20を介して結合ストリーム320を通信端末200に送信する。
通信端末200は、受信した結合ストリーム320から、複数の映像データ及び複数の音声データに分割する。そして、通信端末200は、分割した複数の映像データ及び複数の音声データを再生する。
通信端末200は、複数の映像データの少なくとも1つの映像データと、複数の音声データの少なくとも1つの音声データとを再生してよい。通信端末200は、通信端末200のユーザ40の選択に応じて、複数の映像データの少なくとも1つの映像データと、複数の音声データの少なくとも1つの音声データとを再生してよい。
図3に示す例において、通信端末200は、表示領域400にストリームA300を表示し、ストリームB302を表す映像オブジェクト422、ストリームC304を表す映像オブジェクト424、ストリームD306を表す映像オブジェクト426、及びストリームE308を表す映像オブジェクト428を、表示領域400と並べて表示している。
通信端末200は、表示領域400に表示しているストリームA300に対応する音声データ310を音声出力してよい。通信端末200は、ユーザ40の入力に従って、表示領域400に表示する映像データを切り替える。例えば、通信端末200は、ユーザ40の入力に従って、ストリームB302を表示領域400に表示させる。このとき、通信端末200は、ストリームB302に対応する音声データ312を音声出力してよい。
本実施形態に係る配信システム10は、このように、マルチアングルマルチオーディオシステムを実現してよい。ストリームA300及び音声データ310、ストリームB302及び音声データ312、ストリームC304及び音声データ314、ストリームD306及び音声データ316、ストリームE308及び音声データ318を個別に通信端末200に配信して、通信端末200で再生することもできるが、個別に受信したデータを同期させることは難しい。それに対して、配信システム10によれば、通信端末200が再生する複数の映像データ及び音声データは、もともと結合ストリーム320という同じファイルであるため容易に同期をとることができる。
図4は、通信端末200による表示例を概略的に示す。通信端末200は、結合ストリーム320から分割した複数の映像データのうち、選択された映像データを表示する表示領域400と、複数の映像データのうち選択されていない複数の映像データのそれぞれをそれぞれが表す複数の映像オブジェクト420とを並べて表示してよい。図4では、映像データが7つである場合を例示している。
通信端末200は、図4に例示するように、表示領域400及び複数の映像オブジェクト420を仮想3次元空間に配置して表示してよい。また、通信端末200は、図4に例示するように、表示領域400を中央に配置し、複数の映像オブジェクト420を仮想3次元空間の奥行方向に傾斜させて配置して表示してよい。
図2に例示したように、平面へ複数の映像データをレイアウトする場合、主として視聴していない映像を選択するためにレイアウトする必要がある。図2の例では、5つ以上の映像データがある場合、表示範囲に収まらないレイアウトになってしまう。すなわち、5つ目の映像データの存在に気づきづらい。それに対して、本実施形態に係る通信端末200によれば、仮想3次元空間に配置することによって、複数の映像データの全ての存在をユーザ40に知得させることができる。
通信端末200は、表示領域400及び複数の映像オブジェクト420の並びの方向に対する入力に応じて、表示領域400に表示する映像データを切り替えてよい。図4に示す例において、通信端末200は、例えば、左右へのスワイプ操作に応じて、表示領域400に表示する映像データを切り替える。
通信端末200は、更に、配置オブジェクト430を表示してよい。配置オブジェクト430は、複数の映像データに対応する。図4では、7つの映像データに対応する7つの配置オブジェクト430が例示されている。通信端末200は、7つの配置オブジェクト430のうち、表示領域400に表示している映像データに対応する配置オブジェクト430を識別表示してよい。図4に示す例によれば、ユーザ40は、映像データの数が7つであることと、表示領域400に表示されている映像データが、7つの映像データのうちの真ん中の映像データであることを容易に把握することができる。
通信端末200は、更に、全体化ボタン440を表示してよい。通信端末200は、全体化ボタン440が選択された場合に、表示領域400に表示している映像データを画面最大化表示してよい。
図5は、配信サーバ100の機能構成の一例を概略的に示す。配信サーバ100は、データ取得部102、データ記憶部104、ストリーム生成部106、及びストリーム配信部108を備える。
データ取得部102は、複数の映像データ及び複数の音声データを取得する。データ取得部102は、複数の映像データ及び複数の音声データを受信してよい。データ取得部102は、例えば、複数の映像データ及び複数の音声データを外部の装置から受信する。データ取得部102は、複数の映像データ及び複数の音声データを、ネットワーク20を介して外部の装置から受信してよい。データ取得部102は、配信サーバ100に対して直接通信接続された外部の装置から、複数の映像データ及び複数の音声データを受信してもよい。データ取得部102は、複数の映像データ及び複数の音声データを、可搬型の記憶媒体から読み出してもよい。データ取得部102は、配信サーバ100において生成された複数の映像データ及び複数の音声データを取得してもよい。
データ記憶部104は、複数の映像データ及び複数の音声データを記憶する。データ記憶部104は、データ取得部102が取得した複数の映像データ及び複数の音声データを記憶してよい。
複数の音声データのそれぞれは、複数の映像データのそれぞれに対応していてよい。複数の音声データのそれぞれは、複数の映像データのそれぞれに対応していなくてもよい。すなわち、複数の音声データのそれぞれは、複数の映像データのそれぞれと独立していてもよい。
ストリーム生成部106は、データ記憶部104に記憶されている複数の映像データ及び複数の音声データを単一のストリームとして結合した結合ストリームを生成する。ストリーム生成部106は、複数の映像データの数に応じて、複数の映像データのそれぞれの画質を調整して結合してよい。調整方法については後述する。
ストリーム配信部108は、ストリーム生成部106によって生成された結合ストリームを配信する。ストリーム配信部108は、結合ストリームを通信端末200に配信してよい。ストリーム配信部108は、結合ストリームを、ネットワーク20を介して通信端末200に送信してよい。ストリーム配信部108は、ストリーム生成部106が複数の映像データ及び複数の音声データをどのように結合したかを示す結合情報を、結合ストリームと合わせて通信端末200に送信してもよい。
図6は、通信端末200の機能構成の一例を概略的に示す。通信端末200は、ストリーム受信部202、記憶部204、分割部206、入力部207、及び再生部208を備える。
ストリーム受信部202は、配信サーバ100から結合ストリームを受信する。ストリーム受信部202は、ストリーム配信部108によって送信された結合ストリームを受信する。ストリーム受信部202は、結合ストリームと合わせて結合情報を受信してもよい。
記憶部204は、ストリーム受信部202が受信した結合ストリームを記憶する。記憶部204は、ストリーム受信部202が結合情報を合わせて受信した場合、結合ストリームに対応付けて結合情報を記憶してよい。
分割部206は、記憶部204に記憶されている結合ストリームから複数の映像データ及び複数の音声データに分割する。分割部206は、結合情報を参照することによって、結合ストリームから複数の映像データ及び複数の音声データに分割してよい。
入力部207は、各種入力を受け付ける。入力部207は、例えば、通信端末200のユーザによる入力を受け付けてよい。
入力部207は、通信端末200が入力キーを有する場合に、キー入力を受け付けてよい。入力部207は、通信端末200がタッチパネルディスプレイを有する場合に、タッチ入力を受け付けてよい。入力部207は、通信端末200が、マイクを有する場合に、音声入力を受け付けてよい。入力部207は、通信端末200がマウスを有する場合に、マウス入力を受け付けてよい。入力部207は、通信端末200がリモートコントローラを有する場合に、いわゆるリモコン入力を受け付けてよい。入力部207は、通信端末200が撮像部を有する場合に、ジェスチャ入力を受け付けてよい。これらは例示であり、入力部207は、他の方式の入力を受け付けてもよい。
入力部207は、複数の映像データから1又は複数の映像データを選択する入力を受け付けてよい。入力部207は、複数の音声データから1又は複数の音声データを選択する入力を受け付けてよい。
再生部208は、分割部206が分割した複数の映像データの少なくとも1つの映像データと、複数の音声データの少なくとも1つの音声データとを再生する。再生部208は、入力部207が複数の映像データ及び複数の音声データから少なくとも1つの映像データ及び少なくとも1つの音声データを選択する入力を受け付けた場合に、選択された当該少なくとも1つの映像データと選択された当該少なくとも1つの音声データとを再生してよい。例えば、再生部208は、通信端末200のユーザ40によって複数の映像データから選択された少なくとも1つの映像データと、ユーザ40によって複数の音声データから選択された少なくとも1つの音声データとを再生してよい。再生部208は、入力部207が複数の映像データ及び複数の音声データから複数の映像データ及び複数の音声データを選択する入力を受け付けた場合に、選択された当該複数の映像データと選択された当該複数の音声データとを再生してよい。例えば、再生部208は、通信端末200のユーザ40によって複数の映像データから選択された複数の映像データと、ユーザ40によって複数の音声データから選択された複数の音声データとを再生してよい。
複数の音声データのそれぞれが複数の映像データのそれぞれに対応している場合、再生部208は、映像データと、当該映像データに対応する音声データとを再生してよい。再生部208は、入力部207が複数の映像データから少なくとも1つの映像データを選択する入力を受け付けた場合に、選択された少なくとも1つの映像データと、当該少なくとも1つの映像データに対応する少なくとも1つの音声データとを再生してよい。例えば、再生部208は、通信端末200のユーザ40によって複数の映像データから選択された少なくとも1つの映像データと、当該少なくとも1つの映像データに対応する少なくとも1つの音声データとを再生する。再生部208は、入力部207が複数の映像データから複数の映像データを選択する入力を受け付けた場合に、選択された当該複数の映像データと、それぞれが当該複数の映像データに対応する複数の音声データとを再生してよい。例えば、再生部208は、通信端末200のユーザ40によって複数の映像データから選択された複数の映像データと、それぞれが当該複数の映像データに対応する複数の音声データとを再生する。
例えば、配信された映像が、アイドルグループのコンサート映像であり、複数の映像データが、アイドルグループ全体の映像データと、アイドルグループの複数のメンバのそれぞれの映像データとを含む場合において、ユーザ40は、アイドルグループ全体の映像データと、いわゆる推しメンの映像データとを選択する。これにより、ユーザ40は、アイドルグループ全体の映像と、推しメンの映像とを閲覧しながら、アイドルグループ全体の歌唱と、推しメンの歌唱とを聴くことができる。また、ユーザ40は、例えば、複数のメンバの映像データを選択する。これにより、ユーザ40は、複数の推しメンのみの映像を閲覧し、複数の推しメンのみの音声を聴くことができる。
再生部208は、分割部206によって分割された複数の映像データのうちの選択された映像データを表示する表示領域と、複数の映像データのうち選択されていない複数の映像データのそれぞれをそれぞれが表す複数の映像オブジェクトとを並べて表示してよい。再生部208は、表示領域及び複数の映像オブジェクトを仮想3次元空間に配置して表示してよい。再生部208は、表示領域を中央に配置し、複数の映像オブジェクトを仮想3次元空間の奥行方向に傾斜させて配置して表示してよい。
再生部208は、入力部207が受け付けた入力に応じて、表示領域に表示する映像データを切り替えてよい。例えば、再生部208は、表示領域及び複数の映像オブジェクトの並びの方向に対する入力に応じて、表示領域に表示する映像データを切り替えてよい。通信端末200がタッチパネルを備える場合、再生部208は、表示領域及び複数の映像オブジェクトの並びの方向に対するスワイプ操作に応じて、表示領域に表示する映像データを切り替えてよい。また、再生部208は、表示領域及び複数の映像オブジェクトの並びの方向に対するフリック操作に応じて、表示領域に表示する映像データを切り替えてもよい。
通信端末200がマウス入力を受け付ける場合、再生部208は、表示領域及び複数の映像オブジェクトの並びの方向に対するドラッグ操作に応じて、表示領域に表示する映像データを切り替えてよい。通信端末200がリモコン入力を受け付ける場合、再生部208は、表示領域及び複数の映像オブジェクトの並びの方向に対するボタン入力やジャイロ入力に応じて、表示領域に表示する映像データを切り替えてよい。
図7及び図8は、複数の映像データの数に応じた複数の映像データの画質の調整方法について説明するための説明図である。対応表510及び対応表520は、ストリームの数と画質との対応関係を示す。
ここでは、一般的なスマートフォン向けの配信を想定し、結合後のサイズが4Kである場合を想定した一例を示す。4Kの中にFHD(Full High Defintion)、HD画質で組み合わせることによって、1~16個の映像データの配信を可能とする。
図7に例示するように、FHDのストリームを4個配信することができる。また、FHDのストリームを2個、HDのストリームを8個配信することができる。また、FHDのストリームを1個、HDのストリームを12個配信することができる。また、HDのストリームを16個配信することができる。
図8に例示するように、ストリーム数が1個の場合、配信サーバ100は、4Kで配信してよい。また、ストリーム数が2個~4個の場合、配信サーバ100は、4個のFHDのフォーマットで配信してよい。また、ストリーム数が5個~10個の場合、配信サーバ100は、2個のFHD及び8個のHDのフォーマットで配信してよい。また、ストリーム数が11個~13個の場合、配信サーバ100は、1個のFHD及び12個のHDのフォーマットで配信してよい。また、ストリーム数が14個~16個の場合、配信サーバ100は、16個のHDのフォーマットで配信してよい。
ストリーム生成部106は、ストリーム配信部108が配信している結合ストリームについて、リアルタイムに画質を調整してもよい。例えば、データ取得部102が、通信端末200から、映像データの数を示す数データを受信する。通信端末200は、例えば、映像を閲覧しているユーザ40によって指定された映像エータの数を示す数データを配信サーバ100に送信する。ストリーム生成部106は、データ取得部102が通信端末200から受信した数データに応じて、複数の映像データの画質を調整して、結合データを生成してよい。
例えば、まず、ストリーム生成部106が、15人のアイドルグループのグループ全体の映像データ及び音声データと、15人のそれぞれの映像データ及び音声データについて、映像の画質をHDとして結合した結合ストリームを生成し、ストリーム配信部108が通信端末200に配信する。通信端末200のユーザ40は、例えば、映像を閲覧している最中に、15人のうちの4人のメンバを選択し、4を示す数データと、選択した4つの映像データを示すデータとを配信サーバ100に送信する。ストリーム生成部106は、通信端末200から受信したデータを参照して、4つの映像データと、当該4つの映像データに対応する4つの音声データとについて、映像の画質をFHDとして結合した結合ストリームを生成し、ストリーム配信部108が通信端末200に配信する。これにより、通信端末200のユーザ40は、15人のうち、注目している4人のメンバの映像を、より高い画質で閲覧できるようになる。
図9は、配信サーバ100又は通信端末200として機能するコンピュータ1200のハードウェア構成の一例を概略的に示す。コンピュータ1200にインストールされたプログラムは、コンピュータ1200を、本実施形態に係る装置の1又は複数の「部」として機能させ、又はコンピュータ1200に、本実施形態に係る装置に関連付けられるオペレーション又は当該1又は複数の「部」を実行させることができ、及び/又はコンピュータ1200に、本実施形態に係るプロセス又は当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ1200に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつか又はすべてに関連付けられた特定のオペレーションを実行させるべく、CPU1212によって実行されてよい。
本実施形態によるコンピュータ1200は、CPU1212、RAM1214、及びグラフィックコントローラ1216を含み、それらはホストコントローラ1210によって相互に接続されている。コンピュータ1200はまた、通信インタフェース1222、記憶装置1224、及びICカードドライブのような入出力ユニットを含み、それらは入出力コントローラ1220を介してホストコントローラ1210に接続されている。記憶装置1224は、ハードディスクドライブ及びソリッドステートドライブ等であってよい。コンピュータ1200はまた、ROM1230及びキーボードのようなレガシの入出力ユニットを含み、それらは入出力チップ1240を介して入出力コントローラ1220に接続されている。
CPU1212は、ROM1230及びRAM1214内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。グラフィックコントローラ1216は、RAM1214内に提供されるフレームバッファ等又はそれ自体の中に、CPU1212によって生成されるイメージデータを取得し、イメージデータがディスプレイデバイス1218上に表示されるようにする。
通信インタフェース1222は、ネットワークを介して他の電子デバイスと通信する。記憶装置1224は、コンピュータ1200内のCPU1212によって使用されるプログラム及びデータを格納する。ICカードドライブは、プログラム及びデータをICカードから読み取り、及び/又はプログラム及びデータをICカードに書き込む。
ROM1230はその中に、アクティブ化時にコンピュータ1200によって実行されるブートプログラム等、及び/又はコンピュータ1200のハードウェアに依存するプログラムを格納する。入出力チップ1240はまた、様々な入出力ユニットをUSBポート、パラレルポート、シリアルポート、キーボードポート、マウスポート等を介して、入出力コントローラ1220に接続してよい。
プログラムは、ICカードのようなコンピュータ可読記憶媒体によって提供される。プログラムは、コンピュータ可読記憶媒体から読み取られ、コンピュータ可読記憶媒体の例でもある記憶装置1224、RAM1214、又はROM1230にインストールされ、CPU1212によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ1200に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置又は方法が、コンピュータ1200の使用に従い情報のオペレーション又は処理を実現することによって構成されてよい。
例えば、通信がコンピュータ1200及び外部デバイス間で実行される場合、CPU1212は、RAM1214にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース1222に対し、通信処理を命令してよい。通信インタフェース1222は、CPU1212の制御の下、RAM1214、記憶装置1224、又はICカードのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、又はネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
また、CPU1212は、記憶装置1224、ICカード等のような外部記録媒体に格納されたファイル又はデータベースの全部又は必要な部分がRAM1214に読み取られるようにし、RAM1214上のデータに対し様々なタイプの処理を実行してよい。CPU1212は次に、処理されたデータを外部記録媒体にライトバックしてよい。
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU1212は、RAM1214から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM1214に対しライトバックする。また、CPU1212は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU1212は、当該複数のエントリの中から、第1の属性の属性値が指定されている条件に一致するエントリを検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。
上で説明したプログラム又はソフトウエアモジュールは、コンピュータ1200上又はコンピュータ1200近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワーク又はインターネットに接続されたサーバシステム内に提供されるハードディスク又はRAMのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ1200に提供する。
本実施形態におけるフローチャート及びブロック図におけるブロックは、オペレーションが実行されるプロセスの段階又はオペレーションを実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、専用回路、コンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプログラマブル回路、及び/又はコンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプロセッサによって実装されてよい。専用回路は、デジタル及び/又はアナログハードウェア回路を含んでよく、集積回路(IC)及び/又はディスクリート回路を含んでよい。プログラマブル回路は、例えば、フィールドプログラマブルゲートアレイ(FPGA)、及びプログラマブルロジックアレイ(PLA)等のような、論理積、論理和、排他的論理和、否定論理積、否定論理和、及び他の論理演算、フリップフロップ、レジスタ、並びにメモリエレメントを含む、再構成可能なハードウェア回路を含んでよい。
コンピュータ可読記憶媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよく、その結果、そこに格納される命令を有するコンピュータ可読記憶媒体は、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読記憶媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読記憶媒体のより具体的な例としては、フロッピー(登録商標)ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、消去可能プログラマブルリードオンリメモリ(EPROM又はフラッシュメモリ)、電気的消去可能プログラマブルリードオンリメモリ(EEPROM)、静的ランダムアクセスメモリ(SRAM)、コンパクトディスクリードオンリメモリ(CD-ROM)、デジタル多用途ディスク(DVD)、ブルーレイ(登録商標)ディスク、メモリスティック、集積回路カード等が含まれてよい。
コンピュータ可読命令は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、又はSmalltalk(登録商標)、JAVA(登録商標)、C++等のようなオブジェクト指向プログラミング言語、及び「C」プログラミング言語又は同様のプログラミング言語のような従来の手続型プログラミング言語を含む、1又は複数のプログラミング言語の任意の組み合わせで記述されたソースコード又はオブジェクトコードのいずれかを含んでよい。
コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路が、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を生成するために当該コンピュータ可読命令を実行すべく、ローカルに又はローカルエリアネットワーク(LAN)、インターネット等のようなワイドエリアネットワーク(WAN)を介して、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路に提供されてよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階などの各処理の実行順序は、特段「より前に」、「先立って」などと明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」などを用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 配信システム、20 ネットワーク、50 配信サーバ、100 配信サーバ、102 データ取得部、104 データ記憶部、106 ストリーム生成部、108 ストリーム配信部、200 通信端末、202 ストリーム受信部、204 記憶部、206 分割部、208 再生部、300 ストリームA、302 ストリームB、304 ストリームC、306 ストリームD、308 ストリームE、310、312、314、316、318 音声データ、320 結合ストリーム、400 表示領域、420、422、424、426、428 映像オブジェクト、430 配置オブジェクト、440 全体化ボタン、510 対応表、520 対応表、1200 コンピュータ、1210 ホストコントローラ、1212 CPU、1214 RAM、1216 グラフィックコントローラ、1218 ディスプレイデバイス、1220 入出力コントローラ、1222 通信インタフェース、1224 記憶装置、1230 ROM、1240 入出力チップ

Claims (6)

  1. 複数の映像データと複数の音声データを記憶するデータ記憶部と、
    通信端末から、前記複数の映像データの数を示す数データを受信するデータ取得部と、
    前記データ取得部が前記通信端末から受信した前記数データに応じて、前記複数の映像データの画質を調整して、前記複数の映像データ及び前記複数の音声データを単一のストリームとして結合した結合ストリームを生成するストリーム生成部と、
    前記ストリーム生成部によって生成された前記結合ストリームを配信するストリーム配信部と
    を備える配信サーバ。
  2. 前記ストリーム生成部は、前記数データが示す数が2~4個である場合、当該2~4個の映像データの画質をFHDとし、前記数データが示す数が1個である場合、当該1個の映像データの画質を4Kとして、前記結合ストリームを生成する、請求項1に記載の配信サーバ。
  3. 前記ストリーム生成部は、前記数データが示す数が5~10個の場合、当該5~10個の映像データのうちの2個の映像データの画質をFHDとし、当該5~10個の映像データのうちの他の映像データの画質をHDとして、前記結合ストリームを生成する、請求項2に記載の配信サーバ。
  4. コンピュータを、請求項1から3のいずれか一項に記載の配信サーバとして機能させるためのプログラム。
  5. コンピュータによって実行される配信方法であって、
    通信端末から、複数の映像データの数を示す数データを受信するデータ取得段階と、
    前記データ取得段階において前記通信端末から受信した前記数データに応じて、前記複数の映像データの画質を調整して、前記複数の映像データ及び複数の音声データを単一のストリームとして結合した結合ストリームを生成するストリーム生成段階と、
    前記ストリーム生成段階において生成された前記結合ストリームを配信するストリーム配信段階と
    を備える配信方法。
  6. 映像を配信する配信サーバと、
    通信端末と
    を備え、
    前記配信サーバは、
    複数の映像データと複数の音声データを記憶するデータ記憶部と、
    前記通信端末から、前記複数の映像データの数を示す数データを受信するデータ取得部と、
    前記データ取得部が前記通信端末から受信した前記数データに応じて、前記複数の映像データの画質を調整して、前記複数の映像データ及び前記複数の音声データを単一のストリームとして結合した結合ストリームを生成するストリーム生成部と、
    前記ストリーム生成部によって生成された前記結合ストリームを配信するストリーム配信部と、
    を有し、
    前記通信端末は、
    前記ストリーム配信部によって配信された前記結合ストリームを受信するストリーム受信部と、
    前記ストリーム受信部が受信した前記結合ストリームから前記複数の映像データ及び前記複数の音声データに分割する分割部と、
    前記分割部が分割した前記複数の映像データの少なくとも1つの映像データと、前記複数の音声データの少なくとも1つの音声データとを再生する再生部と
    を有する、配信システム。
JP2021204236A 2021-12-16 2021-12-16 配信システム、配信サーバ、配信方法、通信端末、再生方法、及びプログラム Active JP7339999B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021204236A JP7339999B2 (ja) 2021-12-16 2021-12-16 配信システム、配信サーバ、配信方法、通信端末、再生方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021204236A JP7339999B2 (ja) 2021-12-16 2021-12-16 配信システム、配信サーバ、配信方法、通信端末、再生方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2023089627A JP2023089627A (ja) 2023-06-28
JP7339999B2 true JP7339999B2 (ja) 2023-09-06

Family

ID=86935998

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021204236A Active JP7339999B2 (ja) 2021-12-16 2021-12-16 配信システム、配信サーバ、配信方法、通信端末、再生方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP7339999B2 (ja)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003018583A (ja) 2001-07-05 2003-01-17 Sony Corp 多視点任意選択型映像視聴システム、ストリームデータ合成装置、及び、合成ストリームデータ配信サーバ
JP2009201033A (ja) 2008-02-25 2009-09-03 Canon Inc 表示制御装置、及び方法、プログラム
JP2011060161A (ja) 2009-09-14 2011-03-24 Cri Middleware Co Ltd アプリケーション紹介システム、アプリケーション紹介方法およびプログラム
US20140143725A1 (en) 2012-11-19 2014-05-22 Samsung Electronics Co., Ltd. Screen display method in mobile terminal and mobile terminal using the method
JP2016039612A (ja) 2014-08-11 2016-03-22 株式会社電通 コンテンツ配信システム、コンテンツ配信方法、送信装置及びプログラム
JP2016165162A (ja) 2016-06-16 2016-09-08 株式会社ハーツクリエイション 動画配信システム
WO2018088061A1 (ja) 2016-11-08 2018-05-17 ソニー株式会社 画像転送装置、画像転送方法、プログラム、動画像生成システム
JP2018125621A (ja) 2017-01-30 2018-08-09 Kddi株式会社 データのセグメント受信を制御するクライアント、プログラム及び方法
WO2019054360A1 (ja) 2017-09-12 2019-03-21 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 画像表示方法、画像配信方法、画像表示装置及び画像配信装置

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003018583A (ja) 2001-07-05 2003-01-17 Sony Corp 多視点任意選択型映像視聴システム、ストリームデータ合成装置、及び、合成ストリームデータ配信サーバ
JP2009201033A (ja) 2008-02-25 2009-09-03 Canon Inc 表示制御装置、及び方法、プログラム
JP2011060161A (ja) 2009-09-14 2011-03-24 Cri Middleware Co Ltd アプリケーション紹介システム、アプリケーション紹介方法およびプログラム
US20140143725A1 (en) 2012-11-19 2014-05-22 Samsung Electronics Co., Ltd. Screen display method in mobile terminal and mobile terminal using the method
JP2016039612A (ja) 2014-08-11 2016-03-22 株式会社電通 コンテンツ配信システム、コンテンツ配信方法、送信装置及びプログラム
JP2016165162A (ja) 2016-06-16 2016-09-08 株式会社ハーツクリエイション 動画配信システム
WO2018088061A1 (ja) 2016-11-08 2018-05-17 ソニー株式会社 画像転送装置、画像転送方法、プログラム、動画像生成システム
JP2018125621A (ja) 2017-01-30 2018-08-09 Kddi株式会社 データのセグメント受信を制御するクライアント、プログラム及び方法
WO2019054360A1 (ja) 2017-09-12 2019-03-21 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 画像表示方法、画像配信方法、画像表示装置及び画像配信装置

Also Published As

Publication number Publication date
JP2023089627A (ja) 2023-06-28

Similar Documents

Publication Publication Date Title
US10514885B2 (en) Apparatus and method for controlling audio mixing in virtual reality environments
US20100306657A1 (en) Audio-Enhanced User Interface for Browsing
US20180221762A1 (en) Video generation system, control device, and processing device
US9723366B2 (en) System and method to provide supplemental content to a video player
WO2019197714A1 (en) Controlling audio in multi-viewpoint omnidirectional content
US20170188176A1 (en) Sound object control apparatus and method based on additional image object
JP6280215B2 (ja) ビデオ会議端末、セカンダリストリームデータアクセス方法およびコンピュータ記憶媒体
US20220167103A1 (en) Computer system for realizing customized being-there in assocation with audio and method thereof
US11558708B2 (en) Multi-viewpoint multi-user audio user experience
JP5339314B2 (ja) オーディオ−ビジュアル・サーチ・アンド・ブラウズ・インターフェース(avsbi)
WO2020133376A1 (zh) 多媒体信息的处理方法与装置、电子设备及计算机可读存储介质
JP2014075094A (ja) 表示装置、表示システム、携帯情報端末および表示装置の制御方法
US12050728B2 (en) Real-time immersive content providing system, and haptic effect transmission method thereof
JP2016039612A (ja) コンテンツ配信システム、コンテンツ配信方法、送信装置及びプログラム
JP7339999B2 (ja) 配信システム、配信サーバ、配信方法、通信端末、再生方法、及びプログラム
WO2020253452A1 (zh) 直播间状态消息的推送方法、交互内容的切换方法、装置及设备
CN113365010A (zh) 音量调节方法、装置、设备、存储介质
WO2024022473A1 (zh) 在直播间发送评论和接收评论的方法及相关设备
CN110191745A (zh) 利用空间音频的游戏流式传输
US9705953B2 (en) Local control of digital signal processing
JP6266827B1 (ja) 端末およびサーバ
CN101883228B (zh) 再现字幕的设备和方法
US10901681B1 (en) Visual audio control
US20230164399A1 (en) Method and system for live multicasting performances to devices
WO2022252916A1 (zh) 特效配置文件的生成方法、装置、设备及介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230307

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230420

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230623

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230808

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230825

R150 Certificate of patent or registration of utility model

Ref document number: 7339999

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150