JP7497529B2 - ダイナミックシーン更新を含む5gエッジサーバ/クラウド上でar/mr処理を実行することによって5gデバイスにar/mrアプリケーションを提供するための手順 - Google Patents

ダイナミックシーン更新を含む5gエッジサーバ/クラウド上でar/mr処理を実行することによって5gデバイスにar/mrアプリケーションを提供するための手順 Download PDF

Info

Publication number
JP7497529B2
JP7497529B2 JP2023527787A JP2023527787A JP7497529B2 JP 7497529 B2 JP7497529 B2 JP 7497529B2 JP 2023527787 A JP2023527787 A JP 2023527787A JP 2023527787 A JP2023527787 A JP 2023527787A JP 7497529 B2 JP7497529 B2 JP 7497529B2
Authority
JP
Japan
Prior art keywords
application
5gmsd
media
scene
media content
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023527787A
Other languages
English (en)
Other versions
JP2023549156A (ja
Inventor
イーラジ・ソダガー
Original Assignee
テンセント・アメリカ・エルエルシー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US17/726,067 external-priority patent/US20230050360A1/en
Application filed by テンセント・アメリカ・エルエルシー filed Critical テンセント・アメリカ・エルエルシー
Publication of JP2023549156A publication Critical patent/JP2023549156A/ja
Application granted granted Critical
Publication of JP7497529B2 publication Critical patent/JP7497529B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

関連出願の相互参照
本出願は、2021年8月12日に米国特許商標庁に出願された米国仮出願第63/232,540号、および2021年8月12日に米国特許商標庁に出願された米国仮出願第63/232,544号の優先権を主張し、これらの開示は、その全体が参照により本明細書に組み込まれる。
本開示は、一般に、第5世代(5G)拡張現実(AR)/複合現実(MR)に関し、特に、AR/MRアプリケーションを5Gデバイスに提供するための方法および装置に関する。
第3世代パートナーシッププロジェクト(3GPP(登録商標、以下同じ))TS26.501は、第5世代(5G)ネットワークのためのメディアストリーミングアーキテクチャを規定している。3GPPは、拡張現実(AR)/複合現実(MR)アプリケーションのサポートに関する技術報告を開始した。3GPP TR 26.998は、5Gネットワークにおけるグラス型AR/MRデバイスのサポートを規定している。複雑なAR/MRコンテンツ(すなわち、スタンドアロンAR(STAR))を完全に復号および再生することができるデバイスと、より小さい計算リソースおよび/またはより小さい物理サイズ(すなわち、より小さいバッテリ)を有し、計算の大部分がデバイス(エッジ依存AR(EDGAR)ではなく5Gエッジサーバ、ネットワーク、またはクラウドで実行される場合にのみそのようなアプリケーションを実行することができるデバイスとの2つのデバイスクラスが考慮される。
エッジサーバの選択は、メディアセッションハンドラによって実行されてもよい。しかしながら、選択は、AR/MRアプリケーションがストリーミングされる没入シーンのメディアコンポーネントのサブセットを決定する前に行われてもよい。したがって、必要な計算リソースは、現在考慮されていないAR/MRアプリケーションの選択によって影響を受ける可能性がある。さらに、AR/MRアプリケーションおよびメディアセッションハンドラは、現在考慮されていない第5世代メディアストリーミングダウンリンク(5GMSd)アプリケーション機能(AF)を介して、共同で、またはAR/MRアプリケーションプロバイダによって動作すべきである。さらに、AR/MRアプリケーションが、フルシーングラフを受信することなく、デバイスにストリーミングされるべきシーンのメディアコンポーネントをどのように選択するかは不明である。最後に、シーン更新は、現在のワークフローでは対処されない。
本開示の一態様によれば、方法は、拡張現実(AR)/複合現実(MR)アプリケーションを用いて、再生のためのメディアコンテンツを選択するステップと、AR/MRアプリケーションを用いて、選択されたメディアコンテンツの再生に適したエッジ能力を有する少なくとも1つの第5世代メディアストリーミングダウンリンク(5GMSd)アプリケーションサーバ(AS)を発見するステップと、AR/MRアプリケーションを用いて、選択されたメディアコンテンツの再生のための少なくとも1つの5GMSd ASを選択するステップと、AR/MRアプリケーションを用いて、選択された少なくとも1つの5GMSd ASによる選択されたメディアコンテンツの再生を要求するステップとを含み得る。
本開示の態様によれば、デバイスは、プログラムコードを記憶するように構成された少なくとも1つのメモリと、プログラムコードを読み取り、プログラムコードによって命令されるように動作するように構成された少なくとも1つのプロセッサとを含み得、プログラムコードは、少なくとも1つのプロセッサに、AR/MRアプリケーションを用いて、再生のためのメディアコンテンツを選択させるように構成された第1の選択コードと、少なくとも1つのプロセッサに、AR/MRアプリケーションを用いて、選択されたメディアコンテンツの再生に適したエッジ能力を有する少なくとも1つの5GMSd ASを発見させるように構成された第1の発見コードと、少なくとも1つのプロセッサに、AR/MRアプリケーションを用いて、選択されたメディアコンテンツの再生のために少なくとも1つの5GMSd ASを選択させるように構成された第2の選択コードと、少なくとも1つのプロセッサに、AR/MRアプリケーションを用いて、選択された少なくとも1つの5GMSd ASによる選択されたメディアコンテンツの再生を要求させるように構成された第1の要求コードとを含む。
本開示の一態様によれば、非一時的コンピュータ可読媒体は命令を記憶し得、命令は、デバイスの1つまたは複数のプロセッサによって実行されるとき、1つまたは複数のプロセッサに、AR/MRアプリケーションを用いて、再生のためのメディアコンテンツを選択させ、AR/MRアプリケーションを用いて、選択されたメディアコンテンツの再生に適したエッジ能力を有する少なくとも1つの5GMSd ASを発見させ、AR/MRアプリケーションを用いて、選択されたメディアコンテンツの再生のための少なくとも1つの5GMSd ASを選択させ、AR/MRアプリケーションを用いて、選択された少なくとも1つの5GMSd ASによる選択されたメディアコンテンツの再生を要求させる、1つまたは複数の命令を含む。
本開示の主題のさらなる特徴、性質、および様々な利点は、以下の詳細な説明、および添付の図面でより明らかになるであろう。
実施形態による、本明細書に記載された方法、装置、およびシステムが実装され得る環境を示す図である。 図1の1つまたは複数のデバイスの例示的な構成要素を示すブロック図である。 実施形態による、メディアアップリンクストリーミングのためのメディアアーキテクチャの図である。 実施形態による、メディアダウンリンクストリーミングのためのメディアアーキテクチャの図である。 実施形態による、エッジ依存拡張現実(AR)(EDGAR)第5世代メディアストリーミングダウンリンク(5GMSd)ダウンロードアーキテクチャの図である。 実施形態による、エッジ依存拡張現実(AR)(EDGAR)第5世代メディアストリーミングダウンリンク(5GMSd)ダウンロードアーキテクチャの図である。 実施形態による、EDGARベースの5Gダウンリンクストリーミングの動作フローの図である。 実施形態による、EDGARベースの5Gダウンリンクストリーミングの動作フローの図である。 実施形態による、EDGARベースの5Gダウンリンクストリーミングの動作フローの図である。 実施形態による、EDGARベースの5Gダウンリンクストリーミングの動作フローの図である。 実施形態による、EDGARベースの5Gダウンリンクストリーミングの動作フローの図である。 実施形態による、EDGARベースの5Gダウンリンクストリーミングの動作フローの図である。 実施形態による、シーン更新のためのEDGARベースの手順の動作フローの図である。 実施形態による、EDGARベースの5Gダウンリンクストリーミングのためのプロセスのフローチャートである。
図1は、実施形態による、本明細書に記載された方法、装置、およびシステムが実装され得る環境100の図である。図1に示されるように、環境100は、ユーザデバイス110と、プラットフォーム120と、ネットワーク130とを含み得る。環境100のデバイスは、有線接続、無線接続、または有線接続と無線接続の組み合わせを介して相互接続され得る。
ユーザデバイス110は、プラットフォーム120に関連付けられた情報を受信、生成、記憶、処理、および/または提供することが可能な1つまたは複数のデバイスを含む。例えば、ユーザデバイス110は、コンピューティングデバイス(例えば、デスクトップコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、ハンドヘルドコンピュータ、スマートスピーカ、サーバなど)、携帯電話(例えば、スマートフォン、無線電話など)、ウェアラブルデバイス(例えば、スマートグラスもしくはスマートウォッチ)、または同様のデバイスを含んでもよい。いくつかの実装形態では、ユーザデバイス110は、プラットフォーム120から情報を受信し、かつ/または情報をプラットフォームに送信してもよい。
プラットフォーム120は、本明細書の他の箇所に記載されるような1つまたは複数のデバイスを含む。いくつかの実装形態では、プラットフォーム120は、クラウドサーバまたはクラウドサーバ群を含んでもよい。いくつかの実装形態では、プラットフォーム120は、特定の必要性に応じてソフトウェア構成要素がスワップインまたはスワップアウトされ得るようにモジュール式に設計されてもよい。したがって、プラットフォーム120は、異なる用途のために容易にかつ/または迅速に再構成されてもよい。
いくつかの実装形態では、図示のように、プラットフォーム120は、クラウドコンピューティング環境122内でホストされてもよい。特に、本明細書に記載された実装形態はクラウドコンピューティング環境122内でホストされるものとしてプラットフォーム120を記載するが、いくつかの実装形態では、プラットフォーム120は、クラウドベースでなくてもよく(すなわち、クラウドコンピューティング環境の外部に実装されてもよい)、または部分的にクラウドベースであってもよい。
クラウドコンピューティング環境122は、プラットフォーム120をホストする環境を含む。クラウドコンピューティング環境122は、プラットフォーム120をホストする(1つまたは複数の)システムおよび/または(1つまたは複数の)デバイスの物理的位置および構成に関するエンドユーザ(例えば、ユーザデバイス110)の知識を必要としない、計算、ソフトウェア、データアクセス、ストレージなどのサービスを提供してもよい。図示のように、クラウドコンピューティング環境122は、コンピューティングリソース124のグループ(「コンピューティングリソース124」と総称され、個々に「コンピューティングリソース124」と呼ばれる)を含んでもよい。
コンピューティングリソース124は、1つまたは複数のパーソナルコンピュータ、ワークステーションコンピュータ、サーバデバイス、または他のタイプの計算デバイスおよび/もしくは通信デバイスを含む。いくつかの実装形態では、コンピューティングリソース124は、プラットフォーム120をホストしてもよい。クラウドリソースは、コンピューティングリソース124内で実行される計算インスタンス、コンピューティングリソース124内で提供されるストレージデバイス、コンピューティングリソース124によって提供されるデータ転送デバイスなどを含んでもよい。いくつかの実装形態では、コンピューティングリソース124は、有線接続、無線接続、または有線接続と無線接続との組み合わせを介して他のコンピューティングリソース124と通信してもよい。
図1にさらに示されるように、コンピューティングリソース124は、1つまたは複数のアプリケーション(APP)124-1、1つまたは複数の仮想マシン(VM)124-2、1つまたは複数の仮想化ストレージ(VS)124-3、あるいは1つまたは複数のハイパーバイザ(HYP)124-4などのクラウドリソースのグループを含む。
アプリケーション124-1は、ユーザデバイス110および/もしくはプラットフォーム120に提供され得る、またはユーザデバイス110および/もしくはプラットフォーム120によってアクセスされ得る1つまたは複数のソフトウェアアプリケーションを含む。アプリケーション124-1は、ユーザデバイス110にソフトウェアアプリケーションをインストールして実行する必要性を排除してもよい。例えば、アプリケーション124-1は、プラットフォーム120に関連付けられたソフトウェア、および/またはクラウドコンピューティング環境122を介して提供することができる他の任意のソフトウェアを含んでもよい。いくつかの実装形態では、1つのアプリケーション124-1は、仮想マシン124-2を介して、1つまたは複数の他のアプリケーション124-1との間で情報を送受信してもよい。
仮想マシン124-2は、物理マシンのようにプログラムを実行するマシン(例えば、コンピュータ)のソフトウェア実装形態を含む。仮想マシン124-2は、仮想マシン124-2による用途および任意の実マシンに対するその対応度に応じて、システム仮想マシンまたはプロセス仮想マシンのいずれかであってもよい。システム仮想マシンは、完全なオペレーティングシステム(OS)の実行をサポートする完全なシステムプラットフォームを提供してもよい。プロセス仮想マシンは、単一のプログラムを実行し、単一の処理をサポートしてもよい。いくつかの実装形態では、仮想マシン124-2は、ユーザ(例えば、ユーザデバイス110)の代わりに実行してもよく、データ管理、同期、または長時間のデータ転送など、クラウドコンピューティング環境122のインフラストラクチャを管理してもよい。
仮想化ストレージ124-3は、コンピューティングリソース124のストレージシステムまたはデバイス内で仮想化技術を使用する1つもしくは複数のストレージシステムおよび/または1つもしくは複数のデバイスを含む。いくつかの実装形態では、ストレージシステムのコンテキスト内で、仮想化のタイプは、ブロック仮想化およびファイル仮想化を含んでもよい。ブロック仮想化は、物理ストレージまたは異種構造に関係なくストレージシステムがアクセスされ得るように、物理ストレージからの論理ストレージの抽象化(または分離)を指し得る。分離は、ストレージシステムの管理者がエンドユーザのためにストレージを管理する方法における柔軟性を可能にし得る。ファイル仮想化は、ファイルレベルでアクセスされるデータとファイルが物理的に記憶されている場所との間の依存関係を排除し得る。これにより、ストレージ使用の最適化、サーバ統合、および/またはスムーズなファイル移行の実施が可能になり得る。
ハイパーバイザ124-4は、複数のオペレーティングシステム(例えば、「ゲストオペレーティングシステム」)をコンピューティングリソース124などのホストコンピュータ上で同時に実行することを可能にするハードウェア仮想化技術を提供し得る。ハイパーバイザ124-4は、仮想オペレーティングプラットフォームをゲストオペレーティングシステムに提示し得、ゲストオペレーティングシステムの実行を管理し得る。様々なオペレーティングシステムの複数のインスタンスは、仮想化ハードウェアリソースを共有し得る。
ネットワーク130は、1つまたは複数の有線および/または無線のネットワークを含む。例えば、ネットワーク130は、セルラーネットワーク(例えば、第5世代(5G)ネットワーク、ロングタームエボリューション(LTE)ネットワーク、第3世代(3G)ネットワーク、符号分割多元接続(CDMA)ネットワークなど)、公衆陸上移動網(PLMN)、ローカルエリアネットワーク(LAN)、ワイドエリアネットワーク(WAN)、メトロポリタンエリアネットワーク(MAN)、電話網(例えば、公衆交換電話網(PSTN))、プライベートネットワーク、アドホックネットワーク、イントラネット、インターネット、光ファイバベースのネットワークなど、および/またはこれらもしくは他のタイプのネットワークの組み合わせを含み得る。
図1に示すデバイスおよびネットワークの数および配置は、一例として提供されている。実際には、図1に示すものに比べて、追加のデバイスおよび/もしくはネットワーク、少ないデバイスおよび/もしくはネットワーク、異なるデバイスおよび/もしくはネットワーク、または異なる配置のデバイスおよび/もしくはネットワークがあってもよい。さらに、図1に示す2つ以上のデバイスは、単一のデバイス内に実装されてもよく、または図1に示す単一のデバイスは、複数の分散型デバイスとして実装されてもよい。追加的または代替的に、環境100のデバイスのセット(例えば、1つまたは複数のデバイス)は、環境100の別のデバイスのセットによって実行されるものとして記載された1つまたは複数の機能を実行してもよい。
図2は、図1の1つまたは複数のデバイスの例示的な構成要素のブロック図である。デバイス200は、ユーザデバイス110および/またはプラットフォーム120に対応し得る。図2に示すように、デバイス200は、バス210、プロセッサ220、メモリ230、記憶構成要素240、入力構成要素250、出力構成要素260、および通信インターフェース270を含み得る。
バス210は、デバイス200の構成要素間の通信を可能にする構成要素を含む。プロセッサ220は、ハードウェア、ファームウェア、またはハードウェアとソフトウェアとの組み合わせで実装される。プロセッサ220は、中央処理装置(CPU)、グラフィック処理装置(GPU)、加速処理装置(APU)、マイクロプロセッサ、マイクロコントローラ、デジタル信号プロセッサ(DSP)、フィールドプログラマブルゲートアレイ(FPGA)、特定用途向け集積回路(ASIC)、または別のタイプの処理構成要素である。いくつかの実装形態では、プロセッサ220は、機能を実行するようにプログラムされることが可能な1つまたは複数のプロセッサを含む。メモリ230は、ランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、および/またはプロセッサ220が使用する情報および/または命令を記憶する別のタイプの動的または静的ストレージデバイス(例えば、フラッシュメモリ、磁気メモリ、および/または光メモリ)を含む。
記憶構成要素240は、デバイス200の動作および使用に関連する情報および/またはソフトウェアを記憶する。例えば、記憶構成要素240は、対応するドライブと共に、ハードディスク(例えば、磁気ディスク、光ディスク、光磁気ディスク、および/またはソリッドステートディスク)、コンパクトディスク(CD)、デジタル多用途ディスク(DVD)、フロッピーディスク、カートリッジ、磁気テープ、および/または別のタイプの非一時的コンピュータ可読媒体を含んでもよい。
入力構成要素250は、デバイス200がユーザ入力などを介して情報を受け取ることを可能にする構成要素(例えば、タッチスクリーンディスプレイ、キーボード、キーパッド、マウス、ボタン、スイッチ、および/またはマイクロフォン)を含む。追加的または代替的に、入力構成要素250は、情報を感知するためのセンサ(例えば、全地球測位システム(GPS)構成要素、加速度計、ジャイロスコープ、および/またはアクチュエータ)を含んでもよい。出力構成要素260は、デバイス200からの出力情報を提供する構成要素(例えば、ディスプレイ、スピーカ、および/または1つまたは複数の発光ダイオード(LED))を含む。
通信インターフェース270は、デバイス200が有線接続、無線接続、または有線接続と無線接続との組み合わせなどを介して他のデバイスと通信することを可能にする、送受信機様の構成要素(例えば、送受信機ならびに/または別個の受信機および送信機)を含む。通信インターフェース270は、デバイス200が別のデバイスから情報を受信し、かつ/または別のデバイスに情報を提供することを可能にし得る。例えば、通信インターフェース270は、イーサネットインターフェース、光インターフェース、同軸インターフェース、赤外線インターフェース、無線周波数(RF)インターフェース、ユニバーサルシリアルバス(USB)インターフェース、Wi-Fiインターフェース、セルラーネットワークインターフェースなどを含んでもよい。
デバイス200は、本明細書に記載された1つまたは複数のプロセスを実行し得る。デバイス200は、プロセッサ220がメモリ230および/または記憶構成要素240などの非一時的コンピュータ可読媒体によって記憶されたソフトウェア命令を実行したことに応答して、これらのプロセスを実行し得る。コンピュータ可読媒体は、本明細書では非一時的メモリデバイスとして定義される。メモリデバイスは、単一の物理ストレージデバイス内のメモリ空間、または複数の物理ストレージデバイスにわたって広がるメモリ空間を含む。
ソフトウェア命令は、別のコンピュータ可読媒体から、または通信インターフェース270を介して別のデバイスからメモリ230および/または記憶構成要素240に読み込まれてもよい。メモリ230および/または記憶構成要素240に記憶されたソフトウェア命令は、実行されるとき、本明細書に記載された1つまたは複数のプロセスをプロセッサ220に実行させ得る。追加的または代替的に、本明細書に記載された1つまたは複数のプロセスを実行するために、ソフトウェア命令の代わりに、またはソフトウェア命令と組み合わせて、結線接続された回路が使用されてもよい。したがって、本明細書に記載された実装形態は、ハードウェア回路とソフトウェアのいかなる特定の組み合わせにも限定されない。
図2に示す構成要素の数および配置は、一例として提供されている。実際には、デバイス200は、図2に示された構成要素に比べて、追加の構成要素、少ない構成要素、異なる構成要素、または異なる配置の構成要素を含んでもよい。追加的または代替的に、デバイス200の構成要素のセット(例えば、1つまたは複数の構成要素)は、デバイス200の構成要素の別のセットによって実施されるものとして記載された1つまたは複数の機能を実行してもよい。
5Gメディアストリーミング(5GMS)システムは、ダウンリンクメディアストリーミングサービスまたはアップリンクメディアストリーミングサービス、またはその両方をサポートする5Gメディアストリーミングアーキテクチャからのアプリケーション機能、アプリケーションサーバ、およびインターフェースの集合体であってもよい。5GMSアプリケーションプロバイダは、5GMSシステムの機能と相互作用し、5GMSシステムの機能と相互作用する5GMS認識アプリケーションを供給する一団を含み得る。5GMS認識アプリケーションは、5GMSアプリケーションサービスのサービスロジックを含み、5GMSアーキテクチャで定義されたインターフェースおよびアプリケーションプログラミングインターフェース(API)を介して他の5GMSクライアントおよびネットワーク機能と相互作用する、5GMSアプリケーションプロバイダによって提供されるユーザ機器(UE)内のアプリケーションを指し得る。5GMSクライアントは、5GMSダウンリンク(5GMSd)クライアントまたは5GMSアップリンク(5GMSu)クライアント、またはその両方であるUE機能を指し得る。
5GMSdクライアントは、少なくとも5Gメディアストリーミングプレーヤおよびダウンリンクストリーミング用のメディアセッションハンドラを含み、明確に定義されたインターフェース/APIを介してアクセスされ得るUE機能を指し得る。5GMSuクライアントは、明確に定義されたインターフェース/APIを介してアクセスされ得る5GMSuサービスの発信元を指し得る。5GMSuメディアストリーマは、5GMSアプリケーションプロバイダのアプリケーションサーバ(AS)機能へのストリーミングメディアコンテンツのアップリンク配信を可能にし、メディアキャプチャおよび後続のストリーミングのための5GMSu認識アプリケーション、ならびにメディアセッション制御のためのメディアセッションハンドラの両方と相互作用するUE機能を指し得る。
動的ポリシーは、メディアセッション中のアップリンクまたはダウンリンクアプリケーションフローのための動的ポリシーおよび課金制御(PCC)規則を指し得る。イジェストセッションは、5GMS ASから5GMSuアプリケーションプロバイダに向かうアップリンクメディアストリーミングセッションを指し得る。インジェストセッションは、5GMSd ASにメディアコンテンツをアップロードするためのセッションを指し得る。ポリシーテンプレートは、5GMSアプリケーションプロバイダに固有の(準静的)ポリシーまたは制御機能(PCF)/ネットワーク公開機能(NEF)APIパラメータの集合、および結果として得られるPCC規則を指し得る。ポリシーテンプレートIDは所望のポリシーテンプレートを識別し得、これは、PCFが所望のPCC規則を編集できるように、5Gシステムに向けて適切なPCF/NEF APIを選択するために、5GMSdアプリケーション機能(AF)によって使用される。メディアプレーヤエントリは、メディアプレゼンテーション(例えば、DASHのためのメディアプレゼンテーション記述(MPD)またはビデオクリップファイルへのユニフォームリソースロケータ(URL))を定義する文書または文書を指し示すポインタを指し得る。メディアストリーマエントリは、アップリンクメディアストリーミングセッションのエントリポイントを定義するポインタ(例えば、URLの形式)を指し得る。プレゼンテーションエントリは、HTML5文書など、アプリケーションプレゼンテーションを定義する文書または文書を指し示すポインタを指し得る。
プロビジョニングセッションは、5GMSd認識アプリケーションのセットに関連する5GMSdの特徴を構成する5GMSdアプリケーションプロバイダによってインターフェース(M1d)において供給されるデータ構造を指し得る。5GMSdメディアプレーヤは、メディア再生エントリに基づくメディアプレゼンテーションの再生およびレンダリング、ならびに再生、一時停止、検索、停止などのいくつかの基本的な制御の5GMSd認識アプリケーションへの公開を可能にするUE機能を指し得る。サーバアクセス情報は、ストリーミングセッションの受け入れをアクティブにするために必要なパラメータおよびアドレスのセット(5GMSd AFアドレスおよび5GMSd ASアドレスを含む)を指し得る。サービスおよびコンテンツ発見は、エンドユーザが、利用可能なストリーミングサービスおよびコンテンツ提供物を発見し、アクセスのために特定のサービスまたはコンテンツアイテムを選択することを可能にする、5GMSdアプリケーションプロバイダによって5GMS認識アプリケーションに提供される機能および手順を指し得る。サービスアナウンスメントは、直接、またはその情報への参照の形のいずれかで、5GMS認識アプリケーションが5GMSサービスアクセス情報を取得することができるように、5GMS認識アプリケーションと5GMSアプリケーションプロバイダとの間で行われる手順を指し得る。
サードパーティプレーヤは、メディアコンテンツを再生するための選択された5GMSd機能を実行するためにAPIを使用するアプリケーションの一部を指し得る。サードパーティアップリンクストリーマは、メディアコンテンツをキャプチャおよびストリーミングするための選択された5GMSu機能を実行するためにAPIを使用するアプリケーションの一部を指し得る。
図3は、実施形態による、メディアアップリンクストリーミングのためのメディアアーキテクチャ300の図である。5GMSuアプリケーションプロバイダ301は、アップリンクストリーミングサービスのために5GMSuを使用し得る。5GMSuアプリケーションプロバイダ301は、5GMSuで定義されたインターフェースおよびAPIを使用して5GMSuクライアント304およびネットワーク機能を利用するために、UE303上に5GMSu認識アプリケーション302を提供し得る。5GMSu ASは、5Gメディアアップリンクストリーミング専用のASであってもよい。5GMSuクライアント304は、5Gメディアアップリンクストリーミング専用のUE303内部機能であってもよい。
5GMSu AF306および5GMSu AS305は、データネットワーク(DN)307の機能であってもよい。信頼できるDN内の機能は、事業者のネットワークによって信頼され得る。したがって、信頼できるDN内のAFは、すべての5Gコア機能と直接通信してもよい。外部DN内の機能は、リンク320を使用して、NEF308を介して5Gコア機能とのみ通信してもよい。
メディアアーキテクチャ300は、5GメディアアップリンクストリーミングのためのUE303内部機能および関連するネットワーク機能を接続し得る。したがって、メディアアーキテクチャ300は、いくつかの機能を含み得る。例えば、UE303上の5GMSuクライアント304は、インターフェース/APIを通じてアクセスされ得る5GMSuサービスの発信元であってもよい。5GMSuクライアント304は、2つのサブ機能、メディアセッションハンドラ309およびメディアストリーマ310を含み得る。メディアセッションハンドラ309は、メディアセッションの配信を確立、制御、およびサポートするために、5GMSu AF306と通信し得る。メディアセッションハンドラ309は、5GMSu認識アプリケーション302によって使用されることができるAPIを公開し得る。メディアストリーマ310は、メディアコンテンツをストリーミングし、メディアのキャプチャおよびストリーミングのために5GMSu認識アプリケーション302にサービスを提供し、メディアセッション制御のためにメディアセッションハンドラ309にサービスを提供するために、5GMSu AS305と通信し得る。5GMSu認識アプリケーション302は、外部アプリケーションまたはコンテンツサービスプロバイダ固有のロジックを実装し、メディアセッションの確立を可能にすることによって、5GMSuクライアント304を制御し得る。5GMSu AS305は5Gメディア機能をホストしてもよく、例えば、コンテンツ配信ネットワーク(CDN)として実装されてもよい。5GMSuアプリケーションプロバイダ301は、外部アプリケーションまたはコンテンツ固有のメディア機能であってもよく、例えば、メディアストレージ機能、メディア消費機能、5GMSuを使用して5GMSu認識アプリケーション302からのメディアをストリーミングするメディアトランスコードおよびメディア再配信機能であってもよい。5GMSu AF306は、UE303上のメディアセッションハンドラ309および/または5GMSuアプリケーションプロバイダ301に様々な制御機能を提供してもよい。5GMSu AF306は、PCF311の処理を求める要求を中継または開始してもよく、または他のネットワーク機能と相互作用してもよい。
メディアアーキテクチャ300は、いくつかの異なるインターフェースを含み得る。例えば、リンク321はM1uに関連していてもよく、M1uは、メディアアーキテクチャ300の使用をプロビジョニングしてフィードバックを取得するために、5GMSu AF306によって公開された5GMSuプロビジョニングAPIであってもよい。リンク322はM2uに関連していてもよく、M2uは、5GMSu AS305によって公開され、DN307などの信頼できるDN内の5GMSu AS305がストリーミングサービス用のコンテンツを受信するために選択されるときに使用される、5GMSuパブリッシュAPIであってもよい。リンク323はM3uに関連していてもよく、M3uは、DN307などの信頼できるDN内の5GMSu AS305上のコンテンツホスティングのための情報を交換するために使用される内部APIであってもよい。リンク324はM4uに関連していてもよく、M4uは、メディアコンテンツをストリーミングするために5GMSu AS323によってメディアストリーマ310に公開されるメディアアップリンクストリーミングAPIであってもよい。リンク325はM5uに関連していてもよく、M5uは、例えば、許可や認証などの適切なセキュリティメカニズムも含む、メディアセッションの処理、制御および支援のために5GMSu AF305によってメディアセッションハンドラに公開されるメディアセッションハンドリングAPIであってもよい。リンク326はM6uに関連していてもよく、M6uは、5GMSu機能を利用するためにメディアセッションハンドラ309によって5GMSu認識アプリケーション302に公開されたUE303メディアセッションハンドリングAPIであってもよい。リンク327はM7uに関連していてもよく、M7uは、メディアストリーマ310を利用するためにメディアストリーマ310によって5GMSu認識アプリケーション302およびメディアセッションハンドラ309に公開されたUEメディアストリーマAPIであってもよい。リンク328はM8uに関連していてもよく、M8uは、例えば5GMSu認識アプリケーション302にサービスアクセス情報を提供するために、5GMSu認識アプリケーション302と5GMSuアプリケーションプロバイダ301との間の情報交換に使用されるアプリケーションAPIであってもよい。UE303はまた、インターフェースM6u326およびM7u327が公開されないように、自己完結的に実装されてもよい。
図4は、実施形態による、メディアダウンリンクストリーミングのためのメディアアーキテクチャ400の図である。5GMSdアプリケーションプロバイダ401は、ダウンリンクストリーミングサービスのために5GMSdを使用してもよい。5GMSdアプリケーションプロバイダ401は、5GMSdで規定されたインターフェースおよびAPIを使用して、5GMSdクライアント404およびネットワーク機能を利用するために、UE403上で5GMSd認識アプリケーション402を提供し得る。5GMSd ASは、5Gメディアダウンリンクストリーミング専用のASであってもよい。5GMSdクライアント404は、5Gメディアダウンリンクストリーミング専用のUE403内部機能であってもよい。
5GMSd AF406および5GMSd AS405はDN407機能であってもよい。信頼できるDN内の機能は、事業者のネットワークによって信頼され得る。したがって、信頼できるDN内のAFは、すべての5Gコア機能と直接通信してもよい。外部DN内の機能は、リンク420を使用して、NEF408を介して5Gコア機能とのみ通信してもよい。
メディアアーキテクチャ400は、5GメディアダウンリンクストリーミングのためにUE403内部機能と関連ネットワーク機能を接続し得る。したがって、メディアアーキテクチャ400はいくつかの機能を含み得る。例えば、UE403上の5GMSdクライアント404は、インターフェース/APIを介してアクセスされ得る5GMSdサービスの受信先であってもよい。5GMSdクライアント404は、2つのサブ機能、メディアセッションハンドラ409およびメディアプレーヤ410を含み得る。メディアセッションハンドラ409は、メディアセッションの配信を確立、制御、およびサポートするために、5GMSd AF406と通信し得る。メディアセッションハンドラ409は、5GMSd認識アプリケーション402によって使用されることができるAPIを公開し得る。メディアプレーヤ410は、メディアコンテンツをストリーミングし、メディア再生用の5GMSd認識アプリケーション402にサービスを提供するために5GMSd AS405と通信し、メディアセッション制御のためにメディアセッションハンドラ409と通信し得る。5GMSd認識アプリケーション402は、外部アプリケーションまたはコンテンツサービスプロバイダ固有のロジックを実装し、メディアセッションの確立を可能にすることによって5GMSdクライアント404を制御し得る。5GMSd AS405は、5Gメディア機能をホストし得る。5GMSdアプリケーションプロバイダ401は、外部アプリケーション、または例えば、5GMSdを使用して5GMSd認識アプリケーション402に対してメディアをストリーミングする、メディア生成、符号化、およびフォーマッティングなどのコンテンツ固有のメディア機能であってもよい。5GMSd AF406は、UE403上のメディアセッションハンドラ409および/または5GMSdアプリケーションプロバイダ401に様々な制御機能を提供してもよい。5GMSd AF406は、異なるPCF411の処理を求める要求を中継または開始してもよく、または他のネットワーク機能と相互作用してもよい。
メディアアーキテクチャ400は、いくつかの異なるインターフェースを含み得る。例えば、リンク421はM1dに関連していてもよく、M1dは、メディアアーキテクチャ400の使用をプロビジョニングし、フィードバックを取得するために5GMSd AF406によって公開される5GMSdプロビジョニングAPIであってもよい。リンク422はM2dに関連していてもよく、M2dは5GMSd AS405によって公開され、DN407などの信頼できるDN内の5GMSd AS405が、ストリーミングサービス用のコンテンツを受信するために選択されるときに使用される5GMSdインジェストAPIであってもよい。リンク423はM3dに関連していてもよく、M3dは、DN407などの信頼できるDN内の5GMSd AS405上でコンテンツホスティングを行うための情報を交換するために使用される内部APIであってもよい。リンク424はM4dに関連していてもよく、M4dは、メディアコンテンツをストリーミングするために5GMSd AS423によってメディアプレーヤ410に公開されるメディアダウンリンクストリーミングAPIであってもよい。リンク425はM5dに関連していてもよく、M5dは、例えば、許可や認証などの適切なセキュリティメカニズムも含む、メディアセッションの処理、制御および支援のために5GMSd AF405によってメディアセッションハンドラに公開されるメディアセッションハンドリングAPIであってもよい。リンク426はM6dに関連していてもよく、M6dは、5GMSd機能を利用するためにメディアセッションハンドラ409によって5GMSd認識アプリケーション402に公開されるUE403のメディアセッションハンドリングAPIであってもよい。リンク427はM7dに関連していてもよく、M7dは、メディアプレーヤ410を利用するためにメディアプレーヤ410によって5GMSd認識アプリケーション402およびメディアセッションハンドラ409に公開されるUEのメディアプレーヤAPIであってもよい。リンク428はM8dに関連していてもよく、M8dは、例えば、5GMSd認識アプリケーション402にサービスアクセス情報を提供するために、5GMSd認識アプリケーション402と5GMSdアプリケーションプロバイダ401との間の情報交換に使用されるアプリケーションAPIであってもよい。
図5Aおよび図5Bは、実施形態による、エッジ依存拡張現実(AR)(EDGAR)5GMSdダウンロードアーキテクチャ500の図である。AR EDGAR 5GMSdアーキテクチャ500は、複合現実(MR)にも適用され得る。アーキテクチャ500は、5G EDGAR UE502、クラウド/エッジサーバ504、およびAR/MRアプリケーションプロバイダ506を含む。5G EDGAR UE502は、ARランタイム508、軽量シーンマネージャ510、5GMSクライアント512、および基本AR/MRアプリケーション514を含む。ARランタイム508は、ビジョンエンジン/同時位置特定およびマッピング(SLAM)516と、ポーズ補正モジュール518と、音場マッピングモジュール520とを含む。軽量シーンマネージャ510は基本シーングラフハンドラ(SGH)522と合成器524とを含む。5GMSクライアント512は、メディアセッションハンドラ(エッジセッションを含む)526と、メディアクライアント528とを含む。メディアクライアント528は、シーン記述配信モジュール530と、コンテンツ配信モジュール532と、基本コーデック534とを含む。5G EDGAR UE502は、クラウド/エッジサーバ504の5Gシステム(gNb)538と通信する5G軽量システム(Uu)536を含む。
クラウド/エッジサーバ504は、AR/MRアプリケーション540およびメディア配信機能542を含む。メディア配信機能542は、メディアAF544およびメディアAS546を含む。メディアAS546は、コンテンツ配信機能548、シーン記述機能(SDF)550、デコーダ552、およびエンコーダ554を含む。AR/MRアプリケーション540は、ARシーンマネージャ556、AR機能564、意味的知覚モジュール566、ソーシャル統合モジュール568、およびメディアアセットデータベース570を含む。ARシーンマネージャ556は、シーングラフ生成器558、没入型ビジュアルレンダラ560、および没入型オーディオレンダラ562を含む。
AR/MRアプリケーションプロバイダ506は、没入型メディアサーバ574を含む。没入型メディアサーバ574は、シーン記述モジュール576、マニフェストサーバ578、およびセグメントサーバ580を含む。
メディアクライアント528は、M4インターフェース582(例えば、ポーズおよびインタラクションを送信する)によってコンテンツ配信機能548に送信する。コンテンツ配信機能548は、M4インターフェース584(例えば、事前レンダリングされたメディアを送信する)によってメディアクライアント528に送信する。メディアセッションハンドラ526は、M5dインターフェース586によってメディアAF544と通信する。基本AR/MRアプリケーション514は、M8インターフェース588によってAR/MRアプリケーション540と通信する。基本AR/MRアプリケーション514は、ARランタイム508からユーザ入力591およびARデータ590を受信し得る。ARランタイム508は、カメラ592およびセンサ593からデータを受信し得、ディスプレイ594およびスピーカ595にデータを出力し得る。
実施形態によれば、UE502のSCH522は、AR/MRアプリケーション540によって提供されるフルシーングラフ(FSG)を解析することができる。SCH522は、メディアコンポーネントのリストおよびそれらの記述と共にシーン記述をAR/MRアプリケーション540に提供し得る。AR/MRアプリケーション540は、FSGからメディアコンポーネントのサブセット/リストを選択し、メディアコンポーネントのサブセットをSDF550に提供する。SDF550は、1または複数のメディアコンポーネントを結合し、FSG内のノートの数を減らすことによって、FSGから簡略化されたシーングラフ(SSG)を生成するように構成される。SDF550はまた、SSGで使用される対応するメディアコンポーネントを準備するために、エッジにメディアデコーダ552およびメディアエンコーダ554ならびにコンテンツ配信機能548を配置するように構成される。SSGは、UE502に配信されてもよい。UE502のSCH522は、SSGを解析し、UE502の合成器524に提供するように構成される。合成器524は、SSGなどの単純なシーングラフを合成するように構成される。UE502は、コンテンツ配信機能548から必要なメディアコンポーネントをストリーミングするように構成され、UE502は、簡略化されたシーンにおいてメディアコンポーネントを復号および合成するように構成される。
メディアセッション中に更新されるFSGに基づいて、実施形態によるシステムは2つの機能を含む。まず、更新を失うことなく更新されたFSGを更新されたSSGに変換するように構成されているSDF550に基づいて、SDF550は更新されたSSGを生成し、更新されたSSGをUE502に配信する。更新されたFSGがSSGの現在の特徴を超えていることに基づいて、AR/MRアプリケーション540は、FSG更新について通知され得る。次いで、AR/MRアプリケーション540は、FSGからメディアコンポーネントの新しいサブセットを選択するように構成される。新たなサブセットが以前の選択と同じであることに基づいて、シーン更新は必要とされない。新しいメディアコンポーネントまたは既存のメディアコンポーネントの修正を含む新しいサブセットに基づいて、AR/MRアプリケーション540は、SDF550に新しいサブセットを通知する。受信された新しいメディアサブセットに基づいて、SDF550は、更新されたFSGから新しいSSGを生成し、UE502に新しいSSGを提供するように構成される。SDF550はまた、更新されたSSGで使用される対応するメディアコンポーネントを準備するために、クラウド/エッジサーバ504上のメディアデコーダ552、メディアエンコーダ554、およびコンテンツ配信機能548を並べ替えるように構成される。UE502のSCH522は、更新されたSSGを解析するように構成され、対応するメディアコンポーネントをストリーミングし、メディアコンポーネントを合成し、合成物を再生するように構成される。
図6A、図6B、図6C、および図6Dは、実施形態による、EDGARベースの5Gダウンリンクストリーミングの動作フローの図である。図6の動作フローを実行するシステムは、EDGAR UE602の一部であり得る、基本AR/MRアプリケーション606、ARランタイム608、軽量シーンマネージャ610、メディアクライアント612、およびメディアセッションハンドラ614を含み得る(さらに、メディアクライアント612およびメディアセッションハンドラ614は、メディアアクセス機能の一部であってもよい)。システムはまた、5GMSd AF/EES616、5GMSd AS/エッジアプリケーションサーバ(EAS)618、およびAR/MRアプリケーション620を含み、これらはクラウド/エッジサーバ604の一部であってもよい。システムはまた、AR/MRアプリケーションプロバイダ622を含み得る。
動作630において、システムは、サービスアナウンスメントおよびコンテンツ発見を提供する。サービスアナウンスメントは、AR/MRアプリケーション606によってトリガされてもよい。サービスアクセス情報は、メディアプレーヤエントリまたはサービスアクセス情報への参照を含み得、M8dインターフェースを介して提供され得る。動作632において、システムは、所望のメディアコンテンツを選択する。動作634において、システムはメディア再生を開始する。AR/MRアプリケーション606は、メディア再生を開始するためにメディアセッションハンドラ614をトリガし得、メディアプレーヤエントリは、メディアクライアント612に提供され得る。動作636において、システムは、サービスアクセス情報取得を実行する。AR/MRアプリケーション606がサービスアクセス情報への参照のみを受信したとき、メディアセッションハンドラ614は、サービスアクセス情報全体を取得するために5GMSd AF616と相互作用する。動作638において、AR/MRアプリケーション606は、所望のエッジ能力を有する5GMSd ASを発見する。動作640において、システムは、利用可能な5GMSd AS/EASのリストを提供する。
動作642において、AR/MRアプリケーション606およびメディアセッションハンドラ614は、最も適切な5GMSd ASを選択する。動作644において、AR/MRアプリケーション606は、軽量シーンマネージャ610およびメディアクライアント612を介して、初期シーンパラメータを提供する。動作646において、5GMSd AS618は、SSGのための新たなエントリポイントを提供する。あるいは、AR/MRアプリケーションプロバイダ622は、動作642、644、および646が省略され得るように、AR/MRエッジアプリケーション620を実行するために5GMSdを選択またはインスタンス化してもよい。動作648において、AR/MRアプリケーション606は、SSGエントリポイントを再生するようにシーンマネージャ610に要求する。
動作650において、システムは、簡略化されたシーンエントリポイントをメディアクライアント612に提供する。動作652において、システムは、エントリポイントのためのトランスポートセッションを確立する。動作654において、システムは、5GMSd AS618からエントリポイントを要求する。動作656において、システムは要求を確認する。動作658において、システムは、エントリポイント658を処理する。動作660において、システムは、エントリポイント受信通知をメディアセッションハンドラ614に提供する。動作662において、システムは、要求されたストリーミングセッションのためのサービス品質(QoS)を構成する。動作664において、システムは、配信マニフェストのためのトランスポートセッションを確立する。動作666において、システムは、5GMSd AS618から配信マニフェストを要求する。動作668において、システムは、配信マニフェスト要求を確認する。
動作670において、システムは、配信マニフェストを処理する。動作671において、システムは、配信マニフェスト受信通知をメディアセッションハンドラ614に提供する。動作672において、システムはメディアパイプラインをキャプチャする。動作673において、システムは、コンテンツのためのトランスポートセッションを確立する。動作674において、システムは、トランスポートセッションの通知をメディアセッションハンドラ614に提供する。動作675において、システムは、5GMSd AS618の予めレンダリングされたメディアおよびポーズ情報を要求する。動作676において、システムは、二次元ビューをレンダリングする。動作677において、システムは、予めレンダリングされたメディアをメディアクライアント612に提供する。動作678において、システムは、メディアデータを復号して処理する。
動作680において、メディアクライアント612は、軽量シーンマネージャ610にメディアデータを提供する。動作682において、システムは、合成、ポーズ補正、およびメディアレンダリングを実行する。動作684において、AR/MRアプリケーションプロバイダ622は、5GMSd AS618にフルシーン更新を提供する。動作686において、システムは、簡略化されたシーン更新を提供する。
図7Aおよび図7Bは、実施形態による、EDGARベースの5Gダウンリンクストリーミングの動作フローの図である。図7の動作フローを実行するシステムは、EDGAR UE702の一部であり得る、基本AR/MRアプリケーション706、ARランタイム708、軽量シーンマネージャ710、メディアクライアント712、およびメディアセッションハンドラ714を含み得る(さらに、メディアクライアント712およびメディアセッションハンドラ714は、メディアアクセス機能の一部であってもよい)。システムはまた、5GMSd AF/EES716、5GMSd AS/EAS718、およびAR/MRアプリケーション720を含み、これらはクラウド/エッジサーバ704の一部であってもよい。システムはまた、AR/MRアプリケーションプロバイダ722を含み得る。
動作730において、システムは、サービスアナウンスメントおよびコンテンツ発見を提供する。サービスアナウンスメントは、AR/MRアプリケーション706によってトリガされてもよい。サービスアクセス情報は、メディアプレーヤエントリまたはサービスアクセス情報への参照を含み得、M8dインターフェースを介して提供され得る。動作732において、システムは、所望のメディアコンテンツを選択する。動作734において、システムはメディア再生を開始する。AR/MRアプリケーション706は、メディア再生を開始するためにメディアセッションハンドラ714をトリガし得、メディアプレーヤエントリは、メディアクライアント712に提供され得る。動作736において、システムは、サービスアクセス情報取得を実行する。AR/MRアプリケーション706がサービスアクセス情報への参照のみを受信したとき、メディアセッションハンドラ714は、サービスアクセス情報全体を取得するために5GMSd AF716と相互作用する。
動作738において、システムはFSGを要求する。メディアエントリポイントが与えられると、AR/MRアプリケーション706は、シーンマネージャ710を通じてフルシーン記述を要求し得る。動作740において、システムは初期シーンコンポーネントを選択する。すなわち、AR/MRアプリケーション706は、初期シーンコンポーネントを選択し、必要なエッジ能力を導出する。動作742において、AR/MRアプリケーション706は、所望のエッジ能力を有する5GMSd ASを発見する。動作742において、システムは、利用可能な5GMSd AS/EASのリストを提供する。動作744において、システムは、利用可能な5GMSd AS/EASのリストを提供する。動作746において、AR/MRアプリケーション706およびメディアセッションハンドラ714は、最も適切な5GMSd ASを選択する。動作748において、AR/MRアプリケーション706は、軽量シーンマネージャ710およびメディアクライアント712を介して、初期シーンパラメータを提供する。動作750において、5GMSd AS718は、SSGのための新たなエントリポイントを提供する。動作752において、AR/MRアプリケーション706は、SSGエントリポイントを再生するようにシーンマネージャ710に要求する。
図7Cは、実施形態による、シーン更新のためのEDGARベースの手順の動作フローの図である。動作760において、AR/MRアプリケーションプロバイダ722は、ストリーミング中にフルシーン更新を証明する。動作762において、5GMSd AS718は、簡略化されたシーン更新が可能であるかどうかをチェックする。簡略化されたシーン更新が可能であることに基づいて、動作764において、5GMSd AS718は、簡略化されたシーンを更新し、簡略化されたシーンをUE702のシーンマネージャ710に提供する。
簡略化されたシーン更新が不可能であることに基づいて、システムは動作766~772を実行する。動作766において、5GMD AS718は、AR/MRアプリケーション706にフルシーン更新を提供する。動作768において、AR/MRアプリケーション706は、初期シーンコンポーネントを選択する。動作770において、AR/MRアプリケーション706は、選択されたコンポーネントを5GMSd AS718に提供する。動作772において、5GMSd AS718は、更新された簡略化されたシーンを生成し、更新された簡略化されたシーンをUE702のシーンマネージャ710に提供する。
図8は、実施形態による、EDGARベースの5Gダウンリンクストリーミングのためのプロセスのフローチャートである。動作802において、システムは、AR/MRアプリケーションを用いて、再生のためのメディアコンテンツを選択する。動作804において、システムは、AR/MRアプリケーションを用いて、選択されたメディアコンテンツの再生に適したエッジ能力を有する少なくとも1つの5GMSd ASを発見する。動作806において、システムは、AR/MRアプリケーションを用いて、選択されたメディアコンテンツの再生のための少なくとも1つの5GMSd ASを選択する。動作808において、システムは、AR/MRアプリケーションを用いて、選択された少なくとも1つの5GMSd ASによる選択されたメディアコンテンツの再生を要求する。
図8はプロセス800の例示的なブロックを示すが、いくつかの実装形態では、プロセス800は、図8に示されるものに対して追加のブロック、より少ないブロック、異なるブロック、または異なる配置のブロックを含んでもよい。追加的または代替的に、プロセス800の2つ以上のブロックが並行して実行されてもよい。
したがって、実施形態によれば、AR/MRアプリケーションは、FSGを受信し、シーングラフのどのコンポーネントをストリーミングすべきかを決定する(すなわち、AR/MRアプリケーションはSSGだけ提供されているわけではない)。エッジリソースは、FSGおよびそのメディアコンポーネントをSSGおよびそのメディアコンポーネントに変換する処理ニーズに基づいて要求される。FSG上の更新は、更新の拡張性に応じて処理され得る。SSGへの更新で更新を実施できる場合、更新はエッジ/クラウドサーバで行われる。そうでなければ、FSG更新がAR/MRアプリケーションに提供され、AR/MRアプリケーションは更新されたFSGから選択を行ってもよい。したがって、更新されたSSGは、AR/MRアプリケーション選択に従って生成される。
さらに、提案された本方法は、処理回路(例えば、1つまたは複数のプロセッサまたは1つまたは複数の集積回路)によって実施されてもよい。一例では、1つまたは複数のプロセッサは、非一時的コンピュータ可読媒体に記憶されているプログラムを実行して、提案された本方法の1つまたは複数を実行する。
上述した技術は、1つまたは複数のコンピュータ可読媒体に物理的に記憶された、コンピュータ可読命令を使用するコンピュータソフトウェアとして実装されることができる。
本開示の実施形態は、別々に使用されてもよいし、または任意の順序で組み合わされてもよい。さらに、実施形態(およびその方法)の各々は、処理回路(例えば、1つまたは複数のプロセッサまたは1つまたは複数の集積回路)によって実施されてもよい。一例では、1つまたは複数のプロセッサは、非一時的コンピュータ可読媒体に記憶されたプログラムを実行する。
前述の開示は例示および説明を提供しているが、網羅的なものではなく、開示されたまさにその形態に実装形態を限定するものではない。上記の開示内容に照らして修正形態および変形形態が実現可能であり、または実装形態の実施により取得されてもよい。
本明細書で使用される場合、構成要素という用語は、ハードウェア、ファームウェア、またはハードウェアとソフトウェアとの組み合わせとして広く解釈されることを意図している。
特徴の組み合わせが特許請求の範囲に記載され、かつ/または本明細書に開示されているが、これらの組み合わせは、可能な実装形態の開示を限定することを意図されていない。実際、これらの特徴の多くは、特許請求の範囲に特に列挙されておらず、かつ/または本明細書に開示されていない方法で組み合わされてもよい。以下に列挙されている各従属請求項は1つの請求項のみに直接従属し得るが、可能な実装形態の開示は、請求項セット内の他のすべての請求項との組み合わせにおいて各従属請求項を含む。
本明細書で使用される要素、動作、または命令は、決定的または必須なものとして明示的に説明されているのでない限り、そのようなものとして解釈されるべきではない。また、本明細書で使用される場合、冠詞「a」および「an」は、1つまたは複数の項目を含むことを意図されており、「1つまたは複数」と交換可能に使用されてもよい。さらに、本明細書で使用される「セット」という用語は、1つまたは複数の項目(例えば、関連項目、非関連項目、関連項目と非関連項目の組み合わせなど)を含むものであり、「1つまたは複数」と同じ意味で使用されてもよい。1つの項目のみが対象とされる場合、「1つ」という用語または同様の言葉が使用される。また、本明細書で使用される「有する(has)」、「有する(have)」、「有する(having)」などの用語は、オープンエンド用語であることが意図されている。さらに、「に基づいて」という語句は、特に明記されない限り、「に少なくとも部分的に基づいて」を意味することが意図されている。
100 環境
110 ユーザデバイス
120 プラットフォーム
122 クラウドコンピューティング環境
124 コンピューティングリソース
124-1 アプリケーション
124-2 仮想マシン
124-3 仮想化ストレージ
124-4 ハイパーバイザ
130 ネットワーク
200 デバイス
210 バス
220 プロセッサ
230 メモリ
240 記憶構成要素
250 入力構成要素
260 出力構成要素
270 通信インターフェース
300 メディアアーキテクチャ
301 5GMSuアプリケーションプロバイダ
302 5GMSu認識アプリケーション
303 UE
304 5GMSuクライアント
305 5GMSu AS
306 5GMSu AF
307 データネットワーク(DN)
308 NEF
309 メディアセッションハンドラ
310 メディアストリーマ
311 PCF
320 リンク
321 リンク
322 リンク
323 リンク
324 リンク
325 リンク
326 リンク
327 リンク
328 リンク
400 メディアアーキテクチャ
401 5GMSdアプリケーションプロバイダ
402 5GMSd認識アプリケーション
403 UE
404 5GMSdクライアント
405 5GMSd AS
406 5GMSd AF
407 DN
408 NEF
409 メディアセッションハンドラ
410 メディアプレーヤ
411 PCF
420 リンク
421 リンク
422 リンク
423 リンク
424 リンク
425 リンク
426 リンク
427 リンク
428 リンク
500 5GMSdダウンロードアーキテクチャ
502 5G EDGAR UE
504 クラウド/エッジサーバ
506 AR/MRアプリケーションプロバイダ
508 ARランタイム
510 軽量シーンマネージャ
512 5GMSクライアント
514 基本AR/MRアプリケーション
516 ビジョンエンジン/同時位置特定およびマッピング(SLAM)
518 ポーズ補正モジュール
520 音場マッピングモジュール
522 基本シーングラフハンドラ(SGH)
524 合成器
526 メディアセッションハンドラ
528 メディアクライアント
530 シーン記述配信モジュール
532 コンテンツ配信モジュール
534 基本コーデック
536 5G軽量システム(Uu)
538 5Gシステム(gNb)
540 AR/MRアプリケーション
542 メディア配信機能
544 メディアAF
546 メディアAS
548 コンテンツ配信機能
550 シーン記述機能(SDF)
552 メディアデコーダ
554 メディアエンコーダ
556 ARシーンマネージャ
558 シーングラフ生成器
560 没入型ビジュアルレンダラ
562 没入型オーディオレンダラ
564 AR機能
566 意味的知覚モジュール
568 ソーシャル統合モジュール
570 メディアアセットデータベース
574 没入型メディアサーバ
576 シーン記述モジュール
578 マニフェストサーバ
580 セグメントサーバ
582 M4インターフェース
584 M4インターフェース
586 M5dインターフェース
588 M8インターフェース
590 ARデータ
591 ユーザ入力
592 カメラ
593 センサ
594 ディスプレイ
595 スピーカ
604 クラウド/エッジサーバ
606 基本AR/MRアプリケーション
608 ARランタイム
610 軽量シーンマネージャ
612 メディアクライアント
614 メディアセッションハンドラ
616 5GMSd AF/EES
618 5GMSd AS/エッジアプリケーションサーバ(EAS)
620 AR/MRアプリケーション
622 AR/MRアプリケーションプロバイダ
704 クラウド/エッジサーバ
706 基本AR/MRアプリケーション
708 ARランタイム
710 軽量シーンマネージャ
712 メディアクライアント
714 メディアセッションハンドラ
716 5GMSd AF/EES
718 5GMSd AS/EAS
720 AR/MRアプリケーション
722 AR/MRアプリケーションプロバイダ
800 プロセス

Claims (15)

  1. 拡張現実(AR)/複合現実(MR)アプリケーションを用いて、再生のためのメディアコンテンツを選択するステップと、
    前記AR/MRアプリケーションを用いて、前記選択されたメディアコンテンツの再生に適したエッジ能力を有する少なくとも1つの第5世代メディアストリーミングダウンリンク(5GMSd)アプリケーションサーバ(AS)を発見するステップと、
    前記AR/MRアプリケーションを用いて、前記選択されたメディアコンテンツの再生のための前記少なくとも1つの5GMSd ASを選択するステップと、
    前記AR/MRアプリケーションを用いて、前記選択された少なくとも1つの5GMSd ASによる前記選択されたメディアコンテンツの再生を要求するステップと
    を含む、方法。
  2. 前記AR/MRアプリケーションを用いて、前記選択されたメディアコンテンツのフルシーングラフを要求するステップをさらに含む、請求項1に記載の方法。
  3. 前記AR/MRアプリケーションを用いて、前記フルシーングラフに基づいて初期シーンコンポーネントを選択するステップをさらに含む、請求項2に記載の方法。
  4. 前記選択された少なくとも1つの5GMSd ASを用いて、AR/MRアプリケーションプロバイダからフルシーン更新を受信するステップをさらに含む、請求項1に記載の方法。
  5. 前記選択された少なくとも1つの5GMSd ASを用いて、前記選択されたメディアコンテンツの簡略化されたシーンが更新可能であるかどうかを判定するステップをさらに含む、請求項4に記載の方法。
  6. 前記選択されたメディアコンテンツの前記簡略化されたシーンが更新可能であるという判定に基づいて、前記選択された少なくとも1つの5GMSd ASを用いて、前記フルシーン更新に基づいて簡略化されたシーン更新を提供するステップをさらに含む、請求項5に記載の方法。
  7. 前記選択されたメディアコンテンツの前記簡略化されたシーンが更新可能でないという判定に基づいて、
    前記選択された少なくとも1つの5GMSd ASを用いて、前記AR/MRアプリケーションに前記フルシーン更新を提供するステップと、
    前記AR/MRアプリケーションを用いて、初期シーンコンポーネントを選択するステップと、
    前記選択された少なくとも1つの5GMSd ASを用いて、前記選択された初期シーンコンポーネントを前記選択された少なくとも1つの5GMSd ASに提供するステップと、
    前記選択された少なくとも1つの5GMSd ASを用いて、更新された簡略化されたシーングラフをシーンマネージャに返すステップと
    をさらに含む、請求項5に記載の方法。
  8. プログラムコードを記憶するように構成された少なくとも1つのメモリと、
    前記プログラムコードを読み取り、前記プログラムコードによって命令されるように動作するように構成された少なくとも1つのプロセッサとを備え、前記プログラムコードは、
    前記少なくとも1つのプロセッサに、拡張現実(AR)/複合現実(MR)アプリケーションを用いて、再生のためのメディアコンテンツを選択させるように構成された第1の選択コードと、
    前記少なくとも1つのプロセッサに、前記AR/MRアプリケーションを用いて、前記選択されたメディアコンテンツの再生に適したエッジ能力を有する少なくとも1つの第5世代メディアストリーミングダウンリンク(5GMSd)アプリケーションサーバ(AS)を発見させるように構成された第1の発見コードと、
    前記少なくとも1つのプロセッサに、前記AR/MRアプリケーションを用いて、前記選択されたメディアコンテンツの再生のために前記少なくとも1つの5GMSd ASを選択させるように構成された第2の選択コードと、
    前記少なくとも1つのプロセッサに、前記AR/MRアプリケーションを用いて、前記選択された少なくとも1つの5GMSd ASによる前記選択されたメディアコンテンツの再生を要求させるように構成された第1の要求コードとを含む、デバイス。
  9. 前記プログラムコードが、前記少なくとも1つのプロセッサに、前記AR/MRアプリケーションを用いて、前記選択されたメディアコンテンツのフルシーングラフを要求させるように構成された第2の要求コードをさらに含む、請求項8に記載のデバイス。
  10. 前記プログラムコードが、前記少なくとも1つのプロセッサに、前記AR/MRアプリケーションを用いて、前記フルシーングラフに基づいて初期シーンコンポーネントを選択させるように構成された第3の選択コードをさらに含む、請求項9に記載のデバイス。
  11. 前記プログラムコードが、前記少なくとも1つのプロセッサに、前記選択された少なくとも1つの5GMSd ASを用いて、AR/MRアプリケーションプロバイダからフルシーン更新を受信させるように構成された第1の受信コードをさらに含む、請求項8に記載のデバイス。
  12. 前記プログラムコードが、前記少なくとも1つのプロセッサに、前記選択された少なくとも1つの5GMSd ASを用いて、前記選択されたメディアコンテンツの簡略化されたシーンが更新可能であるかどうかを判定させるように構成された第1の判定コードをさらに含む、請求項11に記載のデバイス。
  13. 前記プログラムコードが、前記少なくとも1つのプロセッサに、前記選択されたメディアコンテンツの前記簡略化されたシーンが更新可能であるとの判定に基づいて、前記選択された少なくとも1つの5GMSd ASを用いて、前記フルシーン更新に基づく簡略化されたシーン更新を提供させるように構成された第1の提供コードをさらに含む、請求項12に記載のデバイス。
  14. 前記選択されたメディアコンテンツの前記簡略化されたシーンが更新可能でないとの判定に基づいて、前記プログラムコードは、
    前記少なくとも1つのプロセッサに、前記選択された少なくとも1つの5GMSd ASを用いて、前記フルシーン更新を前記AR/MRアプリケーションに提供させるように構成された第2の提供コードと、
    前記少なくとも1つのプロセッサに、前記AR/MRアプリケーションを用いて、初期シーンコンポーネントを選択させるように構成された第4の選択コードと、
    前記少なくとも1つのプロセッサに、前記選択された少なくとも1つの5GMSd ASを用いて、前記選択された初期シーンコンポーネントを前記選択された少なくとも1つの5GMSd ASに提供させるように構成された第3の提供コードと、
    前記少なくとも1つのプロセッサに、前記選択された少なくとも1つの5GMSd ASを用いて、更新された簡略化されたシーングラフをシーンマネージャに返させるように構成された第1の返信コードと
    をさらに含む、請求項12に記載のデバイス。
  15. 1つまたは複数のプロセッサに請求項1から7のいずれか一項に記載の方法を実行させるためのプログラム。
JP2023527787A 2021-08-12 2022-05-03 ダイナミックシーン更新を含む5gエッジサーバ/クラウド上でar/mr処理を実行することによって5gデバイスにar/mrアプリケーションを提供するための手順 Active JP7497529B2 (ja)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US202163232544P 2021-08-12 2021-08-12
US202163232540P 2021-08-12 2021-08-12
US63/232,544 2021-08-12
US63/232,540 2021-08-12
US17/726,067 2022-04-21
US17/726,067 US20230050360A1 (en) 2021-08-12 2022-04-21 Procedures for providing ar/mr applications to 5g devices by running ar/mr processing on 5g edge servers/cloud including dynamic scene updates
PCT/US2022/027428 WO2023018451A1 (en) 2021-08-12 2022-05-03 Procedures for providing ar/mr applications to 5g devices by running ar/mr processing on 5g edge servers/cloud including dynamic scene updates

Publications (2)

Publication Number Publication Date
JP2023549156A JP2023549156A (ja) 2023-11-22
JP7497529B2 true JP7497529B2 (ja) 2024-06-10

Family

ID=

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014531632A (ja) 2011-08-27 2014-11-27 ゼット ティー イー コーポレイションZte Corporation 拡張現実ユーザコンテキストへのアクセス方法
JP2015511455A (ja) 2012-02-07 2015-04-16 ▲華▼▲為▼▲終▼端有限公司 メディア再生処理と制御の方法、装置、およびシステム
US20190385376A1 (en) 2019-08-12 2019-12-19 Lg Electronics Inc. Xr device for providing ar mode and vr mode and method for controlling the same
US20200326831A1 (en) 2019-04-12 2020-10-15 John William Marr Augmented reality experience creation via tapping virtual surfaces in augmented reality
KR102193806B1 (ko) 2020-03-27 2020-12-22 연진선 Ar 콘텐츠의 실시간 분산 송출시스템

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014531632A (ja) 2011-08-27 2014-11-27 ゼット ティー イー コーポレイションZte Corporation 拡張現実ユーザコンテキストへのアクセス方法
JP2015511455A (ja) 2012-02-07 2015-04-16 ▲華▼▲為▼▲終▼端有限公司 メディア再生処理と制御の方法、装置、およびシステム
US20200326831A1 (en) 2019-04-12 2020-10-15 John William Marr Augmented reality experience creation via tapping virtual surfaces in augmented reality
US20190385376A1 (en) 2019-08-12 2019-12-19 Lg Electronics Inc. Xr device for providing ar mode and vr mode and method for controlling the same
KR102193806B1 (ko) 2020-03-27 2020-12-22 연진선 Ar 콘텐츠의 실시간 분산 송출시스템

Similar Documents

Publication Publication Date Title
US20230050360A1 (en) Procedures for providing ar/mr applications to 5g devices by running ar/mr processing on 5g edge servers/cloud including dynamic scene updates
JP2024059926A (ja) 5gのflus制御を介したnbmp展開のための方法
WO2022240921A1 (en) Method for using 5g edge application servers for live streaming of user-generated content
US20230138606A1 (en) Method and apparatus for delivering 5g ar/mr cognitive experience to 5g devices
CN113542208A (zh) 用于媒体处理和流式传输的方法、装置和介质
US20230139635A1 (en) Method for streaming dynamic 5g ar/mr experience to 5g devices with updatable scenes
US11889506B2 (en) Method and apparatus for configuring 5G application servers in connected uplink-to-downlink streaming
JP2023548326A (ja) 5gネットワークにおけるアップリンクストリーミングの貢献報告の方法および装置
JP7497529B2 (ja) ダイナミックシーン更新を含む5gエッジサーバ/クラウド上でar/mr処理を実行することによって5gデバイスにar/mrアプリケーションを提供するための手順
KR102650294B1 (ko) 5g 업링크 스트리밍에서 에제스트 구성 및 프로토콜들을 정의하기 위한 방법 및 장치
US11799937B2 (en) CMAF content preparation template using NBMP workflow description document format in 5G networks
US11601491B2 (en) Network-based media processing (NBMP) workflow management direct access in 5G framework for live uplink streaming (FLUS)
WO2023149957A1 (en) Event-driven provisioning of new edge servers in 5g media streaming architecture
WO2024102271A1 (en) Method and apparatus for egesting uplink streaming from 5g networks
EP4111672A1 (en) A method for discovery of media service entry for uplink and downlink streaming in 5g networks