JP7410966B2 - マルチメディアデータ処理方法、装置、電子機器及びコンピュータプログラム - Google Patents

マルチメディアデータ処理方法、装置、電子機器及びコンピュータプログラム Download PDF

Info

Publication number
JP7410966B2
JP7410966B2 JP2021555311A JP2021555311A JP7410966B2 JP 7410966 B2 JP7410966 B2 JP 7410966B2 JP 2021555311 A JP2021555311 A JP 2021555311A JP 2021555311 A JP2021555311 A JP 2021555311A JP 7410966 B2 JP7410966 B2 JP 7410966B2
Authority
JP
Japan
Prior art keywords
multimedia data
edge computing
computing node
session
data processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021555311A
Other languages
English (en)
Other versions
JP2022538953A (ja
Inventor
ヤン,ヨン
ジャン,ユンフェイ
ファン,ホアホン
Original Assignee
テンセント・テクノロジー・(シェンジェン)・カンパニー・リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by テンセント・テクノロジー・(シェンジェン)・カンパニー・リミテッド filed Critical テンセント・テクノロジー・(シェンジェン)・カンパニー・リミテッド
Publication of JP2022538953A publication Critical patent/JP2022538953A/ja
Application granted granted Critical
Publication of JP7410966B2 publication Critical patent/JP7410966B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/222Secondary servers, e.g. proxy server, cable television Head-end
    • H04N21/2225Local VOD servers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/1066Session management
    • H04L65/1069Session establishment or de-establishment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/1066Session management
    • H04L65/1101Session protocols
    • H04L65/1104Session initiation protocol [SIP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/65Network streaming protocols, e.g. real-time transport protocol [RTP] or real-time control protocol [RTCP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/75Media network packet handling
    • H04L65/764Media network packet handling at the destination 
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/75Media network packet handling
    • H04L65/765Media network packet handling intermediate
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/80Responding to QoS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47202End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting content on demand, e.g. video on demand
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/478Supplemental services, e.g. displaying phone caller identification, shopping application
    • H04N21/4788Supplemental services, e.g. displaying phone caller identification, shopping application communicating with other users, e.g. chatting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer And Data Communications (AREA)

Description

(関連出願の参照) 本出願は、2019年06月28日に中国専利局に提出した、出願番号が201910578317.6であって、発明の名称が「マルチメディアデータ処理方法、装置、記憶媒体及び電子機器」である中国特許出願の優先権を主張し、本願で、その全ての内容を援用するものとする。
(技術分野)
本出願は、通信技術分野に関し、具体的には、マルチメディアデータ処理技術に関する。
エッジコンピューティングは、分散コンピューティングアーキテクチャである。このアーキテクチャにより、アプリケーションプログラム処理、データ分析などの演算を、リモートノードで完全に処理される大規模なサービスから、より小さく管理しやすい部分に分解し、エッジコンピューティングノードに分散して処理できる。エッジコンピューティングノードは、ユーザー端末デバイスにより近いため、データ処理と伝送速度を高速化し、遅延を減らすことができる。
関連技術では、一般的に、高品質で低遅延のサービスを実現するために、ビジネスサーバをエッジコンピューティングノードに配置する。しかしながら、従来のエッジコンピューティングに基づくマルチメディアデータ処理方法は、一般的に、配置が複雑で、システムの使用及びメンテナンスの効率が低いなどの問題が存在する。従って、新しいマルチメディアデータ処理方法を提供する必要がある。
なお、上記の背景技術に開示された情報は、本出願の背景の理解を強化するためのものであり、当業者に既知の先行技術でない情報を含む場合がある。
本出願の実施例は、マルチメディアデータ処理方法、マルチメディアデータ処理装置、電子機器及びコンピュータ読み取り可能記憶媒体を提供し、エッジコンピューティングシステムの配置の複雑さを軽減し、システムの使用及びメンテナンスの効率を向上させることができる。
本出願の第1の態様によれば、サーバによって実行されるマルチメディアデータ処理方法が提供され、マルチメディアデータ処理方法は、
リモートノードに配置されたシグナリング処理モジュールによって、端末デバイスとメディア処理モジュールとの間のセッションを確立し、セッションを制御するステップと、
メディア処理モジュールが端末デバイスとセッションを確立した後、エッジコンピューティングノードに配置されたメディア処理モジュールによって、端末デバイスにより送信されるマルチメディアデータを受信し、マルチメディアデータを処理するステップと、を含む。
本出願の例示的な実施例では、端末デバイスとメディア処理モジュールとの間のセッションを確立するステップは、
端末デバイスにデータ受信アドレス情報を含むコール要求を送信するステップと、
コール要求に対する端末デバイスの応答情報を受信するステップであって、応答情報は、データ送信アドレス情報を含むステップと、
メディア処理モジュールにデータ送信アドレス情報を送信し、データ受信アドレスに従ってマルチメディアデータを受信するようにメディア処理モジュールに通知するステップと、
端末デバイスにセッション確立完了情報を送信するステップと、を含む。
本出願の例示的な実施例では、マルチメディアデータ処理方法は、
エッジコンピューティングノードに配置されたユーザープレーン機能エンティティで転送戦略を事前配置するステップをさらに含み、転送戦略は、受信ポートがプリセット範囲にあるマルチメディアデータをメディア処理モジュールに転送することを含み、
データ受信アドレス情報は、プリセット範囲内のターゲット受信ポートを含む。
本出願の例示的な実施例では、データ受信アドレス情報は、ターゲット受信ポートを含み、メディア処理モジュールにデータ送信アドレス情報を送信する前に、
エッジコンピューティングノードに配置されたユーザープレーン機能エンティティで転送戦略を配置するステップをさらに含み、転送戦略は、受信ポートがターゲット受信ポートであるマルチメディアデータをメディア処理モジュールに転送することを含む。
本出願の例示的な実施例では、マルチメディアデータ処理方法は、
セッションの終了後に、転送戦略を削除するステップをさらに含む。
本出願の例示的な実施例では、マルチメディアデータ処理方法は、
ユーザープレーン機能エンティティにより、転送戦略に応じて、端末デバイスにより送信されるマルチメディアデータをメディア処理モジュールに転送することをさらに含む。
本出願の例示的な実施例では、セッションを制御するステップは、セッションの維持とセッションの終了を含む。
本出願の例示的な実施例では、マルチメディアデータを処理するステップは、
マルチメディアデータを復号化して、復号化データを取得するステップと、
復号化データを計算分析し、構造化マルチメディアデータに変換するステップと、を含む。
本出願の例示的な実施例では、マルチメディアデータを処理した後、
構造化マルチメディアデータをリモートノードに送信するステップをさらに含む。
本出願の第2の態様によれば、マルチメディアデータ処理装置が提供され、マルチメディアデータ処理装置は、

リモートノードに配置され、端末デバイスとメディア処理モジュールとの間のセッションを確立し、セッションを制御するための、シグナリング処理モジュールと、
エッジコンピューティングノードに配置され、端末デバイスとの間にセッションを確立した後、端末デバイスにより送信されるマルチメディアデータを受信し、マルチメディアデータを処理するための、メディア処理モジュールと、を含む。
本出願の例示的な実施例では、マルチメディアデータ処理装置は、複数のシグナリング処理モジュール、及び複数のメディア処理モジュールを含み、シグナリング処理モジュールの数は、メディア処理モジュールの数より少ない。
本出願の例示的な実施例では、マルチメディアデータ処理装置は、1つのシグナリング処理モジュール、及び複数のメディア処理モジュールを含む。
本出願の例示的な実施例では、リモートノードは、ローカルネットワークコンピューティングプラットフォーム及び/又はインターネットコンピューティングプラットフォームを含む。
本出願の例示的な実施例では、シグナリング処理モジュールは、次のステップ、すなわち、
端末デバイスにデータ受信アドレス情報を含むコール要求を送信するステップと、
コール要求に対する端末デバイスの応答情報を受信するステップであって、応答情報は、データ送信アドレス情報を含むステップと、
メディア処理モジュールにデータ送信アドレス情報を送信し、データ受信アドレスに従ってマルチメディアデータを受信するようにメディア処理モジュールに通知するステップと、
端末デバイスにセッション確立完了情報を送信するステップと
で端末デバイスとメディア処理モジュールとの間のセッションを確立する。
本出願の例示的な実施例では、シグナリング処理モジュールは、さらに、
エッジコンピューティングノードに配置されたユーザープレーン機能エンティティで転送戦略を事前配置し、転送戦略は、受信ポートがプリセット範囲にあるマルチメディアデータをメディア処理モジュールに転送することを含み、データ受信アドレス情報は、プリセット範囲内のターゲット受信ポートを含む。
本出願の例示的な実施例では、データ受信アドレス情報は、ターゲット受信ポートを含み、
シグナリング処理モジュールは、メディア処理モジュールにデータ送信アドレス情報を送信する前に、
エッジコンピューティングノードに配置されたユーザープレーン機能エンティティで転送戦略を配置し、転送戦略は、受信ポートがターゲット受信ポートであるマルチメディアデータをメディア処理モジュールに転送することを含む。
本出願の例示的な実施例では、シグナリング処理モジュールは、さらに、
セッションの終了後に、転送戦略を削除する。
本出願の例示的な実施例では、マルチメディアデータ処理装置は、
転送戦略に応じて、端末デバイスにより送信されるマルチメディアデータをメディア処理モジュールに転送するためのユーザープレーン機能エンティティを含む。
本出願の例示的な実施例では、セッションを制御するステップは、セッションの維持とセッションの終了とを含む。
本出願の例示的な実施例では、メディア処理モジュールは、次のステップ、すなわち、
マルチメディアデータを復号化して、復号化データを取得するステップ、及び

復号化データを計算分析し、構造化マルチメディアデータに変換するステップ
でマルチメディアデータを処理する。
本出願の例示的な実施例では、メディア処理モジュールは、さらに、
構造化マルチメディアデータをリモートノードに送信する。
本出願の第3の態様によれば、電子機器が提供され、電子機器は、プロセッサと、プロセッサの実行可能指令を記憶するためのメモリと、を含み、プロセッサは、実行可能指令を実行することにより、上記のいずれかに記載の方法を実行するように構成される。
本出願の第4の態様によれば、コンピュータ読み取り可能記憶媒体が提供され、記憶媒体にコンピュータプログラムが記憶され、コンピュータプログラムがプロセッサによって実行される場合、上記のいずれかに記載の方法を実現する。
本出願の第5の態様によれば、指令を含むコンピュータプログラム製品が提供され、コンピュータで実行される場合、コンピュータに上記のいずれかに記載の方法を実行させる。
本出願の例示的な実施例は、以下の有益な効果の一部または全部を有し得る。
本出願の実施例に提供されるマルチメディアデータ処理方法では、メディア処理モジュールをエッジコンピューティングノードに配置し、シグナリング処理モジュールをリモートノードに配置して、シグナリング処理モジュールによって、端末デバイスとメディア処理モジュールとの間のセッションを確立し、セッションを制御し、メディア処理モジュールによって、端末デバイスにより送信されるマルチメディアデータを受信しマルチメディアデータを処理する。シグナリング処理モジュールは、制御シグナリングを処理するだけでよいため、少量のネットワークリソースとコンピューティングリソースとを占有するので、1つのシグナリング処理モジュールによって、異なるエッジコンピューティングノードに散在する複数のメディア処理モジュールと複数の端末デバイスとの間のセッションを同時に担当することができる。従って、本出願の実施例における方法に基づいて、マルチメディアデータ処理アプリケーションの配置モードを簡素化することができ、エッジコンピューティングノードの配置複雑性を大幅に軽減することができる。同時に、エッジコンピューティングノードに必要なインフラストラクチャリソースも削減でき、配置コストを削減できる。また、シグナリング処理モジュールがリモートノードに配置されるため、インストール、アップグレード、およびメンテナンスがより簡単で便利になる。同時に、エッジコンピューティングノードにステートレスメディア処理モジュールのみがあり、エッジコンピューティングノードに配置されるエッジコンピューティングサービスは、一貫した単一のサービスタイプになり、エッジコンピューティングノードの管理、使用及びメンテナンスがより効率的になる。従って、この例示的な実施形態における方法により、システム全体の使用及びメンテナンスの効率を大幅に向上させ、使用及びメンテナンスのコストを削減することができる。
以上の一般的な説明及び以下の詳細な説明は、例示および解釈に過ぎず、本出願を限定するものではない。
ここの図面は、本明細書に組み込まれ、本明細書の一部を構成し、本開示による実施例を示し、本明細書とともに本開示の原理を説明する。明らかに、以下の説明における図面は、本出願のいくつかの実施形態に過ぎず、当業者にとって、創造的な労力をしない前提で、これらの図面に基づいて他の図面を得ることができる。
本出願の実施例によるマルチメディアデータ処理方法及び装置を適用できる例示的なシステムアーキテクチャを示す概略図である。 本出願の実施例による電子機器の実現に適したコンピュータシステムの概略構造図を示す。 本出願の一実施例によるマルチメディアデータ処理装置の配置アーキテクチャを概略的に示す概略図である。 本出願の一実施例によるマルチメディアデータ処理装置の配置アーキテクチャを概略的に示す概略図である。 本出願の一実施例によるマルチメディアデータ処理方法のフローチャートを概略的に示す。 本出願の一実施例によるマルチメディアセッションを確立するプロセスのフローチャートを概略的に示す。 本出願の一実施例によるマルチメディアセッションを確立するプロセスのインタラクションフローチャートを概略的に示す。 本出願の一実施例によるマルチメディアセッションを確立するプロセスのインタラクションフローチャートを概略的に示す。 本出願の一実施例によるマルチメディアデータを処理するステップのフローチャートを概略的に示す。 本出願の一実施例によるマルチメディアデータ処理装置のブロック図を概略的に示す。
ここで、添付の図面を参照して、例示的な実施形態をより完全に説明する。しかしながら、例示的な実施形態は、様々な形態で実施することができ、本明細書に記載の例に限定されない。逆に、これらの実施形態の提供により、本出願はより包括的かつ完全になり、例示的な実施形態の概念が当業者に十分に伝達される。記載される特徴、構造、または特性は、任意の適切な方式で1つまたは複数の実施形態に組み合わせることができる。以下の説明では、本出願の実施形態を十分に理解するために、多くの具体的な詳細を提供する。しかしながら、1つまたは複数の前記特定の詳細を省略してもよく、または他の方法、コンポーネント、装置、ステップなどを使用して、本出願の技術案を実施してもよい。他の場合では、本開示の各側面を不明瞭にすることを避けるために、既知の技術案を詳細に示したり、説明したりしない。
また、図面は本出願の概略図に過ぎず、必ずしも一定の比例で描かれていない。図面において同一または類似の部分には同一の符号を付し、重複する説明は省略する。図面に示すブロック図の一部は機能エンティティであり、必ずしも物理的または論理的に独立したものに対応するものではない。これらの機能エンティティは、ソフトウェアの形で実現されるか、1つ又は複数のハードウェアモジュール又は集積回路で実現されるか、異なるネットワーク及び/又はプロセッサ装置及び/又はマイクロコントローラ装置で実現される。
図1は、本出願の実施例によるマルチメディアデータ処理方法の適用環境システムアーキテクチャの概略図を示す。
図1に示すように、システムアーキテクチャ100は、端末デバイス101、102、103のうちの1つまたは複数、基地局104、エッジコンピューティングノード105、ローカルネットワークコンピューティングプラットフォーム106、及びインターネットコンピューティングプラットフォーム107を含む。エッジコンピューティングノード105は、ネットワークアクセスポイントに近いコンピューティングプラットフォームであってもよく、エッジデータセンター(Edge Data Center、Edge DCと略称する)に位置してもよい。ローカルネットワークコンピューティングプラットフォーム106及びインターネットコンピューティングプラットフォーム107は、本出願におけるリモートノードとしてもよい。ローカルネットワークコンピューティングプラットフォーム106は、ローカルデータセンター(Local Data Center、Local DCと略称する)に位置してもよい。インターネットコンピューティングプラットフォーム107は、インターネットデータセンター(Internet Data Center、IDCと略称する)に位置してもよい。また、図1は、3層ネットワーク構造を示しているが、他の例示的な実施例では、エッジコンピューティングノード105は、インターネットコンピューティングプラットフォーム107と直接に通信接続するような、2層ネットワーク構造であってもよく、3層以上のネットワーク構造であってもよい。本例示的な実施例において、これを特に限定しない。
端末デバイス101、102、103は、各種の電子機器であり得る。カメラ、デスクトップコンピュータ、ポータブルコンピュータ、スマートフォン、及びタブレットコンピューターなどを含むが、これらに限定されない。エッジコンピューティングノード105、ローカルネットワークコンピューティングプラットフォーム106、及びインターネットコンピューティングプラットフォーム107は、いずれも、サーバを含む。図1における端末デバイス、ネットワーク及びサーバの数は、単なる例示であり、実現の必要性に応じて、任意の数の端末デバイス、ネットワーク及びサーバを含んでもよいことを理解すべきである。例えば、エッジコンピューティングノード105、ローカルネットワークコンピューティングプラットフォーム106、及びインターネットコンピューティングプラットフォーム107は、複数のサーバで構成されるサーバクラスタなどである。また、例えば、ローカルネットワークコンピューティングプラットフォーム106、及びインターネットコンピューティングプラットフォーム107は、クラウドコンピューティングプラットフォームであることができ、エッジクラウドコラボレーションのアーキテクチャを実現でき、つまり、エッジコンピューティングノードとリモートクラウドコンピューティングプラットフォームとが連携して動作する。
本出願の実施例によるマルチメディアデータ処理方法は、一般的に、サーバによって実行され、対応して、マルチメディアデータ処理装置は、一般的に、サーバに設置される。例として、例示的な実施例では、エッジコンピューティングノード105にMEC(Mobile Edge Computing、モバイルエッジコンピューティング)アプリケーションを配置して、ネットワーク内の様々なコンテンツ、サービス、およびアプリケーションの迅速なダウンロードを実現し、消費者が中断のない高品質のネットワーク体験を楽しむことができる。非MECアプリケーションによって処理されるネットワークトラフィックは、エッジコンピューティングノード105におけるユーザープレーン機能エンティティ(User Plane Function、UPF)によって、ローカルネットワークコンピューティングプラットフォーム106におけるユーザープレーン機能エンティティに転送され、最終的にインターネットコンピューティングプラットフォーム107に入ってもよい。
図2は、本出願の実施例による電子機器の実現に適したコンピュータシステムの概略構造図を示す。
なお、図2に示す電子機器のコンピュータシステム200は、一例に過ぎず、本出願の実施例の機能及び使用範囲を制限しない。
図2に示すように、コンピュータシステム200は、中央処理ユニット(Central Processing Unit、CPU)201を含み、読み取り専用メモリ(Read-Only Memory、ROM)202に記憶されるプログラム、又は記憶部208からランダムアクセスメモリ(Random
Access Memory、RAM)203にロードされたプログラムに従って、各種の適切な動作及び処理を実行する。RAM 203には、システム動作に必要な各種プログラム及びデータも記憶される。CPU201、ROM202、及びRAM203は、バス204を介して互いに接続される。入出力(Input/Output、I/O)インターフェース205もバス204に接続される。
I/Oインターフェース205には、キーボード、マウスなどを含む入力部206、例えばブラウン管(Cathode Ray Tube、CRT)、液晶ディスプレイ(Liquid Crystal Display、LCD)など及びスピーカなどを含む出力部207、ハードディスクなどを含む記憶部208、及び例えばLANカード、モデムなどのネットワークインターフェースカードを含む通信部209が接続されている。通信部209は、例えばインターネットなどのネットワークを介して通信処理を実行する。ドライバ210は、必要に応じて、I/Oインターフェース205にも接続される。リムーバブル媒体211は、例えば、磁気ディスク、光ディスク、光磁気ディスク、半導体メモリなどであり、必要に応じてドライバ210に搭載されて、そこから読み取ったコンピュータプログラムが必要に応じて記憶部208にインストールされる。
特に、本出願の実施例によれば、次のフローチャートを参照して説明する手順は、コンピュータソフトウェアプログラムとして実現できる。例えば、本出願の実施例は、コンピュータプログラム製品を含み、当該コンピュータプログラム製品は、コンピュータ読み取り可能媒体に記録されるコンピュータプログラムを含み、当該コンピュータプログラムは、フローチャートに示す方法を実行するためのコンピュータプログラムを含む。このような実施例では、当該コンピュータプログラムは、通信部209を介してネットワークからダウンロードしてインストールする及び/又はリムーバブル媒体211からインストールすることができる。当該コンピュータプログラムが中央処理ユニット(CPU)201によって実行される場合、本出願の方法と装置で限定される各種の機能を実行する。いくつかの実施形態では、コンピュータシステム200は、AI(Artificial Intelligence、人工知能)プロセッサをさらに含んでもよく、当該AIプロセッサは、機械学習に関連するコンピューティング動作を処理する。
なお、本出願に示すコンピュータ読み取り可能媒体は、コンピュータ読み取り可能信号媒体、又はコンピュータ読み取り可能記憶媒体、又は上記の2つの任意の組み合わせであってもよい。コンピュータ読み取り可能記憶媒体は、例えば、電気、磁気、光学、電磁気、赤外線、又は半導体のシステム、装置又はデバイス、又はいずれかの組み合わせであってもよいが、これらに限定されない。コンピュータ読み取り可能記憶媒体のより具体的な例は、1つ又は複数のワイヤーの電気接続、ポータブルコンピュータ磁気ディスク、ハードディスク、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、消去可能なプログラム読み取り専用メモリ(Erasable Programmable Read Only
Memory、EPROM)、フラッシュメモリ、光ファイバ、コンパクト磁気ディスク読み取り専用メモリ(Compact
Disc Read-Only Memory、CD-ROM)、光学記憶装置、磁気記憶装置、又は上記の任意の適切な組み合わせを含むが、これらに限定されない。
本出願では、コンピュータ読み取り可能記憶媒体は、プログラムを含むかまたは記憶する任意の有形の媒体であり、当該プログラムは、指令実行システム、装置又はデバイスによって使用されるか、それらと組み合わせて使用できる。本出願では、コンピュータ読み取り可能信号媒体は、ベースバンドに含まれるか、又はキャリアの一部として伝搬されるデータ信号であり、コンピュータ読み取り可能プログラムコードが記録される。このように伝搬されるデータ信号は、多くの形式をとることができ、電磁信号、光信号、またはこれらの任意の適切な組み合わせを含むが、これらに限定されない。コンピュータ読み取り可能信号媒体は、コンピュータ読み取り可能記憶媒体以外の任意のコンピュータ読み取り可能媒体であり得る。当該コンピュータ読み取り可能媒体は、指令実行システム、装置又はデバイスによって使用されるか、又はそれらと組み合わせて使用されるプログラムを送信、伝搬又は伝送することができる。コンピュータ読み取り可能媒体に含まれるプログラムコードは、任意の適切な媒体によって伝送でき、無線、ワイヤー、光ケーブル、RFなど、または上記の任意の適切な組み合わせを含むが、これらに限定されない。
添付図面のフローチャート及びブロック図は、本出願の各種実施例によるシステム、方法及びコンピュータプログラム製品で実現可能なアーキテクチャ、機能及び動作を示す。フローチャート又はブロック図における各ブロックは、1つのモジュール、プログラムセグメント、又はコードの一部を表すことができ、上記のモジュール、プログラムセグメント、又はコードの一部は、1つ又は複数の所定の論理機能を実現するための実行可能な指令を含む。また、いくつかの代替の実現では、ブロックでマークされた機能は、図面でマークされた順序とは異なる順序で実行することもできる。例えば、2つの連続して示したブロックは、実際に基本的に並行して実行でき、関連する機能によっては、逆の順序で実行される場合もある。また、ブロック図又はフローチャートにおける各ブロック、及びブロック図又はフローチャートにおけるブロックの組み合わせは、所定の機能又は動作を実行する専用のハードウェアによるシステムによって実現でき、又は専用ハードウェアとコンピュータ指令の組み合わせで実現できる。
本開示の実施例に説明するユニットは、ソフトウェアの形で実現されてもよく、ハードウェアの形で実現されてもよい。説明するユニットをプロセッサに設置してもよい。これらのユニットの名前は、特定の状況で、当該ユニット自体を限定しない。
また、本出願は、コンピュータ読み取り可能媒体をさらに提供し、当該コンピュータ読み取り可能媒体は、上記の実施例で説明した電子機器に含まれてもよい。また、電子機器に組み込まれずに、独立に存在してもよい。上記のコンピュータ読み取り可能媒体は、1つ又は複数のプログラムを記録し、上記の1つ又は複数のプログラムが当該電子機器で実行される場合、当該電子機器に次の実施例で説明する方法を実現させる。
以下、本出願の実施例の技術案を詳細に説明する。
図1に示すエッジコンピューティングネットワーク配置アーキテクチャに基づいて、異なる適用シーンに対して、異なる解決スキームが存在する場合がある。
エッジコンピューティングに基づくビデオ監視適用シーンを例として、発明者が提供する実現スキームは、図3に示すようである。当該実現スキームでは、シグナリング処理モジュール及びメディア処理モジュールをエッジコンピューティングノードに配置し、シグナリング処理モジュールによってビデオのアクセスを制御し、メディア処理モジュールによって受信したビデオに対してGPU(Graphics
Processing Unit、グラフィックプロセッサ)及びディープニューラルネットワークに基づくビデオ分析を実行して、構造化されたビデオデータを出力する。そして、これらの構造化されたビデオデータをリモートノードに配置されたデータ処理モジュールに送信し、当該データ処理モジュールによって構造化ビデオデータに基づいて検索及び分析などの処理を実行する。
このような実現スキームに基づいて、ユーザー側に配置されたエッジコンピューティングノードが、ビデオセッションシグナリング処理及びメディア処理を実行することで、ビデオリアルタイム処理の効率が向上し、リモートノードに配置されたデータ処理モジュールによってエッジコンピューティングノードから送信されるビデオ構造化データを受信して処理することで、エッジコンピューティングノードとリモートノードとの間のオリジナルビデオメディアデータの伝送を回避し、エッジコンピューティングノードとリモートノードとの間のネットワーク帯域幅の要件を効果的に削減することができる。
エッジコンピューティングに基づくビデオオンデマンドの適用シーンを例として、発明者が提供する実現スキームは、シグナリング処理モジュール及びメディア処理モジュールを、ストリーミングメディアサーバを含むエッジコンピューティングノードに配置し、CDN(Content Delivery Network、コンテンツ配信ネットワーク)管理サーバをリモートノードに配置する。あるユーザーがストリーミングメディアオンデマンドサービスを要求すると、要求はまずリモートノードに配置されるCDN管理サーバに送信され、CDN管理サーバが、対応する戦略に従って、対応するエッジコンピューティングノードに配置されたストリーミングメディアサーバを選択し、ユーザーの要求を当該ストリーミングメディアサーバに転送することで、ユーザーに近くの高品質で低遅延のビデオオンデマンドサービスを提供する。同時に、ユーザー端末デバイスとリモートノードとの間のビデオデータ伝送も削減する。
上記の2つのシーンの実現スキームでは、いずれも各エッジコンピューティングノードにシグナリング処理モジュール及びメディア処理モジュールを含む完全なビジネスサーバを配置する必要がある。シグナリング処理モジュール及びメディア処理モジュールをエッジコンピューティングノードに同時に配置すると、システム配置の複雑さが増加し、システム配置のコストも増加する。また、システムをアップグレード又は拡張する場合、各エッジコンピューティングノードに配置されたシグナリング処理モジュール又はメディア処理モジュールをそれぞれにアップグレード又は拡張する必要があり、システムの使用及びメンテナンスの効率とコストも高い。
マルチメディアセッションビジネスシステムでは、シグナリング処理モジュールは、マルチメディアセッションの確立を担当し、1つのセッションの開示から終了まで、シグナリングインタラクション全体が占有するコンピューティングリソースが少なく、メディア伝送によって占有されるネットワークリソースと比較すると、無視できる。上記の内容に基づいて、本出願は、マルチメディアデータ処理方法を提供し、当該マルチメディアデータ処理方法は、図4に示すマルチメディアセッション型アプリケーションの配置アーキテクチャに適用できる。
図4に示すように、当該配置アーキテクチャでは、マルチメディアデータ処理装置をシグナリング処理モジュール及びメディア処理モジュールの2つのモジュールに分割する。シグナリング処理モジュールは、リモートノードに配置し、例えば、上記のローカルネットワークコンピューティングプラットフォーム106又はインターネットコンピューティングプラットフォーム107に配置することができる。メディア処理モジュールは、エッジコンピューティングノード105に配置して、簡単で柔軟なエッジコンピューティングアプリケーションを実現できる。当該配置アーキテクチャに基づいて、ユーザー端末デバイスとマルチメディアデータ処理装置との間のマルチメディアセッションのシグナリング処理は、リモートノードに配置されたシグナリング処理モジュールによって完成される。ユーザー端末デバイスとマルチメディアデータ処理装置との間のメディア処理は、エッジコンピューティングノードに分散して配置されたメディア処理モジュールによって完成される。
次に、図5に基づいて、上記の配置アーキテクチャに基づくマルチメディアデータ処理方法を紹介する。図5を参照して、当該方法は、次のステップS510~ステップS520を含んでもよい。
ステップS510では、リモートノードに配置されたシグナリング処理モジュールによって、端末デバイスとメディア処理モジュールとの間のセッションを確立し、前記セッションを制御する。
本例示的な実施形態では、セッションとは、1つの端末デバイスとメディア処理モジュールとの通信プロセスを指す。シグナリング処理モジュールに基づいて、端末デバイスとメディア処理モジュールとの間のセッションを確立できる。その他に、シグナリング処理モジュールは、当該セッションの保持及び当該セッションの終了を制御できる。
シグナリング処理モジュールは、一般的に、リモートのコンピュータルームに配置される。ビデオ監視適用シーンを例として、シグナリング処理モジュールがサポートするプロトコルは、SIP(Session Initiation Protocol、セッション起動プロトコル)及びRTSP(Real-Time Stream Protocol、リアルタイムストリームプロトコル)などのマルチメディアセッションプロトコルを含む。もちろん、異なる適用シーン及び要件に応じて、シグナリング処理モジュールがサポートするプロトコルは、HLS(HTTP Live Streaming、ストリーミングメディア伝送プロトコル)、RTMP(Real Time Messaging Protocol、リアルタイムメッセージ伝送プロトコル)、及びその他のマルチメディアセッションプロトコルを含んでもよい。非マルチメディアセッション適用シーンでは、シグナリング処理モジュールは、非マルチメディアセッションプロトコルもサポートできる。本例示的な実施例では、これに限定されない。
図6を参照して、本例示的な実施形態では、次のステップS610~ステップS640によって、端末デバイスとメディア処理モジュールとの間のセッションを確立することができる。
ステップS610では、前記端末デバイスに、データ受信アドレス情報を含むコール要求を送信する。
例えば、業務管理者からのカメラビデオアクセス要求を受信した後、シグナリング処理モジュールは、例えば、SIP\RTSPコール要求をカメラに送信し、コール要求は、例えば、SDP(Session
Description Protocol、セッション説明プロトコル)フォーマットのデータ受信アドレス情報を含み得る。データ受信アドレス情報は、例えば、メディア処理モジュールのIPアドレス及び接続ポート番号情報などを含み得る。
ステップS620では、前記コール要求に対する前記端末デバイスの応答情報を受信し、前記応答情報は、データ送信アドレス情報を含む。
例えば、カメラは、シグナリング処理モジュールのコール要求を受信した後、シグナリング処理モジュールに応答情報を返信する。応答情報は、例えば、SDPフォーマットのデータ送信アドレス情報を含み得る。データ送信アドレス情報は、例えば、カメラ識別子(例えば、IDなど)、カメラがマルチメディアデータを送信する送信元IPアドレス、及び送信ポート番号などの情報を含み得る。
ステップS630では、前記メディア処理モジュールに前記データ送信アドレス情報を送信し、前記データ受信アドレスに従って前記マルチメディアデータを受信するように前記メディア処理モジュールに通知する。
ステップS640では、前記端末デバイスにセッション確立完了情報を送信する。
上記のセッションプロセスにおいて、配置戦略に従って、ユーザープレーン機能エンティティは、端末デバイスとシグナリング処理モジュールとの間で制御プレーンのSIP\RTSPなどのプロトコルを直接に交換することができる。本例示的な実施形態では、ユーザープレーン機能エンティティは、5Gネットワークにおけるユーザープレーンデバイスであってもよいが、これに限定されない。例えば、ユーザープレーン機能エンティティは、無線アクセスゲートウェイ(例えば、WiFiゲートウェイ)、有線アクセスゲートウェイなどの非モバイル通信ゲートウェイデバイスであってもよい。ユーザープレーン機能エンティティによるマルチメディアデータの転送戦略は、静的戦略及び動的戦略と含み得る。
具体的には、静的戦略に基づいて、前記エッジコンピューティングノードに配置されたユーザープレーン機能エンティティで転送戦略を事前配置する必要がある。当該転送戦略は、受信ポートがプリセット範囲にあるマルチメディアデータをメディア処理モジュールに転送する。データ受信アドレス情報は、当該プリセット範囲内のターゲット受信ポートを含む。
同時に、マルチメディアセッションネゴシエーションプロセスでは、端末デバイスは、受信ポートをプリセット範囲に設定する必要がある。上記のビデオ監視適用シーンを例として、SIPプロトコルに基づいて、SDPネゴシエーションプロセスでは、送信するマルチメディアデータのターゲット受信ポートを10000~20000に制限するようにカメラに要求することができ、そして、ユーザープレーン機能エンティティで転送戦略を配置する。カメラにより送信される、ターゲット受信ポートが10000~20000で、タイプがRTP(Real-time Transport Protocol、リアルタイム伝送プロトコル)のIPパケット、例えば、UDP(User Datagram Protocol、ユーザーデータグラムプロトコル)メッセージを受信すると、メディア処理モジュールに対応するポートに転送する。
図7を参照して、静的戦略に基づくセッションプロセスの概略図である。ステップS710~ステップS760を含む。
ステップS710では、業務管理者からのカメラビデオアクセス要求を受信した後、シグナリング処理モジュールは、SIP\RTSPコール要求をカメラに送信し、コール要求は、例えば、SDP(Session
Description Protocol、セッション説明プロトコル)フォーマットのデータ受信アドレス情報を含み得る。データ受信アドレス情報は、データ受信ポートを10000~20000の範囲のあるアイドルポートPort
Aに制限する必要がある。接続アドレスは、メディア処理モジュールのIPアドレスに指定する。
ステップS720では、カメラは、シグナリング処理モジュールのコール要求を受信した後、シグナリング処理モジュールに応答情報を返信することができる。応答情報は、例えば、SDPフォーマットのデータ送信アドレス情報を含み得る。データ送信アドレス情報は、カメラ識別子(例えば、IDなど)、カメラがマルチメディアデータを送信する送信元IPアドレス、及び送信ポート番号などの情報を含み得る。
ステップS730では、シグナリング処理モジュールは、カメラの応答情報を受信した後、メディア処理モジュールにカメラ識別子、カメラがマルチメディアデータを送信する送信元IPアドレス、及び送信ポート番号などの情報などの指令を送信し、Port
Aでカメラにより送信されるマルチメディアデータを開始するようにメディア処理モジュールに通知する。
ステップS740では、シグナリング処理モジュールは、前記端末デバイスにセッション確立完了情報を送信して、セッション確立を確認する。
ステップS750では、カメラは、エッジコンピューティングノードのユーザープレーン機能エンティティにマルチメディアデータメッセージを送信することを開始する。マルチメディアデータメッセージのターゲット受信ポートは、Port Aである。
ステップS760では、エッジコンピューティングノードのユーザープレーン機能エンティティは、カメラにより送信されるマルチメディアデータメッセージを受信した後、プレセットの転送戦略に従って、メディア処理モジュールのポートPort
Aにマルチメディアデータメッセージを転送する。
動的戦略に基づいて、データ受信アドレス情報は、ターゲット受信ポートを含み、メディア処理モジュールにデータ送信アドレス情報を送信する前に、エッジコンピューティングノードに配置されたユーザープレーン機能エンティティで転送戦略を配置し、当該転送戦略は、受信ポートがターゲット受信ポートであるマルチメディアデータをメディア処理モジュールに転送することを含む。
上記のビデオ監視適用シーンを例として、例えば、SIPプロトコルに基づいて、SDPネゴシエーションプロセスでは、あるアイドルポートPort Bをランダムに選択してターゲット受信ポートとし、そしてユーザープレーン機能エンティティで転送戦略を配置する。カメラにより送信される、ターゲット受信ポートがPort Bで、タイプがRTPであるIPパケット、例えば、UDPメッセージを受信すると、メディア処理モジュールに対応するポートPort
Bに転送する。
図8を参照して、動的戦略に基づくセッションプロセスの概略図である。ステップS810~ステップS870を含む。
具体的には、ステップS810では、業務管理者からのカメラビデオアクセス要求を受信した後、シグナリング処理モジュールは、SIP\RTSPコール要求をカメラに送信し、コール要求は、例えば、SDPフォーマットのデータ受信アドレス情報を含み得る。データ受信アドレス情報は、データ受信ポートをランダムに選択したあるアイドルポートPort Bに制限する必要がある。接続アドレスは、メディア処理モジュールのIPアドレスに指定する。
ステップS820では、カメラは、シグナリング処理モジュールのコール要求を受信した後、シグナリング処理モジュールに応答情報を返信することができる。応答情報は、例えば、SDPフォーマットのデータ送信アドレス情報を含み得る。データ送信アドレス情報は、例えば、カメラ識別子(例えば、IDなど)、カメラがマルチメディアデータを送信する送信元IPアドレス、及び送信ポート番号などの情報を含み得る。
ステップS830では、シグナリング処理モジュールは、カメラの応答情報を受信した後、ユーザープレーン機能エンティティに指令を送信し、ユーザープレーン機能エンティティの転送戦略を設置する。当該転送戦略は、カメラにより送信されるターゲット受信ポートがPort Bで、タイプがRTPであるIPパケット、例えばUDPメッセージを受信すると、メディア処理モジュールに対応するポートPort
Bに転送するように要求する。
ステップS840では、シグナリング処理モジュールは、メディア処理モジュールにカメラ識別子、カメラがマルチメディアデータを送信する送信元IPアドレス、及び送信ポート番号などの情報などの指令を送信し、Port
Bでカメラにより送信されるマルチメディアデータの受信を開始するようにメディア処理モジュール通知する。
ステップS850では、シグナリング処理モジュールは、前記端末デバイスにセッション確立完了情報を送信して、セッション確立を確認する。
ステップS860では、カメラは、エッジコンピューティングノードのユーザープレーン機能エンティティにマルチメディアデータメッセージを送信することを開始する。マルチメディアデータメッセージのターゲット受信ポートは、Port Bである。
ステップS870では、エッジコンピューティングノードのユーザープレーン機能エンティティは、カメラにより送信されるマルチメディアデータメッセージを受信した後、プレセットの転送戦略に従って、メディア処理モジュールのポートPort
Bにマルチメディアデータメッセージを転送する。
また、前記セッションの終了後に、後続のセッションの確立に影響を与えないように、上記の設定された動的転送戦略を削除してもよい。
ステップS520は、エッジコンピューティングノードに配置された前記メディア処理モジュールによって、前記メディア処理モジュールが前記端末デバイスとセッションを確立した後、前記端末デバイスにより送信されるマルチメディアデータを受信し、前記マルチメディアデータを処理する。
本例示的な実施形態では、メディア処理モジュールは、エッジコンピューティングノードに配置される。メディア処理モジュールは、主に、オーディオおよびビデオメディアパケットの受信、オーディオおよびビデオデータの復号化、及び深層学習法に基づくオーディオおよびビデオコンテンツの分析など、マルチメディアデータの処理を担当する。深層学習法を使用してオーディオおよびビデオコンテンツの分析を実行する場合、メディア処理モジュールは一般的に、メディア分析のコンピューティングの性能を加速するために、GPUを必要とする。これに基づいて、本例示的な実施形態では、前記マルチメディアデータを処理する前記ステップは、ステップS910及びステップS920を含んでもよい。
ステップS910では、前記マルチメディアデータを復号化して、復号化データを取得する。
本例示的な実施形態では、マルチメディアデータに対して可逆的に復号化し、つまり、復号化画像とオリジナル画像とまったく同じであり、圧縮は完全に回復可能または偏りがなく、歪みはない。もちろん、データ量を削減するために、非可逆復号を使用してもよい。復号化モジュールは、ソフトウェアモジュールであってもよく、ハードウェアモジュールであってもよい。本例示的な実施例において、これを特に限定しない。
ステップS920では、前記復号化データを計算分析し、構造化マルチメディアデータに変換する。
本例示的な実施形態では、マルチメディアデータの内容に含まれる重要な情報を構造化抽出し、時空間セグメンテーション、特徴抽出、オブジェクト認識、深層学習などの処理手法を用いて、コンピュータや人間が理解できるテキスト情報や視覚グラフィックス情報に整理する。マルチメディアデータを構造化することにより、数が大きく、応答が遅く、ほとんど適用価値のない監視ビデオを圧縮できるため、検索と調査の効率が大幅に向上し、ストレージスペースの占有を大幅に削減することができる。
図7におけるステップS770又は図8におけるステップS880を参照して、前記メディア処理モジュールがマルチメディアデータを構造化マルチメディアデータに変換した後、前記構造化マルチメディアデータを前記リモートノードに送信してもよい。例えば、ローカルネットワークコンピューティングプラットフォーム106又はインターネットコンピューティングプラットフォーム107のデータ処理モジュールに送信する。
本例示的な実施形態では、データ処理モジュールは、製品のニーズに応じて、構造化マルチメディアデータを使用して、顔検索、顔認識、人間の行動分析などのマルチメディアの検索または認識を実行することができる。例えば、処理構造に基づいて、顔写真データベース、顔特徴データベース、行動写真及び特徴データベース、車両画像及び特徴データベースなどの構造化データウェアハウスを確立でき、これらのデータウェアハウスと関連するビデオクリップウェアハウスを統合して、対応する検索エンジンを確立し、各種データウェアハウスのディープ情報マイニングを実現し、ビッグデータの役割を十分に発揮し、ビデオデータの活用価値を高め、ビデオデータの分析及び予測機能を向上させる。
本例示的な実施形態におけるマルチメディアデータ処理方法では、メディア処理モジュールをエッジコンピューティングノードに配置し、シグナリング処理モジュールをリモートノードに配置する。配置されるメディア処理モジュールの数は、カメラの数など、アクセスされる端末デバイスの数に依存する。シグナリング処理モジュールは、制御シグナリングを処理すればよく、少量のネットワークリソースとコンピューティングリソースを占有するので、1つのシグナリング処理モジュールによって、異なるエッジコンピューティングノードに散在する複数のメディア処理モジュールと複数の端末デバイスとの間のセッションを同時に担当することができる。例えば、一般的なX86アーキテクチャのサーバに配置されたSIPシグナリング処理モジュールを例として、一般的に、同時に数千の SIP コールをサポートでき、つまり、SIPプロトコルをサポートするカメラとメディア処理モジュール間の数千のセッションを処理できる。例えば、シグナリング処理モジュールは、1つ又は複数のサービスインスタンスを起動して、ネットワーク全体のすべてのエッジコンピューティングノードのメディア処理モジュールおよび端末デバイスのサービス要件を満たすことができる。従って、本例示的な実施形態における方法に基づいて、マルチメディアデータ処理アプリケーションの配置モードを簡素化することができ、エッジコンピューティングノードの配置複雑性を大幅に軽減することができる。同時に、エッジコンピューティングノードに必要なインフラストラクチャリソースも削減でき、配置コストを削減できる。
同時に、シグナリング処理モジュールがリモートノードに配置されるため、インストール、アップグレード、およびメンテナンスがより簡単で便利になる。エッジコンピューティングノードにとって、シグナリング処理モジュールはステートフルコンピューティングサービスであり、メディア処理モジュールはステートレスコンピューティングサービスであるので、ステートフルシグナリング処理モジュールをリモートノードに配置した後、エッジコンピューティングノードにはステートレスメディア処理モジュールしかなく、エッジコンピューティングノードに配置されたエッジコンピューティングサービスは、一貫した単一のサービスタイプになり、エッジコンピューティングノードの管理、使用及びメンテナンスがより効率的になる。従って、この例示的な実施形態における方法により、システム全体の使用及びメンテナンスの効率を大幅に向上させ、使用及びメンテナンスのコストを削減することができる。
また、本例示的な実施形態におけるマルチメディアデータ処理方法では、ユーザープレーン機能エンティティにとって、シグナリング制御トラフィックをエッジコンピューティングノードにトラフィックオフロード(Traffic Offload)する必要がないため、ユーザープレーン機能エンティティの転送戦略の配置もよりシンプルで便利になり、システムトラフィットラフィックオフロード機能全体の複雑さを軽減することもできる。
上記の例示的な実施例では、ビデオ監視適用シーンを例として説明した。本出願の他の例示的な実施例では、本出願のマルチメディアデータ処理方法は、音声監視、車両のインターネットおよび自動運転アプリケーション、ビデオオンデマンド、ゲームおよびエンターテイメントなどの他の適用シーンにも適用することができる。これも本出願の保護範囲に属する。
図面において、特定の順序で本出願における方法の各ステップを説明したが、これは、この特定の順序でこれらのステップを実行しなければならないこと、又は望ましい結果を達成するために、示した全てのステップを実行しなければならないことを要求または暗示するものではない。追加または代替として、いくつかのステップを省略する、複数のステップマージを1つのステップに合併して実行する、及び/又は1つのステップを複数のステップに分解して実行してもよい。
さらに、本例示的な実施形態では、マルチメディアデータ処理装置をさらに提供する。図10を参照して、当該マルチメディアデータ処理装置1000は、シグナリング処理モジュール1010及びメディア処理モジュール1020を含んでもよい。
前記シグナリング処理モジュール1010は、モートノードに配置され、端末デバイスとメディア処理モジュール1020との間のセッションを確立し、前記セッションを制御する。
前記メディア処理モジュール1020は、エッジコンピューティングノードに配置され、メディア処理モジュール1020が前記端末デバイスとセッションを確立した後、前記端末デバイスにより送信されるマルチメディアデータを受信し、前記マルチメディアデータを処理する。
本例示的な実施形態では、前記装置は、複数のシグナリング処理モジュール1010及び複数の前記メディア処理モジュール1020を含み、前記シグナリング処理モジュール1010の数は、前記メディア処理モジュール1020の数より少ない。
本例示的な実施形態では、前記装置は、1つのシグナリング処理モジュール1010及び複数の前記メディア処理モジュール1020を含む。
本例示的な実施形態では、前記リモートノードは、ローカルネットワークコンピューティングプラットフォーム及び/又はインターネットコンピューティングプラットフォームを含む。
本例示的な実施形態では、前記シグナリング処理モジュール1010は、次のステップ、すなわち、
前記端末デバイスにデータ受信アドレス情報を含むコール要求を送信するステップと、
前記コール要求に対する前記端末デバイスの応答情報を受信するステップであって、前記応答情報は、データ送信アドレス情報を含むステップと、

前記メディア処理モジュール1020に前記データ送信アドレス情報を送信し、前記データ受信アドレスに従って前記マルチメディアデータを受信するように、前記メディア処理モジュール1020に通知するステップと、
前記端末デバイスにセッション確立完了情報を送信するステップと
によって端末デバイスとメディア処理モジュール1020との間のセッションを確立する。
本例示的な実施形態では、前記シグナリング処理モジュール1010は、さらに、
前記エッジコンピューティングノードに配置されたユーザープレーン機能エンティティで転送戦略を事前配置し、前記転送戦略は、受信ポートがプリセット範囲にあるマルチメディアデータを前記メディア処理モジュール1020に転送することを含み、前記データ受信アドレス情報は、前記プリセット範囲内のターゲット受信ポートを含む。
本例示的な実施形態では、前記データ受信アドレス情報は、ターゲット受信ポートを含み、前記シグナリング処理モジュール1010は、前記メディア処理モジュール1020に前記データ送信アドレス情報を送信する前に、
前記エッジコンピューティングノードに配置されたユーザープレーン機能エンティティで転送戦略を配置し、前記転送戦略は、受信ポートが前記ターゲット受信ポートであるマルチメディアデータを前記メディア処理モジュール1020に転送することを含む。
本例示的な実施形態では、前記シグナリング処理モジュール1010は、さらに、
前記セッションの終了後に、前記転送戦略を削除する。
本例示的な実施形態では、前記装置は、前記転送戦略に応じて、前記端末デバイスにより送信されるマルチメディアデータを前記メディア処理モジュール1020に転送するためのユーザープレーン機能エンティティを含む。
本例示的な実施形態では、前記セッションを制御するステップは、前記セッションの維持と前記セッションの終了を含む。
本例示的な実施形態では、前記メディア処理モジュール1020は、次のステップ、すなわち、
前記マルチメディアデータを復号化して、復号化データを取得するステップと、
前記復号化データを計算分析し、構造化マルチメディアデータに変換するステップと
によって、前記マルチメディアデータを処理する。
本例示的な実施形態では、前記メディア処理モジュール1020は、さらに、
前記構造化マルチメディアデータを前記リモートノードに送信する。
上記のマルチメディアデータ処理装置における各モジュール又はユニットの具体的な詳細は、既に対応するマルチメディアデータ処理方法で詳細に説明したので、ここでは繰り返さない。
なお、アクション実行装置の若干のモジュールまたはユニットが上記の詳細な説明で言及されているが、この分割は必須ではない。実際には、本出願の実施方式によれば、上記した2つ以上のモジュール又はユニットの特徴及び機能は、1つモジュール又はユニットに具現化されてもよい。逆に、上述のモジュールまたはユニットの特徴および機能は、具体化される複数のモジュールまたはユニットにさらに分割することができる。
当業者は、明細書を参照し、本出願の発明を実施して、本出願の他の実施形態は容易に想到しえる。本出願は、本出願の任意の変形、用途、又は適応的変更をカバーすることを目的とする。これらの変形、用途、又は適応的変更は、本出願の一般の原則に従い、本出願に未開示の本技術分野における常識または従来の技術的手段を含む。明細書及び実施例は、単なる例示に過ぎず、本出願の範囲および精神は、以下の特許請求の範囲によって指定される。
本出願は、上記で説明し、添付の図面に示した正確な構造に限定されず、その範囲から逸脱することなく、様々な修正および変更を行うことができる。本出願の範囲は、添付の特許請求の範囲によって制限される。

Claims (15)

  1. マルチメディアデータ処理方法であって、
    リモートノードによって、端末デバイスとエッジコンピューティングノードとの間のセッションを確立し、前記セッションを制御するステップであって、前記エッジコンピューティングノードにおけるユーザープレーン機能エンティティが、前記リモートノードにおけるユーザープレーン機能エンティティと通信する、ステップと、
    前記セッションが前記端末デバイスと前記エッジコンピューティングノードとの間に確立された後、前記エッジコンピューティングノードによって、前記端末デバイスにより送信されるマルチメディアデータを受信し、該マルチメディアデータを処理するステップであって、該マルチメディアデータは、ビデオのデータを含む、ステップと、
    前記エッジコンピューティングノードによって、グラフィックス処理ユニットに基づいて前記ビデオの分析を行って、構造化ビデオデータを出力するステップと、
    前記エッジコンピューティングノードによって、前記構造化ビデオデータを前記リモートノードに送信するステップと、
    前記リモートノードによって、前記構造化ビデオデータの分析を行うステップと、を含む、
    マルチメディアデータ処理方法。
  2. 前記端末デバイスと前記エッジコンピューティングノードとの間の前記セッションを確立する前記ステップは、
    前記リモートノードが、前記端末デバイスにデータ受信アドレス情報を含むコール要求を送信するステップと、
    前記リモートノードが、前記コール要求に対する前記端末デバイスの応答情報を受信するステップであって、前記応答情報は、データ送信アドレス情報を含む、ステップと、
    前記リモートノードが、前記エッジコンピューティングノードに前記データ送信アドレス情報を送信し、前記データ受信アドレス情報に従って前記マルチメディアデータを受信するように、前記エッジコンピューティングノードに通知するステップと、
    前記リモートノードが、前記端末デバイスにセッション確立完了情報を送信するステップと、を含む、
    請求項1に記載のマルチメディアデータ処理方法。
  3. 当該マルチメディアデータ処理方法は、
    前記エッジコンピューティングノードに配置されたユーザープレーン機能エンティティで転送戦略を事前配置するステップをさらに含み、前記転送戦略は、受信ポートがプリセット範囲にあるマルチメディアデータを前記エッジコンピューティングノードに転送することを含み、
    前記データ受信アドレス情報は、前記プリセット範囲内のターゲット受信ポートを含む、
    請求項2に記載のマルチメディアデータ処理方法。
  4. 前記データ受信アドレス情報は、ターゲット受信ポートを含み、
    前記エッジコンピューティングノードに前記データ送信アドレス情報を送信する前に、
    前記エッジコンピューティングノードに配置されたユーザープレーン機能エンティティで転送戦略を配置するステップをさらに含み、前記転送戦略は、受信ポートが前記ターゲット受信ポートであるマルチメディアデータを前記エッジコンピューティングノードに転送することを含む、
    請求項2に記載のマルチメディアデータ処理方法。
  5. 当該マルチメディアデータ処理方法は、 前記セッションの終了後に、前記転送戦略を削除するステップをさらに含む、
    請求項4に記載のマルチメディアデータ処理方法。
  6. 当該マルチメディアデータ処理方法は、
    前記エッジコンピューティングノードに配置された前記ユーザープレーン機能エンティティにより、前記転送戦略に応じて、前記端末デバイスにより送信されるマルチメディアデータを前記エッジコンピューティングノードに転送するステップをさらに含む、請求項3~5のいずれか1項に記載のマルチメディアデータ処理方法。
  7. 前記セッションを制御する前記ステップは、前記セッションの維持と前記セッションの終了とを含む、請求項1~6のいずれか1項に記載のマルチメディアデータ処理方法。
  8. 前記マルチメディアデータを処理する前記ステップは、
    前記マルチメディアデータを復号化して、復号化データを取得するステップと、
    前記復号化データを計算分析し、構造化マルチメディアデータに変換するステップと、を含む、
    請求項1~7のいずれか1項に記載のマルチメディアデータ処理方法。
  9. 前記マルチメディアデータを前記構造化マルチメディアデータに変換した後、
    前記構造化マルチメディアデータを前記リモートノードに送信するステップをさらに含む、
    請求項8に記載のマルチメディアデータ処理方法。
  10. リモートノードと、エッジコンピューティングノードとを含む、マルチメディアデータ処理システムであって、
    リモートノードによって、端末デバイスとエッジコンピューティングノードとの間のセッションを確立し、前記セッションを制御し、前記エッジコンピューティングノードにおけるユーザープレーン機能エンティティが、前記リモートノードにおけるユーザープレーン機能エンティティと通信し、
    前記エッジコンピューティングノードによって、前記セッションが前記端末デバイスと前記エッジコンピューティングノードとの間に確立された後、前記端末デバイスにより送信されるマルチメディアデータを受信し、前記マルチメディアデータを処理し、前記マルチメディアデータは、ビデオのデータを含み、
    前記エッジコンピューティングノードによって、グラフィックス処理ユニットに基づいて前記ビデオの分析を実行して、構造化ビデオデータを出力し、
    前記エッジコンピューティングノードによって、前記構造化ビデオデータを前記リモートノードに送信し、
    前記リモートノードによって、前記構造化ビデオデータの分析を実行する
    マルチメディアデータ処理システム。
  11. 当該マルチメディアデータ処理システムは、複数のシグナリング処理モジュール、及び複数の前記エッジコンピューティングノードを含み、前記シグナリング処理モジュールの数は、前記エッジコンピューティングノードの数より少ない、
    請求項10に記載のマルチメディアデータ処理システム。
  12. 当該マルチメディアデータ処理システムは、1つのシグナリング処理モジュール、及び複数の前記エッジコンピューティングノードを含む、請求項10に記載のマルチメディアデータ処理システム。
  13. ローカルネットワークコンピューティングプラットフォーム及び/又はインターネットコンピューティングプラットフォームが前記リモートノードを構成する、請求項10~12のいずれか1項に記載のマルチメディアデータ処理システム。
  14. 電子機器であって、
    プロセッサと、
    前記プロセッサの実行可能指令を記憶するためのメモリと、を含み、
    前記プロセッサは、前記実行可能指令を実行することにより、請求項1~9のいずれか1項に記載の方法を実行するように構成される、
    電子機器。
  15. 指令を含むコンピュータプログラムであって、コンピュータで実行される場合、コンピュータに請求項1~9のいずれか1項に記載の方法を実行させる、コンピュータプログラム。
JP2021555311A 2019-06-28 2020-05-28 マルチメディアデータ処理方法、装置、電子機器及びコンピュータプログラム Active JP7410966B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201910578317.6 2019-06-28
CN201910578317.6A CN110290140B (zh) 2019-06-28 2019-06-28 多媒体数据处理方法及装置、存储介质、电子设备
PCT/CN2020/092750 WO2020259192A1 (zh) 2019-06-28 2020-05-28 多媒体数据处理方法及装置、存储介质、电子设备

Publications (2)

Publication Number Publication Date
JP2022538953A JP2022538953A (ja) 2022-09-07
JP7410966B2 true JP7410966B2 (ja) 2024-01-10

Family

ID=68020053

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021555311A Active JP7410966B2 (ja) 2019-06-28 2020-05-28 マルチメディアデータ処理方法、装置、電子機器及びコンピュータプログラム

Country Status (5)

Country Link
US (1) US11522922B2 (ja)
EP (1) EP3993341A4 (ja)
JP (1) JP7410966B2 (ja)
CN (1) CN110290140B (ja)
WO (1) WO2020259192A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110290140B (zh) 2019-06-28 2021-09-24 腾讯科技(深圳)有限公司 多媒体数据处理方法及装置、存储介质、电子设备
CN111225280B (zh) * 2020-01-22 2021-10-01 复旦大学 基于嵌入式平台的轻量级视频分析系统
CN113538024B (zh) * 2020-04-14 2023-12-26 中国移动通信集团浙江有限公司 广告管理方法、系统及内容传输网络设备
CN114268591B (zh) * 2020-09-16 2024-03-26 华为技术有限公司 数据分流方法和装置
CN113158717A (zh) * 2020-11-25 2021-07-23 杭州视洞科技有限公司 一种端及云人脸识别架构
CN115412587A (zh) * 2021-05-26 2022-11-29 中兴通讯股份有限公司 多媒体云服务方法、通信云系统及计算机可读存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050060411A1 (en) 2003-09-16 2005-03-17 Stephane Coulombe System and method for adaptation of peer-to-peer multimedia sessions
WO2017037776A1 (ja) 2015-08-28 2017-03-09 日本電気株式会社 端末とネットワークノードと通信制御方法並びにプログラム
CN109218455A (zh) 2017-06-30 2019-01-15 华为技术有限公司 一种应用实例地址的转换方法和装置
WO2019118964A1 (en) 2017-12-15 2019-06-20 Idac Holdings, Inc. Enhanced nef function, mec and 5g integration

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050021626A1 (en) * 2003-05-22 2005-01-27 Cisco Technology, Inc. Peer-to-peer dynamic web page sharing
CN100370872C (zh) * 2004-04-30 2008-02-20 华为技术有限公司 会话建立方法
CN100356737C (zh) * 2004-12-02 2007-12-19 华为技术有限公司 一种对媒体服务器进行大容量测试的系统及方法
CN101123718B (zh) * 2007-09-13 2011-12-21 华为技术有限公司 多媒体点播的方法及系统
US9479967B1 (en) * 2007-10-26 2016-10-25 Genband Us Llc Enhanced media gateway
US7979558B2 (en) * 2008-08-06 2011-07-12 Futurewei Technologies, Inc. Remote session control
CN102281251B (zh) * 2010-06-09 2014-12-17 中兴通讯股份有限公司 一种实现智能家居应用的装置、系统和方法
CN102984402B (zh) * 2011-09-06 2015-08-12 中兴通讯股份有限公司 一种VoIP数据包的处理方法及系统
CN103179213B (zh) * 2013-04-03 2016-05-18 深圳市闪联信息技术有限公司 基于点对点代理机制的家庭媒体资源传输系统
US10356059B2 (en) 2015-06-04 2019-07-16 Nagravision S.A. Methods and systems for communication-session arrangement on behalf of cryptographic endpoints
EP3326406B1 (en) * 2015-07-23 2020-05-27 Nokia Solutions and Networks Oy Acceleration facility control in a network
CN106713819A (zh) * 2015-07-24 2017-05-24 三亚中兴软件有限责任公司 用于视频会议的数据传输方法、装置及系统
US20170054770A1 (en) * 2015-08-23 2017-02-23 Tornaditech Llc Multimedia teleconference streaming architecture between heterogeneous computer systems
CN107172664B (zh) 2016-03-07 2020-04-03 大唐移动通信设备有限公司 数据传输方法、装置及系统
CN107566437B (zh) * 2016-07-01 2020-04-14 大唐移动通信设备有限公司 信息传输方法及装置
US10104672B2 (en) * 2016-08-09 2018-10-16 Wipro Limited Method and a system for identifying operating modes of communications in mobile edge computing environment
CN108738104B (zh) 2017-04-19 2021-11-19 华为技术有限公司 一种建立本地网络连接的方法、装置、系统和存储介质
US11082455B2 (en) * 2017-05-03 2021-08-03 T-Mobile Usa, Inc. Network gateway transcoder-utilization-aware session control
CN107466482B (zh) * 2017-06-07 2021-07-06 香港应用科技研究院有限公司 在蜂窝通信系统中联合确定计算卸载和内容预取的方法和系统
WO2018236164A1 (ko) * 2017-06-21 2018-12-27 엘지전자(주) 무선 통신 시스템에서 서비스 요청 절차 수행 방법 및 이를 위한 장치
CN108496341A (zh) * 2017-06-30 2018-09-04 北京小米移动软件有限公司 蜂窝网络中实现边缘计算的方法、装置、设备及基站
CN109274634B (zh) * 2017-07-18 2021-06-11 腾讯科技(深圳)有限公司 多媒体通信方法及装置、存储介质
WO2019080105A1 (zh) * 2017-10-27 2019-05-02 北京小米移动软件有限公司 网络接入方法及装置
CN108234511B (zh) * 2018-01-18 2021-07-13 携程旅游信息技术(上海)有限公司 多媒体数据传输的方法、系统、设备、存储介质及网关
CN108355350B (zh) * 2018-02-11 2020-04-10 清华大学 一种基于移动边缘计算的应用服务接入方法及装置
CN108063773B (zh) * 2018-02-11 2020-05-08 清华大学 一种基于移动边缘计算的应用服务接入方法及装置
US20190215729A1 (en) * 2018-03-15 2019-07-11 Intel Corporation Session description protocol mechanisms for signaling radio access network capabilities in multimedia telephony sessions
KR20200084614A (ko) * 2019-01-03 2020-07-13 삼성전자주식회사 IMS(IP multimedia subsystem) 서비스를 제공하는 전자 장치
CN110198363B (zh) * 2019-05-10 2021-05-18 深圳市腾讯计算机系统有限公司 一种移动边缘计算节点的选择方法、装置及系统
CN110290140B (zh) * 2019-06-28 2021-09-24 腾讯科技(深圳)有限公司 多媒体数据处理方法及装置、存储介质、电子设备
CN110912835B (zh) * 2019-11-08 2023-04-07 腾讯科技(深圳)有限公司 业务分流方法、装置及系统
US20220086218A1 (en) * 2020-12-23 2022-03-17 Dario Sabella Interoperable framework for secure dual mode edge application programming interface consumption in hybrid edge computing platforms

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050060411A1 (en) 2003-09-16 2005-03-17 Stephane Coulombe System and method for adaptation of peer-to-peer multimedia sessions
WO2017037776A1 (ja) 2015-08-28 2017-03-09 日本電気株式会社 端末とネットワークノードと通信制御方法並びにプログラム
CN109218455A (zh) 2017-06-30 2019-01-15 华为技术有限公司 一种应用实例地址的转换方法和装置
WO2019118964A1 (en) 2017-12-15 2019-06-20 Idac Holdings, Inc. Enhanced nef function, mec and 5g integration

Also Published As

Publication number Publication date
CN110290140A (zh) 2019-09-27
CN110290140B (zh) 2021-09-24
EP3993341A4 (en) 2022-08-03
EP3993341A1 (en) 2022-05-04
JP2022538953A (ja) 2022-09-07
WO2020259192A1 (zh) 2020-12-30
US11522922B2 (en) 2022-12-06
US20210409460A1 (en) 2021-12-30

Similar Documents

Publication Publication Date Title
JP7410966B2 (ja) マルチメディアデータ処理方法、装置、電子機器及びコンピュータプログラム
CN107682657B (zh) 一种基于WebRTC的多人语音视频通话方法及系统
EP2688307B1 (en) Wireless communication system for offline participation in a display session
CN108632558B (zh) 一种视频通话的方法和装置
CN108810581B (zh) 一种软件菜单的更新方法和装置
EP3996355B1 (en) Method for transferring media stream and user equipment
CN113596191A (zh) 一种数据处理方法、网元设备以及可读存储介质
CN113923470B (zh) 直播流处理方法及装置
WO2023000940A1 (zh) 数据处理方法、装置、网元设备、存储介质及程序产品
CN113727144A (zh) 基于混合云的高清直播系统及流媒体方法
CN112839238B (zh) 投屏播放方法、装置和存储介质
CN113572864B (zh) 一种数据处理方法、网元设备以及可读存储介质
CN115002497B (zh) 直播回源的调度方法及系统、回源服务器
CN110475131B (zh) 一种终端连接方法、服务器和终端
US20170171579A1 (en) Method and Device for Transcoding Live Video
CN107547517B (zh) 音视频节目录制方法和网络设备及计算机装置
US9686334B2 (en) Transmission method for media data stream and thin client
CN111596940B (zh) 一种版本升级方法、装置、电子设备及存储介质
CN110519331B (zh) 一种视联网资源处理方法及装置
WO2013078614A1 (zh) 一种虚拟桌面场景下音频压缩算法选择方法、装置及通信系统
Galletta et al. A scalable cloud-edge computing framework for supporting device-adaptive big media provisioning
CN106375933A (zh) 多个智能硬件设备的投射控制方法
CN105100147A (zh) 一种基于内容提供商与服务提供商分离的控制方法及装置
CN110098993B (zh) 一种信令报文的处理方法和装置
CN115349248A (zh) 利用实时上行链路流式传输框架(flus)和5g应用功能(af)的基于网络的媒体处理(nbmp)部署

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211020

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230627

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231222

R150 Certificate of patent or registration of utility model

Ref document number: 7410966

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150