JP5588527B2 - マルチホップrtpストリーミングにおいて重要なパケットロスを扱うためのシステム及び方法 - Google Patents

マルチホップrtpストリーミングにおいて重要なパケットロスを扱うためのシステム及び方法 Download PDF

Info

Publication number
JP5588527B2
JP5588527B2 JP2013023353A JP2013023353A JP5588527B2 JP 5588527 B2 JP5588527 B2 JP 5588527B2 JP 2013023353 A JP2013023353 A JP 2013023353A JP 2013023353 A JP2013023353 A JP 2013023353A JP 5588527 B2 JP5588527 B2 JP 5588527B2
Authority
JP
Japan
Prior art keywords
media
packet
rtp
packets
sequence number
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013023353A
Other languages
English (en)
Other versions
JP2013211835A (ja
Inventor
ヤスール アミール
ブルゴイン デビッド
ハラビー アビシャイ
ボール スピアマン ジョン
ベレメエフ ドミトリ
ワン シャオウェイ
Original Assignee
ポリコム,インク.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ポリコム,インク. filed Critical ポリコム,インク.
Publication of JP2013211835A publication Critical patent/JP2013211835A/ja
Application granted granted Critical
Publication of JP5588527B2 publication Critical patent/JP5588527B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • H04N7/152Multipoint control units therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/80Responding to QoS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/24Traffic characterised by specific attributes, e.g. priority or QoS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/65Network streaming protocols, e.g. real-time transport protocol [RTP] or real-time control protocol [RTCP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L69/00Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
    • H04L69/22Parsing or analysis of headers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/40Support for services or applications
    • H04L65/403Arrangements for multi-party communication, e.g. for conferences

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Security & Cryptography (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

この発明は、ビデオ通信に関し、特にマルチポイント(多地点)ビデオ会議の分野に関する。
この特許出願は、2012年2月10日に出願された「マルチホップRTPストリーミングにおいて重要なパケットロスを扱うためのシステム及び方法」と題された米国特許出願番号第61/597524号に対する優先権を要求するものであり、これの出願に記載された全ての記載内容を援用するものである。
ビデオ会議(videoconferencing)は、互いに遠隔に位置する各個人が対面式の会合を行うことを可能にするものである。ビデオ会議は、音声及びビデオの遠距離通信を用いて実行されるだろう。ビデオ会議は、2つのサイト(ポイント・ツー・ポイント(point to point))のような少数の間で行われるか、或いは、多数のサイト(マルチポイント(multi‐point))の間で行われるだろう。1つの会議サイトは、単一の参加者(ユーザ、会議出席者)又は多数の参加者(複数のユーザ、複数の会議参加者)を含むだろう。また、ビデオ会議は、ドキュメント、プレゼンテーション及び情報などを、共有するのが常である。
参加者は、例えばビデオ会議エンドポイント(EP)経由で、ビデオ会議に参加する。エンドポイント(EP)は、例えば端末又はネットワークであろう。エンドポイントは、他の端末及び/又はマルチポイント制御ユニット(MCU)と、リアルタイムで双方向の音声/映像/データ通信が、可能である。或るエンドポイント(EP)は、音声、音声及びビデオ、データ、音声及びビデオなどを含む種々の形式で、情報/データを供給する。“端末”、“サイト”及び“エンドポイント”の各用語は互換的に使用されている。本開示においては、エンドポイントという用語は、上位概念を表す用語として使用されている。
エンドポイントは表示ユニット(スクリーン)を備え、表示ユニット上には1以上の遠隔地点からのビデオ画像が表示されるだろう。エンドポイントは、例えば、POLYCOM(登録商標)、VSX(登録商標)、及び、HDX(登録商標)であり、それぞれ、ポリコム社から入手できる(POLYCOM(登録商標)、VSX(登録商標)、及び、HDX(登録商標)は、ポリコム社の登録商標である)。ビデオ会議エンドポイントは、音声、ビデオ及び/又はデータを、ローカルサイトから、1以上の遠隔サイトに送信し、また、そのスクリーン(表示ユニット)上に、1又は複数の遠隔サイトから受信したビデオ及び/又はデータを表示するだろう。
エンドポイントにおいてスクリーン上に表示されたビデオ画像は、アレンジ(整理)されたレイアウトで表示されるだろう。レイアウトは、ビデオ画像を表示するための1以上のセグメント(部分、区画)を含むだろう。1つのセグメントは、受信エンドポイントのスクリーンの予め定義された一部分であり、ビデオ会議セッションに参加しているサイトの1つから受信されたビデオ画像に配分さるだろう。2参加者間のビデオ会議においては、1つのセグメントは、各エンドポイントの各スクリーンのディスプレイ領域全体を覆うだろう。
或るローカルサイトと多数の遠隔サイトとの間のビデオ会議におけるビデオ表示モードの一例は、スイッチングモードであろう。スイッチングモードとは、複数の遠隔サイトのうちの1つから送られたビデオ/データだけが、ローカルサイトのスクリーン上に同時に表示されるモードである。表示されたビデオは、会議の変遷に応じて、別のサイトから受信されたビデオに切り替えられるだろう。
前記スイッチングモードとは対照的に、常駐表示(continuous presence(CP);画面分割)においては、ローカルエンドポイントの会議参加者(参加者)は、当該ビデオ会議に参加している種々のエンドポイントの他の個々の参加者を、同時に観察するだろう。各サイトは、ローカルスクリーン上に表示されたレイアウト中の異なるセグメントに表示されるだろう。複数のセグメントは、同じサイズであってもよいし、或いは、異なるサイズであってもよい。スクリーンに表示される複数のサイトの組み合わせ、及び、レイアウトのセグメントに対するそれらサイトの関連付けは、同じセッションに参加している種々のサイトの間で異なっていてよい。更に、常駐表示レイアウトにおいて、或るサイトから受信したビデオ画像は、拡張又は縮小調整される、及び/又は、それが配分されたセグメントのサイズに適合するようにトリミングされてよい。なお、“会議参加者”、“ユーザ”、及び“参加者”との用語は、互換的に使用されている。本開示において、用語“会議参加者”は、上位概念を表す用語として使用されるだろう。
MCUは、ビデオ会議を管理するために使用される。MCUは、会議制御エンティティ(entity;実体、構成要素)であり、典型的には、エンドポイントからの様々なチャンネルを受信するネットワークのノード又は端末に設置されており、何らかの基準(抽出条件)に従って音声及び/又は音声信号を処理し、そして、それらを1組の接続されたチャンネルに分配する。
複数のMCUは、例えば、ポリコム社から入手できるMGC‐100及びRMX2000(登録商標)を含む(RMX2000(登録商標)は、ポリコム社の登録商標である)。いくつかのMCUは、2つの論理的ユニットから構成されるだろう:メディア制御装置(media controller ; MC)と、メディア処理装置(media processor ; MP)とである。エンドポイント及びMCUのより詳細な定義は、H.320、H324及びH.323を含む国際電気通信(ITU)規格に見つかるだろう。例えばITU規格又はセッション イニシエーションプロトコル(SIP)などのビデオ会議規格及びプロトコルに関する更なる情報は、それぞれ、ITUのウェブサイトwww.itu.int、又は、インターネット技術タスクフォース(Internet Engineering Task Force;IETF)のウェブサイトwww.ietf.orgに見つかるだろう。
別のビデオ会議システムでは、メディア中継会議システム(MRC)を使用するだろう。MRCにおいて、メディア中継MCU(MRM)は、参加している各メディア中継エンドポイント(MRE)から、1以上のストリームを受信する。MRMは、会議内の他の複数のエンドポイントから受信された1組の複数ビデオストリームを、各参加エンドポイントに中継する。各受信エンドポイントは、複数のストリームを使用して、レイアウトに従うCPビデオ画像を生成する。CPビデオ画像は、MREのユーザに提示される。1つのMREは、当該セッション内の会議参加者の端末になり得、この端末は、或る1つのMRMから中継されたメディアを受信し、或る1つのMRMからの指示に従い圧縮されたメディアを送出できる。複数のMRMは、米国特許公開公報第2010/0194847号により詳細に記載されており、これの出願に記載された全ての記載内容を援用する。本開示においては、用語“エンドポイント”と“MRE”は互換的に使用されるだろう。
いくつかのMRCシステムにおいて、送信MREは、2以上の品質のレイヤ乃至レベルで、自身のビデオ映像を送信する。いくつかのシステムにおいて、前記2以上のレイヤは、単一のストリームによって搬送される。別のMRCシステムにおいては、各レイヤは異なるストリームに関連付けられる。これらのシステムは、レイアウト内での種々のウィンドウサイズ、各受信エンドポイントにより使用される種々の解像度、種々のフレームレートなどを提供できる。更に、複数のレイヤは、パケットロス(パケット損失)を克服するために使用され得る。品質は、フレームレート、解像度、及び/又は、信号対ノイズ比(S/N比;SNR)などに関して異なる。
本開示を通じて、ビデオストリーミングとの用語は、マルチメディア会議セッション、メディアストリームリーミング、又は、圧縮マルチメディアストリームの伝送を用いた任意の実用例における、任意の圧縮メディア(例えば音声、及び/又は、ビデオ)の送信を表しており、該メディアはスケーラブル符号化エンコーダ(scalable coding encoder)により圧縮されたものである。更に、送信された圧縮メディアは、メディアの品質に関して互いに異なるレイヤからなり複数のレイヤを含むだろう。複数の異なるレイヤは、開示された実施形態によって様々に扱われるだろう。また、用語“スケーラブル符号化(SC)”は、本開示においては、マルチレイヤメディア符号化の一例を表す。
ビデオストリームリーミングはますます一般的になっている。更に、ビデオ会議システムと同様に、ますます多くのビデオストリーミング源が複数のレイヤを送出するようになっており、これらレイヤは圧縮ビデオの品質によって互いに異なっている。品質は、例えば時間ドメイン(例えばフレーム毎秒)、空間ドメイン(例えば高精細度(HD)、又は、CIF(Common Intermediate Format))、及び/又は、品質(例えば鮮鋭度(シャープネス))などのように、多数のドメイン(定義域)で表現される。ビデオストリームリーミング及び多品質(マルチクオリティ)レイヤで使用されるビデオ圧縮規格は、H.264AVC、H.264annexG、MPEG‐4などを含む。H.264などのこれら圧縮規格は、ITUのウェブサイトwww.itu.int、又は、www.mpeg.orgに見つかるだろう。
いくつかのビデオ圧縮技術は、イントラフレームとインターフレームとの2種のフレームを用いる。イントラフレームは、同じフレーム内にのみ含まれ且つ当該ビデオシークエンス内の他のどのフレームにも関連付けられていない情報に関連して圧縮されたビデオフレームである。インターフレームは、同じフレーム内に含まれ且つ当該ビデオシークエンス内の他の1以上のフレーム(参照フレーム)にも関連付けられている情報に関連して圧縮されたビデオフレームである。インターフレームは、Pフレーム(予測フレーム)、及び/又は、Bフレーム(双方向予測フレーム)を含み得る。ビデオ会議において、複数のBフレームは、それがもたらすレイテンシのため、一般的に使用されるのではない。以下の説明では。インターフレームは、用語“Pフレーム”を表す用語として使用される。
インターネットプロトコル(IP)ネットワークによって搬送される共通のビデオ会議セッションのメディア(例えば音声及びビデオ)は、該メディアのパケットの転送プロトコルとして、リアルタイム転送プロトコル(RTP)を使用する。RTPプロトコルは、リアルタイムデータ転送制御プロトコル(RTCP)と合わせて使用される。RTCPは、送信の統計とサービス品質(QoS)とをモニタするために使用され、多数のストリームの同期を助ける。更に、RTPパケットは、UDP/IPにより搬送される。UDP/IPが無接続方式のプロトコルであり、信頼性に欠きパケットロス(パケット損失)を被るものであることは、当該技術において周知である。パケットロスを識別するための方法の1つとして、ビデオ会議ストリームのソースにおいて、共通のRTP処理装置が、メディアパケットの1つ1つに、それらを各宛先に送信する前に、シーケンス番号を加える。
圧縮ビデオストリームの宛先において、RTP処理装置は、それらのシーケンス番号に従って受信したパケットをソート(整列)して、該圧縮ビデオストリームを関連するデコーダに送出する。接続両端のRTP処理装置は、パケットロスを克服するために、種々の前方誤り訂正技術を使用するだろう。更に、接続両端のビデオエンコーダ/デコーダは、パケットロスを克服するために、種々の回復方法を使用する。更に別の回復方法は、1以上の欠損パケットの再送信要求を含み得、この再送信要求はストリームのソースへ送信されるものである。
例えばビデオ会議などのリアルタイム通信において、再送信は、イントラフレームをエンコードすることと、そのビデオ画像を提示している全てのエンドポイントへ該イントラフレームを送信することとを含むだろう。しかし、再送信されたフレームは、それらエンドポイントの中の1つによって要求されたものである。イントラフレームを送信することによりネットワーク上での帯域幅消費量が増加してしまうとともに、フレームレートの一時的な低下のためにユーザエクスペリエンス(ユーザ体験)が低減してしまう。
パケットロス(パケット損失)は、典型的には複数のメディアホップ(media‐hop)を用いるセッションにおいて、より頻繁に起こる。1つのメディアホップは、2以上のエンドポイントの間の中間のノードである。例えば、1つのメディアホップは、例えばMCU、MRM、メディアゲートウェイなどであり得る。本開示においては、用語“MCU”、“MRM”、“メディアゲートウェイ”及び“メディアホップ”は、文脈に応じて互換的に使用できる。複数のメディアホップが伴われるセッションにおいては、経路上のどのセグメントでも複数のパケットが欠損し得る。したがって、1番目のホップへの途中で失われたパケットは、2番目のホップにより要求されるだけでなく、当該ストリームの宛先の端末を含む1以上の次のホップにより要求され得る。このような場合、複数の再送信されたパケットによって生じた複数の不必要な再送信要求は、ネットワーク及び接続両端におけるエンドポイントに負荷をかけるだろう。
本開示の一実施形態に係る装置及びシステムの一例は、ビデオ会議セッションの参加者の体験(ユーザエクスペリエンス)を高めると同時に、セッションによる帯域消費量を軽減するものである。メディアストリーミングシステムにおいては様々な方法が使用され得、該システムにおいてメディア圧縮技術が複数のスケーラブル(scalable)レイヤを送出する。例えば、本開示に係る技術は、ビデオ会議セッションにおいて実行され、ビデオ会議セッションにおいて、ビデオ圧縮はSC形式に基づく。SC形式圧縮規格の一例は、一般にSVCと称されるH.264annexGであり得る。SC形式において、種々の複数のレイヤは、レイヤ間の従属性のために異なるレベルの重要性を持つ。例えば時間的スケーラビリティにおいて、3つのレイヤ(T0,T1及びT2)が使用されているとすると、図1Aに説明するように、各レイヤは異なるフレームレートに関連付けられている。図1AにおいてX軸は、RTPストリームにおけるフレームを表しており、そのフレームは30フレーム毎秒(F/s)のフレームレートを用いてSC形式でエンコードされたものである。30F/sで圧縮されたビデオを送出するために、圧縮ストリームは、宛先へ送信される3つのレイヤにより構成される。
第1のレイヤはベースレイヤ(BL)である。BLは、時間的スケーラビリティを表して「T0」と呼ばれる。BL(T0)は、7.5F/sで圧縮された圧縮フレームからなり、各フレームは、同じレイヤBL(T0)の先行するフレームをエンコードしている間に生成された参照フレームに基づいて圧縮される。従って、このレイヤBL(T0)の第2フレームであるフレーム♯5は、このレイヤの第1フレーム(フレーム♯1)をエンコードしている間に作成された参照フレームに基づいて圧縮される。このように、このレイヤBL(T0)の第3フレームであるフレーム♯9は、このレイヤの第2フレーム(フレーム♯5)をエンコードしている間に作成された参照フレームに基づいて圧縮され、以下同様に続く。
第2のレイヤは第1のエンハンスレイヤ(EL1)である。EL1は、時間的スケーラビリティを表して「T1」と呼ばれる。EL1(T1)は、7.5F/sで圧縮され、第1レイヤBL(T0)から2フレーム分シフトした圧縮フレームからなる。各フレームは、第1レイヤBL(T0)の先行するフレームをエンコードしている間に生成された参照フレームに基づいて圧縮される。従って、レイヤEL1(T1)の第1フレームであるフレーム♯3は、第1レイヤBL(T0)の第1フレーム(フレーム♯1)に基づいて圧縮される。レイヤEL1(T1)の第2フレームであるフレーム♯7は、レイヤBL(T0)の第2フレーム(フレーム♯5)に基づいて圧縮される。従って、フレームのレイヤBL1(T0)とEL1(T1)からなるストリームは、15F/sのフレームレートで、デコード及び提示できる。
第3のレイヤは第2のエンハンスレイヤ(EL2)である。第3のレイヤは、時間的スケーラビリティを表して「T2」と呼ばれる。EL2(T2)は、15F/sで圧縮されており、このレイヤの第1フレームであるフレーム♯2は、BL(T0)の第1フレームであるフレーム♯1と、EL1(T1)の第1フレームであるフレーム♯3との間にある。EL2(T2)の各奇数フレームは、第1レイヤBL(T0)の先行するフレームをエンコードしている間に生成された参照フレームに基づいて圧縮される。EL2(T2)の各偶数フレームは、第2レイヤEL1(T1)の先行するフレームをエンコードしている間に生成された参照フレームに基づいて圧縮される。したがって、レイヤEL2(T2)の第1フレームであるフレーム♯2は、BL(T0)の第1フレームであるフレーム♯1に基づいて圧縮される。レイヤEL2(T2)の第2フレームであるフレーム♯4は、EL1(T1)の第1フレーム(フレーム♯3)に基づいて圧縮され、以下同様に続く。従って、フレームのレイヤBL1(T0)、EL1(T1)及びEL2(T2)からなるストリームは、30F/sのフレームレートで、デコード及び提示できる。
上記の異なる複数のレイヤを圧縮する方法に基づいて、レイヤ間の優先度が割り当てられる。ベースレイヤBL(T0)のフレーム群は、最も重要なフレームであり、最も高い優先度を持ち得る。他の2つのレイヤEl1及びEL2(時間的スケーラビリティで表すとT1及びT2)それぞれのフレーム群のデコードは、先行するBL(T0)のフレームに依存するからである。EL1(T1)のフレーム群は重要度が少なく、EL2(T2)のフレーム群のデコードのみが、EL1(T1)のフレームに基づく。同様に、EL2(T2)のフレーム群はEL1(T1)のフレーム群よりも重要度が少ない。EL2(T2)フレームの圧縮データを搬送するパケット例えばフレーム♯8の欠損(損失)は、BL(T0)に属する次のフレーム♯9を受信するまでの短い期間(〜30ミリ秒)、提示される画像の品質を低下させる。しかし、BL(T0)のフレーム♯13のデータを搬送するパケットが欠損した場合には、永続的にアーティファクト(画像の乱れ)が生じてしまい、パケット欠損から回復するためにはイントラフレームが必要となる。
一例に係る実施形態は、SC形式の圧縮データを搬送するパケットのRTPヘッダーを、拡張ヘッダーを含むように変更する。拡張ヘッダーは、そのパケットにより搬送される圧縮ビデオの優先度を示す領域を含む。この領域は、PrID領域とよばれ、Pr0が最も高い優先度を示す。いくつかの実施形態において、送信エンドポイント(圧縮ストリームのソース)は、優先度レベルを定義できる。いくつかの実施形態において、優先度レベルはセッションの最中に変更され得る。優先度レベルを変更することは、例えば再送信要求の頻度に依存し得る。ベースレイヤBL(T0)の圧縮ビデオデータを搬送するパケットは、最も高い優先度Pr0で示される。EL2(T2)の圧縮ビデオデータを搬送するパケットは、最も低い優先度Pr2で示される。少数の再送信要求しか受信されないセッションにおいては、送信エンドポイントは、T0及びT1のレイヤの両方を最も高い優先度Pr0で評価するだろう。更に、ソースから宛先への経路中のメディアホップは、より低い優先度を持つRTPパケットは欠落させ、より高い優先度を持つRTPパケットを伝送するようになっていてもよい。メディアホップは、例えば、メディアGW、MCU、MRM、ブリッジなどであり得る。
更に、SC形式のRTPパケットの宛先において、RTP処理装置は、より低い優先度を持つパケットの欠損に対しては、高い優先度を持つパケットの欠損とは別様に応答するようになっていてもよい。
別の実施形態において、例えば、RTPの拡張ヘッダーは、更に、シーケンス番号に関連付けできる新しい領域を含んでよい。第1シーケンス番号は、Pr0のフレームの圧縮データを搬送する各RTPパケット毎に、ストリームのソースによって増加され得る。この領域の値は、RTPパケットのソースから受信エンドポイントまでの全工程で不変である。このシーケンス番号は、オリジナルPr0シーケンス番号(OPr0SN)と呼ばれる。このOPr0SNにより、SC形式のストリームの宛先のデコーダに接続されたRTP処理装置は、欠損したPr0パケットを識別できる。例えばBL(T0)パケットなど重要なパケットの欠損が発覚した場合、1つのIフレーム(イントラフレーム)の要求が成され得る。
第2シーケンス番号は、ホップPr0シーケンス番号(HPr0SN)と呼ばれる。HPr0SNは、そのストリームの経路中の各メディアホップによって置換される。HPr0SNにより、次のホップに接続されたRTP処理装置は、そのRTP処理装置に先行する最後のセグメントで損失されたPr0パケットを識別できる。この領域は、或るホップから次のホップへ移る毎に、変化する。各ホップは別のシーケンスカウンタを使用できるので、HPr0SNの値は或る1つのホップと別のホップとで劇的に異なり得る。各ホップは、そのシーケンス番号、すなわちHPr0SNの値を、送信又は再送信された各Pr0パケット毎に増加する。
加えて、各ホップのRTP処理装置は、この領域を調べる(チェックする)。例えばBL(T0)パケットなどの重要なパケット(Pr0)の欠損が次のRTP受信部により発見された場合、RTCP再送信要求を用いて、RTP受信部からその送信元に再送信要求を送信できる。欠損した重要なパケット(Pr0)を識別し且つ欠損した重要なパケットの再送信を要求するために、HPr0SN領域を使用することにより、優先度の低い欠損パケットの再送信要求のオーバヘッドトラフィック(通信料の余計な負荷)を効果的に除去できる。更に、各ホップは、送信された重要なパケットの一時記憶装置を処理するように構成されることで、イーグレス(egress、出口)と次のRTP受信部との間で生じた重要なパケット(Pr0)のための再送信要求に対して、ローカルで応答できるようになる。一時メモリの一例は、送信されたPr0パケットの最後の数十から数百を記憶できる。メモリの一例は、ランダムアクセスメモリ(RAM)であり、そのアドレスビットは、HPr0SNの末尾の数ビット(例えば6,8又は10ビット)であり得る。
更に、別の実施形態において、HPr0SNは、全レイヤのパケットを計数するために使用され得る。かかる実施形態において、次のホップのRTCPは、先行するホップからのセグメントに欠損パケットが生じる限りずっと、それら欠損パケットのレイヤに関わらず再送信を要求することにより、パケット欠損に対して応答するだろう。
第3シーケンス番号は、オリジナルシーケンス番号(OSN)と呼ばれ得る。OSNは、圧縮ストリームのソースにより制御され、全てのホップを通じて不変であり続けるだろう。OSNは、各送信されたパケット毎に、そのパケットの優先度に関わらずに、且つ、そのパケットにより搬送されるスケーラブルレイヤに関わらずに、増加される。このOSNにより、圧縮SC形式ストリームがデコードされるストリーム宛先のRTP処理装置は、ビデオデコーダに複数のパケットを送信するよりも前に、それら複数のパケットを編成(順番付け)できる。
本開示に係る実施形態は、時間的スケーラビリティに関連付けられているが、本開示は時間的スケーラビリティに限定されず、例えば空間的スケーラビリティなど、他の種類のスケーラビリティにも実装できることを、当業者は理解するだろう。
本開示に係るシステムの実施形態は、欠損パケットの再送信を、高い優先度のパケット(Pr0)のみに制限している。したがって、開示されたシステム及び方法によれば、帯域幅消費量を軽減でき、且つ、イントラフレームの再送信要求を軽減でき、会議参加者の体験(ユーザエクスペリエンス)を向上できる。
これら本開示の態様、及び、その他の態様は、添付の図面と詳細な説明を参照することにより、明白になるだろう。前述の概要は、本開示の可能な各実施形態又は全ての様相を要約することを意図しておらず、また、本開示の他の特徴及び利点は、以下に述べる添付図面を参照した実施形態の詳細な説明と特許請求の範囲とを読むことにより、明らかになるだろう。
更に、実施形態の具体例は、当業者に本発明の概念を説明するために詳細に記載されているが、かかる実施形態は、種々の変更及び別の形態が可能である。したがって、図面と明細書は、いずれにせよ、本発明の概念の範囲を制限することを意図してはいない。
本開示の1以上の実施形態に従う、時間的スケーラビリティの3つのレイヤを用いた30F/sの圧縮ビデオストリームの可能なSC形式の構造の一例を示す模式図。
一例に係る実施形態に従う、多種の電子ビデオ会議システムを備えたマルチメディア会議システム100を説明する図。
一例に係る実施形態に従う、送信エンドポイントのRTP処理装置例に関連する要素を示すロック図。
一例に係る実施形態に従う、受信エンドポイントのRTP処理装置例に関連する要素を示すブロック図。
一実施形態に係る中間メディアホップに従い、中間メディアホップの送信RTP処理装置の一実施形態に関連する要素を示すブロック図。
一実施形態に係る中間メディアホップに従い、中間メディアホップの受信RTP処理装置の一実施形態に関連する要素を示すブロック図。
一実施形態に係る送信EP‐RTP処理装置の送信タスクに関連するブロックのフローチャート。
圧縮されたSC形式のストリームの宛先エンドポイントのRTP処理装置の受信部により実装され得る受信方法に関連するブロックのフローチャート。 圧縮されたSC形式のストリームの宛先エンドポイントのRTP処理装置の受信部により実装され得る受信方法に関連するブロックのフローチャート。
圧縮されたSC形式のストリームを受信している間に宛先エンドポイントのRTP処理装置の受信部により実装され得る受信方法に関連するブロックのフローチャート。
圧縮されたSC形式のストリームを送信している間に中間メディアホップのRTP処理装置の一例により実装され得る方法例に関連するブロックのフローチャート。
次に図面に移ると、図面において同様な番号は同様な要素を表しており、種々の図を通じて本開示の種々の実施形態が描かれている。便宜上、同じグループの幾つかの要素のみが番号付けされる。図面の目的は、種々の実施形態を説明することであり、設計・製造の目的ではない。従って、図面に示された特徴は、説明の便宜とわかりやすさのためにのみ、選択されたものである。更に、本開示で使用される言葉は、原則的に、読みやすさと教示の目的とで選択されたものであり、発明の主題を境界付ける又は制限するために選ばれているのではない。かかる発明の主題を定義するためには、特許請求範囲の参照を必要とする。
明細書における“一実施形態”又は“或る実施形態”とは、その実施形態に関連して説明された個別の特徴、構造又は特質がこの発明の少なくとも1つの実施形態に含まれていることを意味しており、“一実施形態”又は“或る実施形態”に対する複数の言及は、必ずしも、同じ実施形態への言及の全と、理解すべきではない。
以下の説明の幾つは、ソフトウェア又はファームウェアに関連する用語で記述されるが、複数の実施形態は、ここで記述された特徴及び機能を、ソフトウェア、ファームウェア又はハードウェア、或いは、ソフトウェア、ファームウェア及びハードウェアの任意の組み合わせで実装するだろう。以下の説明において、“ユニット”、“エレメント”、“モジュール”及び“論理モジュール”は互換的に使用されるだろう。ユニット又はモジュールとして示されたものは何でも、スタンドアローンニット、又は、専用の若しくは統合されたモジュールであってよい。ユニット又はモジュールは、モジュラーであるか又はモジュラーの態様を持ち、取り外し及び別の同種のユニットモジュールへの取替えを簡単に行えるものである。各ユニット又はモジュールは、ソフトウェア、ハードウェア、及び/又は、ファームウェアのどれか1つ、又は、その任意の組み合わせであってよく、最終的に、ユニット又はモジュールに与えられた機能を実行するようにプログラムされた1以上の処理装置(processor: プロセッサ)となる。加えて、同種の又は異なる種の複数のモジュールが、単一の処理装置により実装されてよい。論理モジュールのソフトウェアは、例えば読み書き可能なハードディスク、CDROM、フラッシュメモリ、ROM、又は、その他のメモリ若しくはストレージなど、コンピュータ読み取り可能な媒体に記録されてよい。何らかのタスクを実行するために、ソフトウェアプログラムは、必要に応じて適宜の処理装置にロードされる。本開示において、用語“タスク”、“方法”、“処理”は互換的に使用できる。
図1Aは、時間的スケーラビリティの3つのレイヤを用いた30F/sのSC形式圧縮ビデオストリームに属する圧縮フレーム間の関係を説明している。前述した図1Aの説明を参照されたい。
図1Bは、本開示の一実施形態に従う、マルチメディア会議システム100を示す。システム100は、ネットワーク110、1以上のマルチメディア中継MCU(MRM)120及び複数のメディア中継エンドポイント(MRE130)を含む。別の実施形態に係るシステム100において、MRM120はマルチポイント制御ユニット(MCU)であり得、複数のMRE130はビデオ会議エンドポイント(EP)であり得る。ネットワーク110は、任意のパケット交換ネットワーク、IPネットワーク、又は、それらの任意の組み合わせであり得る。セッション管理通信は、例えばH.323及びSIPなどのプロトコルに基づいて行われ、メディア送信プロトコルは、RTCPと組み合わせたRTPに基づいて行われ、例えば音声(オーディオ)圧縮規格G.711及びG.719、及び/又は、H.264AVC、H.264annex、MPEG‐4などのビデオストリーミング及び多品質ストリーミングのために使用されるビデオ圧縮規格を、使用するだろう。
各EP又はMRE130は、他のエンドポイント130又はMCU120に、リアルタイムの双方向音声及び/又は映像通信を提供できる。或るEP130は、セッションにおいて会議参加者の端末になり、MCUから圧縮されたメディアを受信でき、且つ、MCUからの指示に従い圧縮された音声及びビデオを送出できる。ビデオ会議するエンドポイントとMCUとで共通の動作は、当業者にとって周知であり、ここでは更なる詳述はしない。
MRE130は、例えば、MRMへ1以上の圧縮ビデオストリームを送出し、且つ、MRM120から1以上の選択された圧縮ビデオストリームを受信するだろう。該MREは、該受信された1以上の圧縮ビデオストリームをデコード(復号)し、デコードされたビデオストリームからMRE130のスクリーン上に表示されるビデオ画像を構成するだろう。MRM120は、メディア中継MCUであり、複数のMRE130から複数の圧縮ビデオストリームを受信し、1以上の圧縮ビデオストリームのセットを選択し、その1以上の圧縮ビデオストリームのセットを複数のMRE130に中継する。複数のMRE130は、メディア中継会議(MRC)セッションに参加している。MRE,MRM及びMRCについてもっと学びたい読者には、米国特許出願公開番号2010/0194847号公報を読むことを勧め、その内容を本開示に援用する。
前述したような、EP又はMRE130の共通動作の一例に加えて、EP/MRE130は、2種類のRTP処理装置を含むように構成できる。第1の種類のRTP処理装置は、送信エンドポイントRTP処理装置(TERTP)と呼ばれ得る。各TERTPは、ビデオストリームのエンコーダ(図示せず)と該エンドポイントのネットワークインタフェースカード(図示せず)との間に、通信可能に接続され得る。或る実施形態に係るTERPは、圧縮ビデオストリーム・ネットワーク・アブストラクション・レイヤ(NAL)データユニットを取得でき、NALユニットを集めてRTPパケットにでき、そして、ネットワークインタフェースへの該RTPパケットの伝送より優先的に、該RTPパケットに拡張RTPヘッダーを付加できる。並行して、最も優先度の高いレイヤ(Pr0)の圧縮ビデオを搬送するRTPパケットは、一時メモリに記憶され得る。記憶されたパケットは、送信エンドポイントと次のメディアホップの間でPr0パケットが欠損(すなわちパケットロス)した際の再送信用に使用され得る。
拡張RTPヘッダーは、共通RTPヘッダーの領域を含み得る。例えばシーケンス番号(SN)、タイムスタンプなどの領域。更に、拡張RTPヘッダーは、本開示の技術の一実施形態により使用される追加的な4つの領域の拡張を含み得る。そのうちの1つの領域は、PrIDと呼ばれ、RTPパケットにより搬送された圧縮ビデオレイヤの優先度レベルを示す。別の1つの領域は、シーケンス番号に割り当てられ、オリジナルシーケンス番号(OSN)と呼ばれる。OSNは、全ての中間メディアホップを通じて不変である。OSNは、その優先度とは関係なく、最初のパケット送信に対して、TERPによって増加される。このOSNにより、圧縮SC形式ストリームがデコードされるストリーム宛先のRTP処理装置は、ビデオデコーダ(図示せず)に複数のパケットを伝送する前に、それら複数のパケットを編成(順番付け)できる。
更に別の領域は、別の新たなシーケンス番号に割り当てられる。このシーケンス番号は、重要なフレーム(Pr0のフレーム)の圧縮データを搬送する各RTPパケット毎に、増加され得る。この領域の値は、ソースEPのTERPからRTPパケットの受信エンドポイントまでの全経路で、不変であり続ける。このシーケンス番号は、オリジナルPr0シーケンス番号(OPr0SN)と呼ばれる。OPr0SNは、初めて送信された各重要な(Pr0)RTPパケットに対して、増加される。OPr0SNにより、SC形式ストリームの宛先のデコーダ(図示せず)に接続されたRTP処理装置は、欠損したPr0パケットを識別できる。例えばBL(T0)パケットなど重要なパケットの欠損が発覚した場合、1つのイントラフレーム(Iフレーム)の要求が成され得る。
4つ目の領域は、ホップPr0シーケンス番号(HPr0SN)と称されるシーケンス番号に割り当てられる。HPr0SNは、ストリームの経路中の各メディアホップによって置換され得る。HPr0SNにより、次のメディアホップにおいてRTP処理装置は、そのセグメントで損失されたPr0パケットを識別できる。HPr0SNの値は、欠損した1以上の重要なパケットの再送信要求のために、該次のメディアホップにより使用され得る。TERPの実施形態についての詳細は、FIG2A及びFIG4と併せて後述される。
第2の種類のRTP処理装置は、受信エンドポイントRTP処理装置(RERP)と呼ばれる。RERPの一例は、エンドポイントのネットワークインタフェースカード(図示せず)と、該エンドポイントのビデオストリームのデコーダ(図示せず)の間に、通信可能に接続され得る。一実施形態に係るRERPは、圧縮ビデオストリームNALデータユニットを搬送するRTPパケットのストリームを取得できる。一実施形態に係るRERPは、拡張RTPヘッダーを解析できる。HPr0SNの値に基づいて、前記RERPは、最終メディアホップと受信EPの間にあるネットワークセグメントの最後で、重要なパケットが失われたかどうかを決定できる。重要なパケットが失われている場合、最終メディアホップに、再送信要求が送信され得る。
RERPは、拡張RTPヘッダーのOSN領域に従って、受信されたRTPパケットを編成(順番付け)でき、OPr0SNは、重要なパケットが欠損したかどうかを決定するためにチェックされて、重要なパケットが失われている場合には、1つのイントラフレームの要求が、当該ストリームのソースであるエンコーダ(図示せず)に送信される。編成されたRTPパケットは解析され、そして圧縮NALデータユニットとして扱われる。圧縮NALデータユニットは、デコーダ(図示せず)へ伝送され得る。拡張RTPヘッダーを処理できるようにしたMRE130の一例は、MRM120から中継された圧縮ビデオストリーム毎に1つずつ、複数のRERPを含む。一実施形態に係るTERPについての詳細は、FIG2B及びFIG5A‐5Bと併せて後述される。
本開示に従い構成されたMCUの一実施形態は、複数のRERPモジュールと複数のTERPモジュールを具備する。各RERPモジュールは、或るエンドポイントに割り当てられたネットワークインタフェースカード(図示せず)とデコーダを含む入力ポート(図示せず)との間に、通信可能に接続され得る。入力ポートも、そのエンドポイントに割り当てられる。各RERPは、上述したEPのRERPユニットのタスクと同様なタスクを実行できる。入力ポートのデコーダによりデコードされたビデオは、出力ポートへ伝送され得る。出力ポートは、複数の入力ポートからデコードされたビデオを取得し、該デコードされたビデオを調整(scale;スケール)し、そして、CP(常駐表示、画面分割)ビデオ画像を作成できる。CPビデオ画像は、出力ポート(図示せず)のSC形式ビデオエンコーダにより圧縮され得る。
各出力ポートからの圧縮CPビデオ画像のNALデータユニットは、TERPモジュールに伝送され得る。このTERPモジュールは、出力ポートとして共通の受信EPに割り当てられており、且つ、同じEPに割り当てられたネットワークインタフェースカード(図示せず)に通信可能に接続される。各TERPは、上述したEPのTERPユニットのタスクと同様なタスクを実行できる。
本開示に従い構成されたMRM120の一実施形態は、1以上の中間メディアホップ受信RTP処理装置(IMHRRP)及び1以上の1以上の中間メディアホップ送信RTP処理装置(IMHTRP)を具備できる。各IMHRRPは、1つのMRE130から受信された圧縮SC形式ビデオのストリームに割り当てられており、且つ、1以上の他のMRE130に中継される。共通RTP処理装置の数多のタスクの中で、一実施形態に係るIMHRRPは、割り当てられたMRE130から圧縮SC形式ビデオのRTPパケットを取得して、拡張RTPヘッダーを解析する。HPr0SN領域に基づいて、重要なパケットが最後のセグメントで損失したかどうかを決定することができる。重要なパケットを損失した場合、IMHRRPは、HPr0SNに基づいて、先行のメディアホップに再送信要求を送信できる。一実施形態に係るIMHTRPは、拡張ヘッダーのPrID領域を調べ得る。該PrID領域がPr0の場合、IMHTRPは、そのHPr0SNを増加して、当該IMHTRPのHPr0SNカウンタの新しい値に、RTPヘッダー内のHPr0SNの値を置換する。該PrID領域の値がPr0でない場合、HPr0SNカウンタは増加されず、拡張RTPヘッダーのHPr0SN領域には、直前の値がロードされる。SN値は、新しいものに置換され得、RTPパケットは1以上のMRE130へ伝送され得る。最も優先度の高いレイヤ(Pr0)の圧縮ビデオを搬送するRTPパケットは、一時メモリに記憶され得る。記憶されたパケットは、MRM120と次のメディアホップ又はMREの間でPr0パケットが欠損した場合の再送信要求に使用され得る。MRM120の詳細情報は、FIG3A,3B、6及び7と併せて後述される。
図2Aは、一実施形態に係る送信EPの送信エンドポイントRTP処理装置(TERP)200に関連する要素のブロック図を例示する。EPは、或るMCUからCPビデオ画像を受信する共通のビデオ会議エンドポイント、または、自身によりCPビデオ画像を作成するMREであり得る。数多の要素のうち、MREの要素は、1以上のTERP200を含み得る。各TERP200は、MRE(図示せず)のエンコーダに関連付けられ得る。一実施形態に係るTERP200は、NAL累算部210、RTPヘッダー作成部215、送信バッファ220、再送信Pr0バッファ(ReX‐Pr0バッファ)225、送信RTP管理部230及び4つのシーケンスカウンタ235a〜235dを具備してよい。関連するEPがビデオ会議に参加したとき、各シーケンスカウンタは、例えばランダムに生成された数にセットされ得る。
1つのシーケンスカウンタ235aは、共通のRTPシーケンス番号をカウントでき、このカウンタは、最終SNと呼ばれ、最初に又は再送信要求の受信に応じてエンドポイントから送信されるRTPパケット毎に、増加される。最終SNの値は、送信されたRTPパケットのヘッダーのSN領域に書き込まれ得る。別のシーケンスカウンタ235bは、関連するEP(図示せず)の関連付けられたエンコーダにより圧縮されたオリジナルRTPパケットをカウントできる。シーケンスカウンタ235bは、最終OSNと呼ばれ、最初にエンドポイントから送信されたオリジナルの(再送信されたものでない)RTPパケット毎に、増加される。最終OSNの値は、送信されたRTPパケットの拡張ヘッダーのOSN領域に書き込まれ得る。更に別のシーケンスカウンタ235cは、Pr0フレームの圧縮データを搬送するオリジナルRTPパケットをカウントできる。シーケンスカウンタ235cは、最終OPr0SNと呼ばれ、Pr0フレームの圧縮データを搬送しており且つ最初にエンドポイントから送信されたオリジナルの(再送信されたものでない)RTPパケット毎に、増加される。最終OPr0SNカウンタの値は、送信されたRTPパケットの拡張ヘッダーのOPr0SN領域に書き込まれ得る。もう1つのシーケンスカウンタ235dは、Pr0フレームの圧縮データを搬送し且つそのEPから送信されたオリジナルRTPパケットをカウントできる。このシーケンスカウンタ235dは、最終HPr0SNと呼ばれ、Pr0フレームの圧縮データを搬送しており且つエンドポイントから送信又は再送信されたオリジナル及び再送信されたRTPパケット毎に、増加される。最終HPr0SNカウンタの値は、送信されたRTPパケットの拡張ヘッダーのHPr0SN領域に書き込まれ得る。
一実施形態に係るTERP200は、関連付けられたエンコーダ(図示せず)から圧縮されたNALユニットのストリームを受信するだろう。NALユニットのストリームは、異なる優先度を持つ2以上のレベルの圧縮NALユニットを搬送できる。取得されたNALユニットのストリームは、RTPパケットを完成させるためのRTPプロトコルの条件を果たすまで、NAL累算部210に集積され得る。1つのRTPパケットのための条件の一例は、RTPパケットのペイロードとして搬送されるべきバイト数であり得る。別の条件は、ビデオフレームの末尾であり得る。更に別の条件は、他の優先度レベルを持つNALなどであり得る。かかる条件が生じるとき、集積された1以上のNALは、ヘッダー作成部215のキュー(待ち行列)に、1つのRTPパケットのペイロードとして伝送され得る。
一実施形態に係るヘッダー作成部215において、パケットの共通RTPヘッダーは、パケットのペイロードに加えられ得る。共通RTPヘッダーの拡張領域は、拡張されたRTP領域の存在を示すようにセットされ得る。数多の領域のうち、共通RTPヘッダーは、タイプスタンプ領域に書き込まれた取込時刻を含む。次に、最終SNカウンタ235aは、RTPヘッダー内のSN領域などにコピーされ得る。
共通ヘッダーに加えて、拡張ヘッダーの領域が追加され得る。圧縮データのスケーラブルレイヤが、エンコーダから受信され、パケットの優先度レベルが、Pr0,Pr1・・・などとして定義され得る。一実施形態において、パケットの優先度レベルは、受信された再送信要求の頻度に基づき得る。複数の再送信要求が受信された場合、圧縮されたフレームのベースレイヤを搬送するパケットのみが、Pr0と定義され得る。幾つかの再送信要求が受信された場合、ベースレイヤ及び第1エンハンスレイヤの圧縮レイヤを搬送するパケットが、Pr0と定義され得る。幾つかの実施形態において、優先度レベルは、再送信要求の頻度の機能として、会議セッション中に変更され得る。Prの値は、拡張RTPヘッダーのPr領域に記憶され得る。
更に、3つのシーケンスカウンタ、最終OSN、最終OPr0SN、最終HPr0SN(それぞれ235b,235c,235d)の値は、それぞれOSN領域、OPr0SN領域、HPr0SN領域という、拡張RTPヘッダー内の適宜の領域に、コピーされ得る。作成されたRTPパケットは、拡張RTPヘッダーを有しており、ヘッダー作成部215から、送信バッファ220を経て、ネットワークインタフェースカード(図示せず)へ伝送され得る。ここで、ネットワークインタフェースカードは、圧縮ビデオストリームに関連付けられている。並行して、重要なフレーム(Pr0)の圧縮ビデオデータを搬送するRTPパケットは、ReX‐Pr0バッファ225に記憶され得る。
ReX‐Pr0バッファ225は、RAM装置であり得、ReX‐Pr0バッファ225の各アドレスは、拡張RTPヘッダーを持つPr0圧縮ビデオのRTPパケット全体を記憶できる。Pr0のRTPパケットを記憶できるアドレスは、該パケットの拡張RTPヘッダーのHPr0SN領域の末尾数ビットを表し得る。末尾数ビットの数は、例えば、HPr0SN領域の末尾の6〜10ビットであり得る。
送信RTP管理部230は、TERP200の全体処理を管理する。RTP接続の初期化の間、送信RTP管理部230は、4つのシーケンスカウンタ235a〜dを割り当て且つセットする。各シーケンスカウンタ235a〜dは、ランダムな数にセットされ得、送信されたRTPパケットの特質に従い、増加される。幾つかの実施形態では、1以上のシーケンスカウンタは、或る一定の数にセットされ得る。たとえば、最終HPr0SNはゼロにセットされ得る。加えて、RTP管理部は、RTP接続を制御するために、RTP接続の受信側のRTP管理モジュールと通信できる。RTP接続の受信側のRTP管理モジュールとの通信は、RTCP通信プロトコルを用いて行うことができる。
会議セッション中、RTP管理部230は、受信側のRTP管理部からRTCP再送信要求を受信するだろう。再送信要求の一例は、再送信要求リスト(ReXReqリスト)を含む。ReXReqリストは、要求されたPr0パケットのリストを含み得る。該リストは、欠損した重要なパケット(Pr0)のHPr0SN領域の値を含み得る。ReXReqリストに基づいて、RTP管理部230は、同じHPr0SN値を持つパケットを求めて、ReX‐Pr0バッファ225を検索するだろう。要求されたPr0パケットがReX‐Pr0バッファ225に記憶されている場合、これらパケットはReX‐Pr0バッファ225から取り出されて、ヘッダー作成部215へ伝送され得る。
ヘッダー作成部215において、SN及びHPr0SNの領域は、最終SNカウンタ235a及び最終HPr0SNカウンタ235dの現在値に従い、更新され得る。拡張RTPヘッダーのOSN領域及びOPr0SN領域の値は、変更しないままである。そして、最終SNカウンタ235a及び最終HPr0SNカウンタ235dは増加され得、要求されたパケットは送信バッファ220経由で再送信され得る。1以上の要求されたPr0パケットがReX‐Pr0バッファ225に存在しない場合、イントラ要求が、関連付けられたエンコーダ(図示せず)に、RTP管理部230により送信され得る。なお、TERP200の動作についての更なる情報は、図4に併せて後述される。
次に図2Bを参照すると、一実施形態に係る受信EP‐RTP処理装置(RERP)250に関連する要素によりブロック図が示されている。受信EPは、CP画像を作成するMCU又はMREから、CPビデオ画像を受信する共通ビデオ会議エンドポイントであり得る。数多の要素のうち、一実施形態に係るMREは、1以上のRERP250を具備してよい。各RERP250は、送信MREから例えば直接又はMRM経由で受信している圧縮ストリームと、受信したストリームをデコードするためのデコーダ(図示せず)とに関連付けられ得る。一実施形態に係るRERP250は、ジッタバッファ255、編成OSNバッファ(OOSNB)260、重要レイヤ確認部262、NALバッファ265、RTPヘッダー解析部270及び受信RTP管理部275を備えてよい。
一実施形態に係るRERP250は、関連するストリームに関連付けられたネットワークインタフェース(図示せず)から、圧縮ビデオNALデータユニットを搬送するRTPパケットのストリームを取得するだろう。取得されたRTPパケットは、ジッタバッファ255に記憶される。ヘッダー解析部270は、ジッタバッファ255に記憶されたRTPパケットの拡張RTPヘッダーを解析するだろう。拡張領域PrID及びHPr0SNの値に基づいて、最後のメディアホップからの経路中で1以上の重要なパケットPr0が失われたかどうかについて決定がなされる。HPr0SN内にギャップ(隙間、空き)が検出された場合、1以上の欠損Pr0パケットの再送信要求用リストの要求が、受信RTP管理部275経由で、送信EPの送信RTP管理部230(図2A)へ送信され得る。
ジッタバッファ255の複数のRTPパケットは、伝送され、それらのOSN拡張領域の値に基づいてOOSNB260に記憶され得る。一実施形態に係る重要レイヤ確認部262は、そのOSNの値に基づいて、OOSNB260の中から、次の1つのパケットを取得でき、拡張RTPヘッダーのOPr0SN領域の値が、重要なパケット(Pr0)が欠損したかどうかを決定するために、チェックされる。OPr0SN内にギャップが検出された場合、イントラフレームの要求が、RTCP接続を用いて、受信RTP管理部275経由で、送信EPの関連付けられたエンコーダ(図示せず)へ送信される。取得されたRTPパケットは、1以上のNALユニットに分解され、複数のNALユニットは、NALバッファ265に記憶され得る。NALユニットは、NALバッファ265内に記憶されたNALユニットの順番に従い、図示外の関連付けられたデコーダに取得され得る。共通エンドポイントにおいて、関連付けられたデコーダは、受信した圧縮CPビデオ画像をデコードでき、デコードされたCPビデオ画像は、当該EPの表示ユニット上に表示され得る。MREにおいて、関連付けられたデコーダからのデコードビデオ画像は、CP画像作成部(図示せず)へ伝送され、そこでCPビデオ画像の一区画に配置され、MRE表示ユニットにおいて、CPビデオ画像の一部として提示され得る。
受信RTP管理部275は、RERP250の処理全体を管理するだろう。RTP接続の初期化の間、受信RTP管理部275は、RERP250のリソースに割り当てられ、セットされ得る。また、受信RTP管理部275は、RTP接続を制御するために、RTCP接続経由で、RTP接続の送信側の送信RTP管理モジュールと通信できる。送信側は、例えばEP,MRE,MCU又はMRMであり得る。
会議セッション中、受信RTP管理部275は、送信側の送信RTP管理部へ、RTCP再送信要求を送信するだろう。再送信要求の一例は、再送信要求リスト(ReXReqリスト)を含む。ReXReqリストは、要求されたPr0パケットのリストを含み得る。該リストは、欠損した重要なパケット(Pr0)のHPr0SN領域の値を含み得る。更に、受信RTP管理部275は、関連付けられたデコーダ(図示せず)へ圧縮ビデオを伝送する前に重要なパケットの欠損が検出された場合、イントラフレームの要求を送信できる。RERP250の動作に関する更なる情報は、図5A,5Bと併せて後述される。
MCUは、複数のEPからの複数の圧縮ビデオストリームを受信し;圧縮されたストリームをデコードし;1以上のCPビデオ画像を作成し;1以上のCPビデオ画像を圧縮して、複数のEPへ1以上の圧縮されたCPビデオ画像を送信するメディアホップの一例である。かかるMCUは本開示の技術の一実施形態に従い適用され得る。一実施形態に係るMCUは、複数のRERP250を具備する。各RERP250は、或る1つのEPからの圧縮ビデオに関連付けられたネットワークインタフェースとデコーダの間に通信可能に設置される。また、一実施形態に係るMCUは、複数のTERP200を具備する。各TERP200は、1以上のEPへ送信される圧縮ビデオストリームに関連付けられたエンコーダとネットワークインタフェースの間に通信可能に設置される。
図3Aは、一実施形態に係る中間メディアホップに従う、中間メディアホップ送信RTP処理装置(IMHTRP)300の一実施形態に関連する要素のブロック図を描いている。中間メディアホップは、複数のMREからの複数の圧縮ビデオストリーム、及び、複数のMREへの複数の圧縮ビデオストリームを、中継するMRMである。数多の要素のうち、一実施形態に係るMRMは、1以上のIMHTRP300を具備してよい。各IMHTRP300は、MRMとMREの間のRTP接続に関連付けられ得る。一実施形態に係るIMHTRP300は、入力バッファ310、RTPヘッダー変更部320、メディアホップ(MH)送信バッファ325、MH再送信‐Pr0バッファ(ReXPr0バッファ)330、送信MH‐RTP管理部340及び2つのMHシーケンスカウンタ335a,bを具備する。関連するRTPが確立されたとき、各MHシーケンスカウンタ335a,bは、例えばランダムに生成された数にセットされ得る。幾つかの実施形態において、1以上のシーケンスカウンタが一定の数にセットされ得る。例えば最終HPr0SNはゼロにセットされ得る。
1つのMHシーケンスカウンタ335aは、共通RTPシーケンス番号をカウントでき、このカウンタは最終SNと呼ばれ、最初に又は再送信要求の受信に応じて、IMHTRP300から送信されたRTPパケット毎に、増加され得る。最終SNの値は、送信されたRTPパケットのヘッダーのSN領域に書き込まれ得る。もう一方のシーケンスカウンタ335bは、重要なフレーム(Pr0フレーム)の圧縮されたデータを搬送するRTPパケットをカウントでき、このカウンタは最終HPr0SNと呼ばれ、IMHTRP300から送信又は再送信されたPr0フレームの圧縮データを搬送するオリジナルのRTPパケット、又は、再送信されたRTPパケット毎に、増加され得る。最終HPr0SNの値は、送信されたRTPパケットの拡張ヘッダーのHPr0SN領域に書き込まれ得る。
一実施形態に係るIMHTRP300は、中間メディアホップの内部要素(図示せず)から圧縮RTPパケットストリームを受信してよく、関連RTP接続へ向けられてよい。圧縮RTPパケットストリームは、異なる優先度を持つ2以上のレイヤの圧縮NALユニットを搬送できる。取得されたRTPパケットは、入力バッファ310に記憶され得る。この入力バッファ310から各RTPパケットが、ヘッダー変更部320によって取得される。
一実施形態に係るヘッダー変更部320において、パケットのRTPヘッダーは、変更され得る。MH最終SNカウンタ335aの値は、例えば直前の値に代えて、RTPヘッダーのSN領域に書き込まれる。MH最終HPr0SNカウンタ335bの値は、直前の値に代えて、拡張RTPヘッダーのHPr0SN領域に書き込まれる。HPr0SN領域の変更は、パケットが関連するRTP接続へ送信された最初のとき又はパケットの再送信に対して、行われ得る。拡張RTPヘッダーを有するRTPパケットは、ヘッダー変更部320からMH送信バッファ325経由でネットワークインタフェースカード(図示せず)へ伝送され得る。ネットワークインタフェースカードは、関連するRTP接続に関連付けられ得る。並行して、重要なフレーム(Pr0)の圧縮ビデオデータを搬送するRTPパケットは、MHReX‐Pr0バッファ330に記憶され得る。
MHReX‐Pr0バッファ330はRAM装置であり得、MHReX‐Pr0バッファ330のRAMないの各アドレスは、拡張RTPヘッダーを持つPr0圧縮ビデオのRTPパケット全体を記憶できる。Pr0のRTPパケットを記憶できるアドレスは、該パケットの拡張RTPヘッダーのHPr0SN領域の末尾数ビットを表し得る。末尾数ビットの数は、例えば、HPr0SN領域の末尾の6〜10ビットであり得る。
送信MH‐RTP管理部340は、IMHTRP300の処理全体を管理するだろう。RTP接続の初期化の間、送信MHRTP管理部340は、2つのMHシーケンスカウンタ335a,bを割り当てて、セットできる。各MHシーケンスカウンタ335a,bは、ランダムな数又はゼロにセットされ得、送信されたRTPパケットの性質に従い増加され得る。更に、MHRTP管理部340は、RTP接続を制御するために、RTP接続の受信側のRTP管理モジュールと通信できる。接続の受信側の管理モジュールとの通信は、RTCP通信プロトコルを用いて行われ得る。
会議セッション中、MHRTP管理部340は、接続の受信側のRTP管理部からのRTCP再送信要求を受信するだろう。再送信要求の一例は、再送信要求リスト(ReXReqリスト)を含む。ReXReqリストは、要求されたPr0パケットのリストを含み得る。該リストは、欠損した重要なパケット(Pr0)のHPr0SN領域の値を含み得る。ReXReqリストに基づいて、MH‐RTP管理部340は、同じHPr0SNの値を持つパケットを求めて、MHReX‐Pr0バッファ330を検索する。要求されたPr0パケットがMHReX‐Pr0バッファ330に記憶されている場合、これらパケットはMHReX‐Pr0バッファ330から取り出されて、ヘッダー変更部320へ伝送され得る。
ヘッダー変更部320において、SN及びHPr0SN領域は、MH最終SNカウンタ335a及びMH最終HPr0SNカウンタ335bの現在値に従い更新され得る。拡張RTPヘッダーのOSN及びOPr0SN領域の値は、変更されないままである。そして、MH最終SNカウンタ335a及びMH最終HPr0SNカウンタ335bが増加されて、要求されたパケットがMH送信バッファ325経由で再送信され得る。1以上の要求されたPr0パケットがMHReX‐Pr0バッファ330に存在しない場合は、MHRTP管理部340により、関連するストリームを発したエンドポイントに対して、イントラ要求が送信され得る。いくつかの実施形態において、1以上のシーケンスカウンタは、RTPヘッダー内の関連する領域の更新前に増加され得る。IMHTRP300の動作に関する更なる情報は、図7と併せて後述される。
次に図3Bを参照すると、一実施形態にかかる中間メディアホップ受信RTP処理装置(IMHRRP)350の関連要素のブロック図が描かれている。中間メディアホップは、複数のMREからの複数の圧縮ビデオストリーム、及び、複数のMREへの複数の圧縮ビデオストリームを、中継するMRMである。数多の要素のうち、一実施形態に係るMRMは1以上のIMHRRP350を具備してよい。各IMHRRP350は、当該MRMと、送信MRE又は経路に沿う他のMRMとの間の、RTP接続に関連付けられ得る。一実施形態に係るIMHRRP350は、バッファ360、MH‐RTPヘッダー解析部370及びMH‐受信‐RTP管理部380を具備する。
一実施形態に係るIMHRRP350は、関連するRTP接続に関連付けられたネットワークインタフェースカード(図示せず)からの圧縮ビデオNALデータユニットを搬送しているRTPパケットのストリームを取得するだろう。取得されたRTPパケットは、バッファ360に記憶される。バッファ360は、例えば循環メモリであり得、複数の取得されたRTPパケットを記憶する。
MHヘッダー解析部370は、バッファ360の中から、次の1つのRTPパケットを取得して、取得されたRTPパケットの拡張RTPヘッダーを解析し、中間メディアホップの内部ユニット(図示せず)へ、該取得されたRTPパケットを伝送するだろう。
PrID及びHPr0SN拡張領域の値に基づいて、一実施形態に係るMHヘッダー解析部370は、Pr0パケットすなわち重要なパケットが、送信MRE又はMRMからの経路の最終セグメントにて損失したかどうかを決定するだろう。
HPr0SNにギャップが検出された場合、受信MHRTP管理部380はいずれの1以上の重要なパケットが欠損したかを決定でき、1以上の欠損したPr0パケットの再送信用のリストを含む要求が、受信MHRTP管理部380経由で、RTCP接続を通じて、送信MREの送信RTP管理部230(図2A)又は直前の中間MHの送信MHRTP管理部340へ送信され得る。
受信MHRTP管理部380は、IMHRRP350の処理全体を管理してよい。RTP接続の初期化の間、受信MHRTP管理部380は、IMHRRP350のリソースを割り当てて、セットしてよい。更に、受信MHRTP管理部380は、RTP接続を制御するために、RTCP接続経由で、送信RTP管理モジュール230(図2A)、又は、RTP接続の送信側の送信MHRTP管理部340と、通信できる。
会議セッション中、受信MHRTP管理部380は、送信EPの送信RTP管理部230又はメディアホップの送信RTP管理部340へ、RTCP再送信要求を送信するだろう。再送信要求の一例は、再送信要求リスト(ReXReqリスト)を含む。ReXReqリストは、要求されたPr0パケットのリストを含み得る。該リストは、欠損した重要なパケット(Pr0)のHPr0SN領域の値を含み得る。IMHRP350の動作に関する更なる情報は、図6と併せて後述される。
次に図4を参照すると、送信EP‐RTP処理装置(TERP)200の送信タスク400の関連ブロックを示すフローチャートである。TERP200は、当該TERP200に関連付けられたRTP接続を通じて伝送された圧縮SC形式ストリームのソースであるEP又はMREに関連付けられ得る。方法400は、送信EP/MREと次のメディアホップとの間のRTP接続確立中に開始され得る(402)。RTP接続は、会議セッションの確立中又は進行中のセッションへの参加に際して開始され得る。
開始後、TERPのリソースが割り当て及びセットされる(404)。例えば、4つのシーケンスカウンタ235a〜d(図2A)が割り当てられて得る。各カウンタ(最終SN、最終OSN、最終OPr0SN、最終HPr0SN)は、例えばランダムな数又はゼロにセットされ得る。更に、例示に限定されないが、例えばReX−Pr0バッファ225(図2A)などのバッファが割り当て及びリセットされ、また、例えば最終IDRなどのレジスタが割り当て及びリセットされる。
次に、送信RTP管理部230(図2A)は、そのキュー(待ち行列)内に、ReX要求リストへの記入が存在しているかどうかをチェックする(410)。存在しない場合、方法400はブロック412に続く。410においてReX要求リストへの記入が存在している場合、当該要求が取り出され、該記入がクリアされ、取り出された要求が解析され、そして、要求されたHPr0SNの値が最終IDRレジスタに記憶された値よりも小さいかどうかの決定がなされる(430)。最終IDRレジスタは、イントラPr0フレームの始まりを搬送する1番目のパケットのHPr0SN領域の値を記憶する。前記ブロック430において値がより小さい場合、欠損したパケットにより搬送された圧縮Pr0ビデオデータの後にイントラフレームが既に送信されたことを示しており、欠損パケットの再送信の必要がなく、方法400はブロック410に戻る。
前記ブロック430において値がより小さくない場合、ReX−Pr0バッファ225(図2A)がチェックされ(432)、要求されたPr0パケットがReX−Pr0バッファ225に存在するかどうかの決定がなされる。要求されたパケットがReX−Pr0バッファ225に存在していない場合、デコーダリフレッシュ要求(イントラ要求)が、関連するストリームのエンコーダに対して送信されて(436)、方法400はブロック410に戻る。前記ブロック432において、要求されたリストに記載されたPr0パケットがReX−Pr0バッファ225に存在している場合、要求されたPr0パケットがReX−Pr0バッファ225から取得され、削除され(434)、そして方法400は、取得されたPr0パケットを処理するために、ブロック440に進む。
ブロック410に戻ると、ReX要求リストに最早記入がない場合、NAL累算部210(図2A)は調査され(412)、それにより、1つのRTPパケットのペイロード用に十分なバイト数があるかどうか(414)を決定する。前記ブロック414において十分なバイト数がない場合、関連するエンコーダから追加のNALユニットを集めることができるように、方法400はブロック410に戻る。前記ブロック414において、1つのRTPパケットのペイロード用に十分なバイト数がある場合、NAL累算部210からNLAユニットを取得することによりペイロードが集められる。そして、該ペイロードに対するRTPヘッダーを組み立て、また、拡張ヘッダーを組み立てるために、該ペイロードがヘッダー作成部215(図2A)に伝送されて、RTPパケットを作成する(416)。PrIDはエンコーダから受信された情報に従いセットされ得る。
OSNシーケンスカウンタの値、最終OSNは増加され、そして、新しい最終OSNが、拡張RTPヘッダーのOSN領域に書き込まれ得る(418)。次に、ペイロードのコンテンツがPr0フレーム、すなわち重要なフレームの圧縮ビデオを含んでいるかどうかの決定がなされる(420)。含んでいない場合、最終OPr0SNの値はそのまま残り、その値が拡張RTPヘッダーのOPr0SN領域にコピーされる(428)。そして方法400はブロック442に進む。
前記ブロック420において、RTPパケットのペイロードが重要なフレームの圧縮ビデオを搬送している場合は、最終OPr0SNカウンタの値が増加され(422)、新しい値が拡張RTPヘッダーのOPr0SN領域にコピーされる(428)。次に、解析された圧縮ビデオのヘッダーに基づいて、RTPパケットがイントラフレームの始まりを搬送しているかどうかの決定がなされる(424)。搬送している場合、シーケンスカウンタ最終Pr0SNに1加算した値が最終IDRレジスタにコピーされる(426)。この最終IDRレジスタは、ブロック430において再送信要求を処理するために使用される。方法400はブロック440に進む。
ブロック440においてシーケンスカウンタ最終Pr0SNが増加される。シーケンスカウンタ最終Pr0SNの値は、拡張RTPヘッダーのHPr0SN領域にコピーされ(442)、且つ、シーケンスカウンタ最終SNが増加されて(442)、シーケンスカウンタ最終SNの新しい値がRTPヘッダーのSN領域にコピーされる。
拡張RTPヘッダーのPrID領域に基づいて、パケットが重要なフレームのデータを搬送しているかどうかの決定がなされる(450)。前記450においてパケットが重要なフレームのデータを搬送していない場合、方法400はブロック454に進み、ネットワークインタフェースカード(図示せず)経由で、且つ、関連するRTP接続を通じて、次のメディアホップへ新しいRTPパケットを送信する。RTPパケットの送信後、方法400は、ブロック410に戻り新たな処理サイクルを始める。前記450においてパケットが重要なフレームのデータを搬送している場合、方法400は、ReX−Pr0バッファ225にRTPパケットのコピーを記憶して(452)、ネットワークインタフェースカード(図示せず)経由で、且つ、関連するRTP接続を通じて、次のメディアホップへ新しいRTPパケットを送信する(454)。それから、方法400は、ブロック410に戻り新たな処理サイクルを始める。いくつかの実施形態に係るRTER200(図2A)において、ReX−Pr0バッファ225においてRTPパケットを記憶するアドレスは、そのパケットの拡張RTPヘッダーのHPr0SN領域の値を表し得る。
図5Aは、編成方法500の一例に関連するブロックのフローチャートを示す。編成方法500は、一実施形態に係る受信EP−RTP処理装置(RERP)250により実行され得る。RERP250は、当該RERP250に関連付けられたRTP接続を通じて伝送される圧縮SC形式ストリームの宛先における受信EP又は受信MREに関連付けられ得る。方法500は、受信EP/MREと直前のメディアホップとの間のRTP接続確立中に開始され得る(502)。RTP接続は、会議セッションの確立中又は進行中のセッションに対する受信EPの参加に際して開始され得る。
開始の後、RERP250のリソーイが割り当て及びセットされる(504)。例示に限定されないが、例えば、OOSNB260(図2B)、NALバッファ265、ジッタバッファ255、Nレジスタ、最終Pr0レジスタなどのリソースが、割り当て及びリセットされる。
ジッタバッファ255(図2B)から、或る次の受信RTPパケットが取得され得る。パケットの拡張RTPヘッダーが解析され(506)、そしてHPr0SN及びPrID領域の値が取り出される。取り出されたHPr0SNの値と最終Pr0レジスタに書き込まれた値との差が計算され(508)、その結果が、‘N’レジスタに記憶され得る。
‘N’に差の値を記憶した後、‘N’の値がゼロより小さいか、又は、ゼロかどうかの決定がなされる(510)。値がゼロより小さいか又はゼロの場合、パケットが、最終メディアホップ及び受信EPからの経路上の順を外れて受信されたことを示しており、その場合、取得されたPrIDの値がゼロであるかどうか、更なる決定がなされる(512)。取得されたPrIDの値がゼロであるかどうかは、現在のパケットが重要なフレームのデータを搬送しているかどうかを示す。前記ブロック512において、PrIDの値がゼロの場合、再送信要求リスト(ReXReqリスト)が調査され(514)、同じHPr0SNの値を持つRTPパケットの再送信要求が再送信要求リストから削除される。そして、方法500はブロック530に進み得る。前記ブロック512において、PrIDの値がゼロでない場合、それが重要なパケットでないことを示しており、方法500はブロック530に進み得る。
ブロック530において、ReXReqリストに基づく再送信要求が、RTCP接続を通じて、受信RTP管理部275(図2B)から、該RTCP接続のもう一方の側のRTP管理部へ、送信される。受信されたRTPパケットは、方法5000(図5B)により処理されるべくOOSNB260(図2B)へ転送され(532)、方法500はブロック506に戻る。
いくつかの実施形態において、リストは、イントラフレームが受信される度いつも、又は、リスト内の各エントリの時間経過などに基づいて、クリアされ得る。更に、幾つかの実施形態において、ブロック532において、重複パケット、すなわち同じOSNを持つパケットは、OOSNB260(図2B)から破棄され得る。
ブロック510に戻ると、‘N’の値がゼロより大きい場合、取得されたPrIDの値がゼロであるかどうかの、決定がなされる(516)。取得されたPrIDの値がゼロかどうかは、現在のパケットが重要なフレームのデータを搬送しているかどうかを示す。前記ブロック516において、取得されたPrIDがゼロでない場合、直前のメディアホップからの最後のセグメントにおいて1以上の重要なパケットが欠損したことを示しており、その場合、ReXReqリストが更新され得る(518)。更新は、複数の要求されたパケットのリストを記述することにより行われ得、ここで記述されるリスト中の各パケットの拡張RTPヘッダー領域のHPr0SN領域の値は、最終Pr0レジスタの記憶値に1を加算した値、2を加算した値、3を加算した値・・・‘N’レジスタの記憶値を加算した値である。ReXReqリストの更新後、現在受信したRTPパケットの拡張RTPヘッダー領域のHPr0SN領域の値が、最終Pr0の直前の値に代えて記憶され(524)、そして方法500はブロック530に進み得る。
前記ブロック516において取得されたPrIDがゼロである場合、現在のパケットが重要なフレームのデータを搬送していることを示しており、その場合、‘N’の値が1かどうか、更なる決定がなされる(520)。前記ブロック520において、‘N’の値が1の場合、重要なパケットの損失がないことを示しており、方法500はブロック524に進み得る。前記ブロック520において、‘N’の値が1でない場合、このパケットに至るまでに、1以上の重要なパケットが欠損したことを示しており、従って、ReXReqリストが更新され得る(522)。更新は、複数の要求されたパケットのリストを記述することにより行われ得、ここで記述されるリスト中の各パケットの拡張RTPヘッダー領域のHPr0SN領域の値は、最終Pr0レジスタの記憶値に1を加算した値、2を加算した値、3を加算した値・・・‘N’レジスタの記憶値のマイナス1を加算した値である。ReXReqリストの更新後、現在受信したRTPパケットの拡張RTPヘッダー領域のHPr0SN領域の値が、最終Pr0の直前の値に代えて記憶され(524)、そして方法500はブロック530に進み得る。
図5Bは、一実施形態にかかるPr0確認方法5000の一例の関連ブロックのフローチャートを示す。Pr0確認方法5000は、一実施形態に係る受信EP−RTP−処理装置(RERP)250により実行され得る。RERP250は、該RERP250に関連付けられたRTP接続を通じて伝送された圧縮SC形式ストリームの宛先における受信EP又は受信MREに関連付けられ得る。方法5000は、受信EP/MREと直前のメディアホップとの間のRTP接続確立中に開始され得る(550)。RTP接続は、会議セッションの確立中又は進行中のセッションに対する受信EPの参加に際して開始され得る。
開始後、方法5000に関連したRERP250のリソースが割り当てられ(552)、セットされる。リソースは、例示に限定されないが、例えば、OOSNB260(図2B)、NALバッファ265、ジッタバッファ255、Nレジスタ、最終Pr0レジスタなどのリソースが、割り当て及びリセットされる。
OOSNB260(図2B)の中から、次の1つの受信されたRTPパケットが取得され得る。該パケットの拡張RTPヘッダーは解析され得(554)、OPr0SN及びPrID領域の値が取り出され得る。取り出されたOPr0SNの値と、最終Pr0レジスタに書き込まれた値との差が計算され(556)、その結果が、‘M’レジスタに記憶され得る。
‘M’レジスタに差の値を書き込んだ後、取得されたPrIDの値がゼロであるかどうかの決定がなされる(560)。取得されたPrIDの値がゼロかどうかは、現在のパケットが重要なフレームのデータを搬送しているかどうかを示している。前記ブロック560において取得されたPrIDの値がゼロの場合、‘M’レジスタの値が1かどうか、更なる決定がなされる(564)。‘M’レジスタの値が1の場合、受信した圧縮ビデオストリームのオリジナルソースから当該圧縮ビデオストリームの受信宛先までに、重要なパケットの欠損がないことを示しており、現在受信されたRTPパケットの拡張RTPヘッダーのOPr0SN領域の値が、最終OPr0レジスタの直前の値に代えて、書き込まれ(570)、方法5000はブロック572に進む。ブロック572において、受信されたRTPパケットは、NALバッファ265(図2B)に転送され、このNALバッファ265から受信EPのデコーダへ伝送され得る。デコーダは、圧縮ビデオストリームを処理することができ、この圧縮ビデオストリームは関連するRTP接続上で搬送されたものである。そして、方法5000は、OOSNB260内の次のRTPパケットを処理するために、ブロック554に戻る。
前記ブロック560において取得されたPrIDの値がゼロでない場合、現在のパケットが重要なフレームを搬送するものでないことを示しており、‘M’レジスタの値が1かどうか、更なる決定がなされる(562)。前記ブロック562において‘M’レジスタの値が1の場合、受信した圧縮ビデオストリームのオリジナルソースから当該圧縮ビデオストリームの受信宛先までに、重要なパケットの欠損がないことを示しており、現在受信されたRTPパケットの拡張RTPヘッダーのOPr0SN領域の値が、最終OPr0レジスタの直前の値に代えて、書き込まれ(570)、方法5000はブロック572に進む。ブロック572において、受信されたRTPパケットは、NALバッファ265(図2B)に転送され、このNALバッファ265から受信EPのデコーダへ伝送され得る。デコーダは、圧縮ビデオストリームを処理することができ、この圧縮ビデオストリームは関連するRTP接続上で搬送されたものである。そして、方法5000は、OOSNB260内の次のRTPパケットを処理するために、ブロック554に戻る。
次にブロック564又はブロック562に戻ると、‘M’レジスタの値がそれぞれ1又はゼロと等しくない場合、1以上の重要なパケットが欠損したことを示しており、受信RTP管理部275(図2B)によりイントラフレームの要求が送信され得る(568)。イントラ要求は、RTPC接続を通じて、関連する圧縮ビデオストリームのソースの送信RTP管理部へ送信され得る。イントラ要求は、1以上の中間メディアホップ経由で伝送され得る。そして、方法5000は、ブロック570に進み得る。
いくつかの実施形態に係る方法5000において、前記ブロック572においてRTPパケットをデコーダへ転送した後、処理は、送信されたフレーム内のジッタを克服するために、所定期間待機し得る。待機期間は、例えば5〜20ミリ秒の間の数ミリ秒の範囲内であり得る。
図6は、中間メディアホップ受信方法600の一例の関連ブロックのフローチャートを示す。方法600は、一実施形態に係るIMHRRP350(図3B)により実行され得る。IMHRRP350は、圧縮ビデオストリームのソースと圧縮SC形式ビデオストリームの受信宛先との間に位置する中間メディアホップに関連付けられ得る。中間メディアホップは、例えば2以上のMREの間に位置するMRMであり得る。方法600は、メディアホップと、圧縮SC形式ビデオストリームのソースであるEP/MRE又は直前のメディアホップとの間のRTP接続確立中に開始され得る(602)。RTP接続は、例えば、会議セッションの確立中又は進行中のセッションに対する受信EP/MREの参加に際して開始され得る。
開始後、IMHRRP350のリソースが割り当てられ(604)、セットされる。リソースは、例示に限定されないが、例えば、バッファ360(図3B)、N´レジスタ、最終Pr0´レジスタなどのリソースが、割り当て及びリセットされる。バッファ360(図3B)の中から、次の1つの受信されたRTPパケットが取得され得る。該パケットの拡張RTPヘッダーは解析され得(606)、そして、HPr0SN及びPrID領域の値が取り出され得る。取り出されたHPr0SNの値と、最終Pr0´レジスタに書き込まれた値との差が計算され(608)、その結果が、‘N´’レジスタに記憶され得る。
‘N´’レジスタに差の値を書き込んだ後、‘N´’の値がゼロより小さいかどうかの決定がなされる(610)。N´’の値がゼロより小さいか又はゼロである場合、パケットが最終メディアホップ及び受信EPからの経路上の順を外れて受信されたことを示しており、その場合、取得されたPrIDの値がゼロであるかどうかの、更なる決定がなされる(612)。取得されたPrIDの値がゼロかどうかは、現在のパケットが重要なフレームのデータを搬送しているかどうかを示している。前記ブロック612において取得されたPrIDの値がゼロの場合、再送信要求リスト(ReXReqリスト)が調査され(614)、同じHPr0SNの値を持つRTPパケットの再送信要求が再送信要求リストから削除される。そして、方法600は、ブロック630に進む。前記ブロック612において取得されたPrIDの値がゼロでない場合、そのパケットが重要なフレームでないことを示しており、その場合、方法600は、ブロック630に進む。
ブロック630において、ReXReqリストに基づく再送信要求が、RTCP接続を通じて、受信MHRTP管理部380(図3B)から、該RTCP接続のもう一方の側のRTP管理部へ、送信され得る。そして、受信されたRTPパケットは、メディアホップの1以上の別の内部ユニット(図示せず)に転送され得る(632)。そして、方法600は、バッファ360内の次のRTPパケットを処理するために、ブロック606に戻る。いくつかの実施形態において、ReXReqリストは、イントラフレームが受信される度いつも、又は、リスト内の各エントリの時間経過などに基づいて、クリアされ得る。更に、幾つかの実施形態において、ブロック630において、重複パケット、すなわち同じOSNを持つパケットは、OOSNB260(図2B)から破棄され得る。
ブロック610に戻ると、‘N´’の値がゼロより大きい場合、取得されたPrIDの値がゼロであるかどうかの、決定がなされる(616)。取得されたPrIDの値がゼロかどうかは、現在のパケットが重要なフレームのデータを搬送しているかどうかを示す。前記ブロック616において、取得されたPrIDがゼロではない場合、直前のメディアホップ又はEP/MREからの最後のセグメントにおいて、1以上の重要なパケットが欠損したことを示しており、その場合、ReXReqリストが更新され得る(618)。更新は、複数の要求されたパケットのリストを記述することにより行われ得、ここで記述されるリスト中の各パケットの拡張RTPヘッダー領域のHPr0SN領域の値は、最終Pr0´レジスタの記憶値に1を加算した値、2を加算した値、3を加算した値・・・‘N´’レジスタの記憶値を加算した値である。ReXReqリストの更新後、現在受信したRTPパケットの拡張RTPヘッダー領域のHPr0SN領域の値が、最終Pr0´の直前の値に代えて記憶され(624)、そして方法500はブロック630に進み得る。
前記ブロック616において取得されたPrIDがゼロの場合、現在のパケットが重要なフレームのデータを搬送していることを示しており、その場合、‘N´’の値が1と等しいかどうか、更なる決定がなされる(620)。前記ブロック620において、‘N´’の値が1の場合、重要なパケットの損失がないことを示しており、方法600はブロック624に進み得る。前記ブロック620において‘N´’の値が1ではない場合、このパケットに至るまでにいくつかの重要なパケットが欠損したことを示しており、従って、ReXReqリストが更新され得る(622)。更新は、複数の要求されたパケットのリストを記述することにより行われ得、ここで記述されるリスト中の各パケットの拡張RTPヘッダー領域のHPr0SN領域の値は、最終Pr0´レジスタの記憶値に1を加算した値、同2を加算した値、同3を加算した値・・・ ‘N´’レジスタの記憶値のマイナス1を加算した値である。ReXReqリストの更新後、現在受信したRTPパケットの拡張RTPヘッダー領域のHPr0SN領域の値が、最終Pr0´の直前の値に代えて記憶され(624)、そして方法600はブロック630に進み得る。
図7は、中間メディアホップ送信方法700の一例の関連ブロックのフローチャートを示す。方法700は、一実施形態に係るIMHTRP300(図3A)により実行され得る。IMHTRP300は、圧縮ビデオストリームのソースと圧縮SC形式ビデオストリームの受信宛先との間に位置する中間メディアホップに関連付けられ得る。中間メディアホップは、例えば2以上のMREの間に位置するMRMであり得る。方法700は、メディアホップと、圧縮SC形式ビデオストリームの宛先であるEP/MRE又は次のメディアホップとの間のRTP接続確立中に開始され得る(702)。RTP接続は、例えば、会議セッションの確立中又は進行中のセッションに対する受信EP/MREの参加に際して開始され得る。
開始後、IMHTRP300のリソースが割り当てられ(704)、セットされる。例えば、MHシーケンスカウンタ335a,b(図3A)の2つが割り当てられる。各カウンタ(最終SNと最終Pr0SN)はランダムな数又はゼロにセットされ得る。更に、例示に限定されないが、例えばMH‐ReX‐Pr0バッファ330(図3A)などのバッファが割り当てられ(704)、リセットされ、また、例えば最終IDRレジスタなどのレジスタが割り当てられ、リセットされる。
次に、MH送信管理部340(図3A)は、ReX要求エントリがキュー(待ち行列)にあるかどうかを調べる(710)。存在しない場合、方法700はブロック712に進み得る。前記710においてReX要求エントリが見つかった場合、該要求が取り出されて、該エントリがクリアされ、該取り出された要求が解析され、そして、要求されたHPr0SNの値が最終IDRレジスタに記憶された値よりも小さいかどうかに基づいて決定がなされる(720)。最終IDRレジスタは、或るイントラPr0フレームの始まりを搬送する1番目のパケットのHPr0SN領域の値を記憶している。前記ブロック720において要求されたHPr0SNの値が、最終IDRレジスタに記憶された値よりも小さい場合、イントラフレームが既に発されており、欠損したパケットによって搬送された圧縮Pr0ビデオデータの作成後に、当該イントラフレームが受信されたであろうことを示しており、従って、欠損したパケットの再送信の必要がなく、方法700はブロック710に戻る。
前記ブロック720において要求されたHPr0SNの値が、最終IDRレジスタに記憶された値よりも小さくない場合、MH‐ReX‐Pr0バッファ330(図3A)がチェックされ(722)、そして、リストのエントリに記載されたPr0パケットがMH‐ReX‐Pr0バッファ330に存在するかどうかに基づいて決定がなされる。要求されたパケットがMH‐ReX‐Pr0バッファ330に存在しない場合、デコーダリフレッシュ要求(すなわちイントラ要求)が、RTP接続を通じて、圧縮SC形式ビデオストリームのソースへ、送信され得る(726)。そして、方法700は、ブロック710に戻る。前記ブロック722において、要求リストのエントリに記載されたPr0パケットがMH‐ReX‐Pr0バッファ330に存在する場合、要求されたPr0パケットがMH‐ReX‐Pr0バッファ330から取得され、削除され(724)、方法700は、取得された要求されたパケットを処理するために、ブロック730に進む。
ブロック710に戻ると、前記キューに保留中(ペンディング)のReX要求がない場合、入力バッファ310(図3A)が調査され(712)、IMHTRP300の内部モジュール(図示せず)の中から、次の1つのRTPパケットが取得され得る。該取得されたRTPパケットのRTPヘッダーと拡張RTPヘッダーが解析され、HPr0sSN領域及びPrID領域の値が取り出される(712)。次に、ペイロードのコンテツがPr0フレーム、つまり重要なフレームの圧縮ビデオを含んでいるかどうか決定がなされる(714)。前記ブロック714において重要なフレームの圧縮ビデオを含んでいない場合、方法700はブロック732に進む。
前記ブロック714において前記パケットが重要なフレームを搬送している場合、RTPパケットが新しい重要なイントラフレームの始まりを搬送しているかどうかを決定する(716)ために、該RTPパケットのヘッダーがチェックされる。前記ブロック716においてRTPパケットが新しい重要なイントラフレームの始まりを搬送していない場合、方法700はブロック730に進む。前記ブロック716においてRTPパケットが新しい重要なイントラフレームの始まりを搬送している場合、最終Pr0SNに1を加算した合計が、最終IDRレジスタの直前のデータに代えて、該最終IDRレジスタに書き込まれ得る。
ブロック730において、最終Pr0SNシーケンスカウンタが増加され得る。最終Pr0SNシーケンスカウンタの値は、拡張RTpヘッダーのHPr0SN領域内に書き込まれ得る(732)。更に、最終Pr0SNシーケンスカウンタが増加され(734)、新たな値が共通RTPヘッダーのSN領域に書き込まれ得る。
次に、拡張RTPヘッダーのPrID領域に基づいて、パケットのペイロードが重要なフレームの圧縮ビデオを搬送しているかどうか(740)、決定がなされる。パケットのペイロードが重要なフレームの圧縮ビデオを搬送していない場合、該RTPパケットは、ネットワークインタフェースカード(図示せず)経由で且つ関連するRTP接続を通じて、次のメディアホップ又は受信EP/MREへ送信される(744)。前記ブロック740において、パケットのペイロードが重要なフレームの圧縮ビデオを搬送している場合、該RTPパケットのコピーがMHReXPr0バッファ330(図3A)に記憶され、そして、該RTPパケットはネットワークインタフェースカード(図示せず)経由で且つ関連するRTP接続を通じて、次のメディアホップ又は受信EP/MREへ送信される(744)。宛先へのRTPパケットの送信後、方法700はブロック710に戻り新しいサイクルを開始する。
本開示の明細書及び特許請求の範囲において、“備える(comprise)”、“含む(include)”、“持つ(have)”及びその同義語は、その動詞の対象又は複数の対象が部材、構成要素(コンポーネント)、要素(エレメント)の完全なリスト、又は、その動詞の主語又は複数の主語の部分である必要はないことを示すように使われている。
上述した通り、本開示の実施形態は、メディア送信装置において複数の送信プロトコル(TP)パケットのストリームを取得することと、ここで、前記複数のTPパケットのストリームは、スケーラブル符号化(SC)エンコーダにより生成された圧縮データメディアユニットを搬送し、前記複数のTPパケットのそれぞれは、割り当てられた優先度を持ち、前記複数のTPパケットの前記ストリームは、少なくとも1つの第1優先度レベルのパケットと少なくとも1つの第2優先度レベルのパケットを備え;前記複数のTPパケットのそれぞれに対して、複数のヘッダー領域のうち第1ヘッダー領域に第1シーケンス番号を割り当てることと、ここで前記第1シーケンス番号は、前記第1優先度レベルのTPパケット毎に変更され;前記複数のTPパケットを1以上のメディア受信装置へ送信することとを備える方法を、含み得る。
また、前記SCエンコーダは、発信元(originating)のメディア送信装置に含まれ得る。更に、前記発信元のメディア送信装置において第2シーケンス番号が第2ヘッダ領域に割り当てられ得、ここで割り当てられる第2シーケンス番号は前記第1優先度レベルの複数パケットのオリジナルのシーケンス番号を示す。前記第2シーケンス番号は、先行する任意のネットワークセグメントからの1以上の欠損した第1優先度レベルのバケットを識別するために、最終メディア受信装置において、使用され得る。前記発信元のメディア送信装置は、また、第3ヘッダー領域に第3シーケンス番号を割り当ててよく、該第3シーケンス番号は全てのTPパケットのオリジナルのシーケンス番号を示し、前記第3シーケンス番号は優先度に関わらずに複数のTPパケットを再順番付け(再編成)するために使用される。
前記発信元のメディア送信装置は、メディア中継エンドポイント(MRE)により生成されたメディアを圧縮する前記SCエンコーダを持つエンドポイント又は前記MREを備えてよく、或いは、前記発信元のメディア送信装置は、更には、マルチポイント制御ユニット(MRU)を備え、前記SCエンコーダが複数のエンドポイントから受信された複数のビデオ画像に基づく常駐表示(CP,画面分割)ビデオ画像をエンコードする。前記第1シーケンス番号は、前記1以上のメディア受信装置から選択された第1メディア受信装置により、1以上の欠損したパケットを識別して、前記第1メディア受信装置に関連付けられているネットワークセグメント経由で再送信を要求するために、使用されてよい。
更に、開示された方法及びシステムは、1以上の送信されたTPパケットを、ソース再送信バッファに記憶し、受信装置から特定のTPパケットの再送信要求を受信し、前記特定のTPパケットを求めてソース再送信バッファを探し、そして、前記要求に応じて前記受信装置に前記特定のTPパケットを再送信するように構成されてよい。任意で、第1優先度レベルを持つ複数のTPパケットのみがソース再送信バッファに記憶されてよい。また、常駐表示(CP)ビデオ画像を表示するために複数のTPパケットを受信するエンドポイントから、再送信要求が受信されてよい。いくつかのケースでは、前記特定のTPパケットが前記ソース再送信バッファに見つからなかった場合に、前記発信元のメディア送信装置から1つのイントラフレームを要求することが有益であり得る。もちろん、上述した方法のいくつかは、中間メディアホップを供えるメディア送信装置において実行され得る。
前述した明細書が例示することを目的としており制限することを目的としていないことは理解されるべきである。前述した装置、システム、及び、方法は、ステップの順番を変えることを含む様々な方法、及び、使用される正確な実施で変更されてよい。前述した実施形態は、様々な特徴を含んでおり、その全てが、本開示の全ての実施形態に要求されるのではない。更に、いくつかの本開示の実施形態では、いくつかの特徴又は複数の特徴の可能な組み合わせのみが、使用される。当業者にとって、開示された実施形態において示された特徴の種々の組み合わせが思い浮かぶであろう。更に、本開示のいくつかの実施形態は、本開示において異なる実施形態の例に関連付けて記述されていた特徴及び要素の組み合わせにより実行されてよい。本発明の範囲は、添付の特許請求の範囲及びそれとの均等物によりのみ制限される。

Claims (17)

  1. メディア送信装置において複数の送信プロトコル(TP)パケットのストリームを取得することと、ここで、前記複数のTPパケットのストリームは、スケー ラブル符号化(SC)エンコーダにより生成された圧縮データメディアユニットを搬送し、前記複数のTPパケットのそれぞれは、割り当てられた優先度を持 ち、前記複数のTPパケットの前記ストリームは、少なくとも1つの第1優先度レベルのパケットと少なくとも1つの第2優先度レベルのパケットを備え、
    前記複数のTPパケットのそれぞれに対して、複数のヘッダー領域のうち第1ヘッダー領域に第1シーケンス番号を割り当てることと
    前記複数のTPパケットを1以上のメディア受信装置へ送信すること
    からなり、
    前記メディア送信装置は、発信元のメディア送信装置と最終メディア受信装置の間の中間ノードであり、
    前記第1シーケンス番号は、前記ストリームの経路中の各前記中間ノードにより、前記第1優先度レベルの各TPパケット毎に置換され、
    前記第1シーケンス番号は、前記メディア送信装置と前記1以上のメディア受信装置から選択された第1のメディア受信装置との間の或るネットワークセグメント内で損失された1以上の欠損TPパケットを識別して、該メディア送信装置に、該欠損したTPパケットの再送信をリクエストするために、該第1のメディア受信装置により使用可能であり、且つ、
    前記第1優先度レベルのTPパケットのそれぞれが、ベースレイヤのフレームの圧縮ビデオデータを表す
    ことを特徴とする方法。
  2. 前記SCエンコーダは、前記発信元のメディア送信装置に含まれることを特徴とする請求項1に記載の方法。
  3. 更に、前記発信元のメディア送信装置において第2シーケンス番号を第2ヘッダ領域に割り当てることからなり、前記第2シーケンス番号とは前記第1優先度レベルの複数のパケットのオリジナルのシーケンス番号を示すものであり、該第2シーケンス番号は、先行する任意のネットワークセグメントからの1以上の欠損した第1優先度レベルのバケットを識別するために、最終メディア受信装置において使用されることを特徴とする請求項2に記載の方法。
  4. 更に、前記発信元のメディア送信装置において第3ヘッダー領域に第3シーケンス番号を割り当てることからなり、前記第3シーケンス番号とは全てのTPパケットのオリジナルのシーケンス番号を示すものであり、該第3シーケンス番号は、優先度に関わらずに複数のTPパケットを再順番付けするために使用されることを特徴とする請求項2又は3に記載の方法。
  5. 前記発信元のメディア送信装置は、メディア中継エンドポイント(MRE)により生成されたメディアを圧縮する前記SCエンコーダを持つエンドポイント又は前記MREを備えることを特徴とする請求項2乃至4の何れかに記載の方法。
  6. 前記発信元のメディア送信装置は、マルチポイント制御ユニット(MCU)を備え、前記SCエンコーダが複数のエンドポイントから受信された複数のビデオ画像に基づく常駐表示(CP)ビデオ画像をエンコードすることを特徴とする請求項2乃至4の何れかに記載の方法。
  7. 前記第1優先度レベルは前記第2優先度レベルよりも優先度が高いことを特徴とする請求項1乃至6の何れかに記載の方法。
  8. 更に、
    ソース再送信バッファに1以上の送信されたTPパケットを記憶することと、
    或る受信装置から特定のTPパケットの再送信要求を受信することと、
    前記特定のTPパケットを求めてソース再送信バッファを探すことと、
    前記要求に応じて前記受信装置に前記特定のTPパケットを再送信すること
    からなることを特徴とする請求項1乃至7の何れかに記載の方法。
  9. 前記第1優先度レベルを持つ複数のTPパケットのみが前記ソース再送信バッファに記憶されることを特徴とする請求項に記載の方法。
  10. 常駐表示(CP)ビデオ画像を表示するために、複数のTPパケットを受信するエンドポイントから、前記再送信要求が受信されることを特徴とする請求項に記載の方法。
  11. 更に、前記特定のTPパケットが前記ソース再送信バッファに見つからなかった場合に、前記発信元のメディア送信装置から、1つのイントラフレームを要求することからなることを特徴とする請求項8乃至10の何れかに記載の方法。
  12. 前記SCエンコーダは、時間的スケーラビリティを含むスケーラブル符号化エンコーディングを実行するものであことを特徴とする請求項1乃至11の何れかに記載の方法。
  13. 前記送信プロトコル(TP)はリアルタイム送信プロトコル(RTP)からなることを特徴とする請求項1乃至12の何れかに記載の方法。
  14. 前記第1シーケンス番号は、各送信又は再送信された第1優先度レベルのTPパケット毎に増加されることを特徴とする請求項1乃至13の何れかに記載の方法。
  15. 前記メディア送信装置及び前記1以上のメディア受信装置はマルチポイント会議装置からなることを特徴とする請求項1乃至14の何れかに記載の方法。
  16. ネットワークインタフェースと、
    メモリと、
    前記ネットワークインタフェース及び前記メモリに通信可能に接続されたプロセッサと
    を具備するメディア送信装置であって、
    前記プロセッサが、
    前記ネットワークインタフェース経由で、前記メディア送信装置において複数の送信プロトコル(TP)パケットの第1ストリームを取得するように構成さ れ、ここで、前記複数のTPパケットの前記第1ストリームは、スケーラブル符号化(SC)エンコーダにより生成された圧縮データメディアユニットを搬送 し、該複数のTPパケットのそれぞれは、割り当てられた優先度を持つものであり、前記複数のTPパケットの前記第1ストリームは、少なくとも1つの第1優 先度レベルのパケットと少なくとも1つの第2優先度レベルのパケットを備えており、
    前記複数のTPパケットのそれぞれに対して、複数のヘッダー領域のうち第1ヘッダー領域に第1シーケンス番号を割り当てるように構成され
    前記複数のTPパケットを1以上のメディア受信装置へ送信するように構成され
    前記メディア送信装置は、発信元のメディア送信装置と最終メディア受信装置の間の中間ノードであり、
    前記第1シーケンス番号は、前記ストリームの経路中の各前記中間ノードにより、前記第1優先度レベルの各前記TPパケット毎に置換され、
    前記第1シーケンス番号は、前記メディア送信装置と前記1以上のメディア受信装置から選択された第1のメディア受信装置との間の或るネットワークセグメント内で損失された1以上の欠損TPパケットを識別して、該メディア送信装置に、該欠損したTPパケットの再送信をリクエストするために、該第1のメディア受信装置により使用可能であり、且つ、
    前記第1優先度レベルのTPパケットのそれぞれが、ベースレイヤのフレームの圧縮ビデオデータを表す
    ことを特徴とするメディア送信装置。
  17. メディア送信装置のプロセッサに、請求項1乃15のいずれかの方法を実行させるためのプログラム。
JP2013023353A 2012-02-10 2013-02-08 マルチホップrtpストリーミングにおいて重要なパケットロスを扱うためのシステム及び方法 Expired - Fee Related JP5588527B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201261597524P 2012-02-10 2012-02-10
US61/597524 2012-02-10

Publications (2)

Publication Number Publication Date
JP2013211835A JP2013211835A (ja) 2013-10-10
JP5588527B2 true JP5588527B2 (ja) 2014-09-10

Family

ID=47678632

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013023353A Expired - Fee Related JP5588527B2 (ja) 2012-02-10 2013-02-08 マルチホップrtpストリーミングにおいて重要なパケットロスを扱うためのシステム及び方法

Country Status (5)

Country Link
US (1) US9131110B2 (ja)
EP (1) EP2627054B1 (ja)
JP (1) JP5588527B2 (ja)
KR (1) KR101458852B1 (ja)
CN (1) CN103313026B (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9843489B2 (en) * 2013-06-12 2017-12-12 Blackfire Research Corporation System and method for synchronous media rendering over wireless networks with wireless performance monitoring
US9131110B2 (en) 2012-02-10 2015-09-08 Polycom, Inc. System and method for handling critical packets loss in multi-hop RTP streaming
CN103945449B (zh) * 2013-01-18 2018-12-04 中兴通讯股份有限公司 Csi测量方法和装置
CN103475835B (zh) * 2013-09-18 2016-10-05 华为技术有限公司 一种音视频会议录制内容的处理方法及装置
US20160227229A1 (en) * 2015-02-04 2016-08-04 Harris Corporation Mobile ad hoc network media aware networking element
CN105898328A (zh) * 2015-12-14 2016-08-24 乐视云计算有限公司 包含自参考编码的参考帧集设置方法及装置
US10230948B2 (en) * 2016-02-03 2019-03-12 Mediatek Inc. Video transmitting system with on-the-fly encoding and on-the-fly delivering and associated video receiving system
US10148582B2 (en) * 2016-05-24 2018-12-04 Samsung Electronics Co., Ltd. Managing buffers for rate pacing
US10869032B1 (en) 2016-11-04 2020-12-15 Amazon Technologies, Inc. Enhanced encoding and decoding of video reference frames
US10484701B1 (en) 2016-11-08 2019-11-19 Amazon Technologies, Inc. Rendition switch indicator
US10264265B1 (en) 2016-12-05 2019-04-16 Amazon Technologies, Inc. Compression encoding of images
US10681382B1 (en) * 2016-12-20 2020-06-09 Amazon Technologies, Inc. Enhanced encoding and decoding of video reference frames
CN109687934B (zh) * 2017-10-18 2020-05-26 上海交通大学 基于媒体内容的自适应系统码fec方法、装置及系统
CN108307194A (zh) * 2018-01-03 2018-07-20 西安万像电子科技有限公司 图像编码的传输控制方法及装置
CN111246290B (zh) * 2018-11-29 2022-07-05 中国电信股份有限公司 图像接收处理方法和装置
US11477138B2 (en) * 2020-12-23 2022-10-18 Nokia Solutions And Networks Oy Packet reordering in packet switched networks
KR20220124031A (ko) 2021-03-02 2022-09-13 삼성전자주식회사 영상 패킷을 송수신하는 전자 장치 및 이의 동작 방법
CN115209231B (zh) * 2022-09-07 2024-03-22 腾讯科技(深圳)有限公司 数据传输方法、装置、设备和计算机可读存储介质

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3168894B2 (ja) * 1995-12-26 2001-05-21 三菱電機株式会社 データ伝送装置およびデータ伝送方法
JP3450771B2 (ja) * 1998-11-30 2003-09-29 松下電器産業株式会社 データ伝送方法,及びデータ送信装置
US6263022B1 (en) * 1999-07-06 2001-07-17 Philips Electronics North America Corp. System and method for fine granular scalable video with selective quality enhancement
US6870816B1 (en) * 2000-03-01 2005-03-22 Motorola, Inc. Self-organizing network with decision engine and method
US6757248B1 (en) * 2000-06-14 2004-06-29 Nokia Internet Communications Inc. Performance enhancement of transmission control protocol (TCP) for wireless network applications
JP3590949B2 (ja) * 2000-08-17 2004-11-17 松下電器産業株式会社 データ伝送装置およびデータ伝送方法
JP4070420B2 (ja) * 2001-03-23 2008-04-02 フェニックス電機株式会社 超高圧放電灯の点灯方法と点灯装置
US7159108B2 (en) * 2002-10-04 2007-01-02 International Business Machines Corporation Anonymous peer-to-peer networking
US20060291468A1 (en) * 2005-06-22 2006-12-28 Rajendra Bopardikar Selective re-transmission of lost multi-media data packets
US8767818B2 (en) * 2006-01-11 2014-07-01 Nokia Corporation Backward-compatible aggregation of pictures in scalable video coding
CN101174995B (zh) * 2006-11-03 2010-05-12 中兴通讯股份有限公司 一种多媒体服务性能监测的方法和系统
KR101015888B1 (ko) * 2007-09-11 2011-02-23 한국전자통신연구원 스케일러블비디오 코딩에서 우선순위를 할당하기 위해 비디오 패킷의 왜곡값을 계산하는 장치 및 방법
US8699383B2 (en) * 2007-10-19 2014-04-15 Voxer Ip Llc Method and apparatus for real-time synchronization of voice communications
US8250181B2 (en) * 2007-10-19 2012-08-21 Voxer Ip Llc Method and apparatus for near real-time synchronization of voice communications
US8099512B2 (en) * 2007-10-19 2012-01-17 Voxer Ip Llc Method and system for real-time synchronization across a distributed services communication network
JP5142828B2 (ja) * 2008-05-29 2013-02-13 キヤノン株式会社 送信装置、送信方法及びプログラム
US8228363B2 (en) 2009-01-30 2012-07-24 Polycom, Inc. Method and system for conducting continuous presence conferences
EP2437440A1 (en) * 2010-10-01 2012-04-04 Koninklijke Philips Electronics N.V. Device and method for delay optimization of end-to-end data packet transmissions in wireless networks
US9131110B2 (en) 2012-02-10 2015-09-08 Polycom, Inc. System and method for handling critical packets loss in multi-hop RTP streaming

Also Published As

Publication number Publication date
EP2627054B1 (en) 2018-12-19
KR20130092509A (ko) 2013-08-20
KR101458852B1 (ko) 2014-11-12
CN103313026B (zh) 2017-03-01
JP2013211835A (ja) 2013-10-10
US20130208079A1 (en) 2013-08-15
US9131110B2 (en) 2015-09-08
EP2627054A1 (en) 2013-08-14
CN103313026A (zh) 2013-09-18

Similar Documents

Publication Publication Date Title
JP5588527B2 (ja) マルチホップrtpストリーミングにおいて重要なパケットロスを扱うためのシステム及び方法
Turletti The INRIA videoconferencing system (IVS)
US8988486B2 (en) Adaptive video communication channel
US6680976B1 (en) Robust, reliable compression and packetization scheme for transmitting video
JP5265383B2 (ja) 低遅延かつ分散した会議アプリケーション向けコンファレンスサーバアーキテクチャのためのシステムおよび方法
US8699522B2 (en) System and method for low delay, interactive communication using multiple TCP connections and scalable coding
US20080100694A1 (en) Distributed caching for multimedia conference calls
US20110292161A1 (en) Systems And Methods For Scalable Video Communication Using Multiple Cameras And Multiple Monitors
US20220329883A1 (en) Combining Video Streams in Composite Video Stream with Metadata
KR20090084826A (ko) 비디오 스트림 내의 아티팩트를 최소화하는 방법, 비디오 스트림의 속성을 변경하는 시스템 및 컴퓨터 판독가능 매체
CA2811419A1 (en) System and method for the control and management of multipoint conferences
US9306987B2 (en) Content message for video conferencing
EP1340381A2 (en) Apparatus and method for improving the quality of video communication over a packet-based network
CN113194278A (zh) 一种会议控制方法、装置及计算机可读存储介质
Mavlankar et al. Video streaming with interactive pan/tilt/zoom
US20130250037A1 (en) System and Method for the Control and Management of Multipoint Conferences
US8928728B2 (en) Systems, methods, and media for controlling a presentation of data images in a video stream
JP5389528B2 (ja) ネットワークデコーダ装置
Siddique et al. Efficient video transmission—a critical review of various protocols and strategies
Bassey et al. Mitigating the effect of packet losses on real-time video streaming using psnr as video quality assessment metric
Ahmad et al. Open source wavelet based video conferencing system using SIP
Talhar et al. Real-time and Object-based Video Streaming Techniques with Application to Communication System
HUSSEIN PERFORMANCE ANALYSIS OF VIDEO CODEC (H. 263+, H. 264) FOR VIDEOCONFERENCING OVER WIRELESS LOCAL AREA NET-WORK (WLAN)
Gharai et al. High Definition Conferencing: Present, Past and Future
Perkins et al. Next Generation Internet (NGI) Multicast Applications and Architecture (NMAA)

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140304

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140604

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140624

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140725

R150 Certificate of patent or registration of utility model

Ref document number: 5588527

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees