JPH10200494A - データ送信システム及びデータ送信方法 - Google Patents

データ送信システム及びデータ送信方法

Info

Publication number
JPH10200494A
JPH10200494A JP136797A JP136797A JPH10200494A JP H10200494 A JPH10200494 A JP H10200494A JP 136797 A JP136797 A JP 136797A JP 136797 A JP136797 A JP 136797A JP H10200494 A JPH10200494 A JP H10200494A
Authority
JP
Japan
Prior art keywords
packet
stream
priority
data
bit rate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP136797A
Other languages
English (en)
Other versions
JP3193947B2 (ja
Inventor
Koji Taniguchi
幸治 谷口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Digital Vision Laboratories Corp
Original Assignee
Digital Vision Laboratories Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Digital Vision Laboratories Corp filed Critical Digital Vision Laboratories Corp
Priority to JP136797A priority Critical patent/JP3193947B2/ja
Priority to US08/856,493 priority patent/US6222841B1/en
Priority to EP97111245A priority patent/EP0853407A3/en
Publication of JPH10200494A publication Critical patent/JPH10200494A/ja
Application granted granted Critical
Publication of JP3193947B2 publication Critical patent/JP3193947B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/24Traffic characterised by specific attributes, e.g. priority or QoS
    • H04L47/2416Real-time traffic
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/22Traffic shaping
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/24Traffic characterised by specific attributes, e.g. priority or QoS
    • H04L47/245Traffic characterised by specific attributes, e.g. priority or QoS using preemption
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/35Flow control; Congestion control by embedding flow control information in regular packets, e.g. piggybacking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/43Assembling or disassembling of packets, e.g. segmentation and reassembly [SAR]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/37Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability with arrangements for assigning different transmission priorities to video input data or to video coded data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Television Signal Processing For Recording (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Time-Division Multiplex Systems (AREA)

Abstract

(57)【要約】 【課題】利用する動画像符号化方式に依存することな
く、使用可能なネットワーク帯域に応じた動的なビット
レート制御を可能とする。 【解決手段】符号化ストリームを、ネットワーク31を
介して送信するデータ送信システムにおいて、破棄可能
なデータ単位を基準にパケット化されると共に、各パケ
ットにパケット優先度を兼ねるパケット識別子を含むヘ
ッダが付加された符号化ストリームを生成するストリー
ム符号化部34と、ストリーム符号化部4によって生成
された符号化ストリームについて、指定されたビットレ
ートに応じて、パケット単位で各パケットのヘッダに含
まれるパケット識別子に基づく優先度を利用して送信ま
たは破棄を制御するストリームシェーピング処理部36
を有する映像送信部36とを具備する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、ビデオやオーディ
オ等の実時間データをパケット化されたストリームデー
タとして扱うデータ送信システム、及びデータ送信方法
に関する。
【0002】
【従来の技術】近年、コンピュータネットワーク技術や
ディジタル情報の通信技術の発展に伴って、例えばビデ
オ・オン・デマンド(video on deman
d)を実現するような、時系列上に構成される一連のデ
ータ列(以下、ストリームデータと称する)を転送する
データ転送システムが開発されている。
【0003】このようなデータ転送システムでは、要求
された例えば映画等の映像信号あるいは音声信号をディ
ジタル情報に変換してストリームデータとし、ネットワ
ークを介して送信側システムから受信側システムに送信
される。
【0004】一般に、音声を伴う映像等のデータをネッ
トワーク配送する場合には、MPEG(Moving Picture
Experts Group)やMotion−JPEG(Joint Ph
otographic Coding Experts Group )、H.261等の
動画像符号化が用いられ、パケット化された符号化スト
リームとして送信される。
【0005】また、複数のユーザが共有するネットワー
ク上で、音声や映像等のマルチメディアデータを実時間
転送するとき、常に必要なネットワーク帯域を確保でき
るとは限らないため、符号化された映像ストリームを転
送する際に、使用可能なネットワーク帯域に合わせてス
トリームのビットレートを削減している。
【0006】従来、ビットレート削減方法の一つとし
て、エンコード処理とストリーム転送を並行して行な
い、ビットレート制御の必要が生じた場合には、エンコ
ーダにフィードバックをかけて、符号化パラメータ(画
質、フレーム数等)を調整する方法がある。しかし、こ
の方法は、符号化部とデータ送信部とが互いに依存しあ
うシステム構成になるため、パケット化された符号化ス
トリームとして予め蓄積されたストリームを送信するオ
ンデマンド型の映像通信システムに適用することができ
なかった。
【0007】ここでは、エンコード部とデータ転送部が
独立しており、データ転送部において符号化済みのスト
リームのビットレート削減を行なう方式を対象として説
明する。なお、符号化済みのストリームのビットレート
を削減することを、ストリーム・シェーピング(Shapin
g )と呼び、使用可能なネットワーク帯域に合わせてビ
ットレートを削減するストリーム制御をストリームシェ
ーピング処理と呼ぶこととする。
【0008】一般に、ビデオストリームに関するストリ
ーム・シェーピングの方法としては、次の(1)〜
(3)の方法がある。
【0009】(1)表示フレーム数を削減する(時間解
像度)。
【0010】(2)画像サイズ(幅・高さ)を縮小する
(空間解像度)。
【0011】(3)原画の1画素あたりのビット数を削
減する(階調数あるいは色解像度)。
【0012】例えば、表示フレーム数を削減する方法を
用いて、30Frame/sec でフレーム内符号化されている
ストリーム(例:Motion−JPEG)を時間解像
度を半分にして15Frame/sec のストリームとして送信
する場合には、データ送信処理中に、ストリーム解析に
より、符号化されたフレームデータの境界を検出して、
1フレームおきにデータ送信/データ破棄を繰り返す。
【0013】また、画像サイズ(幅・高さ)を縮小する
空間解像度を変更する方法を用いる場合には、ストリー
ム中の各フレームデータが、低解像度データとそれを補
う高解像度拡張データとに分離されて符号化されている
(すなわち、階層符号化ストリームである)ことを前提
とし、データ転送時に高解像度拡張データを破棄するこ
とでビットレートを削減する。この場合には、空間解像
度と時間解像度を組み合わせたストリーム・シェーピン
グも可能である。
【0014】動画像符号化における用語である「スケー
ラビリティ」とは、一つのビットストリームから空間解
像度、時間解像度が異なった2種類以上の画像を復号で
きることを指す。上記のビットレート制御は、この符号
化ストリームのスケーラビリティを利用したものであ
る。
【0015】動画像符号化方式の国際標準であるMPE
Gは、スケーラビリティ機能を持つ符号化ストリーム
(スケーラブル符号化ストリームと呼ぶ)を規定してい
るが、これは、復号器におけるスケーラビリティを実現
するものであり、ストリーム送信時のスケーラビリティ
を考慮したものとはいえない。
【0016】例えば、MPEGではビデオとオーディオ
の多重化方法を定めているが、多重化ストリームからビ
デオストリーム中の特定のピクチャ(例えばBピクチ
ャ)に相当するデータ部分を分離するのは容易ではな
い。
【0017】
【発明が解決しようとする課題】従来では、送信時にス
トリームのビットレート制御を行なう試みが数多くなさ
れている。MPEGビデオストリームを扱ったものに関
しては、ピクチャタイプにより数段回のレベルを設ける
方法がある。この方法では、全データの配送、Bピクチ
ャの破棄、B,Pピクチャの破棄、全ビデオ破棄(オー
ディオのみ配送)というレベル指定によるもので、離散
的なレート制御しかできないものである。
【0018】また、従来ではビデオとオーディオが多重
化されているストリームに対して、間引いてしまうと品
質が大きく劣化してしまうオーディオを優先して送信さ
せ、ビデオストリームからビットレート削減を始めるレ
ート制御があるが、ビデオとオーディオのどちらが重要
なデータであるかは、映像の内容やユーザの要求により
異なるものである。また、複数の映像が多重化されてい
るストリームを対象とする場合もあることを考えると、
ビットレート制御のポリシーをユーザが設定できないこ
とは、非常に大きな制約となっていた。
【0019】また、中継ノードにおけるビットレート制
御や、マルチキャスト映像配送を考慮に入れるならば、
ビットレート制御方法は、符号化方法に依存しないもの
であることが好ましい。そのためには、そのストリーム
構造は、MPEG、Motion−JPEG、H.26
1等の代表的な動画像符号化方式からの拡張が容易であ
り、かつ、符号化後のビットレート制御に適したストリ
ーム構造であることが必要である。しかしながら、従来
では利用する動画像符号化方式に依存する特殊なストリ
ーム構造のフォーマットを定義した上でビットレート制
御を行なうもので拡張性に乏しかった。
【0020】本発明は前記のような事情を考慮してなさ
れたもので、利用する動画像符号化方式に依存すること
なく、使用可能なネットワーク帯域に応じた動的なビッ
トレート制御を可能とするデータ送信システム及びデー
タ送信方法を提供することを目的とする。
【0021】
【課題を解決するための手段】本発明は、符号化ストリ
ームを、ネットワークを介して送信するデータ送信シス
テムにおいて、破棄可能なデータ単位を基準にパケット
化されると共に、各パケットにパケット優先度を兼ねる
パケット識別子を含むヘッダが付加された符号化ストリ
ームを生成するストリーム符号化手段と、前記ストリー
ム符号化手段によって生成された符号化ストリームにつ
いて、使用可能なネットワーク帯域に応じて(「指定ビ
ットレートに応じて」と同義)、パケット単位で各パケ
ットのヘッダに含まれるパケット識別子に基づく優先度
を利用して送信または破棄を決定するストリームシェー
ピング処理手段と、前記ストリームシェーピング処理手
段によって送信と決定されたパケットによる符号化スト
リームを送信する送信手段とを具備したことを特徴とす
る。
【0022】このような構成によれば、ストリーム符号
化手段による符号化ストリームの生成が、符号化データ
に対して破棄可能なデータ単位を基準にパケット化する
だけであって、符号化方式そのものに依存しないため、
例えばMPEG、Motion−JPEG、H.261
等の任意のスケーラブル符号化方式の何れを用いた場合
にも適用することができる。すなわち、符号化したデー
タのパケット化方法のみを規定している。これは、既存
の符号化方式からの拡張が容易であり、かつビットレー
ト制御機能を有するストリーム送受信手段の汎用性を高
めるという効用を持つ。また、ストリーム送信処理中に
複雑なストリーム解析を行なわず、パケットヘッダ中の
情報のみを参照してビットレート制御を行なうので高速
な処理が実現される。
【0023】また、前記ストリームシェーピング処理手
段は、前記ストリーム符号化手段によって生成された符
号化ストリームの各パケットのヘッダに含まれるパケッ
ト識別子とパケット優先度との対応関係が登録されたフ
ィルタリング情報テーブルを作成するテーブル作成手段
と、送信対象とする符号化ストリームの各パケットから
抽出されるヘッダに含まれるパケット識別子をもとに、
前記テーブル作成手段によって作成されたフィルタリン
グ情報テーブルを参照して各パケットについて送信ある
いは破棄を判定するフィルタリング判定手段とを具備し
たことを特徴とする。
【0024】このような構成によれば、ストリーム符号
化手段によって付加されたヘッダに含まれる、パケット
優先度を兼ねるパケット識別子により自動的にファイリ
ング情報テーブルを作成し、このテーブルを利用してビ
ットレート制御が行われる。すなわち、テーブル作成手
段を具備することにより、パケット識別子をパケット優
先度として一意に定義させないようにしている。
【0025】また、前記テーブル作成手段は、外部から
与えられる指定に応じて、パケット識別子とパケット優
先度との対応関係を設定することを特徴とする。
【0026】これにより、外部、すなわちユーザからの
指定に応じて、フィルタリング情報テーブルに登録され
るパケット識別子とパケット優先度の対応関係が変更さ
れる。従って、ユーザからの指定に応じたビットレート
制御が行われる。
【0027】また、前記ストリーム符号化手段は、符号
化周期を示す制御用パケットを周期的に挿入して符号化
ストリームを生成し、前記ストリームシェーピング処理
手段は、前記制御用パケットにより判別される周期毎
に、送信するパケットを増加しながら使用可能なネット
ワーク帯域を越えないように(あるいは、指定されたビ
ットレートを越えないように)パケットの送信または破
棄を決定することを特徴とする。
【0028】これにより、符号化ストリームの送信途中
で使用可能なネットワーク帯域が変更されても、制御用
パケットにより判別される周期毎に、使用可能なネット
ワーク帯域に応じたビットレートであるか判定され、許
容される範囲内で順次パケット優先度に基づく優先度の
高いパケットから優先して送信するように制御されるた
め、ネットワーク帯域の変更に対して動的に対応するこ
とができる。
【0029】また、前記ストリーム符号化手段は、前記
ヘッダに含まれるパケット識別子に階層構造を持たせ、
各階層の内容によってパケット優先度を表すことを特徴
とする。
【0030】これにより、パケット識別子に階層構造を
持たせ、各階層の内容によってパケット優先度を表すこ
とで、例えば符号化ストリームを多重化ストリームとし
た場合に、多重化されたデータのそれぞれに対する優先
度の設定を行なう等、詳細なパケット優先度の設定を可
能としている。
【0031】また、前記ストリーム符号化手段は、前記
ヘッダに含まれるパケット識別子のパケット優先度を、
絶対的なパケット優先度と変更可能なパケット優先度と
を区別できるようにすることを特徴とする。
【0032】これにより、例えば、MPEGを符号化方
式として用いた符号化ストリームの場合、復号画像の品
質を低下させないために、Iピクチャ、Pピクチャ、B
ピクチャという順で絶対的な優先順位が存在するが、こ
れら変更することができない絶対的なパケット優先度を
設定した場合に、この絶対的なパケット優先度が存在す
ることが明示される。
【0033】また、前記ストリーム符号化手段は、前記
ヘッダに含まれるパケット識別子を、パケットの破棄が
可能であるか否か表すようにすることを特徴とする。
【0034】これにより、例えば、階層符号化されてい
ないオーディオデータやユーザデータ等のストリームの
ように、ストリーム途中のパケットを破棄すると復号後
の品質が大きく劣化したり、意味のないデータとなって
しまう場合には、部分的なパケット破棄を許さずに全て
送信するか、全く送信しないように明示される。
【0035】また、ネットワーク経路上に設けられ、デ
ータ送信側システムとデータ受信側システムとの間に位
置する中継ノードであって、破棄可能なデータ単位を基
準にパケット化されると共に、各パケットにパケット優
先度を兼ねるパケット識別子を含むヘッダが付加され
た、前記データ送信側システムからの符号化ストリーム
について、使用可能なネットワーク帯域に応じて、パケ
ット単位で各パケットのヘッダに含まれるパケット識別
子に基づく優先度を利用して送信または破棄を決定する
ストリームシェーピング処理手段と、前記ストリームシ
ェーピング処理手段によって送信と決定されたパケット
による符号化ストリームを前記データ受信側システムに
ネットワークを介して送信する送信手段とを具備したこ
とを特徴とする。
【0036】このような構成によれば、ネットワーク経
路上のデータ送信側システムとデータ受信側システムと
の間に位置する中継ノードにおいても、スデータ受信側
システムまでのネットワークの状態(使用可能なネット
ワーク帯域)に応じたストリームシェーピング処理を、
データ送信システムにおけるストリームシェーピング処
理と同様にして行なうことができる。すなわち、符号化
ストリームに対するストリームシェーピング処理を多段
階に施すことができる。
【0037】
【発明の実施の形態】以下、図面を参照して本発明の実
施の形態について説明する。図1は、本発明のデータ送
信システムの概要を説明するためのブロック図である。
本実施形態では、データ送信システムとして、音声を伴
う映像をパケット化された符号化ストリームとして送信
する映像送信システムを例にして説明する。
【0038】[概要]はじめに、本実施形態における映
像送信システムの概要について、図1に示すブロック図
を参照しながら説明する。
【0039】本実施形態では、MPEG、Motion
−JPEG等の符号化ビデオストリームを扱う映像送信
システムに、ビットレート制御機能を有するストリーム
シェーピング処理部02を付加する。
【0040】複数のユーザが利用しているネットワーク
では、映像ストリーム(符号化ストリーム)を配送する
ために必要なネットワーク帯域を常に十分確保できると
は限らない。このため、例えば6Mbpsのビットレー
トによって送信したいところ、ネットワーク帯域を十分
確保できず、ストリームのビットレートをビットレート
制御によって例えば2Mbpsに削減した上で配送する
必要が発生する。ビットレート削減の際には、可能な限
り復号画像の品質を損なわないように配慮することが好
ましい。そこで、本実施形態における映像送信システム
では、以下のような方法を用いる。
【0041】符号化ストリームを、破棄可能な符号化デ
ータ単位毎にパケット化して、例えば蓄積ストリームと
して外部記憶部08に蓄積しておく。外部記憶部08に
蓄積される符号化ストリームは、パケットフィルタリン
グによるビットレート制御(送信/破棄判定)に適した
ストリーム構造が定義されている。
【0042】ストリーム構造の定義には、符号化データ
単位毎にパケット化すること、ストリーム中に符号化周
期を示す制御用パケットを周期的に挿入すること、パケ
ットヘッダフォーマット(パケット優先度を兼ねるパケ
ット識別子)を規定する。このストリーム構造は、符号
化データそのものに対する規定を含まないため、MPE
GやMotion−JPEG等の既存の動画像符号化方
式から拡張することが容易となっている。
【0043】ストリームシェーピング処理部02は、入
力部00から与えられる外部記憶部08に蓄積されてい
る符号化ストリームについて、各パケットのヘッダに付
加されているパケット優先度を兼ねるパケット識別子を
利用して、パケット・フィルタリングによるストリーム
シェーピング処理(ビットレート制御方法)を行なった
上で送信部04を通じてネットワークにストリームを送
信する。
【0044】ストリームシェーピング処理部02は、ス
トリームシェーピング処理を行なう際、テーブル03に
登録されているパケット識別子に対する優先度に応じ
て、各パケットの破棄または送信を決定する。
【0045】また、ストリームシェーピング処理部02
は、数値指定によるビットレート制御を可能にするた
め、テーブル03に登録されるパケット識別子と優先度
との対応関係に基づいて、使用可能なネットワーク帯域
の範囲内で優先度の高いパケットから優先して送信し、
許容される範囲内で順次送信するパケットを増加してい
く。なお、同一周期内で、同じ優先度を持つパケットに
ついては、暗に前方にあるパケットほど優先度が高いも
のとして処理する。
【0046】ここで、ビットレート制御方法について簡
単に記す。パケットの送信/破棄を判定する境界となっ
ている優先度より高い優先度をもつパケットについては
無条件で送信し、判定境界の優先度より低い優先度をも
つパケットについては無条件で破棄する。そして、判定
境界の優先度と同じ優先度を持つパケットについては、
周期を重ねる毎に徐々にパケット送信数を増やしてい
く。数周期後に一周期内に存在する判定境界と同じ優先
度のパケットを全て送信した状態になったら、判定境界
の優先度を下げ、より多くのパケットを送信できるよう
にする。このような処理を繰り返していくと、徐々に指
定されたビットレートに近づいていく。指定ビットレー
トを越えそうになったら、送信パケット数を増やすこと
を止め、その後は、ほぼ定常状態になる。また、テーブ
ル03に登録されるパケット識別子と優先度との対応関
係を(所定の範囲内で)任意に変更可能とすることで、
優先して出力されるパケットを変更できるようにする。
【0047】なお、送信対象とする符号化ストリーム
は、必ずしも予め外部記憶部08に蓄積されている必要
がなく、本実施形態における規定によるストリーム構造
に従って生成されるパケット化された符号化ストリーム
を直接入力するようにすることも勿論可能である。ま
た、指定ビットレートは、ストリーム送信中に動的に変
更可能である。
【0048】[システム構成] <映像送信システム>次に、本実施形態における映像送
信システムの構成例について説明する。図2は、本実施
形態における映像送信システムの構成を示すブロック図
である。図2に示すように、本実施形態における映像送
信システムは、入力部10、ストリームシェーピング部
12、送信部14、ストリーム情報取得部16から構成
される。
【0049】入力部10は、ハードディスク装置等によ
って構成される外部記憶装置18から符号化ストリーム
を読み込み、パケット単位でストリームシェーピング処
理部12に送り出す。ストリーム読み込み速度は、スト
リーム情報取得部16から与えられる符号化ストリーム
(入力ストリーム)のビットレートを基準とする。入力
部10は、十分な容量があるバッファを有するものとす
る。なお、入力部10は、符号化器(後述するストリー
ム符号化部34)から直接、符号化ストリームを受信し
てもよい。
【0050】ストリームシェーピング部12は、入力部
10を介してパケット単位で符号化ストリームを読み込
み、パケット優先度を含むパケットヘッダに付加されて
いる情報(パケットフォーマットの詳細については後述
する)を利用して、パケットの送信/破棄を決定し、送
信と判断されたパケットのみを送信部14に送る。スト
リームシェーピング部12は、パケット優先度に基づく
単純なパケットフィルタリング処理だけでなく、指定さ
れた目標ビットレートを超えないように出力ストリーム
のビットレートを調整する機能も有している。
【0051】送信部14は、ストリームシェーピング部
12から受け取ったパケットをバッファに保持し、適当
なデータ量に達したらこれを受信側システムに送信す
る。ストリームシェーピング処理後の目標ビットレート
が指定されている場合、送信部14は、そのレートを守
って送信処理を行なう。この時、符号化周期情報を利用
するようにしてもよい。また、ネットワーク負荷が大き
く、定められた送信レートを守れない状況になったら、
ストリームシェーピング部12に目標ビットレートを下
げる要求を出す機能を有しているものとする。
【0052】ストリーム情報取得部16は、ストリーム
の符号化処理時に外部記憶部18に保存された、パケッ
ト優先度を含むパケット識別子(詳細については後述す
る)に関する情報を読み込み、この情報に基づいてスト
リームシェーピング処理のために必要な情報をストリー
ムシェーピング処理部12に伝える。また、ストリーム
情報取得部16は、入力部10に対して入力ストリーム
のビットレートを通知する。
【0053】次に、ストリームシェーピング処理部12
の詳細について説明する。ストリームシェーピング処理
部12は、図2示すように、テーブル作成部20、フィ
ルタリング判定部22、ヘッダ抽出部24、パケット保
持部26、及びフィルタリング情報テーブル28から構
成される。
【0054】テーブル作成部20は、ストリーム情報取
得部16から受け取ったパケット識別子に関する情報を
基にして、パケット識別子とパケット優先度との対応関
係を定義する対応テーブルを作成し、これをフィルタリ
ング情報テーブル28として保存する。もしくは、パケ
ット識別子とパケット優先度との対応関係が予め登録さ
れている対応テーブルを受信してフィルタリング情報テ
ーブル28として保存する。フィルタリング情報テーブ
ル28には、制御パケットに関する情報、及び目標ビッ
トレート(正確には1符号化周期中に送信可能な最大バ
イト数)を含んでいる。また、テーブル作成部20は、
外部からの指示、すなわちユーザからの指定(ストリー
ムシェーピング機能のON/OFF、優先度指定、指定
されたビットレート(要求ビットレート))に応じて、
フィルタリング情報テーブル28の内容を変更すること
ができる。なお、優先度テーブルに関してユーザからの
指示が無い場合には、テーブル作成部20は、パケット
識別子に関する情報のみを利用して、デフォルトのファ
イリング情報テーブルを作成する。
【0055】目標ビットレートは、ストリーム送信中に
動的に変更することが可能である。目標ビットレートの
値は外部から与えられるものとするが、使用可能なネッ
トワーク資源(帯域)をモニタリングする手段を有する
場合には、これを利用して自動的にビットレート指定を
行ってもよい。また、送信部14がネットワークのバッ
クプレッシャーを検知できる場合には、送信部14がス
トリームシェーピング部12へ目標ビットレート変更要
求(レート調整命令)を送信する機能を有するようにし
てもよい。
【0056】ヘッダ抽出部24は、入力部10から受け
取ったパケットからヘッダ部分(ヘッダ情報)をコピー
し、これをフィルタリング判定部22に送る。また、パ
ケット(ヘッダを含む)をパケット保持部26に送る。
【0057】パケット保持部26は、ヘッダ抽出部24
から受け取ったパケットを一時的に保持し、フィルタリ
ング判定部22から送信/破棄の決定通知に従ってパケ
ット処理を行なう。パケットを送信する場合、ヘッダを
付けたまま送信部14に送信する。ただし、送信側シス
テムと受信側システムとを結ぶネットワークにストリー
ムシェーピング機能を持つ中継ノード(後述する)が存
在せず、受信側システムがパケットヘッダを削除した符
号化ストリームを要求するならば、ヘッダ部分を削除し
て後段の送信部へデータを渡すようにしてもよい。この
ヘッダ削除機能はヘッダ抽出部24の機能としてもよ
い。
【0058】フィルタリング判定部22は、フィルタリ
ング情報テーブル28を利用して、ヘッダ抽出部24か
ら送られたヘッダ情報に含まれるパケット識別子をキー
としファイリング情報テーブルを参照して、パケット優
先度を求め、このパケット優先度に基づいて、フィルタ
リング判定を行ない、判定結果をパケット保持部26に
通知する。フィルタリング判定は、パケット単位で送信
/破棄を決定するものである。ビットレートが指定され
ている場合には、(周期通知パケット(後述する)を基
準にして)優先度が最も高いパケットから徐々に優先度
が低いパケットへと、指定されたビットレートを超えな
い範囲で送信するパケット数を徐々に増やしていく。ま
た、フィルタリング機能がオフの場合は、全てのパケッ
トを送信部14に送る。
【0059】<映像送信システムを組み込んだ映像通信
システム>次に、図2に示す映像送信システムを組み込
んだ映像通信システムの構成について説明する。図3
は、本実施形態における映像通信システムの構成を示す
ブロック図である。図3に示すように、本実施形態にお
ける映像通信システムは、送信側システム30、ネット
ワーク31、受信側システム32から構成され、送信側
システム30中に図2に示す映像送信システムが含まれ
ている。
【0060】送信側システム30は、ストリーム符号化
部34、外部記憶部18、映像送信部36から構成され
る。
【0061】また、ストリーム符号化部34は、ビデオ
・オーディオ符号化部40とパケット化処理部42から
構成される。
【0062】ビデオ・オーディオ符号化部40は、入力
される映像信号に対して符号化処理を行ない、パケット
化処理部42に符号化データを出力する。本実施形態で
は、符号化方式の種類については問わないが、例えばM
PEG、Motion−JPEG、H.261等の動画
像符号化が用いられる。ただし、符号化データは、パケ
ット化処理に適した構造をしているものとする。
【0063】パケット化処理部42は、ビデオ・オーデ
ィオ符号化部40から出力された符号化データを、本実
施形態において固有の規定されたストリーム構造(詳細
については後述する)に合わせてパケット化する処理を
実行し、パケット化された符号化ストリームを生成す
る。パケット化処理部42におけるパケット処理によっ
て、ビデオ・オーディオ符号化部40において用いられ
る各種符号化方式の差異が吸収される。また、制御用パ
ケットは、ストリーム符号化部34でストリーム中に挿
入される。
【0064】ここで、パケットとは、ストリームシェー
ピング処理部12におけるパケット・フィルタリングの
基本単位であり、各パケットのヘッダ部分(ヘッダ情
報)にはパケット種別識別子が付加されている。パケッ
ト種別識別子とは、パケット種別を示す識別子であり、
階層的な設定ができるものである。なお、パケット種別
識別子と実際の符号化データの内容を示すパケット種別
(ビデオまたはオーディオ等)の対応に関する情報は、
別ファイルとして、もしくはストリーム先頭に制御用パ
ケットとしても保存可能であるものとする。
【0065】ストリーム符号化部34から出力される符
号化ストリームは、外部記憶装置18に蓄積されるか、
もしくは映像送信部36に直接に送られる。ここでは、
符号化処理を行なうビデオ・オーディオ符号化部40
と、パケット化処理を行なうパケット化処理部42とを
分離し、逐次、行なうようにしているが同時に実行され
ても構わない。また、ストリーム符号化部34は、複数
の映像信号を多重化し、1本のストリームとする機能も
有していてもよい。
【0066】映像送信部36は、図2に示す映像送信シ
ステムに相当する部分である。映像送信部36は、スト
リーム情報取得部16が得たストリーム情報だけを用い
てパケット識別子とパケット優先度の対応テーブルを作
成するだけでなく、外部から与えられるユーザからの指
定(ストリームシェーピング機能のON/OFF、優先
度指定、ビットレート指定)を反映させることができ
る。
【0067】映像送信部36の外部からユーザによる指
定(ファイリング情報テーブル作成のための情報)を入
力するために設定部38が設けられている。設定部38
は、適当なGUI(Graphical User Interface)を持
ち、ストリーム中の優先度等を示すパケット種別識別子
と実際のパケット種別(ビデオまたはオーディオ等)に
関する情報を、例えば表示装置(図示せず)においてユ
ーザに提示できるものとする。設定部38は、提示した
内容を変更する指定がユーザからあると、ストリームシ
ェーピング処理部12のテーブル作成部20に通知す
る。また、設定部38は、使用可能なネットワーク帯域
を示す、1秒当たりの送信データのビット数(要求ビッ
トレート)の指定を入力してテーブル作成部20に通知
する。
【0068】なお、設定部38は、送信側システム30
においてのみユーザからの指定を入力するだけでなく、
受信側システム32とネットワークを介して接続されて
いれば、受信側システム32において入力された指定を
ネットワークを通じて受信して、この指定を対応テーブ
ルに反映(優先度の変更等)させることができる。
【0069】一方、受信側システム32は、受信部50
とストリーム復号部52から構成される。
【0070】受信部50は、ネットワーク31を介して
符号化ストリームを受信し、ストリーム復号部52に送
る。
【0071】ストリーム復号部52は、パケット分解処
理部60とビデオ・オーディオ復号処理部62から構成
される。
【0072】パケット分解処理部60は、ストリーム・
シェーピング処理のために付加されていたパケットヘッ
ダを取り除き、純粋な符号化ストリームに戻した上でビ
デオ・オーディオ復号部62に送出する。
【0073】ビデオ・オーディオ復号部62は、パケッ
ト分解処理部60からの純粋な符号化ストリームに対し
てビデオ・オーディオの復号を行ない、復号した信号
(復号信号)を出力する。なお、ここでは、パケット分
解処理部60におけるパケット分解処理と、ビデオ・オ
ーディオ復号部62における復号処理とを分離したが、
同時に行なう構成にしても構わない。また、パケットヘ
ッダを取り除いた(純粋な)符号化ストリームを受信す
る構成にしてもよい。
【0074】<ストリームシェーピング機能を有するス
トリーム中継ノード>図4には、ストリームシェーピン
グ機能を有する中継ノード70の構成例を示している。
【0075】中継ノード70は、送信側システム30と
受信側システム32との間のネットワーク31の経路上
に設けられる。中継ノード70は、例えばネットワーク
帯域の異なるネットワーク間での符号化ストリームの送
信速度の違いを吸収するために用いられるもので、任意
の場所に任意の数を設けることができる。
【0076】図4に示すように、中継ノード70は、通
信インタフェース部71、ストリームシェーピング処理
部72、受信部74、送信部76、及びテーブル受信部
78によって構成されている。
【0077】通信インタフェース部71は、ネットワー
ク31との間で符号化ストリーム(さらにはフィルタリ
ング情報テーブル)を送受信するインタフェースであ
り、受信した符号化ストリームを受信部74に出力し、
送信部76からのストリームシェーピング処理された符
号化ストリームをネットワーク31に送出する。
【0078】ストリームシェーピング処理部72は、図
2に示すストリームシェーピング処理部12と同様の機
能を有する(詳細な説明を省略する)。
【0079】受信部74と送信部76は、それぞれ図2
に示す入力部10と送信部14と同様の機能を有するも
のとして説明を省略する。
【0080】テーブル受信部78は、パケット識別子と
パケット優先度の対応関係が登録されたフィルタリング
情報テーブルを通信インタフェース部71を通じてネッ
トワーク経由で受信し、ストリームシェーピング処理部
72に提供する。なお、フィルタリング情報テーブル
は、制御用パケットとしてストリーム中に挿入されてい
てもよい。
【0081】送信側システム30と受信側システム32
との間に以上のような中継ノード70を設けることで、
パケット化された符号化ストリームが受信側システム3
2に送信されるまでにストリームシェーピング処理部が
多段階接続されることになる。映像送信部36のストリ
ームシェーピング処理部12、中継ノード70のストリ
ームシェーピング処理部72のそれぞれにおいて、フィ
ルタリング情報テーブルを参照して、符号化ストリーム
に対するストリームシェーピング処理が実行される。な
お、非均質なネットワークにおけるマルチキャスト通信
を行なう場合には、各中継ノードにおいて、送信ノード
の数だけ、ファイリング情報テーブル(および、その他
のビットレート制御に必要なパラメータ)を持ち、中継
ノードと各送信ノードとの間の使用可能ネットワーク帯
域に応じてビットレート制御を行なうことになる。
【0082】[ストリーム構造]次に、本実施形態にお
ける符号化ストリームの詳細な構造について説明する。
本実施形態における符号化ストリームは、次のような特
徴を有している。
【0083】(1)ビデオ・オーディオ等の実時間デー
タを扱うパケット化ストリーム。
【0084】(2)ストリーム中には、複数種類のデー
タ(ビデオ、オーディオ)が多重化されている。
【0085】(3)フレーム内符号化ストリーム(例:
Motion−JPEG)とフレーム間予測符号化スト
リーム(例:MPEG)の両方を対象とする。
【0086】(4)パケット単位のデータ削減が可能で
あることを前提とする。
【0087】(5)パケット構造のみを定義(符号化方
式に依存しない)している。
【0088】(6)ヘッダ中にパケット種別識別子を持
つ。
【0089】(7)ストリームに関する統計情報、制御
情報を制御用パケットとして挿入可能。
【0090】(8)符号化周期を示す制御用パケットが
周期的に挿入されている。
【0091】以下、詳細について説明する。
【0092】任意の符号化方式(MPEG、Motio
n−JPEG、H.261等)の固定長符号化ストリー
ムを対象とする。ただし、破棄可能な符号化データ単位
(例:1フレーム分のビデオデータ)を基準にしてパケ
ット化し、これにヘッダを付加したストリーム構造にな
っていることを条件とする。各パケットのヘッダには、
パケット種別識別子が付加されている。この識別子は、
パケット優先度を兼ねるものであり、この優先度を利用
してパケット・フィルタリングによるストリーム・シェ
ーピング処理が行なわれる。
【0093】パケット・フィルタリングは、パケット単
位で送信/破棄を決定するものである。従って、1個の
パケットの中に複数の符号化データ単位が含まれていて
はいけない(例:1パケットの中に2フレームにまたが
る符号化データが含まれていてはいけない)。
【0094】逆に、1つの符号化データ単位が複数のパ
ケットに分割されることは許す(例:1画面(フレー
ム)分のビデオデータを複数パケットに分割する)。た
だし、その複数パケット内のデータが、同一符号化デー
タ単位に属するものであることがわかるようにしてお
く。そのために、パケットヘッダ中に前後のパケットと
のリンク関係を示すフィールドを用意しておく。これ
は、パケット・フィルタリング処理を容易にするために
準備したものである。
【0095】上の例では、符号化データ単位としてフレ
ームを挙げたが、1フレームデータが階層符号化されて
おり、低解像度成分とそれを補う高解像度成分に分割さ
れている場合には、それぞれをひとつの符号化データ単
位として扱う。
【0096】また、ストリーム中には、特別な識別子を
持った制御用のパケットを含むことができる。この制御
用パケットは、ストリームの統計情報や制御情報をスト
リーム中に挿入するためのものである。
【0097】具体的には、図5に示すように、符号化周
期を示す制御パケットを挿入し、このパケットを基準に
してフィルタリング処理や、ビットレート制御を行なう
ことを想定している。ここで、符号化周期とは、MPE
GのGOP(Group of Picture)構造の様な符号化処理
の周期を示す。すなわち、MPEGの場合は、GOPを
一周期と見てビットレート制御を行なう。また、Mot
ion−JPEGの場合は、フレームレートを基準にし
て符号化周期を定義する。また、制御パケットは、フィ
ルタリングにより破棄したデータサイズ等を中継ノード
や受信ノードに知らせるためにも使用できる。
【0098】このストリーム構造は、パケット化方法と
ヘッダとして付加すべき情報について規定しただけであ
り、この規定を守れば、符号化器および復号器がこの規
定を守るように設計されていれば、本実施形態における
ビットレート制御方法は任意の符号化方式に対応でき
る。
【0099】[パケットヘッダ]次に、本実施形態にお
ける符号化ストリームの各パケットに付加されるヘッダ
情報について説明する。本実施形態におけるパケットヘ
ッダは次のような特徴を有している。
【0100】(1)パケットヘッダには、同期ビットフ
ィールド、リンクフィールド、パケット種別識別子フィ
ールド、パケット長フィールドを持つ(リンクフィール
ド、パケット長は必須ではない)。
【0101】(2)パケット種別識別子中の特定のビッ
トを見ることにより、制御用パケットとストリームデー
タ用パケットを識別できる。
【0102】(3)リンクフィールドを見ることによ
り、(同じパケット種別識別子を持つ)前後のパケット
とのリンク関係を確認できる。
【0103】(4)パケット種別識別子フィールドは、
複数のサブフィールドに分割し、階層構造を持たせるこ
とができる。
【0104】(5)パケット種別識別子は、パケット優
先度を兼ねる。
【0105】(6)パケット識別子フィールドには、絶
対優先度と可変優先度を区別するフラグを持つことがで
きる。
【0106】(7)パケット識別子フィールドには、部
分破棄可能パケットと部分破棄不可パケットを区別する
フラグを持つことができる。
【0107】次に、図を参照しながら詳細について説明
する。
【0108】パケットヘッダは、図6(a)に示すよう
に、同期ビットフィールド、制御用フィールド、リンク
フィールド、パケット種別識別子フィールド、パケット
長フィールドから構成される。各フィールドのサイズに
関しては規定しない。ただし、パケットヘッダサイズは
(処理高速化のため)固定長であることが望ましい。ま
た、パケットのペイロードサイズが固定長とするなら
ば、パケット長フィールドは不要である。
【0109】(a)同期ビットフィールドは、ストリー
ム中からパケットヘッダを検出するために付加されたも
ので、ヘッダ検出が容易なように固定ビット列を書き込
む。パケット種別識別子は、パケットのペイロードに含
まれるデータの種類を示すものである。
【0110】(b)リンクフィールドは、例えば図7に
示すように、1ビデオフレーム分の符号化データが複数
のパケットに分割される場合に、各パケットにおいて前
後のパケットとのリンク状態を示すものである。リンク
フィールドを設けることで、例えば前のパケットがフィ
ルタリング処理により破棄され、かつ、前のパケットと
リンク関係にあるパケットである場合には、自動的に破
棄すべきパケットであることを決定できる。リンクフィ
ールドは、パケット・フィルタリング処理を容易にする
ために準備したものである。また、同じパケット種別識
別子のパケットが連続する場合に、その境界を示す役割
も果たす。下の例は、前後のパケットとのリンク関係を
2ビットを使用して表したものである。
【0111】 (00):独立パケット(リンク関係なし) (01):同じ識別子を持つ後ろのパケットとリンク関
係がある (11):同じ識別子を持つ前後のパケットとリンク関
係がある (10):同じ識別子を持つ後ろのパケットとリンク関
係がある なお、複数種のデータが多重化されているストリームで
は、異なるパケット種別識別子を持つパケットが混在し
ている。そのため、リンク関係にあるパケットの間に、
パケット種別識別子が異なるパケットが挟まれる場合が
ある。
【0112】(c)パケット長フィールドは、パケット
のペイロード長(もしくはパケット長)を示す。ストリ
ーム・シェーピング処理では、パケットヘッダのみを参
照し、ペイロード中のデータを参照しない。そこで、パ
ケット長情報を付加しておき、ストリーム中のパケット
ヘッダ検出を容易にする。
【0113】パケットヘッダに続くペイロードには、符
号化データ単位、もしくは、その一部が含まれている。
符号化データ単位とは、ストリーム中から削除しても復
号器における復号処理に大きな影響を与えないデータ単
位(例:ビデオの1フレーム分のデータ)を指す。ただ
し、MPEGのI,P,Bピクチャ(Intra-picture,Pr
edictive-Picture,Bidirectionally Predictive-Pictur
e )のように、データ単位間に優先順位が存在すること
は構わない。
【0114】(d)パケット種別識別子は、パケット種
別を判定するためのものである。パケット種別識別子フ
ィールドの最上位ビットは、制御用パケットとデータパ
ケットを区別するための制御フラグである。
【0115】また、パケット識別子は、パケット優先度
を兼ねたものである。パケット優先度を「兼ねる」と
は、次のような意味を持つ。パケット種別識別子は、ス
トリーム符号化時に付加されるものである。そのため、
「識別子=優先度」と固定的に定めてしまうとユーザの
要望(例:ビデオとオーディオの優先度の変更等)を反
映させることができなくなる。そこで、パケット種別識
別子は、デフォルトのパケット優先度としている。
【0116】パケット識別子フィールドは、図6(b)
(c)(d)に示すように、複数のサブフィールドに分
割して使用し、階層構造を持たせることができる。
【0117】パケット種別識別子の階層構造の説明のた
めに、ビデオとオーディオ、および、その他の付加デー
タをセットとした番組を2本多重化したMPEGストリ
ームを考える。この場合、図8に示すように、パケット
種別識別子は、番組、データタイプ、ピクチャタイプと
いう3階層を持つ。
【0118】例えば、この多重化ストリーム中から番組
1のみを抽出して送信する場合には、第一階層のパケッ
ト種別識別子のみを参照してパケットの配送/破棄を決
定することができる。また、MPEGビデオストリーム
に関してP,Bピクチャの破棄を行なう場合には、第三
階層のパケット種別識別子まで確認することになる。こ
のような識別子の階層化は、データ管理の面においても
役立つ。
【0119】パケット種別識別子フィールドに階層構造
を与える場合は、このフィールドに与えられたビットを
各階層に振り分ける。ただし、上位ビットの分割フィー
ルドを上位階層とするように割り振る。また、識別子の
番号の割り振りに関しては、原則として優先度の高いパ
ケット種別に小さな値を割り振るものとする。これら
は、識別子フィールドの各階層の境界や、識別子と実際
のデータタイプの対応がわからなくても、識別子を(デ
フォルトの)優先度として利用できるように配慮したも
のである。
【0120】MPEGストリームは、フレーム間予測符
号化方式でありI,P,Bという3種類のピクチャタイ
プを持つ。P,Bピクチャの復号のためには、I,Pピ
クチャの復号データが必要である。すなわち、MPEG
ストリームでは、Iピクチャ、Pピクチャ、Bピクチャ
という順で、絶対的な優先順位が存在する。パケットフ
ィルタリングの際には、この優先度を守らないと復号画
像の品質が大きく劣化することになる。そこで、絶対的
な優先度であることを示すフラグ(絶対優先度フラグ)
を各識別子サブフィールドの最下位ビットに用意する。
このフラグが“1”の時は、その階層の識別子が絶対的
な優先度であることを示すものとする。
【0121】ここでは、オーディオデータやユーザデー
タは、階層符号化されていないストリームを想定してい
る。そのため、ストリーム途中のパケットを破棄すると
品質が大きく劣化したり、パケット破棄発生後に送信し
たデータが全く意味を持たなくなる。このようなストリ
ームは、パケット破棄を許さずにすべて送信するか、全
く送信しないかのいずれかの処理を行なうことが好まし
い。そこで、部分破棄が可能なストリームであるか否か
を示すフラグ(部分破棄可能フラグ)を各識別子サブフ
ィールドの下位第2ビットに用意する。このフラグが
“1”の時は、その階層の識別子が部分破棄可能なスト
リームであることを示す。
【0122】図9は、部分破棄可能フラグと絶対優先度
フラグを説明したものである。ただし、この2種類のフ
ラグは必須のものではない。また、識別子フィールドの
サイズを十分に取れない場合には、識別子フィールド中
にこれらのフラグを付加せず、各識別子サブフィールド
と部分破棄可能フラグ、および、絶対優先度フラグの対
応を取るテーブルを用意しておいてもかまわない。
【0123】図10(a)は、MPEGストリームを想
定したパケット種別識別子の割り振りの例であり、図1
0(b)は、Motion−JPEGストリームを想定
したパケット種別識別子の割り振りの例である。両者と
も、パケット種別識別子の階層は、データタイプとフレ
ームタイプ(ピクチャタイプと同義)の2階層とし、各
階層に4ビット割り当て、絶対優先度フラグ、および、
部分破棄可能フラグを付加している。
【0124】図10(a)のフレーム種類に示すシステ
ムとは、MPEGビデオストリームのピクチャヘッダよ
り上位層のGOPヘッダ等を指す。この例では第二階層
の識別子は4ビットあるが、その下位1、2ビット目が
部分破棄可能フラグ、絶対優先度フラグである。そこ
で、上位2ビットを使用して、システム、I,P,Bピ
クチャの識別子を付けるが、この識別子をデフォルトの
優先度として使用できるように、符号化処理時の重要度
が大きいものに高い優先度(すなわち識別子の値は小さ
くする)を与えている。
【0125】一方、図10(a)(b)のビデオ、オー
ディオ、ユーザデータの間には、絶対的な優先度が存在
しないので、第一階層の最下位ビットは“0”にし、上
位2ビットを使用して3つのデータタイプに識別子を割
り当てる。この部分の優先度に関しては、ユーザが変更
することが可能である。また、オーディオとユーザデー
タに関しては部分破棄可能フラグをオフ“0”にし、ビ
デオに関してはオン“1”にしている。
【0126】図10(b)のMotion−JPEGは
フレーム内符号化画像なので、各フレームは対等な関係
にある。すなわち、ビデオのフレームタイプを区別しな
くて良いので、第二階層の識別子は必要がない。しか
し、これは、どのフレームから破棄すべきかを決定する
手がかりが全くないことを同時に意味する。そこで、図
10(b)では、偶数フレームと奇数フレームに分けて
識別子を付けている(絶対的な優先度ではない)。この
ように、識別子を利用して符号化時にフレーム破棄の順
序を定めておくこともできる。
【0127】なお、部分破棄可能フラグをオフに設定す
ると、パケット破棄を絶対に行わないことを意味するも
のではない。特に、部分破棄不可能なデータに中位の優
先度を設定する場合には、そのデータの一部が破棄され
ることは十分有り得る。これを避けたい場合には、部分
破棄不可能なデータには、最も高い優先度を与えるか、
最も低い優先度を与えるものとする。
【0128】[パケット優先度について]次に、パケッ
トの優先度について説明する。本実施形態におけるパケ
ット優先度は次のような特徴を有している。
【0129】(1)パケット識別子は、そのままパケッ
ト優先度として使用できる。
【0130】(2)ユーザの要望に応じてパケット優先
度を変更することも可能である。ただし、絶対優先度フ
ラグ、部分破棄可能フラグを使用している場合には、こ
れを考慮する。
【0131】(3)パケット識別子とパケット優先度の
対応テーブルを用意する。
【0132】(4)パケット優先度には、「必ず送信す
る」と「必ず破棄する」を意味するものを用意する。
【0133】次に、本実施形態におけるパケット優先度
の詳細について説明する。
【0134】パケット識別子は、そのままパケット優先
度として使用できるが、ストリーム送信に先立ち、パケ
ット優先度を変更することも可能である。優先度を変更
するためには、ストリーム中に含まれるパケット識別子
とそのパケットの属性(ビデオ、オーディオ等)の関係
をユーザが理解できる形で示す必要である。そのための
情報(ストリーム情報)は符号化処理時に、符号化スト
リームとは別ファイルとして、もしくは、制御用パケッ
トとしてストリーム先頭に付加される形で保存されるも
のとする。
【0135】ユーザに優先度を設定をしてもらうため
に、識別子とその内容を提示する手段(設定部38)、
および、優先度設定を変更する手段(テーブル作成部2
0)が用意されている。ただし、(符号化方法に依存し
て決定される)絶対優先順位がある部分の優先度は変更
できないようにする。
【0136】なお、絶対優先度があるパケットであって
も、高い優先度のパケットから順に「必ず送信」する設
定にしたり、低い優先度のパケットから順に「必ず破
棄」する設定に変更することは可能である。
【0137】次にパケット優先度の設定方法について説
明する。
【0138】パケット種別識別子は、パケット間の優先
度を示すものであるが(階層構造を持っているので)不
連続な値である。また、ユーザが優先度を変更する場合
もある。従って、ある識別子より1つだけ優先度が高い
(低い)識別子がどれであるか、すなわち使用可能なネ
ットワーク帯域の範囲内で優先度の高いパケットから優
先して送信し、許容される範囲内で順次送信するパケッ
トを増加していくときの対象とするパケットがどれであ
るかを知るために、パケット種別識別子とパケット優先
度を対応付ける対応テーブルが用意される。
【0139】図11は、1番組から構成されるストリー
ムの場合のパケット優先度の設定例であり、図12は、
2番組を含むストリームの場合の例である。ここで番組
とは、複数のビデオ、オーディオ、ユーザデータから構
成されるストリームを指す。図11(b)および図12
(b)が、パケット種別識別子と優先度とを対応付ける
対応テーブルの例である。ここで、図12(b)の優先
度設定例Dについて説明を加える。
【0140】図12を参照してわかるように、このスト
リームは、2本の番組を含み、各番組がオーディオスト
リームを含んでいる。番組2は番組1より優先度が低く
設定されているので、まず番組1を送信し、余裕があっ
たら番組2に属するパケットも徐々に送信されていく。
番組2の中では、オーディオが最も優先度が高いが、こ
れは部分破棄不可パケットに設定されている(図12
(a)参照)。このように、優先度は中間レベルであり
ながら、部分破棄不可パケットがある。識別子の特定ビ
ットを参照すれば、部分破棄の可/不可は確認できる
が、図13のように部分破棄可/不可を示すフラグを対
応テーブル(識別子−優先度対応テーブル)中に用意し
ても構わない。
【0141】なお、パケット優先度は、必ず連続した値
にする。ただし、「必ず送信」するを意味する0x00
と「必ず破棄」を意味する0xFFは連続していなくて
良い。また、同じ優先度を持つ識別子が複数存在しても
構わないものとする。
【0142】[ストリーム・シェーピングに必要な情
報]次に、ストリームシェーピング処理に必要な情報の
詳細について説明する。
【0143】<符号化時に保存されている情報>以下に
挙げる情報は、符号化処理時に符号化ストリームと共に
保存されるものであり、パケット識別子とパケット優先
度の対応テーブル、ストリームシェーピング時のビット
レート制御のために必要なものである。これらの情報
(ストリーム情報)は、ストリーム送信開始前に、スト
リーム情報取得部16によって取得される。
【0144】(1)符号化ストリームのビットレート オリジナルの符号化ストリームのビットレートを通知す
る。これは、外部記憶部18からの符号化ストリームの
読み込みレートとして使用する。
【0145】(2)ストリーム中に含まれるパケット種
別識別子の階層構造、優先度 ストリーム中の含まれるすべてのパケット種別識別子と
その属性(ビデオ、オーディオ等、ユーザがデータ種別
を判別できる情報)の対応テーブル。また、パケット識
別子フィールドが階層構造を持つ場合には、各階層のビ
ット数も与える。これらは、ユーザがパケット優先度を
設定する際に必要なデータである。
【0146】(3)1符号化周期の時間 ビデオストリームの符号化処理には周期性があることを
前提にしている。ストリーム中に符号化周期を示す制御
用パケットを挿入して、ある時間間隔を教える。この値
は、1符号化周期当たりの送信バイト数を求めるために
使用される。例えば、MPEGのGOP(Group Of Pic
ture)を1符号化周期とした場合は、1GOP分のデー
タの再生(送信)時間を与える。
【0147】(4)パケットヘッダ構造 パケットヘッダの同期ビット、識別子等のフィールドサ
イズが可変の場合には、パケット構造に関する情報を与
える(ヘッダ構造が固定であれば必要ない)。
【0148】(5)制御用パケットに関する情報 どのパケット識別子が、どのような意味を持つ制御用パ
ケットであるかを示す情報を与える(予め規定してお
く)。ここでは、符号化周期を通知するための周期通知
パケットと、ストリームの終端であることを示す終端パ
ケットを挿入することを想定している。受信側システム
に、送信側のパラメータ等を通知するためのパケットを
用意することも可能である。
【0149】<ストリーム送信開始前に取得するパラメ
ータ> (1)パケットフィルタリング機能のON/OFF、お
よび、モード そのままストリーム送信する場合には、フィルタリング
機能をオフにできるようにする。フィルタリングには、
単純フィルタリング処理とビットレート制御を伴うフィ
ルタリング処理の2種類がある。
【0150】(2)指定ビットレート ビットレート制御を伴うパケット・フィルタリング処理
を行なう際には、処理後のストリームのビットレートを
指定する。内部では、指定されたビットレートを符号化
周期当たりの送信可能バイト数(Bpc:Bytes per cy
cle )に変換して保持する。
【0151】(3)パケット優先度変更に関する情報 ユーザがパケット優先度を変更する場合には、この情報
が取得される。最終的には、フィルタリング情報テーブ
ル28の識別子と優先度の対応テーブルとなる。
【0152】<フィルタリング情報テーブルの内容:3
種類> (1)パケット識別子とパケット優先度の対応テーブル パケット識別子が持つデフォルトの優先度とユーザから
の設定を考慮して作成されたパケット識別子とパケット
優先度の対応テーブルである。図14は、フィルタリン
グ情報テーブルの例であり、ここでは、優先度が8ビッ
トで表される0x00から0xFFまでの値を持つとし
ている。値が小さいほど優先度が高く、0x00は「必
ず送信」するパケットを意味し、0xFFは「必ず破
棄」するパケットを意味する(優先度は8ビットでなく
ても良い)。
【0153】なお、識別子が異なり同じ優先度を持つパ
ケットがあってはならないものとし、またパケット優先
度は連続した値でなければならないものとする。
【0154】(2)1周期当たりの送信可能バイト数
(req_Bpc) 1周期(符号化周期を示す制御パケットが来る間隔)当
たりに送信して構わないデータバイト数を示す。通常、
要求ビットレート(使用可能なネットワーク帯域)は、
1秒当たりの送信データのビット数(bps:bits per
second )として与えられるが、この値をBpc(Byte
s per cycle )に変換した値をテーブル中に保持する。
【0155】Bpcは、ストリーム送信中に外部からの
指示に応じて変更することができる。(Bpcが前より
も小さな値に変更された場合には、後述する判定境界優
先度(判定境界レベル)を初期化する。Bpcが前より
も大きな値に変更された場合には、フィルタリング判定
処理をそのまま継続する。) (3)制御パケットに関する情報 本実施形態では、周期通知パケットと終端パケットを使
用している。識別子と制御パケットの属性(周期通知、
終端)の対応は、予め定められているものとする。
【0156】<フィルタリング判定部22が保持するデ
ータ> (1)フィルタリング判定対象パケットのヘッダ情報 パケット種別識別子フィールド、リンクフィールド、パ
ケット長フィールドをコピーする。パケット長フィール
ド内のデータは、送信済みバイト数を計算するために使
用する。(パケット長フィールド内のデータがペイロー
ドサイズを意味する場合には、これにヘッダサイズを加
算する。) (2)判定境界レベル(boundary_leve
l) パケットを送信するか破棄するかを決定する判定境界と
なるパケット優先度。判定境界レベルより小さな値の優
先度を持つ(すなわち優先度が高い)パケットについて
は「送信」と判定する。逆に、判定境界レベルより大き
な値の優先度を持つパケットについては「破棄」と判定
する。判定境界レベルと同じ値の優先度を持つパケット
に関しては、そのパケットのサイズ、送信済みバイト
数、および、Bpcの値よりフィルタリング判定を行な
う。
【0157】1周期分のパケット判定を終了した時点
で、フレーム破棄の実績がない場合には、1ずつ値を加
算していく(判定境界レベルを下げる)。
【0158】なお、判定境界レベルの値より小さな値の
優先度を持つパケットについては送信する場合でも、パ
ケットサイズ、送信済みバイト数、および、Bpcの値
により確認処理を行なう。
【0159】(3)送信済みバイト数(now_Bp
c) 1符号化周期内に送信したパケットサイズを加算してい
く。1周期毎にリセットする。
【0160】(4)フレームカウンタ(frame_c
ount) フレームとは、符号化データ単位(データ破棄の単位)
のことを指す。ビデオデータの場合には、1画面分のデ
ータに相当する。オーディオデータの場合は、階層符号
化されていないときにはフレームという概念はない。フ
レームカウンタは、1周期中に存在する判定境界レベル
と同じ優先度を持つフレームを数える。1フレーム分の
データは、複数パケットに分割されている場合がある。
従って、フレームをカウントする際には、パケットヘッ
ダのリンクフィールドを見て、フレーム先頭パケットで
あることを確認する。フレームカウンタは、1周期毎に
リセットする。図15は、リンクフィールドを利用して
多重化ストリーム中でのフレーム境界を判別する方法を
示したものである。
【0161】(5)送信許容フレーム数(permit
_frames) 1周期中に送信して構わない判定境界レベルと同じ優先
度を持つフレームの数。1周期分のパケットを送信した
時点で、実際に送信したバイト数が送信可能バイト数に
満たなかったら、1ずつ加算していく(1周期に送信す
るフレーム数が徐々に増えていく)。
【0162】(6)破棄実績フラグ 破棄実績フラグには、バイト数超過フラグとフレーム数
超過フラグがある。これらのフラグを用いて、1周期毎
に送信するパケット数を増やすか否かを判定する。
【0163】(a)バイト超過フラグ(bytes_o
ver_flag) 送信可能バイト数を超えることを理由として、判定境界
レベルと同じ優先度を持つパケットを破棄した実績があ
ることを示すフラグ。1周期毎にリセットする。このフ
ラグがオフの時はパケット破棄実績がないことを、オン
のときはパケット破棄実績があることを意味する。
【0164】(b)フレーム超過フラグ(frame_
over_flag) 送信許容フレーム数を超えることを理由として、判定境
界レベルと同じ優先度のパケットを破棄した実績がある
ことを示すフラグ。1周期毎にリセットする。
【0165】(7)固定フラグ(fix_flag) 1周期に送信するデータ量が、送信可能バイト数に達し
たので、これ以上送信パケット数を増やすのを止めるこ
とを示すフラグ。
【0166】次に、本実施形態の動作について説明す
る。
【0167】[ストリーム・シェーピング処理]図16
は、本発明の映像送信システムのストリームシェーピン
グ処理部の処理概要を説明したフローチャートである。
図16に示すフローチャートを参照しながら説明する。
【0168】まず、ストリームシェーピング処理部12
は、ストリーム送信に先立ち、初期化処理、テーブル作
成部20によるフィルタリング情報テーブル28の作成
等を行なう(ステップA1)。その後、入力部10によ
り符号化ストリームの送信が開始されると同時に、スト
リームシェーピング処理を開始する。
【0169】ヘッダ抽出部24は、符号化ストリームか
らパケットヘッダを検出し(ステップA2)、フィルタ
リング判定に使用するパケットヘッダ部を抽出してヘッ
ダ情報としてフィルタリング判定部22に転送するとと
もに、パケットをパケット保持部26に転送して保持さ
せる(ステップA3)。
【0170】フィルタリング判定部22は、ヘッダ情報
に含まれる情報に基づいてフィルタリング判定を行な
い、その判定結果をパケット保持部26に通知する(ス
テップA4)。この判定の結果、送信と決定されたなら
ば、パケット保持部26は、保持していたパケットを後
段の送信部14に出力する(ステップA5)。一方、破
棄と決定されたならば、パケット保持部26は、そのパ
ケットを破棄する。
【0171】入力部10からの符号化ストリームが終端
に達しておらず、パケットがまだあるならば、後続する
パケットに対して同様の処理を繰り返す。ストリーム終
端に達したならば、処理を終了する(ステップA6)。
【0172】ストリームシェーピング処理は、パケット
・フィルタリングにより実行される。この、パケット・
フィルタリングの方法には、下に示すの2種類がある。
【0173】(1)単純フィルタリング判定処理 (2)ビットレート制御を伴うフィルタリング判定処理 これらのフィルタリングの方法のそれぞれの詳細につい
て、以下順に説明する。
【0174】<単純フィルタリング判定>図17は、単
純フィルタリング判定処理のフローチャートである。単
純フィルタリング判定では、パケット識別子の値だけを
用いて、単純に送信/破棄を決定する方法である。その
ため、パケット識別子とパケット優先度の対応テーブル
には、「必ず送信」を示す優先度(0x00)と「必ず
破棄する」を示す優先度(0xFF)が設定されていな
ければならない。
【0175】まず、フィルタリング判定部22は、フィ
ルタリング判定が開始されると、ヘッダからパケット識
別子を取得する(ステップB1)。
【0176】パケット識別子が制御用パケット(すなわ
ち周期通知あるいは終端)を示すものであるならば、フ
ィルタリング判定部22は、パケット送信通知をパケッ
ト保持部26に出力し、フィルタリング判定処理を終了
する(制御用パケットを受信側に送信しないことにして
もよい)。
【0177】一方、パケット識別子がデータパケットを
示すものであるならば、フィルタリング判定部22は、
その識別子をキーにしてフィルタリング情報テーブル2
8を参照し、該当する識別子に対応するパケット優先度
を取得する(ステップB3)。
【0178】パケット優先度が、「必ず送信」を示すも
の(0x00)であるならば、フィルタリング判定部2
2は、パケット送信通知をパケット保持部26に出力
し、フィルタリング判定処理を終了する(ステップB
5)。
【0179】一方、パケット優先度が、「必ず破棄」を
示すもの(0xFF)であるならば、フィルタリング判
定部22は、パケット破棄通知をパケット保持部26に
出力し、フィルタリング判定処理を終了する(ステップ
B6)。
【0180】<ビットレート制御を伴うフィルタリング
判定>次にビットレート制御を伴うパケット・フィルタ
リング判定の方法について説明する。
【0181】図18は、ビデオデータに着目した場合の
パケット送信状況の時間的変化をMPEGを例として示
したものである。最初の周期は、最も優先度が高いIピ
クチャのデータを含むパケットのみを送信する。次の周
期からは徐々にPピクチャのデータを含むパケットも送
信に加えていく。そして、全I,Pピクチャのデータを
含むパケットも送信に追加していき、指定ビットレート
に達したら、それ以上、送信パケットを増やすことを止
める。フィルタリング判定のためには、以下の3種類の
比較判定処理を行なう。
【0182】(1)パケット優先度と判定境界レベルの
比較 (2)送信済みデータバイト数と送信可能最大バイト数
の比較 (3)送信許容フレーム数とフレームカウンタの比較 ストリーム送信開始直後は、判定境界レベルをboun
dary_level=0x00、とする。これは、優
先度が0x00を持つパケットのみを送信し、それ以外
のパケットは破棄することを意味する。また、送信許容
フレーム数をpermit_frames=0とする。
送信許容フレーム数とは、1周期中に送信して構わない
フレーム数を示している。
【0183】ストリーム送信を開始し、最初の周期通知
パケットを検出するとboundary_level=
0x01、permit_frames=1となる。こ
れは、0x00という優先度を持つパケットと、0x0
1という優先度を持ち、かつ、最初の1フレームに属す
るパケットのみを送信してよいことを意味する。
【0184】この場合、優先度が0x02以上のパケッ
トは無条件で破棄する。1周期分のパケット処理を終了
した時点で、送信可能バイト数を超過していなかった
ら、permit_frames=2とし、次の周期で
は、0x01という優先度をもつフレームを2フレーム
送信することを許可する。
【0185】周期を重ね、優先度が0x01のパケット
をすべて送信しても送信可能バイト数を超過していなか
ったら、送信許容フレーム数permit_frame
sをリセット(=1)し、判定境界レベルを一つ上げて
boundary_level=0x02とする。
【0186】次の周期は、優先度が0x00、0x01
のパケットは無条件で送信し、優先度が0x02のパケ
ットは、送信許容フレーム数と送信したバイト数の実績
を考慮して送信/破棄を決定し、優先度が0x03以上
のパケットに関しては、無条件で破棄する。
【0187】周期を重ねる毎に送信パケット数が徐々に
増えていき、そのうち、1周期当たりの送信可能バイト
数に達する。これは、パケット・フィルタリング判定の
境界レベルが決定されたことを意味し、これ以後の周期
では判定境界レベルは動かず、1周期当たりの送信パケ
ット数がほぼ一定に落ち着く。
【0188】図19は、ビットレート制御を伴うフィル
タリング判定処理のフローチャートである。以下、図1
9に示すフローチャートを参照しながら説明する。
【0189】送信開始前には、図20のフローチャート
に示す初期化処理(ステップD1)が予め行われている
ものとする。
【0190】フィルタリング判定部22は、ヘッダ抽出
部24から得られたパケットヘッダから各フィールドに
おけるパケット識別子、リンク情報、パケット長を取得
する(ステップC1)。また、フィルタリング判定部2
2は、パケット識別子の最上位ビットを参照して、制御
用パケットであるかを確認する(ステップC2)。
【0191】ここで、パケットが制御用パケットであ
り、周期パケットであった場合には(ステップC3)、
フィルタリング判定部22は、周期開始処理を行なう
(ステップC4)。この周期開始処理では、前周期のパ
ケット破棄実績を確認し、判定境界レベルや送信許容フ
レーム数の更新、各種の周期変数のリセットを行なう。
【0192】制御用パケットを受信側に送信する場合に
は、フィルタリング判定部22は、パケット送信通知を
パケット保持部26に出力し(ステップC5)、送信済
みバイト数を更新してフィルタリング判定を終了する
(ステップC6)(制御用パケットは送信しないことに
してもよい)。
【0193】一方、データパケットである場合には(ス
テップC2)、フィルタリング判定部22は、ヘッダ識
別子をキーにしてフィルタリング情報テーブル28を参
照し、該当する識別子に対応するパケット優先度を取得
する(ステップC7)。
【0194】フィルタリング判定部22は、フレームカ
ウント処理を行なう(ステップC8)(詳細な処理手順
については後述する(図23))。この処理は、パケッ
トヘッダの識別子およびリンクフィールドを参照して、
判定境界レベルと同じ優先度を持つパケットについて、
フレーム数をカウントするものである。なお、リンクフ
ィールドを参照するのは、一つのフレームに属するデー
タが複数のパケットに分割されている場合にも、フレー
ム数のカウントを正確に行なうためである。
【0195】次に、フィルタリング判定部22は、判定
コードを作成する(ステップC9)(詳細な処理手順に
ついては後述する(図24))。判定コードは、3種類
の比較判定処理の結果をまとめたものであり、パケット
送信/破棄を決定するために使用する。
【0196】フィルタリング判定部22は、判定コード
に基づいて判定1(パケットの送信/破棄の決定)を行
ない(ステップC10)、この判定結果に応じた処理に
移行する。
【0197】判定1によってパケット送信すると判定さ
れた場合、フィルタリング判定部22は、パケット送信
を決定し、パケット送信通知をパケット保持部26に対
して出力すると共に(ステップC15)、送信済みバイ
ト数を更新する(ステップC16)。
【0198】ここで、フィルタリング判定部22は、判
定3により(ステップC17)、送信済みバイト数が、
送信可能バイト数を超過しているか否かを判定し、超過
していることが判明したら、バイト超過フラグをONに
する(ステップC18)。
【0199】以上の処理によってフィルタリング処理が
終了する。
【0200】一方、判定1によってパケット破棄と判定
された場合(ステップC10)、フィルタリング判定部
22は、パケット破棄を決定し、パケット保持部26に
対してパケット破棄通知を出力する(ステップC1
1)。
【0201】ここで、フィルタリング判定部22は、判
定2により、パケット破棄の理由を判定し(ステップC
12)、それぞれの理由に応じた処理を行なう。
【0202】すなわち、パケット破棄の理由が、優先度
が低いことである場合には、何もせずにフィルタリング
判定処理を終了する。また、パケット破棄の理由が、バ
イト超過の場合、バイト超過フラグをオンにする(ステ
ップC13)。また、パケット破棄の理由がフレーム数
超過の場合、フレーム超過フラグをオンにする(ステッ
プC14)。
【0203】以上の処理によってフィルタリング処理が
終了する。
【0204】次に、周期先頭処理(図19(ステップC
4))の詳細を図21のフローチャートに示している。
【0205】周期先頭であることは、同時に前周期の終
端に達したことも意味する。そこで、周期先頭処理で
は、周期先頭における初期化処理(各種の周期変数のリ
セット)を行なう(ステップE9)。すなわち、周期先
頭における初期化処理は、フレームカウンタ、送信済み
バイト数、破棄バイト数、フレーム超過フラグ、バイト
超過フラグをリセットすることである。
【0206】また、周期先頭における初期化処理と共
に、前周期の送信実績確認処理として、判定境界レベ
ル、送信許容フレーム数の更新、及び固定フラグの状態
の変更が行われる。図22は、前周期の送信実績確認処
理をまとめたものである。
【0207】すなわち、フィルタリング判定部22は、
固定フラグがOFFの場合に(ステップE1)、バイト
超過フラグがOFF、フレーム超過フラグがONであっ
た場合には(ステップE2,E5)、送信可能バイト数
に達していないので、1周期にに送信するフレーム数を
+1する(ステップE6)。
【0208】また、フィルタリング判定部22は、固定
フラグがOFFの場合に(ステップE1)、バイト超過
フラグがONであった場合(ステップE2)、パケット
送信/破棄の境界レベルが決定されたものとして、固定
フラグをONにし(ステップE3)、送信許容フレーム
数を−1することで許容範囲内となるようにする(ステ
ップE4)。
【0209】また、フィルタリング判定部22は、固定
フラグがOFFの場合に(ステップE1)、フレーム超
過フラグ、フレーム超過フラグが共にOFFであった場
合(ステップE5)、判定境界レベルと同じ優先度を持
つパケット全てを送信し、かつ送信可能バイト数に達し
ていないので、次に低いレベルに対する送信許容フレー
ム数を1とし(ステップE7)、判定境界レベルの値を
+1、すなわち境界判定レベルを下げる(ステップE
8)。
【0210】次に、フレームカウント処理(図19(ス
テップC8))の詳細を図23のフローチャートに示し
ている。
【0211】フレームカウント処理では、フィルタリン
グ判定部22は、優先度と判定境界レベルとの比較(比
較1)によって、判定境界レベルと同じ優先度を持つパ
ケットであるか否かを判定する(ステップF1)。この
結果、判定境界レベルと同じ優先度を持つパケットであ
ると判定された場合、フィルタリング判定部22は、該
当するパケットに関してフレーム数をカウントする。フ
レーム境界は、パケットヘッダのリンクフィールドによ
り確認する(ステップF2,F3)。
【0212】次に、判定コード作成の処理(図19(ス
テップC9))の詳細を図24のフローチャートに示し
ている。
【0213】判定コード(8ビット)は、パケットの送
信/破棄を決定するために必要な3種類の比較演算の結
果をまとめたものである。比較演算は以下の通りであ
る。
【0214】(a)比較演算1 「パケットの優先度」と「判定境界レベルの優先度」を
比較する(ステップG2)。これにより無条件に送信/
破棄が決定されるパケットを選別する。比較演算結果
は、判定コードの下位第3、4ビットに保存する(ステ
ップG3,G4)。
【0215】(b)比較演算2 「判定対象パケットが属するフレームのフレーム番号」
と「送信許容フレーム数」を比較する(ステップG
5)。送信許容フレーム数に達したら、その周期中にあ
る判定境界レベルと同じ優先度のパケットはすべて破棄
することになる。比較演算結果は、判定コードの下位第
2ビットに保存する(ステップG6)。
【0216】(c)比較演算3 「判定対象パケットを送信すると仮定した場合の送信済
みバイト数」と「1周期当たりの送信可能バイト数」を
比較する(ステップG7)。送信可能バイト数に達した
ことは、これ以上1周期当たりに送信するパケット数を
増やせないことを意味する。比較演算結果は、判定コー
ドの下位第1ビットに保存する(ステップG8)。
【0217】図25には判定コード作成時の比較演算の
符号割り当てを示し、また図26には判定コード(割り
当てコード)とパケット処理の処理内容との対応関係を
示している。
【0218】[ストリーム・シェーピング処理の効果]
図27は、本実施形態における映像送信システムのスト
リームシェーピング処理により、どのようにビットレー
トが推移していくかを示したものである。
【0219】ストリーム送信開始直後は、優先度の高い
パケットのみを送信するので、指定された目標ビットレ
ート(指定ビットレート)以下の送信量しかない。そし
て、パケット優先度を考慮して、1符号化周期毎に徐々
に送信パケット数を増やしていき、目標ビットレートに
近づけていく(図18参照)。
【0220】符号化ストリーム送信中にそれまでの目標
ビットレートより大きな値に変更された場合には、それ
までの送信状態から送信パケット数を再び増やしてい
き、新たな目標ビットレートに近づけていく。
【0221】逆に、目標ビットレートが下げられた場合
には、初期状態に戻し、最も優先度の高いパケットから
徐々に送信パケット数を増やしていき、目標ビットレー
トに近づけていく。
【0222】このようにして、階層符号化ストリームの
各階層データを単位としてパケット化を行ない、かつ、
各パケットに優先度を付加したストリームを対象とし、
使用可能ネットワーク帯域、パケット優先度、および、
ユーザの要望を考慮して、パケットフィルタリングによ
るビットレート制御をしながら符号化ストリームの送信
を行なう。また、ビットレート制御は、予め用意されて
いるレベル指定によるものだけでなく、送信ストリーム
のビットレートを任意に設定可能であり、設定されたビ
ットレートを越えないように動的に対応することができ
る。
【0223】なお、前述した実施形態では、対象とする
符号化ストリームが、ビデオ、オーディオ、ユーザデー
タ等が多重化されているストリームであり、主にビデオ
データ部分のビットレート制御方法について説明してい
るが、オーディオデータが階層符号化されているなら
ば、オーディオ部分もビットレートの制御対象とするこ
とが可能である。また、他のデータを対象とすることも
勿論可能である。
【0224】
【発明の効果】以上詳述したように本発明によれば、利
用する動画像符号化方式に依存することなく、指定ビッ
トレートに応じた動的なビットレート制御が可能となる
ものである。
【図面の簡単な説明】
【図1】本発明のデータ送信システムの概要を説明する
ためのブロック図。
【図2】本実施形態における映像送信システムの構成を
示すブロック図。
【図3】本実施形態における図2に示す映像送信システ
ムを組み込んだ映像通信システムの構成を示すブロック
図。
【図4】本実施形態におけるストリームシェーピング機
能を有する中継ノードの構成例を示す図。
【図5】本実施形態において扱われる符号化ストリーム
の越え構造を説明するための図。
【図6】本実施形態におけるパケットフォーマット(パ
ケットヘッダ)の構成を説明するための図。
【図7】本実施形態におけるパケットリンクの概念を説
明するための図。
【図8】本実施形態におけるパケット種別識別子の階層
を説明するための図。
【図9】本実施形態における部分破棄可能フラグと絶対
優先度フラグを説明するための図。
【図10】本実施形態におけるパケット種別識別子の割
り振りの例を示す図。
【図11】本実施形態における1番組から構成されるス
トリームの場合のパケット優先度の設定例を示す図。
【図12】本実施形態における2番組から構成されるス
トリームの場合のパケット優先度の設定例を示す図。
【図13】本実施形態における部分破棄可/不可フラグ
を設けた識別子−優先度対応テーブルの設定例を示す
図。
【図14】本実施形態におけるフィルタリング情報テー
ブルの一例を示す図。
【図15】本実施形態におけるリンクフィールドを利用
して多重化ストリーム中でのフレーム境界を判別する方
法を示す図。
【図16】本実施形態における映像送信システムのスト
リームシェーピング処理部の処理概要を説明したフロー
チャート。
【図17】本実施形態における単純フィルタリング判定
処理のフローチャート。
【図18】本実施形態におけるビデオデータに着目した
場合のパケット送信状況の時間的変化を示す図。
【図19】本実施形態におけるビットレート制御を伴う
フィルタリング判定処理のフローチャート。
【図20】図19中の初期化処理を示すフローチャー
ト。
【図21】図19中の周期先頭処理の詳細を示すフロー
チャート。
【図22】本実施形態における前周期の送信実績確認処
理を説明するための図。
【図23】図19中のフレームカウント処理の詳細を示
すフローチャート。
【図24】図19中の判定コード作成の処理の詳細を示
すフローチャート。
【図25】本実施形態における判定コード作成時の比較
演算の符号割り当てを示す図。
【図26】本実施形態における判定コード(割り当てコ
ード)とパケット処理の処理内容との対応関係を示す
図。
【図27】本実施形態における映像送信システムのスト
リームシェーピング処理によるビットレートの推移を示
す図。
【符号の説明】
10…入力部 12…ストリームシェーピング処理部 14…送信部 16…ストリーム情報取得部 18…外部記憶部 20…テーブル作成部 22…フィルタリング判定部 24…ヘッダ抽出部 26…パケット保持部 28…フィルタリング情報テーブル 30…送信側システム 31…ネットワーク 32…受信側システム 34…ストリーム符号化部 36…映像送信部 38…設定部 40…ビデオ・オーディオ符号化部 42…パケット化処理部 50…受信部 52…ストリーム復号部 60…パケット分解処理部 62…ビデオ・オーディオ復号部

Claims (15)

    【特許請求の範囲】
  1. 【請求項1】 符号化ストリームを、ネットワークを介
    して送信するデータ送信システムにおいて、 破棄可能なデータ単位を基準にパケット化されると共
    に、各パケットにパケット識別子を含むヘッダが付加さ
    れた符号化ストリームに対して、指定されたビットレー
    トに応じて、パケット単位で、各パケットのヘッダに含
    まれるパケット識別子をもとに決定されるパケット優先
    度を利用して送信または破棄することによりビットレー
    トを制御しながら符号化ストリームを送信することを特
    徴とするデータ送信システム。
  2. 【請求項2】 前記符号化ストリームには符号化周期を
    示す制御用パケットが周期的に挿入されており、 前記制御用パケットにより判別される周期毎に、送信す
    るパケットを増加しながら指定されたビットレートを越
    えないようにパケットの送信または破棄を決定すること
    を特徴とする請求項1記載のデータ送信システム。
  3. 【請求項3】 符号化ストリームを、ネットワークを介
    して送信するデータ送信システムにおいて、 破棄可能なデータ単位を基準にパケット化されると共
    に、各パケットにパケット優先度を兼ねるパケット識別
    子を含むヘッダが付加された符号化ストリームを生成す
    るストリーム符号化手段と、 前記ストリーム符号化手段によって生成された符号化ス
    トリームについて、指定されたビットレートに応じて、
    パケット単位で各パケットのヘッダに含まれるパケット
    識別子に基づく優先度を利用して送信または破棄を決定
    するストリームシェーピング処理手段と、 前記ストリームシェーピング処理手段によって送信と決
    定されたパケットによる符号化ストリームを送信する送
    信手段とを具備したことを特徴とするデータ送信システ
    ム。
  4. 【請求項4】 前記送信手段による符号化ストリームの
    送信中に、指定によりビットレートを動的に変更可能と
    することを特徴とする請求項3記載のデータ送信システ
    ム。
  5. 【請求項5】 前記ストリームシェーピング処理手段
    は、 前記ストリーム符号化手段によって生成された符号化ス
    トリームの各パケットのヘッダに含まれるパケット識別
    子とパケット優先度との対応関係が登録されたフィルタ
    リング情報テーブルを作成するテーブル作成手段と、 送信対象とする符号化ストリームの各パケットから抽出
    されるヘッダに含まれるパケット識別子をもとに、前記
    テーブル作成手段によって作成されたフィルタリング情
    報テーブルを参照して各パケットについて送信あるいは
    破棄を判定するフィルタリング判定手段とを具備したこ
    とを特徴とする請求項3記載のデータ送信システム。
  6. 【請求項6】 前記テーブル作成手段は、 外部から与えられる指定を反映させて、パケット識別子
    とパケット優先度との対応関係を設定することを特徴と
    する請求項5記載のデータ送信システム。
  7. 【請求項7】 前記ストリーム符号化手段は、符号化周
    期を示す制御用パケットを周期的に挿入して符号化スト
    リームを生成し、 前記ストリームシェーピング処理手段は、前記制御用パ
    ケットにより判別される周期毎に、送信するパケットを
    増加しながら指定されたビットレートを越えないように
    パケットの送信または破棄を決定することを特徴とする
    請求項3記載のデータ送信システム。
  8. 【請求項8】 前記ストリームシェーピング処理手段
    は、 パケットの送信または破棄を決定するための、パケット
    識別子に基づく優先度に対する判定境界優先度を保持
    し、 この判定境界優先度より高い優先度のパケットを送信
    し、 判定境界優先度より低い優先度のパケットを破棄し、 判定境界優先度と同じ優先度のパケットを、前記制御用
    パケットにより判別される周期毎に徐々に送信パケット
    数を増やしていき、 一周期内の判定境界優先度と同じ優先度のパケットを全
    て送信した後、判定境界優先度を下げ、 指定されたビットレートに到達したら送信するパケット
    の増加を停止することを特徴とする請求項7記載のデー
    タ送信システム。
  9. 【請求項9】 前記ストリーム符号化手段は、 前記ヘッダに含まれるパケット識別子に階層構造を持た
    せ、各階層の内容によってパケット優先度を表すことを
    特徴とする請求項3記載のデータ送信システム。
  10. 【請求項10】 前記ストリーム符号化手段は、 前記ヘッダに含まれるパケット識別子のパケット優先度
    を、絶対的なパケット優先度と変更可能なパケット優先
    度とを区別できるようにすることを特徴とする請求項3
    記載のデータ送信システム。
  11. 【請求項11】 前記ストリーム符号化手段は、 前記ヘッダに含まれるパケット識別子を、パケットの破
    棄が可能であるか否か表すようにすることを特徴とする
    請求項3記載のデータ送信システム。
  12. 【請求項12】 前記ストリーム符号化手段は、 前記ヘッダ中に前後のパケットとのリンク関係を示すデ
    ータを設定することを特徴とする請求項3記載のデータ
    送信システム。
  13. 【請求項13】 ネットワーク経路上に設けられ、デー
    タ送信側システムとデータ受信側システムとの間に位置
    する中継ノードであって、 破棄可能なデータ単位を基準にパケット化されると共
    に、各パケットにパケット優先度を兼ねるパケット識別
    子を含むヘッダが付加された、前記データ送信側システ
    ムからの符号化ストリームについて、指定されたビット
    レートに応じて、パケット単位で各パケットのヘッダに
    含まれるパケット識別子に基づく優先度を利用して送信
    または破棄を決定するストリームシェーピング処理手段
    と、 前記ストリームシェーピング処理手段によって送信と決
    定されたパケットによる符号化ストリームを前記データ
    受信側システムにネットワークを介して送信する送信手
    段とを具備したことを特徴とする中継ノード。
  14. 【請求項14】 符号化ストリームを、ネットワークを
    介して送信するデータ送信方法において、 破棄可能なデータ単位を基準にパケット化されると共
    に、各パケットにパケット識別子を含むヘッダが付加さ
    れた符号化ストリームに対して、指定されたビットレー
    トに応じて、パケット単位で、各パケットのヘッダに含
    まれるパケット識別子をもとに決定されるパケット優先
    度を利用して送信または破棄することによりビットレー
    トを制御しながら符号化ストリームを送信することを特
    徴とするデータ送信方法。
  15. 【請求項15】 前記符号化ストリームには符号化周期
    を示す制御用パケットが周期的に挿入されており、 前記制御用パケットにより判別される周期毎に、送信す
    るパケットを増加しながら指定されたビットレートを越
    えないようにパケットの送信または破棄を決定すること
    を特徴とする請求項14記載のデータ送信方法。
JP136797A 1997-01-08 1997-01-08 データ送信システム及びデータ送信方法 Expired - Lifetime JP3193947B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP136797A JP3193947B2 (ja) 1997-01-08 1997-01-08 データ送信システム及びデータ送信方法
US08/856,493 US6222841B1 (en) 1997-01-08 1997-05-14 Data transmission system and method
EP97111245A EP0853407A3 (en) 1997-01-08 1997-07-04 Data transmission system and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP136797A JP3193947B2 (ja) 1997-01-08 1997-01-08 データ送信システム及びデータ送信方法

Publications (2)

Publication Number Publication Date
JPH10200494A true JPH10200494A (ja) 1998-07-31
JP3193947B2 JP3193947B2 (ja) 2001-07-30

Family

ID=11499535

Family Applications (1)

Application Number Title Priority Date Filing Date
JP136797A Expired - Lifetime JP3193947B2 (ja) 1997-01-08 1997-01-08 データ送信システム及びデータ送信方法

Country Status (3)

Country Link
US (1) US6222841B1 (ja)
EP (1) EP0853407A3 (ja)
JP (1) JP3193947B2 (ja)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100431003B1 (ko) * 2001-10-31 2004-05-12 삼성전자주식회사 데이터 송수신 시스템 및 방법
JP2006191481A (ja) * 2005-01-07 2006-07-20 Ntt Docomo Inc ルーティング方法及び移動端末
US7130265B1 (en) * 1998-11-12 2006-10-31 Sony Corporation Data multiplexing device and data multiplexing method, and data transmitter
JP2007235357A (ja) * 2006-02-28 2007-09-13 Nec Corp 符号化装置および符号化ビットレート切り替え方法
JP2008288762A (ja) * 2007-05-16 2008-11-27 Fujitsu Ltd 中継装置
JP2008294605A (ja) * 2007-05-23 2008-12-04 Kddi Corp アドホックネットワークにおけるパケットを中継制御する無線局及びプログラム
US7474674B2 (en) 1999-01-26 2009-01-06 Panasonic Corporation Data connecting method, data connecting apparatus, program recording medium
JP2009239514A (ja) * 2008-03-26 2009-10-15 Nec Personal Products Co Ltd 動画配信装置、経由装置、動画配信システム及び方法
JP2009273135A (ja) * 2009-05-22 2009-11-19 Ntt Docomo Inc パケット優先制御装置及びその方法
US7668150B2 (en) 2003-09-04 2010-02-23 Ntt Docomo, Inc. Packet-priority control apparatus and method thereof
JP2010045774A (ja) * 2008-07-01 2010-02-25 Sony Corp マルチキャスト向けコンテンツの効率的な配信に関するパケットのタグ付け
US7860366B2 (en) 2002-05-21 2010-12-28 Sony Corporation Information processing device and method, recording medium, and program
US8018850B2 (en) 2004-02-23 2011-09-13 Sharp Laboratories Of America, Inc. Wireless video transmission system
JP2011529311A (ja) * 2008-07-28 2011-12-01 アルカテル−ルーセント ビデオ符号化のための方法および配置
CN102427526A (zh) * 2011-09-23 2012-04-25 清华大学 低延时的无线视频广播传输编码方法
JP2015177356A (ja) * 2014-03-14 2015-10-05 ソフトバンク株式会社 動画配信装置、動画符号化装置及びプログラム

Families Citing this family (129)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1998057273A1 (en) * 1997-06-13 1998-12-17 Koninklijke Philips Electronics N.V. Cyclic transmission of a plurality of mutually related objects
JP3516432B2 (ja) * 1997-11-18 2004-04-05 株式会社東芝 ノード装置及びパケット転送方法
US7630570B1 (en) 1998-05-06 2009-12-08 At&T Intellectual Property Ii, L.P. Method and apparatus to prioritize video information during coding and decoding
JP2955561B1 (ja) 1998-05-29 1999-10-04 株式会社ディジタル・ビジョン・ラボラトリーズ ストリーム通信システム及びストリーム転送制御方法
US6584509B2 (en) * 1998-06-23 2003-06-24 Intel Corporation Recognizing audio and video streams over PPP links in the absence of an announcement protocol
WO2000003517A1 (en) * 1998-07-08 2000-01-20 Broadcom Corporation High performance self balancing low cost network switching architecture based on distributed hierarchical shared memory
JP3234573B2 (ja) * 1998-08-31 2001-12-04 松下電器産業株式会社 パケットフィルタリング装置
US6747959B1 (en) 1998-10-07 2004-06-08 At&T Corp. Voice data integrated mulitaccess by self-reservation and blocked binary tree resolution
US6963545B1 (en) 1998-10-07 2005-11-08 At&T Corp. Voice-data integrated multiaccess by self-reservation and stabilized aloha contention
US6868061B1 (en) * 1998-12-10 2005-03-15 Nokia Corporation System and method for pre-filtering low priority packets at network nodes in a network service class utilizing a priority-based quality of service
US6611872B1 (en) * 1999-01-11 2003-08-26 Fastforward Networks, Inc. Performing multicast communication in computer networks by using overlay routing
US6498865B1 (en) * 1999-02-11 2002-12-24 Packetvideo Corp,. Method and device for control and compatible delivery of digitally compressed visual data in a heterogeneous communication network
EP1172723A1 (en) * 1999-03-30 2002-01-16 Matsushita Electric Industrial Co., Ltd. Data processing system, data transmitting/receiving device, and recorded medium
US6735633B1 (en) * 1999-06-01 2004-05-11 Fast Forward Networks System for bandwidth allocation in a computer network
KR100580158B1 (ko) 1999-06-12 2006-05-15 삼성전자주식회사 화상 패킷 전송을 위한 무선통신 시스템
JP3788125B2 (ja) * 1999-08-25 2006-06-21 株式会社日立製作所 パケット送受信方法およびその装置
JP2001111619A (ja) * 1999-10-12 2001-04-20 Sony Corp 送信装置、通信システム及びその通信方法
WO2001031860A1 (en) * 1999-10-29 2001-05-03 FORSKARPATENT I VäSTSVERIGE AB Method and arrangements for congestion control in packet networks using thresholds and demoting of packet flows
AU1812101A (en) * 1999-12-03 2001-06-12 Digital Pipe, Inc. Method for providing streaming media data in a network-based environment
FR2803472B1 (fr) * 2000-01-03 2003-05-16 Nptv Procede informatique pour l'exploitation d'une emission de television numerique interactive
US6898204B2 (en) * 2000-04-07 2005-05-24 Broadcom Corporation Method of determining a collision between a plurality of transmitting stations in a frame-based communications network
US7647619B2 (en) * 2000-04-26 2010-01-12 Sony Corporation Scalable filtering table
GB2364465A (en) * 2000-06-30 2002-01-23 Nokia Oy Ab A broadcast network
US7756092B1 (en) 2000-07-14 2010-07-13 At&T Intellectual Property Ii, L.P. In-band QoS signaling reference model for QoS-driven wireless LANs connected to one or more networks
US7151762B1 (en) 2000-07-14 2006-12-19 At&T Corp. Virtual streams for QoS-driven wireless LANs
US6804222B1 (en) 2000-07-14 2004-10-12 At&T Corp. In-band Qos signaling reference model for QoS-driven wireless LANs
US6850981B1 (en) 2000-07-14 2005-02-01 At&T Corp. System and method of frame scheduling for QoS-driven wireless local area network (WLAN)
US6999442B1 (en) 2000-07-14 2006-02-14 At&T Corp. RSVP/SBM based down-stream session setup, modification, and teardown for QOS-driven wireless lans
US7039032B1 (en) 2000-07-14 2006-05-02 At&T Corp. Multipoll for QoS-Driven wireless LANs
US7068632B1 (en) 2000-07-14 2006-06-27 At&T Corp. RSVP/SBM based up-stream session setup, modification, and teardown for QOS-driven wireless LANs
US7068633B1 (en) 2000-07-14 2006-06-27 At&T Corp. Enhanced channel access mechanisms for QoS-driven wireless lans
US6862270B1 (en) 2000-07-14 2005-03-01 At&T Corp. Architectural reference model for QoS-driven wireless LANs
US6950397B1 (en) 2000-07-14 2005-09-27 At&T Corp. RSVP/SBM based side-stream session setup, modification, and teardown for QoS-driven wireless lans
US6970422B1 (en) 2000-07-14 2005-11-29 At&T Corp. Admission control for QoS-Driven Wireless LANs
CA2415428A1 (en) * 2000-07-14 2002-01-24 At&T Corp. Frame classification for qos-driven wireless local area networks
US7031287B1 (en) 2000-07-14 2006-04-18 At&T Corp. Centralized contention and reservation request for QoS-driven wireless LANs
US6985442B1 (en) * 2000-07-26 2006-01-10 Lucent Technologies Inc. Technique for bandwidth sharing in internet and other router networks without per flow state record keeping
JP3590949B2 (ja) * 2000-08-17 2004-11-17 松下電器産業株式会社 データ伝送装置およびデータ伝送方法
EP1338129B1 (en) * 2000-09-02 2006-11-29 Emageon, Inc. Method and communication module for transmission of dicom objects through data element sources
DE60045624D1 (de) * 2000-10-03 2011-03-24 Gos Networks Ltd Paketsequenzsteuerung
WO2002030060A1 (en) * 2000-10-03 2002-04-11 U4Ea Technologies Limited Data flow control
US20020089989A1 (en) * 2000-10-04 2002-07-11 Christensen Morten Jagd Method and system for analysing a data packet or frame
AUPR063400A0 (en) * 2000-10-06 2000-11-02 Canon Kabushiki Kaisha Xml encoding scheme
WO2002032147A1 (en) * 2000-10-11 2002-04-18 Koninklijke Philips Electronics N.V. Scalable coding of multi-media objects
US7971227B1 (en) * 2000-10-25 2011-06-28 Xm Satellite Radio Inc. Method and apparatus for implementing file transfers to receivers in a digital broadcast system
JP2002141945A (ja) * 2000-11-06 2002-05-17 Sony Corp データ送信装置、およびデータ送信方法、並びにプログラム記憶媒体
US6819878B1 (en) * 2000-11-08 2004-11-16 Nortel Networks Limited Packet-based optical communications networks
KR100550727B1 (ko) * 2000-12-28 2006-02-08 엘지전자 주식회사 이동 통신 시스템에서 고속 데이터 채널의 레이트지시방법 및 그 레이트 결정방법
US20020097678A1 (en) * 2001-01-23 2002-07-25 Bisher James A. Method and apparatus for bandwidth management associated with misbehaving sessions
US7142563B1 (en) 2001-02-20 2006-11-28 At&T Corp. Service interface for QoS-driven HPNA networks
US7180855B1 (en) 2001-04-19 2007-02-20 At&T Corp. Service interface for QoS-driven HPNA networks
WO2002085030A1 (en) * 2001-04-11 2002-10-24 Cyber Operations, Llc System and method for preconditioning analog video signals
JP2002344937A (ja) * 2001-05-16 2002-11-29 Fujitsu Ltd 品質制御保証方法及び品質制御保証装置並びにネットワーク接続装置
CN1547835A (zh) * 2001-08-24 2004-11-17 无线电通信系统中传输数据的方法
BR0205952A (pt) * 2001-08-31 2003-12-23 Koninkl Philips Electronics Nv Método e sistema para enviar dados de usuário de um codificador de vìdeo para um decodificador de vìdeo, método e dispositivo para inserir dados de usuário em um sinal de vìdeo codificado, método e dispositivo para recuperar dados de usuários inseridos em uma dada posição em um sinal de vìdeo codificado, codificador de vìdeo para codificar um sinal de vìdeo, decodificador de vìdeo para decodificar um sinal de vìdeo,sinal de vìdeo, e, programa de computador
JP2003152544A (ja) * 2001-11-12 2003-05-23 Sony Corp データ通信システム、データ送信装置、データ受信装置、および方法、並びにコンピュータ・プログラム
DE10197195D2 (de) * 2001-12-10 2004-10-28 Siemens Ag Verfahren zur Übertragung von Daten von Applikationen mit unterschietlicher Qualität
JP4162454B2 (ja) * 2002-09-10 2008-10-08 三洋電機株式会社 データ処理装置
KR100486713B1 (ko) * 2002-09-17 2005-05-03 삼성전자주식회사 멀티미디어 스트리밍 장치 및 방법
US7660352B2 (en) * 2003-04-04 2010-02-09 Sony Corporation Apparatus and method of parallel processing an MPEG-4 data stream
US7526202B2 (en) * 2003-05-19 2009-04-28 Intel Corporation Architecture and method for framing optical control and data bursts within optical transport unit structures in photonic burst-switched networks
JP4237549B2 (ja) * 2003-05-29 2009-03-11 株式会社日立国際電気 循環記録装置
US8095500B2 (en) * 2003-06-13 2012-01-10 Brilliant Digital Entertainment, Inc. Methods and systems for searching content in distributed computing networks
US7729992B2 (en) * 2003-06-13 2010-06-01 Brilliant Digital Entertainment, Inc. Monitoring of computer-related resources and associated methods and systems for disbursing compensation
DE10339497A1 (de) * 2003-08-27 2005-03-31 Siemens Ag Verfahren zur Übertragung von Daten in einem Datennetz
US20050068968A1 (en) * 2003-09-30 2005-03-31 Shlomo Ovadia Optical-switched (OS) network to OS network routing using extended border gateway protocol
US7778245B2 (en) * 2003-11-10 2010-08-17 Broadcom Corporation Method and apparatus for remapping module identifiers and substituting ports in network devices
US7450147B2 (en) * 2003-12-22 2008-11-11 At&T Intellectual Property Network-enabled peer-to-peer video calling systems, methods, and storage medium
KR100664278B1 (ko) * 2004-01-09 2007-01-04 엘지전자 주식회사 Mbms 무선통신 시스템
US8023408B2 (en) * 2004-11-19 2011-09-20 International Business Machines Corporation Dynamically changing message priority or message sequence number
US20060168012A1 (en) * 2004-11-24 2006-07-27 Anthony Rose Method and system for electronic messaging via distributed computing networks
US7738385B2 (en) * 2004-11-30 2010-06-15 Broadcom Corporation Mirroring of data in a network device
CA2594118C (en) * 2004-12-08 2015-07-21 Imagine Communications Ltd. Distributed statistical multiplexing of multi-media
EP1847071A4 (en) 2005-01-26 2010-10-20 Internet Broadcasting Corp B V MULTI-DIFFUSION IN LAYERS AND EXACT ATTRIBUTION OF BANDWIDTH AND PRIORIZATION OF PACKETS
US7606231B2 (en) 2005-02-18 2009-10-20 Broadcom Corporation Pipeline architecture for a network device
US20060187917A1 (en) * 2005-02-18 2006-08-24 Broadcom Corporation Pre-learning of values with later activation in a network device
US7529191B2 (en) * 2005-02-18 2009-05-05 Broadcom Corporation Programmable metering behavior based on table lookup
US8457131B2 (en) * 2005-02-18 2013-06-04 Broadcom Corporation Dynamic table sharing of memory space within a network device
US7577096B2 (en) * 2005-02-18 2009-08-18 Broadcom Corporation Timestamp metering and rollover protection in a network device
US8331380B2 (en) * 2005-02-18 2012-12-11 Broadcom Corporation Bookkeeping memory use in a search engine of a network device
US20060233247A1 (en) * 2005-04-13 2006-10-19 Visharam Mohammed Z Storing SVC streams in the AVC file format
KR100657314B1 (ko) * 2005-05-04 2006-12-20 삼성전자주식회사 멀티미디어 스트리밍 송신 장치 및 방법
JP2007066109A (ja) * 2005-08-31 2007-03-15 Fujitsu Ltd データ送受信制御装置およびデータ送受信制御方法
US20070091926A1 (en) * 2005-10-21 2007-04-26 Apostolopoulos John G Method for optimizing portions of data from a plurality of data streams at a transcoding node
US20070180349A1 (en) * 2006-01-31 2007-08-02 Jacobsen Eric A Techniques for uequal error protection for layered protection applications
FR2899758A1 (fr) * 2006-04-07 2007-10-12 France Telecom Procede et dispositif de codage de donnees en un flux scalable
US8514871B2 (en) * 2006-07-24 2013-08-20 At&T Intellectual Property I, L.P. Methods, systems, and computer program products for marking data packets based on content thereof
US8856267B2 (en) * 2006-11-16 2014-10-07 Rangecast Technologies, Llc Network audio directory server and method
US8281338B2 (en) 2007-02-27 2012-10-02 Microsoft Corporation Extensible encoding for interactive user experience elements
US9019830B2 (en) * 2007-05-15 2015-04-28 Imagine Communications Corp. Content-based routing of information content
CN101682466A (zh) 2007-05-16 2010-03-24 汤姆森特许公司 编码和解码信号的装置和方法
MX2010004149A (es) 2007-10-15 2010-05-17 Thomson Licensing Preambulo para un sistema de television digital.
EP2201777A2 (en) 2007-10-15 2010-06-30 Thomson Licensing Apparatus and method for encoding and decoding signals
CA2622367C (en) * 2008-02-04 2015-11-17 Omnivex Corporation Subscription based content delivery for a digital signage network
CA2620337C (en) 2008-02-04 2012-11-27 Omnivex Corporation Digital signage network
CA2616324C (en) * 2008-02-04 2015-06-16 Omnivex Corporation Digital signage display
EP2281395A2 (fr) * 2008-04-29 2011-02-09 France Telecom Transmission d'un flux video code par codage hierarchique
WO2010002420A1 (en) * 2008-07-01 2010-01-07 Thomson Licensing Network abstraction layer (nal)-aware multiplexer
JP2010034646A (ja) * 2008-07-25 2010-02-12 Nec Corp 中継装置、中継方法およびプログラム
US8645400B1 (en) * 2008-08-01 2014-02-04 Marvell International Ltd. Flexible bit field search method
US9262357B2 (en) 2008-09-29 2016-02-16 International Business Machines Corporation Associating process priority with I/O queuing
US20100104003A1 (en) * 2008-10-24 2010-04-29 Manufacturing Resources International Inc. System and method for securely transmitting video data
US8689343B2 (en) * 2008-10-24 2014-04-01 Manufacturing Resources International, Inc. System and method for securely transmitting video data
US9812047B2 (en) 2010-02-25 2017-11-07 Manufacturing Resources International, Inc. System and method for remotely monitoring the operating life of electronic displays
US8531961B2 (en) 2009-06-12 2013-09-10 Cygnus Broadband, Inc. Systems and methods for prioritization of data for intelligent discard in a communication network
US8745677B2 (en) 2009-06-12 2014-06-03 Cygnus Broadband, Inc. Systems and methods for prioritization of data for intelligent discard in a communication network
US8627396B2 (en) * 2009-06-12 2014-01-07 Cygnus Broadband, Inc. Systems and methods for prioritization of data for intelligent discard in a communication network
WO2010144833A2 (en) 2009-06-12 2010-12-16 Cygnus Broadband Systems and methods for intelligent discard in a communication network
WO2011083570A1 (ja) * 2010-01-06 2011-07-14 三菱電機株式会社 無線通信装置および無線通信方法
WO2011093835A1 (en) * 2010-01-28 2011-08-04 Thomson Licensing A method and apparatus for parsing a network abstraction-layer for reliable data communication
JP6067378B2 (ja) 2010-01-28 2017-01-25 トムソン ライセンシングThomson Licensing 再送決定する方法及び装置
US8723913B2 (en) 2010-10-07 2014-05-13 T-Mobile Usa, Inc. Rate adaptation for video calling
US8750319B2 (en) * 2010-11-03 2014-06-10 Broadcom Corporation Data bridge
CN102357347B (zh) * 2011-10-27 2013-10-09 天津工业大学 一种改性聚丙烯腈膜的制备方法
US10511649B2 (en) * 2012-11-20 2019-12-17 Pelco, Inc. Method and apparatus for efficiently prioritizing elements in a video stream for low-bandwidth transmission
CN108989311A (zh) * 2013-05-31 2018-12-11 华为技术有限公司 生成输入参数的方法及设备
US9020469B2 (en) 2013-06-04 2015-04-28 Rangecast Technologies, Llc Network audio distribution system and method
US10063476B2 (en) * 2014-03-28 2018-08-28 Research & Business Foundation Sungkyunkwan University Content centric networking system providing differentiated service and method of controlling data traffic in content centric networking providing differentiated service
EP3136733B1 (en) * 2014-04-25 2020-11-04 Sony Corporation Transmission device, transmission method, reception device, and reception method
JP6639653B2 (ja) 2015-09-10 2020-02-05 マニュファクチャリング・リソーシズ・インターナショナル・インコーポレーテッド ディスプレイエラーのシステム検出のためのシステムおよび方法
EP3420658A1 (en) * 2016-02-26 2019-01-02 Net Insight Intellectual Property AB Retransmission of data in packet networks
US11645029B2 (en) 2018-07-12 2023-05-09 Manufacturing Resources International, Inc. Systems and methods for remotely monitoring electronic displays
US10908863B2 (en) 2018-07-12 2021-02-02 Manufacturing Resources International, Inc. System and method for providing access to co-located operations data for an electronic display
US11402940B2 (en) 2019-02-25 2022-08-02 Manufacturing Resources International, Inc. Monitoring the status of a touchscreen
WO2020176416A1 (en) 2019-02-25 2020-09-03 Manufacturing Resources International, Inc. Monitoring the status of a touchscreen
US11115155B2 (en) 2019-09-09 2021-09-07 Facebook Technologies, Llc Systems and methods for prioritizing packet retransmission
US11921010B2 (en) 2021-07-28 2024-03-05 Manufacturing Resources International, Inc. Display assemblies with differential pressure sensors
US11965804B2 (en) 2021-07-28 2024-04-23 Manufacturing Resources International, Inc. Display assemblies with differential pressure sensors
US11972672B1 (en) 2022-10-26 2024-04-30 Manufacturing Resources International, Inc. Display assemblies providing open and unlatched alerts, systems and methods for the same

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03201641A (ja) * 1989-12-27 1991-09-03 Toshiba Corp 通信パケットの優先制御方式
JPH04127747A (ja) 1990-09-19 1992-04-28 Toshiba Corp 可変レート符号化方式
US5168356A (en) 1991-02-27 1992-12-01 General Electric Company Apparatus for segmenting encoded video signal for transmission
US5253058A (en) 1992-04-01 1993-10-12 Bell Communications Research, Inc. Efficient coding scheme for multilevel video transmission
US5270813A (en) 1992-07-02 1993-12-14 At&T Bell Laboratories Spatially scalable video coding facilitating the derivation of variable-resolution images
DE4240226C2 (de) 1992-11-30 1996-12-12 Deutsche Forsch Luft Raumfahrt Verfahren zum digitalen Übertragen von hierarchischen HDTV-, EDTV- und SDTV-Fernsehsignalen
US5414455A (en) 1993-07-07 1995-05-09 Digital Equipment Corporation Segmented video on demand system
US5481297A (en) 1994-02-25 1996-01-02 At&T Corp. Multipoint digital video communication system
US5487061A (en) * 1994-06-27 1996-01-23 Loral Fairchild Corporation System and method for providing multiple loss and service priorities
US5434848A (en) 1994-07-28 1995-07-18 International Business Machines Corporation Traffic management in packet communications networks
ZA959722B (en) * 1994-12-19 1996-05-31 Alcatel Nv Traffic management and congestion control for packet-based networks
JPH08191451A (ja) 1995-01-10 1996-07-23 Canon Inc 動画像送信装置

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7130265B1 (en) * 1998-11-12 2006-10-31 Sony Corporation Data multiplexing device and data multiplexing method, and data transmitter
US7474674B2 (en) 1999-01-26 2009-01-06 Panasonic Corporation Data connecting method, data connecting apparatus, program recording medium
KR100431003B1 (ko) * 2001-10-31 2004-05-12 삼성전자주식회사 데이터 송수신 시스템 및 방법
US7860366B2 (en) 2002-05-21 2010-12-28 Sony Corporation Information processing device and method, recording medium, and program
US7668150B2 (en) 2003-09-04 2010-02-23 Ntt Docomo, Inc. Packet-priority control apparatus and method thereof
US8018850B2 (en) 2004-02-23 2011-09-13 Sharp Laboratories Of America, Inc. Wireless video transmission system
JP4559237B2 (ja) * 2005-01-07 2010-10-06 株式会社エヌ・ティ・ティ・ドコモ ルーティング方法及び移動端末
JP2006191481A (ja) * 2005-01-07 2006-07-20 Ntt Docomo Inc ルーティング方法及び移動端末
JP2007235357A (ja) * 2006-02-28 2007-09-13 Nec Corp 符号化装置および符号化ビットレート切り替え方法
JP4636267B2 (ja) * 2006-02-28 2011-02-23 日本電気株式会社 符号化装置および符号化ビットレート切り替え方法
JP2008288762A (ja) * 2007-05-16 2008-11-27 Fujitsu Ltd 中継装置
JP2008294605A (ja) * 2007-05-23 2008-12-04 Kddi Corp アドホックネットワークにおけるパケットを中継制御する無線局及びプログラム
JP2009239514A (ja) * 2008-03-26 2009-10-15 Nec Personal Products Co Ltd 動画配信装置、経由装置、動画配信システム及び方法
JP2010045774A (ja) * 2008-07-01 2010-02-25 Sony Corp マルチキャスト向けコンテンツの効率的な配信に関するパケットのタグ付け
JP2011529311A (ja) * 2008-07-28 2011-12-01 アルカテル−ルーセント ビデオ符号化のための方法および配置
JP2009273135A (ja) * 2009-05-22 2009-11-19 Ntt Docomo Inc パケット優先制御装置及びその方法
CN102427526A (zh) * 2011-09-23 2012-04-25 清华大学 低延时的无线视频广播传输编码方法
JP2015177356A (ja) * 2014-03-14 2015-10-05 ソフトバンク株式会社 動画配信装置、動画符号化装置及びプログラム

Also Published As

Publication number Publication date
US6222841B1 (en) 2001-04-24
EP0853407A3 (en) 2002-11-06
EP0853407A2 (en) 1998-07-15
JP3193947B2 (ja) 2001-07-30

Similar Documents

Publication Publication Date Title
JP3193947B2 (ja) データ送信システム及びデータ送信方法
KR102324326B1 (ko) 상이한 인코딩 파라미터를 이용해 인코딩되는 복수의 인코딩 스트리밍
JP4153995B2 (ja) 画像復号化符号化装置、画像符号化装置及び画像復号化装置
JP4965059B2 (ja) ビデオストリームの切り替え
KR101292490B1 (ko) Rtp 패킷에 vc―1 정보를 캡슐화하는 방법, 이를구현하기 위한 컴퓨터 판독가능 매체, rtp 데이터구조체, 액세스 유닛 데이터 구조체, 소스 모듈, 디코더모듈, 소스 모듈 및 디코더 모듈을 포함하는 시스템, 및타겟 모듈
US7734104B2 (en) Image coding apparatus, image decoding apparatus and image processing system
JP3330797B2 (ja) 動画像データ格納方式および動画像データ復号方式
JP3516585B2 (ja) データ処理装置及びデータ処理方法
CN1171158C (zh) 视频点播系统中活动图象的流动方法
JP2006050604A (ja) Avデータ受信時のバッファ量をコンテンツ属性によって弾力的に調節する方法及び装置
CN107147916B (zh) 一种在传输层上传输h.265编码视频数据的方法
CN111147860B (zh) 一种视频数据的解码方法及装置
Seal et al. Loss profiles: a quality of service measure in mobile computing
JP2007325109A (ja) 配信サーバ、ネットワークカメラ、配信方法及びプログラム
JP4408811B2 (ja) ストリーム・サーバ
KR100511034B1 (ko) 화상전송장치및화상전송방법
JP2003534741A (ja) Mpeg−4リモートアクセス端末を有する通信システム
JP4345217B2 (ja) データ処理方法及び装置
JP2003169329A (ja) 画像音声符号化復号化装置
JP3749715B2 (ja) 画像データ送出装置および画像データ送出方法
JP4102223B2 (ja) データ処理装置及びデータ処理方法
US20040168204A1 (en) Method of processing packet data between video server and clients
JP4190428B2 (ja) データ伝送方法およびデータ伝送機
CN118338088B (zh) 一种基于rtp协议的avs3视频传输方法
JP3519722B2 (ja) データ処理方法及びデータ処理装置

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090525

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100525

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110525

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110525

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120525

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120525

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130525

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130525

Year of fee payment: 12

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term