JP5585109B2 - Video transmission device - Google Patents
Video transmission device Download PDFInfo
- Publication number
- JP5585109B2 JP5585109B2 JP2010027898A JP2010027898A JP5585109B2 JP 5585109 B2 JP5585109 B2 JP 5585109B2 JP 2010027898 A JP2010027898 A JP 2010027898A JP 2010027898 A JP2010027898 A JP 2010027898A JP 5585109 B2 JP5585109 B2 JP 5585109B2
- Authority
- JP
- Japan
- Prior art keywords
- packet
- queue
- video
- packets
- priority
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Description
本発明は映像を送信する技術に関する。 The present invention relates to a technique for transmitting video.
映像を含むマルチメディアデータのストリーミングにおいて、データの破綻やデータ配信の遅延を抑制するために、映像送信装置側で、階層符号化された映像データに基づいてパケットを選別して廃棄したり、パケットの送信順序を制御する技術が知られている。例えば特許文献1には、階層符号化された映像データのフレーム単位でバッファリングを行い、一定のフレーム周期を超えた場合に優先度の低いパケットを廃棄する技術が記載されている。また、公知の技術であるWRED(Weighted Random Early Detection)では、単一の送信キューにおいてパケットの優先度ごとにキュー長制限を設けて、キュー長制限を越えたパケットについて廃棄を行うというアルゴリズムを採用している。さらに、公知の技術として、優先度の低いパケットを定常的に廃棄したり、パケットの優先度ごとに送信キューを用意して送信順序の制御を行うものが存在する。
In the streaming of multimedia data including video, the video transmission device side selects and discards packets based on the hierarchically encoded video data in order to suppress data corruption and data delivery delay, A technique for controlling the transmission order of the. For example,
特許文献1に記載の技術では、バッファリング分の伝送遅延が発生しやすいという問題や、映像送信装置で映像のフォーマットを解釈する必要があるため装置が複雑で高コストになりやすいという問題がある。また、WREDにおいては、一度、送信キューに格納されたパケットは廃棄される事が無いため、そのキュー内において優先度の低いパケットを廃棄せずに、それに後続する優先度の高いパケットを廃棄せざるを得ない場合がある。また、優先度の低いパケットを定常的に廃棄すると、可用帯域を有効に活用できないという問題がある。これは映像帯域や回線帯域の変動に追従できず、パケットの廃棄しすぎやパケットが廃棄しきれないといったことが理由である。さらに、パケットの優先度ごとに送信キューを用意する場合、パケットの送信順序が入れ替わることがあり、キューの管理コストも大きくなる。
In the technique described in
本発明の目的は、上述の背景を鑑みてなされたものであり、映像データのパケットを送信するにあたり、当該映像データに基づいて映像が再生されるときのその映像の品質低下を抑制しつつ、パケットが送信されてからそのパケットに応じた映像が再生されるまでの遅延を小さくすることにある。 The object of the present invention has been made in view of the above-mentioned background, and in transmitting a packet of video data, while suppressing a deterioration in the quality of the video when the video is reproduced based on the video data, The purpose is to reduce the delay from when a packet is transmitted until the video corresponding to the packet is reproduced.
上述の課題を解決するため、本発明は、映像データのパケットであって、当該映像データに基づいて映像を再生するときの当該映像の品質に応じた優先度が割り当てられた各パケットを、順次エンキューして格納するキューを記憶する記憶手段と、前記キューに格納されたパケットを、当該キューへのエンキューの順番が時間的に古いものから順番に送信する送信手段と、前記キューにパケットがエンキューされるときに、当該キューに格納されているパケットの数が、当該キューに格納されるパケットの上限値に達している場合には、当該キューに格納されているパケット及び前記エンキューされるパケットの中から、最も低い優先度が割り当てられたパケットのうちエンキューの順番が時間的に最も古いパケットである第1のパケットに加えて、当該第1のパケットと同じ優先度が割り当てられたパケットのうち、当該第1のパケットとエンキューの順番が前記キュー内で隣接する第2のパケットを廃棄する廃棄手段とを備えることを特徴とする映像送信装置を提供する。 In order to solve the above-described problems, the present invention sequentially processes each packet, which is a packet of video data, and assigned a priority according to the quality of the video when the video is reproduced based on the video data. Storage means for storing a queue to be enqueued and stored; transmission means for transmitting packets stored in the queue in order from the oldest in time of enqueue to the queue; and packets enqueued in the queue When the number of packets stored in the queue reaches the upper limit value of the packets stored in the queue, the packets stored in the queue and the packets to be enqueued from within, is the oldest packet order of enqueued in time of the lowest priority is assigned packets to the first packet Ete, said one of the first packets with the same priority as the packet is assigned, characterized in that it comprises a discarding means the order of the first packet and the enqueue discards the second packet adjacent in the queue A video transmission apparatus is provided.
また、別の好ましい態様において、前記送信手段により送信されるパケットが伝送される伝送経路の可用帯域を計測する計測手段と、前記送信手段が前記キューからパケットを読み出して送信するときの帯域を、前記計測手段によって計測された前記伝送経路の可用帯域に応じて制御する帯域制御手段とを備えることを特徴とする。 Further, in another preferred aspect, a measuring unit that measures an available bandwidth of a transmission path through which a packet transmitted by the transmitting unit is transmitted, and a band when the transmitting unit reads and transmits a packet from the queue, Band control means for controlling according to the available bandwidth of the transmission path measured by the measuring means.
また、別の好ましい態様において、前記キューに格納されるパケットの上限値を変更する変更手段であって、前記計測手段によって計測された前記伝送経路の可用帯域が大きくなった場合には前記上限値を大きくし、前記伝送経路の可用帯域が小さくなった場合には前記上限値を小さくする変更手段を備え、前記廃棄手段は、前記変更手段が前記上限値を小さくしたことにより、前記キューに格納できずに当該キューからあふれるパケットが発生した場合、当該キューに格納されているパケットと、エンキューの対象となるパケットと、前記キューからあふれるパケットとの中から、前記最も低い優先度が割り当てられたパケットのうちエンキューの順番が時間的に最も古いパケットである第1のパケット及び当該第1のパケットと同じ優先度が割り当てられたパケットのうち、当該第1のパケットとエンキューの順番が前記キュー内で隣接する第2のパケットを前記キューからあふれるパケットの数以上廃棄することを特徴とする。 In another preferred aspect, the changing means for changing the upper limit value of the packet stored in the queue, the upper limit value when the available bandwidth of the transmission path measured by the measuring means becomes large And changing means for reducing the upper limit value when the available bandwidth of the transmission path becomes smaller, and the discarding means stores in the queue when the changing means reduces the upper limit value. If a packet overflowing from the queue can not occur, and packets stored in the queue, a packet to be enqueued in a subject, from among the packets overflows from the queue, before Symbol lowest priority is assigned The first packet that is the oldest packet in time and the same priority as the first packet Among is allocated packet, wherein the order of the first packet and the enqueue discards several more overflowing the second packet adjacent from the queue packets in the queue.
また、別の好ましい態様において、前記廃棄手段は、前記第1のパケット及び前記第2のパケットが前記キューからあふれるパケットの数以上存在しない場合には、前記第1のパケット及び当該第1のパケットと同じ優先度が割り当てられたパケットを全て廃棄することを特徴とする。
また、別の好ましい態様において、前記送信手段により既に送信済みのパケットを再送する要求を受信した場合に、当該パケットを再送する再送制御手段を備え、前記廃棄手段は、前記再送制御手段が再送するパケットについても廃棄の対象とすることを特徴とする。
Moreover, in another preferable aspect, the discarding unit includes the first packet and the first packet when the first packet and the second packet do not exist more than the number of packets overflowing from the queue. All packets assigned the same priority as are discarded.
Further, in another preferred aspect, when a request for resending a packet that has already been transmitted by the transmitting means is received, a retransmission control means for resending the packet is provided, and the discarding means retransmits the retransmission control means The packet is also subject to discarding.
本発明によれば、映像データのパケットを送信するにあたり、当該映像データに基づいて映像が再生されるときのその映像の品質低下を抑制しつつ、パケットが送信されてからそのパケットに応じた映像が再生されるまでの遅延を小さくすることが可能となる。 According to the present invention, when transmitting a packet of video data, the video corresponding to the packet is transmitted after the packet is transmitted while suppressing deterioration in the quality of the video when the video is reproduced based on the video data. It is possible to reduce the delay until the image is reproduced.
(1)実施形態
次に、図面を参照して本発明の実施形態について説明する。
図1は本発明の実施形態におけるシステムの構成を表した図である。このシステムは、映像出力装置1と、映像送信装置2と、パケット通信網3と、中継装置4と、映像受信装置5と、映像表示装置6とを備えている。映像出力装置1は、例えば撮像を行うビデオカメラや、映像データを記憶したパーソナルコンピュータ(以下、パソコンという)やサーバ装置等である。映像出力装置1は、映像の内容を表すアナログの映像信号或いはデジタルの映像データを映像送信装置2に出力する。映像送信装置2は、映像出力装置1から入力される映像信号或いは映像データをカプセル化して所定のデータ長の複数のパケットに変換する。そして映像送信装置2は、これらの映像データのパケットを、映像表示装置6で映像が再生される際にデータの破綻や遅延が発生するのを抑制することを目的として選択的に廃棄しつつ、順次送信先に向けてパケット通信網3に送信する。この映像送信装置2は、映像エンコーダの機能とルータの機能を併せ持つ装置である。パケット通信網3は、LAN(Local Area Network)やインターネットであり、映像送信装置2から送信先へ向けて送信されたパケットが伝送される伝送経路となる。
(1) Embodiment Next, an embodiment of the present invention will be described with reference to the drawings.
FIG. 1 is a diagram showing the configuration of a system according to an embodiment of the present invention. This system includes a
中継装置4は、例えばルータであり、パケット通信網3を通じて映像送信装置2から送信されてくるパケットを受信する。中継装置4は、受信したパケットを順次映像受信装置5に出力する。映像受信装置5は、中継装置4から入力されたパケットをデカプセル化して映像信号或いは映像データを復元し、この映像信号或いは映像データを映像表示装置6に出力する。中継装置4および映像受信装置5は、分離した別体の装置ではなく、一体の装置であってもよい。映像表示装置6は、映像受信装置5から入力された映像信号或いは映像データに基づいた映像を再生して表示する装置であり、例えばディスプレイ装置、アナログテレビ、デジタルテレビ、パソコン、或いは携帯電話機等である。映像送信装置2においてパケットの廃棄が行われると、本来の順番からすると間のパケットが抜けた状態で映像受信装置5にパケットが入力される場合がある。このとき、映像受信装置5は間が抜けていても入力された順番に従ってパケットから映像信号或いは映像データを復元する。つまり、映像受信装置5は、入力されなかったパケットに基づく部分の映像信号或いは映像データはスキップしながら、入力された順番でパケットから映像信号或いは映像データを復元し、この映像信号或いは映像データに基づく映像を映像表示装置6が再生して表示する。従って、映像受信装置5がパケットの到着を待つことで処理が滞ることもなく、時系列に沿って順次パケットが処理されるため、映像表示装置6のストリーミング再生におけるリアルタイム性が損なわれることが極力無いようになっている。図1に示した各構成のうち、中継装置4、映像受信装置5および映像表示装置6は複数存在してもよい。また、映像受信装置5および映像表示装置6は、分離した別体の装置ではなく、一体の装置であってもよい。また、中継装置4、映像受信装置5および映像表示装置6の全てが、一体の装置であってもよい。なお、映像表示装置6が携帯電話機の場合、この携帯電話機は、中継装置4に接続された、図示しない携帯通信網の基地局と無線通信を行うことでパケットの受信を行う。
The
図2は、映像送信装置2のハードウェア構成を表したブロック図である。
映像送信装置2は、CPU(Central Processing Unit)20、揮発性記憶部21、不揮発性記憶部22、入力ポート23及び出力ポート24を備えており、これらの各部がバスを介して互いに接続されている。CPU20は、不揮発性記憶部22に記憶されているプログラムを読み出し揮発性記憶部21にロードして実行することにより、映像送信装置2の各部を制御して、例えば映像データ階層符号化機能、パケット生成機能、キュー処理機能及びパケット送信機能などの各機能を実現する。揮発性記憶部21は、例えばRAM(Random Access Memory)であり、CPU20が処理を行う際のワークエリアとなる。不揮発性記憶部22は、例えばフラッシュメモリであり、CPU20が実現する映像送信装置2の各機能に関するプログラムや、パケット送信機能を実現するにあたりルーティングを行うためのルーティングテーブルを記憶している。入力ポート23は、動画出力装置1から出力される映像信号或いは映像データを映像送信装置2に入力するインターフェースであり、入力端子を備える。出力ポート24は、映像送信装置2が映像信号或いは映像データに基づいて生成したパケットをパケット通信網3に出力するインターフェースであり、出力端子を備える。
FIG. 2 is a block diagram illustrating a hardware configuration of the
The
図3は、映像送信装置2の機能構成を表したブロック図である。
映像送信装置2は、CPU20が、不揮発性記憶部22に記憶されているプログラムを読み出し揮発性記憶部21にロードして実行することにより、映像情報入力部25、階層符号化部26、パケット生成部27、キュー処理部28及びパケット送信部29の各機能を実現する。以下の説明において、各部を処理の主体として記載するが、その主体の実態はCPU20である。映像情報入力部25は、入力ポート24を通じて映像出力装置1から入力された映像信号又は映像データを受け取る。ここで、映像情報入力部25は、アナログの映像信号についてはデジタル化を行い、デジタル化した映像データを階層符号化部26に出力する。映像出力装置1からの入力が既にデジタル化された映像データである場合、映像情報入力部25は、受け取った映像データを階層符号化部26に出力する。階層符号化部26は、入力されたデジタルの映像データを時間軸、周波数、画素数等を基準として階層符号化し、階層符号化した映像データをパケット生成部27に出力する。
FIG. 3 is a block diagram showing a functional configuration of the
In the
ここで映像データの階層符号化について、概略を説明する。映像データの階層符号化とは、映像データを、低品質だが再生にあたり最低限必要な映像データと、再生時の映像の品質を高めるそれ以外の映像データとに階層化して分割することである。ここで3層構造の階層符号化の例を考える。L0は基本階層データであり、L1は第1階層データ、L2は第2階層データであるとする。L0のデータのみを復号すると、低品質の映像が得られる。L0およびL1のデータを復号すると中品質、L0、L1およびL2の全てのデータを復号すると高品質の映像が得られる。このとき、L0のデータは復号側で最低限必要とするデータであるため、データがパケット化されて送信される際には最優先で送信されるべきデータである。一方、L1およびL2のデータは映像の品質を高めるが、L0のデータと比較すると必須ではないため、パケット化されて送信される際の優先度をL0のデータよりも下げてもよい。ただし、L1のデータは、より基本階層に近い階層で符号化されているため、そのデータが欠けたときの事を考えると、L2のデータと比べて、映像品質の劣化に対する影響度が高いと言える。これらのことから、上述の3層構造における階層符号化映像データに対し、映像品質への影響度を考慮してパケット送信の際の優先順位をつけると、L0>L1>L2となる。このように、階層符号化された映像データに対しては、各階層、つまり再生時の映像の品質に応じて優先度を割り当てる事が可能である。なお、ここでいう映像の品質とは、映像の解像度や映像のフレームレート等を指し、映像の品質が高いとは、解像度が高いことやフレームレートが大きいことを表す。 Here, an outline of hierarchical encoding of video data will be described. Hierarchical encoding of video data is to divide video data into hierarchies of low-quality video data that is at least necessary for playback and other video data that improves video quality during playback. Here, consider an example of hierarchical coding with a three-layer structure. It is assumed that L0 is basic hierarchy data, L1 is first hierarchy data, and L2 is second hierarchy data. If only the data of L0 is decoded, a low quality video is obtained. Decoding L0 and L1 data provides medium quality, and decoding all L0, L1 and L2 data provides high quality video. At this time, since the data of L0 is the minimum necessary data on the decoding side, it is data that should be transmitted with the highest priority when the data is packetized and transmitted. On the other hand, the data of L1 and L2 improves the quality of the video, but since it is not essential as compared with the data of L0, the priority when packetized and transmitted may be lowered than the data of L0. However, since the data of L1 is encoded in a layer closer to the basic layer, considering that the data is missing, it has a higher degree of influence on the degradation of video quality than the data of L2. I can say that. For these reasons, when the priority order in packet transmission is given to the hierarchically encoded video data in the above three-layer structure in consideration of the influence on the video quality, L0> L1> L2. As described above, it is possible to assign a priority to the hierarchically encoded video data according to each layer, that is, the quality of the video during reproduction. The video quality here refers to the resolution of the video, the frame rate of the video, etc., and the high quality of the video means that the resolution is high or the frame rate is high.
パケット生成部27は、階層符号化された映像データをカプセル化して、パケットを生成する。この際、パケット生成部27は、階層符号化された映像データに応じて、各パケットに対して優先度を割り当てる。つまり、パケット生成部27は、階層符号化された映像データのうち基本階層データは最も高い優先度を割り当ててパケット化し、それ以外の階層の映像データに対しては、階層に応じた優先度を割り当ててパケット化する。このように各パケットに割り当てられた優先度は、キュー処理部28がパケットの廃棄制御を行う際に使用される。パケット生成部27は、生成したパケットをキュー処理部28に出力する。キュー処理部28は、揮発性記憶部21に送信キューを生成し、この送信キューに、パケット生成部27から入力されたパケットをエンキューして格納する。さらにキュー処理部28は、帯域制御を行いながら必要に応じてパケットの廃棄を行い、出力対象のパケットを送信キューからデキューしてパケット送信部29に出力する。パケット送信部29は、キュー処理部28から入力されたパケットを、出力ポート24を通じてパケット通信網3に送信する。
The
図4はパケットの構成を表した図である。パケット30はIP(Internet Protocol)パケットの一例である。各々のパケット30はヘッダ部とデータ部とからなる。データ部はパケット化されたデータの内容そのものに相当するものであり、ヘッダ部はパケット30を宛先に送信するために必要な情報などに相当する。ヘッダ部は、IPヘッダと、TCP若しくはUDPヘッダとから構成される。データ部は、Type、Priority、SEQ(Sequence Number)、Video Data等の複数の項目から構成される。Typeは、このパケット30が映像データであるのか、若しくは制御メッセージであるのか、といったパケット30におけるデータの種別を表す数値が記述される。Priorityは、前述した各パケットに割り当てられる優先度を示すものである。例えば3階層を例にとると、基本階層データL0のパケットのPriorityには、最も高い優先度が記述され、第1階層データL1のパケットのPriorityには、中位の優先度が記述され、第2階層データL2のパケットのPriorityには、最も低い優先度が記述されるといった具合である。SEQは、順序だてて一意にパケット30を識別するためにシーケンシャルに振られた番号である。Video Dataは、映像データそのものである。
FIG. 4 is a diagram showing a packet configuration. The
図5は、キュー処理部28の構成を表した図である。キュー処理部28は、1つの送信キュー281と、送信キュー281のパケット送出側(デキュー側)に論理的に設けられた帯域制御部282とで構成される。送信キュー281は、揮発性記憶部21に記憶される。送信キュー281は、データを先入れ先出しのリスト構造で保持するものであり、キュー処理部28に入力されるパケット30を入力順にエンキューし、そのエンキューされた順番が古いものから順にデキューする。図において、各々のパケット30に付された数字は、各パケット30のPriorityに記述された優先度を表している。図5の例では、パケット30に付された数字が小さい程優先度が高く、数字が大きい程優先度が低いことを表している。
FIG. 5 is a diagram showing the configuration of the
帯域制御部282は、パケット通信網3における可用帯域を過不足なく使い切るように、パケット送信に関する帯域制御を行う。すなわち帯域制御部282は、伝送経路であるパケット通信網3における可用帯域を通信開始当初に計測し、この計測結果に合わせて設定した帯域で、送信キュー281から各パケット30をデキューして順番にパケット送信部29に出力していく。この通信開始当初に設定されたパケット送出における帯域は、以後映像送信装置2の電源が再投入されるまで維持される。ここで、可用帯域とは、データの伝送経路において利用可能な帯域のことである。また、本実施形態では、「帯域」という用語を、単位時間あたりの通信速度という意味で用いるものとし、その単位は例えばbps:bit/secondである。このように、送信キュー281におけるデキュー側の帯域は帯域制御部282によって制御される。また、「エンキュー」という言葉は、通常、キューにデータを格納することを意味するが、便宜上以降の説明においては、これからエンキューされるパケットに対して「エンキュー」という言葉を用い、既にキューにエンキューされたパケットについては「格納」という言葉を用いることとする。
The
一方、エンキュー側に注目すると、可用帯域を越える帯域でパケット30がエンキューされると、エンキューに対してデキューが追いつかない状態となり、送信キュー281にパケット30が溜まっていきキュー長が次第に長くなってしまう。送信キュー281には、格納可能なパケットの上限値が予め定められている(以下、この上限値をキュー長制限という)。キュー処理部28は、送信キューに格納されているパケットの数(キュー長)を常時監視しており、キュー長制限を越えてパケット30が送信キュー281にエンキューされた際には、パケット30の廃棄を行う。
On the other hand, paying attention to the enqueue side, when the
図6(A)〜図6(D)は送信キュー281がキュー長制限に達している際にエンキューが行われた状態を表しており、これらの図を用いて、キュー処理部28におけるパケット廃棄の内容を説明する。キュー処理部28は、エンキューが行われた際にキュー長制限に達している場合、パケット30の優先度を判別し、最も優先度が低いうちエンキューの順番が最も古いパケット30を廃棄する。ここで、廃棄の判別対象となるパケットは、キュー長制限に達している状態でエンキューされようとしているパケットと、そのときに送信キューに格納されているパケットの全てである。図6(A)〜図6(D)において、最も優先度が低いパケットのうち、パケット30の送出口である帯域制御部282により近い位置に表記されたパケットが、廃棄の対象となる。例えば図6(A)においては、送信キュー281に格納された優先度「4」のパケット30が最も優先度が低いうちエンキューの順番が最も古いパケットであるため、キュー処理部28はこのパケット30を廃棄する。図6(B)においては、エンキューされる優先度「5」のパケット30が最も優先度が低いうちエンキューの番が最も古いパケットであるため、キュー処理部28はこのパケット30を廃棄する。以上の図6(A)および図6(B)におけるパケット廃棄の処理が、キュー処理部28が行う廃棄制御の基本動作である。なお、図6(A)〜図6(D)では、階層符号化の階層数として5を想定しているから、1〜5の優先度がパケットに割り当てられている。
6A to 6D show a state where enqueue is performed when the
図6(C)は、最も優先度が低いパケット30のうちエンキューの順番が最も古いもの(第1のパケット)と、そのパケット30にエンキューの順番がキュー内で隣接する同じ優先度のパケット30(第2のパケット)とが存在した場合の廃棄の例を示している。この場合、キュー処理部28は、最も優先度が低いパケットのうち最も古いものに加えて、この隣接するパケット30も廃棄する。すなわち、図6(C)において、最も優先度が低いパケットのうち最も古いものである優先度「4」のパケットと、それに隣接する同じく優先度「4」のパケットとが、キュー処理部28によって廃棄される。優先度は、前述したように階層符号化された映像データのパケットが属する階層に応じて付加されたものであるから、同じ優先度のパケットが時間的に連続してエンキューされた場合、これらのパケットは、同階層における1単位の映像データから複数に分割されたパケットである可能性が高い。つまり、特定のパケット30を廃棄した際に、隣接する同じ優先度のパケット30だけを送出してもデータとして意味をなさず受信側で利用できない可能性がある。図6(C)の廃棄制御はこのような考え方に基づいたものであり、同じ優先度のパケット30が時間的に連続してエンキューされた場合、映像として意味のある一塊のパケット群とみなし、廃棄を行う際にはこれら全てを廃棄対象とするものである。
FIG. 6C shows the
図6(D)は、最も優先度が低いパケット30全てをキュー処理部28が廃棄する例を示している。すなわち、図6(D)において、最も低い優先度「4」のパケット30全てをキュー処理部28は廃棄する。図6(D)における廃棄制御は、デキューに対してエンキューのスピードが早い若しくはデキューのスピードが遅い状態が発生した際、これに対して遅延の抑制を最優先したい場合に有効である。
FIG. 6D shows an example in which the
上記のように、図6(A)および図6(B)の内容に従うパケット廃棄制御のほか、図6(C)の内容に従うパケット廃棄制御や、図6(D)の内容に従うパケット廃棄制御がある。キュー処理部28は、図6(A)および図6(B)のパケット廃棄制御を基本として、図6(C)および図6(D)の廃棄制御のいずれか若しくは双方を組み合わせて行ってもよい。また、映像送信装置2にユーザ操作により設定を行う設定部を設けて、図6(A)〜図6(D)の廃棄制御の中から任意のものをユーザに選択させてもよい。
As described above, in addition to packet discard control according to the contents of FIGS. 6 (A) and 6 (B), packet discard control according to the contents of FIG. 6 (C) and packet discard control according to the contents of FIG. 6 (D) are performed. is there. The
図7は、キュー処理部28における処理フロー図である。帯域制御部282は、パケット通信網3における可用帯域に応じて送信キューからパケットを読み出して送信するときの帯域を決定する(ステップS1)。キュー処理部28がパケットを受け取っていない期間は(ステップS2;NO)、ステップS1で決定された帯域に従って送信キューからパケットを読み出してパケット送信部29に送出し(ステップS6)、ステップS2の処理に戻る。キュー処理部28がパケットを受け取ると(ステップS2;YES)、キュー処理部28は、キュー長制限にキュー長が達しているかどうかの判定を行う(ステップS3)。キュー長がキュー長制限に達していない場合(ステップS3;NO)、キュー処理部28は、送信キュー281にパケットをエンキューする(ステップS4)。キュー長がキュー長制限に達している場合(ステップS3;YES)、キュー処理部28は図6(A)〜図6(D)で説明した廃棄制御に従ってパケットの廃棄を行う(ステップS5)。その後、キュー処理部28は、ステップS6の処理に従ってパケットを送出し、ステップS2の処理に戻る。
FIG. 7 is a processing flowchart in the
このように、本実施形態によれば、階層符号化された映像データの階層に応じてパケットに付加された優先度を用いて廃棄制御を行うため、映像送信装置2が、パケットの廃棄制御のために、映像データのフォーマットを解釈する機能を実装する必要がなく、より簡素な構成で低コストな映像送信装置2を製造することが可能となる。また、送信キュー281の内外を問わず、つまり、送信キュー281に格納されているパケットであるか格納されていないパケットであるかを問わず、最も優先度が低いパケットを廃棄対象とするため、優先度の高いパケットの廃棄率を抑えること、すなわち映像の品質に影響が高いパケットの廃棄率を抑えることが可能となり、優先度をなんら考慮せずにパケットを廃棄する場合と比べて、映像表示装置6で再生される映像の品質低下を抑制することができる。また、映像表示装置6において映像をストリーミング再生する際には、通常、リアルタイム性が最優先される。そのため前述したように、映像受信装置5が、廃棄されて間が抜けたパケットに基づく部分はスキップして、映像受信装置5に入力される順番がより新しいパケットにタイミングを合わせて映像信号或いは映像データを復元する事で、再生における遅延を抑制するようになっている。従って、本実施形態のように、最も優先度が低いパケットのうちエンキューの順番が最も古いものを廃棄対象とすることで、エンキューされる順番がより新しいパケット、すなわち映像受信装置5に入力される順番がより新しいパケットに基づく部分の映像信号或いは映像データがより早く映像表示装置6に届くこととなり、パケットが送信されてからそのパケットに応じた映像が再生されるまでの遅延を抑制する事が可能となる。さらに、送信キュー281のキュー長制限にキュー長が達したタイミングで廃棄制御を行うため、そのキュー長制限に達するまでは、伝送経路の可用帯域を有効に活用することが可能となる。さらに単一の送信キュー281を用いているため、複数の送信キューを用いた場合に懸念されるパケットの送信順序の入れ替わりを心配する必要もない。
As described above, according to the present embodiment, since the discard control is performed using the priority added to the packet in accordance with the hierarchy of the hierarchically encoded video data, the
(2)変形例
上記の実施形態を次のように変形してもよい。また、以下の変形例は適宜組み合わせて実施することも可能である。
(2−1)変形例1
実施形態において、帯域制御部282は、通信開始当初に設定した帯域を通信終了まで維持してパケット送信を行っていたが、これを次のようにしてもよい。すなわち、帯域制御部282が、伝送経路の可用帯域の計測を定期的に行い、変動する可用帯域に応じて、送信キューからのパケット送信の帯域を動的に制御するようにしてもよい。図8は変形例1のキュー処理部28における処理フロー図である。帯域制御部282は伝送経路であるパケット通信網3の可用帯域を計測する(ステップS1A)。帯域制御部282は、計測した可用帯域に合わせたレートでパケットを送出するように、送信キューからのパケット送信の帯域を変更する(ステップS1B)。キュー処理部28がパケットを受け取っていない場合(ステップS2;NO)、ステップS6の処理に進む。キュー処理部28がパケットを受け取ると(ステップS2;YES)、図7と同様のフローに従って処理が行われる。以降の処理は図7と同様であるため説明を省略する。このようにすれば、パケット通信網3が帯域変動の大きなモバイル回線等の場合に、変動する可用帯域に合わせて、送信キューからのパケット送信の帯域の変更が動的に行われながらパケットが送出されることになるから、可用帯域に応じた品質の映像データを伝送することが可能となる。
(2) Modification The above embodiment may be modified as follows. Further, the following modifications can be implemented in combination as appropriate.
(2-1)
In the embodiment, the
(2−2)変形例2
変形例1に更に加えて、帯域制御部282が行う帯域制御に応じて送信キュー281のキュー長制限を動的に変更するようにしてもよい。すなわち、帯域制御部282が計測を行った結果、パケット送出帯域をより大きく設定した場合、これに合わせてキュー処理部28がキュー長制限を長くし、帯域制御部282が計測を行った結果、パケット送出帯域をより小さく設定した場合、これに合わせてキュー処理部28がキュー長制限を短くする。キュー処理部28は、帯域制御部282が計測の結果に基づいてパケット送出帯域の設定について変更を行う都度、上述のキュー長制限の調整を行う。キュー処理部28がキュー長制限を短くする際に、既にエンキューされていたパケットのうち、より新しくエンキューされたパケットが、短くなったキュー長制限により送信キュー281に格納できなくなる場合がある。ここで、短くなったキュー長制限により送信キュー281に格納できなくなるパケットのことを、キュー長制限からあふれるパケットと呼ぶ。この場合、キュー処理部28は、送信キュー281に格納されているパケットと、エンキューされる対象となるパケットと、送信キュー281のキュー長制限からあふれるパケットとを対象として、図6(A)〜図6(D)で説明した廃棄制御のうちいずれかに従ってパケットの廃棄を行う。この場合、廃棄するパケットの数は、送信キュー281のキュー長制限からあふれたパケットの数以上である。
(2-2)
In addition to the first modification, the queue length limit of the
図9は変形例2のキュー処理部28における処理フロー図である。ステップS1AとステップS1Bの処理は図8と同様である。帯域制御部282が設定帯域の変更を行った後、キュー処理部28は設定帯域に応じてキュー長制限の調整を行う(ステップS1C)。この際、キュー長制限が短くなることにより送信キュー281からあふれるパケットが発生した場合、キュー処理部28は図6(A)〜図6(D)で説明した廃棄制御のうちいずれかに従ってパケットの廃棄を行う。以降の処理は図8と同様であるため説明を省略する。上述の方式を採用する利点を説明すると、以下の通りである。映像データがパケット化されて送信される際に、パケットの個数と映像の再生時間とは必ずしも比例するものではない。例えばMPEG(Moving Picture Experts Group)系の映像フォーマットにおいては、特定のフレームにおいて極端にビットレートが高まる、すなわちパケットの個数が増える可能性があり、これらのパケット全てをエンキューすると、後続フレームに基づくパケットがデキューされるまでに一定の時間を要してしまう。つまりこの場合、受信端末側での映像の再生において遅延が発生する可能性がある。さらに、帯域変動が大きな伝送経路において可用帯域が小さい方向に変動した場合には、パケットがデキューされるスピードが遅くなるため、この遅延量はより増加する傾向にある。従ってこのような場合には、可用帯域が小さくなる、すなわちデキューのスピードが遅くなることに合わせて、キュー長制限を動的に短くする事で、エンキューの順番がより古いパケットの廃棄が行われて、より新しいパケットがより早く送信されることとなるため、遅延を抑制する事が可能となる。この際、キュー長制限が変更され得る幅は、映像送信装置2の内部において許容可能な最大伝送遅延に応じたものとなる。
FIG. 9 is a processing flowchart in the
(2−3)変形例3
パケットの廃棄処理やパケット通信網3でのパケットロスにより、中継装置4或いは映像受信装置5から映像送信装置2にパケットの再送要求が送信された場合、映像送信装置2におけるキュー処理部28は、この要求に応えて、該当するパケットをパケット送信部29から再送させる再送制御を行う。この際、再送するパケットについても、キュー処理部28が通常のパケットと同様の廃棄制御の対象とし、前述したような廃棄の条件を満たす場合にはこれを廃棄するようにしてもよい。このようにすれば、キュー処理部28が行うパケットの再送制御においても優先度の高いパケットの到達率を高めることが可能となる。
(2-3)
When a packet retransmission request is transmitted from the
(2−4)変形例4
実施形態においては映像送信装置2を映像エンコーダ機能とルータ機能をあわせもつ送信装置としていたが、図3における映像情報入力部25、階層符号化部26およびパケット生成部27の機能を持った映像エンコーダと、キュー処理部28およびパケット送信部29の機能を持つルータとを別々に分けて本発明におけるシステムを構成してもよい。この場合、映像エンコーダとルータとは有線或いは無線によって通信が行われる。このようにすれば、実施形態と同様の効果を奏することが可能となる。
(2-4)
In the embodiment, the
(2−5)変形例5
実施形態においては、パケット30のデータ部にPriorityという領域を確保し、これに優先度を記述するようにしていたが、優先度のラベル付けはこれに限ったものではない。すなわち、データ部に記述するのではなく、パケット30のヘッダ部におけるTOS(Type Of Service)に、パケット30に割り当てた優先度を記述するようにしてもよい。この場合、以降の処理においてはデータ部に記述された優先度ではなく、TOSに記述された優先度が用いられる。
また、上記実施形態では、階層符号化された映像データにおける各々の階層別に優先度を定義していたが、パケットに割り当てる優先度は、映像データに基づいて映像を再生するときの当該映像の品質に応じたものであればよい。つまり、階層符号化されていない映像において高い映像品質に関するパケットには高い優先度を割り当て、低い映像品質に関するパケットには低い優先度を割り当ててもよい。
(2-5)
In the embodiment, an area called Priority is secured in the data portion of the
In the above embodiment, the priority is defined for each layer in the hierarchically encoded video data. However, the priority assigned to the packet is the quality of the video when the video is reproduced based on the video data. As long as it meets the requirements. That is, in a video that is not hierarchically encoded, a high priority may be assigned to a packet related to high video quality, and a low priority may be assigned to a packet related to low video quality.
1…映像出力装置、2…映像送信装置、3…パケット通信網、4…中継装置、5…映像受信装置、6…映像表示装置、20…CPU、21…揮発性記憶部、22…不揮発性記憶部、23…入力ポート、24…出力ポート、25…映像情報入力部、26…階層符号化部、27…パケット生成部、28…キュー処理部、29…パケット送信部、30…パケット、281…送信キュー、282…帯域制御部
DESCRIPTION OF
Claims (5)
前記キューに格納されたパケットを、当該キューへのエンキューの順番が時間的に古いものから順番に送信する送信手段と、
前記キューにパケットがエンキューされるときに、当該キューに格納されているパケットの数が、当該キューに格納されるパケットの上限値に達している場合には、当該キューに格納されているパケット及び前記エンキューされるパケットの中から、最も低い優先度が割り当てられたパケットのうちエンキューの順番が時間的に最も古いパケットである第1のパケットに加えて、当該第1のパケットと同じ優先度が割り当てられたパケットのうち、当該第1のパケットとエンキューの順番が前記キュー内で隣接する第2のパケットを廃棄する廃棄手段と
を備えることを特徴とする映像送信装置。 Storage means for storing a queue for sequentially enqueuing and storing packets of video data, each of which is assigned a priority according to the quality of the video when the video is reproduced based on the video data ,
Transmitting means for transmitting the packets stored in the queue in order from the oldest in the order of enqueue to the queue;
When the number of packets stored in the queue reaches the upper limit value of the packets stored in the queue when packets are enqueued in the queue, the packets stored in the queue and Among the packets to be enqueued, among the packets to which the lowest priority is assigned , in addition to the first packet that is the packet having the oldest enqueue order , the same priority as the first packet is given. A video transmission apparatus comprising: a discarding unit that discards a second packet that is adjacent to the first packet and enqueue in the queue among the assigned packets .
前記送信手段が前記キューからパケットを読み出して送信するときの帯域を、前記計測手段によって計測された前記伝送経路の可用帯域に応じて制御する帯域制御手段と
を備えることを特徴とする請求項1に記載の映像送信装置。 Measuring means packets transmitted by pre Symbol transmission means to measure the available bandwidth of the transmission path to be transmitted,
Claim 1, characterized in that said transmitting means and a band control means for the band, is controlled in accordance with the available bandwidth of the transmission path measured by said measuring means when sending reads a packet from the queue video transmission apparatus according to.
前記廃棄手段は、前記変更手段が前記上限値を小さくしたことにより、前記キューに格納できずに当該キューからあふれるパケットが発生した場合、当該キューに格納されているパケットと、エンキューの対象となるパケットと、前記キューからあふれるパケットとの中から、前記最も低い優先度が割り当てられたパケットのうちエンキューの順番が時間的に最も古いパケットである第1のパケット及び当該第1のパケットと同じ優先度が割り当てられたパケットのうち、当該第1のパケットとエンキューの順番が前記キュー内で隣接する第2のパケットを前記キューからあふれるパケットの数以上廃棄する
ことを特徴とする請求項2に記載の映像送信装置。 A changing means for changing the upper limit of the packet stored prior Symbol queue, if the available bandwidth of the transmission path measured by said measuring means becomes large to increase the upper limit value, the transmission path When the available bandwidth becomes smaller, it comprises a changing means for reducing the upper limit value,
The discarding unit becomes a target of enqueue and a packet stored in the queue when a packet overflowing from the queue that cannot be stored in the queue occurs due to the change unit reducing the upper limit value. a packet, among the packets overflows from the queue, the same as the previous SL first packet and the first packet is the oldest packet order of enqueued in time of the lowest priority is assigned packet of priority assigned packet, claim 2, characterized in that the order of the first packet and the enqueue discards several more overflowing the second packet adjacent from the queue packets in the queue The video transmission device described in 1.
ことを特徴とする請求項3に記載の映像送信装置。The video transmission apparatus according to claim 3.
前記廃棄手段は、前記再送制御手段が再送するパケットについても廃棄の対象とする
ことを特徴とする請求項1乃至4のいずれか1項に記載の映像送信装置。 When receiving the previously request to retransmit already transmitted packet by pre-Symbol transmitting means, comprising a retransmission control unit for retransmitting the packet,
The disposal means, the video transmission apparatus according to any one of claims 1 to 4 wherein the retransmission control unit is characterized in that a target of discarding also packet to be retransmitted.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010027898A JP5585109B2 (en) | 2010-02-10 | 2010-02-10 | Video transmission device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010027898A JP5585109B2 (en) | 2010-02-10 | 2010-02-10 | Video transmission device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011166508A JP2011166508A (en) | 2011-08-25 |
JP5585109B2 true JP5585109B2 (en) | 2014-09-10 |
Family
ID=44596658
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010027898A Active JP5585109B2 (en) | 2010-02-10 | 2010-02-10 | Video transmission device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5585109B2 (en) |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07135512A (en) * | 1993-11-11 | 1995-05-23 | Hitachi Ltd | Router |
JP3003618B2 (en) * | 1997-03-19 | 2000-01-31 | 日本電気株式会社 | Video transmission / reception device |
EP1130839B1 (en) * | 2000-03-02 | 2005-06-08 | Matsushita Electric Industrial Co., Ltd. | Method and apparatus for retransmitting video data frames with priority levels |
JP2003234777A (en) * | 2002-02-08 | 2003-08-22 | Japan Radio Co Ltd | Data transmission apparatus, method and data structure |
JP2004187010A (en) * | 2002-12-03 | 2004-07-02 | Sharp Corp | Data processor, communication equipment, data processing method, data processing program, and computer readable recording medium with the program recorded therein |
JP4688566B2 (en) * | 2005-05-10 | 2011-05-25 | 富士通東芝モバイルコミュニケーションズ株式会社 | Transmitter and receiver |
-
2010
- 2010-02-10 JP JP2010027898A patent/JP5585109B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2011166508A (en) | 2011-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP1730899B1 (en) | Packet scheduling for data stream transmission | |
US8542588B2 (en) | Invoking different wireless link rate selection operations for different traffic classes | |
EP1842381B1 (en) | System, transmitter, receiver, method and software for transmitting and receiving ordered sets of video frames | |
CN106341738B (en) | Bandwidth calculation method, server side and system for streaming media network transmission | |
US8516346B2 (en) | Packet transmission apparatus, communication system and program | |
JP4688566B2 (en) | Transmitter and receiver | |
US9565482B1 (en) | Adaptive profile switching system and method for media streaming over IP networks | |
US20210194635A1 (en) | Retransmission of data in packet networks | |
EP1535419A1 (en) | Method and devices for controlling retransmissions in data streaming | |
JP6242089B2 (en) | Transmission device, transmission method, and program | |
CN115834556B (en) | Data transmission method, system, device, storage medium and program product | |
US6922396B1 (en) | System and method for managing time sensitive data streams across a communication network | |
CN109862400B (en) | Streaming media transmission method, device and system | |
CN106210785B (en) | Self-adaptive unidirectional control method and system for media stream network | |
JP6083964B2 (en) | Transmission device, transmission method, and program | |
JP5585109B2 (en) | Video transmission device | |
JPH10271163A (en) | Packet communication network connection device | |
JP2005340922A (en) | Real time remote communication system and communication quality controller | |
EP1781035A1 (en) | Real-time scalable streaming system and method | |
JP5213130B2 (en) | Data distribution system, switching device, and data distribution method | |
JP2009071766A (en) | Signal receiving terminal apparatus | |
CN107483220B (en) | Service quality control method, device and system | |
JP4991661B2 (en) | Video data converter | |
Koren et al. | Architecture of a 100-gbps network processor for next generation video networks | |
JP7485018B2 (en) | Content Delivery System |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20121219 |
|
A977 | Report on retrieval |
Effective date: 20130917 Free format text: JAPANESE INTERMEDIATE CODE: A971007 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130924 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140624 |
|
A61 | First payment of annual fees (during grant procedure) |
Effective date: 20140707 Free format text: JAPANESE INTERMEDIATE CODE: A61 |
|
R150 | Certificate of patent (=grant) or registration of utility model |
Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 5585109 |