JP5755213B2 - Recovering from burst packet loss in internet protocol based wireless networks using stagger casting and cross-packet forward error correction - Google Patents

Recovering from burst packet loss in internet protocol based wireless networks using stagger casting and cross-packet forward error correction Download PDF

Info

Publication number
JP5755213B2
JP5755213B2 JP2012256278A JP2012256278A JP5755213B2 JP 5755213 B2 JP5755213 B2 JP 5755213B2 JP 2012256278 A JP2012256278 A JP 2012256278A JP 2012256278 A JP2012256278 A JP 2012256278A JP 5755213 B2 JP5755213 B2 JP 5755213B2
Authority
JP
Japan
Prior art keywords
packet
fec
video
data
parity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012256278A
Other languages
Japanese (ja)
Other versions
JP2013070418A (en
Inventor
リウ,ハング
ハン,リチャオ
ウー,ミンチュアン
リー,ドゥカイ
ラマスワミー,クマール
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Priority to JP2012256278A priority Critical patent/JP5755213B2/en
Publication of JP2013070418A publication Critical patent/JP2013070418A/en
Application granted granted Critical
Publication of JP5755213B2 publication Critical patent/JP5755213B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、無線ネットワークに関し、特にクロスパケット前方誤り訂正と組み合わせてスタガーキャスティング(staggercasting)を使用したランダム且つバーストのパケット損失からの回復に関する。   The present invention relates to wireless networks, and more particularly to recovery from random and burst packet loss using staggercasting in combination with cross-packet forward error correction.

無線ローカルエリアネットワーク(WLAN)は、最初はデータ通信用に設計されていたが、WiFiマルチメディアアプリケーションについての関心及び需要が急速に高まっている。IEEE802.11のWLANでのビデオマルチキャスティングは、生のビデオ及び予め記録された娯楽番組を複数の受信機に同時に効率的に配信することを可能にする。しかし、デジタルビデオ配信は、高い信頼性、制限のある遅延、及び帯域の効率性を必要とする。無線リンクは、時間変化するバーストのリンクエラーで信頼性が低くなる。特に、ビデオマルチキャストアプリケーションでは、同じビデオの異なる受信機は、異質のチャネル状態を受ける可能性がある。受信機はまた、セッション中に離脱又は参加する可能性があるため、ネットワークのトポロジが変化する。更に、現在のIEEE802.11標準でのマルチキャストについてリンクレイヤの再送信及びリンクレイヤのアダプテーションが存在しない。誤ったパケットは単に破棄される。アプリケーションレイヤにとって、パケットの消去されたチャネルのように見える。パケット損失は、パケットヘッダのシーケンス番号を検査することにより検出され得る。従って、利用可能なWLANリソースを効率的に利用しつつ、所望のサービスエリア内のマルチキャストビデオの全ての受信機にとってサービス品質(QoS:quality of service)をサポートすることは、重要且つ困難なタスクである。   Although wireless local area networks (WLANs) were originally designed for data communications, interest and demand for WiFi multimedia applications is growing rapidly. Video multicasting over IEEE 802.11 WLANs allows live video and pre-recorded entertainment programs to be efficiently distributed to multiple receivers simultaneously. However, digital video delivery requires high reliability, limited delay, and bandwidth efficiency. Wireless links become unreliable due to time-varying burst link errors. In particular, in video multicast applications, different receivers of the same video may be subject to different channel conditions. Since the receiver may also leave or join during the session, the network topology changes. In addition, there is no link layer retransmission and link layer adaptation for multicast in the current IEEE 802.11 standard. Incorrect packets are simply discarded. To the application layer, it looks like a packet erased channel. Packet loss can be detected by examining the sequence number in the packet header. Therefore, it is an important and difficult task to support quality of service (QoS) for all receivers of multicast video in a desired service area while efficiently utilizing available WLAN resources. is there.

IP型無線ネットワークでのビデオマルチキャスト/ブロードキャストでは、ビデオデータは、UDP/IPパケットにカプセル化され、無線ネットワークで移動装置にマルチキャスト/ブロードキャストされる。IP型無線ネットワークは、無線ローカルエリアネットワーク(WLAN)、セルラネットワーク、無線メトロポリタンエリアネットワーク(WMAN)及び地域無線ネットワーク(WRAN)でもよい。移動装置が1つのセルから他のセルに移動すると、現在関連(アソシエーション)している基地局(BS)/アクセスポイント(AP)から他のBS/APにハンドオーバ/ハンドオフされる。2つのBS/APは、一般的に異なる周波数/チャネルで動作する。移動装置が動作周波数を変更し、新しいBS/APに関連付けられると、複数のパケットが損失する。   In video multicast / broadcast in an IP type wireless network, video data is encapsulated in UDP / IP packets and multicast / broadcast to mobile devices in the wireless network. The IP type wireless network may be a wireless local area network (WLAN), a cellular network, a wireless metropolitan area network (WMAN), and a regional wireless network (WRAN). When a mobile device moves from one cell to another cell, it is handed over / handed off from the currently associated base station (BS) / access point (AP) to another BS / AP. The two BS / APs generally operate at different frequencies / channels. If the mobile device changes operating frequency and is associated with a new BS / AP, multiple packets are lost.

典型的には、ブロードキャスト信号は、全ての可能な受信機に同時に送信される。マルチキャスト信号は、グループ内の全ての可能な受信機の選択された一部(1つ以上)に同時に送信される。ここで使用されるマルチキャストは、ブロードキャストも含む。すなわち、マルチキャスト信号は、グループ内の全ての可能な受信機の選択された一部に送信されてもよく、選択された一部は、全ての可能な受信機の全体部分を含んでもよい。すなわち、マルチキャストグループは全ての受信機である。   Typically, the broadcast signal is sent simultaneously to all possible receivers. The multicast signal is sent simultaneously to the selected part (s) of all possible receivers in the group. The multicast used here includes broadcast. That is, the multicast signal may be sent to a selected portion of all possible receivers in the group, and the selected portion may include the entire portion of all possible receivers. That is, the multicast group is all receivers.

無線システムでは、マルチパスフェージング及び干渉に対してパケットを保護するために、物理レイヤでチャネル符号化が使用される。しかし、パケット内のチャネル符号化は、ハンドオーバ/ハンドオフ中のパケット損失を回復することができない。   In wireless systems, channel coding is used at the physical layer to protect packets against multipath fading and interference. However, channel coding within a packet cannot recover packet loss during handover / handoff.

1つの従来技術の方法は、ATSCシステムで元のデータから時間遅延/時間シフトした二重のデータの送信(スタガーキャスティング(staggercasting))を提供し、ブロードキャストシステムのロバスト性を改善する。二重の時間をずらした(time-staggered)ストリームが送信されると、システムは、2つのストリームの間の時間シフトの持続時間まで信号損失を許容することができる。他の従来技術の方法は、(正確な元のデータの代わりに)元のデータの低ビットレート版が時間遅延して繰り返し送信されることを提供する。この手法は、冗長データにより使用される帯域を低減する。しかし、これらの従来技術の方法の双方は、合成信号を送信しており、データを要求する/必要とするクライアント/受信機が存在するか否かにかかわらず、常に信号を送信する。   One prior art method provides dual data transmission (staggercasting) time delayed / time shifted from the original data in an ATSC system, improving the robustness of the broadcast system. When a dual time-staggered stream is transmitted, the system can tolerate signal loss up to the duration of the time shift between the two streams. Another prior art method provides that a low bit rate version of the original data (instead of the exact original data) is repeatedly transmitted with a time delay. This approach reduces the bandwidth used by redundant data. However, both of these prior art methods send composite signals and always send signals regardless of whether there is a client / receiver requesting / requiring data.

更に他の従来技術の方法は、ATSCシステムでの同期損失に対して保護するために、クロスパケット前方誤り訂正(FEC:forward error correction)符号の使用を提供する。FEC符号はまた、IP型無線ネットワークで損失パケットを回復するために使用されている。一般的に、誤ったパケットはリンクレイヤにより破棄される。FEC符号は、トランスポート及びアプリケーションレイヤでデータパケットを通じて適用され、消去復号化(erasure decoding)が損失パケットを回復するために使用される。しかし、一般的にFECパリティパケットがデータパケットと共に送信される。ハンドオフ/ハンドオーバの間に、長く誤ったバーストが生じ得る。これらの長く誤ったバーストは、データパケット及びパリティパケットの損失がFEC機能を超えることをもたらし、このため、損失データパケットが回復できなくなる。   Yet another prior art method provides for the use of cross-packet forward error correction (FEC) codes to protect against synchronization loss in ATSC systems. FEC codes are also used to recover lost packets in IP type wireless networks. In general, erroneous packets are discarded by the link layer. FEC codes are applied through data packets at the transport and application layers, and erasure decoding is used to recover lost packets. However, in general, FEC parity packets are transmitted along with data packets. Long handy bursts can occur during handoff / handover. These long false bursts result in the loss of data and parity packets exceeding the FEC function, which makes it impossible to recover lost data packets.

無線ネットワークでパケット損失から回復して送信の信頼性を向上するために、様々なアプリケーションレイヤの前方誤り訂正(FEC)及び自動再送要求(ARQ:automatic repeat request)アルゴリズムについて大量の研究及び理論分析/シミュレーションが行われている。他の従来技術の方法は、ユニキャストビデオ送信についてのACK型ハイブリッドARQアルゴリズムと、WLANでのマルチキャストビデオ送信についてのFEC付プログレッシブビデオ符号化(progressive video coding)(MDFEC)について記載している。更に他の従来技術の方法は、有線インターネット環境でのマルチキャストについて受信機駆動型のFEC方式を提供し、FECパケットはビデオパケットから遅延する。しかし、この方法は、どのように有線インターネット環境で異種の受信機の性能を最適化するかについて焦点を当てている。   A large amount of research and theoretical analysis on various application layer forward error correction (FEC) and automatic repeat request (ARQ) algorithms to recover from packet loss and improve transmission reliability in wireless networks A simulation is being performed. Other prior art methods describe an ACK hybrid ARQ algorithm for unicast video transmission and progressive video coding (MDFEC) with FEC for multicast video transmission in WLAN. Yet another prior art method provides a receiver-driven FEC scheme for multicast in a wired Internet environment, where FEC packets are delayed from video packets. However, this method focuses on how to optimize the performance of heterogeneous receivers in a wired Internet environment.

本発明により対処及び解決される方法は、どのようにランダム且つバーストのパケット損失を回復し、シームレスなハンドオフを実現してIP型無線ネットワークで高品質のビデオマルチキャスト/ブロードキャストを確保するかについてである。   The method addressed and solved by the present invention is how to recover random and burst packet loss and achieve seamless handoff to ensure high quality video multicast / broadcast over IP-type wireless networks. .

無線ネットワークでは、移動装置は、ランダム且つバーストのパケット損失を受ける可能性がある。これは、1つの基地局/アクセスポイントから他の基地局/アクセスポイントへのハンドオーバ/ハンドオフのためでもよい。これらの期間中に送信されたデータは、受信機/移動装置にとって損失になる。本発明は、時間シフト(スタガーキャスティング)してデータパケット及びクロスパケットFECパリティパケットを繰り返し送信することにより、シームレスなハンドオフ/ハンドオーバのためにデータパケット損失から回復する方法及び装置を提供する。(例えば、無線ネットワークのハンドオフ中に又はシャドーイングの結果として)バーストのパケット損失の間に生じ得る符号化ブロックの全てのビデオパケットが損失した場合にどのように回復するかについて、従来技術では考慮されていない。また、受信機でFEC符号化ブロックのビデオパケットとパリティパケットをどのように同期させるか、パケットのパディング情報(padding information)がどのように通信されるか、後方互換性のために従来のFEC不可能な受信機をどのようにサポートするかについて、従来技術では考慮されていない。   In wireless networks, mobile devices can experience random and burst packet loss. This may be for handover / handoff from one base station / access point to another base station / access point. Data transmitted during these periods is lost to the receiver / mobile device. The present invention provides a method and apparatus for recovering from data packet loss for seamless handoff / handover by repeatedly transmitting data packets and cross-packet FEC parity packets with time shifting (stagger casting). The prior art considers how to recover if all video packets of a coded block that may occur during packet loss of a burst (eg, during wireless network handoff or as a result of shadowing) are lost. It has not been. In addition, how to synchronize video packets and parity packets in FEC encoded blocks at the receiver, how packet padding information is communicated, and conventional FEC failure for backward compatibility. The prior art does not consider how to support possible receivers.

ここに記載されるシステムは、1つ以上のサーバ/送信元/送信機、無線基地局又はアクセスポイントと、Ethernet(登録商標)スイッチと、受信機とを含む。ここで使用される受信機は、典型的には移動装置である。移動装置は、移動電話と、セルラ電話と、移動端末と、ビデオプレイヤと、携帯情報端末(PDA:personal digital assistant)と、ラップトップとを含むが、これらに限定されない。   The system described herein includes one or more servers / sources / transmitters, radio base stations or access points, Ethernet switches, and receivers. The receiver used here is typically a mobile device. Mobile devices include, but are not limited to, mobile phones, cellular phones, mobile terminals, video players, personal digital assistants (PDAs), and laptops.

通常/元のデータと、時間シフトしたパリティデータとは、異なるIPマルチキャストグループを使用して後方互換性のあるように送信される。すなわち、移動装置が本発明で提供される機能を有さない場合でも、パケット損失に対して低いシステム回復力で、依然として通常のデータパケットのみを受信及び復号化することができる。遅延したパリティパケットは、移動装置により破棄される。これは、従来の装置との後方互換性を実現する。   Normal / original data and time-shifted parity data are transmitted backward compatible using different IP multicast groups. That is, even when the mobile device does not have the function provided by the present invention, it can still receive and decode only normal data packets with low system resiliency against packet loss. The delayed parity packet is discarded by the mobile device. This achieves backward compatibility with conventional devices.

本発明は、ランダム且つバーストのパケット損失から回復することができるアプリケーションレイヤの時間をずらしたFEC方式である。特に、本発明は、ランダム且つバーストのパケット損失の間にシームレスなサービスを実現する(すなわち、ビデオの障害がない)。本発明は、ビデオマルチキャスティングの特性を考慮に入れ、シームレスなハンドオフについてのアプリケーションレイヤの対策を提供する。複数のビデオパケットがバーストで完全に損失しても、損失パケットは、対応するFECパリティパケットのみから回復され得る。   The present invention is an FEC scheme in which the application layer time is shifted to recover from random and burst packet loss. In particular, the present invention provides a seamless service during random and burst packet loss (i.e., no video failure). The present invention takes into account the characteristics of video multicasting and provides an application layer countermeasure for seamless handoff. Even if multiple video packets are completely lost in a burst, the lost packets can be recovered only from the corresponding FEC parity packets.

データを送信する方法及びシステムは、データをパケット化し、少なくとも1つのパリティパケットを生成するためにパケット化データで前方誤り訂正(FEC)符号化を実行し、パケット化データのペイロードデータの終わりにパディングとしてFEC情報を追加し、パケット化データと少なくとも1つのパリティパケットとを送信することを含むものとして記載される。また、パケットの損失から回復する方法及びシステムは、データパケットを受信し、少なくとも1つのパリティパケットを受信し、受信したデータパケットをバッファに入れ、パケット損失を検出し、少なくとも1つのパリティパケットを前方誤り訂正復号化し、データパケット及び少なくとも1つのパリティパケットから抽出された前方誤り訂正情報を使用してパケット損失から回復し、内部ソケットを介して回復パケットを転送することを含むものとして記載される。また、スタガーキャスティング方法は、第1のデータシーケンスを符号化及び圧縮し、圧縮符号化データシーケンスをパケット化し、データパケットを形成し、第1のデータシーケンスに関する第2のデータシーケンスを生成するために、データパケットで前方誤り訂正(FEC)符号化を実行し、データパケットのペイロードデータの終わりにパディングとしてFEC情報を追加し、第2のデータシーケンスをパケット化し、パケットを形成し、データパケットを第1のマルチキャストグループにマルチキャストし、オフセット時間だけ遅延した第2のデータシーケンスを使用して形成されたパケットを第2のマルチキャストグループにマルチキャストすることを含むものとして記載される。   A method and system for transmitting data packetizes data, performs forward error correction (FEC) encoding on the packetized data to generate at least one parity packet, and pads at the end of the payload data of the packetized data And adding FEC information and transmitting packetized data and at least one parity packet. A method and system for recovering from packet loss also includes receiving a data packet, receiving at least one parity packet, buffering the received data packet, detecting packet loss, and forwarding at least one parity packet forward. It is described as including error correction decoding, recovering from packet loss using forward error correction information extracted from the data packet and at least one parity packet, and forwarding the recovered packet via an internal socket. The stagger casting method also encodes and compresses a first data sequence, packetizes the compressed encoded data sequence, forms a data packet, and generates a second data sequence for the first data sequence. , Perform forward error correction (FEC) coding on the data packet, add FEC information as padding at the end of the payload data of the data packet, packetize the second data sequence, form a packet, Multicasting to one multicast group and multicasting a packet formed using a second data sequence delayed by an offset time to the second multicast group is described.

スタガーキャスティングを使用したインターネットプロトコル型無線ネットワークでのマルチキャストシステムの概略図Schematic diagram of a multicast system in an internet protocol wireless network using stagger casting 例示的なビデオサーバ/送信機アーキテクチャの概略図Schematic diagram of an exemplary video server / transmitter architecture 本発明による例示的なクライアントプロキシアーキテクチャExemplary client proxy architecture in accordance with the present invention K=4、N=8の場合の本発明のFECスタガーキャスト方法の例Example of FEC stagger casting method of the present invention when K = 4 and N = 8 RS符号化の通常のパディング方式Normal padding scheme for RS encoding RS符号化の通常のハイブリッドパディング方式RS hybrid normal padding scheme ハイブリッドパディングをサポート可能な本発明によるソースRTPパケットフォーマットSource RTP packet format according to the present invention capable of supporting hybrid padding パリティRTPパケットフォーマットParity RTP packet format 本発明の原理に従って遅延回復マルチキャストグループ内でクロスパケット前方誤り訂正(FEC)符号により生成されたパリティパケットを備えた例示的なビデオサーバ/符号化器の実装のフローチャートFlowchart of an exemplary video server / encoder implementation with parity packets generated by a cross-packet forward error correction (FEC) code in a delay recovery multicast group in accordance with the principles of the present invention. 本発明の原理に従って遅延回復マルチキャストグループ内でクロスパケット前方誤り訂正(FEC)符号により生成されたパリティパケットを備えた例示的なビデオサーバ/符号化器の実装の概略図Schematic diagram of an exemplary video server / encoder implementation with parity packets generated by a cross-packet forward error correction (FEC) code in a delay recovery multicast group in accordance with the principles of the present invention. 本発明の原理によるクロスパケット符号化の例Example of cross-packet coding according to the principles of the present invention 本発明の原理に従って遅延回復マルチキャストグループ内でクロスパケットFEC符号により生成されたパリティパケットを備えた例示的な移動受信機の実装のフローチャートFlowchart of an exemplary mobile receiver implementation with parity packets generated by a cross-packet FEC code in a delay recovery multicast group in accordance with the principles of the present invention. 本発明の原理に従って遅延回復マルチキャストグループ内でクロスパケットFEC符号により生成されたパリティパケットを備えた例示的な移動受信機の実装の概略図Schematic diagram of an exemplary mobile receiver implementation with parity packets generated by a cross-packet FEC code in a delay recovery multicast group in accordance with the principles of the present invention. 元の10秒のロングビデオシーケンスの各フレームの輝度SNR(SNR-Y)Luminance SNR (SNR-Y) for each frame of the original 10-second long video sequence ループされた1分のロングビデオシーケンスの輝度SNR(SNR-Y)Luminance SNR of looped 1 minute long video sequence (SNR-Y) 様々な干渉レベルでの表1のシーケンスの平均SNR-YAverage SNR-Y of the sequences in Table 1 at various interference levels 2つの形式でクライアントにより検出された対応のリンク品質Corresponding link quality detected by the client in two forms 様々な干渉レベルでの残留パケット損失率(PLR)Residual packet loss rate (PLR) at various interference levels 異なるFEC遅延及びハンドオフ/バースト持続時間でのシーケンスF及びGのビデオ品質Video quality of sequences F and G with different FEC delays and handoff / burst durations 異なるFEC遅延及びハンドオフ/バースト持続時間でのシーケンスF及びGのビデオ品質Video quality of sequences F and G with different FEC delays and handoff / burst durations 異なるFEC遅延及びハンドオフ/バースト持続時間でのシーケンスF及びGのビデオ品質Video quality of sequences F and G with different FEC delays and handoff / burst durations 異なるFEC遅延及びハンドオフ/バースト持続時間でのシーケンスF及びGのビデオ品質Video quality of sequences F and G with different FEC delays and handoff / burst durations 異なるFEC遅延及びハンドオフ/バースト持続時間でのシーケンスF及びGのビデオ品質Video quality of sequences F and G with different FEC delays and handoff / burst durations 異なるFEC遅延及びハンドオフ/バースト持続時間でのシーケンスF及びGのビデオ品質Video quality of sequences F and G with different FEC delays and handoff / burst durations シーケンスF及びGの間の品質の比較Quality comparison between sequences F and G

本発明は、添付図面と共に読まれたときに、以下の詳細な説明から最も良く理解される。図面は、以下に簡単に説明する以下の図面を含む。図面において同じ番号は類似の要素を表す。   The invention is best understood from the following detailed description when read with the accompanying drawing figures. The drawings include the following figures briefly described below. In the drawings, like numbering represents like elements.

本発明は、ランダム且つバーストのデータパケット損失から回復するための無線ネットワークでのスタガーキャスティング(staggercasting)を対象とする。これは、時間シフト/時間遅延してデータパケット及びクロスパケットFECパリティパケットを送信することにより実現される。本発明は、ビデオ符号化方式と無関係である。無線ネットワークでのビデオマルチキャストが本発明を説明する例として使用されるが、本発明はまた、オーディオストリームを送信するためにも使用され得る。   The present invention is directed to staggercasting in a wireless network to recover from random and burst data packet loss. This is realized by transmitting data packets and cross packet FEC parity packets with time shift / time delay. The present invention is independent of the video coding scheme. Although video multicast over a wireless network is used as an example to illustrate the present invention, the present invention can also be used to transmit an audio stream.

図1を参照すると、本発明による典型的な無線ネットワークが示されている。複数の基地局/アクセスポイントAP1、AP2はセルラネットワークを形成し、サービスエリアを増加させる。干渉を低減するために、隣接無線基地局/アクセスポイントAP1/AP2は、異なる周波数キャリア/無線チャネルで動作する。少なくとも1つのビデオサーバ105は、高速Ethernet(登録商標) LAN又は他の有線高速ネットワークを通じて、複数の無線基地局(BS)又はアクセスポイント(AP)に接続される。ビデオサーバ105は、他の構成要素の中でも、ビデオ符号化器/トランスコーダとパケット化器とを含む。生のビデオマルチキャスト/ブロードキャストでは、ビデオコンテンツは、符号化/コード変換され、パケット化され、無線基地局/アクセスポイントAP1、AP2を通じて複数の移動クライアント(110、115a、115b、120a、120b、125)にマルチキャストされる。予め符号化されたビデオコンテンツもパケット化され、無線基地局/アクセスポイントを通じて複数の移動クライアントにマルチキャストされる。   Referring to FIG. 1, an exemplary wireless network according to the present invention is shown. Multiple base stations / access points AP1, AP2 form a cellular network and increase the service area. In order to reduce interference, neighboring radio base stations / access points AP1 / AP2 operate on different frequency carriers / radio channels. At least one video server 105 is connected to a plurality of wireless base stations (BS) or access points (AP) through a high-speed Ethernet LAN or other wired high-speed network. Video server 105 includes, among other components, a video encoder / transcoder and a packetizer. In raw video multicast / broadcast, video content is encoded / transcoded, packetized, and transmitted to multiple mobile clients (110, 115a, 115b, 120a, 120b, 125) through the radio base stations / access points AP1, AP2. Multicast to Pre-encoded video content is also packetized and multicast to multiple mobile clients through the wireless base station / access point.

移動装置(例えば、115a、120b)が1つのセルから他のセルに移動すると、移動装置は、現在関連(アソシエーション)している基地局(BS)/アクセスポイント(AP)から他のBS/APにハンドオーバ/ハンドオフされる。移動装置(115a、120b)がその動作周波数を変更して新しいBS/APに関連付けられると、複数のパケットが損失する可能性がある。パケット損失から回復してシームレスなハンドオーバを実現するために、本発明は、ビデオコンテンツ(データパケット)と、FEC符号(例えば、時間シフトしたハーフレートのReed-Solomon符号)によりデータパケットから生成されたパリティパケットとを同時送信することを提供する。通常のビデオパケットストリームは、IPマルチキャストグループ(通常のビデオマルチキャストグループ)内の全ての基地局/アクセスポイントに送信される。更に、時間をずらした/シフトした/遅延したFECストリームは、他のマルチキャストグループ(遅延回復マルチキャストグループ)内の全ての移動装置に送信される。ここでは、この技術はスタガーキャスティング(staggercasting)と呼ばれる。通常のビデオストリーム及び時間シフトしたFECストリームは、時間ダイバーシチを提供し、ハンドオーバ/ハンドオフの状況でシステムのロバスト性を改善する。システムは、時間シフトの持続時間までパケット損失をトランスペアレントに許容する。   When a mobile device (eg, 115a, 120b) moves from one cell to another cell, the mobile device may change from the currently associated base station (BS) / access point (AP) to another BS / AP. Handover / handoff. If the mobile device (115a, 120b) changes its operating frequency and is associated with a new BS / AP, multiple packets may be lost. In order to recover from packet loss and achieve seamless handover, the present invention was generated from data packets with video content (data packets) and FEC codes (eg, time-shifted half-rate Reed-Solomon codes) Provide simultaneous transmission of parity packets. The normal video packet stream is transmitted to all base stations / access points in the IP multicast group (normal video multicast group). Further, the shifted / shifted / delayed FEC stream is transmitted to all mobile devices in another multicast group (delay recovery multicast group). Here, this technique is called staggercasting. Normal video streams and time-shifted FEC streams provide time diversity and improve system robustness in handover / handoff situations. The system transparently tolerates packet loss up to the duration of the time shift.

移動装置は、ビデオグループのみに参加してもよい。移動装置がBS/APから隣接BS/APにハンドオフすると、誤りが検出された場合に、又はハンドオフ/ハンドオーバが生じるとすぐに、移動装置は、通常のビデオマルチキャストグループと遅延FECマルチキャストグループとの双方に参加/加入する要求を新しいBS/APに送信する。新しいBS/APは、無線リンクでのマルチキャストで通常のビデオパケットストリームと遅延FECパケットストリームとの双方を送信/マルチキャストする。移動装置は、双方のストリームを受信する。参加時間がビデオストリームとFECパリティストリームとの間の時間シフトより小さい場合、対応するパリティパケットは、損失ビデオパケットを回復するために移動装置により受信される。何らかのパケットが通常のビデオパケットストリームで損失したことを移動装置が検出すると、移動装置は、時間遅延したFECパケットストリームに切り替え、損失パケットを回復する。通常のビデオパケットストリームと遅延FECストリームとの間の時間シフト持続時間/期間がハンドオフ時間(又はバースト)より大きい場合、損失ビデオデータは回復され得る。通常のビデオパケットストリームの損失データが回復された後に、移動装置は、遅延FECマルチキャストグループを離脱/解除/終了する要求をBS/APに送信する。BS/APに関連する移動装置がマルチキャストグループのデータ(通常のビデオデータ又は遅延FECデータ)を要求しない場合(すなわち、マルチキャストグループのメンバが存在しない場合)、BS/APは、無線ネットワークでこのマルチキャストグループのデータを送信せず、データを破棄する。このことは無線帯域を節約する。IGMP(Internet Multicast Management Protocol)又は他のプロトコルは、移動装置がマルチキャストグループに参加又は離脱することをBS/APに要求するために使用され得る。代替実施例では、移動装置は、マルチキャストグループに参加又は離脱する要求をEthernet(登録商標)スイッチに送信する。BS/APに関連する移動装置がマルチキャストグループのデータを要求しない場合、Ethernet(登録商標)スイッチは、そのマルチキャストグループのデータをBS/APに送信しない。   A mobile device may participate only in a video group. When a mobile device hands off from a BS / AP to an adjacent BS / AP, if an error is detected, or as soon as a handoff / handover occurs, the mobile device will both have a normal video multicast group and a delayed FEC multicast group. Request to join / subscribe to the new BS / AP. The new BS / AP transmits / multicasts both the normal video packet stream and the delayed FEC packet stream by multicasting over the radio link. The mobile device receives both streams. If the participation time is less than the time shift between the video stream and the FEC parity stream, the corresponding parity packet is received by the mobile device to recover the lost video packet. When the mobile device detects that some packet has been lost in the normal video packet stream, the mobile device switches to a time-delayed FEC packet stream and recovers the lost packet. If the time shift duration / duration between the normal video packet stream and the delayed FEC stream is greater than the handoff time (or burst), the lost video data can be recovered. After the lost data of the normal video packet stream is recovered, the mobile device sends a request to the BS / AP to leave / release / end the delayed FEC multicast group. If the mobile device associated with the BS / AP does not require multicast group data (normal video data or delayed FEC data) (ie, if there are no members of the multicast group), the BS / AP may Discard data without sending group data. This saves radio bandwidth. IGMP (Internet Multicast Management Protocol) or other protocols may be used to request the BS / AP that the mobile device joins or leaves the multicast group. In an alternative embodiment, the mobile device sends a request to join or leave the multicast group to the Ethernet switch. If the mobile device related to the BS / AP does not request data of the multicast group, the Ethernet (registered trademark) switch does not transmit the data of the multicast group to the BS / AP.

特に、依然として図1を参照すると、移動装置115bは、AP2によりサービス提供/サポートされるセルからAP1によりサービス提供/サポートされるセルに移動する。これを行うと、移動装置(この時点ではAP1によりサポートされる115a)は、通常のビデオ及び遅延FECマルチキャストグループに加入/参加することをAP1に要求し、通常のビデオパケットストリーム(ストリーム1)と遅延/時間シフトFECストリーム(ストリーク2)との双方を受信する。通常のビデオパケットストリームに誤りが検出された場合(何らかのパケットが損失した場合)、移動装置は、時間遅延FECパケットストリームに切り替え、損失パケットを回復する。通常のビデオパケットストリームと遅延FECストリームとの間の時間シフト持続時間がハンドオフ時間より大きい場合、受信した対応するパリティパケットは、損失ビデオパケットを回復するために使用される。通常のビデオパケットストリームの損失データが回復した後に、移動装置115aは、遅延ビデオマルチキャストグループを離脱/解除/終了する要求をBS/APに送信してもよい。   In particular, still referring to FIG. 1, mobile device 115b moves from a cell served / supported by AP2 to a cell served / supported by AP1. When this is done, the mobile device (115a supported by AP1 at this time) requests AP1 to join / join the normal video and delayed FEC multicast group, and the normal video packet stream (stream 1) Both delay / time shift FEC stream (streak 2) is received. If an error is detected in the normal video packet stream (if any packet is lost), the mobile device switches to a time-delayed FEC packet stream and recovers the lost packet. If the time shift duration between the normal video packet stream and the delayed FEC stream is greater than the handoff time, the received corresponding parity packet is used to recover the lost video packet. After the lost data of the normal video packet stream is recovered, the mobile device 115a may send a request to leave / release / end the delayed video multicast group to the BS / AP.

同様に、移動装置120aは、AP1によりサービス提供/サポートされるセルからAP2によりサービス提供/サポートされるセルに移動する。これを行うと、移動装置(この時点ではAP2によりサポートされる120b)は、通常のビデオ及び遅延FECマルチキャストグループに加入/参加することをAP2に要求し、通常のビデオパケットストリーム(ストリーム1)と遅延/時間シフトFECストリーム(ストリーク2)との双方を受信する。通常のビデオパケットストリームに誤りが検出された場合(何らかのパケットが損失した場合)、移動装置は、時間遅延FECパケットストリームに切り替え、損失パケットを回復する。通常のビデオパケットストリームと遅延FECストリームとの間の時間シフト持続時間がハンドオフ時間より大きい場合、受信した対応するパリティパケットは、損失ビデオパケットを回復するために使用される。通常のビデオパケットストリームの損失データが回復した後に、移動装置120bは、遅延ビデオマルチキャストグループを離脱/解除/終了する要求をBS/APに送信してもよい。   Similarly, the mobile device 120a moves from a cell serviced / supported by AP1 to a cell serviced / supported by AP2. When this is done, the mobile device (120b supported at this time by AP2) requests AP2 to join / join the normal video and delayed FEC multicast group, and the normal video packet stream (stream 1) Both delay / time shift FEC stream (streak 2) is received. If an error is detected in the normal video packet stream (if any packet is lost), the mobile device switches to a time-delayed FEC packet stream and recovers the lost packet. If the time shift duration between the normal video packet stream and the delayed FEC stream is greater than the handoff time, the received corresponding parity packet is used to recover the lost video packet. After the lost data of the normal video packet stream is recovered, the mobile device 120b may send a request to leave / release / end the delayed video multicast group to the BS / AP.

損失パケットを回復するために、如何なるシステマティック(systematic)FEC符号(例えば、Reed-Solomon(RS)符号)が消去復号化(erasure decoding)と共に使用されてもよい。例示的な実施例では、ビデオストリーミングサーバでクロスパケット前方誤り訂正符号化により生成されたFECパリティパケットは、遅延回復IPマルチキャストグループに送信される。FEC符号は、ビデオパケット(クロスパケット)を通じて適用され、パリティパケットを生成する点に留意すべきである。この理由は、FEC符号化がアプリケーションレイヤで単一のパケット内に適用されると、誤ったパケットは受信側MACレイヤにより破棄され、アプリケーションレイヤの誤り訂正に利用可能にならないからである。RS(N,K)符号がKのビデオパケットを通じて適用されて(N-K)のパリティパケットを生成する場合、各符号化ブロック内で(ビデオパケットであれパリティパケットであれ)少なくともKのパケットが正確に受信される限り、元のKのビデオパケットは回復可能である。   Any systematic FEC code (eg, Reed-Solomon (RS) code) may be used with erasure decoding to recover lost packets. In an exemplary embodiment, FEC parity packets generated by cross packet forward error correction coding at a video streaming server are transmitted to a delay recovery IP multicast group. It should be noted that the FEC code is applied through video packets (cross packets) to generate parity packets. This is because when FEC coding is applied in a single packet at the application layer, the erroneous packet is discarded by the receiving MAC layer and is not available for application layer error correction. If an RS (N, K) code is applied through K video packets to generate (NK) parity packets, at least K packets (whether video packets or parity packets) are exactly within each coding block. As long as it is received, the original K video packets can be recovered.

FEC符号は、ビデオデータパケットに適用され、パリティパケットを生成する。ビデオパケットストリーム及びパリティパケットストリームは、時間シフトして異なるIPマルチキャストグループにマルチキャストされる(すなわち、時間ダイバーシチのためにビデオストリームとパリティストリームとをスタガーキャスティングする)。特に、元のビデオパケットストリーム及び更なるFECパリティパケットストリームは、Ethernet(登録商標)でビデオ/ストリーミングサーバにより時間シフトして異なるIPマルチキャストグループ内の全てのBS/APに送信される(すなわち、ビデオストリームとFECパリティストリームとをスタガーキャスティングする)。各BS/APは、WLANにおいてマルチキャストでビデオストリームとFECパリティストリームとを送信する。従って、通常のビデオストリーム及び時間シフトしたパリティストリームは時間ダイバーシチを提供し、ビデオマルチキャストのロバスト性を改善する。   The FEC code is applied to the video data packet to generate a parity packet. The video packet stream and the parity packet stream are time-shifted and multicast to different IP multicast groups (ie, stagger casting the video stream and the parity stream for time diversity). In particular, the original video packet stream and the further FEC parity packet stream are transmitted to all BS / APs in different IP multicast groups with time shift by Ethernet / video / streaming server (ie video Staggercasting the stream and the FEC parity stream). Each BS / AP transmits a video stream and an FEC parity stream by multicast in the WLAN. Thus, normal video streams and time shifted parity streams provide time diversity and improve video multicast robustness.

図2は、例示的なビデオサーバ/送信機のアーキテクチャの概略図である。図2は、本発明の実施例に従って時間をずらしたFECを使用したビデオマルチキャストシステムのビデオ送信機/サーバの実装を示している。UDP/IPプロトコルスタック220がビデオマルチキャスティングに使用される。実際に、プロトコルスタックはRTPを含むが、プロトコルスタックのRTP部分(パケット化)205は、プロトコルスタックのUDP/IP部分から分離されており、FEC符号化モジュール210によるFEC符号化の前に処理される。この場合、ビデオシーケンスは予め圧縮されており、MP4フォーマットでファイルに格納されている。圧縮効率のため、H.264ビデオ符号化が本発明の例示的な実施例で使用される。他のビデオ符号化方式も可能である。また、ビデオはビデオ符号化器によりリアルタイムで圧縮されることも可能である。FEC符号化モジュール210は、RTPパケット化205の後に配置されるが、UDP/IPレイヤ220の前に配置される。圧縮ビデオは、RTPパケット化器205によりパケット化され、RTPパケットヘッダが追加される。本発明によれば、FEC関連の制御情報は、FEC符号化モジュール210によりパディング(padding)としてビデオパケットに追加される。通常のビデオパケット(例えば、3GPPパケット)では、FEC符号化情報は、RTPヘッダの後且つRTPペイロード(ビデオデータ)の前に挿入される。FEC制御情報をビデオパケットのパディングとして移動することにより、パディングは従来のプレイヤにより無視されるため、パケットフォーマットは、FEC不可能な従来のプレイヤに対して後方互換になる。   FIG. 2 is a schematic diagram of an exemplary video server / transmitter architecture. FIG. 2 illustrates a video transmitter / server implementation of a video multicast system using staggered FECs according to an embodiment of the present invention. The UDP / IP protocol stack 220 is used for video multicasting. In fact, the protocol stack includes RTP, but the RTP portion (packetization) 205 of the protocol stack is separated from the UDP / IP portion of the protocol stack and is processed before FEC encoding by the FEC encoding module 210. The In this case, the video sequence is pre-compressed and stored in a file in MP4 format. For compression efficiency, H.264 video encoding is used in the exemplary embodiment of the present invention. Other video encoding schemes are possible. The video can also be compressed in real time by a video encoder. The FEC encoding module 210 is placed after the RTP packetization 205 but before the UDP / IP layer 220. The compressed video is packetized by the RTP packetizer 205, and an RTP packet header is added. According to the present invention, FEC-related control information is added to the video packet as padding by the FEC encoding module 210. In a normal video packet (for example, 3GPP packet), the FEC encoded information is inserted after the RTP header and before the RTP payload (video data). By moving the FEC control information as video packet padding, the pad format is ignored by conventional players, so the packet format is backward compatible with conventional players that are not FEC capable.

システマティックFEC符号は、FEC符号化モジュールでビデオパケットを通じて適用され、パリティパケットを生成する。Vandermonde 行列を使用して構成されたReed-Solomon(RS)符号が例示的な実施例で使用される。RS(N,K)符号では、Kのビデオパケットが一緒にグループ化される。符号化中に、RS符号がパケットグループに適用され、各パケットから1つのシンボルがコードワードで構成される。(N-K)のパリティパケットは、Kのビデオパケットから生成される。受信機で復号化を可能にするために、FEC情報を含むFECパケットにヘッダが追加される。例示的な実施例では、FECパラメータN及びKは、リアルタイムで動的に調整されてもよい。   The systematic FEC code is applied through the video packet at the FEC encoding module to generate a parity packet. A Reed-Solomon (RS) code constructed using a Vandermonde matrix is used in the exemplary embodiment. In RS (N, K) code, K video packets are grouped together. During encoding, an RS code is applied to the packet group, and one symbol from each packet consists of a code word. (N-K) parity packets are generated from K video packets. In order to enable decoding at the receiver, a header is added to the FEC packet containing FEC information. In an exemplary embodiment, the FEC parameters N and K may be adjusted dynamically in real time.

ビデオパケットは、IPマルチキャストグループ(通常のビデオマルチキャストグループ)内でUDP/IPスタック220及びEthernet(登録商標)インタフェース225を通じてBS/APに送信される。FECパリティパケットは、オフセット時間Tdの間に遅延バッファ215に格納される。FECパリティパケットは、遅延の後に、他のIPマルチキャストグループ(遅延回復(FEC)マルチキャストグループ)内でUDP/IPスタック220及びEthernet(登録商標)インタフェース225でBS/APに送信される。 The video packet is transmitted to the BS / AP through the UDP / IP stack 220 and the Ethernet (registered trademark) interface 225 in the IP multicast group (ordinary video multicast group). The FEC parity packet is stored in the delay buffer 215 during the offset time Td . The FEC parity packet is sent to the BS / AP after the delay over the UDP / IP stack 220 and the Ethernet interface 225 in another IP multicast group (Delay Recovery (FEC) multicast group).

マルチキャストアドレス、ビデオ符号化フォーマット、FEC符号化方式等と、ビデオストリームとパリティパケットストリームとの間の関連とを含み、ビデオマルチキャストグループ及びFECマルチキャストグループ情報を示すために、セッション記述プロトコル(SDP:Session Description Protocol)が使用される。SDPファイルは、セッション開始時にハイパーテキスト転送プロトコル(HTTP:HyerText Transfer Protocol)又はリアルタイムストリーミングプロトコル(RTSP:Real Time Streaming Protocol)を通じてクライアントにダウンロードされてもよく、セッション通知プロトコル(Session Announcement Protocol)を介してストリーミングサーバにより通知されてもよい。   Session description protocol (SDP: Session) to indicate video multicast group and FEC multicast group information, including multicast address, video encoding format, FEC encoding scheme, etc., and association between video stream and parity packet stream Description Protocol) is used. The SDP file may be downloaded to the client at the start of the session via the Hyper Text Transfer Protocol (HTTP) or Real Time Streaming Protocol (RTSP), and via the Session Announcement Protocol (Session Announcement Protocol) You may be notified by a streaming server.

商用及びフリーウェアのビデオプレイヤ(例えば、Quicktime及びVLCプレイヤ)が利用可能であるが、これらのプレイヤはFEC符号化をサポートしない。ソースコードは、一般的に商用プレイヤで利用可能ではなく、FECのサポートは統合不可能である。FEC符号化のサポートを全てのフリーウェアのプレイヤに統合することは困難であり、フリーウェアのプレイヤのソースコードが利用可能であってもFEC符号化のサポートを維持及び更新することは困難である。本発明は、図3に示すクライアントプロキシアーキテクチャ300を対象とする。本発明のクライアントプロキシアーキテクチャ300は、何らかの商用及びフリーウェアのビデオプレイヤと共に動作する。クライアントプロキシは、異なるマルチキャストグループからビデオ及びFECパケットを受信し、損失ビデオパケットを回復し、内部ソケットを通じて回復ビデオパケットをプレイヤに送信する。   Commercial and freeware video players (eg, Quicktime and VLC players) are available, but these players do not support FEC encoding. Source code is generally not available for commercial players, and FEC support cannot be integrated. It is difficult to integrate FEC encoding support into all freeware players, and it is difficult to maintain and update FEC encoding support even if freeware player source code is available . The present invention is directed to the client proxy architecture 300 shown in FIG. The client proxy architecture 300 of the present invention works with any commercial and freeware video player. The client proxy receives video and FEC packets from different multicast groups, recovers lost video packets, and sends recovered video packets to the player through an internal socket.

図3は、本発明による例示的なクライアントプロキシアーキテクチャである。クライアントプロキシは、ハードウェア、ソフトウェア、ファームウェア、特定用途向け集積回路(ASIC)、縮小命令セットコンピュータ(RISC)、フィールドプログラマブルゲートアレイ(FPGA)又はこれらの如何なる組み合わせでもよい。クライアントプロキシは、ビデオプレイヤのような移動装置に存在し、移動装置の一部を形成する。通常のビデオパケット及び遅延パリティ(回復)パケットは、WLANインタフェース305及びUDP/IPプロトコルスタック310を介してクライアントプロキシにより異なるマルチキャストグループから受信される。ビデオ/ストリーミングサーバ側では、プロトコルスタックのRTP部分(パケット化解除)325は、プロトコルスタックのUDP/IP部分310から分離されている。受信ビデオデータパケットは、バッファ315で遅延される。これは、例えば初期再生遅延(initial playout delay)により実現され得る。FEC消去復号化モジュール320は、UDP/IPスタック310の後に配置される。誤ったパケットは、リンクレイヤにより破棄される。損失ビデオパケット又はパリティパケットの位置は、パケットヘッダのシーケンス番号を通じてFEC消去復号化モジュール320により検出される。パケットヘッダのシーケンス番号は、消去復号化(erasure decoding)に使用される。パケット損失が検出されると、遅延FECマルチキャストグループに参加して対応するパリティパケットを取得する要求がBS/APに送信される。パリティパケット及びビデオパケットのFECヘッダは、FEC復号化モジュール320によりFECブロック情報を決定するために使用される。RS(N,K)符号では、ビデオデータパケット又はパリティパケットに拘らず、FEC符号化ブロックのNのパケットのうち何らかのK以上のパケットが正確に受信される限り、FEC消去復号化は、送信機での符号化中に最も長いパケットにパディングされた全てのパケットの場合に、元のビデオパケットを再構成することができる。FEC消去復号化は、符号化の逆処理である。符号化は、パケットを通じて実行され、各パケットからの1つのシンボルはコードワードで構成される。パディングは、ビデオ/ソースパケット損失がFECパリティパケットを使用して回復した後に、回復ビデオ/ソースパケットから破棄される。回復ビデオパケットは、内部ソケット及びUDP/IPスタック330を介してビデオプレイヤ340に送信される。回復ビデオパケットは、ループバック構成のビデオプレイヤ340により、1つのUDP/IPスタック(例えばUDP/IPスタック335)を通じて受信されてもよい。回復ビデオ/データパケットはまた、他のビデオプレイヤに転送されてもよい。ビデオファイルは、RTPパケット化解除器325により保存される。   FIG. 3 is an exemplary client proxy architecture according to the present invention. The client proxy may be hardware, software, firmware, application specific integrated circuit (ASIC), reduced instruction set computer (RISC), field programmable gate array (FPGA), or any combination thereof. A client proxy is present in a mobile device such as a video player and forms part of the mobile device. Normal video packets and delayed parity (recovery) packets are received from different multicast groups by the client proxy via the WLAN interface 305 and the UDP / IP protocol stack 310. On the video / streaming server side, the RTP portion (depacketization) 325 of the protocol stack is separated from the UDP / IP portion 310 of the protocol stack. Received video data packets are delayed in buffer 315. This can be achieved, for example, by an initial playout delay. The FEC erasure decoding module 320 is arranged after the UDP / IP stack 310. Incorrect packets are discarded by the link layer. The location of the lost video packet or parity packet is detected by the FEC erasure decoding module 320 through the sequence number in the packet header. The sequence number of the packet header is used for erasure decoding. When packet loss is detected, a request to join the delayed FEC multicast group and obtain the corresponding parity packet is sent to the BS / AP. The FEC header of the parity packet and video packet is used by the FEC decoding module 320 to determine the FEC block information. With RS (N, K) code, FEC erasure decoding is performed by the transmitter as long as any K packets out of N packets of the FEC coding block are correctly received regardless of video data packets or parity packets. The original video packet can be reconstructed in the case of all packets padded to the longest packet during encoding with. FEC erasure decoding is an inverse process of encoding. Encoding is performed through packets, and one symbol from each packet is composed of codewords. The padding is discarded from the recovered video / source packet after the video / source packet loss is recovered using the FEC parity packet. The recovered video packet is sent to the video player 340 via the internal socket and UDP / IP stack 330. The recovered video packet may be received through a single UDP / IP stack (eg, UDP / IP stack 335) by a video player 340 in a loopback configuration. The recovered video / data packet may also be forwarded to other video players. The video file is stored by the RTP depacketizer 325.

元のRTPビデオソースパケットはパディングとして使用されるFEC情報を除いて不変であるため、このFEC機構は、FEC可能受信機とFEC不可能な受信機とが混合したマルチキャストのシナリオで使用され得る。パディング情報は、RTP仕様に基づいてFEC不可能なプレイヤにより無視されるべきである。移動装置がFEC機能を有さない場合、パケット損失に対して低いシステム回復力で、ビデオマルチキャストグループから通常のビデオパケットのみを受信することができる。異なるマルチキャストグループのパリティパケットは、プロトコルスタックにより破棄される。これは、後方互換性を実現する。   Since the original RTP video source packet is unchanged except for the FEC information used as padding, this FEC mechanism can be used in a mixed multicast scenario with FEC enabled and non-FEC receivers. Padding information should be ignored by non-FEC players based on the RTP specification. If the mobile device does not have the FEC function, it can receive only normal video packets from the video multicast group with low system resiliency against packet loss. Parity packets of different multicast groups are discarded by the protocol stack. This provides backward compatibility.

バーストのパケット損失は、移動装置のハンドオーバ中に生じる可能性がある。符号化ブロックのビデオパケットの一部又は全部は、ハンドオーバ/ハンドオフ中に損失する。本発明でこの問題を解決するために、ハーフレートのRS符号が使用される。消去復号化でのRS符号では、各パリティパケットは、符号化ブロックの損失パケットの何れか1つを回復することができる。ハーフレートのRS(N,K)符号(N=2K)がKのビデオパケットに適用されると、Kのパリティパケットを生成する。ハーフレートのRS符号では、ビデオパケットがハンドオーバ中にバーストで完全に損失したとしても、損失パケットは、対応するパリティパケットのみから回復可能である。この意味で、ハーフレートのRS符号により生成されたパリティパケットストリームは、元のビデオパケットストリームの他の記述である。システムは、ビデオストリームとパリティストリームとの間の時間シフトTdの持続時間までバーストのパケット損失をトランスペアレントに許容することができる。 Burst packet loss may occur during handover of a mobile device. Some or all of the video packets of the coded block are lost during handover / handoff. In order to solve this problem in the present invention, a half-rate RS code is used. In RS code with erasure decoding, each parity packet can recover any one of the lost packets of the encoded block. When a half-rate RS (N, K) code (N = 2K) is applied to K video packets, it generates K parity packets. With a half-rate RS code, even if a video packet is completely lost in a burst during handover, the lost packet can be recovered from only the corresponding parity packet. In this sense, the parity packet stream generated by the half-rate RS code is another description of the original video packet stream. The system can transparently tolerate packet loss of bursts up to the duration of the time shift Td between the video stream and the parity stream.

図4は、K=4、N=8での本発明のバーストのパケット損失を回復するFECスタガーキャスティング方法の例である。RS(8,4)符号で、N-K=4のパリティパケットは、それぞれK=4のソースパケットから生成される。矩形のパケットは1つのFEC符号化ブロックに属し、楕円のパケットは他のFEC符号化ブロックに属する。ビデオ及びFECパリティパケットは、ハンドオーバのようなバースト中に損失する可能性がある。受信機は、受信ビデオパケット及び対応するパリティパケットでFEC消去復号化を実行する。少なくともKのパケット(ビデオ又はパリティパケット)が正確に受信される限り、元のKのソースパケットは回復可能である。スタガーキャスティングでない場合、6のパケット(FEC及びビデオ)が受信されているため、矩形ブロックのパケットは回復可能である。しかし、2のパケットのみが正確に受信されているため、楕円ブロックのパケットは回復不可能である。スタガーキャスティングの場合、ビデオストリームとパリティストリームとの間にTdの時間差が存在するため、損失パケットの位置は異なる。ブロック毎に少なくとも4つのパケットが受信されているため、矩形及び楕円ブロックのパケットの双方が回復可能である。スタガーキャスティングは、ビデオストリームとパリティストリームとの時間ダイバーシチを実現する。 FIG. 4 is an example of the FEC stagger casting method for recovering the packet loss of the burst of the present invention when K = 4 and N = 8. Parity packets with RS (8,4) code and NK = 4 are generated from source packets with K = 4, respectively. A rectangular packet belongs to one FEC encoded block, and an elliptical packet belongs to another FEC encoded block. Video and FEC parity packets can be lost during bursts such as handover. The receiver performs FEC erasure decoding on the received video packet and the corresponding parity packet. As long as at least K packets (video or parity packets) are correctly received, the original K source packets can be recovered. If not stagger casting, 6 packets (FEC and video) have been received, so the rectangular block packet can be recovered. However, since only the second packet is received correctly, the elliptical block packet is not recoverable. In the case of stagger casting, since there is a time difference of Td between the video stream and the parity stream, the position of the lost packet is different. Since at least four packets are received per block, both rectangular and elliptical block packets can be recovered. Stagger casting realizes time diversity between a video stream and a parity stream.

情報/ビデオストリームとパリティストリームとの間の時間シフトTdは、設計パラメータである。これは、ハンドオフ又はシャドーイングによる予想最大パケットバースト損失の持続時間に基づいて選択されてもよい。ハンドオフ又はシャドーイング損失の予想の長さは、Td未満になるべきである。ハーフレートのRS符号では、バースト損失の回復可能な長さはRS符号のパラメータN及びKに依存しない。これは、システム設計における柔軟性を提供する。時間シフトTdを調整することにより、ハンドオーバ損失又はシャドーイング損失が回復可能になる。 The time shift Td between the information / video stream and the parity stream is a design parameter. This may be selected based on the expected maximum packet burst loss duration due to handoff or shadowing. The expected length of handoff or shadowing loss should be less than Td . In a half-rate RS code, the recoverable length of burst loss does not depend on the parameters N and K of the RS code. This provides flexibility in system design. By adjusting the time shift Td , handover loss or shadowing loss can be recovered.

RSコーデックの実装では、高速符号化及び復号化のために、8ビットのシンボル長を選択することが有利である。これは、ブロック長N≦255オクテットのRS符号を生じる。本発明の例示的な実施例は、1バイトのシンボルを使用する。短いブロック長及び大きさのRS符号は、N=255を有するマザーコード(mother code)をパンクチャリング(puncturing)及び短縮することにより得られてもよい。パンクチャリングされた符号は、(N,K)のマザーコードから得られた(N-L,K)の符号であり、短縮された符号は、(N,K)のマザーコードから得られた(N-L,K-L)の符号である。本発明の実装は、効率的な消去訂正のため、Vandermonde生成行列に基づく。RS(N,K)のコードワードは、Kのソースシンボルと(N-K)のパリティシンボルとで構成される。符号化処理中に、K×NのVandermonde生成行列は、そのシステマティック版(systematic version)に変換される。システマティック版では、最初のK列は単位行列を形成し、RSコードワードは、Kのシンボルのベクトルをシステマティック生成行列で乗算することにより計算される。符号はシステマティックであるため、最初のKの符号化シンボルは、元のソースシンボルと全く同じである。復号化中に、コードワードの受信したKシンボルの位置に従って、システマティックVandermonde 行列のKの列からK×Kの下位行列が形成される。下位行列は反転され、元のKのソースシンボルは、Kの受信シンボルのベクトルを反転された下位行列で乗算することにより回復される。   In an RS codec implementation, it is advantageous to select a symbol length of 8 bits for fast encoding and decoding. This results in an RS code with a block length N ≦ 255 octets. The exemplary embodiment of the present invention uses 1 byte symbols. A short block length and size RS code may be obtained by puncturing and shortening a mother code with N = 255. The punctured code is the (NL, K) code obtained from the (N, K) mother code, and the shortened code is obtained from the (N, K) mother code (NL, K). KL). The implementation of the present invention is based on the Vandermonde generator matrix for efficient erasure correction. The RS (N, K) codeword is composed of K source symbols and (N-K) parity symbols. During the encoding process, the K × N Vandermonde generator matrix is converted to its systematic version. In the systematic version, the first K columns form an identity matrix, and the RS codeword is calculated by multiplying a vector of K symbols by a systematic generator matrix. Since the code is systematic, the first K encoded symbols are exactly the same as the original source symbols. During decoding, a K × K submatrix is formed from the K columns of the systematic Vandermonde matrix according to the position of the received K symbols in the codeword. The submatrix is inverted and the original K source symbols are recovered by multiplying the vector of K received symbols by the inverted submatrix.

誤り伝搬を回避するために、各RTP/UDP/IPパケットは、パケットサイズが変わるようにビデオ符号化ユニットの圧縮データ(ビデオフレーム又はスライス)のみを含む。復号化の複雑性を低く維持するため、行列反転がソースブロック毎に1回のみ実行されることが望ましい。従って、受信シンボルの位置は、ソースブロックの全てのRSコードワードの行で同じになる必要がある。パディングは、ソースブロックを形成するために使用され、パケットサイズは一定になる。   In order to avoid error propagation, each RTP / UDP / IP packet contains only the compressed data (video frame or slice) of the video coding unit so that the packet size changes. In order to keep decoding complexity low, it is desirable to perform matrix inversion only once per source block. Therefore, the position of the received symbol needs to be the same in all RS codeword rows of the source block. Padding is used to form source blocks and the packet size is constant.

1つのパディング手法が図5に示されている。FEC符号が適用される前に、ソース符号化ブロックの短いパケットは、ゼロでパディングされ(zero-padded)、これにより、短いパケットの長さは、ソース符号化ブロックの最も大きいパケットの長さと等しくなる。2バイトのRTPパケットサイズフィールドが、FEC符号化中に各ソースパケットの前に挿入され、これにより、復号化器は、回復ソースパケットにおけるパディングシンボルの数を認識する。パケットサイズは復号化器によりIPレイヤから得られ得るため、パケットサイズフィールドは送信されない点に留意すべきである。符号化中に、パディングされたパケットを通じて複数のコードワードが計算され、各コードワードは、それぞれパディングされたパケットからの1シンボルで構成される。RS(N,K)符号が使用される場合、(N-K)のパリティパケットは、Kのソースパケットから生成される。パケットサイズの変化が大きすぎる場合、このパディング手法は、かなりの量のパディングを生じるため、FECオーバーヘッドの大部分がパディングシンボルを保護するために使用される。パディングシンボルは送信されないが、FEC性能は低減する。   One padding technique is shown in FIG. Before the FEC code is applied, the short packet of the source coding block is zero-padded so that the length of the short packet is equal to the length of the largest packet of the source coding block. Become. A 2-byte RTP packet size field is inserted before each source packet during FEC encoding, so that the decoder knows the number of padding symbols in the recovered source packet. Note that the packet size field is not transmitted because the packet size can be obtained from the IP layer by the decoder. During encoding, a plurality of codewords are calculated through the padded packet, and each codeword is composed of one symbol from the padded packet. When RS (N, K) codes are used, (N-K) parity packets are generated from K source packets. If the change in packet size is too large, this padding scheme results in a significant amount of padding, so the majority of the FEC overhead is used to protect the padding symbols. Padding symbols are not transmitted, but FEC performance is reduced.

ハイブリッドパディングと呼ばれる他のパディング手法が図6に示されている。大きいパケットは、行列の複数の行を通じて重ねられている。符号化単位サイズUと呼ばれる符号化ブロックの各行のサイズは、パディングオーバーヘッドを最小化するように決定され得る。このパディング手法は、パディングの総量を低減し、可変サイズのパケットについて依然として低い復号化の複雑性を有する。各ソースパケットは、ソースブロックの新しい行で始まる。パケット長が行の長さの整数倍でない場合、パディングシンボルが行の終わりに追加される。パディングシンボルは、パリティパケットを計算するためにのみ使用される点に留意すべきである。パディングシンボルは、FEC符号化モジュールによりパケットを送信する前に、ビデオ/ソースパケットから取り除かれる。ソースブロックの行の数は、K以下であるべきである。2バイトのRTPパケットサイズフィールドは、FEC符号化中に各ソースパケットの前に挿入され、これにより、復号化器は、受信ビデオ/ソースパケットのパディングシンボルの数を認識する。パケットサイズは復号化器によりIPレイヤから取得され得るため、パケットサイズフィールドは送信されない。   Another padding technique called hybrid padding is shown in FIG. Large packets are stacked through multiple rows of the matrix. The size of each row of the coding block, called coding unit size U, can be determined to minimize padding overhead. This padding approach reduces the total amount of padding and still has low decoding complexity for variable size packets. Each source packet begins with a new line in the source block. If the packet length is not an integer multiple of the line length, padding symbols are added at the end of the line. Note that padding symbols are used only to calculate parity packets. Padding symbols are removed from the video / source packet before sending the packet by the FEC encoding module. The number of rows in the source block should be less than or equal to K. A 2-byte RTP packet size field is inserted before each source packet during FEC encoding, so that the decoder knows the number of padding symbols in the received video / source packet. The packet size field is not transmitted because the packet size can be obtained from the IP layer by the decoder.

RS(N,K)符号は列に沿って適用される。すなわち、コードワードが各列からの1シンボルで構成される。このパディング手法は、低い復号化の複雑性を維持する。損失シンボルの位置がソースブロックのRSコードワードの全ての列について同じであるため、ソースブロックを復号化するために唯一の行列反転が必要になる。標準的なパディング手法は、行のサイズが最大パケット長に等しい特別な場合である点に留意すべきである。パリティパケットは、符号化パリティシンボルの1つ又は複数の行を含んでもよい。   RS (N, K) codes are applied along the sequence. That is, the code word is composed of one symbol from each column. This padding approach maintains low decoding complexity. Since the position of the lost symbol is the same for all columns of the RS codeword of the source block, only one matrix inversion is required to decode the source block. It should be noted that the standard padding technique is a special case where the row size is equal to the maximum packet length. A parity packet may include one or more rows of encoded parity symbols.

パリティパケットサイズを選択する際にトレードオフが存在する。パケットサイズが小さい場合、パリティパケットの送信は更にロバストになるが、ヘッダオーバーヘッドが増加する。大きいパケットサイズが使用される場合、パケットが容易に損失し、また、単一のパリティパケットの損失が複数のパリティの行の損失を生じる。各FECパリティパケットの行の可能な最大数は、行サイズUと、チャネルの最大送信単位(MTU:maximum transmit unit)と、所望のレベルのロバスト性とに依存する。(本発明によればビデオ/ソースパケットのパディングとして使用される)FEC情報は、受信機が符号化ブロックを正確に復号化できるために必要である。   There is a trade-off in selecting a parity packet size. When the packet size is small, the transmission of parity packets becomes more robust, but the header overhead increases. When large packet sizes are used, packets are easily lost, and loss of a single parity packet results in loss of multiple parity rows. The maximum possible number of rows in each FEC parity packet depends on the row size U, the maximum transmission unit (MTU) of the channel, and the desired level of robustness. The FEC information (used according to the invention as padding for video / source packets) is necessary in order for the receiver to be able to correctly decode the coded block.

図7aは、本発明のパケットフォーマットによるハイブリッドパディングをサポート可能なソースRTPパケットフォーマットを示している。元のRTPヘッダ及びペイロードフィールドは、非FECシステムから不変である。元のRTPヘッダ及びペイロードは、FEC符号化により保護される。4バイトのFEC制御情報フィールドは、パケットのソースブロック番号(SBN:source block number)とそのブロックにおけるその位置(すなわち、このパケットの開始行番号)とを示すために追加される。FEC情報は、RTPパディングとして使用される。パケットのフォーマットは、3GPP仕様により規定されたものと類似するが、本発明によれば、FEC関連の制御情報は、FEC符号化モジュールによりRTPパディングとしてビデオパケットに追加される。通常のビデオパケットでは、FEC符号化情報は、RTPヘッダの後且つRTPペイロード(ビデオデータ)の前に挿入される。RTPパディングとしてFEC情報を移動することにより、パケットフォーマットは、ビデオプレイヤのようなFEC不可能な移動装置と後方互換になる。ハイブリッドパディングが使用されるときに、FEC制御情報は、FEC復号化モジュールにとってFECブロックを復号化するために必要である。そうでない場合、復号化器は、損失ビデオ/ソースパケットの行の数がわからない。RTP標準のRFC3550によれば、パディングビットがRTPヘッダに設定される場合、終わりの更なるパディングオクテットは、RTPパケット化解除器により無視されるべきである。パディングの最後のオクテットは、自分を含み何個のパディングオクテットが無視されるべきかのカウントを含む。RTPパディングのサポートのあるFEC不可能な従来のプレイヤは、ビデオマルチキャストグループだけを受信し、パディングのFEC制御情報を無視してもよい。元のRTPソースパケットが何らかのパディング情報を除いて不変であるため、このFEC機構は、FEC可能な受信機とFEC不可能な受信機とが混合したマルチキャストのシナリオで使用され得る。パディング情報は、FEC不可能なプレイヤにより無視されるべきである。複数のH.264互換のプレイヤでのテストは、この方法がVLCプレイヤとThomsonのMMAFプレイヤとでうまく動作することを示している。この理由は、これらのプレイヤはRTPパディングをサポートするからである。Quicktimeプレイヤは、直接的にFEC制御情報でビデオストリームを受信することができない。この理由は、パディングをサポートしないからである。   FIG. 7a shows a source RTP packet format that can support hybrid padding according to the packet format of the present invention. The original RTP header and payload fields are unchanged from non-FEC systems. The original RTP header and payload are protected by FEC encoding. A 4-byte FEC control information field is added to indicate the source block number (SBN) of the packet and its position in the block (ie, the starting row number of this packet). FEC information is used as RTP padding. The packet format is similar to that defined by the 3GPP specification, but according to the present invention, FEC related control information is added to the video packet as RTP padding by the FEC encoding module. In a normal video packet, FEC encoding information is inserted after the RTP header and before the RTP payload (video data). By moving FEC information as RTP padding, the packet format becomes backward compatible with non-FEC mobile devices such as video players. When hybrid padding is used, FEC control information is necessary for the FEC decoding module to decode the FEC block. Otherwise, the decoder does not know the number of rows of lost video / source packets. According to RFC 3550 of the RTP standard, if the padding bits are set in the RTP header, the end further padding octets should be ignored by the RTP depacketizer. The last octet of the padding contains a count of how many padding octets, including myself, should be ignored. Conventional players that are not FEC capable of supporting RTP padding may receive only video multicast groups and ignore padding FEC control information. Since the original RTP source packet is unchanged except for some padding information, this FEC mechanism can be used in a mixed multicast scenario with FEC-capable and non-FEC receivers. Padding information should be ignored by non-FEC capable players. Tests with multiple H.264 compatible players show that this method works well with VLC players and Thomson MMAF players. This is because these players support RTP padding. The Quicktime player cannot directly receive a video stream with FEC control information. This is because padding is not supported.

図7bは、パリティRTPパケットフォーマットを示している。パリティFECパケットはまた、UDP/IPプロトコルスタックを使用して送出される。FECパリティパケットのペイロード形式(PT:payload type)は、帯域外シグナリング機構(例えばSDPファイル)を使用して動的に割り当てられる。これは、元のソースペイロード形式とは異なる。PTは、FEC符号化方式と、ペイロードについてのそのパラメータを特定する。受信機でパリティパケットの復号化を助けるために、FEC制御情報ヘッダがRTPヘッダの後に追加され、FECブロック情報と符号化パラメータとを示す。3GPPで規定されたフォーマットと同様に、パリティパケットのFECヘッダは、(1)ソースブロック番号(SBN:source block number):ソースパケットが属するソースブロックのIDと、(2)符号化単位ID(EUI:Encoding Unit ID):符号化ブロックにおけるこのパケットの開始行番号と、(3)ソースブロック長(SBL:Source Block Length):ソースブロックにおけるソース行の数(すなわち、K)と、(4)符号化ブロック長(EBL:Encoding Block Length):行の総数(すなわち、N)と、(5)符号化単位長(U:Encoding Unit length):バイトにおける行の長さとを含む。各符号化単位は、ここでは行に対応する点に留意すべきである。   FIG. 7b shows a parity RTP packet format. Parity FEC packets are also sent using the UDP / IP protocol stack. The payload type (PT) of the FEC parity packet is dynamically assigned using an out-of-band signaling mechanism (eg, SDP file). This is different from the original source payload format. The PT specifies the FEC encoding scheme and its parameters for the payload. To assist in decoding the parity packet at the receiver, an FEC control information header is added after the RTP header to indicate the FEC block information and the encoding parameters. Similar to the format defined in 3GPP, the FEC header of a parity packet includes (1) a source block number (SBN): an ID of a source block to which the source packet belongs, and (2) an encoding unit ID (EUI). : Encoding Unit ID): Start line number of this packet in the encoding block, (3) Source block length (SBL): Number of source lines in the source block (ie, K), and (4) Code Encoding block length (EBL): the total number of lines (ie, N) and (5) encoding unit length (U): the length of the line in bytes. Note that each coding unit here corresponds to a row.

クライアント側でのFEC復号化は、符号化の逆処理である。ソースブロックに属する受信ソース及びパリティパケットは、SBNに基づいて一緒にバッファに入れられてもよい。何らかの損失したソースRTPパケットがシーケンス番号の隔たりにより検出されると、同じSBNを有するパリティパケットが、損失ビデオ/ソースパケットを回復するために使用され得る。何らかのパリティパケットが利用可能である場合、FEC符号化パラメータ(N,K)、ソースブロックの大きさ及び行サイズは、FECパリティパケットのFEC制御情報により決定され得る。符号化ブロックは、EUIフィールド(すなわち、ソース及びパリティパケットの開始行番号)に従って、損失ソース及びFECパリティパケットにより、見込まれる損失した行で形成され得る。損失した行の数が(N-K)未満である場合、損失したソース行が復号化及び回復可能である。ソースRTPパケットをソース行に挿入する前に、パケット長はパリティパケットの最初のソース行の前に付加される点に留意すべきである。これは、ビデオ/ソースパケットの回復に有用である。回復パケットの最初の2バイトは、その“パケットサイズ”を有する。第3バイトから始めて、回復したソースからの“パケットサイズ”の数がパケットに属する。行の残りのシンボルはパディングシンボルであるため、破棄される。パディングされたFEC制御情報及びパディング長バイトは、FEC復号化モジュールによるFEC復号化の前に、正確に受信したビデオ/ソースRTPパケットから取り除かれる。   FEC decoding on the client side is the reverse process of encoding. Received source and parity packets belonging to the source block may be buffered together based on the SBN. If any lost source RTP packet is detected by a sequence number gap, a parity packet with the same SBN can be used to recover the lost video / source packet. If any parity packet is available, the FEC coding parameters (N, K), the size of the source block and the row size may be determined by the FEC control information of the FEC parity packet. An encoded block may be formed with expected lost rows with lost source and FEC parity packets according to the EUI field (ie, source and parity packet starting row numbers). If the number of lost rows is less than (N-K), the lost source rows can be decoded and recovered. It should be noted that before inserting the source RTP packet into the source line, the packet length is appended before the first source line of the parity packet. This is useful for video / source packet recovery. The first two bytes of the recovery packet have its “packet size”. Starting from the third byte, the number of “packet sizes” from the recovered source belongs to the packet. Since the remaining symbols in the row are padding symbols, they are discarded. The padded FEC control information and padding length bytes are removed from the correctly received video / source RTP packet prior to FEC decoding by the FEC decoding module.

図8aは、遅延回復IPマルチキャストグループ内でFECパリティパケットを使用して無線IPネットワークでビデオマルチキャストを行う例示的な送信機/サーバの実装のフローチャートである。805において。圧縮されていないビデオシーケンスデータが受信され、符号化/コード変換/圧縮される。810において、符号化/コード変換/圧縮されたビデオシーケンスデータはパケット化され、パケットヘッダが追加される。815において、パケット化された符号化/コード変換/圧縮されたビデオシーケンスデータはFEC符号化され、FECパリティパケットを形成する。FEC符号は、ビデオパケットを通じて適用され、パリティパケットを生成する。ヘッダは、FEC情報を含むFECパケットに追加される。余分のFEC関連の制御情報もまた、ビデオデータパケットに追加される。825において、ビデオデータパケットはIPマルチキャストグループ(通常のビデオマルチキャストグループ)に送信/マルチキャストされる。820において、パリティパケットは、オフセット時間Tdの間に格納される。825において、FECパリティパケットは、遅延/時間シフトTdの後に、他のIPマルチキャストグループ(遅延/回復マルチキャストグループ)にマルチキャスト/送信される。 FIG. 8a is a flowchart of an exemplary transmitter / server implementation for performing video multicast over a wireless IP network using FEC parity packets in a delay recovery IP multicast group. In 805. Uncompressed video sequence data is received and encoded / transcoded / compressed. At 810, the encoded / transcoded / compressed video sequence data is packetized and a packet header is added. At 815, the packetized encoded / transcoded / compressed video sequence data is FEC encoded to form an FEC parity packet. The FEC code is applied through the video packet to generate a parity packet. The header is added to the FEC packet including FEC information. Extra FEC-related control information is also added to the video data packet. At 825, video data packets are transmitted / multicast to an IP multicast group (normal video multicast group). At 820, the parity packet is stored during the offset time Td . At 825, the FEC parity packet is multicast / transmitted to another IP multicast group (delay / recovery multicast group) after the delay / time shift Td .

図8bは、遅延回復IPマルチキャストグループ内でFECパリティパケットを使用して無線IPネットワークでビデオマルチキャストを行う例示的な送信機/サーバの実装の概略図である。ビデオ符号化器/トランスコーダ/圧縮器830は、圧縮されていないビデオシーケンスデータを受信し、圧縮されていないビデオシーケンスデータを符号化/コード変換/圧縮する。符号化/コード変換/圧縮されたビデオシーケンスデータは、パケット化器835に通信され、パケット化器835は、符号化/コード変換/圧縮されたビデオシーケンスデータをパケット化し、データパケットを形成してパケットヘッダを追加する。パケット化された符号化/コード変換/圧縮されたビデオシーケンスデータは、FEC符号化器840に通信され、パリティパケットを形成する。FEC符号化器は、パケット化器の後に配置されるが、プロトコルスタック850の前に配置される。FEC符号がビデオパケットを通じて適用され、パリティパケットを生成する。ヘッダは、FEC情報を含むFECパケットに追加される。FEC関連の制御情報もまた、ビデオデータパケットに追加される。ビデオデータパケットは、プロトコルスタック850及びEthernet(登録商標)/WLANインタフェース855を通じてIPマルチキャストグループ(通常のビデオマルチキャストグループ)に直ちに送信/マルチキャストされる。プロトコルスタック850は、少なくともUDPレイヤ850aとIPレイヤ850bとを含む。パリティパケットは、オフセット時間Tdの間に遅延バッファ845に格納される。FECパリティパケットは、遅延/時間シフトTdの後にプロトコルスタック850及びEthernet(登録商標)/WLANインタフェース855を介して他のIPマルチキャストグループ(遅延/回復マルチキャストグループ)に送信/マルチキャストされる。ここに記載した構成要素は、ハードウェア、ソフトウェア若しくはファームウェア又はRISC、ASIC及び/又はFPGAを含むこれらの如何なる組み合わせでもよい。 FIG. 8b is a schematic diagram of an exemplary transmitter / server implementation for performing video multicast over a wireless IP network using FEC parity packets within a delay recovery IP multicast group. The video encoder / transcoder / compressor 830 receives the uncompressed video sequence data and encodes / code converts / compresses the uncompressed video sequence data. The encoded / transcoded / compressed video sequence data is communicated to the packetizer 835, which packetizes the encoded / transcoded / compressed video sequence data to form a data packet. Add a packet header. The packetized encoded / transcoded / compressed video sequence data is communicated to the FEC encoder 840 to form a parity packet. The FEC encoder is placed after the packetizer, but before the protocol stack 850. The FEC code is applied through the video packet to generate a parity packet. The header is added to the FEC packet including FEC information. FEC related control information is also added to the video data packet. The video data packet is immediately transmitted / multicast to the IP multicast group (ordinary video multicast group) through the protocol stack 850 and the Ethernet / WLAN interface 855. The protocol stack 850 includes at least a UDP layer 850a and an IP layer 850b. The parity packet is stored in the delay buffer 845 during the offset time Td . The FEC parity packet is transmitted / multicast to another IP multicast group (delay / recovery multicast group) via the protocol stack 850 and the Ethernet / WLAN interface 855 after the delay / time shift Td . The components described herein may be hardware, software or firmware or any combination thereof including RISC, ASIC and / or FPGA.

システマティックFEC符号では、FEC符号化モジュールは、十分なビデオ/ソースパケットが符号化ブロックを埋めるまで待機し、次に、FEC符号化モジュールがパリティパケットを生成する。他の実施例では、FEC符号化モジュールは、FEC関連の制御情報をビデオ/ソースパケットに追加し、パケットがパケット化器によりFEC符号化モジュールに渡された直後に、符号化ブロックを埋めるまで待機せずにパケットを送出/マルチキャストしてもよい。FEC符号化モジュールは、符号化ブロックバッファにこのパケットのコピーを保持する。前述のように、符号化ブロックが埋まり、FEC符号化モジュールがパリティパケットを生成した後に、既に送信されたビデオ/ソースパケットは破棄される。この理由は、ビデオ/ソースパケットが既に送信されているためである。   For systematic FEC codes, the FEC encoding module waits until enough video / source packets fill the encoded block, and then the FEC encoding module generates parity packets. In another embodiment, the FEC encoding module adds FEC-related control information to the video / source packet and waits until the packet is filled immediately after the packet is passed to the FEC encoding module by the packetizer. It is also possible to send / multicast packets without sending them. The FEC encoding module keeps a copy of this packet in the encoding block buffer. As described above, after the encoding block is filled and the FEC encoding module generates a parity packet, the already transmitted video / source packet is discarded. This is because video / source packets have already been transmitted.

図9は、本発明の原理によるクロスパケット符号化の例である。図9に示すように、Kのビデオパケットは、一緒にグループ化され、Reed-Solomon(RS)(N,K)符号がパケットグループに適用され、N-Kのパリティパケットを生成する。ヘッダは、どのビデオパケットをこのFECパケットが保護するかを含み、FEC情報を含むFECパケットに追加される。FEC関連の制御情報もまた、ビデオパケットに追加される。ビデオデータパケットは、UDP/IPスタック及びEthernet(登録商標)インタフェースを介してIPマルチキャストグループ(通常のビデオマルチキャストグループ)に送信される。パリティパケットは、オフセット時間Tdの間に遅延バッファに格納される。FECパリティパケットは、遅延/時間シフトTdの後にUDP/IP及びEthernet(登録商標)インタフェースを介して他のIPマルチキャストグループ(遅延/回復マルチキャストグループ)に送信される。 FIG. 9 is an example of cross-packet coding according to the principles of the present invention. As shown in FIG. 9, K video packets are grouped together, and a Reed-Solomon (RS) (N, K) code is applied to the packet group to generate NK parity packets. The header includes which video packet this FEC packet protects and is added to the FEC packet containing FEC information. FEC related control information is also added to the video packet. The video data packet is transmitted to the IP multicast group (ordinary video multicast group) via the UDP / IP stack and the Ethernet (registered trademark) interface. The parity packet is stored in the delay buffer during the offset time Td . The FEC parity packet is transmitted to another IP multicast group (delay / recovery multicast group) via the UDP / IP and Ethernet® interfaces after the delay / time shift Td .

図10aは、遅延/回復マルチキャストグループ内でFECパリティパケットを使用してIP型無線ネットワークでビデオマルチキャストを行う例示的な移動受信機/装置の実装のフローチャートである。1005において、ビデオシーケンスデータを含む通常のビデオデータパケット及び遅延パリティパケットは、異なるマルチキャストグループから受信される。1010において、これらは、ビデオパケットとパリティパケットとに分離される。1015において、受信ビデオデータパケットが格納される。誤ったビデオ及びパリティパケットは、リンクレイヤ(WLANインタフェース)により破棄される。1020において、FEC消去復号化が実行される。損失ビデオデータパケット又はパリティパケットの位置は、FEC消去復号化処理によりパケットヘッダのシーケンス番号を通じて検出される。パリティパケットのFECヘッダ及びビデオデータパケットに追加されたFEC制御情報は、FECブロック情報を決定するために使用される。RS(N,K)符号で、(ビデオデータパケットであれパリティパケットであれ)FEC符号化ブロックのNのパケットのうち何らかのK以上のパケットが正確に受信される限り、FEC消去復号化処理は、元の(通常の)ビデオパケットを再構成することができる。1025において、FEC消去復号化されたビデオデータパケットはパケット化解除される。1030において、パケット化解除されたビデオデータパケットはビデオ復号化され、表示用に復号化されたビデオを生成する。   FIG. 10a is a flowchart of an exemplary mobile receiver / device implementation that performs video multicast over an IP-type wireless network using FEC parity packets in a delay / recovery multicast group. At 1005, normal video data packets and delayed parity packets including video sequence data are received from different multicast groups. At 1010, these are separated into video packets and parity packets. At 1015, the received video data packet is stored. Incorrect video and parity packets are discarded by the link layer (WLAN interface). At 1020, FEC erasure decoding is performed. The position of the lost video data packet or parity packet is detected through the sequence number of the packet header by the FEC erasure decoding process. The FEC control information added to the FEC header of the parity packet and the video data packet is used to determine the FEC block information. As long as an RS (N, K) code (whether a video data packet or a parity packet) is correctly received, any F or more of the N packets of the FEC encoded block, the FEC erasure decoding process is The original (normal) video packet can be reconstructed. At 1025, the FEC erasure decoded video data packet is depacketized. At 1030, the depacketized video data packet is video decoded to produce a decoded video for display.

一実施例は、ハーフレートのRS符号を使用する。ハーフレートのRS符号は、元のデータの他の記述を生成するために使用される。消去復号化でのRS符号では、各パリティパケットは、符号化ブロックでの何れか1つの損失パケットを回復することができる。ハーフレートのRS(N,K)符号(N=2K)がKのビデオパケットに適用されると、Kのパリティパケットを生成する。ハーフレートのRS符号では、複数のビデオデータパケットがハンドオーバ中のバーストで完全に損失したとしても、損失データパケットは、対応するパリティパケットのみから回復可能である。この意味で、ハーフレートのRS符号により生成されたパリティパケットストリームは、元の(通常の)ビデオパケットストリームの代替である。Reed-Solomon(RS)符号の他に、パリティパケットを生成するために他のFEC符号も使用され得る点に留意すべきである。ハーフレートのRS符号を有する本発明は、元のビデオパケットとFECパリティパケットとの間の時間シフトTdの持続時間までのパケット損失をトランスペアレントに許容することができる。 One embodiment uses a half-rate RS code. Half-rate RS codes are used to generate other descriptions of the original data. With RS code in erasure decoding, each parity packet can recover any one lost packet in the coding block. When a half-rate RS (N, K) code (N = 2K) is applied to K video packets, it generates K parity packets. With a half-rate RS code, even if multiple video data packets are completely lost in a burst during handover, the lost data packet can be recovered from only the corresponding parity packet. In this sense, the parity packet stream generated by the half-rate RS code is an alternative to the original (normal) video packet stream. It should be noted that in addition to Reed-Solomon (RS) codes, other FEC codes can also be used to generate parity packets. The present invention with a half-rate RS code can transparently tolerate packet loss up to the duration of the time shift Td between the original video packet and the FEC parity packet.

図10bは、遅延/回復マルチキャストグループ内でFECパリティパケットを使用してIP型無線ネットワークでビデオマルチキャストを行う例示的な移動受信機/装置の実装の概略図である。通常のビデオデータパケット及び遅延パリティパケットは、WLAN/Ethernet(登録商標)インタフェース1035で異なるマルチキャストグループから受信される。これらは、プロトコルスタック1040によりビデオデータパケットとパリティパケットとに分離される。プロトコルスタック1040は、少なくともUDPレイヤ1040aとIPレイヤ1040bとを含む。受信ビデオデータパケットは、バッファ1045で遅延される。誤ったビデオ及びパリティパケットは、リンクレイヤ(WLANインタフェース)により破棄される。FEC消去復号化モジュール1050は、パケット化解除とUDPレイヤとの間にある。ビデオデータパケット又はパリティパケットの位置は、FEC消去復号化モジュール1050によりパケットヘッダのシーケンス番号を通じて検出される。FEC消去復号化モジュール1050は、消去復号化のために使用される。パリティパケットのFECヘッダ及びビデオパケットに追加されたFEC制御情報は、FECブロック情報を決定するために、FEC消去復号化モジュール1050により使用される。RS(N,K)符号では、(ビデオデータパケットであれパリティパケットであれ)FEC符号化ブロックのNのパケットのうち何らかのK以上のパケットが正確に受信される限り、FEC消去復号化モジュール1050は、元の(通常の)ビデオデータパケットを再構成することができる。FEC消去復号化されたビデオデータパケットは、パケット化解除器1055に通信され、パケット化解除器1055は、ビデオデータパケットをパケット化解除する。パケット化解除されたビデオデータパケットは、ビデオ復号化モジュール1060に通信される。ここに記載した構成要素は、ハードウェア、ソフトウェア若しくはファームウェア又はRISC、ASIC及び/又はFPGAを含むこれらの如何なる組み合わせでもよい。   FIG. 10b is a schematic diagram of an exemplary mobile receiver / device implementation that performs video multicast in an IP-type wireless network using FEC parity packets in a delay / recovery multicast group. Normal video data packets and delayed parity packets are received from different multicast groups at the WLAN / Ethernet (registered trademark) interface 1035. These are separated into video data packets and parity packets by the protocol stack 1040. The protocol stack 1040 includes at least a UDP layer 1040a and an IP layer 1040b. Received video data packets are delayed in buffer 1045. Incorrect video and parity packets are discarded by the link layer (WLAN interface). The FEC erasure decoding module 1050 is between depacketization and the UDP layer. The position of the video data packet or parity packet is detected by the FEC erasure decoding module 1050 through the sequence number of the packet header. The FEC erasure decoding module 1050 is used for erasure decoding. The FEC control information added to the FEC header and video packet of the parity packet is used by the FEC erasure decoding module 1050 to determine the FEC block information. For RS (N, K) codes, the FEC erasure decoding module 1050 is as long as any K or more of the N packets of the FEC encoded block (whether video data packets or parity packets) are correctly received. The original (normal) video data packet can be reconstructed. The FEC erasure-decoded video data packet is communicated to the depacketizer 1055, and the depacketizer 1055 depackets the video data packet. The depacketized video data packet is communicated to the video decoding module 1060. The components described herein may be hardware, software or firmware or any combination thereof including RISC, ASIC and / or FPGA.

移動装置からBS/APへの帰路無線チャネルが利用可能でない場合、及び/又は簡単なシステム実装が好ましい場合、BS/APは、無線ネットワークにおいてマルチキャストで通常のビデオストリームと遅延回復ストリームとを常に送信してもよい。移動受信機/装置は、要求せずに双方のストリームを受信する。ランダムなパケット損失の回復のため、チャネル状態に従って時間シフトせずに、他のマルチキャストグループ内で特定のFECパリティパケットを常に送信することも可能である。残りのFECパリティパケットは、バーストのパケット損失を訂正するために、遅延回復(FEC)マルチキャストグループ内で送信される。   If the return radio channel from the mobile device to the BS / AP is not available, and / or if a simple system implementation is preferred, the BS / AP always sends a normal video stream and a delay recovery stream in multicast over the wireless network. May be. The mobile receiver / device receives both streams without requesting it. For recovery of random packet loss, it is also possible to always transmit a specific FEC parity packet in another multicast group without time shifting according to channel conditions. The remaining FEC parity packets are sent in a delay recovery (FEC) multicast group to correct packet loss for bursts.

ORBIT無線ネットワークのテストベッドを使用して、異なる干渉レベル及び移動ハンドオーバ時間でのビデオ品質に対するFECオーバーヘッド及びビデオストリームとFECストリームとの間の遅延の影響が調査された。本発明のFECスタガーキャスティングの有効性は、Orbitテストベッドからの実験データを使用して証明された。全てのビデオシーケンスはH.264で符号化されている。ビデオ解像度は720×480であり、フレームレートは毎秒24フレームである。2秒毎に1つのIフレームが存在する。瞬時複合化器リフレッシュ(IDR:instantaneous decoder refresh)イントラピクチャは無効である。符号化器でスライスモードが使用され、各パケットは、唯一のスライスを伝達し、各損失パケットが他の正確に受信したパケットの有効性に影響を及ぼさず、誤り伝搬を回避することを確保する。   Using the ORBIT wireless network testbed, the effects of FEC overhead and delay between video and FEC streams on video quality at different interference levels and mobile handover times were investigated. The effectiveness of the FEC stagger casting of the present invention has been demonstrated using experimental data from an Orbit testbed. All video sequences are encoded in H.264. The video resolution is 720 × 480 and the frame rate is 24 frames per second. There is one I frame every 2 seconds. Instantaneous decoder refresh (IDR) intra pictures are invalid. Slice mode is used in the encoder, each packet carries a unique slice, ensuring that each lost packet does not affect the validity of other correctly received packets and avoids error propagation .

中間動画ビデオシーケンス“Kungfu”がテスト用に選択された。元のビデオは10秒の長さであり、これは、5つのIフレームを有する240フレームが存在することを意味する。図11aは、27及び450バイトのスライスサイズに設定されたI/Pフレームの量子化パラメータで符号化された後のビデオシーケンスの輝度成分信号対雑音比(SNR-Y)を示している。48フレーム毎の周期パルスは、Iフレームの位置を示しており、また、点線の垂直グリッドでも示されている。ビデオシーケンスの動きが増加するため、240フレームのSNR-Yは少しずつ減少する。元のビデオシーケンスは、6回ループし、1440フレーム(1分)のシーケンスを得る。1分のシーケンスの輝度成分のSNRは、図11bのようなシーソー(seesaw)形式を示す。   The intermediate video sequence “Kungfu” was selected for testing. The original video is 10 seconds long, which means that there are 240 frames with 5 I frames. FIG. 11a shows the luminance component signal-to-noise ratio (SNR-Y) of a video sequence after being encoded with I / P frame quantization parameters set to 27 and 450 byte slice sizes. The periodic pulse every 48 frames indicates the position of the I frame and is also shown by a dotted vertical grid. As the motion of the video sequence increases, the SNR-Y of 240 frames decreases gradually. The original video sequence loops 6 times to get a 1440 frame (1 minute) sequence. The SNR of the luminance component of the one-minute sequence shows a seesaw format as shown in FIG. 11b.

次に、Orbitテストベッドを使用して、雑音環境におけるビデオマルチキャストのFEC保護の有効性がテストされた。元の10秒の長さのビデオシーケンスは30回ループされ、5分の長さのシーケンスを得る。ビデオは、IEEE802.11aのチャネル64及びモード1を使用してマルチキャストで送信される。送信電力は、15mWに設定され、雑音干渉を受けやすくする。Orbitテストベッドでの雑音生成器は、20MHzの帯域でチャネル64を中心とするAWGN干渉を生成するために使用される。クライアントは、FEC保護された及びFEC保護されていないビデオシーケンスを受信するために、BA/APに関連付けられる。受信ビデオデータは、ビデオ品質を比較するために復号化される。   Next, the effectiveness of FEC protection for video multicast in noisy environments was tested using the Orbit testbed. The original 10 second long video sequence is looped 30 times to get a 5 minute long sequence. The video is transmitted by multicast using IEEE 802.11a channel 64 and mode 1. The transmission power is set to 15mW to make it susceptible to noise interference. The noise generator in the Orbit testbed is used to generate AWGN interference centered on channel 64 in the 20 MHz band. The client is associated with the BA / AP to receive FEC protected and non-FEC protected video sequences. Received video data is decoded to compare video quality.

公平な比較のため、5のビデオシーケンスが異なる量子化パラメータを使用して同じ生のビデオから符号化され、異なるFEC符号化レートで同様の全体(RTPパケット及びFECパケット)トラヒックビットレートを得る。表1は、図12で使用された5つのビデオシーケンスの符号化パラメータと全体ビットレートとを示している。UDP/IP/MAC/PHYヘッダのオーバーヘッドは、表1のトラヒック統計に含まれる。   For a fair comparison, 5 video sequences are encoded from the same raw video using different quantization parameters to obtain similar overall (RTP packet and FEC packet) traffic bit rates at different FEC encoding rates. Table 1 shows the encoding parameters and overall bit rates of the five video sequences used in FIG. The overhead of the UDP / IP / MAC / PHY header is included in the traffic statistics in Table 1.

Figure 0005755213
図12は、様々な干渉レベルでの表1のシーケンスについての平均SNR-Yを示している。各場合について、干渉が閾値を超えると、急速にビデオ品質が低下する。これは、各符号化ブロックでFECパリティパケットは全ての損失パケットを回復するか、或いは損失パケットを全く回復しないかという理由のためである。ビデオシーケンスに誤り伝搬も存在する。曲線の閾値は、強力なFEC符号では高い干渉レベルで生じる。しかし、ほとんど誤りがない場合、低干渉レベルではSNR-Yは強力なFEC符号でわずかに小さい。これは、強力なFEC符号により必要となる高いオーバーヘッドがビデオソースのレートを低減するからである。実験では、干渉が小さい場合(13dbmの雑音)、FECの冗長性のため、FECオーバーヘッドが高くなるほど、ビデオ品質が低くなることがわかる。しかし、雑音が増加すると、FEC保護はその有効性を示す。雑音が約7dbmに到達すると、受信シーケンスの一部は、大きいパケット損失のため復号化不可能である。実験データは、雑音が6dbmに到達すると、これらの5つの受信シーケンスがもはや復号化不可能であることを示している。雑音が5dbmである場合、BS/APとクライアントとの間の関連付けは時々壊れる。通常では、良好なビデオ品質のソース符号化レートでの動作点と、所望のビデオマルチキャストサービスエリア範囲に基づいてパケットから回復するのに十分なFEC保護とが選択され得る。
Figure 0005755213
FIG. 12 shows the average SNR-Y for the sequence of Table 1 at various interference levels. For each case, video quality degrades rapidly when the interference exceeds a threshold. This is because in each coding block, the FEC parity packet recovers all lost packets or does not recover lost packets at all. There is also error propagation in the video sequence. Curve thresholds occur at high interference levels with strong FEC codes. However, if there are few errors, SNR-Y is slightly smaller with a strong FEC code at low interference levels. This is because the high overhead required by a strong FEC code reduces the rate of the video source. Experiments show that when the interference is small (13dbm noise), the higher the FEC overhead, the lower the video quality due to FEC redundancy. However, as noise increases, FEC protection shows its effectiveness. When the noise reaches about 7 dbm, part of the received sequence cannot be decoded due to large packet loss. Experimental data shows that when the noise reaches 6dbm, these five received sequences are no longer decodable. If the noise is 5dbm, the association between the BS / AP and the client is sometimes broken. Typically, an operating point at a good video quality source coding rate and sufficient FEC protection to recover from the packet based on the desired video multicast service area range may be selected.

図13は、2つの形式(94のスケールでの数及びdbmでの受信信号強度)でクライアントにより検出される対応するリンク品質を示している。図13は、干渉レベルとクライアントにより検出されるリンク品質との間の線形関係を示している。   FIG. 13 shows the corresponding link quality detected by the client in two forms (number on 94 scale and received signal strength on dbm). FIG. 13 shows a linear relationship between the interference level and the link quality detected by the client.

図14は、様々な干渉レベルでの残留パケット損失レート(PLR)を示している。各場合において、干渉が閾値を超えると、急速にPLRが増加する。前述のように、これは、FECが全ての誤りを訂正するか、或いは全く訂正しないかという理由のためである。曲線の閾値は、強力なFEC符号では高い干渉レベルで生じる。   FIG. 14 shows the residual packet loss rate (PLR) at various interference levels. In each case, the PLR increases rapidly when the interference exceeds the threshold. As mentioned above, this is because FEC corrects all errors or not at all. Curve thresholds occur at high interference levels with strong FEC codes.

ブロックFECでは、FEC符号化器は、符号化ブロックのKのシンボルを埋めるのに十分なビデオパケットを常に待機し、FEC符号化器は、(N-K)のパリティパケットを生成し、パリティパケットを送信する。従って、FECパケット送信時間とソースパケット送信時間との間に常に拡散/遅延が存在する。これは、符号化単位サイズTと、ソースシンボル数Kと、元のビデオトラヒックパターンとに依存する。この固有の拡散(?遅延)は管理及び計算することが困難である。表2は、時間をずらしたFECの実験で使用されるシーケンスを示している。シーケンスGは、100%のFEC保護があり、シーケンスFは、全くFEC保護がない。公平な比較のために、2つのビデオシーケンスは、同様の全体帯域使用を得るために、異なる量子化パラメータを使用して同じ“KungFu”の生のビデオから符号化された。ビデオシーケンスは、5のハンドオフ(バースト持続時間)に対応するのに十分に長くループされる。この場合にも同様に、UDP/IP/MAC/PHYヘッダは、トラヒック統計に含まれる。   In block FEC, the FEC encoder always waits for enough video packets to fill the K symbols of the encoded block, and the FEC encoder generates (NK) parity packets and sends the parity packets To do. Therefore, there is always a spread / delay between the FEC packet transmission time and the source packet transmission time. This depends on the coding unit size T, the number K of source symbols, and the original video traffic pattern. This inherent spread (? Delay) is difficult to manage and calculate. Table 2 shows the sequence used in the staggered FEC experiment. Sequence G has 100% FEC protection, and Sequence F has no FEC protection. For a fair comparison, the two video sequences were encoded from the same “KungFu” raw video using different quantization parameters to obtain similar overall bandwidth usage. The video sequence is looped long enough to accommodate 5 handoffs (burst duration). In this case as well, the UDP / IP / MAC / PHY header is included in the traffic statistics.

Figure 0005755213
ハンドオフ(バースト)持続時間の長さと、ハンドオフ/バーストの間に損失したパケットの性質(Iフレームに属するかPフレームに属するか)とは、受信ビデオ品質に影響を及ぼす2つの重要な要因である。実行されたテストでは、FECパリティストリームは、固有の拡散(?遅延)に加えて、元のビデオストリームに対してそれぞれ0秒、1秒及び2秒の値で遅延している。様々なハンドオフ持続時間での受信ビデオ品質が計算され、時間をずらしたFECマルチキャストの有効性を示すために比較された。図15(a)は、ハンドオフ持続時間が0.2秒であり、FECストリームが0秒の遅延(これはFECパケットが生成時に直ちに送信されることを意味する)である場合のシーケンスF及びGのビデオ品質を示している。FECのないシーケンスFでは、ビデオ品質は、ハンドオフ/バーストの間に急激に低下する。FEC保護のあるシーケンスGは、余計なFEC遅延すらなしに、受信機で完全に回復されている。前述のように、これは、強力なFECの誤り訂正機能と、小さいハンドオフ/バースト持続時間中のパケット損失の比較的短いバーストと、FECパケット送信時間及びソースパケット送信時間の固有の拡散(?遅延)とのためである。
Figure 0005755213
The length of the handoff (burst) duration and the nature of the packet lost during handoff / burst (whether it belongs to I or P frame) are two important factors affecting the received video quality. . In the tests performed, the FEC parity stream is delayed by values of 0 seconds, 1 second, and 2 seconds, respectively, with respect to the original video stream, in addition to the inherent spreading (? Delay). Received video quality at various handoff durations was calculated and compared to show the effectiveness of staggered FEC multicast. FIG. 15 (a) shows sequence F and G videos when the handoff duration is 0.2 seconds and the FEC stream has a delay of 0 seconds (which means that FEC packets are sent immediately upon generation). Shows quality. In sequence F without FEC, the video quality drops off sharply during handoff / burst. The sequence G with FEC protection is fully recovered at the receiver without any extra FEC delay. As mentioned earlier, this is a powerful FEC error correction function, a relatively short burst of packet loss during a small handoff / burst duration, and a unique spread (? Delay) of FEC packet transmission time and source packet transmission time. ) And for.

図15(a)に示す他の関心のある点は、ハンドオフ/バースト損失が開始したとしても、次のIフレーム(この位置は垂直の点線で示されている)が正確に受信されるまで、ビデオ品質は常に完全に回復される点である。これは、ビデオ復号化器で使用される誤り隠蔽方式に依存し得る。フレームコピー誤り隠蔽(frame copy error concealment)が実験で使用される。図15(a)では5つのハンドオフ/バーストは同じ持続時間であるが(全てが0.2秒である)、次のIフレームに対して異なるハンドオフ/バースト開始点のため、品質の障害の幅は異なる。差は図15(b)でより明確になり、第3のハンドオフ/バーストで、Iフレームが損失し、次のIフレームが2秒後に正確に受信されるまで、ビデオ品質が完全に回復される。   Another point of interest shown in FIG. 15 (a) is that even if a handoff / burst loss has begun, until the next I frame (this position is indicated by a vertical dotted line) is correctly received. Video quality is always a complete recovery. This may depend on the error concealment scheme used in the video decoder. Frame copy error concealment is used in the experiment. In FIG. 15 (a), the five handoffs / bursts have the same duration (all are 0.2 seconds), but because of the different handoff / burst start points for the next I frame, the width of the quality impairment is different. . The difference becomes clearer in FIG. 15 (b), with the third handoff / burst, the video quality is fully recovered until the I frame is lost and the next I frame is received correctly after 2 seconds. .

図15(b)は、ハンドオフ間隔が0.5秒であり、FECストリームが0秒の遅延である場合のシーケンスF及びGのビデオ品質を示している。図15(b)では、ハンドオフ損失のバーストのいくつかは、遅延のないFECが処理できるものより大きいため、FEC保護されたビデオシーケンスGでビデオ品質の劣化が存在する。ハンドオフ/バースト持続時間が増加すると、ハンドオフ/バースト中に多くのパケットが損失する。ビデオ及びパリティストリームの間に遅延が存在しない場合、強力なFECであっても、損失パケットは回復不可能である。   FIG. 15B shows the video quality of sequences F and G when the handoff interval is 0.5 seconds and the FEC stream has a delay of 0 seconds. In FIG. 15 (b), some of the handoff loss bursts are larger than what the FEC without delay can handle, so there is video quality degradation in the FEC protected video sequence G. As handoff / burst duration increases, many packets are lost during handoff / burst. If there is no delay between the video and parity streams, even with strong FEC, lost packets are not recoverable.

図15(c)は、ハンドオフ持続時間が1.8秒であり、FEC遅延が0秒である場合のシーケンスF及びGのビデオ品質を示している。図15(c)に示す他の関心のある点は、(FEC保護のある)シーケンスGの最後の3つの品質の障害が(FEC保護のない)シーケンスFより小さい点である。これは、2つの連続ブロックからのいくつかのソースRTPパケットがハンドオフ/バースト中に損失したからである。最初のブロックからのものは、FECパケットがハンドオフ/バースト中に同様に損失したため、回復不可能である。第2のブロックからのものは、FECパケットが正確に受信されたため、回復される。   FIG. 15C shows the video quality of sequences F and G when the handoff duration is 1.8 seconds and the FEC delay is 0 seconds. Another interesting point shown in FIG. 15 (c) is that the last three quality impairments of sequence G (with FEC protection) are smaller than sequence F (without FEC protection). This is because some source RTP packets from two consecutive blocks were lost during handoff / burst. The one from the first block is unrecoverable because the FEC packet was similarly lost during handoff / burst. The one from the second block is recovered because the FEC packet was received correctly.

図15(d)は、ビデオシーケンスF及びGの間の品質の比較を示している。FEC遅延は1秒まで増加している。図15dは、1秒のFEC遅延が0.8秒のハンドオフ/バースト持続時間を回復するのに十分であることを示している。しかし、ハンドオフ/バースト持続時間がFEC遅延より増加すると、受信ビデオ品質はもはや保証され得ない。   FIG. 15 (d) shows a quality comparison between video sequences F and G. The FEC delay has increased to 1 second. FIG. 15d shows that a 1 second FEC delay is sufficient to recover a handoff / burst duration of 0.8 seconds. However, when the handoff / burst duration increases beyond the FEC delay, the received video quality can no longer be guaranteed.

図15(e)は、ハンドオフ/バースト持続時間が約1.8秒に設定された場合のビデオシーケンスF及びGの間の品質の比較を示している。この場合、1秒のFEC遅延はもはや十分でない。   FIG. 15 (e) shows a quality comparison between video sequences F and G when the handoff / burst duration is set to about 1.8 seconds. In this case, a one second FEC delay is no longer sufficient.

図15(f)は、ビデオシーケンスF及びGの間の品質の比較を示している。FEC遅延は2秒に増加している。この時間では、ハンドオフ/バースト中にシーケンスGの品質損失は存在しない。ハーフレートのRS符号(N=2K)がこのハンドオフ/バーストの実験で適用された点に留意すべきである。ハーフレートのRS符号により生成されたパリティパケットストリームは、元のビデオパケットストリームの他の記述である。ハンドオフ中に全てのビデオパケットがバーストで損失しても、損失パケットは、対応するパリティパケットのみから回復可能である。システムは、更なるランダムなパケット損失なしに、ビデオストリームとパリティストリームとの間の時間シフトの持続時間までバーストパケット損失からの回復を保証できる。   FIG. 15 (f) shows a quality comparison between video sequences F and G. The FEC delay has increased to 2 seconds. At this time, there is no quality loss of sequence G during handoff / burst. Note that a half-rate RS code (N = 2K) was applied in this handoff / burst experiment. The parity packet stream generated by the half-rate RS code is another description of the original video packet stream. Even if all video packets are lost in bursts during handoff, the lost packets can be recovered only from the corresponding parity packets. The system can guarantee recovery from burst packet loss up to the duration of the time shift between the video stream and the parity stream without further random packet loss.

シーケンスF及びGが0.2秒のハンドオフ持続時間でAWGN環境内で送信されたときに、FECスタガーキャスティングの有効性は、より特徴的に示される。図16は、シーケンスF及びGの間の品質の比較を示している。図16では、シーケンスFのビデオ品質は、完全にその形状を失っているが、シーケンスGの品質は小さい劣化のみを示している。   The effectiveness of FEC stagger casting is more characteristic when sequences F and G are transmitted in an AWGN environment with a handoff duration of 0.2 seconds. FIG. 16 shows a quality comparison between sequences F and G. In FIG. 16, the video quality of sequence F has completely lost its shape, but the quality of sequence G shows only a small degradation.

本発明は、様々な形式のハードウェア、ソフトウェア、ファームウェア、専用目的プロセッサ又はこれらの組み合わせで実装され得ることがわかる。本発明は、ハードウェアとソフトウェアとの組み合わせとして実装されることが好ましい。更に、ソフトウェアは、プログラム記憶装置に具体的に具現されたアプリケーションプログラムとして実装されることが好ましい。アプリケーションプログラムは、何らかの適切な構成を有する機械にアップロードされて、この機械により実行されてもよい。機械は、1つ以上の中央処理装置(CPU)、ランダムアクセスメモリ(RAM)、及び入出力(I/O)インタフェースのようなハードウェアを有するコンピュータプラットフォームで実装されることが好ましい。コンピュータプラットフォームはまた、オペレーティングシステムとマイクロ命令コードとを含む。ここに記載の様々な処理及び機能は、オペレーティングシステムを介して実行されるマイクロ命令コードの一部でもよく、アプリケーションプログラムの一部でもよい(或いはこれらの組み合わせでもよい)。更に、更なるデータ記憶装置及び印刷装置のように、様々な他の周辺装置がコンピュータプラットフォームに接続されてもよい。   It will be appreciated that the invention can be implemented in various forms of hardware, software, firmware, special purpose processors, or combinations thereof. The present invention is preferably implemented as a combination of hardware and software. Furthermore, the software is preferably implemented as an application program that is embodied in a program storage device. The application program may be uploaded to and executed by a machine having any suitable configuration. The machine is preferably implemented on a computer platform having hardware such as one or more central processing units (CPUs), random access memory (RAM), and input / output (I / O) interfaces. The computer platform also includes an operating system and microinstruction code. The various processes and functions described herein may be part of the microinstruction code executed via the operating system, or part of the application program (or a combination thereof). In addition, various other peripheral devices may be connected to the computer platform such as an additional data storage device and a printing device.

添付図面に示す構成要素のシステム構成要素及び方法のステップのいくつかは、ソフトウェアで実装されることが好ましいため、システム構成要素(又は処理ステップ)の間の実際の接続は、本発明がプログラムされる方法に応じて異なり得ることが更にわかる。ここでの教示を前提として、当業者は、本発明の前記及び同様の実装又は構成を考えることができる。   Since some of the system components and method steps of the components shown in the attached drawings are preferably implemented in software, the actual connections between system components (or processing steps) are programmed with the present invention. It can be further seen that it can vary depending on the method used. Given the teachings herein, one of ordinary skill in the related art will be able to contemplate these and similar implementations or configurations of the present invention.

以上の実施例に関し、更に、以下の項目を開示する。   The following items are further disclosed with respect to the above embodiments.

(1)データを送信する方法であって、
前記データをパケット化し、
少なくとも1つのパリティパケットを生成するために前記パケット化データで前方誤り訂正(FEC)符号化を実行し、
前記パケット化データのペイロードデータの終わりにパディングとしてFEC情報を追加し、
前記パケット化データと前記少なくとも1つのパリティパケットとを送信することを有する方法。
(1) A method for transmitting data,
Packetize the data;
Performing forward error correction (FEC) encoding on the packetized data to generate at least one parity packet;
Add FEC information as padding at the end of the payload data of the packetized data,
Transmitting the packetized data and the at least one parity packet.

(2)所定の期間に前記少なくとも1つのパリティパケットの送信を遅延させることを更に有する、(1)に記載の方法。   (2) The method according to (1), further comprising delaying transmission of the at least one parity packet for a predetermined period.

(3)前記送信する動作は、ユーザデータグラムプロトコル(UDP)/インターネットプロトコル(IP)スタックと無線ローカルエリアネットワークインタフェースとを使用して実現される、(1)に記載の方法。   (3) The method according to (1), wherein the transmitting operation is realized using a user datagram protocol (UDP) / Internet protocol (IP) stack and a wireless local area network interface.

(4)データを送信するシステムであって、
前記データをパケット化する手段と、
少なくとも1つのパリティパケットを生成するために前記パケット化データで前方誤り訂正(FEC)符号化を実行する手段と、
前記パケット化データのペイロードデータの終わりにパディングとしてFEC情報を追加する手段と、
前記パケット化データと前記少なくとも1つのパリティパケットとを送信する手段と
を有するシステム。
(4) A system for transmitting data,
Means for packetizing the data;
Means for performing forward error correction (FEC) encoding on the packetized data to generate at least one parity packet;
Means for adding FEC information as padding at the end of the payload data of the packetized data;
Means for transmitting the packetized data and the at least one parity packet.

(5)所定のオフセット時間に前記少なくとも1つのパリティパケットの送信を遅延させる手段を更に有する、(4)に記載のシステム。   (5) The system according to (4), further comprising means for delaying transmission of the at least one parity packet at a predetermined offset time.

(6)前記パケット化データのペイロードの終わりにパディングとしてFEC情報を追加する手段は、FEC符号化モジュールにより実行される、(4)に記載のシステム。   (6) The system according to (4), wherein the means for adding FEC information as padding at the end of the payload of the packetized data is executed by an FEC encoding module.

(7)前記少なくとも1つのパリティパケットを生成するために前記パケット化データで前方誤り訂正(FEC)符号化を実行する手段は、FEC符号化モジュールにより実行される、(4)に記載のシステム。   (7) The system of (4), wherein means for performing forward error correction (FEC) coding on the packetized data to generate the at least one parity packet is performed by a FEC coding module.

(8)パケットの損失から回復する方法であって、
データパケットを受信し、
少なくとも1つのパリティパケットを受信し、
前記受信したデータパケットをバッファに入れ、
パケット損失を検出し、
前記少なくとも1つのパリティパケットを前方誤り訂正復号化し、前記データパケット及び前記少なくとも1つのパリティパケットから抽出された前方誤り訂正情報を使用してパケット損失から回復し、
内部ソケットを介して前記回復パケットを転送することを有する方法。
(8) A method for recovering from packet loss,
Receive data packets,
Receive at least one parity packet;
Buffer the received data packet;
Detect packet loss,
Forward error correction decoding the at least one parity packet and recovering from packet loss using forward error correction information extracted from the data packet and the at least one parity packet;
Transferring the recovery packet via an internal socket.

(9)前記回復パケットからパディングを除去することを更に有する、(8)に記載の方法。   (9) The method according to (8), further comprising removing padding from the recovery packet.

(10)前記回復パケットをパケット化解除することを更に有する、(8)に記載の方法。   (10) The method according to (8), further comprising: depacketizing the recovery packet.

(11)パケットの損失から回復するシステムであって、
データパケットを受信する手段と、
少なくとも1つのパリティパケットを受信する手段と、
前記受信したデータパケットをバッファに入れる手段と、
パケット損失を検出する手段と、
前記少なくとも1つのパリティパケットを前方誤り訂正復号化し、前記データパケット及び前記少なくとも1つのパリティパケットから抽出された前方誤り訂正情報を使用してパケット損失から回復する手段と、
内部ソケットを介して前記回復パケットを転送する手段と
を有するシステム。
(11) A system for recovering from packet loss,
Means for receiving a data packet;
Means for receiving at least one parity packet;
Means for buffering the received data packet;
Means for detecting packet loss;
Means for forward error correction decoding the at least one parity packet to recover from packet loss using forward error correction information extracted from the data packet and the at least one parity packet;
And a means for transferring the recovery packet via an internal socket.

(12)前記回復パケットからパディングを除去する手段を更に有する、(11)に記載のシステム。   (12) The system according to (11), further comprising means for removing padding from the recovery packet.

(13)前記回復パケットをパケット化解除する手段を更に有する、(11)に記載のシステム。   (13) The system according to (11), further comprising means for depacketizing the recovery packet.

(14)第1のデータシーケンスを符号化及び圧縮し、
前記圧縮符号化データシーケンスをパケット化し、データパケットを形成し、
前記第1のデータシーケンスに関する第2のデータシーケンスを生成するために、前記データパケットで前方誤り訂正(FEC)符号化を実行し、
前記データパケットのペイロードデータの終わりにパディングとしてFEC情報を追加し、
前記第2のデータシーケンスをパケット化し、パケットを形成し、
前記データパケットを第1のマルチキャストグループにマルチキャストし、
オフセット時間だけ遅延した前記第2のデータシーケンスを使用して形成された前記パケットを第2のマルチキャストグループにマルチキャストすることを有するスタガーキャスティング方法。
(14) encoding and compressing the first data sequence;
Packetizing the compressed encoded data sequence to form a data packet;
Performing forward error correction (FEC) encoding on the data packet to generate a second data sequence for the first data sequence;
Add FEC information as padding at the end of the payload data of the data packet,
Packetizing said second data sequence to form a packet;
Multicasting the data packet to a first multicast group;
A stagger casting method comprising multicasting the packet formed using the second data sequence delayed by an offset time to a second multicast group.

(15)前記第2のデータシーケンスは、パリティパケットである、(14)に記載の方法。   (15) The method according to (14), wherein the second data sequence is a parity packet.

Claims (2)

データを送信する方法であって、
前記データをパケット化し、
パリティパケットを生成するために前記パケット化データで前方誤り訂正(FEC)符号化を実行し、
前記パケット化データのペイロードデータの終わりにパディングとして、パディング長とソースブロック番号と符号化単位IDとを含むFEC制御情報を追加し、ここで、前記パディング長は、前記FEC制御情報を形成するオクテットの量を示し、
非FECシステムとの後方互換性を可能にする前記FEC制御情報を含む前記パケット化データと前記パリティパケットとを送信することを有する方法。
A method for transmitting data,
Packetize the data;
Performing forward error correction (FEC) coding on the packetized data to generate a parity packet;
FEC control information including a padding length, a source block number, and a coding unit ID is added as padding at the end of payload data of the packetized data, where the padding length is an octet that forms the FEC control information The amount of
Transmitting the packetized data including the FEC control information and the parity packet to enable backward compatibility with non-FEC systems .
データを送信するシステムであって、
前記データをパケット化する手段と、
パリティパケットを生成するために前記パケット化データで前方誤り訂正(FEC)符号化を実行する手段と、
前記パケット化データのペイロードデータの終わりにパディングとして、パディング長とソースブロック番号と符号化単位IDとを含むFEC制御情報を追加する手段であり、前記パディング長は、前記FEC制御情報を形成するオクテットの量を示す手段と、
非FECシステムとの後方互換性を可能にする前記FEC制御情報を含む前記パケット化データと前記パリティパケットとを送信する手段と
を有するシステム。
A system for transmitting data,
Means for packetizing the data;
Means for performing forward error correction (FEC) encoding on the packetized data to generate a parity packet;
A means for adding FEC control information including a padding length, a source block number, and a coding unit ID as padding at the end of payload data of the packetized data , wherein the padding length is an octet forming the FEC control information Means for indicating the amount of
A system comprising: means for transmitting the packetized data including the FEC control information and the parity packet enabling backward compatibility with a non-FEC system.
JP2012256278A 2012-11-22 2012-11-22 Recovering from burst packet loss in internet protocol based wireless networks using stagger casting and cross-packet forward error correction Expired - Fee Related JP5755213B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012256278A JP5755213B2 (en) 2012-11-22 2012-11-22 Recovering from burst packet loss in internet protocol based wireless networks using stagger casting and cross-packet forward error correction

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012256278A JP5755213B2 (en) 2012-11-22 2012-11-22 Recovering from burst packet loss in internet protocol based wireless networks using stagger casting and cross-packet forward error correction

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2009521726A Division JP5184527B2 (en) 2006-07-25 2006-07-25 Recovering from burst packet loss in internet protocol based wireless networks using stagger casting and cross-packet forward error correction

Publications (2)

Publication Number Publication Date
JP2013070418A JP2013070418A (en) 2013-04-18
JP5755213B2 true JP5755213B2 (en) 2015-07-29

Family

ID=48475519

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012256278A Expired - Fee Related JP5755213B2 (en) 2012-11-22 2012-11-22 Recovering from burst packet loss in internet protocol based wireless networks using stagger casting and cross-packet forward error correction

Country Status (1)

Country Link
JP (1) JP5755213B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IT201800020044A1 (en) * 2018-12-18 2020-06-18 Ablio S R L END-TO-END SYSTEM FOR STREAMING MULTIMEDIA CONTENT ON WIRELESS NETWORKS

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6952726B2 (en) 2019-01-07 2021-10-20 株式会社東芝 Communication equipment, communication methods, communication programs, and communication systems
CN114070459B (en) * 2020-08-04 2023-11-07 成都鼎桥通信技术有限公司 Data transmission method, device, terminal equipment and storage medium

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3711630B2 (en) * 1996-06-06 2005-11-02 ソニー株式会社 RECORDING DATA TRANSMITTING DEVICE, REPRODUCING DATA RECEIVING DEVICE, RECORDING / REPRODUCING DATA TRANSMITTING DEVICE, RECORDING DATA TRANSMITTING METHOD, AND REPRODUCING DATA RECEIVING METHOD
GB0015454D0 (en) * 2000-06-26 2000-08-16 Koninkl Philips Electronics Nv Data delivery through beacons
US6707801B2 (en) * 2001-03-28 2004-03-16 Qualcomm Incorporated Method and apparatus for data transport in a wireless communication system
US7343540B2 (en) * 2002-04-25 2008-03-11 Pmc - Sierra Israel Ltd. Forward error correction coding in ethernet networks
KR100458878B1 (en) * 2002-05-03 2004-12-03 학교법인 경희대학교 Method for transmitting and receiving a variable size packet based on foward error correction coding
US7318187B2 (en) * 2003-08-21 2008-01-08 Qualcomm Incorporated Outer coding methods for broadcast/multicast content and related apparatus
US7660245B1 (en) * 2004-09-16 2010-02-09 Qualcomm Incorporated FEC architecture for streaming services including symbol-based operations and packet tagging

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IT201800020044A1 (en) * 2018-12-18 2020-06-18 Ablio S R L END-TO-END SYSTEM FOR STREAMING MULTIMEDIA CONTENT ON WIRELESS NETWORKS
WO2020128715A1 (en) * 2018-12-18 2020-06-25 Ablio S.R.L. End-to-end system for streaming of multimedia contents on wireless networks

Also Published As

Publication number Publication date
JP2013070418A (en) 2013-04-18

Similar Documents

Publication Publication Date Title
JP5184527B2 (en) Recovering from burst packet loss in internet protocol based wireless networks using stagger casting and cross-packet forward error correction
EP2518910B1 (en) Seamless handover of multicast sessions in internet protocol based wireless networks using staggercasting
US8826102B2 (en) Method and system for adapting forward error correction in multicast over wireless networks
EP2912845A1 (en) Enhanced video streaming with application layer forward error correction
JP5755213B2 (en) Recovering from burst packet loss in internet protocol based wireless networks using stagger casting and cross-packet forward error correction
KR101953580B1 (en) Data Transceiving Apparatus and Method in Telepresence System
Nazir et al. Unequal error protection for data partitioned H. 264/AVC video streaming with Raptor and Random Linear Codes for DVB-H networks
Liu et al. A staggered FEC system for seamless handoff in wireless LANs: implementation experience and experimental study
Makharia et al. Experimental study on wireless multicast scalability using merged hybrid ARQ with staggered adaptive FEC
Liu et al. A SYSTEM FOR ROBUST VIDEO MULTICAST OVER WIRELESS LANS
CA2791231C (en) Seamless handover of multicast sessions in internet protocol based wireless networks using staggercasting
Lamy-Bergot et al. Joint optimisation of multimedia transmission over an IP wired/wireless link
Carlsson et al. Intelligent systems and soft computing
Makharia Video multicast over wireless local area networks

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131210

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140310

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140902

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150428

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150526

R150 Certificate of patent or registration of utility model

Ref document number: 5755213

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees