JP2010258541A - Multimedia video transmission system and method - Google Patents

Multimedia video transmission system and method Download PDF

Info

Publication number
JP2010258541A
JP2010258541A JP2009103448A JP2009103448A JP2010258541A JP 2010258541 A JP2010258541 A JP 2010258541A JP 2009103448 A JP2009103448 A JP 2009103448A JP 2009103448 A JP2009103448 A JP 2009103448A JP 2010258541 A JP2010258541 A JP 2010258541A
Authority
JP
Japan
Prior art keywords
packet
node
rate
source
packet stream
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009103448A
Other languages
Japanese (ja)
Inventor
Gene Cheung
チョン ジーン
Sweeney Michael
スウィニー マイケル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hewlett Packard Development Co LP
Original Assignee
Hewlett Packard Development Co LP
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hewlett Packard Development Co LP filed Critical Hewlett Packard Development Co LP
Priority to JP2009103448A priority Critical patent/JP2010258541A/en
Publication of JP2010258541A publication Critical patent/JP2010258541A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Detection And Prevention Of Errors In Transmission (AREA)
  • Mobile Radio Communication Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To solve problems wherein in a multimedia-broadcast-multicast service, when a high-quality multimedia stream signal is provided by a wireless WAN, (1) a packet loss occurs in the transmission of the wireless WAN, (2) a large amount of NAK occurs, if a retransmission request of the packet loss is performed, which a system cannot accommodate to, and (3) unbalance of a reception quality in an FEC occurs. <P>SOLUTION: (1) Within a node assembly constituting an ad-hoc network, nodes exchange packets received between wireless LANs, after a subset of different packets is received from a multimedia source. (2) Strain ratio based on a packet loss rate in each node is calculated, and a multimedia packet stream is transmitted at a source packet rate which makes the strain rate minimum. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

ワイヤレス広域エリアネットワークでの高品質マルチメディアパケットストリームのマルチキャスト送信に関する。 The present invention relates to multicast transmission of high quality multimedia packet streams in wireless wide area networks.

マルチメディアソースから、マルチメディアストリーム信号をワイヤレス広域エリアネットワーク(以下、ワイヤレスWANと呼ぶ)を使用して、受信側ノード集合へ送信することはよく行われている。この場合ワイヤレスWANでの送信中にパケット損失が生じることがある。このパケット損失をカバーするために、各ノードからフィードバック方式で再送信要求を行うと、多量のNAK(ネガティブアック)が送信され、システムの対応が出来なくなる場合が生じる。これを避けるために前方誤り訂正(FORWARD ERROR CORRECTION、以下、FECと呼ぶ。)がよく用いられている。FECは送信側からデータの再送を行わず、その代わりに損失したパケットを回復することが出来るFECパケットを送信し、受信側でFECパケットを利用して送信中に損失したパケットを修復する方法である。FECにおいて、ソースパケットの線形結合によってFECパケットを作成することを「ネットワークコーディング」と呼ぶ。FECは例えば、動画や音声のデータを送る場合ような用途の通信でよく使われる。FECを使えば、受信側はデータが再送されてくるのを待つ必要が無く、誤りによる遅延が小さくなるので、表示のタイミングに遅れることなく動画を表示することが出来る。   It is common to send multimedia stream signals from multimedia sources to a set of receiving nodes using a wireless wide area network (hereinafter referred to as wireless WAN). In this case, packet loss may occur during transmission over the wireless WAN. In order to cover this packet loss, if a retransmission request is made from each node by a feedback method, a large amount of NAK (negative ack) is transmitted, and the system may not be able to handle. In order to avoid this, forward error correction (FORWARD ERROR CORRECTION, hereinafter referred to as FEC) is often used. FEC does not retransmit data from the sending side, but instead sends FEC packets that can recover lost packets, and uses the FEC packets on the receiving side to repair lost packets during transmission. is there. In FEC, creating an FEC packet by linear combination of source packets is called “network coding”. For example, FEC is often used in communications for applications such as sending moving image or audio data. If the FEC is used, the receiving side does not need to wait for the data to be retransmitted, and the delay due to the error is reduced, so that the moving image can be displayed without delaying the display timing.

2008年7月2日付米国出願、Appl No. 12/166998、発明の名称:”Distribution Of Packets Among A Plurality Of Nodes”、発明者Gene CheungUS application dated July 2, 2008, Appl No. 12/166998, title of invention: “Distribution Of Packets Among A Plurality Of Nodes”, inventor Gene Cheung

S. Raza, D. Li, C.-N. Chuah, and G. Cheung, ”Cooperative peer-to-peer repair for wireless multimedia broadcast,” in IEEE International Conference on Multimedia and Expo, Beijing, China, July 2007.S. Raza, D. Li, C.-N. Chuah, and G. Cheung, “Cooperative peer-to-peer repair for wireless multimedia broadcast,” in IEEE International Conference on Multimedia and Expo, Beijing, China, July 2007. X. Liu, S. Raza, C.-N. Chuah, and G. Cheung, ”Network coding based cooperative peer-to-peer repair in wireless ad-hoc networks,” in IEEE International Conference on Communications, Beijing, China, May 2008.X. Liu, S. Raza, C.-N. Chuah, and G. Cheung, “Network coding based cooperative peer-to-peer repair in wireless ad-hoc networks,” in IEEE International Conference on Communications, Beijing, China, May 2008. X. Liu, G. Cheung, and C.-N. Chuah, ”Rate-distortion optimized network coding for cooperative video stream repair in wireless peer-to-peer Networks,” in 1st IEEE Workshop on Mobile Video Delivery, NewportBeach, CA, June 2008.X. Liu, G. Cheung, and C.-N. Chuah, “Rate-distortion optimized network coding for cooperative video stream repair in wireless peer-to-peer Networks,” in 1st IEEE Workshop on Mobile Video Delivery, NewportBeach, CA , June 2008. ”Structured network coding and cooperative local peer-to-peer repair for MBMS video streaming,” in IEEE 2008 International Workshopon Multimedia Signal Processing, Cairns, Queensland, Australia, October 2008.“Structured network coding and cooperative local peer-to-peer repair for MBMS video streaming,” in IEEE 2008 International Workshopon Multimedia Signal Processing, Cairns, Queensland, Australia, October 2008.

3Gネットワークのマルチメディア・ブロードキャスト・マルチキャスト・サービス(Multimedia Broadcast/Multicast Service、MBMS)の様な送信サービスにおいて、ワイヤレスWANで、継続した高品質のマルチメディアストリーム信号を送信する場合、以下のような技術的な問題点がある。
1.ワイヤレスWANでの送信において、一時的なワイヤレスリンクの遮断により、パケット損失が生じる。
2.パケット損失をカバーするために、フィードバック方式で再送信要求を行うと、多量のNAK(ネガティブアック)が発生し、システムが対応できなくなる問題が発生する。
When transmitting a continuous high-quality multimedia stream signal over a wireless WAN in a transmission service such as 3G network multimedia broadcast / multicast service (MBMS), the following technologies There are some problems.
1. In transmission over the wireless WAN, temporary loss of the wireless link causes packet loss.
2. If a retransmission request is made in a feedback manner to cover packet loss, a large amount of NAK (negative ack) occurs, causing a problem that the system cannot cope.

これらにより、再送信がうまく行かないために、高品質のビデオ・マルチキャス送信をフィードバック方式で行うことには問題がある。これらの問題を解決するために、前述のFECがある。しかし従来方法のFECでは、以下の問題がある。
3.選択されたn番目のユーザをターゲットとしているために、ターゲットとするn番目ユーザよりも悪い受信状況のユーザは、実質的なチャンネルの損失によりパケット損失に悩まされる。一方これより受信状況の良いユーザは、必要以上のチャンネル符号化のデータを受取ることになる。
As a result, since retransmission does not succeed, there is a problem in performing high-quality video multicast transmission in a feedback manner. In order to solve these problems, there is the aforementioned FEC. However, the conventional FEC has the following problems.
3. Since targeting the selected nth user, a user with a reception situation worse than the targeted nth user suffers from packet loss due to substantial channel loss. On the other hand, a user with better reception status receives data of channel encoding more than necessary.

[システム]
以上の問題を解決するために、本願発明ではシステムとして以下の手段を開示する。
マルチメディアソース、及び、各ノード間で相互に送受信を行うアドホックネットワークを形成しているノード集合を含むシステムであって、
(1)マルチメディアソースは、以下の手段を含み、
(a)各ノードでの、マルチメディアソースから各ノードへのパケットストリーム送信時における損失確率、及び、ノード間での受信パケットに基づいて生成されたパケットの相互交換によるパケットストリーム修復した後の損失確率の入力を、受入れる手段、
(b)所与のソースパケットをエンコードする場合のひずみ低減係数、前記マルチメディアソースから各ノードへのパケットストリーム送信時における損失確率、及び、ノード間での修復後の損失確率に基づいて、ひずみ率を求める手段、
(c)所与の帯域制限のもとで、ソースパケットレートを変更しながら、ひずみ率を最小にするソースパケットレートを求める手段、
(d)前記ひずみ率を最小にするソースパケットレートに従ってパケットストリームを送信する手段、さらに、
(2)ノード集合は、以下の手段を含む、
(e)各ノードが、前記パケットストリームを受信し、ノード間での受信パケットに基づいて生成されたパケットの相互交換によるパケットストリームを修復する手段、
(f)各ノードが、デコーディングを行いパケットストリームを再生する手段。
[system]
In order to solve the above problems, the present invention discloses the following means as a system.
A system including a multimedia source and a node set forming an ad hoc network that performs transmission and reception between nodes,
(1) The multimedia source includes the following means:
(A) Loss after packet stream is repaired by mutual exchange of packets generated based on received packets between nodes, and loss probability during transmission of packet stream from multimedia source to each node at each node Means to accept the input of probability,
(B) distortion based on a distortion reduction coefficient when encoding a given source packet, a loss probability at the time of packet stream transmission from the multimedia source to each node, and a loss probability after repair between nodes A means of determining the rate,
(C) means for determining a source packet rate that minimizes the distortion rate while changing the source packet rate under a given bandwidth limitation;
(D) means for transmitting a packet stream according to a source packet rate that minimizes the distortion rate; and
(2) The node set includes the following means:
(E) means for each node to receive the packet stream and repair a packet stream by exchanging packets generated based on received packets between the nodes;
(F) Means for each node to decode and reproduce the packet stream.

[方法]
以上の問題を解決するために、本願発明では以下のシステムで使用される方法を開示する。
マルチメディアソースから送信されたパケットストリームを、各ノード間で相互に送受信を行うアドホックネットワークを形成しているノード集合で、受信し再生する方法、
(a)前記マルチメディアソースが、各ノードでの、マルチメディアソースから各ノードへのパケットストリーム送信時における損失確率、及び、ノード間での受信パケットに基づいて生成されたパケットの相互交換によるパケットストリーム修復した後の損失確率の入力を、受入れるステップ、
(b)マルチメディアソースが、所与のソースパケットをエンコードする場合のひずみ低減係数、前記マルチメディアソースから各ノードへのパケットストリーム送信時における損失確率、及び、ノード間での修復後の損失確率に基づいて、ひずみ率を求めるステップ、さらに、
(c)マルチメディアソースが、所与の帯域制限のもとで、ソースパケットレートを変更しながら、ひずみ率を最小にするソースパケットレートを求めるステップ、
(d)マルチメディアソースが、前記ひずみ率を最小にするソースパケットレートに従ってパケットストリームを送信するステップ、
(e)各ノードが、前記パケットストリームを受信し、ノード間での受信パケットに基づいて生成されたパケットの相互交換によるパケットストリームを修復するステップ、
(f)各ノードが、デコーディングを行いパケットストリームを再生するステップ。
[Method]
In order to solve the above problems, the present invention discloses a method used in the following system.
A method of receiving and playing back a packet stream transmitted from a multimedia source at a node set forming an ad hoc network that transmits and receives between each node;
(A) The multimedia source is a packet obtained by mutual exchange of packets generated based on the loss probability at the time of packet stream transmission from the multimedia source to each node at each node and the received packets between the nodes. Accepting the input of loss probability after stream repair,
(B) Distortion reduction coefficient when a multimedia source encodes a given source packet, loss probability at the time of packet stream transmission from the multimedia source to each node, and loss probability after repair between nodes Obtaining a strain rate based on
(C) the multimedia source determines a source packet rate that minimizes the distortion rate while changing the source packet rate under a given bandwidth limit;
(D) a multimedia source transmits a packet stream according to a source packet rate that minimizes the distortion rate;
(E) Each node receives the packet stream, and repairs a packet stream by exchanging packets generated based on received packets between the nodes;
(F) Each node performs decoding and reproduces the packet stream.

[発明の効果]
本願発明では、FECを使用して、マルチメディアソースから複数のノード集合へのパケット配信において、ひずみ率を最小にするソースパケットレートを求め、その求められたソースパケットレートで、マルチメディアパケットストリームを送信する。さらに、その送信されたパケットストリームをノード集合内でCPRを行い、パケットストリームを修復した後で再生するシステム・方法を開示する。本願発明には以下のような主な2つの有効性がある。
1.PSNR(Peak Signal to Noise Ratio)の改善
シミュレーション実験では、従来のJSCC(結合ソース・チャンネルコーディング)方法と比較して、マルチメディアソースとノード集合と全体で最適化を行ったネットワークコーディングのみを行い、ワイヤレスLANでのノード間(P2P間)でのデータ修復方法(CPR)を行わなかった場合には、PSNRが9.2dB改善されたこと検証された。
また、ノード間(P2P間)でのデータ修復方法(CPR)を用いた場合であって、マルチメディアソースとノード集合とで、ネットワークコーディングが別個に行われたときと比較して、本願発明に従ってマルチメディアソースとノード集合と全体で最適化を行った場合には、PSNRが3.7dB改善されたことが検証された。
2.マルチメディアソースから受信したパケットを集合内の他ノードに送信する場合、転送する前に、各ノードでFECを行って他ノードに送信し、マルチメディアソースからの送信、及び、集合内の各ノードでのパケットの修復が完了した後で、デコーディングを行う。その結果、マルチメディアソースから受信したパケットでコーディングを行うためには、十分でない数のパケットを受信したノードであっても、直ちに、ノード集合内でのパケットの修復(CPR)に対応することが出来る。
[The invention's effect]
In the present invention, FEC is used to determine a source packet rate that minimizes a distortion rate in packet distribution from a multimedia source to a plurality of node sets, and the multimedia packet stream is obtained at the determined source packet rate. Send. Further, a system and method for performing the CPR on the transmitted packet stream in the node set and repairing the packet stream is disclosed. The present invention has two main effects as follows.
1. PSNR (Peak Signal to Noise Ratio) Improvement In the simulation experiment, compared to the conventional JSCC (Joint Source / Channel Coding) method, only the multimedia coding and the node set and the entire network coding optimized are performed. When the data restoration method (CPR) between nodes (between P2P) in wireless LAN was not performed, it was verified that PSNR was improved by 9.2 dB.
In addition, in the case of using the data restoration method (CPR) between nodes (between P2P), compared to the case where network coding is separately performed between the multimedia source and the node set, according to the present invention. It was verified that the PSNR was improved by 3.7 dB when optimization was performed for the multimedia source and the node set as a whole.
2. When a packet received from a multimedia source is transmitted to another node in the set, before forwarding, each node performs FEC and transmits to the other node, transmission from the multimedia source, and each node in the set Decoding is performed after repair of the packet is completed. As a result, in order to code with packets received from a multimedia source, even a node that receives an insufficient number of packets can immediately support packet repair (CPR) within the node set. I can do it.

本発明を実施するシステムの概要図である。1 is a schematic diagram of a system for implementing the present invention. 本発明ので用いられるコンピュータブロック図である。It is a computer block diagram used by this invention. 本発明でのノード集合でのデータ処理を示す図である。It is a figure which shows the data processing in the node set in this invention. 本発明でのマルチメディアソースのソフトウェア構成図である。It is a software block diagram of the multimedia source in this invention. 本発明での全体の処理を示すフローチャートである。It is a flowchart which shows the whole process in this invention. 本発明でのノードでの損失率を求めるフローチャートである。It is a flowchart which calculates | requires the loss rate in the node in this invention. 本発明でのストリームの修復に関するフローチャートである。It is a flowchart regarding restoration of a stream in the present invention. 本発明でのノードのソフトウェア構成図である。It is a software block diagram of the node in this invention. 本発明での実験結果を示す図である。It is a figure which shows the experimental result in this invention.

[システム全体の構成]
以下に本願発明の最良の形態を説明する。図1はシステム全体のハードウェア構成を示す図である。本願明細書で開示するシステム100は、マルチメディアソース110、及び、ノード集合120を含む。マルチメディアソース110はノード集合120にマルチメディアストリームをワイヤレスWANで送信する。ノード集合120には複数のノードが含まれており、それぞれのノードがマルチメディアストリームを受信する。ノードの例としては、パソコン、ノートパソコン、PDA(Persona Data Assistant)、携帯電話端末機などが挙げられるがこれらには限られない。ここでは各ノードはノード間で相互に送受信を行うアドホックネットワークを形成している。アドホックネットワークとは、アクセスポイントを必要としない、無線で接続できるノードのみで構成されたネットワークを言う。
[System-wide configuration]
The best mode of the present invention will be described below. FIG. 1 is a diagram showing a hardware configuration of the entire system. The system 100 disclosed herein includes a multimedia source 110 and a node set 120. The multimedia source 110 transmits the multimedia stream to the node set 120 over the wireless WAN. The node set 120 includes a plurality of nodes, and each node receives a multimedia stream. Examples of the node include, but are not limited to, a personal computer, a notebook personal computer, a PDA (Persona Data Assistant), and a mobile phone terminal. Here, each node forms an ad hoc network in which nodes transmit and receive each other. An ad hoc network is a network composed of only nodes that do not require an access point and can be connected wirelessly.

[コンピュータ内部ハードウェア構成図]
図2は、本願発明を実施する、送信側マルチメディアソース110、及び、ノード集合120の各ノードA−D122aのコンピュータ内部ハードウェア構成図を示す。コンピュータを用いたこれらの装置はプロセッサー302を有し、本願発明で実施されるプログラムが実行される。プロセッサー302からデータ及びコマンドはコミュニケーションバス304を通して送られる。コンピュータ300はまた、RAMに代表されるメインメモリ306を有し、ここでプログラムコードが実行される。2次メモリー308には、例えば、一つ以上のハードディスク310、あるいは、フレキシブルディスクドライブ、磁気テープドライブ、CDディスクドライブなどのリムーバブルストレージドライブ312を有している。ここでは、本願発明を実施するプログラムコードが格納される。
[Computer internal hardware configuration diagram]
FIG. 2 shows a computer internal hardware configuration diagram of the transmitting-side multimedia source 110 and each node AD 122a of the node set 120 that implements the present invention. These apparatuses using a computer have a processor 302, and a program executed in the present invention is executed. Data and commands are sent from the processor 302 through the communication bus 304. The computer 300 also has a main memory 306 typified by RAM, where program code is executed. The secondary memory 308 includes, for example, one or more hard disks 310 or a removable storage drive 312 such as a flexible disk drive, a magnetic tape drive, and a CD disk drive. Here, the program code for implementing the present invention is stored.

ユーザI/Oデバイスは、キーボード316、マウス318、ディスプレー320などを含んでいる。ディスプレーアダプター322は、コミュニケーションバス304とディスプレー320とのインターフェースを行い、プロセッサー302からのデータを受信し、ディスプレー320のために表示コマンドに変換する。さらに、プロセッサー302は、ネットワークアダプター324を通して、例えば、インターネット及びLAN等と通信する。   User I / O devices include a keyboard 316, a mouse 318, a display 320, and the like. Display adapter 322 interfaces communication bus 304 and display 320, receives data from processor 302 and converts it to display commands for display 320. Further, the processor 302 communicates with, for example, the Internet and a LAN through the network adapter 324.

[ノードのハードウェア構成]
図3は、本願発明の受信側ノードのハードウェア構成ブロック図である。マルチメディアソース110は、ノード集合120へ、パケットストリーム132を送信する。一例としてノードA122aでそれらの信号を受信する場合について説明する。ノードA122aは、ワイヤレスWANのインターフェース152で、パケットストリームを受信し、そのデータをデータストア154に格納する。ここで、受信したパケットストリームは、マルチメディアソースからの送信損失により、多くの場合、全てのパケットストリームを受信できないことに注意されたい。またそのデータは、コントローラ158に送信され受信したパケットストリームに基づいて、ネットワークコーディングを行いFECパケットを作成する。受信したソースパケット及び作成されたFECパケットは、ワイヤレスLANインターフェース156へ送信され、そこからノード集合内の他のノードN122nへ送信される。
[Node hardware configuration]
FIG. 3 is a block diagram of the hardware configuration of the receiving side node of the present invention. Multimedia source 110 transmits packet stream 132 to node set 120. As an example, a case where the node A 122a receives these signals will be described. The node A 122 a receives the packet stream at the wireless WAN interface 152 and stores the data in the data store 154. Here, it should be noted that the received packet stream often cannot receive all packet streams due to transmission loss from the multimedia source. In addition, the data is subjected to network coding based on the received packet stream transmitted to the controller 158 to create an FEC packet. The received source packet and the created FEC packet are transmitted to the wireless LAN interface 156, and from there to the other node N122n in the node set.

[CPRによるストリームの修復]
ノードN122nが、マルチメディアソース110から受信したパケットストリーム132は、前述のように、全てのパケットストリームを受信出来ないことが多い。ノードN122nは、ノードAから受信したパケットストリームを利用して、ノードN122nがマルチメディアソースから受信したマルチメディアストリームを修復する。このように、マルチメディアソースから複数のノードからなるノード集合へパケットストリームを送信する場合において、これらを受信したノード集合内で自己の受信したパケットを、ノード集合内の他のノードに送信し、集合内の各ノードは自己が受信していないパケットを取り込み、パケットストリームの修復を行う。これを本願明細書ではCPR(Corporate Peer-to-Peer Repair、ピア間協調修復)と呼ぶ。
[Repair stream with CPR]
In many cases, the packet stream 132 received from the multimedia source 110 by the node N 122n cannot receive all the packet streams. The node N122n uses the packet stream received from the node A to repair the multimedia stream received by the node N122n from the multimedia source. Thus, in the case of transmitting a packet stream from a multimedia source to a node set consisting of a plurality of nodes, the packet received by itself in the node set that has received these is transmitted to other nodes in the node set, Each node in the set takes in packets that it has not received and repairs the packet stream. This is called CPR (Corporate Peer-to-Peer Repair) in this specification.

[ノードのソフトウェア構成]
図8は、ノードのソフトウェア構成を示す図である。以下のようなソフトウェアモジュールを含む。送受信部252、アドホックネットワーク生成部254、パケットデータ解析部256、ストリームデータ解析部258、受信パケットストア部260、ストリーム修復部262、デコーディング部264、ストリーム再生部268、ネットワークエンコーディング部266が含まれる。
ここで、送受信部252、は、マルチメディアソース110からのパケットデータストリームデータの受信、及び、他のノードからのパケットデータの受信を行うとともに、自己が受信したパケットデータの他のノードへの送信、自己が受信したパケットの損失率、及び、CPRによるストリーム修復後のパケット損失率を送信する。
[Node software configuration]
FIG. 8 is a diagram illustrating a software configuration of the node. The following software modules are included. A transmission / reception unit 252, an ad hoc network generation unit 254, a packet data analysis unit 256, a stream data analysis unit 258, a received packet store unit 260, a stream restoration unit 262, a decoding unit 264, a stream reproduction unit 268, and a network encoding unit 266 are included. .
Here, the transmission / reception unit 252 receives packet data stream data from the multimedia source 110 and receives packet data from other nodes, and transmits packet data received by itself to other nodes. The packet loss rate received by itself and the packet loss rate after stream restoration by CPR are transmitted.

アドホックネットワーク生成部254について説明する。本願発明では、ノード集合内で相互にパケットの交換を行うために、ノード集合内でアドホックネットワークを構成する。そのためにアドホックネットワーク生成部がノード集合内の他のノードとのアドホックネットワークを形成する。 The ad hoc network generation unit 254 will be described. In the present invention, an ad hoc network is configured within a node set in order to exchange packets with each other within the node set. For this purpose, the ad hoc network generator forms an ad hoc network with other nodes in the node set.

パケットデータ解析部256は、他のノードから送信されたパケットが正常に受信されたか否かを解析する。正常に受信されたパケットをストリーム修復部262へ送る。 The packet data analysis unit 256 analyzes whether or not a packet transmitted from another node has been normally received. The normally received packet is sent to the stream repair unit 262.

ストリームデータ解析部258は、マルチメディアソース110から送信されたマルチメディアストリームが正し受信されたか否かを解析する。正しく受信された部分を受信パケットストア部260へ送る。また、必要に応じて受信時のストリームの損失率を計算し送受信部252へ送る。 The stream data analysis unit 258 analyzes whether the multimedia stream transmitted from the multimedia source 110 has been received correctly. The correctly received part is sent to the reception packet store unit 260. Also, if necessary, the loss rate of the stream at the time of reception is calculated and sent to the transmission / reception unit 252.

受信パケットストア部260は、正しく受信されたストリームパケットを格納する。 The reception packet store unit 260 stores stream packets that are correctly received.

ストリーム修復部262は、受信パケットストア部260から送られるストリームパケットの中で、欠落したパケットを確認し、パケットデータ解析部256から送られるパケットデータを用いて修復が出来るか否かを判断し、修復が出来る場合には修復する。また、必要に応じて修復後のストリームの損失率を計算し送受信部252へ送る。 The stream restoration unit 262 confirms the missing packet among the stream packets sent from the received packet store unit 260, determines whether or not the packet can be restored using the packet data sent from the packet data analysis unit 256, If repair is possible, repair. Further, if necessary, the loss rate of the restored stream is calculated and sent to the transmission / reception unit 252.

デコーディング部264は、修復されたストリームデータをデコーディングする。 The decoding unit 264 decodes the repaired stream data.

ストリーム再生部268は、デコーディングされたパケットストリームを再生する。 The stream reproduction unit 268 reproduces the decoded packet stream.

ネットワークエンコーディング部266は、受信パケットストア部260から送られる正常に受信されたパケットを用いて、さらに、エンコーディングを行い送受信部252へ送る。 The network encoding unit 266 further performs encoding using the normally received packet sent from the reception packet store unit 260 and sends the packet to the transmission / reception unit 252.

[マルチメディアソースの構成図]
図4は、マルチメディアソース110のソフトウェア構成図である。
マルチメディアソース110は、データ送受信部162、パケット損失率入力部164、ノードパケット損失率計算部166、ひずみ率計算部168、ネットワークコード計算部170、マルチメディアパケットストリーム生成部172、マルチメディアデータ管理部174、マルチメディアデータ格納部176を含む。
[Configuration diagram of multimedia source]
FIG. 4 is a software configuration diagram of the multimedia source 110.
The multimedia source 110 includes a data transmission / reception unit 162, a packet loss rate input unit 164, a node packet loss rate calculation unit 166, a distortion rate calculation unit 168, a network code calculation unit 170, a multimedia packet stream generation unit 172, and multimedia data management. Section 174 and multimedia data storage section 176.

データ送受信部162は、ノード集合へマルチメディアストリームへの送信、及び、各ノードからのパケット損失に関するデータを受信する。それらのデータが既知である場合には、それらのデータをパケット損失率入力部164からマルチメディアソースに入力する。ノードパケット損失率計算部166は、各ノードから送信されたマルチメディアストリームの受信時の損失率、及び、CPR修復後のマルチメディアストリームの損失率を計算する。 The data transmission / reception unit 162 receives data relating to transmission to the multimedia stream to the node set and packet loss from each node. If the data is known, the data is input from the packet loss rate input unit 164 to the multimedia source. The node packet loss rate calculation unit 166 calculates a loss rate at the time of receiving a multimedia stream transmitted from each node and a loss rate of the multimedia stream after CPR repair.

ひずみ率計算部168は、後述のひずみ率の定義に従って、ひずみ率を求める。 The strain rate calculation unit 168 calculates the strain rate according to the definition of the strain rate described later.

ネットワークコード計算部170は、ひずみ率計算部168で計算されたひずみ率について、R(ソースパケットレート)を変更しながら、ひずみ率を計算しそれを最小とするRを求めて、ネットワークコードを決定する。 The network code calculation unit 170 calculates the distortion rate for the distortion rate calculated by the distortion rate calculation unit 168 while changing R s (source packet rate) and obtains R s that minimizes the distortion rate. To decide.

マルチメディアデータ格納部176は、送信するマルチメディアパケットデータストリームが格納されている。これらのデータはマルチメディアデータ管理部174へ送られる。 The multimedia data storage unit 176 stores a multimedia packet data stream to be transmitted. These data are sent to the multimedia data management unit 174.

マルチメディアデータ管理部174は、マルチメディアデータ格納部176を管理するとともに、マルチメディアデータ格納部176から送られてきたデータを、マルチメディアパケットデータストリーム生成部172へ送る。 The multimedia data management unit 174 manages the multimedia data storage unit 176 and sends the data sent from the multimedia data storage unit 176 to the multimedia packet data stream generation unit 172.

マルチメディアパケットデータストリーム生成部172は、ネットワークコード計算部170で決定されたネットワークコードに従ってマルチメディアパケットデータストリームを生成する。 The multimedia packet data stream generation unit 172 generates a multimedia packet data stream according to the network code determined by the network code calculation unit 170.

[FEC]
本願発明では、マルチメディアソースからノード集合へ送信する場合、及び、ノード集合内でCPRによるパケットストリーム修復の場合に、ネットワークコーディングを行う。FECは送信側からデータの再送を行わず、その代わり損失したパケットを回復することが出来るFECパケットを送信し、受信側でFECパケットを利用して送信中に損失したパケットを回復する方法である。FECにおいて、FECパケットを作成する場合に、ソースパケットの線形結合によって作成することをネットワークコーディングと呼ぶ。
[FEC]
In the present invention, network coding is performed in the case of transmission from a multimedia source to a node set and in the case of packet stream restoration by CPR in the node set. FEC is a method of transmitting an FEC packet that can recover a lost packet instead of retransmitting data from the transmitting side, and recovering the lost packet during transmission using the FEC packet on the receiving side. . In FEC, when an FEC packet is created, creation by linear combination of source packets is called network coding.

(1)マルチメディアソース送信時のFEC
ここでは、マルチメディアソースから5個のパケットを送信する場合を例にとって説明する。5個のパケットのうち3個がソースパケット(s1、s2、s3)であり、2個がFECパケット(c4、c5)であると仮定する。
マルチメディアソースで生成されるパケットPC(S)を次のように定義する。
PC(S)={s1、s2,s3,a4,a5}
ここで、c4及びc5は以下のように表すことが出来る。
a4=α1・s1+α2・s2+α3・s3
a5=β1・s1+β2・s2+β3・s3
ここで、α1、α2、α3、β1、β2、及び、β3はランダムに生成される乗数であり、a4及びa5とともに送信される。受信側で、5個のパケットのうち、任意の3個のパケットを受信すると、未知パケットが3個で、方程式が3個であるので解を求めることが出来る。すなわち、受信側で、送信されたストリームパケットを再現することが出来る。
(1) FEC when sending multimedia source
Here, a case where five packets are transmitted from a multimedia source will be described as an example. Assume that three of the five packets are source packets (s1, s2, s3) and two are FEC packets (c4, c5).
The packet PC (S) generated by the multimedia source is defined as follows.
PC (S) = {s1, s2, s3, a4, a5}
Here, c4 and c5 can be expressed as follows.
a4 = α1 · s1 + α2 · s2 + α3 · s3
a5 = β1 · s1 + β2 · s2 + β3 · s3
Here, α1, α2, α3, β1, β2, and β3 are randomly generated multipliers that are transmitted together with a4 and a5. If any three of the five packets are received on the receiving side, the number of unknown packets is three and the number of equations is three, so that a solution can be obtained. That is, the transmitted stream packet can be reproduced on the receiving side.

(2)ノード集合でのFEC
(2−1)ノードAでのFEC
例えば、ノードAで、前述のパケットのうち、以下のように3個受信したと仮定する。ノードAでの受信パケットPR(S-A)={s1,s3,c4}とする。ここで、3個の独立したパケットを受信したので、この時点で、方程式を解くことによりソースパケットにデコードすることが出来る。すなわち、ソースパケットPS={s1,s2,s3}を再生することが出来る。
(2) FEC in node set
(2-1) FEC at node A
For example, assume that node A has received three of the aforementioned packets as follows. It is assumed that the received packet PR (SA) at node A = {s1, s3, c4}. Here, since three independent packets have been received, it can be decoded into source packets at this point by solving the equations. That is, the source packet PS = {s1, s2, s3} can be reproduced.

ノードAで作成されるFECパケット
ノードAで受信したパケットPR(S-A)={s1,s3,c4}の線形結合によって、以下のFECパケットを生成する。

b1=γ1・s1+γ2・s3+γ3・a4
ノードAは、このFECパケット(b1)を集合内の他のパケットへ送信する。例えばノードBへ送信する。
FEC packet created at node A The following FEC packet is generated by linear combination of packets PR (SA) = {s1, s3, c4} received at node A.

b1 = γ1 · s1 + γ2 · s3 + γ3 · a4
Node A transmits this FEC packet (b1) to other packets in the set. For example, the data is transmitted to the node B.

(2−2)ノードBでのFEC
ノードAからノードBへ送信されたデータは、PC(A-B)={b1}であるとする。ノードBでの、ノードAから送信されたパケットの受信パケットは、PR(A-B)={b1}である。
(2-2) FEC at Node B
It is assumed that data transmitted from node A to node B is PC (AB) = {b1}. The received packet of the packet transmitted from the node A at the node B is PR (AB) = {b1}.

(2―3)ノードBでの受信パケット
ノードBでは、マルチチャンネルソースから、受信したパケットも有している。マルチチャンネルソースからノードBが2個のパケットを受信したとし、それらをPR(S-B)={s1,s2}と仮定する。
PR(A-B)={b1}
PR(S-B)={s1,s2}
これらの、情報より、パケットBでは、3個の変数に対して、3個の方程式があるので、解を求めることが出来、その結果、s1,s2,及び、b1より、s3を再現することが出来る。
(2-3) Received packet at Node B Node B also has a packet received from a multi-channel source. Assume that Node B has received two packets from a multi-channel source and that they are PR (SB) = {s1, s2}.
PR (AB) = {b1}
PR (SB) = {s1, s2}
From these information, in packet B, since there are three equations for three variables, a solution can be obtained, and as a result, s3 can be reproduced from s1, s2, and b1. I can do it.

以下に本願発明の処理フローの詳細について説明する。本願発明は、マルチメディアソース(送信機)から、ワイヤレスLANで接続されているアドホックネットワークのノード集合へのパケット送信において、ひずみ率を最小にするソースパケットレートを求め、さらに、そのソースパケットレートに従って、マルチメディアパケットストリームを送信する方法・システムである、   Details of the processing flow of the present invention will be described below. The present invention obtains a source packet rate that minimizes a distortion rate in packet transmission from a multimedia source (transmitter) to a node set of an ad hoc network connected by a wireless LAN, and further according to the source packet rate. A method / system for transmitting a multimedia packet stream,

[全体の処理フロー]
図5は、本願発明の全体の処理フローを示す。
(A)前記マルチメディアソースが、各ノードでの、マルチメディアソースから各ノードへのパケットストリーム送信時における損失確率、及び、ノード間での受信パケットに基づいて生成されたパケットの相互交換によるパケットストリーム修復した後の損失確率の入力を、受入れるステップ(410)、
(B)マルチメディアソースが、所与のソースパケットをエンコードする場合のひずみ低減係数、前記マルチメディアソースから各ノードへのパケットストリーム送信時における損失確率、及び、ノード間での修復後の損失確率に基づいて、ひずみ率を求めるステップ(430)、
(C)マルチメディアソースが、所与の帯域制限のもとで、ソースパケットレートを変更しながら、ひずみ率を最小にするソースパケットレートを求めるステップ(440)、
(D)マルチメディアソースが、前記ひずみ率を最小にするソースパケットレートに従ってパケットストリームを送信するステップ(450)、
(E)各ノードが、前記パケットストリームを受信し、ノード間での受信パケットに基づいて生成されたパケットの相互交換によるパケットストリームを修復するステップ(460)、
(F)各ノードが、デコーディングを行いパケットストリームを再生するステップ(470)。
[Overall process flow]
FIG. 5 shows the overall processing flow of the present invention.
(A) The multimedia source is a packet obtained by mutual exchange of packets generated based on a loss probability at the time of packet stream transmission from the multimedia source to each node at each node and a received packet between the nodes. Receiving an input of loss probability after stream repair (410);
(B) Distortion reduction coefficient when a multimedia source encodes a given source packet, loss probability at the time of packet stream transmission from the multimedia source to each node, and loss probability after repair between nodes Determining a strain rate based on (430),
(C) the multimedia source determines a source packet rate that minimizes the distortion rate while changing the source packet rate under a given bandwidth limit (440);
(D) the multimedia source transmits a packet stream according to a source packet rate that minimizes the distortion rate (450);
(E) Each node receives the packet stream, and repairs a packet stream by exchanging packets generated based on received packets between the nodes (460).
(F) Each node performs decoding and reproduces the packet stream (470).

以下処理フローの詳細について(A)から(F)まで順に説明する。
[ステップ(A)の詳細]
(A)前記マルチメディアソースが、各ノードでの、マルチメディアソースから各ノードへのパケットストリーム送信時における損失確率、及び、ノード間での受信パケットに基づいて生成されたパケットの相互交換によるパケットストリーム修復した後の損失確率の入力を、受入れるステップ。
各ノードでのパケットストリーム送信時における損失確率、及び、ノード間での受信パケットに基づいて生成されたパケットの相互交換によるパケットストリーム修復した後の損失確率が、後述の「ひずみ率」を求めるために必要である。それらのデータが既知である場合には、それらのデータをパケット損失率入力部164からマルチメディアソースに入力する。
Hereinafter, details of the processing flow will be described in order from (A) to (F).
[Details of step (A)]
(A) The multimedia source is a packet obtained by mutual exchange of packets generated based on a loss probability at the time of packet stream transmission from the multimedia source to each node at each node and a received packet between the nodes. Accepting the input of loss probability after stream repair.
The loss probability at the time of packet stream transmission at each node and the loss probability after repairing the packet stream by mutual exchange of packets generated based on the received packets between the nodes determine the “distortion rate” described later. Is necessary. If the data is known, the data is input from the packet loss rate input unit 164 to the multimedia source.

[パケット損失率の実測]
以下に、各ノードでのパケットストリーム送信時における損失率、及び、ノード間での受信パケットに基づいて生成されたパケットの相互交換によるパケットストリーム修復した後の損失率を、実際のノードからの実測により求める場合のフローを図6に示す。
(a)マルチメディアソースが、ノード集合へパケットストリームを送信するステップ(412)、
このときには、ノード集合での受信時における各ノードでの損失率を求めるので、FECを行う必要ない。
(b)各ノードが、前記パケットストリームを受信し、受信時のパケット損失率を求めるステップ(414)、
ノード集合の各ノードが、マルチメディアソースからのパケットストリームを受信する。ワイヤレスWANの場合には、送信において、一時的なワイヤレスリンクの遮断により、パケット損失が生じることが発生することは良く知られている。ここで、各ノードはパケットストリーム受信時のパケットの損失率を求める。
(c)各ノードが、各ノード間で受信したパケットを交換しパケットストリームを修復するステップ(416)、
[Measurement of packet loss rate]
Below, the loss rate at the time of packet stream transmission at each node and the loss rate after repairing the packet stream by mutual exchange of packets generated based on received packets between nodes are measured from the actual nodes. FIG. 6 shows a flow in the case of obtaining by this.
(A) the multimedia source sends a packet stream to the node set (412);
At this time, since the loss rate at each node at the time of reception in the node set is obtained, it is not necessary to perform FEC.
(B) Each node receives the packet stream and obtains a packet loss rate at the time of reception (414),
Each node in the node set receives a packet stream from the multimedia source. In the case of a wireless WAN, it is well known that packet loss may occur during transmission due to temporary wireless link interruptions. Here, each node obtains the packet loss rate when the packet stream is received.
(C) Each node exchanges packets received between the nodes and repairs the packet stream (416),

(d)各ノードが、修復したパケットストリームのデコーディングを行うステップ(418)、
(e)各ノードが、各ノードのパケットストリーム受信時における損失率、及び、ノード間でのパケット交換による修復後の損失率を、前記マルチメディアソースへ送信するステップ(420)。
各ノードはパケットストリーム受信時、及び、ノード間でのパケット交換によるストリーム修復後のパケット損失率を求め、そのデータをマルチメディアソースへ送信する。
以上により、各ノードのパケットストリーム送信時における損失確率、及び、ノード間での修復後の損失確率が、マルチメディアソースへ送信される。
(D) Each node decodes the repaired packet stream (418),
(E) Each node transmits the loss rate at the time of receiving the packet stream of each node and the loss rate after repair by exchanging packets between the nodes to the multimedia source (420).
Each node obtains a packet loss rate at the time of packet stream reception and after stream restoration by packet exchange between nodes, and transmits the data to the multimedia source.
As described above, the loss probability at the time of packet stream transmission of each node and the loss probability after repair between the nodes are transmitted to the multimedia source.

[パケットストリームを修復するステップの詳細]
ここで、ステップ(d)各ノードが、各ノード間で受信したパケットを交換しパケットストリームを修復するステップ(418)を詳しく説明すると次のようになる。この場合のフローチャートを図7に示す。
(d−1)一のノードが、受信したパケットを他ノードに送信するステップ(510)、
一のノードは、受信したパケットをノード集合内の全ての他ノードに送信する。ここで、一のノードが受信したパケットの線形結合に基づいて、FECパケットを生成しこれらを送信する。
(d−2)他のノードが、一のノードから送信されたパケットを受信するステップ(512)、
ここで、他のノードは自己が受信していないパケットがあっても、そのパケットの再送要求をマルチメディアソースに出さない。再送要求を送信すると、NAK(Negative Acknowledgement)の問題が発生するからである。
[Details of step to repair packet stream]
Here, the step (d) in which each node exchanges packets received between the nodes and repairs the packet stream (418) will be described in detail as follows. A flowchart in this case is shown in FIG.
(D-1) a step in which one node transmits the received packet to another node (510);
One node transmits the received packet to all other nodes in the node set. Here, based on the linear combination of packets received by one node, FEC packets are generated and transmitted.
(D-2) a step in which another node receives a packet transmitted from one node (512),
Here, even if there is a packet that the other node does not receive, the node does not send a retransmission request for the packet to the multimedia source. This is because a NAK (Negative Acknowledgment) problem occurs when a retransmission request is transmitted.

(d−3)他のノードが、マルチメディアソースから受信したパケットストリームに欠落があり、かつ、一のノードから送信されたパケットを用いて修復することが出来る場合に、パケットストリームを修復するステップ(514、516)、
この時には、受信したパケットのデコードを行わないで、マルチメディアソースから受信したソースパケット、及び、一のノードから受信したFECパケットを用いてパケットストリームを修復する。
(d−4)上記(d−1)から(d−3)を、所定時間の間繰返し行うステップ(518)、
(d−5)修復されたストリームのデコーディングを行うステップ(520)、
一連のストリームの修復が終了した後でデコーディングを行う。
以上のように、ノード集合内でCPRを実施しつつ、マルチメディアソースから受信したパケットストリームの修復を行う。
(D-3) A step of repairing a packet stream when another node has a missing packet stream received from a multimedia source and can be repaired using a packet transmitted from one node. (514, 516),
At this time, without decoding the received packet, the packet stream is repaired using the source packet received from the multimedia source and the FEC packet received from one node.
(D-4) Step (518) of repeating (d-1) to (d-3) for a predetermined time period,
(D-5) decoding the repaired stream (520),
Decoding is performed after a series of streams have been repaired.
As described above, the packet stream received from the multimedia source is repaired while performing CPR in the node set.

[ステップ(B)の詳細]
(B)マルチメディアソースが、所与のソースパケットをエンコードする場合のひずみ低減係数、前記マルチメディアソースから各ノードへのパケットストリーム送信時における損失率、及び、ノード間での修復後の損失率に基づいて、ひずみ率を求めるステップ(430)、
(1)ひずみ率の計算
実際には、マルチメディアソースから各ノードへの送信時の損失、及び、各ノード間での送信時の損失が発生するので、必ずしも、全てのノードが全てのストリームパケットを有する訳ではない。
そこで、Rsの関数として求められるひずみ低減率d(R)、各ノードがマルチメディアソースから各ノードへのパケット送信における損失確率(l´col)、及び、各ノードのノード間修復後の損失確率Qに基づいて、ひずみ率を計算する。
(2)ひずみ率の定義
以下にひずみ率を定義する。
[Details of Step (B)]
(B) Distortion reduction coefficient when a multimedia source encodes a given source packet, loss rate at the time of packet stream transmission from the multimedia source to each node, and loss rate after repair between nodes Determining a strain rate based on (430),
(1) Calculation of distortion rate Actually, loss occurs at the time of transmission from the multimedia source to each node, and loss at the time of transmission between the nodes. Does not have.
Therefore, the distortion reduction rate d (R s ) obtained as a function of Rs, the loss probability (l ′ col ) when each node transmits a packet from the multimedia source to each node, and the loss after repair between the nodes of each node Based on the probability Q, the strain rate is calculated.
(2) Definition of strain rate The strain rate is defined below.

(式1)
ひずみ率=f{d(R),l´col,Q}
={D−d(R)*(1−Pgrp(R,R))}R+R=<C
ここで、Dはひずみの初期値であり、各ノードでパケットが受信されない場合の全体のひずみ率である。Rはソースパケットレート、RはFECパケットレートである。
d(R)は、所与のGOPのシーケンスを所定のビット数で量子化する場合のひずみ低減率であって、Rに比例する。ここで、GOPとは、ビデオストリームを記録する際に用いられる圧縮コーデックにおいて、最小単位である一コマ(フレーム)を効率的に管理するために必要なコマデータのまとまりのことを言う。d(R)は順にRを一パケット毎減らすことにより、ひずみ率に関する評価関数の変化をモニターしつつこの評価関数を最小にするRを実験により求める。Cは送信において利用可能なワイヤーレスWANの全帯域である。
(Formula 1)
Distortion rate = f {d (R s ), l ′ col , Q}
= {D−d (R s ) * (1−P grp (R s , R c ))} R s + R c = <C
Here, D is an initial value of distortion, and is an overall distortion rate when a packet is not received at each node. R s is the source packet rate, and R c is the FEC packet rate.
d (R s ) is a distortion reduction rate when a given GOP sequence is quantized with a predetermined number of bits, and is proportional to R s . Here, GOP refers to a group of frame data necessary for efficiently managing one frame (frame) as a minimum unit in a compression codec used when recording a video stream. The d (R s) in turn to reduce every one packet R s, obtained by experiment R s for the evaluation function minimizes while monitoring the change in the evaluation function for the strain rate. C is the full bandwidth of the wireless WAN available for transmission.

[グループ損失確率]
grp(R,R)は、R及びRに基づく「グループ損失確率」であり、R個以上のパケットが損失した場合、CPRがリカバリー出来ない確率である。Pgrp(R,R)は、また、各ノードへのパケット配信における損失率(l´col)、及び、各ノードのノード間修復後の損失率 Qを与えることにより求めることが出来る。なお、Pgrp(R,R)の詳細な定義は、後述の[Pgrp(R,R)の詳細な定義]において詳細を述べる。
[Group loss probability]
P grp (R s , R c ) is a “group loss probability” based on R s and R c , and is a probability that CPR cannot be recovered when R c or more packets are lost. P grp (R s , R c ) can also be obtained by giving a loss rate (l ′ col ) in packet delivery to each node and a loss rate Q after repair between nodes of each node. Incidentally, P grp (R s, R c) detailed definition of, described in detail in [P grp (R s, R c) detailed definition of 'below.

[ステップ(C)の詳細]
(C)マルチメディアソースが、所与の帯域制限のもとで、ソースパケットレートを変更しながら、ひずみ率を最小にするソースパケットレートを求めるステップ(440)、
ひずみ率を最小にするソースパケットレートを求める。
(式1)を最小化する最適のR及びRを求めるために、一例として、本願発明では、以下の検索方法を開示するが、検索方法はこれには限らない。
(a)Rの初期値Rを決める。
(b)Rの値、すなわち、Rのパケット数を、順次1づつ減少させ、式(1)の値を求める。
(c)(式1)の値が最小になるようになるように (b)を繰り返して行う。
以上により、(式1)を最小にするRの値を求めることが出来る。
[Details of Step (C)]
(C) the multimedia source determines a source packet rate that minimizes the distortion rate while changing the source packet rate under a given bandwidth limit (440);
Find the source packet rate that minimizes the distortion factor.
In order to obtain the optimum R s and R c that minimize (Equation 1), as an example, the present invention discloses the following search method, but the search method is not limited to this.
(A) determining the initial value R s of R s.
(B) The value of R s , that is, the number of packets of R s is sequentially decreased by 1 to obtain the value of Equation (1).
(C) Repeat (b) so that the value of (Equation 1) is minimized.
Thus, the value of R s that minimizes (Equation 1) can be obtained.

[ステップ(D)の詳細]
(D)マルチメディアソースが、前記ひずみ率を最小にするソースパケットレートに従ってパケットストリームを送信するステップ(450)、
この時には、求められたソースパケットレートに基づいて、ネットコーディングを行いながら送信する。
[Details of Step (D)]
(D) the multimedia source transmits a packet stream according to a source packet rate that minimizes the distortion rate (450);
At this time, transmission is performed while performing net coding based on the obtained source packet rate.

[ステップ(E)の詳細]
(E)各ノードが、前記パケットストリームを受信し、ノード間での受信パケットに基づいて生成されたパケットの相互交換によるパケットストリームを修復するステップ(460)、
この時も、各ノードがネットワークコーディングを行いながら他のノードへ送信する。
[Details of Step (E)]
(E) Each node receives the packet stream, and repairs a packet stream by exchanging packets generated based on received packets between the nodes (460);
Also at this time, each node transmits to other nodes while performing network coding.

[ステップ(F)の詳細]
(F)各ノードが、デコーディングを行いパケットストリームを再生するステップ(470)。
ここで、本願発明では、以下のように、ストリームデータの修復が終了した後でデコーディングを行う。
これにより、ひずみ率が最小となるマルチメディアパケットデータストリームの再生が可能となる。
[Details of Step (F)]
(F) Each node reproduces the packet stream by decoding (470).
Here, in the present invention, decoding is performed after the restoration of the stream data is completed as follows.
Thereby, it is possible to reproduce a multimedia packet data stream having a minimum distortion rate.

[パケットがリカバリー出来ない確率Pgrp(R,R)の定義]
パケットがリカバリー出来ない確率Pgrp(R,R)は次式で与えられる。
[Definition of probability P grp (R s , R c ) that packet cannot be recovered]
The probability P grp (R s , R c ) that the packet cannot be recovered is given by the following equation.

(式2)

Figure 2010258541
(Formula 2)

Figure 2010258541

ここで、lavgは、各ノードがマルチメディアソースを受信したときの各ノードのパケット損失確率lの平均値である。(ここで、m=1からNであり、Nは全ノードの数を表す。)Pcolは、集合がi個のパケットを損失したときに十分にリカバリー出来ない確率である。言い換えると、
(i)単一パケットがワイヤレスWANで正しく配信される場合における、または、
(ii)単一パケットがワイヤレスWANで正しく配信されない場合には、集合内に正しく配信され、その結果集合内でCPRにより修復される場合における、単一パケットがリカバー出来る確率である。
Here, l avg is the average value of the packet loss probability l m of each node when each node receives a multimedia source. (Here, m = 1 to N, where N represents the number of all nodes.) P col is the probability that the set cannot be fully recovered when i packets are lost. In other words,
(I) when a single packet is correctly delivered over the wireless WAN, or
(ii) The probability that a single packet can be recovered when a single packet is not delivered correctly over the wireless WAN and is delivered correctly within the set and consequently repaired by CPR within the set.

col(i,R)は次式で定義される。 P col (i, R c ) is defined by the following equation.

(式3)

Figure 2010258541
(Formula 3)

Figure 2010258541

isuf(i,R)は「集合不十分確率」であり、CPRで修復するために必要な最小限のパケットがそろわない確率である
Q(i)は、CPR損失確率であり、各ノードでのFECパケットの数に依存する損失確率である。
集合の不十分性確率Pisuf(i,R)は(4)式で表すことが出来る。
P isuf (i, R c ) is an “unsatisfactory set probability”, and Q (i), which is a probability that the minimum packets necessary for repair by CPR are not complete, is a CPR loss probability, Loss probability depending on the number of FEC packets.
Insufficient probability P isuf (i, R c) of the set can be represented by equation (4).

(式4)

Figure 2010258541
(Formula 4)

Figure 2010258541

ここで、(式4)は、ノードで損失したi個のパケットの中で、j個のパケットのみを、集合を通じて受信し、その他のパケットは集合内で損失する確率である。よって、この値以下の場合には全体のパケットグループをリカバリーすることは出来ない。l´colは、集合パケット損失確率であり、マルチメディアソースから各ノードへの送信時の損失確率である。 Here, (Equation 4) is a probability that only j packets are received through the set among i packets lost at the node, and other packets are lost within the set. Therefore, if it is less than this value, the entire packet group cannot be recovered. l ′ col is an aggregate packet loss probability, which is a loss probability at the time of transmission from the multimedia source to each node.

(式5)

Figure 2010258541
(Formula 5)

Figure 2010258541

である。ここで、l(m=1からN、Nは全ノードの数)は、各ノードがマルチメディアソースを受信したときのパケット損失確率、ρは、空間相関係数(spacial correlated factor)である。これはマルチメディア信号を受信する場合、各ノードにおいて同じ信号を受信するか否かに関係する値である。これはノード間の距離に関係する。本実施例ではρ=1とした。
これにより、ひずみ率が、マルチメディアソースから各ノードへの送信時の損失率(l´col)、及び、各ノードでのFECパケットの数に依存する損失率(Q(i))に基づいていることが分かる。
It is. Here, l m (m = 1 to N, N is the number of all nodes) is a packet loss probability when each node receives the multimedia source, and ρ is a spatial correlation factor. . This is a value related to whether or not the same signal is received at each node when a multimedia signal is received. This is related to the distance between the nodes. In this embodiment, ρ = 1.
Thereby, the distortion rate is based on the loss rate (l ′ col ) at the time of transmission from the multimedia source to each node and the loss rate (Q (i)) depending on the number of FEC packets at each node. I understand that.

[実験結果]
本願発明で開示した方法により求められたソースパケットにより、マルチメディアソースから各ノードへの送信し、各ノードでの損失パケットの修復を行った場合における、ひずみ率の低減を図ることが出来る。
以下に、本願発明で開示する、JSCC方法とCPRとを同時に用いた実験例、CPRのみを用いた実験例、CPRを用いない場合の実験例を示す。図9上図aはHMパケット損失モデル、図9下図はHTパケット損失モデルの場合である。
[Experimental result]
With the source packet obtained by the method disclosed in the present invention, it is possible to reduce the distortion rate in the case where transmission is performed from the multimedia source to each node and the lost packet is repaired at each node.
The experimental examples disclosed in the present invention using the JSCC method and CPR at the same time, the experimental examples using only CPR, and the experimental examples when CPR is not used are shown below. 9A shows the case of the HM packet loss model, and FIG. 9B shows the case of the HT packet loss model.

110:マルチメディアソース
120:ノード集合
122a:ノードA
122n:他のノードN
132:パケットストリーム
158:コントローラ
154:データストア
156:WLANインターフェース
300:コンピュータ
302:プロセッサー
304:コミュニケーションバス
306:メインメモリ
308:2次メモリー
310:ハードディスク
316:キーボード
318:マウス
320:ディスプレー
110: Multimedia source 120: Node set 122a: Node A
122n: Other node N
132: Packet stream 158: Controller 154: Data store 156: WLAN interface 300: Computer 302: Processor 304: Communication bus 306: Main memory 308: Secondary memory 310: Hard disk 316: Keyboard 318: Mouse 320: Display

Claims (8)

マルチメディアソース、及び、各ノード間で相互に送受信を行うアドホックネットワークを形成しているノード集合を含むシステムであって、
前記マルチメディアソースは、以下の手段を含み、
(a)各ノードでの、マルチメディアソースから各ノードへのパケットストリーム送信時における損失確率、及び、ノード間での受信パケットに基づいて生成されたパケットの相互交換によるパケットストリーム修復した後の損失確率の入力を、受入れる手段、
(b)所与のソースパケットをエンコードする場合のひずみ低減係数、前記マルチメディアソースから各ノードへのパケットストリーム送信時における損失確率、及び、ノード間での修復後の損失確率に基づいて、ひずみ率を求める手段、
(c)所与の帯域制限のもとで、ソースパケットレートを変更しながら、ひずみ率を最小にするソースパケットレートを求める手段、
(d)前記ひずみ率を最小にするソースパケットレートに従ってパケットストリームを送信する手段、さらに、
前記ノード集合は以下の手段を含む、
(e)各ノードが、前記パケットストリームを受信し、ノード間で受信パケットに基づいて生成されたパケットの相互交換によるパケットストリームを修復する手段、
(f)各ノードが、デコーディングを行いパケットストリームを再生する手段、
を有するシステム。
A system including a multimedia source and a node set forming an ad hoc network that performs transmission and reception between nodes,
The multimedia source includes the following means:
(A) Loss after packet stream is repaired by mutual exchange of packets generated based on received packets between nodes, and loss probability during transmission of packet stream from multimedia source to each node at each node Means to accept the input of probability,
(B) distortion based on a distortion reduction coefficient when encoding a given source packet, a loss probability at the time of packet stream transmission from the multimedia source to each node, and a loss probability after repair between nodes A means of determining the rate,
(C) means for determining a source packet rate that minimizes the distortion rate while changing the source packet rate under a given bandwidth limitation;
(D) means for transmitting a packet stream according to a source packet rate that minimizes the distortion rate; and
The node set includes the following means:
(E) means for each node to receive the packet stream and repair a packet stream by mutual exchange of packets generated based on the received packets between the nodes;
(F) means for each node to decode and reproduce the packet stream;
Having a system.
さらに、以下の手段を有する請求項1に記載のシステム、
前記マルチメディアソースが、以下の手段を含み、
(a)マルチメディアソースが、ノード集合へパケットストリームを送信する手段、
前記各ノードが以下の手段を含む、
(b)各ノードが、前記パケットストリームを受信し、受信時のパケット損失率を求める手段、
(c)各ノードが、各ノード間で受信したパケットを交換しパケットストリームを修復する手段、
(d)各ノードが、修復したパケットストリームのデコーディングを行う手段、
(e)各ノードが、各ノードのパケットストリーム受信時における損失率、及び、ノード間での修復後の損失率を、前記マルチメディアソースへ送信する手段。
The system of claim 1, further comprising:
The multimedia source includes the following means:
(A) means for the multimedia source to send a packet stream to the node set;
Each of the nodes includes the following means:
(B) means for each node to receive the packet stream and obtain a packet loss rate at the time of reception;
(C) means for each node to exchange packets received between the nodes and repair the packet stream;
(D) means for each node to decode the repaired packet stream;
(E) Means for each node to transmit the loss rate at the time of receiving the packet stream of each node and the loss rate after repair between the nodes to the multimedia source.
さらに、前記ノード間での受信パケットに基づいて生成されたパケットの相互交換によるパケットストリーム修復する手段は、さらに以下の手段を含む請求項1及び2に記載のシステム、
(a)他のノードが、マルチメディアソースから受信したパケットストリームに欠落があり、かつ、前記一のノードから送信されたパケットを用いて修復することが出来る場合に、パケットストリームを修復する手段、
(b)上記(a)を、所定時間の間繰返し行う手段。
The system according to claim 1 or 2, wherein means for repairing a packet stream by mutual exchange of packets generated based on received packets between the nodes further includes the following means:
(A) means for repairing a packet stream when another node has a missing packet stream received from a multimedia source and can be repaired using a packet transmitted from the one node;
(B) Means for repeating (a) for a predetermined time.
前記ひずみ率は、以下の式で与えられる請求項1乃至3に記載のシステム、
ひずみ率={D−d(R)*(1−Pgrp(R,R))}
ここで、Rはソースパケットレート、RはFECパケットレートである。Dはパケットを受信しないときのひずみ率である。d(R)は、ソースパケットを所定のビット数でエンコードする場合のひずみ低減係数であり、Rの関数である。Pgrp(R,R)は、各ノードにおけるマルチメディアパケットのパケットの損失確率、及び、各ノードのノード間での修復後の損失確率に基づくグループ損失確率である。
The system according to claims 1 to 3, wherein the distortion rate is given by the following equation:
Distortion rate = {D−d (R s ) * (1−P grp (R s , R c ))}
Here, R s is the source packet rate, and R c is the FEC packet rate. D is a distortion rate when no packet is received. d (R s ) is a distortion reduction coefficient when the source packet is encoded with a predetermined number of bits, and is a function of R s . P grp (R s , R c ) is a group loss probability based on the packet loss probability of multimedia packets at each node and the loss probability after repair between the nodes of each node.
マルチメディアソースから送信されたパケットストリームを、各ノード間で相互に送受信を行うアドホックネットワークを形成しているノード集合で、受信し再生する方法、
(a)前記マルチメディアソースが、各ノードでの、マルチメディアソースから各ノードへのパケットストリーム送信時における損失確率、及び、ノード間での受信パケットに基づいて生成されたパケットの相互交換によるパケットストリーム修復した後の損失確率の入力を、受入れるステップ、
(b)マルチメディアソースが、所与のソースパケットをエンコードする場合のひずみ低減係数、前記マルチメディアソースから各ノードへのパケットストリーム送信時における損失確率、及び、ノード間での修復後の損失確率に基づいて、ひずみ率を求めるステップ、
(c)マルチメディアソースが、所与の帯域制限のもとで、ソースパケットレートを変更しながら、ひずみ率を最小にするソースパケットレートを求めるステップ、
(d)マルチメディアソースが、前記ひずみ率を最小にするソースパケットレートに従ってパケットストリームを送信するステップ、
(e)各ノードが、前記パケットストリームを受信し、ノード間での受信パケットに基づいて生成されたパケットの相互交換によるパケットストリームを修復するステップ、
(f)各ノードが、デコーディングを行いパケットストリームを再生するステップ。
A method of receiving and playing back a packet stream transmitted from a multimedia source at a node set forming an ad hoc network that transmits and receives between each node;
(A) The multimedia source is a packet obtained by mutual exchange of packets generated based on the loss probability at the time of packet stream transmission from the multimedia source to each node at each node and the received packets between the nodes. Accepting the input of loss probability after stream repair,
(B) Distortion reduction coefficient when a multimedia source encodes a given source packet, loss probability at the time of packet stream transmission from the multimedia source to each node, and loss probability after repair between nodes Obtaining a strain rate based on
(C) the multimedia source determines a source packet rate that minimizes the distortion rate while changing the source packet rate under a given bandwidth limit;
(D) a multimedia source transmits a packet stream according to a source packet rate that minimizes the distortion rate;
(E) Each node receives the packet stream, and repairs a packet stream by exchanging packets generated based on received packets between the nodes;
(F) Each node performs decoding and reproduces the packet stream.
前記受入れるステップは、さらに以下のステップを含む請求項5に記載の方法、
(a)マルチメディアソースが、ノード集合へパケットストリームを送信するステップ、
(b)各ノードが、前記パケットストリームを受信し、受信時のパケット損失率を求めるステップ、
(c)各ノードが、各ノード間で受信したパケットを交換しパケットストリームを修復するステップ、
(d)各ノードが、修復したパケットストリームのデコーディングを行うステップ、
(e)各ノードが、各ノードのパケットストリーム受信時における損失率、及び、ノード間での修復後の損失率を、前記マルチメディアソースへ送信するステップ。
6. The method of claim 5, wherein the receiving step further comprises the following steps:
(A) a multimedia source sends a packet stream to a set of nodes;
(B) Each node receives the packet stream and obtains a packet loss rate at the time of reception;
(C) each node exchanging received packets between the nodes and repairing the packet stream;
(D) a step in which each node decodes the repaired packet stream;
(E) Each node transmits the loss rate at the time of receiving the packet stream of each node and the loss rate after repair between the nodes to the multimedia source.
前記ノード間での受信パケットに基づいて生成されたパケットの相互交換によるパケットストリーム修復するステップは、さらに以下のステップを含む請求項5及び6に記載の方法、
(a)他のノードが、マルチメディアソースから受信したパケットストリームに欠落があり、かつ、前記一のノードから送信されたパケットを用いて修復することが出来る場合に、パケットストリームを修復するステップ、
(b)上記(a)を、所定時間の間繰返し行うステップ。
The method according to claim 5 and 6, wherein the step of repairing a packet stream by exchanging packets generated based on received packets between the nodes further includes the following steps:
(A) repairing the packet stream when another node is missing in the packet stream received from the multimedia source and can be repaired using the packet transmitted from the one node;
(B) A step of repeating (a) for a predetermined time.
前記ひずみ率は、以下の式で与えられる請求項5乃至7に記載の方法、
ひずみ率={D−d(R)*(1−Pgrp(R,R))}
ここで、Rはソースパケットレート、RはFECパケットレートである。Dはパケットを受信しないときのひずみ率である。d(R)は、ソースパケットを所定のビット数でエンコードする場合のひずみ低減係数であり、Rの関数である。Pgrp(R,R)は、各ノードにおけるマルチメディアパケットのパケットの損失確率、及び、各ノードのノード間での修復後の損失確率に基づくグループ損失確率である。
The method according to claims 5 to 7, wherein the strain rate is given by the following equation:
Distortion rate = {D−d (R s ) * (1−P grp (R s , R c ))}
Here, R s is the source packet rate, and R c is the FEC packet rate. D is a distortion rate when no packet is received. d (R s ) is a distortion reduction coefficient when the source packet is encoded with a predetermined number of bits, and is a function of R s . P grp (R s , R c ) is a group loss probability based on the packet loss probability of multimedia packets at each node and the loss probability after repair between the nodes of each node.
JP2009103448A 2009-04-21 2009-04-21 Multimedia video transmission system and method Pending JP2010258541A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009103448A JP2010258541A (en) 2009-04-21 2009-04-21 Multimedia video transmission system and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009103448A JP2010258541A (en) 2009-04-21 2009-04-21 Multimedia video transmission system and method

Publications (1)

Publication Number Publication Date
JP2010258541A true JP2010258541A (en) 2010-11-11

Family

ID=43319013

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009103448A Pending JP2010258541A (en) 2009-04-21 2009-04-21 Multimedia video transmission system and method

Country Status (1)

Country Link
JP (1) JP2010258541A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014003535A (en) * 2012-06-20 2014-01-09 Toshiba Corp Radio transmission/reception terminal

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JPN6012058923; Liu,X.,Cheung,G.,Chuah,C-N.: 'Structured Network Coding and Cooperative LocalPeer-to-Peer Repair for MBMS Video Streaming' Proc. of 2008 IEEE 10th Workshop on Multimedia Signal Processing , 200810, P.456-460 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014003535A (en) * 2012-06-20 2014-01-09 Toshiba Corp Radio transmission/reception terminal

Similar Documents

Publication Publication Date Title
US7801069B2 (en) Distribution of packets among a plurality of nodes
JP4513725B2 (en) Packet transmission apparatus, communication system, and program
JP3757857B2 (en) Data communication system, data transmission apparatus, data reception apparatus and method, and computer program
CN1248456C (en) Transmission control parameter production method and method of selective repeating according to packet characteristics
JP5016279B2 (en) Data communication system, data transmission apparatus, and data transmission method
JP5172405B2 (en) Wireless communication apparatus, wireless communication system, program, and wireless communication method
US20170063497A1 (en) Method and apparatus for decoding packetized data
WO2003088551A1 (en) Data transmission system, data transmission apparatus, data transmission method, and computer program
CN1879389A (en) Device and method for controlling an operation of a plurality of communication layers in a layered communication scenario
CN101155311A (en) Video code stream error detecting and processing method in video communication
JP2004165922A (en) Apparatus, method, and program for information processing
JP2007150859A (en) Receiver, transmitter, communication system, control program of receiver and recording medium having control program of receiver recorded thereon
JP2009141931A (en) Radio communication device, program, and radio communication method
Vingelmann et al. On-the-fly packet error recovery in a cooperative cluster of mobile devices
JP2010119133A (en) Packet transmission device, communication system, and program
US20080215949A1 (en) Server and client for determining error restoration according to image data transmission, and method of determining error restoration according to image data transmission
JP5220340B2 (en) COMMUNICATION DEVICE, COMMUNICATION SYSTEM, COMMUNICATION CONTROL METHOD, AND COMMUNICATION CONTROL PROGRAM
JP6278275B2 (en) TRANSMISSION DEVICE, RECEPTION DEVICE, TRANSMISSION METHOD, AND RECEPTION METHOD
KR100851918B1 (en) Network-adaptive Data Transmission Method, Data Transmission System, Data Sender, and Data Receiver Therefor
JP2010258541A (en) Multimedia video transmission system and method
JP2011087091A (en) Transmission device and operation mode control method of the same
US20180192088A1 (en) Transmitting/receiving audio and/or video data over a wireless network
de Alwis et al. Content and network-aware multicast over wireless networks
JP2006304138A (en) Selective retransmission type communication device
JP2013013003A (en) Data processing device, data processing method and data processing program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121109

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130222