JP5675164B2 - Transmission device, transmission method, and program - Google Patents

Transmission device, transmission method, and program Download PDF

Info

Publication number
JP5675164B2
JP5675164B2 JP2010109549A JP2010109549A JP5675164B2 JP 5675164 B2 JP5675164 B2 JP 5675164B2 JP 2010109549 A JP2010109549 A JP 2010109549A JP 2010109549 A JP2010109549 A JP 2010109549A JP 5675164 B2 JP5675164 B2 JP 5675164B2
Authority
JP
Japan
Prior art keywords
rate
transmission data
frame
transmission
moving image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010109549A
Other languages
Japanese (ja)
Other versions
JP2011239232A (en
JP2011239232A5 (en
Inventor
利之 中川
利之 中川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2010109549A priority Critical patent/JP5675164B2/en
Publication of JP2011239232A publication Critical patent/JP2011239232A/en
Publication of JP2011239232A5 publication Critical patent/JP2011239232A5/ja
Application granted granted Critical
Publication of JP5675164B2 publication Critical patent/JP5675164B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、動画データの送信方法に関する。   The present invention relates to a moving image data transmission method.

近年、ネットワークカメラやビデオ会議システムなど、ネットワークを介して動画データをリアルタイムに送受信するストリーミング技術が実用化されている。このような動画データの配信では、映像品質を維持するために、伝送速度や回線状況に合わせて、動画の符号化レートを制御したり(特許文献1参照)、フレームを間引く制御が行われている(特許文献2参照)。   In recent years, streaming technology for transmitting and receiving moving image data in real time via a network, such as a network camera and a video conference system, has been put into practical use. In such distribution of moving image data, in order to maintain the video quality, the moving image encoding rate is controlled in accordance with the transmission speed and the line condition (see Patent Document 1), or the frame is thinned out. (See Patent Document 2).

特登録03699910号Special registration 036999910 特登録04255685号Special registration No. 02555685

しかしながら、動画データを複数の受信装置に送信する場合、各受信装置の通信状況によっては、当該通信状況に合わない動画データが送信されてしまう恐れがあった。   However, when moving image data is transmitted to a plurality of receiving devices, depending on the communication status of each receiving device, moving image data that does not match the communication status may be transmitted.

例えば、動画データを第1の受信装置と第2の受信装置に送信している場合に、第1の受信装置との間の通信状況が悪化したことにより動画データの符号化レートを下げると、第2の受信装置で表示される動画の画質が必要以上に下がってしまう恐れがあった。   For example, when moving image data is transmitted to the first receiving device and the second receiving device, if the encoding rate of the moving image data is lowered due to the deterioration of the communication status with the first receiving device, There was a possibility that the image quality of the moving image displayed on the second receiving device would be lowered more than necessary.

また、例えば、第1の受信装置との間の通信状況が悪化したことにより動画データのフレームレートを下げると、第2の受信装置で表示される動画のフレームレートが必要以上に下がってしまう恐れがあった。   Further, for example, if the frame rate of the moving image data is lowered due to the deterioration of the communication status with the first receiving device, the frame rate of the moving image displayed on the second receiving device may be lowered more than necessary. was there.

また、例えば、各受信装置の通信状況に応じて、各受信装置ごとに符号化レートを制御すると、レート制御の負荷が大きくなってしまう恐れがあった。   Further, for example, if the encoding rate is controlled for each receiving apparatus according to the communication status of each receiving apparatus, there is a possibility that the load of rate control becomes large.

本発明は上記の問題点に鑑みてなされたものであり、その目的は、動画データを複数の受信装置に送信する場合に、送信にかかる負荷を抑えつつ、各受信装置の通信状況により合った動画データを送信できるようにすることである。   The present invention has been made in view of the above-mentioned problems, and the object thereof is more suitable for the communication status of each receiving apparatus while suppressing the load on transmission when moving image data is transmitted to a plurality of receiving apparatuses. It is to be able to send video data.

上記目的を達成するため、本発明の送信装置は例えば以下の構成を有する。すなわち、符号化された動画データを複数の受信装置に送信する送信装置であって、第1の受信装置に対して送信可能な第1の送信データレートと、第2の受信装置に対して送信可能な第2の送信データレートとを取得する取得手段と、前記第1及び第2の送信データレートの違いに応じて、符号化レート制御及びフレーム間引き制御を行う制御手段であって、前記第1及び第2の送信データレートの違いに応じた値が閾値以上の場合、前記第1及び第2の送信データレートのうち、より低い前記第2の送信データレートに対応する記第2の受信装置を、フレーム間引きされた動画データであって、他の動画フレームを参照せずに復号可能なイントラフレームで構成される動画データが送信される受信装置として決定し、前記第1及び第2の送信データレートのうち、より高い前記第1の送信データレートに対応する前記第1の受信装置を、前記フレーム間引きされない動画データであって、他の動画フレームを参照することで復号可能なインターフレームと前記イントラフレームとで構成される動画データが送信される受信装置として決定し、前記第1の受信装置に対して送信される前記インターフレームとイントラフレームとを含む動画データのデータレートが前記第1の送信データレートを超えず、且つ、前記動画データのうち前記第2の受信装置に対して送信される前記イントラフレームのデータレートが前記第2の送信データレートを超えないように、前記イントラフレームとインターフレームとを含む前記動画データの符号化レートを決定し、前記第1及び第2の送信データレートの違いに応じた値が前記閾値未満の場合、前記第1及び第2の送信データレートのうち、より低い前記第2の送信データレートに基づいて符号化レートを決定すると共に、当該決定された符号化レートで符号化された動画データをフレーム間引きすることなく前記第1及び第2の受信装置へ送信することを決定する制御手段とを有する。 In order to achieve the above object, the transmission apparatus of the present invention has the following configuration, for example. That is, a transmission device that transmits encoded video data to a plurality of reception devices, the first transmission data rate that can be transmitted to the first reception device, and the transmission to the second reception device. a second transmission data rate obtaining means for obtaining possible, in accordance with the difference of the first and second transmission data rate, a control means for performing the encoding rate control and frame thinning control, the first If 1 and the second value corresponding to a difference in transmission data rate is greater than the threshold value, the one of the first and second transmission data rate, the lower second transmission data rate corresponding to the previous SL second the receiver, a moving image data frame skipping, is determined as the receiver moving image data composed of decodable intra frame is transmitted without reference to other video frames, the first and second 2 Among the transmission data rates, the first receiving device corresponding to the higher first transmission data rate is an interframe that is video data that is not frame-decimated and that can be decoded by referring to another video frame. And moving image data composed of the intra frame is determined as a receiving device to be transmitted, and a data rate of moving image data including the inter frame and the intra frame transmitted to the first receiving device is the first rate. 1 and the intra frame data rate of the moving image data transmitted to the second receiving device does not exceed the second transmission data rate. An encoding rate of the moving image data including a frame and an inter frame is determined, and the first transmission and the second transmission When the value corresponding to the difference in data rate is less than the threshold, the coding rate is determined based on the lower second transmission data rate of the first and second transmission data rates, and the determination is performed. to have a control means decides to send to without the first and second receiver apparatus to the video data frame skipping the encoded with encoded rate.

本発明によれば、動画データを複数の受信装置に送信する場合に、送信にかかる負荷を抑えつつ、各受信装置の通信状況により合った動画データを送信できるようになる。   According to the present invention, when moving image data is transmitted to a plurality of receiving devices, it is possible to transmit moving image data that is more suitable for the communication status of each receiving device while suppressing the load on transmission.

送信装置100の機能構成例を示すブロック図である。3 is a block diagram illustrating a functional configuration example of a transmission device 100. FIG. 送信装置100の処理を示すフローチャートである。3 is a flowchart showing processing of a transmission device 100. 送信装置100と複数の受信装置の接続形態の一例を示す図である。It is a figure which shows an example of the connection form of the transmitter 100 and several receivers. 送信装置100が受信装置へ送信する動画データを示す図である。It is a figure which shows the moving image data which the transmitter 100 transmits to a receiver.

以下、添付の図面を参照して、本発明をその好適な実施形態に基づいて詳細に説明する。尚、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。   Hereinafter, the present invention will be described in detail based on preferred embodiments with reference to the accompanying drawings. The configurations shown in the following embodiments are merely examples, and the present invention is not limited to the illustrated configurations.

<実施形態1>
図1は、本実施形態の送信装置の機能構成例を示すブロック図である。
<Embodiment 1>
FIG. 1 is a block diagram illustrating a functional configuration example of the transmission apparatus according to the present embodiment.

図1に示すように、送信装置100は、符号化部102、パケット生成部103、QoS制御部104、データバッファ105、通信制御部106、伝送速度算出部107、通信インターフェース108を備える。また、QoS制御部104は、間引き部110とレート制御部111とを備える。尚、データバッファ105には、受信装置との間で送受信するデータが記憶される。送信装置100は、符号化された動画データを受信装置へ送信する送信装置である。本形態の送信装置100は、映像を入力する映像入力装置101、及び伝送路109に接続される。   As illustrated in FIG. 1, the transmission device 100 includes an encoding unit 102, a packet generation unit 103, a QoS control unit 104, a data buffer 105, a communication control unit 106, a transmission rate calculation unit 107, and a communication interface 108. The QoS control unit 104 includes a thinning unit 110 and a rate control unit 111. The data buffer 105 stores data to be transmitted / received to / from the receiving device. The transmission device 100 is a transmission device that transmits encoded moving image data to a reception device. The transmission apparatus 100 of this embodiment is connected to a video input apparatus 101 that inputs video and a transmission path 109.

映像入力装置101は、ビデオカメラやWebカメラなどの映像を入力するための装置である。ただし、映像入力装置101が送信装置100と一体となっていても良い。   The video input device 101 is a device for inputting video such as a video camera or a web camera. However, the video input device 101 may be integrated with the transmission device 100.

送信装置100は、パーソナルコンピュータ、ワークステーション、ノートブックPC、コンピュータを内蔵した各種家電装置、ゲーム機、携帯電話、デジタルビデオカメラ、デジタルカメラなどの機器、或いはこれらの組み合わせにより実現可能である。   The transmission device 100 can be realized by a personal computer, a workstation, a notebook PC, various home appliances with a built-in computer, a game machine, a mobile phone, a digital video camera, a digital camera, or a combination of these devices.

伝送路109は各種ネットワークに代表される伝送路であり、本実施形態においては、受信装置との間で動画データのパケットを始めとする各種パケットを送受信するためのネットワークである。   The transmission path 109 is a transmission path represented by various networks. In the present embodiment, the transmission path 109 is a network for transmitting and receiving various packets including a moving image data packet to and from the receiving apparatus.

符号化部102は、映像入力装置101から入力された動画データをMPEG−4 Video方式により圧縮符号化する。映像入力装置101から入力された動画データは、そのまま配信するにはデータ量が多いため、符号化部102により配信前に圧縮符号化される。符号化部102は、圧縮符号化した動画データを、フレーム単位でパケット生成部103へ入力する。   The encoding unit 102 compresses and encodes the moving image data input from the video input device 101 using the MPEG-4 Video system. The moving image data input from the video input device 101 has a large amount of data to be distributed as it is, and is therefore compressed and encoded by the encoding unit 102 before distribution. The encoding unit 102 inputs the compression-coded moving image data to the packet generation unit 103 in units of frames.

パケット生成部103は、符号化部102から入力された動画データをパケット化し、データバッファ105へ記憶させる。本実施形態では、動画データの符号化方式としてMPEG−4 Videoを用い、符号化された動画データの転送プロトコルとしてRTP(Real−time Transport Protocol)を用いる。従ってパケット生成部103は、MPEG−4 Video符号化動画像データのRTPペイロードフォーマットを規定しているIETF RFC3016に従って符号化された動画データをパケット化する。   The packet generation unit 103 packetizes the moving image data input from the encoding unit 102 and stores the packetized data in the data buffer 105. In the present embodiment, MPEG-4 Video is used as an encoding method for moving image data, and RTP (Real-time Transport Protocol) is used as a transfer protocol for encoded moving image data. Therefore, the packet generation unit 103 packetizes moving image data encoded in accordance with IETF RFC3016 that defines the RTP payload format of MPEG-4 Video encoded moving image data.

通信制御部106は、データバッファ105に記憶されたRTPパケット(符号化された動画データ)を、通信インターフェース108を介して所定の宛先(受信装置)へ送信する。   The communication control unit 106 transmits the RTP packet (encoded moving image data) stored in the data buffer 105 to a predetermined destination (receiving device) via the communication interface 108.

伝送速度算出部107は、受信装置によって送信された受信状況通知に応じて、受信装置に対して送信可能な動画データのデータレートを算出する。本形態では、受信状況通知として、RTCP(RTP Control Protocol)のレシーバー・レポートを用いるものとする。また、伝送速度算出部107は、各受信装置に送信可能なデータレートの違いに応じた値(例えば、差分、分散値、標準偏差)を算出する。本形態では、各受信装置に送信可能なデータレートの違いに応じた統計値(分散)を算出する場合について説明する。   The transmission rate calculation unit 107 calculates the data rate of moving image data that can be transmitted to the receiving device in accordance with the reception status notification transmitted by the receiving device. In this embodiment, an RTCP (RTP Control Protocol) receiver report is used as the reception status notification. Also, the transmission rate calculation unit 107 calculates a value (for example, difference, variance value, standard deviation) according to the difference in data rate that can be transmitted to each receiving apparatus. In this embodiment, a case will be described in which a statistical value (dispersion) is calculated according to the difference in data rate that can be transmitted to each receiving apparatus.

QoS制御部104は、伝送速度算出部107にて算出された統計値(分散値)に応じて、動画データの符号化レートの制御とフレームレートの制御を行う。QoS制御部104の処理の詳細は後述する。   The QoS control unit 104 controls the coding rate of the moving image data and the frame rate according to the statistical value (dispersion value) calculated by the transmission rate calculation unit 107. Details of the processing of the QoS control unit 104 will be described later.

次に、本実施形態の送信装置100の処理について、図2を用いて説明する。図2は、本実施形態の送信装置100による処理の一例を示すフローチャートである。本形態の送信装置100は、複数の受信装置に対する動画データの送信中に、図2のフローチャートで示す処理を実行する。   Next, the process of the transmission apparatus 100 of this embodiment is demonstrated using FIG. FIG. 2 is a flowchart illustrating an example of processing performed by the transmission apparatus 100 according to the present embodiment. The transmission apparatus 100 according to the present embodiment executes the process shown in the flowchart of FIG. 2 during transmission of moving image data to a plurality of reception apparatuses.

送信装置100の伝送速度算出部107は、各受信装置から受信状況通知を取得する(S201)。すなわち、伝送速度算出部107は、ステップS201において、符号化された動画データの受信状況を示す受信状況通知を複数の受信装置のそれぞれから取得する。本形態の伝送速度算出部107は、受信状況通知として、RTCPのレシーバー・レポートを受信する。   The transmission rate calculation unit 107 of the transmission device 100 acquires a reception status notification from each reception device (S201). That is, in step S201, the transmission rate calculation unit 107 acquires a reception status notification indicating the reception status of the encoded moving image data from each of the plurality of reception devices. The transmission rate calculation unit 107 of this embodiment receives an RTCP receiver report as a reception status notification.

伝送速度算出部107は、各受信装置から取得した受信状況通知に基づいて、各受信装置に送信可能な動画データのデータレート(伝送速度)を算出する(S202)。すなわち、S202(取得手順)において、各受信装置に送信可能な動画データのデータレートが取得される。伝送速度算出部107は、第1の受信装置から受信した受信状況通知に基づいて、第1の受信装置に送信可能な第1のデータレートを算出し、第2の受信装置から受信した受信状況通知に基づいて、第2の受信装置に送信可能な第2のデータレートを算出する。   The transmission rate calculation unit 107 calculates the data rate (transmission rate) of the moving image data that can be transmitted to each receiving device based on the reception status notification acquired from each receiving device (S202). That is, in S202 (acquisition procedure), the data rate of moving image data that can be transmitted to each receiving device is acquired. The transmission rate calculation unit 107 calculates a first data rate that can be transmitted to the first receiving device based on the reception status notification received from the first receiving device, and receives the receiving status received from the second receiving device. Based on the notification, a second data rate that can be transmitted to the second receiving device is calculated.

伝送速度算出部107は、受信状況通知(RTCPのレシーバー・レポート)に含まれるパケットロス率や時刻情報(RTT)に基づいて、受信装置に送信可能なデータレート(伝送速度)を算出することができる。例えば、ある受信装置に対して、10Mbpsで動画データを送信したときのパケットロス率が0%で、11Mbpsで送信したときのパケットロス率が10%であった場合、当該受信装置に送信可能なデータレートを10Mbpsと算出する。すなわち、伝送速度算出部107は、受信状況通知から、複数の受信装置のそれぞれについて、正常に受信しなかった動画データに関するエラー情報(パケットロス率)を取得する。そして、複数の受信装置のそれぞれに送信された動画データの符号化レートと、エラー情報とに基づいて、複数の受信装置のそれぞれに対して送信可能なデータレートを算出する。   The transmission rate calculation unit 107 can calculate a data rate (transmission rate) that can be transmitted to the receiving device based on the packet loss rate and time information (RTT) included in the reception status notification (RTCP receiver report). it can. For example, if a packet loss rate is 0% when moving image data is transmitted at 10 Mbps and a packet loss rate is 10% when transmitted at 11 Mbps to a certain receiving device, transmission to the receiving device is possible. The data rate is calculated as 10 Mbps. That is, the transmission rate calculation unit 107 acquires error information (packet loss rate) related to moving image data that has not been normally received for each of the plurality of receiving devices from the reception status notification. Then, based on the encoding rate of the moving image data transmitted to each of the plurality of receiving apparatuses and the error information, a data rate that can be transmitted to each of the plurality of receiving apparatuses is calculated.

伝送速度の他の算出方法として、例えば、往復遅延時間(Round Trip Time:RTT)を用いる方法がある。伝送速度算出部107は、受信装置によって送信された受信状況通知からRTTを算出して、伝送速度を算出する。すなわち、伝送速度算出部107は、受信装置による受信状況通知の送信時刻、及び、送信装置による受信状況通知の取得時刻に基づいて、各受信装置と送信装置との間の通信時間(RTT)を取得する。そして、取得された通信時間と、送信された動画データの符号化レートとに基づいて、複数の受信装置のそれぞれに対して送信可能なデータレートを算出する。   As another method for calculating the transmission rate, for example, there is a method using a round trip time (RTT). The transmission rate calculation unit 107 calculates RTT from the reception status notification transmitted by the receiving device, and calculates the transmission rate. That is, the transmission rate calculation unit 107 calculates the communication time (RTT) between each receiving device and the transmitting device based on the transmission time of the receiving status notification by the receiving device and the acquisition time of the receiving status notification by the transmitting device. get. Then, based on the acquired communication time and the encoded rate of the transmitted moving image data, a data rate that can be transmitted to each of the plurality of receiving devices is calculated.

ただし、伝送速度の算出方法は、上記の方法に限らず、例えば、ジッタなどを用いて算出することも可能である。また、本形態では伝送速度をレシーバー・レポートの受信に応じて行うが、この形態に限らず、例えばユーザからの指定に応じたタイミングや、一定期間ごとに取得するようにしても良い。また、伝送速度算出部107は、受信装置から伝送速度が通知された場合は、その値を受信装置の伝送速度として取得する。   However, the transmission rate calculation method is not limited to the above method, and can be calculated using, for example, jitter. In this embodiment, the transmission rate is determined in response to reception of the receiver report. However, the present invention is not limited to this configuration. For example, the transmission rate may be acquired at a timing according to designation from the user or at regular intervals. In addition, when the transmission rate is notified from the reception device, the transmission rate calculation unit 107 acquires the value as the transmission rate of the reception device.

また、伝送速度算出部107は、S202において、算出されたデータレートの違いに応じた値を算出する。本形態の伝送速度算出部107は、第1の受信装置に対して送信可能な第1のデータレートと第2の受信装置に対して送信可能な第2のデータレートとの違いに応じた値として分散値を算出する。伝送速度算出部107により算出されたデータレート、及び、分散値は、QoS制御部104に渡される。   Also, the transmission rate calculation unit 107 calculates a value corresponding to the difference in the calculated data rate in S202. The transmission rate calculation unit 107 of the present embodiment is a value corresponding to the difference between the first data rate that can be transmitted to the first receiving device and the second data rate that can be transmitted to the second receiving device. The variance value is calculated as The data rate and dispersion value calculated by the transmission rate calculation unit 107 are passed to the QoS control unit 104.

QoS制御部104は、伝送速度算出部107から渡された分散値に基づいて、各受信装置に対して送信可能なデータレート(伝送速度)が同等であるか否かを判定する(S203)。すなわち、QoS制御部104は、伝送速度算出部107により算出された分散値と閾値とを比較する。分散値が閾値以上の場合、受信装置ごとの送信可能なデータレートが同等ではないと判定して、S205に進む。一方、分散値が閾値よりも低い場合、受信装置ごとの送信可能なデータレートが同等であると判定して、S204に進む。   The QoS control unit 104 determines whether or not the data rate (transmission rate) that can be transmitted to each receiving apparatus is the same based on the dispersion value passed from the transmission rate calculation unit 107 (S203). That is, the QoS control unit 104 compares the variance value calculated by the transmission rate calculation unit 107 with a threshold value. If the variance value is equal to or greater than the threshold value, it is determined that the transmittable data rate for each receiving apparatus is not equal, and the process proceeds to S205. On the other hand, if the variance value is lower than the threshold value, it is determined that the transmittable data rate for each receiving apparatus is the same, and the process proceeds to S204.

S204において、本形態のレート制御部111は、各受信装置について算出されたデータレートのうち、最も低いデータレートに合わせて動画データの符号化レートを制御する。なお、間引き部110は、S204において受信装置ごとのフレームレートの制御を行わない。このように、各受信装置に送信可能なデータレート(伝送速度)の違い(ばらつき)が小さい場合は、伝送速度が低い受信装置に合わせて符号化レートを制御して同じ動画データを各受信装置に送信することで、送信処理にかかる負荷を低減できる。   In S204, the rate control unit 111 according to the present embodiment controls the encoding rate of moving image data in accordance with the lowest data rate among the data rates calculated for each receiving apparatus. Note that the thinning unit 110 does not control the frame rate for each receiving apparatus in S204. As described above, when the difference (variation) in the data rate (transmission speed) that can be transmitted to each receiving apparatus is small, the same moving image data is transmitted to each receiving apparatus by controlling the encoding rate according to the receiving apparatus having a low transmission speed. By transmitting to, the load on the transmission process can be reduced.

一方、S205(制御手順)において、間引き部110は、動画データのフレーム間引きを行う。本形態の間引き部110は、各受信装置の伝送速度の平均値を求める。そして、平均値よりも伝送速度が高い受信装置と、平均値よりも伝送速度が低い受信装置とに分類する。間引き部110は、平均値よりも高い伝送速度のうち、最も低い伝送速度との差の大きさに応じて、平均値よりも低い伝送速度の受信装置に対して送信する動画データのフレーム間引きを行う。すなわち、平均値よりも伝送速度が高い受信装置と、平均値よりも伝送速度が低い受信装置とでは、データレートに関して異なる制御が行われた動画データが送信されることになる。   On the other hand, in S205 (control procedure), the thinning unit 110 performs frame thinning of moving image data. The thinning unit 110 according to this embodiment obtains an average value of transmission rates of the respective receiving apparatuses. And it classify | categorizes into the receiver with a transmission rate higher than an average value, and the receiver with a transmission rate lower than an average value. The thinning unit 110 performs frame thinning of moving image data to be transmitted to a receiver having a transmission rate lower than the average value according to the magnitude of the difference from the lowest transmission rate among the transmission rates higher than the average value. Do. That is, the moving image data in which the data rate is controlled differently is transmitted between the receiving device having a transmission rate higher than the average value and the receiving device having a transmission rate lower than the average value.

例えば、第1、第2、第3の受信装置に対して動画データを送信する場合について説明する。この例において、第3の受信装置に送信可能な第3のデータレートが最も高く、第2の受信装置に送信可能な第2のデータレートが最も低く、第1の受信装置に送信可能な第1のデータレートが第2及び第3のデータレートの中間値よりも高かったとする。この場合、間引き部110は、S205において、第1及び第2のデータレートの差の大きさに基づいて、第2の受信装置に送信する動画データのフレーム間引きの間隔を決定する。すなわち、第1及び第3の受信装置に対しては、MPEG−4 Videoで規定されるIフレーム、Pフレーム、Bフレームの3種類のすべてのフレームを送信することを決定する。   For example, a case where moving image data is transmitted to the first, second, and third receiving devices will be described. In this example, the third data rate that can be transmitted to the third receiving device is the highest, the second data rate that can be transmitted to the second receiving device is the lowest, and the second data rate that can be transmitted to the first receiving device. Assume that the data rate of 1 is higher than the intermediate value of the second and third data rates. In this case, the thinning unit 110 determines a frame thinning interval of moving image data to be transmitted to the second receiving device based on the difference between the first and second data rates in S205. That is, it is determined to transmit all three types of frames of I frame, P frame, and B frame defined by MPEG-4 Video to the first and third receiving apparatuses.

また、この例において、第1及び第2のデータレートの差が小さい場合は、第2の受信装置に対して、I、P、Bフレームのうち、Bフレームのみを間引いた動画データを送信することを決定する。一方、第1及び第2のデータレートの差が大きい場合は、第2の受信装置に対して、I、P、Bフレームのうち、P、Bフレームを間引いた動画データを送信することを決定する。   Also, in this example, when the difference between the first and second data rates is small, moving image data in which only B frames are thinned out of I, P, and B frames is transmitted to the second receiving apparatus. Decide that. On the other hand, when the difference between the first and second data rates is large, it is determined to transmit moving image data obtained by thinning out the P and B frames out of the I, P and B frames to the second receiving apparatus. To do.

なお、Iフレームは、ほかのフレームを参照せずに受信装置において復号可能なイントラフレームである。また、Pフレームは、過去のフレームを参照することで受信装置において復号可能なインターフレームである。また、Bフレームは、過去、及び未来のフレームを参照することで受信装置において復号可能なインターフレームである。   The I frame is an intra frame that can be decoded by the receiving apparatus without referring to other frames. The P frame is an inter frame that can be decoded by the receiving apparatus by referring to a past frame. The B frame is an inter frame that can be decoded by the receiving apparatus by referring to the past and future frames.

すなわち、間引き部110は、分散が閾値以上の場合、S205(制御手順)において、第1の受信装置に送信する動画データの一部(P及びBフレーム)を、第2の受信装置に送信しないように制御する。   That is, when the variance is equal to or greater than the threshold, the thinning unit 110 does not transmit a part of the moving image data (P and B frames) to be transmitted to the first receiving device to the second receiving device in S205 (control procedure). To control.

続いてQoS制御部104は、フレーム間引き後の符号化レートが適切な符号化レートかを判定する(S206)。すなわち、QoS制御部104は、平均値よりも高い伝送速度のうち最も低い伝送速度(第1のデータレート)に応じて圧縮符号化された動画データのフレーム間引き後の符号化レートが、平均値以下の各伝送速度よりも高いか否かを判定する。   Subsequently, the QoS control unit 104 determines whether the encoding rate after frame thinning is an appropriate encoding rate (S206). That is, the QoS control unit 104 determines that the encoding rate after frame decimation of video data compressed and encoded according to the lowest transmission rate (first data rate) among the transmission rates higher than the average value is the average value. It is determined whether it is higher than the following transmission rates.

例えば、第2の受信装置に対してIフレームのみを送信することが決定された場合、第1の受信装置に送信可能な第1のデータレートに基づいて圧縮符号化された動画データのうち、Iフレームのみの符号化レートが、第2のデータレートよりも高いか判定する。また、例えば、第2の受信装置に対してI、Pフレームを送信することが決定された場合、第1のデータレートに基づいて圧縮符号化された動画データのうち、I、Pフレームのみの符号化レートが、第2のデータレートよりも高いか否かを判定する。フレーム間引き後の符号化レートが第2のデータレートよりも高い場合はS207に進み、高くない場合はS208に進む。   For example, when it is determined to transmit only an I frame to the second receiving device, among video data compressed and encoded based on a first data rate that can be transmitted to the first receiving device, It is determined whether the encoding rate of only the I frame is higher than the second data rate. Also, for example, when it is determined to transmit I and P frames to the second receiving apparatus, only the I and P frames of the moving image data compressed and encoded based on the first data rate are included. It is determined whether the encoding rate is higher than the second data rate. If the coding rate after frame decimation is higher than the second data rate, the process proceeds to S207, and if not, the process proceeds to S208.

S207において、レート制御部111は、伝送速度が低い受信装置に送信可能なデータレートに合わせて符号化レートを制御する。例えば、第1のデータレートに基づいて圧縮された動画データのIフレームのみの符号化レートが第2のデータレートよりも高い場合、レート制御部111は、Iフレームの画質を第2のデータレートに基づいて下げる。また、このとき、P、Bフレームの画質を上げる。このようにすることにより、第1及び第3の受信装置における画質の劣化を低減しつつ、第2の受信装置におけるパケットロスを低減できる。   In S207, the rate control unit 111 controls the encoding rate in accordance with the data rate that can be transmitted to the receiving apparatus having a low transmission rate. For example, when the encoding rate of only the I frame of the moving image data compressed based on the first data rate is higher than the second data rate, the rate control unit 111 sets the image quality of the I frame to the second data rate. Lower based on. At this time, the image quality of the P and B frames is increased. By doing so, it is possible to reduce packet loss in the second receiving device while reducing deterioration in image quality in the first and third receiving devices.

なお、本形態では、S207でイントラフレームの符号化レートを下げることについて説明したが、例えば、イントラフレームの間隔を広げるようにしても良い。すなわち、統計値(分散値)が閾値以上の場合において、インターフレームを除く動画データの符号化レートであって、第1のデータレートを用いて決定された符号化レートが、第2のデータレートよりも高い場合、イントラフレームの出現間隔を広げるようにしても良い。   In the present embodiment, the intra-frame coding rate is reduced in S207. However, for example, the intra-frame interval may be increased. That is, when the statistical value (dispersion value) is equal to or greater than the threshold, the coding rate of the moving image data excluding the inter frame, and the coding rate determined using the first data rate is the second data rate. If it is higher, the interval of appearance of intra frames may be increased.

間引き部110は、S205のフレーム間引き後の動画データの動きが滑らかか否かを判定する。例えば、間引き部110は、フレーム間引き後のフレームレートが閾値(2fps(frame per sec))よりも低ければ、動きが滑らかでないと判定し、S209に進み、閾値以上であれば、S210に進む。すなわち、間引き部110は、インターフレームが送信されない第2の受信装置に送信する動画データのフレームレートが所定のフレームレートよりも低いか否かを判定する。フレームレートの閾値は、固定値であっても、動画の動きの有無に応じて可変とすることも、ユーザによって指定できるようにすることも可能である。例えば、動画の動きが大きい場合はフレームレートの閾値を高くし、動きが小さい場合は閾値を低くすることができる。   The thinning unit 110 determines whether the motion of the moving image data after the frame thinning in S205 is smooth. For example, the decimation unit 110 determines that the motion is not smooth if the frame rate after frame decimation is lower than a threshold (2 fps (frame per sec)), and proceeds to S209. That is, the thinning unit 110 determines whether or not the frame rate of moving image data to be transmitted to the second receiving device to which no inter frame is transmitted is lower than a predetermined frame rate. Even if the threshold of the frame rate is a fixed value, it can be made variable according to the presence or absence of motion of the moving image, or can be specified by the user. For example, when the motion of the moving image is large, the threshold of the frame rate can be increased, and when the motion is small, the threshold can be decreased.

S208において動きが滑らかでない(フレームレートが閾値未満)と判定された場合、QoS制御部104は、Iフレームの間隔を小さくするべくGOP構成の変更要求を符号化部102へ送信し(S209)、S204へ戻る。QoS制御部104からのGOP構成変更要求を受信した符号化部102は、要求に従いGOP構成を変更する。すなわち、QoS制御部104は、インターフレームが送信されない第2の受信装置に送信する動画データのフレームレートが所定のフレームレートよりも低いと判定された場合、イントラフレームの出現間隔を狭くする。   If it is determined in S208 that the motion is not smooth (the frame rate is less than the threshold value), the QoS control unit 104 transmits a GOP configuration change request to the encoding unit 102 to reduce the I-frame interval (S209). Return to S204. The encoding unit 102 that has received the GOP configuration change request from the QoS control unit 104 changes the GOP configuration in accordance with the request. That is, the QoS control unit 104 narrows the intra-frame appearance interval when it is determined that the frame rate of the moving image data to be transmitted to the second receiving device to which no inter frame is transmitted is lower than the predetermined frame rate.

一方、S208において動きが滑らかである(フレームレートが閾値以上)と判定された場合、QoS制御部104は、各受信装置の伝送速度の平均値よりも高い伝送速度のうち、最も低い伝送速度に基づいて制御し(S210)、処理を終了する。この例では、第1のデータレート(第1の受信装置の伝送速度)に基づいて動画データの符号化レートが制御される。なお、図2の処理は、受信状況通知の受信に応じて開始しても良いし、ユーザの指定に応じたタイミングで行っても良いし、所定期間ごとに行うようにしても良い。 On the other hand, if it is determined in S208 that the motion is smooth (the frame rate is equal to or greater than the threshold), the QoS control unit 104 sets the lowest transmission rate among the transmission rates higher than the average value of the transmission rates of the receiving apparatuses. Based on the control (S2 10 ), the process is terminated. In this example, the encoding rate of moving image data is controlled based on the first data rate (the transmission speed of the first receiving device). 2 may be started in response to reception of the reception status notification, may be performed at a timing according to user designation, or may be performed every predetermined period.

なお、本形態では、統計値(分散値)が閾値よりも高い場合、各受信装置の伝送速度の平均値よりも高い伝送速度のうち、最も低い伝送速度に基づいて符号化レートを制御すると共に、当該伝送速度との差に応じて、フレームレートを制御することについて説明した。しかし、この形態に限らない。例えば、各受信装置の伝送速度のうち、最も高い伝送速度に基づいて符号化レートを制御すると共に、当該伝送速度との差に応じて、フレームレートを制御するようにしても良い。   In this embodiment, when the statistical value (dispersion value) is higher than the threshold value, the coding rate is controlled based on the lowest transmission rate among the transmission rates higher than the average value of the transmission rates of the receiving apparatuses. In the above description, the frame rate is controlled according to the difference from the transmission rate. However, it is not limited to this form. For example, the coding rate may be controlled based on the highest transmission rate among the transmission rates of each receiving apparatus, and the frame rate may be controlled according to the difference from the transmission rate.

次に、本実施形態のシステム全体の処理について、図3及び図4を用いて説明する。図3は、送信装置100と複数の受信装置(301〜303)の接続形態及び伝送速度の一例を示す図である。   Next, processing of the entire system of this embodiment will be described with reference to FIGS. 3 and 4. FIG. 3 is a diagram illustrating an example of a connection form and a transmission rate between the transmission device 100 and a plurality of reception devices (301 to 303).

送信装置100と第1の受信装置301、第2の受信装置302、第3の受信装置303は、ネットワーク304(図1では伝送路109に相当)を介して接続されている。また、送信装置100と第1の受信装置301との間の伝送速度は9Mbps、送信装置100と第3の受信装置303との間の伝送速度は10Mbpsであり、各々の伝送速度は一定である。すなわち、送信装置100が第1の受信装置301に対して9Mbps以下の符号化レートの動画データを送信すれば、通信経路でパケットロスが発生しないことが見込まれる。一方、送信装置100と第2の受信装置302との間の伝送速度は、回線状況によって512kbpsから9Mbpsの間で変動する。   The transmission device 100, the first reception device 301, the second reception device 302, and the third reception device 303 are connected via a network 304 (corresponding to the transmission path 109 in FIG. 1). Further, the transmission rate between the transmission device 100 and the first reception device 301 is 9 Mbps, the transmission rate between the transmission device 100 and the third reception device 303 is 10 Mbps, and each transmission rate is constant. . That is, if the transmitting apparatus 100 transmits moving image data with an encoding rate of 9 Mbps or less to the first receiving apparatus 301, it is expected that no packet loss will occur in the communication path. On the other hand, the transmission rate between the transmission device 100 and the second reception device 302 varies between 512 kbps and 9 Mbps depending on the line condition.

図4は、送信装置100の符号化部102により符号化される動画データと、第2の受信装置302へ送信される動画データの関係を時間経過と共に示す図である。   FIG. 4 is a diagram illustrating a relationship between moving image data encoded by the encoding unit 102 of the transmission device 100 and moving image data transmitted to the second reception device 302 over time.

図中401は、第2の受信装置302の伝送速度の変化を時間経過と共に示している。時刻t1から時刻t2の間の伝送速度は9Mbpsであり、時刻t3から時刻t4の間の伝送速度は1Mbpsであり、時刻t5から時刻t6の間の伝送速度は512kbpsである。尚、図4では時刻t1以前と、時刻t2から時刻t3の間、時刻t4から時刻t5の間、時刻t5から時刻t6の間の伝送速度は図示しない。   In the figure, 401 indicates the change in the transmission rate of the second receiving apparatus 302 over time. The transmission rate from time t1 to time t2 is 9 Mbps, the transmission rate from time t3 to time t4 is 1 Mbps, and the transmission rate from time t5 to time t6 is 512 kbps. In FIG. 4, transmission speeds before time t1, between time t2 and time t3, between time t4 and time t5, and between time t5 and time t6 are not shown.

図中402は、符号化部102による符号化された各フレームのサイズを示している。また、図中403は、第2の受信装置302へ送信される各フレームのサイズを示している。時刻t1、t2、t3、t4、t5、t6に符号化されたフレームはイントラフレームであり、それ以外の時刻に符号化されたフレームはインターフレームである。尚、時刻t1以前と、時刻t2から時刻t3の間、時刻t4から時刻t5の間、時刻t5から時刻t6の間にもフレームが存在するが、図4ではこれらのフレームは図示しない。本実施形態において、402で示される各フレームは、第1及び第3の受信装置301へと送信される。   In the figure, reference numeral 402 denotes the size of each frame encoded by the encoding unit 102. In the figure, 403 indicates the size of each frame transmitted to the second receiving apparatus 302. Frames encoded at times t1, t2, t3, t4, t5, and t6 are intra frames, and frames encoded at other times are inter frames. There are frames before time t1, between time t2 and time t3, between time t4 and time t5, and between time t5 and time t6, but these frames are not shown in FIG. In the present embodiment, each frame indicated by 402 is transmitted to the first and third receiving apparatuses 301.

時刻t1から時刻t2の間の伝送速度は、第1の受信装置301が9Mbps、第2の受信装置302が9Mbps、第3の受信装置303が10Mbpsである。この区間においては、第1の受信装置301と第2の受信装置302と第3の受信装置303における伝送速度は同等であると判定される(S203)。従って、最も伝送速度の低い受信装置の伝送速度(9Mbps)に合わせて動画の符号化レートが制御される(S204)。具体的には、図4の402のようにイントラフレームのサイズがr4、インターフレームのサイズがr1に制御され、各受信装置へ同一の動画データが送信される。   The transmission rate between time t1 and time t2 is 9 Mbps for the first receiving device 301, 9 Mbps for the second receiving device 302, and 10 Mbps for the third receiving device 303. In this section, it is determined that the transmission rates of the first receiving device 301, the second receiving device 302, and the third receiving device 303 are the same (S203). Therefore, the moving image encoding rate is controlled in accordance with the transmission rate (9 Mbps) of the receiver having the lowest transmission rate (S204). Specifically, as illustrated in 402 of FIG. 4, the size of the intra frame is controlled to r4 and the size of the inter frame is set to r1, and the same moving image data is transmitted to each receiving device.

時刻t3から時刻t4の間の伝送速度は、第1の受信装置301が9Mbps、第2の受信装置302が1Mbps、第3の受信装置303が10Mbpsである。この区間では、複数の受信装置(301〜303)における伝送速度が同等でない(ばらつきがある)と判定される(S203)。そして、伝送速度が最も低い第2の受信装置302には、403に示す通り、イントラフレームのみが送信される。一方、第1の受信装置301と第3の受信装置303へは、全ての動画フレームが送信される。   The transmission rate between time t3 and time t4 is 9 Mbps for the first receiving device 301, 1 Mbps for the second receiving device 302, and 10 Mbps for the third receiving device 303. In this section, it is determined that the transmission rates of the plurality of receiving apparatuses (301 to 303) are not equal (there is variation) (S203). Then, as shown at 403, only the intra frame is transmitted to the second receiving apparatus 302 having the lowest transmission rate. On the other hand, all moving image frames are transmitted to the first receiving device 301 and the third receiving device 303.

時刻t5から時刻t6の間の伝送速度は、第1の受信装置301が9Mbps、第2の受信装置302が512kbps、第3の受信装置303が10Mbpsである。この区間では、S203において、複数の受信装置(301〜303)における伝送速度が同等でない(ばらつきがある)と判定される(S203)。そして、S205において、第2の受信装置に対してイントラフレームのみを送信することが決定される。さらに、S206において、第1の受信装置301の伝送速度(9Mbps)に基づいて決定された動画データのイントラフレームのみの符号化レートが、時刻t5からt6の間の第3の受信装置の伝送速度(512kbps)よりも高いと判定される。そこで、レート制御部111は、第1の受信装置301の伝送速度(9Mbps)に基づいて制御した場合よりもイントラフレームの符号化レートが下がるように制御を行う。また、この場合、レート制御部111は、インターフレームの符号化レートが上がるように制御する。   The transmission rate between time t5 and time t6 is 9 Mbps for the first receiving device 301, 512 kbps for the second receiving device 302, and 10 Mbps for the third receiving device 303. In this section, it is determined in S203 that the transmission rates of the plurality of receiving apparatuses (301 to 303) are not equal (there is variation) (S203). In step S205, it is determined that only the intra frame is transmitted to the second receiving apparatus. Furthermore, in S206, the transmission rate of the third receiving apparatus between time t5 and t6 is the encoding rate of only the intra frame of the moving image data determined based on the transmission speed (9 Mbps) of the first receiving apparatus 301. It is determined that it is higher than (512 kbps). Therefore, the rate control unit 111 performs control so that the intra-frame coding rate is lower than that based on the transmission rate (9 Mbps) of the first reception device 301. Further, in this case, the rate control unit 111 controls the interframe coding rate to increase.

従って、第2の受信装置302へ送信される動画データは、403に示す通り、フレームサイズr4よりも小さいフレームサイズr3のイントラフレームのみとなる。フレームサイズr3は、第2の受信装置302の伝送速度(512kbps)に基づいてレート制御部111において算出されたフレームサイズである。一方、第1の受信装置301と第3の受信装置303へは、402の時刻t5から時刻t6の間の、フレームサイズr3のイントラフレームとフレームサイズr2のインターフレームが送信される。ここでフレームサイズr2は、第1の受信装置301の伝送速度(9Mbps)と、イントラフレームのフレームサイズr3に基づいて、レート制御部111において算出されたフレームサイズである。   Therefore, the moving image data transmitted to the second receiving apparatus 302 is only an intra frame having a frame size r3 smaller than the frame size r4, as indicated by 403. The frame size r3 is a frame size calculated by the rate control unit 111 based on the transmission rate (512 kbps) of the second receiving apparatus 302. On the other hand, an intra frame of frame size r3 and an inter frame of frame size r2 from time t5 to time t6 in 402 are transmitted to first receiving device 301 and third receiving device 303. Here, the frame size r2 is a frame size calculated by the rate control unit 111 based on the transmission speed (9 Mbps) of the first receiving apparatus 301 and the frame size r3 of the intra frame.

以上説明したように、本形態の送信装置100は、受信装置に対して送信可能なデータレート(伝送速度)を、受信装置からの受信状況通知に基づいて、複数の受信装置ごとに算出すると共に、伝送速度の違いに応じた値を算出する。そして、算出された値が閾値以上の場合は、伝送速度の平均値よりも高い伝送速度のうち、最も低い伝送速度に基づいて符号化レートを制御すると共に、平均値よりも低い伝送速度に基づいて、各受信装置のフレームレートを制御する。一方、算出された値が閾値よりも低い場合は、最も低い伝送速度に基づいて符号化された動画データを各受信装置に送信する。なお、本形態では、伝送速度の違いに応じた値として、各伝送速度の分散値を用いる例について説明したが、例えば、各伝送速度の差分、標準偏差などを用いるようにしても良い。   As described above, the transmission device 100 according to the present embodiment calculates the data rate (transmission speed) that can be transmitted to the reception device for each of the plurality of reception devices based on the reception status notification from the reception device. Then, a value corresponding to the difference in transmission speed is calculated. When the calculated value is equal to or greater than the threshold, the coding rate is controlled based on the lowest transmission rate among the transmission rates higher than the average transmission rate, and based on the transmission rate lower than the average value. Thus, the frame rate of each receiving apparatus is controlled. On the other hand, when the calculated value is lower than the threshold value, the moving image data encoded based on the lowest transmission rate is transmitted to each receiving device. In this embodiment, the example in which the variance value of each transmission rate is used as the value corresponding to the difference in transmission rate has been described. However, for example, a difference between the transmission rates, a standard deviation, or the like may be used.

このようにすることで、複数の受信装置に対して動画データを送信する場合に、個別にレート制御をする場合よりも送信処理にかかる負荷を低減できると共に、各受信装置の通信状況に応じた動画データの送信ができるようになる。   In this way, when moving image data is transmitted to a plurality of receiving devices, the load on the transmission process can be reduced as compared with the case where individual rate control is performed, and according to the communication status of each receiving device. Video data can be sent.

<その他の実施形態>
前述の実施形態では、送信装置100が動画データの符号化処理を行う機能を有していたが、符号化部102と送信装置100が別々の装置であっても良い。
<Other embodiments>
In the above-described embodiment, the transmission device 100 has a function of encoding moving image data. However, the encoding unit 102 and the transmission device 100 may be separate devices.

また、前述の実施形態では、動画データの符号化方式としてMPEG−4 Video方式を用い、動画データの転送プロトコルとしてRTPを用いた。しかし、動画データの符号化方式としては、例えばMPEG−2やH.264など、フレーム間予測符号化方式による符号化を行う類似の符号化方式を用いることができる。また、動画データの転送プロトコルについても、RTPに限らずOSI参照モデルの同一レイヤーの他のプロトコルまたは別レイヤーの他のプロトコルを用いることが可能である。   In the above-described embodiment, the MPEG-4 Video method is used as the moving image data encoding method, and RTP is used as the moving image data transfer protocol. However, as encoding methods of moving image data, for example, MPEG-2 or H.264 is used. A similar encoding scheme that performs encoding using an inter-frame predictive encoding scheme such as H.264 can be used. Also, the moving image data transfer protocol is not limited to RTP, and other protocols in the same layer or other protocols in the OSI reference model can be used.

また、前述の実施形態では、送信装置100が伝送速度の算出処理を行う機能を有していたが、伝送速度算出部107と送信装置100が別々の装置であっても良く、外部の測定器からの通信帯域情報を利用することも可能である。   In the above-described embodiment, the transmission device 100 has a function of calculating the transmission rate. However, the transmission rate calculation unit 107 and the transmission device 100 may be separate devices, and an external measuring instrument. It is also possible to use communication band information from

また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。   The present invention can also be realized by executing the following processing. That is, software (program) that realizes the functions of the above-described embodiments is supplied to a system or apparatus via a network or various storage media, and a computer (or CPU, MPU, or the like) of the system or apparatus reads the program. It is a process to be executed.

Claims (11)

符号化された動画データを複数の受信装置に送信する送信装置であって、
第1の受信装置に対して送信可能な第1の送信データレートと、第2の受信装置に対して送信可能な第2の送信データレートとを取得する取得手段と、
前記第1及び第2の送信データレートの違いに応じて、符号化レート制御及びフレーム間引き制御を行う制御手段であって、前記第1及び第2の送信データレートの違いに応じた値が閾値以上の場合、前記第1及び第2の送信データレートのうち、より低い前記第2の送信データレートに対応する記第2の受信装置を、フレーム間引きされた動画データであって、他の動画フレームを参照せずに復号可能なイントラフレームで構成される動画データが送信される受信装置として決定し、前記第1及び第2の送信データレートのうち、より高い前記第1の送信データレートに対応する前記第1の受信装置を、前記フレーム間引きされない動画データであって、他の動画フレームを参照することで復号可能なインターフレームと前記イントラフレームとで構成される動画データが送信される受信装置として決定し、前記第1の受信装置に対して送信される前記インターフレームとイントラフレームとを含む動画データのデータレートが前記第1の送信データレートを超えず、且つ、前記動画データのうち前記第2の受信装置に対して送信される前記イントラフレームのデータレートが前記第2の送信データレートを超えないように、前記イントラフレームとインターフレームとを含む前記動画データの符号化レートを決定し、前記第1及び第2の送信データレートの違いに応じた値が前記閾値未満の場合、前記第1及び第2の送信データレートのうち、より低い前記第2の送信データレートに基づいて符号化レートを決定すると共に、当該決定された符号化レートで符号化された動画データをフレーム間引きすることなく前記第1及び第2の受信装置へ送信することを決定する制御手段とを有することを特徴とする送信装置。
A transmitting device that transmits encoded video data to a plurality of receiving devices,
A first transmission data rate that can be transmitted to the first receiving apparatus, an acquisition unit configured to acquire a second transmission data rate that can be transmitted to the second receiving device,
Control means for performing coding rate control and frame decimation control according to a difference between the first and second transmission data rates , wherein a value according to the difference between the first and second transmission data rates is a threshold value. for more than the value, one of the first and second transmission data rate, the receiving device before Symbol of the second corresponding to a lower second transmission data rate, a moving image data frame thinning, other The first transmission data that is higher than the first transmission data rate and the second transmission data rate is determined as a receiving device that transmits the moving image data including the intra frames that can be decoded without referring to the moving image frame. The first receiving device corresponding to the rate is transmitted to the interframe and the intratraffic that are the moving image data that is not frame-decimated and can be decoded by referring to another moving image frame. A video data rate including the inter frame and the intra frame transmitted to the first receiving device is determined as a receiving device to which the moving image data including The intra frame so that the transmission data rate does not exceed and the data rate of the intra frame transmitted to the second receiving device of the moving image data does not exceed the second transmission data rate. An encoding rate of the moving image data including an inter frame is determined, and when a value corresponding to a difference between the first and second transmission data rates is less than the threshold, the first and second transmission data rates Of these, a moving picture encoded at the determined encoding rate while determining the encoding rate based on the lower second transmission data rate Transmitting apparatus characterized by chromatic and control means decides to send the over data to the first and second receiving device without frame thinning.
前記フレーム間引きされた動画データを構成するイントラフレームのフレームレートが所定のフレームレートよりも低いか否かを判定する判定手段を有し、
前記制御手段は、前記フレーム間引きされた動画データを構成するイントラフレームのフレームレートが前記所定のフレームレートよりも低いと前記判定手段により判定された場合、前記イントラフレームのフレームレートを高める制御を行うと共に、前記第1の受信装置に対して送信される前記高める制御後のイントラフレームとインターフレームとを含む動画データのデータレートが前記第1の送信データレートを超えず、且つ、前記高める制御後の動画データのうち前記第2の受信装置に対して送信される前記イントラフレームのデータレートが前記第2のデータレートを超えないように、前記高める制御後の符号化レートを決定することを特徴とする請求項記載の送信装置。
Frame rate of the intra-frames constituting the moving image data the frame thinning has determining means for determining whether less than a predetermined frame rate,
Wherein, when the frame rate of the intra-frames constituting the moving image data the frame thinning is determined by low and said determining means than the predetermined frame rate, and performs control for increasing the frame rate of the intra-frame In addition, the data rate of the moving image data including the intra frame and the inter frame after the control to be transmitted that is transmitted to the first receiving device does not exceed the first transmission data rate, and the control is performed after the control. And determining the post-control encoding rate so that a data rate of the intra frame transmitted to the second receiving device does not exceed the second data rate. The transmission device according to claim 1 .
前記第1及び第2の送信データレートの違いに応じた値は、前記第1及び第2の送信データレートの分散値であることを特徴とする請求項1又は2記載の送信装置。 The first and the value corresponding to the difference between the second transmission data rate, the transmission device according to claim 1 or 2, characterized in that a variance of the first and second transmission data rate. 前記取得手段は、
前記符号化された動画データの受信状況を示す受信状況通知を前記第1及び第2の受信装置のそれぞれから受信する受信手段と、
前記第1及び第2の受信装置から取得された受信状況通知に基づいて、前記第1及び第2送信データレートを算出する算出手段とを有することを特徴とする請求項1乃至3のいずれか1項記載の送信装置。
The acquisition means includes
Receiving means for receiving a reception status notification indicating the reception status of the encoded video data from each of the first and second receiving devices;
On the basis of the first and reception status notification acquired from the second receiving apparatus, according to claim 1 to 3, characterized in that it has a calculation means for calculating said first and second transmission data rate The transmission device according to any one of claims.
前記取得手段は、前記送信装置から動画データを受信する前記第1の受信装置と前記第2の受信装置と第3の受信装置のそれぞれから動画データの受信状況に応じた送信データレートを取得し、The acquisition means acquires a transmission data rate corresponding to the reception status of moving image data from each of the first receiving device, the second receiving device, and the third receiving device that receives moving image data from the transmitting device. ,
前記制御手段は、前記第1、第2、及び第3の受信装置に対応する第1、第2、及び第3の送信データレートの分散値が前記閾値未満の場合、前記第1、第2、及び第3の送信データレートのうち、最低の送信データレートに基づいて符号化レートを決定し、When the variance value of the first, second, and third transmission data rates corresponding to the first, second, and third receiving apparatuses is less than the threshold value, the control unit is configured to perform the first, second, And a coding rate is determined based on the lowest transmission data rate among the third transmission data rates,
前記第1、第2、及び第3の送信データレートの分散値が前記閾値以上の場合、前記第1、第2、及び第3の送信データレートの平均値を算出し、前記第1及び第3の送信データレートが前記平均値よりも高く、前記第1の送信データレートが前記第3の送信データレートよりも低く、前記第2の送信データレートが前記平均値よりも低い場合、前記第1の送信データレートに基づいて符号化レートを決定すると共に、前記第2の送信データレートに対応する前記第2の受信装置に対しては、前記第1の送信データレートに基づいて決定した符号化レートで符号化された動画データをフレーム間引きして送信することを決定することを特徴とする請求項1に記載の送信装置。When a variance value of the first, second, and third transmission data rates is equal to or greater than the threshold value, an average value of the first, second, and third transmission data rates is calculated, and the first and second transmission data rates are calculated. 3 is higher than the average value, the first transmission data rate is lower than the third transmission data rate, and the second transmission data rate is lower than the average value. A coding rate determined based on a transmission data rate of 1, and a code determined based on the first transmission data rate for the second receiver corresponding to the second transmission data rate. The transmission apparatus according to claim 1, wherein the transmission apparatus determines to transmit moving picture data encoded at a conversion rate with frame thinning.
符号化された動画データを複数の受信装置に送信する送信装置が行う送信方法であって、
第1の受信装置に対して送信可能な第1の送信データレートと、第2の受信装置に対して送信可能な第2の送信データレートとを取得する取得工程と、
前記第1及び第2の送信データレートの違いに応じて、符号化レート制御及びフレーム間引き制御を行う制御工程であって、前記第1及び第2の送信データレートの違いに応じた値が閾値以上の場合、前記第1及び第2の送信データレートのうち、より低い前記第2の送信データレートに対応する記第2の受信装置を、フレーム間引きされた動画データであって、他の動画フレームを参照せずに復号可能なイントラフレームで構成される動画データが送信される受信装置として決定し、前記第1及び第2の送信データレートのうち、より高い前記第1の送信データレートに対応する前記第1の受信装置を、前記フレーム間引きされない動画データであって、他の動画フレームを参照することで復号可能なインターフレームと前記イントラフレームとで構成される動画データが送信される受信装置として決定し、前記第1の受信装置に対して送信される前記インターフレームとイントラフレームとを含む動画データのデータレートが前記第1の送信データレートを超えず、且つ、前記動画データのうち前記第2の受信装置に対して送信される前記イントラフレームのデータレートが前記第2の送信データレートを超えないように、前記イントラフレームとインターフレームとを含む前記動画データの符号化レートを決定し、前記第1及び第2の送信データレートの違いに応じた値が前記閾値未満の場合、前記第1及び第2の送信データレートのうち、より低い前記第2の送信データレートに基づいて符号化レートを決定すると共に、当該決定された符号化レートで符号化された動画データをフレーム間引きすることなく前記第1及び第2の受信装置へ送信することを決定する制御工程とを有することを特徴とする送信方法。
A transmission method performed by a transmission device that transmits encoded video data to a plurality of reception devices,
A first transmission data rate that can be transmitted to the first receiving apparatus, an acquisition step of acquiring a second transmission data rate that can be transmitted to the second receiving device,
A control step of performing coding rate control and frame decimation control according to a difference between the first and second transmission data rates , wherein a value according to the difference between the first and second transmission data rates is a threshold value; for more than the value, one of the first and second transmission data rate, the receiving device before Symbol of the second corresponding to a lower second transmission data rate, a moving image data frame thinning, other The first transmission data that is higher than the first transmission data rate and the second transmission data rate is determined as a receiving device that transmits the moving image data including the intra frames that can be decoded without referring to the moving image frame. The first receiving device corresponding to the rate is transmitted to the interframe and the intratraffic that are the moving image data that is not frame-decimated and can be decoded by referring to another moving image frame. A video data rate including the inter frame and the intra frame transmitted to the first receiving device is determined as a receiving device to which the moving image data including The intra frame so that the transmission data rate does not exceed and the data rate of the intra frame transmitted to the second receiving device of the moving image data does not exceed the second transmission data rate. An encoding rate of the moving image data including an inter frame is determined, and when a value corresponding to a difference between the first and second transmission data rates is less than the threshold, the first and second transmission data rates Of these, a moving picture encoded at the determined encoding rate while determining the encoding rate based on the lower second transmission data rate Transmission method characterized by have a control step of determining to transmit over data to the first and second receiving device without frame thinning.
前記フレーム間引きされた動画データを構成するイントラフレームのフレームレートが所定のフレームレートよりも低いか否かを判定する判定工程を有し、A determination step of determining whether or not a frame rate of an intra frame constituting the frame-thinned moving image data is lower than a predetermined frame rate;
前記制御工程は、前記フレーム間引きされた動画データを構成するイントラフレームのフレームレートが前記所定のフレームレートよりも低いと前記判定工程により判定された場合、前記イントラフレームのフレームレートを高める制御を行うと共に、前記第1の受信装置に対して送信される前記高める制御後のイントラフレームとインターフレームとを含む動画データのデータレートが前記第1の送信データレートを超えず、且つ、前記高める制御後の動画データのうち前記第2の受信装置に対して送信される前記イントラフレームのデータレートが前記第2のデータレートを超えないように、前記高める制御後の符号化レートを決定することを特徴とする請求項6記載の送信方法。The control step performs control to increase the frame rate of the intra frame when it is determined by the determination step that the frame rate of the intra frame that constitutes the frame-thinned moving image data is lower than the predetermined frame rate. In addition, the data rate of the moving image data including the intra frame and the inter frame after the control to be transmitted that is transmitted to the first receiving device does not exceed the first transmission data rate, and the control is performed after the control. And determining the post-control encoding rate so that a data rate of the intra frame transmitted to the second receiving device does not exceed the second data rate. The transmission method according to claim 6.
前記第1及び第2の送信データレートの違いに応じた値は、前記第1及び第2の送信データレートの分散値であることを特徴とする請求項6又は7記載の送信方法。8. The transmission method according to claim 6, wherein the value corresponding to the difference between the first and second transmission data rates is a variance value of the first and second transmission data rates. 前記取得工程は、The acquisition step includes
前記符号化された動画データの受信状況を示す受信状況通知を前記第1及び第2の受信装置のそれぞれから受信する受信工程と、A reception step of receiving a reception status notification indicating a reception status of the encoded moving image data from each of the first and second receiving devices;
前記第1及び第2の受信装置から取得された受信状況通知に基づいて、前記第1及び第2の送信データレートを算出する算出工程とを有することを特徴とする請求項6乃至8のいずれか1項記載の送信方法。9. The method according to claim 6, further comprising a calculation step of calculating the first and second transmission data rates based on reception status notifications acquired from the first and second receiving apparatuses. The transmission method according to claim 1.
前記取得工程は、前記送信装置から動画データを受信する前記第1の受信装置と前記第2の受信装置と第3の受信装置のそれぞれから動画データの受信状況に応じた送信データレートを取得し、The acquisition step acquires a transmission data rate corresponding to the reception status of moving image data from each of the first receiving device, the second receiving device, and the third receiving device that receives moving image data from the transmitting device. ,
前記制御工程は、前記第1、第2、及び第3の受信装置に対応する第1、第2、及び第3の送信データレートの分散値が前記閾値未満の場合、前記第1、第2、及び第3の送信データレートのうち、最低の送信データレートに基づいて符号化レートを決定し、In the control step, the first, second, and second transmission data rates corresponding to the first, second, and third receiving apparatuses are less than the threshold value when the first, second, and third transmission data rate variance values are less than the threshold value. And a coding rate is determined based on the lowest transmission data rate among the third transmission data rates,
前記第1、第2、及び第3の送信データレートの分散値が前記閾値以上の場合、前記第1、第2、及び第3の送信データレートの平均値を算出し、前記第1及び第3の送信データレートが前記平均値よりも高く、前記第1の送信データレートが前記第3の送信データレートよりも低く、前記第2の送信データレートが前記平均値よりも低い場合、前記第1の送信データレートに基づいて符号化レートを決定すると共に、前記第2の送信データレートに対応する前記第2の受信装置に対しては、前記第1の送信データレートに基づいて決定した符号化レートで符号化された動画データをフレーム間引きして送信することを決定することを特徴とする請求項6に記載の送信方法。When a variance value of the first, second, and third transmission data rates is equal to or greater than the threshold value, an average value of the first, second, and third transmission data rates is calculated, and the first and second transmission data rates are calculated. 3 is higher than the average value, the first transmission data rate is lower than the third transmission data rate, and the second transmission data rate is lower than the average value. A coding rate determined based on a transmission data rate of 1, and a code determined based on the first transmission data rate for the second receiver corresponding to the second transmission data rate. The transmission method according to claim 6, wherein it is determined that the moving image data encoded at the encoding rate is transmitted with frame thinning.
コンピュータを、請求項1乃至5のうち、何れか1項に記載の送信装置として動作させるためのプログラム。A program for causing a computer to operate as the transmission device according to any one of claims 1 to 5.
JP2010109549A 2010-05-11 2010-05-11 Transmission device, transmission method, and program Expired - Fee Related JP5675164B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010109549A JP5675164B2 (en) 2010-05-11 2010-05-11 Transmission device, transmission method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010109549A JP5675164B2 (en) 2010-05-11 2010-05-11 Transmission device, transmission method, and program

Publications (3)

Publication Number Publication Date
JP2011239232A JP2011239232A (en) 2011-11-24
JP2011239232A5 JP2011239232A5 (en) 2013-06-27
JP5675164B2 true JP5675164B2 (en) 2015-02-25

Family

ID=45326715

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010109549A Expired - Fee Related JP5675164B2 (en) 2010-05-11 2010-05-11 Transmission device, transmission method, and program

Country Status (1)

Country Link
JP (1) JP5675164B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6249274B2 (en) * 2013-09-10 2017-12-20 パナソニックIpマネジメント株式会社 Intercom device
JP6435987B2 (en) * 2015-05-18 2018-12-12 富士通株式会社 COMMUNICATION DEVICE, COMMUNICATION SYSTEM, AND COMMUNICATION METHOD

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3976864B2 (en) * 1997-12-26 2007-09-19 キヤノン株式会社 Video server, control method thereof, and storage medium
JP2003009117A (en) * 2001-06-20 2003-01-10 Nec Eng Ltd Real time distribution method of dynamic image and distribution system
JP2003198655A (en) * 2001-10-03 2003-07-11 Victor Co Of Japan Ltd Transmitter, decoding device, transmission and output program, and decoding program
WO2004040908A1 (en) * 2002-10-30 2004-05-13 Fujitsu Limited Stream server
US20080247332A1 (en) * 2004-02-12 2008-10-09 Toshimitsu Sato Network Configuration Management Method, Network Band Management Method, Network Participation Method, and Communication Terminal Device
JP2005244315A (en) * 2004-02-24 2005-09-08 Kddi Technology Corp Network quality stabilizing apparatus for video streaming transmission
JP4343808B2 (en) * 2004-10-04 2009-10-14 エヌ・ティ・ティ・コミュニケーションズ株式会社 Server in bidirectional image communication system, processing method thereof, and program
BRPI0717900A2 (en) * 2006-12-06 2013-10-29 Nec Corp "PTT SERVER, PTT COMMUNICATION SYSTEM, PTT COMMUNICATION METHOD AND PROGRAM TO MAKE A PTT SERVER PERFORM PTT COMMUNICATION"
JP2009055362A (en) * 2007-08-27 2009-03-12 Panasonic Electric Works Co Ltd Video transmitter
JP5304213B2 (en) * 2008-12-15 2013-10-02 沖電気工業株式会社 Data processing apparatus, program and method, and network system

Also Published As

Publication number Publication date
JP2011239232A (en) 2011-11-24

Similar Documents

Publication Publication Date Title
US11503307B2 (en) System and method for automatic encoder adjustment based on transport data
US9819717B2 (en) Video adaptation for content-aware wireless streaming
US10193813B2 (en) System and method for real-time traffic delivery
Pudlewski et al. Video transmission over lossy wireless networks: A cross-layer perspective
US20050213502A1 (en) Method and system for controlling operation of a network, such as a WLAN, related network and computer program product therefor
EP3016395B1 (en) Video encoding device and video encoding method
CN105072506B (en) The transmission method and system of live teaching broadcast video
WO2011153475A1 (en) Server-assisted video conversation
JP2006333254A (en) Moving image real time communication terminal, and method and program for controlling moving image real time communication terminal
US20050089092A1 (en) Moving picture encoding apparatus
JP3668110B2 (en) Image transmission system and image transmission method
JP2010119098A (en) Communication apparatus, communication method for communication apparatus, and communication control program for communication apparatus
JP5812634B2 (en) Transmission device, transmission method, and program
JP2010028378A (en) Communication apparatus and communication method
JP5877960B2 (en) Receiving apparatus, system, program and method for controlling video frame rate based on transmission bit rate
AU2019201095A1 (en) System and method for automatic encoder adjustment based on transport data
JP5675164B2 (en) Transmission device, transmission method, and program
JP4650573B2 (en) COMMUNICATION DEVICE, COMMUNICATION SYSTEM, PROGRAM, AND COMMUNICATION METHOD
JP5234719B2 (en) Video server device
JP2005244315A (en) Network quality stabilizing apparatus for video streaming transmission
JP5524374B2 (en) Video stream transmission method
JP2007174035A (en) Moving picture communication apparatus and moving picture communication method
Yang et al. An adaptive multi-layer low-latency transmission scheme for H. 264 based screen sharing system
Zhu et al. Research on adaptive transmission of H. 264 video stream and QoS guarantee based on SIP
KR101148072B1 (en) Multimedia supporting system and method thereof

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130509

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130509

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140204

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140407

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141125

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141224

R151 Written notification of patent or utility model registration

Ref document number: 5675164

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees