JP2019047219A - Receiving device, data receiving method, and program - Google Patents
Receiving device, data receiving method, and program Download PDFInfo
- Publication number
- JP2019047219A JP2019047219A JP2017166104A JP2017166104A JP2019047219A JP 2019047219 A JP2019047219 A JP 2019047219A JP 2017166104 A JP2017166104 A JP 2017166104A JP 2017166104 A JP2017166104 A JP 2017166104A JP 2019047219 A JP2019047219 A JP 2019047219A
- Authority
- JP
- Japan
- Prior art keywords
- receiving
- data
- unit
- content data
- recovery
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
Description
本発明は、データを受信する受信装置、データの受信方法、及びプログラムに関する。 The present invention relates to a receiver for receiving data, a method of receiving data, and a program.
スマートフォンや無線機能付きカメラ等から通信ネットワークを介してコンテンツデータ(画像データやオーディオデータ等)をリアルタイムストリーミングすることがある。リアルタイム性が求められるデータ送信には、一般にUDP(User Datagram Protocol)のような非同期伝送方式が用いられる。また、UDPによるデータ送信におけるデータの欠損を回復するために、送信装置から受信装置へ冗長データを送信する手法が知られている。 Content data (image data, audio data, etc.) may be streamed in real time from a smartphone, a camera with a wireless function, etc. via a communication network. In general, an asynchronous transmission method such as User Datagram Protocol (UDP) is used for data transmission for which real-time performance is required. Further, there is known a method of transmitting redundant data from a transmitting device to a receiving device in order to recover data loss in data transmission by UDP.
冗長データに基づいて誤り訂正を行う手法を開示した文献として特許文献1がある。特許文献1には、通信環境が悪いと判定された場合には、誤り訂正符号化部および誤り判定部の処理を停止させ、誤り訂正復号部に、入力データの誤り訂正復号を実行させることが記載されている。 There is Patent Document 1 as a document disclosing a method of performing an error correction based on redundant data. In Patent Document 1, when it is determined that the communication environment is bad, processing of the error correction coding unit and the error determination unit is stopped, and the error correction decoding unit is made to execute error correction decoding of input data. Have been described.
しかしながら、データの欠損の状況によっては、コンテンツの再生に悪影響を与える恐れがある。例えば、大量の欠損が発生し、その回復処理のためにリソースを使用した結果、正常に受信したコンテンツデータの復号処理が間に合わず、コンテンツの再生自体が停止してしまう等の恐れがある。 However, depending on the situation of data loss, there is a possibility that the reproduction of the content is adversely affected. For example, a large amount of loss occurs, and as a result of using resources for the recovery process, there is a possibility that the decoding process of the properly received content data may not be in time, and the reproduction of the content may be stopped.
本発明は、上記の課題に鑑みてなされたものであり、その目的は、データの欠損が発生しうる通信環境においてコンテンツデータを通信する場合の悪影響を低減することである。 The present invention has been made in view of the above problems, and an object thereof is to reduce an adverse effect in the case of communicating content data in a communication environment where data loss may occur.
上記の課題を解決するために、本発明の受信装置は、例えば、以下の構成を有する。すなわち、送信装置からコンテンツデータと冗長データを受信する受信手段と、前記受信手段により受信されるべきコンテンツデータの欠損を検出する検出手段と、前記検出手段により検出された欠損を前記受信手段により受信された冗長データに基づいて回復する回復手段と、前記受信手段により受信されたコンテンツデータの処理量に応じて、前記回復手段による回復処理を制限する制御手段とを有する。 In order to solve the above problems, a receiving device of the present invention has, for example, the following configuration. That is, receiving means for receiving content data and redundant data from a transmitting device, detecting means for detecting loss of content data to be received by the receiving means, and receiving loss detected by the detecting means by the receiving means And recovery means for recovering based on the redundant data, and control means for limiting recovery processing by the recovery means in accordance with the processing amount of the content data received by the receiving means.
本発明によれば、データの欠損が発生しうる通信環境においてコンテンツデータを通信する場合の悪影響を低減できる。 According to the present invention, it is possible to reduce the adverse effect of communicating content data in a communication environment where data loss may occur.
以下、添付の図面を参照して、本発明をその好適な実施形態に基づいて詳細に説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。 Hereinafter, the present invention will be described in detail based on preferred embodiments thereof with reference to the attached drawings. In addition, the structure shown in the following embodiment is only an example, and this invention is not limited to the illustrated structure.
図1は本実施形態におけるシステム構成を示す図である。送信装置101は受信装置103とネットワーク102を通じてデータを送受信する。本実施形態では処理性能のボトルネックは受信装置103にあるケースを想定している。すなわち、送信装置101のデータの送信性能およびネットワーク102の通信性能(データ転送性能を含む)よりも、受信装置103の処理性能のほうが劣るものとする。なお、システム構成は図1の例に限るものではなく、送信装置101や受信装置103が複数存在しても良いし、ネットワーク102が無線ネットワーク等であっても良い。
FIG. 1 is a diagram showing a system configuration in the present embodiment. The
図2は本実施形態における送信装置101の機能構成を表すブロック図である。以下、各ブロックの機能を詳細に説明する。入力部1100は、撮像部1101とエンコード部1102を有する。撮像部1101は、光学系を含む撮像装置を制御して撮像画像を取得する。エンコード部1102は、撮像部1101により取得された撮像画像を圧縮処理する。圧縮処理により得られた撮像画像(圧縮画像)は制御部1110に伝達される。
FIG. 2 is a block diagram showing a functional configuration of the
制御部1110は、入力部1100から取得した撮像画像(圧縮画像)、及びネットワーク部1130により取得された外部装置(本実施形態の例では受信装置103)からの情報を処理する。また、制御部1110はこれらの処理の結果を表示部1120に表示させる。送信制御部1111は、パケタイズ部1114が撮像画像(圧縮画像)に基づいて生成したビデオパケットおよび冗長パケット部1113が生成した冗長パケットを、ネットワーク部1130を用いて受信装置103へ送信する。受信制御部1112は、ネットワーク部1130により受信装置103から取得したデータを処理する。
The
冗長パケット部1113は、品質管理部1115により指示された冗長パケット方式およびその冗長度に基づいて冗長パケットを生成する。冗長パケット部1113により生成された冗長パケットは送信制御部1111及びネットワーク部1130を用いて受信装置103へ送信される。
The
パケタイズ部1114は、入力部1100から取得した撮像画像(圧縮画像)をネットワーク102経由で送信できるようパケット化する。パケタイズ部1114により生成されたパケット(ビデオパケット)は送信制御部1111及びネットワーク部1130を用いて受信装置103へ送信される。
The
品質管理部1115は、受信装置103からの通知情報に基づいて、送信装置101が送信するコンテンツデータの送信レート及び冗長データに係る冗長度を決定する。より具体的には、品質管理部1115は、欠損情報、及び/又は、処理可能ビットレート情報等の通知情報を受信装置103から取得する。なお本実施形態において欠損情報は、受信装置103におけるデータの欠損数、欠損率、又は回復実績等を示す情報であり、処理可能ビットレート情報とは受信装置103が処理可能なコンテンツデータのレートに関する情報である。そして、品質管理部1115は、受信装置103からの通知情報(欠損情報、及び/又は処理可能ビットレート情報)に基づいて、送信装置101が送信するコンテンツデータの送信レートや冗長データに係る冗長度を決定する。品質管理部1115は、決定した送信レートを必要に応じてエンコード部1102、パケタイズ部1114、及び/又は、送信制御部1111へ通知する。また、品質管理部1115は、決定した冗長度を必要に応じて冗長パケット部1113、及び/又は、送信制御部1111へ通知する。
The
表示部1120はパネル描画部1121を有する。パネル描画部1121は、制御部1110からの描画指示に基づいて表示装置(例えば液晶ディスプレイ)に画像を表示させる。ネットワーク部1130は他の通信装置(例えば受信装置103)と通信を行うためのインタフェースとして機能する。
The
本実施形態において、図2で示した各ブロックの機能は後述するCPU1202が、ROM1203に格納されたプログラムをRAM1204に展開し、後述する各フローチャートに従った処理を実行することで実現される。ただし、図2で示したブロックのうち少なくとも一部の機能が専用のハードウェアを用いることによって実現されるようにしても良い。
In the present embodiment, the function of each block shown in FIG. 2 is realized by the
図3は送信装置101のハードウェア構成を説明するためのブロック図である。中央処理装置(以下、CPUと称す)1202は、送信装置101の全体を制御し各種演算等を行う。ROM1203は、一度書き込まれた情報を読み出すための記憶装置である。ROM1203は、図2で示された各ブロックの機能を実現するためのプログラムが格納される。RAM1204は、一時的にデータの書き込みと読み出しを行うための記憶装置である。RAM1204には、各プログラムの実行により得られる一時的な値の記憶等を行う。
FIG. 3 is a block diagram for explaining the hardware configuration of the
内蔵メモリ1205及び外部メモリ1209は、コンテンツデータを記憶するための外部記憶装置である。なお本実施形態ではコンテンツデータが画像データに基づくビデオコンテンツである場合の例を中心に説明するが、これに限らない。例えば、オーディオデータに基づくオーディオコンテンツであっても良いし、ビデオとオーディオの組み合わせであっても良い。また、字幕データおよびその他の各種データがコンテンツデータの一部として含まれていても良い。 The internal memory 1205 and the external memory 1209 are external storage devices for storing content data. In the present embodiment, an example in which the content data is video content based on image data will be mainly described, but the present invention is not limited to this. For example, audio content based on audio data may be used, or a combination of video and audio may be used. In addition, subtitle data and various other data may be included as part of content data.
撮像装置1206は、CMOSセンサやCCDセンサからなる光を電気信号に変換する装置であり、レンズ、センサ等を含む。通信IF1211は、送信装置101の外部(受信装置103)との間でデータを送受信するためのデバイスである。有線であればEthernet等、無線であればIEEE802.11等いずれのネットワークインターフェイスが実装されても良い。
The imaging device 1206 is a device configured to convert light, which is a CMOS sensor or a CCD sensor, into an electrical signal, and includes a lens, a sensor, and the like. The
液晶パネル1207は、表示装置の一例として示した。なお、液晶パネルに限らず、例えば有機ELや電子ペーパー等であってもよい。マイク1212は、撮像時に音声を収集するセンサである。スピーカー313は、ビデオコンテンツの再生時等に音声を再生するためのデバイスである。電源314は、送信装置101に電力を供給するためのデバイスであり、電池と充電装置を含む。
The
なお、送信装置101のハードウェア構成は図3の例に限らない。例えば、送信装置101が撮像装置1206を有していなくても良い。この場合、送信装置101は不図示の撮像装置やストレージサーバから撮像画像を取得すれば良い。また例えば、CPU1202等のプロセッサーを複数備えるようにしても良い。また、送信装置101と液晶パネル1207(表示装置)は一体化されていなくても良い。また、送信装置101にマイク1212が不要であるケースも考えられる。
The hardware configuration of the
図4は本実施形態における受信装置103の機能構成を表すブロック図である。以下、各ブロックの機能を詳細に説明する。受信制御部3112は、ネットワーク部3130を通じて送信装置101から受信したビデオパケットを、デパケタイズ部3114に渡す。デパケタイズ部3114は、ビデオパケットから撮像画像(圧縮画像)を取得し、デコード部3116へ渡す。
FIG. 4 is a block diagram showing a functional configuration of the receiving
デコード部3116は、撮像画像(圧縮画像)に対して復号処理を行うことで、撮像画像(復号済み)を取得し、それをパネル描画部3121に渡す。パネル描画部3121は、デコード部3116から取得した撮像画像(復号済み)に基づくビデオコンテンツを再生する。なお、ビデオコンテンツの再生と共にオーディオデータを再生する場合は、図4の各ブロックは撮像画像に係る処理と並行してオーディオデータに係る処理を行う。
The
また、品質管理部3115は、通知情報を(欠損情報、及び/又は、処理可能ビットレート情報)を生成し、送信制御部3111とネットワーク部3130とを介して送信装置101へ送信する。
Also, the
また、デパケタイズ部3114は、送信装置101から受信すべきコンテンツデータの欠損を検出する。具体的には、デパケタイズ部3114は、送信装置101から取得した各ビデオパケットのシーケンスナンバーの連続性をチェックする。そして、シーケンスナンバーに抜けがあった場合に、コンテンツデータの欠損の発生を検出する。なお、コンテンツデータの欠損の検出方法は上記の方法に限らない。他の検出方法としては例えば、デコード部3116における復号処理時に画像データを解析することでデータの欠損が検出されるようにしても良い。より具体的には、画像データの復号処理後に特定のスライスの画像データが存在しない場合、当該スライスに係るビデオパケットが欠損していることが検出できる。
Further, the
受信制御部3112は、ネットワーク部3130からデータを受信し、コンテンツデータ(ビデオパケット)であればデパケタイズ部3114へ、冗長データ(冗長パケット)であれば冗長パケット部3113へ渡す。
The
冗長パケット部3113は、受信制御部3112とネットワーク部3130とを介して送信装置101から取得した冗長パケットを用いることによって、上記の欠損を回復するための回復処理を行う。また、冗長パケット部3113は、送信装置101が送信する冗長パケットの冗長度が変更されたことを検出する。そして、冗長度の変更を検出した場合は、品質管理部3115に冗長度の更新を通知する。
The
また、デパケタイズ部3114は、欠損情報(受信装置103におけるデータの欠損数、欠損率、又は回復実績等を示す情報)を品質管理部3115に通知する。そして品質管理部3115は、デパケタイズ部3114から取得した欠損情報を送信制御部3111とネットワーク部3130を介して送信装置101へ通知する。また、品質管理部3115は、欠損情報に加えて、又は欠損情報に代えて、処理可能ビットレート情報(受信装置103が処理可能なコンテンツデータのレートに関する情報)を送信装置101に通知する。ネットワーク部3130は送信装置101と通信を行うためのインタフェースとして機能する。
In addition, the
本実施形態において、図4で示した各ブロックの機能は後述するCPU3202が、ROM3203に格納されたプログラムをRAM3204に展開し、後述する各フローチャートに従った処理を実行することで実現される。ただし、図4で示したブロックのうち少なくとも一部の機能が専用のハードウェアを用いることによって実現されるようにしても良い。
In the present embodiment, the function of each block shown in FIG. 4 is realized by the
図5は受信装置103のハードウェア構成を説明するためのブロック図である。受信装置103のハードウェア構成は送信装置101のそれと基本的には同じであるため詳細な説明は割愛する。なお本実施形態では、制御部3110の処理は、原則として1又は複数のCPU3202により実行される場合の例を中心に説明する。
FIG. 5 is a block diagram for explaining the hardware configuration of the receiving
次に、図7を用いて受信装置103の制御部3110の処理性能について説明する。テーブル700は、受信装置103が処理可能なビットレート(処理可能ビットレート)と、欠損データ回復数(1画像フレームに対応する複数ビデオパケットのうち欠損しても回復可能なパケット数の情報)との関係を示している。テーブル700は、縦軸が欠損データ回復数、横軸が処理可能ビットレートを表す。テーブル700において「○」が記述されている欠損データ回復数と処理可能ビットレートの組み合わせは処理可能であり、「×」が記述されている欠損データ回復数と処理可能ビットレートの組み合わせは処理不可能であることを示している。
Next, processing performance of the
欠損データ回復数と処理可能ビットレートはトレードオフの関係にある。なぜなら、欠損データの回復のための回復処理と、正常に受信されたコンテンツデータの処理(例えば、受信処理、復号処理、及び表示制御処理)を行う制御部3110(CPU3202)の処理リソースは共通であるためである。したがって、例えば回復処理を優先すると、復号処理が間に合わなくなるといった可能性がある。また、本実施形態では、回復処理とコンテンツデータの処理のほか、送信装置101に対して通知情報を送信するための処理も制御部3110(CPU3202)の処理リソースにより実施される。
The number of lost data recovery and the processable bit rate are in a trade-off relationship. This is because the processing resources of the control unit 3110 (CPU 3202) that performs recovery processing for recovery of lost data and processing (for example, reception processing, decoding processing, and display control processing) of normally received content data are common. It is because there is. Therefore, for example, when priority is given to recovery processing, there is a possibility that decoding processing will not be in time. Further, in the present embodiment, processing for transmitting notification information to the
テーブル700の例によれば、欠損データ回復数が「0」の場合(701)、処理可能ビットレートの最大値は17Mbps(717)であることがわかる。一方、欠損データ回復数が「1」の場合(702)、処理可能ビットレートの最大値は16Mbps(717)であることがわかる。 According to the example of the table 700, when the number of lost data recovery is “0” (701), it can be understood that the maximum value of the processable bit rate is 17 Mbps (717). On the other hand, when the number of lost data recovery is “1” (702), it is understood that the maximum value of the processable bit rate is 16 Mbps (717).
また、欠損データ回復数が「7」と極端に大きい場合(708)、処理可能ビットレートの最大値は10Mbps(710)まで下がる。例えば、欠損データ回復数が「7」であるにも関わらず、コンテンツデータの受信ビットレートが11Mbps(711)以上である場合、以下のような現象が起こりうる。すなわち、受信制御部1112が送信装置101からのビデオパケットを受け切れないといった現象や、品質管理部3115が送信すべき通知情報が送信装置101へ送信できないといった現象が起こりうる。本実施形態では、これらの現象が発生する可能性を低減するため、冗長度や送信ビットレートの制御が行われる。具体的な制御の方法についてはフローチャートを用いて後述する。
In addition, when the number of lost data recovery is extremely large as “7” (708), the maximum value of the processable bit rate is lowered to 10 Mbps (710). For example, the following phenomenon may occur when the reception bit rate of content data is 11 Mbps (711) or more even though the number of lost data recovery is “7”. That is, a phenomenon may occur in which the
本実施形態では図7にて示すテーブル700によって処理可能ビットレートの最大値と欠損データ回復数の対比を示した。しかしこの例に限らない。例えば、欠損データの回復処理に係る処理量(回復処理コスト)を変数とした演算によって処理可能ビットレートの最大値が得られるようにしても良い。なお、回復処理コストは、CPU3202における欠損データの回復処理に使用する排他論理和の演算時間と、RAM3204からCPU3202へのデータフェッチ時間とから算出可能である。また、処理可能ビットレートはCPU3202の受信パケット1つあたりに対する処理量から算出可能である。
In this embodiment, the table 700 shown in FIG. 7 shows the comparison between the maximum value of the processable bit rate and the number of lost data recovery. However, it is not limited to this example. For example, the maximum value of the processable bit rate may be obtained by calculation using the processing amount (recovery processing cost) related to the recovery processing of the missing data as a variable. The recovery processing cost can be calculated from the operation time of the exclusive OR used for recovery processing of the missing data in the
なお、欠損データの最大回復数は冗長度によって決まる。したがって、送信装置101が高い冗長度で冗長パケットを送信した場合、欠損に対する耐性は上がる。しかしながら、冗長度を上げれば受信装置103における処理可能ビットレートは低減してしまう。すなわち、送信装置101は、適切な冗長度で冗長パケットを受信装置103に送信することが肝要である。そこで、本実施形態の送信装置101は、受信装置103からの通知情報に基づいて冗長度を制御する。冗長度の決定方法の詳細はフローチャートを用いて後述する。
Note that the maximum recovery number of lost data is determined by the degree of redundancy. Therefore, when the
図6は送信装置101と受信装置103との間のデータ通信のシーケンスの例を示している。受信装置103は、送信装置101へ処理可能ビットレートの最大値(上限レート)を通知する(601)。すなわち、受信装置103は、欠損データ回復数が「0」に対応する処理可能ビットレートの最大値である17Mbpsを送信装置101に対して通知する。通知の方法は例えばSIP(session initiation protocol)等を用いてSDP(Session description protocol)を搬送し、bandwidth−valueとして通知してもよい。
FIG. 6 shows an example of the sequence of data communication between the
送信装置101は、処理可能ビットレートの最大値の通知(601)を受け、ビデオパケット610および冗長パケット602を受信装置103に送信する。受信装置103は、冗長パケット602の受信を契機に図8にて後述する方法により、処理可能レートの最大値を決定し、受信装置103内のRAM3204に保持する値を更新する。例えば、ここで冗長パケット602の冗長度が欠損データ回復数「4」に対応する場合、図7によれば、処理可能レートの最大値は13Mbpsとなるため、これが変更後の処理可能レートとなる。
The transmitting
受信装置103は更新した処理可能レートを変更後の上限レートとして送信装置101に通知する(603)。なお、通知の方法は、SDPに下限bandwidth−valueを設定しても良い。
The receiving
送信装置101は受信装置103から取得した変更後の処理可能レートに基づいて、コンテンツデータ及び冗長データの送信レートを変更する(608)。具体的には、送信装置101は、コンテンツデータ及び冗長データの送信レートの合計が、変更後の処理可能レートを超えないように制御する。これにより、仮に受信装置103における回復処理の負荷が最大になっても(この例においては1画像フレームに対応する複数のビデオパケットのうち、4つのビデオパケットが欠損しても)、ビデオコンテンツの再生を成功させることが期待できる。
The transmitting
送信装置101は、受信装置103から指定された送信レートに従ってコンテンツデータ(ビデオパケット)及び冗長データ(冗長パケット)を受信装置103に対して送信する。受信装置103は、送信装置101により送信されたビデオパケットから欠損を検出し、欠損の発生数とその回復実績を通知情報として送信装置101へ送信する(605)。
The transmitting
送信装置101は、受信装置103からの欠損情報に基づいて、欠損に対する回復処理に必要な冗長度を決定し、必要に応じて冗長度を変更する(609)。そして、送信装置101は変更後の冗長度により冗長パケットを受信装置103へ送信する(606)。
The transmitting
受信装置103は、ステップ602及び607と同様に、処理可能レートの最大値を更新し、更新後の処理可能レートを上限レートとして送信装置101に通知する。このように、欠損の状況に応じて冗長度を変更し、冗長度の変更に応じて処理可能レートの最大値を変更するという動作を動的に実行することにより、欠損の少ないコンテンツの再生が可能となる。
Similar to
次に受信装置103の動作の詳細について、図8を用いて説明する。受信装置103の冗長パケット部3113は、送信装置101からの冗長パケットを受信すると(S801)、当該冗長パケットに対応する冗長度を判定する(S802)。そして、冗長パケット部3113は、判定された冗長度を変更するか否かを決定する(S803)。具体的には、冗長パケット部3113は、S802において判定された冗長度では欠損したビデオパケットを回復しきれない場合は冗長度を上げるべきと判定する。一方、冗長パケット部3113は、S802において判定された冗長度は過度であると判定した場合、冗長度を下げるべきと判定する。すなわち、冗長パケット部3113は、欠損の発生量に応じて、送信装置101が送信する冗長データに係る冗長度を変更する。冗長パケット部3113が冗長度を変更しないと決定した場合、S801に戻る。
Next, details of the operation of the
一方、冗長パケット部3113が冗長度を変更すると判定した場合、欠損データ回復数を更新する(S804)。本実施形態では、便宜上、欠損データ回復数が画像フレーム単位で回復できる欠損データ数(ビデオパケット数)を表しているものとする。ただし、欠損データ数の定義は、冗長データの生成方式等により異なることに留意されたい。
On the other hand, if it is determined that the
冗長パケット部3113は、変更後の欠損データ回復数を品質管理部3115に通知する。品質管理部3115は、図7に説明したテーブル700を参照することによって、変更後の欠損データ回復数に対応する処理可能ビットレートの最大値を取得する。品質管理部3115は取得した処理可能ビットレートの最大値を変更後の上限レートとしてRAM3204に書き込みを行う(805)。変更後の上限レートは、変更後の欠損データ回復数と同数のビデオパケットが欠損し、それらに対する回復処理を行ったとしても、受信処理が可能なビットレートを表している。
The
品質管理部3115は、変更後の上限レート(送信レート)が閾値以下であるか判定し(S806)、閾値以下であると判定した場合は、所定のエラー通知を送信装置101へ送信する(S808)。所定の閾値は欠損の回復処理にかかる時間と、フレームレートの逆数であるフレーム時間から算出できる。例えば、品質管理部3115は、欠損の回復処理がフレーム時間よりも長くなる場合には、エラー通知を行う。なお、エラー通知は送信装置101へ送信すると共に、受信装置103が有する表示部3120において表示させるようにしても良い。このようにすれば、ユーザがネットワークの通信設定の見直しや、再生コンテンツの変更を行うことができる。
The
品質管理部3115は、変更後の上限レートが所定の閾値よりも高い(つまり変更後の送信レートが所定の送信レート未満ではない)と判定した場合、変更後の上限レートを送信装置101に通知する(S807)。
If the
次に、受信装置103における欠損の回復処理について図9を用いて詳細に説明する。受信装置103のデパケタイズ部3114は、送信装置101からビデオパケットを受信し、欠損を検出する(S901)。欠損が検出された場合、欠損情報が品質管理部3115に通知される。
Next, the loss recovery process in the receiving
また、冗長パケット部3113は、デパケタイズ部3114により検出された欠損に対する回復処理の実施が可能であるか否かを判定する。具体的には、欠損が発生したビデオパケットの数と、冗長度とに基づいて、回復処理の実施が可能であるか否かが判定される。S902にて回復処理の実施が不可能と判定された場合、品質管理部3115は送信装置101に対して欠損情報(受信装置103におけるデータの欠損数、欠損率、又は回復実績等を示す情報)を送信し、S901に戻る。
In addition, the
S902にて回復処理の実施が可能と判定された場合、冗長パケット部3113は、RAM3204に保持された余力情報を判定する(S903)。余力情報により示される余力が閾値より大きい場合、冗長パケット部3113は、欠損に対する回復処理を実行する(S905)。一方、余力が閾値より小さい場合、回復処理をキャンセルする(S909)。余力が閾値よりも下回っているときに回復処理を行うと、正常なビデオパケットのための処理(受信処理や復号処理など)が行えなくなる可能性があるためである。回復処理をキャンセルすれば、ビデオコンテンツの一部が欠損した状態で再生されることになるが、ビデオコンテンツ自体の再生停止等からは免れる。また、回復処理をキャンセルすることで、品質管理部3115から送信装置101に対して欠損情報を送信することができる(S911)。
If it is determined in S902 that the recovery processing can be performed, the
なお、S909の処理は、送信装置101から受信したコンテンツデータの処理量に応じて、回復処理を制限すると表現することもできる。コンテンツデータのビットレートが高いと結果として余力が足りなくなり、回復処理がキャンセルされることになるためである。また、S909の処理は、余力と閾値との比較に基づいて回復処理を行うか否かを決定しているが、これに限らない。例えば、送信装置101からのコンテンツデータの処理量と、欠損に対する回復処理のための処理量の合計値と閾値との比較によって、回復処理を実行するか否かを決めるようにしても良い。
Note that the process of
冗長パケット部3113は回復処理を実行すると、RAM3204に保持される余力情報を更新する。具体的には、余力情報が示す余力を減算する。品質管理部3115は更新後の余力が閾値を下回った場合、処理系のリソース調整を実施する。これは使用するCPU3202のクロックを増加させたり、RAM3204の高速性能部分の使用量を増やしたりといった処理を行うものであるが、その他の処理リソースの追加処理を行うものでも良い。このように、普段は低リソースで処理を実行し、高負荷時にリソースの追加を行うことで、受信装置103の消費電力を低減できるなどの効果がある。ただしS910の処理は必須ではない。
When the
S907において余力が閾値を下回らないと判定された場合、及び、S910の後、品質管理部3115は、通知情報(欠損情報、及び/又は処理可能ビットレート情報)を送信装置101に対して送信する(S911)。
If it is determined in
次に図10を用いて送信装置101の動作を詳細に説明する。送信装置101の受信制御部1112は、受信装置103から処理可能ビットレートの最大値(上限レート)を取得する(S1001)。品質管理部1115は取得した上限レートに基づいて、現状の送信レートを変更すべきか判定する(S1002)。具体的には、現状の送信レートが上限レートよりも高い場合は、現状の送信レートを下げるべきと判定される。また、品質管理部1115は、現状の送信レートが上限レートよりも著しく低い場合は、現状の送信レートを上げるべきと判定する。
Next, the operation of the
品質管理部1115は、現状の送信レートを変更すべきと判定した場合、エンコード部1102に変更指示を出力する。エンコード部1102は変更指示に応じてコンテンツデータの圧縮率等を変更することでビットレートの変更を行う(1006)。
If the
また、受信制御部1112は、受信装置103から欠損情報(受信装置103におけるデータの欠損数、欠損率、又は回復実績等を示す情報)を受信すると、そのデータを冗長パケット部1113に渡す(S1003)。そして、冗長パケット部1113は、受信装置103からの欠損情報に基づいて、冗長度を変更すべきか否かを判定する(S1004)。例えば冗長パケット部1113は、現在の冗長度では回復しきれない数の欠損が発生している場合、冗長度を上げるべきと判定する。一方、冗長パケット部1113は、欠損が発生していないにも関わらず高い冗長度が設定されている場合は、冗長度を下げるべきと判定する。このように、冗長パケット部1113は、受信装置103において検出された欠損の発生量に応じて、送信装置101が送信する冗長データに係る冗長度を変更する。
Also, when receiving reception information (information indicating the number of data loss in the
冗長パケット部1113は、冗長度を変更すべきと判定すると、新しい冗長度に従って冗長パケットを生成する(1005)。冗長パケット部1113が冗長度の変更が必要ないと判定した場合はS1001に戻る。
When determining that the degree of redundancy should be changed, the
本発明は、上述の実施形態の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。 The present invention provides a program that implements the functions of the above-described embodiments to a system or apparatus via a network or storage medium, and is also a process in which one or more processors in the computer of the system or apparatus read and execute the program. It is feasible. It can also be implemented by a circuit (eg, an ASIC) that implements one or more functions.
Claims (13)
前記受信手段により受信されるべきコンテンツデータの欠損を検出する検出手段と、
前記検出手段により検出された欠損を前記受信手段により受信された冗長データに基づいて回復する回復手段と、
前記受信手段により受信されたコンテンツデータの処理量に応じて、前記回復手段による回復処理を制限する制御手段とを有する受信装置。 Receiving means for receiving content data and redundant data from the transmitting device;
Detection means for detecting loss of content data to be received by the reception means;
Recovery means for recovering the defect detected by the detection means based on the redundant data received by the reception means;
A control unit configured to limit recovery processing by the recovery unit according to the processing amount of content data received by the reception unit.
前記復号手段による復号済みのコンテンツデータを再生する再生手段とを有する請求項1乃至4のうち、何れか1項に記載の受信装置。 Decryption means for decrypting the content data received by the receiving means;
The receiving device according to any one of claims 1 to 4, further comprising: reproduction means for reproducing content data already decrypted by the decryption means.
前記決定手段により決定された送信レートを前記送信装置へ通知する通知手段を有する請求項1乃至7のうち、何れか1項に記載の受信装置。 A determination unit configured to determine a transmission rate of data by the transmission apparatus according to the degree of redundancy of the redundant data;
The receiving device according to any one of claims 1 to 7, further comprising notifying means for notifying the transmitting device of the transmission rate determined by the determining means.
前記決定手段は、前記受信手段が受信する前記冗長データの冗長度に対応する送信レートを、前記テーブルを参照することで決定する請求項8に記載の受信装置。 A storage unit configured to store a table indicating a relationship between the degree of redundancy of the redundant data and the transmission rate of data by the transmission apparatus;
The receiving apparatus according to claim 8, wherein the determining means determines the transmission rate corresponding to the redundancy of the redundant data received by the receiving means by referring to the table.
前記受信工程により受信されるべきコンテンツデータの欠損を検出する検出工程と、
前記検出工程により検出された欠損を前記受信工程により受信された冗長データに基づいて回復する回復工程と、
前記受信工程により受信されたコンテンツデータの処理量に応じて、前記回復工程による回復処理を制限する制御工程とを有するデータの受信方法。 A receiving step of receiving content data and redundant data from a transmitting device;
Detecting the loss of content data to be received by the receiving step;
Recovering a defect detected by the detection step based on redundant data received by the reception step;
A control step of limiting recovery processing by the recovery step according to the processing amount of the content data received by the receiving step.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017166104A JP2019047219A (en) | 2017-08-30 | 2017-08-30 | Receiving device, data receiving method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017166104A JP2019047219A (en) | 2017-08-30 | 2017-08-30 | Receiving device, data receiving method, and program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019047219A true JP2019047219A (en) | 2019-03-22 |
Family
ID=65813022
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017166104A Pending JP2019047219A (en) | 2017-08-30 | 2017-08-30 | Receiving device, data receiving method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019047219A (en) |
-
2017
- 2017-08-30 JP JP2017166104A patent/JP2019047219A/en active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6561177B2 (en) | Media file upload and transcoding | |
JP5094546B2 (en) | COMMUNICATION DEVICE, COMMUNICATION METHOD, PROGRAM | |
WO2019101089A1 (en) | Video sending and receiving method, device, and terminal | |
JP6621827B2 (en) | Replay of old packets for video decoding latency adjustment based on radio link conditions and concealment of video decoding errors | |
JP6179179B2 (en) | Information processing apparatus, information processing method, and program | |
US9306987B2 (en) | Content message for video conferencing | |
US20070127437A1 (en) | Medium signal transmission method, reception method, transmission/reception method, and device | |
JP2016127520A (en) | Image encoding/decoding system and diagnostic method therefor | |
US20150010090A1 (en) | Reception apparatus, reception method, and recording medium | |
JP2010283606A (en) | Generator of data for error corrections, and generating method | |
JP2017516364A (en) | Recording and synthesis of incomplete video data frames | |
TW201401882A (en) | Video transmission system and transmitting device and receiving device thereof | |
JP2019047219A (en) | Receiving device, data receiving method, and program | |
US9456180B2 (en) | Image processing apparatus, communication system, and computer program | |
JP2014011572A5 (en) | Moving picture predictive decoding apparatus, method and program | |
JP2016178549A (en) | Transmitter, receiver, method and program | |
JP2009188674A (en) | Transmitting apparatus, receiving apparatus, moving image sound transmission quality evaluating method, and moving image sound transmission quality evaluation program | |
CN113192519A (en) | Audio encoding method and apparatus, and audio decoding method and apparatus | |
WO2015153723A1 (en) | A method and system for real-time cloud storage of video content | |
JP2005151176A (en) | Method and device for transmitting picture | |
JP2016005220A (en) | Transmission apparatus, transmission method, and program | |
JP2004180190A (en) | Camera controller and program for performing its control step | |
JP2014103534A (en) | Image transmission device | |
KR20130141368A (en) | Reception device and program for reception device | |
JP2011130035A (en) | Transmission apparatus and transmission method |