JP5706144B2 - Method and apparatus for transmitting scalable video according to priority - Google Patents

Method and apparatus for transmitting scalable video according to priority Download PDF

Info

Publication number
JP5706144B2
JP5706144B2 JP2010275055A JP2010275055A JP5706144B2 JP 5706144 B2 JP5706144 B2 JP 5706144B2 JP 2010275055 A JP2010275055 A JP 2010275055A JP 2010275055 A JP2010275055 A JP 2010275055A JP 5706144 B2 JP5706144 B2 JP 5706144B2
Authority
JP
Japan
Prior art keywords
stage
state node
destination
state
node
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010275055A
Other languages
Japanese (ja)
Other versions
JP2011147120A (en
Inventor
肖嵩
盧冀
蔡寧
王暁利
張永生
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Docomo Inc
Original Assignee
NTT Docomo Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Docomo Inc filed Critical NTT Docomo Inc
Publication of JP2011147120A publication Critical patent/JP2011147120A/en
Application granted granted Critical
Publication of JP5706144B2 publication Critical patent/JP5706144B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、スケーラブル映像符号化(SVC:Scalable Video Coding)技術分野に関し、特に、スケーラブル映像を優先度に応じて伝送する方法およびその装置に関する。   The present invention relates to a scalable video coding (SVC) technical field, and more particularly, to a method and apparatus for transmitting scalable video according to priority.

SVCは、スケーラビリティ機能を有する効率よい映像符号化方法である。SVCは、映像シーケンスを、1つの基本層と、異なるスケーラビリティを有する複数の強化層とからなるビットストリームに、符号化することができる。ここで、基本層は、最低の解像度および品質を有する画像シーケンスを復元することができる一方、強化層は、より高い解像度および品質を有する画像シーケンスを復元することができる。SVCで提供される時間領域、空間領域および品質領域という3つのスケーラビリティ方式によれば、端末が、一定の目標ビットレート、フレームレートおよび空間解像度を満足するビットストリームを、受信されたSVCビットストリームから抽出して、異なるビットレート、フレームレートまたは解像度を有する映像の画像を復元できることが保証される。従って、SVCは、ネットワーク映像伝送に適するアルゴリズムであり、ますます広く応用される見込みがある。広帯域ネットワークの発展および人々から映像内容に対する要求の増加につれて、SVCに基づく映像システムにおいて、同一の映像内容に対して、異なる端末は、より速いフレームレートあるいはより高い解像度あるいはより良い品質を必要とする可能性がある。SVCのスケーラビリティによって、ソースに対して符号化を1回のみ行うだけで、異なる端末の要求を満足できる、ということが決定される。   SVC is an efficient video encoding method having a scalability function. SVC can encode a video sequence into a bitstream consisting of one base layer and multiple enhancement layers with different scalability. Here, the base layer can restore an image sequence having the lowest resolution and quality, while the enhancement layer can restore an image sequence having a higher resolution and quality. According to the three scalability schemes provided in SVC: time domain, spatial domain, and quality domain, a terminal can generate a bit stream satisfying a certain target bit rate, frame rate, and spatial resolution from a received SVC bit stream. Extraction is guaranteed to be able to restore images of video with different bit rates, frame rates or resolutions. Therefore, SVC is an algorithm suitable for network video transmission and is expected to be applied more and more widely. With the development of broadband networks and the increasing demand for video content from people, in the SVC based video system, different terminals require faster frame rate or higher resolution or better quality for the same video content there is a possibility. Due to the scalability of SVC, it is determined that the requirements of different terminals can be satisfied with only one encoding on the source.

一定のパケットロス率を有しまたは輻輳しているネットワークにおいて、異なる端末は、一定の時間内で、全てのビットストリームを受信できない可能性がある。但し、より低い解像度、フレームレートまたは品質を有する映像が、より下位層のビットストリームから再構築して得られるため、SVCにより、端末は、一部のビットストリームを受信した場合、ある程度の歪みを有する映像の画像を復元することができる。この場合、異なる端末ユーザの映像サービス品質を如何に保証するかが、映像伝送の当面する最大の挑戦である。ここで、伝送ビットストリームの順序およびビットストリームのデータパケットのフォーマットが、映像伝送方法における2つのキー課題である。   In a network having a constant packet loss rate or being congested, different terminals may not be able to receive all bitstreams within a certain time. However, since a video having a lower resolution, frame rate, or quality is obtained by reconstructing from a lower-layer bitstream, SVC causes a certain amount of distortion when receiving a partial bitstream. It is possible to restore the image of the video it has. In this case, how to guarantee the video service quality of different terminal users is the biggest challenge in the near future for video transmission. Here, the order of the transmission bit stream and the format of the data packet of the bit stream are two key issues in the video transmission method.

ネットワークにおいて、SVC階層化(layered)ビットストリームを伝送する場合、ソース情報は、最大の解像度およびビットレートで符号化されている。伝送過程において、帯域幅の変更により発生するパケットロスがない場合、異なるスケーラブル映像の受信側は、自身の受信能力により、異なる解像度のビットストリームを抽出することができる。しかしながら、パケットロスが発生すると、スケーラブル映像の受信側は、その解像度要求を満足する映像の画像の再構築に充分なデータパケットを受信できない可能性がある。この場合、スケーラブル映像の受信側で復元された映像シーケンスの品質は、退化することになる。つまり、スケーラブル映像の受信側で再構築された映像の画像の品質は、ネットワークにおけるチャネルのパケットロス率の影響を受ける。パケットロス率が増大すると、再構築された画像の品質は、明らかに低下する。そのため、チャネルのパケットロス率から再構築された画像の品質に対する影響を減少させるように、SVC階層化ビットストリームを処理する有効な方法が必要になる。   When transmitting an SVC layered bit stream in a network, the source information is encoded with the maximum resolution and bit rate. In the transmission process, when there is no packet loss caused by bandwidth change, different scalable video receivers can extract bit streams of different resolutions according to their reception capabilities. However, when packet loss occurs, the scalable video receiver may not be able to receive data packets sufficient to reconstruct a video image that satisfies the resolution requirement. In this case, the quality of the video sequence restored on the receiving side of the scalable video is degraded. That is, the quality of the video image reconstructed on the scalable video receiving side is affected by the packet loss rate of the channel in the network. As the packet loss rate increases, the quality of the reconstructed image clearly decreases. Therefore, an effective method for processing the SVC layered bit stream is required so as to reduce the influence on the quality of the reconstructed image from the channel packet loss rate.

上記の技術的課題を解決するために、本発明では、スケーラブル映像のビットストリームから再構築された映像の画像の品質を向上させるように、スケーラブル映像を優先度に応じて伝送する方法及びその装置が提供されている。   In order to solve the above technical problem, in the present invention, a method and apparatus for transmitting scalable video according to priority so as to improve the quality of a video image reconstructed from a bitstream of scalable video. Is provided.

本発明の実施例に係る、スケーラブル映像を優先度に応じて伝送する方法は、スケーラブル映像の各ピクチャグループ(GOP)のスケーラブル映像符号化(SVC)後の階層化ビットストリームに対して、優先度並べ替えを行い、前記優先度並べ替えとは、GOPを単位として、SVC符号化後のSVC階層化ビットストリームに対して、その重要性に応じて、優先度の順位を並べ替えるということであり、並べ替え後のSVC階層化ビットストリームに対して、パッケージおよびRaptor符号化を行って、伝送チャネルを介して、符号化後のスケーラブル映像のビットストリームを、スケーラブル映像の受信側に送信する、ことを含み、前記SVC階層化ビットストリームに対して、前記優先度並べ替えを行うことは、最低解像度特性を有するビットストリームから、最高解像度特性を有するビットストリームまでの並べ替えパス上の全ての可能ノードを、一定の(s,t,q)特性(s、tおよびqは、整数であり、それぞれ、空間領域、時間領域および品質領域の解像度特性を表す)に対応する各状態ノードとして定義し、s、tおよびqの増加ステップサイズの違いにより、同じ増加ステップサイズ和を有する状態ノードが同じステージにあるように、全ての状態ノードを異なるステージに区分し、前記増加ステップサイズ和は、s、tおよびqの増加ステップサイズの和であり、各状態ノードそれぞれのビットレートおよびその対応するピーク信号対雑音比(PSNR)によって、数式
で、各状態ノードの並べ替え因子を計算し、ここで、g は第jのステージを表し、t (g )は第jのステージにおけるi番目の状態ノードを表し、t(g )は初期ステージの初期状態ノードを表し、t(g K−1 )は宛先ステージの宛先状態ノードを表し、前記宛先ステージは宛先状態ノードが位置するステージであり、前記宛先状態ノードは最高解像度特性を有する状態ノードであり、PSNR ti(gj) は状態ノードt (g )のPSNRを表し、R ti(gj) は状態ノードt (g )のビットレートを表し、PSNR t(g0) は初期状態ノードt(g )のPSNRを表し、R t(g0) は初期状態ノードt(g )のビットレートを表し、PSNR t(gK−1) は宛先状態ノードt(g K−1 )のPSNRを表し、R t(gK−1) は宛先状態ノードt(g K−1 )のビットレートを表し、O (g )は状態ノードt (g )の並べ替え因子を表し、Kはステージの総数を表し、初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスの中から、各状態ノードの並べ替え因子の重み付け和が最大となる最適パスを決定し、最適パス上の初期ステージから宛先ステージまでの各状態ノードの順に従って、SVC階層化ビットストリームを出力する、ことを含む。
According to an embodiment of the present invention, a method of transmitting scalable video according to priority includes a priority for a hierarchical bitstream after scalable video coding (SVC) of each picture group (GOP) of the scalable video. Reordering is performed, and the priority ordering means rearranging the priority order in accordance with the importance of the SVC layered bitstream after SVC encoding in units of GOP. for arranging after sorting SVC hierarchical bit stream by performing a package and Raptor coding, via a transmission channel, the bit stream of a scalable video after encoding, to the receiving side of a scalable video, it And performing the priority reordering on the SVC layered bitstream is a minimum resolution feature. All possible nodes on the reordering path from the bitstream having the highest resolution characteristic to the bitstream having the highest resolution characteristic, the constant (s, t, q) characteristic (s, t and q are integers, respectively State nodes corresponding to the resolution characteristics of the spatial domain, temporal domain, and quality domain), and state nodes having the same increased step size are placed on the same stage due to the difference in the increased step sizes of s, t, and q. In some cases, all state nodes are partitioned into different stages, and the increment step size sum is the sum of the increment step sizes of s, t and q, and the bit rate of each state node and its corresponding peak signal pair. Depending on the noise ratio (PSNR),
To calculate the reordering factor for each state node, where g j represents the j th stage, t i (g j ) represents the i th state node in the j th stage, and t (g 0 ) Represents the initial state node of the initial stage, t (g K-1 ) represents the destination state node of the destination stage, the destination stage is the stage where the destination state node is located, and the destination state node is the highest resolution characteristic. Where PSNR ti (gj) represents the PSNR of state node t i (g j ), R ti (gj) represents the bit rate of state node t i (g j ), and PSNR t (g0 ) Represents the PSNR of the initial state node t (g 0 ), R t (g0) represents the bit rate of the initial state node t (g 0 ), and PSNR t (gK−1) represents the destination state node t (g K represents PSNR of -1), R t (gK- ) Represents the bit rate of the destination state node t (g K-1), O i (g j) represents a sort factor state node t i (g j), K represents the total number of stages, the initial stage The optimal path that maximizes the weighted sum of the reordering factors of each state node is determined from all the paths that can be configured from the state node to the destination stage, and each path from the initial stage on the optimal path to the destination stage is determined. Outputting the SVC layered bitstream according to the order of the state nodes .

初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスの中から、最適パスを決定することは、数式
によって、初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパス上の各状態ノードの並べ替え因子の重み付け和を計算し、最大となる並べ替え因子の重み付け和を有するパスを、最適パスとする、ことを含む。ここで、Sは初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスのうち、x番目のパス上の各状態ノードの並べ替え因子の重み付け和を表し、O(g)は該x番目のパスの第jのステージにおける状態ノードの並べ替え因子を表し、該x番目のパスの第jのステージにおける状態ノードをt (g )とすると、O(g )=O (g )であり、ωは第jのステージの重み付け因子を表す(0<ω<1、0≦j≦K−1)。
Determining the optimal path from all paths that can be configured with state nodes from the initial stage to the destination stage
Calculates the weighted sum of the reordering factors of each state node on all the paths that can be configured with the state nodes from the initial stage to the destination stage, and determines the path with the largest weighting sum of the reordering factors as the optimal path. And including that. Here, S X represents the weighted sum of the reordering factors of each state node on the x-th path among all the paths that can be configured by the state nodes from the initial stage to the destination stage, and O (g j ) is The reordering factor of the state node in the j-th stage of the x-th path is represented as t i (g j ), where O (g j ) = O. i (g j ), and ω j represents the weighting factor of the j-th stage (0 <ω j <1, 0 ≦ j ≦ K−1).

初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスの中から、最適パスを決定することは、初期ステージの初期状態ノードを開始点として選択して、ノード識別子jを1に設定し、初期ステージの並べ替え因子の重み付け和S0(t)を0に設定し、初期ノードの最適パスの状態ノード集合を初期状態ノードに初期化するステップA0と、数式
および
を採用して、第jのステージにおける各状態ノードの並べ替え因子の重み付け和Sj(ti)を計算し、初期ステージから第jのステージにおける各状態ノードまでの最適パスの状態ノード集合をそれぞれ記録するステップA1と、jがK−1と等しいかどうかを判断し、等しい場合、宛先状態ノードの最適パスの状態ノード集合における各状態ノードからなるパスを、最適パスとし、等しくない場合、「j=j+1」にして、ステップA1に戻るステップA2と、を含む。
To determine the optimum path from all paths that can be configured with state nodes from the initial stage to the destination stage, the initial state node of the initial stage is selected as a starting point, and the node identifier j is set to 1. A step A0 for setting the weighted sum S 0 (t) of the rearrangement factors in the initial stage to 0 and initializing the state node set of the optimal path of the initial node to the initial state node;
and
Is used to calculate the weighted sum S j (t i ) of the reordering factors of each state node in the jth stage, and the state node set of the optimal path from the initial stage to each state node in the jth stage Step A1 to be recorded and whether j is equal to K-1 or not, if they are equal, the path consisting of each state node in the state node set of the optimal path of the destination state node is the optimal path, and if not equal, And “j = j + 1”, and the process returns to step A1 and step A2.

ここで、Sj(ti)は第jのステージにおけるi番目の状態ノードtiの並べ替え因子の重み付け和を表し、Sj-1(tk)は第j−1のステージにおける状態ノードtiに繋がるk番目の状態ノードtkの並べ替え因子の重み付け和を表し、ωjは第jのステージの重み付け因子を表し、Oi(gj)は第jのステージにおけるi番目の状態ノードtiの並べ替え因子を表し、Mj(ti)は第jのステージにおけるi番目の状態ノードtiの最適パスの状態ノード集合を表し、Mj-1(tk)は第j−1のステージにおける状態ノードtiに繋がる各状態ノードのうち、並べ替え因子の重み付け和の最大値に対応する状態ノードの最適パスの状態ノード集合を表す。 Here, S j (t i ) represents the weighted sum of the reordering factors of the i-th state node t i in the j-th stage, and S j-1 (t k ) represents the state node in the j-th stage. represents the weighted sum of the reordering factors of the kth state node t k connected to t i , ω j represents the weighting factor of the j th stage, and O i (g j ) represents the i th state in the j th stage Represents a reordering factor of node t i , M j (t i ) represents a state node set of an optimal path of i-th state node t i in the j-th stage, and M j−1 (t k ) represents j- th The state node set of the optimal path of the state node corresponding to the maximum value of the weighted sum of the rearrangement factors among the state nodes connected to the state node t i in the stage −1.

初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスの中から、最適パスを決定することは、宛先ステージの宛先状態ノードを開始点として選択し、ノード識別子jをK−2に設定し、宛先ステージの並べ替え因子の重み付け和TK-1(t)を0に設定し、宛先ノードの最適パスの状態ノード集合を宛先状態ノードに初期化するステップa0と、数式
および
を採用して、第jのステージにおける各状態ノードから宛先ステージまでの並べ替え因子の重み付け和Tj(ti)を計算し、第jのステージにおける各状態ノードから宛先ステージまでの最適パスの状態ノード集合をそれぞれ記録するステップa1と、jが0と等しいかどうかを判断し、等しい場合、初期状態ノードから宛先ステージまでの最適パスの状態ノード集合における各状態ノードからなるパスを、最適パスとし、等しくない場合、「j=j―1」にして、ステップa1に戻るステップa2と、を含む。
To determine the optimum path from all the paths that can be configured with the state nodes from the initial stage to the destination stage, the destination state node of the destination stage is selected as the starting point, and the node identifier j is set to K-2. A step a0 for setting the weighted sum T K-1 (t) of the reordering factors of the destination stage to 0 and initializing the state node set of the optimal path of the destination node to the destination state node;
and
Is used to calculate the weighted sum T j (t i ) of the reordering factors from each state node to the destination stage in the jth stage, and the optimal path from each state node to the destination stage in the jth stage Step a1 for recording each state node set and whether j is equal to 0 or not, if they are equal, the path consisting of each state node in the state node set of the optimal path from the initial state node to the destination stage is If not equal, “j = j−1” is set, and step a2 is returned to step a1.

ここで、Tj(ti)は第jのステージにおけるi番目の状態ノードtiから宛先ステージまでの並べ替え因子の重み付け和を表し、Tj+1(tk)は第j+1のステージにおける状態ノードtiに繋がるk番目の状態ノードtkの並べ替え因子の重み付け和を表し、ωjは第jのステージの重み付け因子を表し、Oi(gj)は第jのステージにおけるi番目の状態ノードtiの並べ替え因子を表し、Mj(ti)は第jのステージにおけるi番目の状態ノードtiから宛先ステージまでの最適パスの状態ノード集合を表し、Mj+1(tk)は第j+1のステージにおける状態ノードtiに繋がる各状態ノードから宛先ステージまでの並べ替え因子の重み付け和の最大値に対応する状態ノードから宛先ステージまでの最適パスの状態ノード集合を表す。 Here, T j (t i ) represents the weighted sum of the reordering factors from the i-th state node t i to the destination stage in the j-th stage, and T j + 1 (t k ) is in the j + 1-th stage. represents a weighted sum of the sort factor k th state node t k leading to the state node t i, omega j represents a weighting factor of a stage of the j, O i (g j) is the i-th in the stage of the j of it represents sort factor state node t i, M j (t i) represents the state node set of optimal path to a destination stage from the i-th state node t i at stage of the j, M j + 1 ( t k) denotes the state node set of optimal path from state node corresponding to the maximum value of the weighted sum of the sort factors to the destination stage from each state node leading to state nodes t i in the j + 1 stage to the destination stage .

上記第jのステージの重み付け因子ωjはωj+1(0<ω<1、0≦j≦K-1)である。 The j-th stage weighting factor ω j is ω j + 1 (0 <ω <1, 0 ≦ j ≦ K−1).

最適パスが1つより多い場合、本発明の実施例に係る方法は、各ステージの重み付け因子の値を増加して、初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスの中から、最適パスを再決定する、ことをさらに含む。   When there is more than one optimal path, the method according to an embodiment of the present invention increases the value of the weighting factor of each stage, and from among all paths that can be configured with state nodes from the initial stage to the destination stage. Re-determining the optimal path.

上記Raptor符号化は、並べ替えおよびパッケージ後の各層のソース行列ブロックのそれぞれに対して、RS符号化およびインターリーブを行って、m個のデータパケットを得、LT符号化の次数を決定し、決定されたLT符号化の次数に従って、m個のデータパケットに対して、LT符号化を行って、n個のデータパケットを得る、ことを含む。   In the Raptor coding, RS coding and interleaving are performed on each source matrix block of each layer after rearrangement and packaging to obtain m data packets, and the order of LT coding is determined. Performing LT coding on the m data packets according to the LT coding order obtained to obtain n data packets.

上記LT符号化の次数を決定することは、
の範囲内で次数dの値を選択する、ことを含む。ここで、θは次数分布関数のパラメータであり、次数分布関数がRobust−Soliton関数である場合、
である(定数c>0、δは許容可能な復号失敗率、kは、次数分布関数の形式を制御するものであり、次数分布関数がRobust−Soliton関数である場合、k=1)。
Determining the order of the LT encoding is
Selecting the value of the order d within the range of. Here, θ is a parameter of an order distribution function, and when the order distribution function is a Robust-Soliton function,
(Constant c> 0, δ is an acceptable decoding failure rate , k is for controlling the form of the order distribution function, and k = 1 if the order distribution function is a Robust-Soliton function ).

あるいは、上記LT符号化の次数を決定することは、mの値の範囲と次数dの値の最適範囲との対応関係を確立し、mの値および前記対応関係により、次数dの値の最適範囲を決定し、次数dの値の最適範囲内で、1つの整数をランダムに選択して、LT符号化の次数dとする、ことを含み、前記mの値の範囲と次数dの値の最適範囲との対応関係を確立することは、mの値の範囲を分類し、シミュレーションにより、m値が異なる次数範囲内にある場合の復号失敗率δを得、数式
を決定する、ことを含む。
Alternatively, determining the degree of the LT coding establishes a correspondence between the optimum range of values in the range and degree d value of m, the values and the correspondence relation of m, the optimum value of degree d A range is determined, and an integer is selected at random within the optimum range of the value of the order d to obtain the order d of the LT encoding, including the range of the value of m and the value of the order d. Establishing the correspondence with the optimal range classifies the range of the value of m, obtains a decoding failure rate δ when the m value is in a different order range by simulation,
To determine, including a call.

また、本発明の実施例では、スケーラブル映像を優先度に応じて伝送する装置が開示されている。該装置は、スケーラブル映像の各ピクチャグループ(GOP)に対して、スケーラブル映像符号化(SVC)を行うSVC符号化手段と、SVC符号化後のSVC階層化ビットストリームに対して、優先度並べ替えを行い、前記優先度並べ替えとは、GOPを単位として、SVC符号化後のSVC階層化ビットストリームに対して、その重要性に応じて、優先度の順位を並べ替えるということである優先度並べ替え手段と、並べ替え後のSVC階層化ビットストリームに対して、パッケージを行うパッケージ手段と、パッケージ後のSVC階層化ビットストリームに対して、Raptor符号化を行って、伝送チャネルを介して、スケーラブル映像の受信側に送信するRaptor符号化手段と、を含み、前記優先度並べ替え手段は、最低解像度特性を有するビットストリームから、最高解像度特性を有するビットストリームまでの並べ替えパス上の全ての可能ノードを、一定の(s,t,q)特性(s、tおよびqは、整数であり、それぞれ、空間領域、時間領域および品質領域の解像度特性を表す)に対応する各状態ノードとして定義し、s、tおよびqの増加ステップサイズの違いにより、同じ増加ステップサイズ和を有する状態ノードが同じステージにあるように、全ての状態ノードを異なるステージに区分し、前記増加ステップサイズ和は、s、tおよびqの増加ステップサイズの和であるステージ区分モジュールと、各状態ノードそれぞれのビットレートおよびその対応するピーク信号対雑音比(PSNR)によって、数式
で、各状態ノードの並べ替え因子を計算し、ここで、g は第jのステージを表し、t (g )は第jのステージにおけるi番目の状態ノードを表し、t(g )は初期ステージの初期状態ノードを表し、t(g K−1 )は宛先ステージの宛先状態ノードを表し、前記宛先ステージは宛先状態ノードが位置するステージであり、前記宛先状態ノードは最高解像度特性を有する状態ノードであり、PSNR ti(gj) は状態ノードt (g )のPSNRを表し、R ti(gj) は状態ノードt (g )のビットレートを表し、PSNR t(g0) は初期状態ノードt(g )のPSNRを表し、R t(g0) は初期状態ノードt(g )のビットレートを表し、PSNR t(gK−1) は宛先状態ノードt(g K−1 )のPSNRを表し、R t(gK−1) は宛先状態ノードt(g K−1 )のビットレートを表し、O (g )は状態ノードt (g )の並べ替え因子を表し、Kはステージの総数を表す並べ替え因子決定モジュールと、初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスの中から、各状態ノードの並べ替え因子の重み付け和が最大となる最適パスを決定する最適パス決定モジュールと、最適パス上の初期ステージから宛先ステージまでの各状態ノードの順に従って、SVC階層化ビットストリームを出力する並べ替え結果出力モジュールと、を含む。
In the embodiment of the present invention, an apparatus for transmitting scalable video according to priority is disclosed. The apparatus reorders the priority of SVC coding means for performing scalable video coding (SVC) on each picture group (GOP) of scalable video and the SVC layered bitstream after SVC coding. gastric row, said the priority sorting units of GOP, with respect to SVC hierarchical bit stream after SVC coding, depending on their importance is that sort order of priority priority Reordering means, packaging means for packaging the SVC layered bitstream after rearrangement, and raptor encoding for the SVC layered bitstream after packaging, via the transmission channel , seen containing a Raptor coding means for transmitting to the receiving of a scalable video, wherein the priority sorting means, minimum solutions All possible nodes on the reordering path from the bitstream having the degree characteristic to the bitstream having the highest resolution characteristic, the constant (s, t, q) characteristic (s, t and q are integers; State nodes corresponding to the resolution characteristics of the spatial domain, the temporal domain, and the quality domain, respectively, and state nodes having the same increased step size sum are the same due to the difference in the increased step sizes of s, t, and q. As in the stage, all state nodes are partitioned into different stages, and the increased step size sum is a stage partition module that is the sum of the increased step sizes of s, t, and q, and the bit rate of each state node and By its corresponding peak signal to noise ratio (PSNR), the formula
To calculate the reordering factor for each state node, where g j represents the j th stage, t i (g j ) represents the i th state node in the j th stage, and t (g 0 ) Represents the initial state node of the initial stage, t (g K-1 ) represents the destination state node of the destination stage, the destination stage is the stage where the destination state node is located, and the destination state node is the highest resolution characteristic. Where PSNR ti (gj) represents the PSNR of state node t i (g j ), R ti (gj) represents the bit rate of state node t i (g j ), and PSNR t (g0 ) Represents the PSNR of the initial state node t (g 0 ), R t (g0) represents the bit rate of the initial state node t (g 0 ), and PSNR t (gK−1) represents the destination state node t (g K represents PSNR of -1), R t (gK- ) Represents the bit rate of the destination state node t (g K-1), O i (g j) represents a sort factor state node t i (g j), K Sorting factor represents the total number of stages A decision module, an optimum path decision module that decides an optimum path that maximizes the weighted sum of the reordering factors of each state node from all the paths that can be configured by the state nodes from the initial stage to the destination stage, and an optimum A rearrangement result output module that outputs an SVC layered bitstream according to the order of each state node from the initial stage to the destination stage on the path.

Raptor符号化手段は、パッケージ後の各層のソース行列ブロックに対して、RS符号化を行って、m個のデータパケットを得るRS符号化モジュールと、LT符号化の次数を決定するLT符号化次数決定モジュールと、決定されたLT符号化の次数に従って、前記m個のデータパケットに対して、LT符号化を行って、n個のデータパケットを得るLT符号化モジュールと、を含む。   The Raptor encoding means performs RS encoding on the source matrix block of each layer after packaging and obtains m data packets, and LT encoding order for determining the order of LT encoding A determination module; and an LT encoding module that performs LT encoding on the m data packets according to the determined LT encoding order to obtain n data packets.

本発明に係る、スケーラブル映像を優先度に応じて伝送する方法及びその装置は、SVC階層化ビットストリームの階層化特性に従って、まず、SVC階層化ビットストリームに対して、優先度並べ替えを行い、次に、並べ替え後のSVC階層化ビットストリームに対して、パッケージおよびRaptor符号化を行う。これにより、スケーラブル映像のビットストリームの最適化選択および伝送の課題を解決するとともに、スケーラブル映像のビットストリームから再構築された画像の品質を最終的に向上させることができる。   The method and apparatus for transmitting scalable video according to priority according to the present invention first performs priority reordering on the SVC layered bitstream according to the layering characteristics of the SVC layered bitstream, Next, package and Raptor encoding are performed on the rearranged SVC layered bitstream. Thus, it is possible to solve the problem of optimization selection and transmission of a bit stream of scalable video, and finally improve the quality of an image reconstructed from the bit stream of scalable video.

本発明の実施例に係る、スケーラブル映像を優先度に応じて伝送する方法のフローチャートである。6 is a flowchart of a method for transmitting scalable video according to priority according to an embodiment of the present invention; 本発明の実施例に係る、SVC階層化ビットストリームに対して、優先度並べ替えを行う方法のフローチャートである。4 is a flowchart of a method for performing priority reordering on an SVC layered bitstream according to an embodiment of the present invention. 全ての状態ノードが異なるステージに区分されたことを示す図である。It is a figure which shows that all the state nodes were divided into the different stages. 初期ステージから宛先ステージまでの順に従って、全ての状態ノードを探索して、最適パスを得る方法のフローチャートである。It is a flowchart of the method of searching all the state nodes according to the order from an initial stage to a destination stage, and obtaining an optimal path. 宛先ステージから初期ステージまでの順に従って、全ての状態ノードを探索して、最適パスを得る方法のフローチャートである。It is a flowchart of the method of searching all the state nodes according to the order from a destination stage to an initial stage, and obtaining an optimal path. パッケージ後のSVC階層化ビットストリームを示す図である。It is a figure which shows the SVC layered bit stream after a package. 本発明の実施例に係るRaptor符号化プロセスを示す図である。FIG. 6 is a diagram illustrating a raptor encoding process according to an embodiment of the present invention. 本発明の実施例に係る、スケーラブル映像を優先度に応じて伝送する装置の内部構成を示す図である。It is a figure which shows the internal structure of the apparatus based on the Example of this invention which transmits a scalable image | video according to a priority. スケーラブル映像シーケンスForemanに対して、デフォルトの並べ替え方法、品質層に基づく優先度並べ替え方法、および本発明の実施例で提供される優先度並べ替え方法を採用する場合のレート歪み性能を示す図である。The figure which shows the rate distortion performance at the time of employ | adopting the default rearrangement method, the priority rearrangement method based on a quality layer, and the priority rearrangement method provided in the Example of this invention with respect to scalable video sequence Foreman. It is. スケーラブル映像シーケンスFootballに対して、デフォルトの並べ替え方法、品質層に基づく優先度並べ替え方法、および本発明の実施例で提供される優先度並べ替え方法を採用する場合のレート歪み性能を示す図である。The figure which shows the rate distortion performance at the time of employ | adopting the default rearrangement method, the priority rearrangement method based on a quality layer, and the priority rearrangement method provided in the Example of this invention with respect to scalable video sequence Football. It is. スケーラブル映像シーケンスCityに対して、デフォルトの並べ替え方法、品質層に基づく優先度並べ替え方法、および本発明の実施例で提供される優先度並べ替え方法を採用する場合のレート歪み性能を示す図である。The figure which shows the rate distortion performance at the time of employ | adopting the default rearrangement method, the priority rearrangement method based on a quality layer, and the priority rearrangement method provided in the Example of this invention with respect to the scalable video sequence City. It is. スケーラブル映像シーケンスHarbourに対して、デフォルトの並べ替え方法、品質層に基づく優先度並べ替え方法、および本発明の実施例で提供される優先度並べ替え方法を採用する場合のレート歪み性能を示す図である。The figure which shows the rate distortion performance at the time of employ | adopting the default rearrangement method, the priority rearrangement method based on a quality layer, and the priority rearrangement method provided in the Example of this invention with respect to scalable video sequence Harbour. It is. 異なるパケットロス率およびソースデータパケット数Nで、標準LT符号化方式、および本発明の実施例で提供される、次数を適応選択するLT符号化方式を採用する場合のスケーラブル映像の受信側の復号成功率を示す図である。Decoding on the receiving side of scalable video when adopting the standard LT coding scheme and the LT coding scheme adaptively selecting the order provided in the embodiment of the present invention with different packet loss rates and the number of source data packets N It is a figure which shows a success rate.

従来のH.264/SVC映像符号化規格に直接に応用して、映像ストリームのサービス品質を向上させるために、本発明の実施例では、スケーラブル映像を優先度に応じて伝送する方法が提供されている。図1に示すように、該方法は、下記のステップを含む。   Conventional H.264. In order to improve the service quality of a video stream by directly applying to the H.264 / SVC video coding standard, an embodiment of the present invention provides a method for transmitting scalable video according to priority. As shown in FIG. 1, the method includes the following steps.

ステップ101で、スケーラブル映像の各ピクチャグループ(GOP:Group of Pictures)がSVC符号化された後のSVC階層化ビットストリームに対して、優先度並べ替えを行う。   In step 101, priority ordering is performed on the SVC layered bitstream after each picture group (GOP: Group of Pictures) of the scalable video is SVC-encoded.

ステップ102で、並べ替え後のSVC階層化ビットストリームに対して、パッケージおよびRaptor符号化を行って、伝送チャネルを介して、符号化後のスケーラブル映像のビットストリームを、スケーラブル映像の受信側に送信する。   In step 102, the rearranged SVC layered bitstream is packaged and Raptor encoded, and the encoded scalable video bitstream is transmitted to the scalable video receiver via the transmission channel. To do.

スケーラブル映像の受信側は、符号化後のビットストリームを受信した後、Raptor復号およびビットストリーム複合により、SVC階層化ビットストリームを得ることができ、次に、SVC復号して、映像の画像を再構築する。   After receiving the encoded bitstream, the scalable video receiving side can obtain an SVC layered bitstream by Raptor decoding and bitstream combination, and then performs SVC decoding to regenerate the video image. To construct.

本発明の実施例では、SVC階層化ビットストリームの階層化特性に従って、まず、SVC階層化ビットストリームに対して、優先度並べ替えを行い、次に、並べ替え後のSVC階層化ビットストリームに対して、パッケージおよびRaptor符号化を行う。これにより、スケーラブル映像のビットストリームの最適化選択および伝送の課題を解決するとともに、スケーラブル映像のビットストリームから再構築された画像の品質を最終的に向上させることができる。   In the embodiment of the present invention, according to the layering characteristics of the SVC layered bitstream, first, the priority is rearranged for the SVC layered bitstream, and then the SVC layered bitstream after the rearrangement is performed. Then, package and Raptor encoding are performed. Thus, it is possible to solve the problem of optimization selection and transmission of a bit stream of scalable video, and finally improve the quality of an image reconstructed from the bit stream of scalable video.

以下、図面を参照しながら、上記ステップ101におけるSVC階層化ビットストリームに対して優先度並べ替えを行う方法を、詳しく説明する。   Hereinafter, a method for performing the priority rearrangement on the SVC layered bitstream in step 101 will be described in detail with reference to the drawings.

本発明の実施例において、優先度並べ替えとは、GOPを単位として、SVC符号化後のSVC階層化ビットストリームに対して、その重要性に応じて、優先度の順位を並べ替えるということである。その目的は、受信側が一定数量のデータパケットを正確に受信した場合、復元された画像の品質を最良にするということである。   In the embodiment of the present invention, the priority rearrangement means that the priority order is rearranged according to the importance of the SVC layered bitstream after SVC encoding in units of GOP. is there. Its purpose is to optimize the quality of the restored image when the receiving side receives a certain number of data packets correctly.

映像シーケンスの各GOPの大きさがNであり、各GOP画像がSVC符号化された後、ビットレートがRであるL層のSVC階層化ビットストリームが生成できると仮定する。ここで、第i層のビットストリームのビットレートはRで表し、第1層から第i層までのビットストリームに対応する再構築された画像の歪み度を反映するピーク信号対雑音比パラメータ(PSNR:Peak Signal to Noise Ratio)はPSNR(1≦i≦L)で表す。各GOPのSVC階層化ビットストリームが優先度並べ替えされた後、それぞれ得られたL層のビットストリームのビットレートRおよび対応するPSNRの値は、以下の数式1を満足する。
[数式1]
It is assumed that the size of each GOP in the video sequence is N, and after each GOP image is SVC encoded, an L-layer SVC layered bitstream having a bit rate of R can be generated. Here, the bit rate of the i-th layer bit stream is represented by R i , and the peak signal-to-noise ratio parameter (reflecting the degree of distortion of the reconstructed image corresponding to the bit stream from the first layer to the i-th layer) PSNR: Peak Signal to Noise Ratio) is represented by PSNR i (1 ≦ i ≦ L). After the SVC layered bit stream of each GOP is rearranged in priority, the bit rate R i and the corresponding PSNR i value of the obtained L layer bit stream satisfy the following Equation 1.
[Formula 1]

デフォルトのSVC階層化ビットストリームの並べ替え方法を採用して、SVC階層化ビットストリームに対して、優先度並べ替えを行うことができる、ということが知られている。具体的に、デフォルトのSVC階層化ビットストリームの並べ替え方法では、GOPを単位として、時間領域層に基づいて並べ替える。各時間領域層は、若干の空間領域層を含む。これらの空間領域層は、基本層である1つの品質領域(例えば、SNR)層と、強化層であるいくつかの品質領域層とを含む可能性がある。   It is known that priority reordering can be performed on an SVC layered bitstream by employing a default SVC layered bitstream rearrangement method. Specifically, in the default SVC layered bitstream rearrangement method, rearrangement is performed based on the time domain layer in units of GOPs. Each time domain layer includes a number of spatial domain layers. These spatial domain layers may include one quality domain (eg, SNR) layer that is a base layer and several quality domain layers that are enhancement layers.

そのほか、品質層に基づくSVC階層化ビットストリームの並べ替え方法を採用して、SVC階層化ビットストリームに対して、優先度並べ替えを行うこともできる。具体的に、品質層に基づくSVC階層化ビットストリームの並べ替え方法では、第iフレームの画像がd層(例えば、QCIF層、CIF層および4CIF層)に符号化され、各層において、画像が基本層と品質層に符号化され、ここで、品質層の解像度特性がqであると仮定し、各フレームの画像のビットレート関数R(d,i,q)と歪み関数D(d,i,q)とを計算し、レート歪みR−D曲線を作成することにより、各フレームの画像の品質層の最適な並べ替え順を得る。   In addition, priority sorting can be performed on the SVC layered bitstream by employing a method for rearranging the SVC layered bitstream based on the quality layer. Specifically, in the SVC layered bitstream rearrangement method based on the quality layer, the image of the i-th frame is encoded into the d layer (for example, the QCIF layer, the CIF layer, and the 4CIF layer). Layer and quality layer, where the resolution characteristic of the quality layer is assumed to be q, and the image bit rate function R (d, i, q) and distortion function D (d, i, q) and a rate-distortion RD curve is created to obtain an optimal permutation order of the quality layer of the image of each frame.

また、本発明の実施例では、新しい優先度並べ替え方法が提供されている。図2は、本発明の実施例に係る、SVC階層化ビットストリームに対して、優先度並べ替えを行う方法を示す。図2に示すように、該方法は、以下のステップを含む。   In the embodiment of the present invention, a new priority reordering method is provided. FIG. 2 illustrates a method for performing priority reordering on an SVC layered bitstream according to an embodiment of the present invention. As shown in FIG. 2, the method includes the following steps.

ステップ201で、並べ替えパス上の全ての可能ノードを、一定の(s,t,q)特性に対応する各状態(state)ノードとして定義し、s、tおよびqの増加ステップサイズの違いにより、同じ増加ステップサイズを有する状態ノードが同じステージ(stage)にあるように、全ての状態ノードを異なるステージに区分する。   In step 201, all possible nodes on the reordering path are defined as state nodes corresponding to certain (s, t, q) characteristics, and due to the difference in the increasing step sizes of s, t and q All state nodes are partitioned into different stages so that state nodes with the same incremental step size are in the same stage.

本実施例において、説明の便宜上、SVC階層化ビットストリームの特性を、トリプル(s,t,q)で表し、ここで、s、tおよびqはそれぞれ、空間領域、時間領域および品質領域の解像度特性を表す。ここで、最低解像度特性を有するビットストリームは(0,0,0)で表し、スケーラブル映像の受信側は、該ビットストリームを受信した後、最も基本的な品質の映像を復元することができる。最高解像度を有するビットストリームは(s*,t*,q*)で表し、スケーラブル映像の受信側は、該ビットストリームを受信した後、最高解像度を含む各種の解像度の品質の映像を完全に復元することができる。中間解像度を有するビットストリームは(s,t,q)で表し、スケーラブル映像の受信側は、該ビットストリームを受信した後、この中間解像度を含む各種の解像度の品質の映像を復元することができる。 In this embodiment, for convenience of explanation, the characteristics of the SVC layered bit stream are represented by triples (s, t, q), where s, t, and q are the resolutions of the spatial domain, temporal domain, and quality domain, respectively. Represents a characteristic. Here, the bit stream having the lowest resolution characteristic is represented by (0, 0, 0), and the receiving side of the scalable video can restore the video with the most basic quality after receiving the bit stream. The bit stream with the highest resolution is represented by (s * , t * , q * ), and after receiving the bit stream, the receiver of the scalable video completely restores the video of various resolution quality including the highest resolution. can do. A bit stream having an intermediate resolution is represented by (s, t, q), and after receiving the bit stream, a scalable video receiving side can restore videos of various resolution qualities including the intermediate resolution. .

本実施例に係る優先度並べ替え方法の目標は、最低解像度特性を有するビットストリームから、最高解像度特性を有するビットストリームまで、即ち、状態ノード(0,0,0)(初期状態ノードとも呼ばれる)から、状態ノード(s*,t*,q*)(宛先状態ノードとも呼ばれる)まで、最適な解像度特性の増加を有するパスを探して、受信側で復元されたビットストリームが最適なレート歪み特性を有することを確保する、ということである。 The goal of the priority rearrangement method according to the present embodiment is from the bit stream having the lowest resolution characteristic to the bit stream having the highest resolution characteristic, that is, the state node (0, 0, 0) (also called the initial state node). To the state node (s * , t * , q * ) (also called the destination state node) looking for the path with the optimal increase in resolution characteristics, and the bitstream recovered at the receiver side has the optimal rate distortion characteristics It is to ensure that it has.

図3は、全ての状態ノードが異なるステージに区分されたことを示す図である。図3に示すように、異なる解像度特性を有する12個の状態ノード(state(0,0,0)〜state(1,2,1))は、それぞれ5つのステージ(stage0〜stage4)に区分される。この場合、最適な解像度特性の増加を有するパスの選択課題は、如何に初期状態ノードstate(0,0,0)から宛先状態ノードstate(1,2,1)まで、適当な状態ノードを選択して最適なパスを構成するかという課題に変換された。   FIG. 3 is a diagram illustrating that all state nodes are divided into different stages. As shown in FIG. 3, twelve state nodes (state (0, 0, 0) to state (1, 2, 1)) having different resolution characteristics are divided into five stages (stage 0 to stage 4), respectively. The In this case, the task of selecting a path having an increase in the optimal resolution characteristic is to select an appropriate state node from the initial state node state (0, 0, 0) to the destination state node state (1, 2, 1). It was converted to the question of how to construct the optimal path.

ステップ202で、各状態ノードそれぞれのビットレートおよびその対応するPSNRによって、各状態ノードの並べ替え因子を計算する。   In step 202, a reorder factor for each state node is calculated according to the bit rate of each state node and its corresponding PSNR.

上記ステップ202において、下記の数式2によって、各ノードの並べ替え因子を計算することができる。
[数式2]
In the above step 202, the rearrangement factor of each node can be calculated by the following formula 2.
[Formula 2]

ここで、gjは第jのステージを表し、ti(gj)は第jのステージにおけるi番目の状態ノードを表し、t(g0)は初期ステージの初期状態ノードを表し、t(gK-1)は宛先ステージの宛先状態ノードを表し、
は状態ノードti(gj)のPSNRを表し、
は状態ノードti(gj)のビットレートを表し、
は初期状態ノードt(g0)のPSNRを表し、
は初期状態ノードt(g0)のビットレートを表し、
は宛先状態ノードt(gK-1)のPSNRを表し、
は宛先状態ノードt(gK-1)のビットレートを表し、Oi(gj)は状態ノードti(gj)の並べ替え因子を表し、Kはステージの総数を表す。
Here, g j represents the j-th stage, t i (g j ) represents the i-th state node in the j-th stage, t (g 0 ) represents the initial state node in the initial stage, and t ( g K-1 ) represents the destination state node of the destination stage,
Represents the PSNR of state node t i (g j ),
Represents the bit rate of the state node t i (g j ),
Represents the PSNR of the initial state node t (g 0 ),
Represents the bit rate of the initial state node t (g 0 ),
Represents the PSNR of the destination state node t (g K-1 ),
Represents the bit rate of the destination state node t (g K-1 ), O i (g j ) represents the reordering factor of the state node t i (g j ), and K represents the total number of stages.

本発明の実施例において、Oi(gj)を用いて、第j−1のステージから第jのステージのi番目の状態ノードまでのパスのキャンバを記述する。該キャンバは、基準品質に対する増量と見なされてよい。 In the embodiment of the present invention, O i (g j ) is used to describe a camber of a path from the j−1 stage to the i th state node of the j th stage. The camber may be considered an increase over the reference quality.

ステップ203で、初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスの中から、各状態ノードの並べ替え因子の重み付け和が最大となる最適パスを決定する。   In step 203, an optimal path that maximizes the weighted sum of the rearrangement factors of each state node is determined from all paths that can be configured by the state nodes from the initial stage to the destination stage.

本ステップにおいて、下記の数式3によって、初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパス上の各状態ノードの並べ替え因子の重み付け和を計算することができる。そして、最大となる並べ替え因子の重み付け和を有するパスを、最適パスとする。
[数式3]
In this step, the weighted sum of the rearrangement factors of the respective state nodes on all paths that can be constituted by the state nodes from the initial stage to the destination stage can be calculated by the following Equation 3. Then, the path having the maximum weighting sum of the rearrangement factors is set as the optimum path.
[Formula 3]

ここで、Sxは初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスのうち、x番目のパス上の各状態ノードの並べ替え因子の重み付け和を表し、O(gj)は該x番目のパスの第jのステージにおける状態ノードの並べ替え因子を表し、ωjは第jのステージの重み付け因子を表す(0<ωj<1、0≦j≦K-1)。 Here, S x represents the weighted sum of the reordering factors of each state node on the x-th path among all the paths that can be configured by the state nodes from the initial stage to the destination stage, and O (g j ) is The state node rearrangement factor in the j-th stage of the x-th path is represented, and ω j represents the weighting factor of the j-th stage (0 <ω j <1, 0 ≦ j ≦ K−1).

好ましくは、第gjのステージの重み付け因子をωj+1(0<ω<1、0≦j≦K-1)にしてもよい。実験から分かるように、一般的な映像シーケンスについて、ω=0.2の場合、比較的よい優先度並べ替え結果を得ることができる。 Preferably, the weighting factor of the g jth stage may be ω j + 1 (0 <ω <1, 0 ≦ j ≦ K−1). As can be seen from the experiment, a relatively good priority rearrangement result can be obtained for a general video sequence when ω = 0.2.

ステップ204で、最適パス上の初期ステージから宛先ステージまでの各状態ノードの順に従って、SVC階層化ビットストリームを出力する。   In step 204, the SVC layered bit stream is output according to the order of each state node from the initial stage to the destination stage on the optimal path.

本ステップにおいて、最適パス上の各ノードにおいて同じ品質領域特性を有する状態ノードを、1層のSVC階層化ビットストリームとして出力することができる。   In this step, a state node having the same quality region characteristic in each node on the optimum path can be output as a one-layer SVC layered bit stream.

具体的に、本発明の実施例において、様々な方法を採用して、初期ステージから宛先ステージまでの状態ノードで構成される全ての可能パスの中から、最適パスを決定してもよい。例えば、前記最適パスを得るために、初期ステージから宛先ステージまでの順に従って全ての状態ノードを探索してもよく、あるいは、宛先ステージから初期ステージまでの順に従って全ての状態ノードを探索してもよい。   Specifically, in the embodiment of the present invention, various methods may be adopted to determine the optimum path from all possible paths composed of state nodes from the initial stage to the destination stage. For example, in order to obtain the optimum path, all state nodes may be searched in the order from the initial stage to the destination stage, or all state nodes may be searched in the order from the destination stage to the initial stage. Good.

図4は、初期ステージから宛先ステージまでの順に従って、全ての状態ノードを探索して、前記最適パスを得る方法のフローチャートである。該方法は、主に、下記のステップを含む。   FIG. 4 is a flowchart of a method for obtaining the optimum path by searching all the state nodes in the order from the initial stage to the destination stage. The method mainly includes the following steps.

ステップ301で、初期ステージの初期状態ノードを開始点として選択して、反復パラメータを初期化する。この初期化は、ノード識別子jを1に設定し、初期ステージの並べ替え因子の重み付け和S0(t)を0に設定し、初期ノードの最適パスの状態ノード集合を初期状態ノードに初期化することを含む。 In step 301, the initial state node of the initial stage is selected as a starting point to initialize the iteration parameters. In this initialization, the node identifier j is set to 1, the weighted sum S 0 (t) of the rearrangement factor in the initial stage is set to 0, and the state node set of the optimal path of the initial node is initialized to the initial state node. Including doing.

ステップ302で、第jのステージにおける各状態ノードの並べ替え因子の重み付け和Sj(ti)を計算し、初期ステージから第jのステージにおける各状態ノードまでの最適パスの状態ノード集合をそれぞれ記録する。 In step 302, the weighted sum S j (t i ) of the reordering factors of each state node in the jth stage is calculated, and the state node set of the optimal path from the initial stage to each state node in the jth stage is calculated. Record.

本ステップにおいて、下記の数式4によって、第jのステージにおける各状態ノードの並べ替え因子の重み付け和Sj(ti)を計算することができる。
[数式4]
In this step, the weighted sum S j (t i ) of the rearrangement factors of the respective state nodes in the j-th stage can be calculated by the following Equation 4.
[Formula 4]

ここで、Sj(ti)は第jのステージにおけるi番目の状態ノードtiの並べ替え因子の重み付け和を表し、Sj-1(tk)は第j−1のステージにおける状態ノードtiに繋がるk番目の状態ノードtkの並べ替え因子の重み付け和を表し、ωjは第jのステージの重み付け因子を表し、Oi(gj)は第jのステージにおけるi番目の状態ノードtiの並べ替え因子を表す。上記の数式4から分かるように、第jのステージにおけるi番目の状態ノードtiの並べ替え因子の重み付け和Sj(ti)は、該状態ノードの並べ替え因子の重み付け値に、1つ前のステージ(即ち、第j−1のステージ)における該状態ノードに繋がる各状態ノードの並べ替え因子の重み付け和の最大値を加えた値である。 Here, S j (t i ) represents the weighted sum of the reordering factors of the i-th state node t i in the j-th stage, and S j-1 (t k ) represents the state node in the j-th stage. represents the weighted sum of the reordering factors of the kth state node t k connected to t i , ω j represents the weighting factor of the j th stage, and O i (g j ) represents the i th state in the j th stage Represents the sort factor of node t i . As can be seen from Equation 4 above, the weighting sum S j (t i ) of the rearrangement factors of the i-th state node t i in the j-th stage is one in the weighting value of the rearrangement factors of the state node. This is a value obtained by adding the maximum value of the weighted sums of the rearrangement factors of the respective state nodes connected to the state node in the previous stage (that is, the j−1th stage).

また、第jのステージにおけるi番目の状態ノードtiの最適パスの状態ノード集合は、下記の数式5によって算出することができる。
[数式5]
Further, the state node set of the optimal path of the i-th state node t i in the j-th stage can be calculated by the following Equation 5.
[Formula 5]

ここで、Mj(ti)は第jのステージにおけるi番目の状態ノードtiの最適パスの状態ノード集合を表し、Mj-1(tk)は第j−1のステージにおける状態ノードtiに繋がる各状態ノードのうち、並べ替え因子の重み付け和の最大値に対応する状態ノードの最適パスの状態ノード集合を表す。 Here, M j (t i ) represents the state node set of the optimal path of the i-th state node t i in the j-th stage, and M j−1 (t k ) represents the state node in the j-th stage. Among the state nodes connected to t i , the state node set of the optimal path of the state node corresponding to the maximum weighted sum of the reordering factors is represented.

ステップ303で、第jのステージが宛先ステージであるかどうかを判断し、即ち、jがK−1と等しいかどうかを判断し、そうである場合、ステップ304を実行し、そうではない場合、「j=j+1」にして、ステップ302に戻る。   Step 303 determines whether the jth stage is the destination stage, i.e., determines whether j is equal to K-1, and if so, executes Step 304; Set “j = j + 1” and return to Step 302.

ステップ304で、宛先状態ノードの最適パスの状態ノード集合における各状態ノードからなるパスを、最適パスとする。   In step 304, the path consisting of each state node in the state node set of the optimal path of the destination state node is set as the optimal path.

図5は、宛先ステージから初期ステージまでの順に従って、全ての状態ノードを探索して、前記最適パスを得る方法のフローチャートである。該方法は、主に、下記のステップを含む。   FIG. 5 is a flowchart of a method for obtaining the optimum path by searching all the state nodes in the order from the destination stage to the initial stage. The method mainly includes the following steps.

ステップ401で、宛先ステージの宛先状態ノードを開始点として選択して、反復パラメータを初期化する。この初期化は、ノード識別子jをK−2に設定し、宛先ステージの並べ替え因子の重み付け和TK-1(t)を0に設定し、宛先ノードの最適パスの状態ノード集合を宛先状態ノードに初期化することを含む。 In step 401, the destination state node of the destination stage is selected as a starting point to initialize the iteration parameters. In this initialization, the node identifier j is set to K-2, the weighted sum T K-1 (t) of the destination stage reordering factors is set to 0, and the state node set of the optimal path of the destination node is set to the destination state. Includes initializing the node.

ステップ402で、第jのステージにおける各状態ノードから宛先ステージまでの並べ替え因子の重み付け和Tj(ti)を計算し、第jのステージにおける各状態ノードから宛先ステージまでの最適パスの状態ノード集合をそれぞれ記録する。 In step 402, the weighted sum T j (t i ) of the reordering factors from each state node to the destination stage in the jth stage is calculated, and the state of the optimal path from each state node to the destination stage in the jth stage Record each node set.

本ステップにおいて、下記の数式6によって、第jのステージにおける各状態ノードの並べ替え因子の重み付け和Tj(ti)を計算することができる。
[数式6]
In this step, the weighted sum T j (t i ) of the rearrangement factors of the respective state nodes in the j-th stage can be calculated by the following Equation 6.
[Formula 6]

ここで、Tj(ti)は第jのステージにおけるi番目の状態ノードtiから宛先ステージまでの並べ替え因子の重み付け和を表し、Tj+1(tk)は第j+1のステージにおける状態ノードtiに繋がるk番目の状態ノードtkの並べ替え因子の重み付け和を表し、ωjは第jのステージの重み付け因子を表し、Oi(gj)は第jのステージにおけるi番目の状態ノードtiの並べ替え因子を表す。上記の数式6から分かるように、第jのステージにおけるi番目の状態ノードtiから宛先ステージまでの並べ替え因子の重み付け和Tj(ti)は、該状態ノードの並べ替え因子の重み付け値に、次のステージ(即ち、第j+1のステージ)における該状態ノードに繋がる各状態ノードから宛先ステージまでの並べ替え因子の重み付け和の最大値を加えた値である。 Here, T j (t i ) represents the weighted sum of the reordering factors from the i-th state node t i to the destination stage in the j-th stage, and T j + 1 (t k ) is in the j + 1-th stage. Represents the weighted sum of the reordering factors of the kth state node t k connected to the state node t i , ω j represents the weighting factor of the j th stage, and O i (g j ) represents the i th in the j th stage. Represents the reordering factor of the state node t i of. As can be seen from Equation 6 above, the weighting sum T j (t i ) of the rearrangement factors from the i-th state node t i to the destination stage in the j-th stage is the weight value of the rearrangement factor of the state node. And the maximum value of the weighted sum of the rearrangement factors from each state node connected to the state node to the destination stage in the next stage (ie, the (j + 1) th stage).

また、第jのステージにおけるi番目の状態ノードtiから宛先ステージまでの最適パスの状態ノード集合は、下記の数式7によって算出することができる。
[数式7]
Further, the state node set of the optimal path from the i-th state node t i to the destination stage in the j-th stage can be calculated by the following Equation 7.
[Formula 7]

ここで、Mj(ti)は第jのステージにおけるi番目の状態ノードtiから宛先ステージまでの最適パスの状態ノード集合を表し、Mj+1(tk)は第j+1のステージにおける状態ノードtiに繋がる各状態ノードから宛先ステージまでの並べ替え因子の重み付け和の最大値に対応する状態ノードから宛先ステージまでの最適パスの状態ノード集合を表す。 Here, M j (t i ) represents the state node set of the optimal path from the i-th state node t i to the destination stage in the j-th stage, and M j + 1 (t k ) is in the j + 1-th stage. This represents the state node set of the optimal path from the state node to the destination stage corresponding to the maximum value of the weighted sum of the reordering factors from each state node to the destination stage connected to the state node t i .

ステップ403で、第jのステージが初期ステージであるかどうかを判断し、即ち、jが0と等しいかどうかを判断し、そうである場合、ステップ404を実行し、そうではない場合、「j=j―1」にして、ステップ402に戻る。   In step 403, it is determined whether the jth stage is an initial stage, that is, whether j is equal to 0, and if so, execute step 404; = J-1 "and the process returns to step 402.

ステップ404で、初期状態ノードから宛先ステージまでの最適パスの状態ノード集合における各状態ノードからなるパスを、最適パスとする。   In step 404, the path composed of each state node in the state node set of the optimum path from the initial state node to the destination stage is set as the optimum path.

説明すべきものとして、図4と図5に係る方法で提供されたのは、ただ、全ての状態ノードの中から最適パスを探索することを示す代表例にすぎない。本発明の実施例は、上記2つの方法の採用のみに限られない。   As should be explained, what has been provided by the method according to FIGS. 4 and 5 is merely a representative example showing the search for the optimal path among all the state nodes. Embodiments of the present invention are not limited to adopting the above two methods.

また、説明すべきものとして、ステップ203で決定された最適パスが1つより多い場合、各ステージの重み付け因子の値を増加して、初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスの中から、最適パスを再決定することができる。例えば、図4に示す探索プロセスのステップ302では、1つ前のステージにおいて、1つより多い状態ノードが並べ替え因子の重み付け和の最大値に対応することが分かる場合、または、図5に示す探索プロセスのステップ402では、次のステージにおいて、1つより多い状態ノードが並べ替え因子の重み付け和の最大値に対応することが分かる場合、各ステージの重み付け因子を増加して、ステップ301または401に戻って、図4または図5に示す探索プロセスを再実行することができる。   Also, it should be explained that if there are more than one optimum paths determined in step 203, all paths that can be configured with state nodes from the initial stage to the destination stage by increasing the value of the weighting factor of each stage. The optimum path can be re-determined. For example, in step 302 of the search process shown in FIG. 4, if it is found in the previous stage that more than one state node corresponds to the maximum weighting sum of the reordering factors, or as shown in FIG. In step 402 of the search process, in the next stage, if it is found that more than one state node corresponds to the maximum weighting sum of the reordering factors, the weighting factor for each stage is increased and step 301 or 401 is performed. Returning to FIG. 4, the search process shown in FIG. 4 or 5 can be re-executed.

上記から分かるように、本発明の実施例に係る、SVC階層化ビットストリームに対して、優先度並べ替えを行う方法では、単一のGOP内の異なる空間領域、時間領域および品質領域の階層化ビットストリームのレート歪み性能が充分に考慮されるため、優先度並べ替え結果がより合理的になり、さらに、SVC階層化ビットストリームのレート歪み性能が向上する。   As can be seen from the above, in the method for performing priority reordering on the SVC layered bitstream according to the embodiment of the present invention, layering of different spatial regions, time regions and quality regions in a single GOP is performed. Since the rate distortion performance of the bitstream is fully considered, the priority reordering result becomes more rational, and further the rate distortion performance of the SVC layered bitstream is improved.

以下、図面を参照しながら、ステップ102におけるパッケージおよびRaptor符号化の方法を詳しく説明する。   Hereinafter, the package and Raptor encoding method in step 102 will be described in detail with reference to the drawings.

図6は、パッケージ後のSVC階層化ビットストリームを示す図である。図6に示すように、パッケージプロセスでは、まず、L層のSVC階層化ビットストリームを、それぞれw×hのソース行列ブロックに変換する。ここで、wは、ソース行列ブロックの幅であり、hは、ソース行列ブロックの高さであり、かつ、下記の数式8に示す拘束条件を満たす。該拘束条件は、チャネル復号後、前のソース符号がいつも後ろのソース符号より優先的に復元され、即ち、重要性の高い情報がいつも重要性の低い情報より優先的に復元されることを保証する。次に、各ソース行列ブロックのそれぞれにおいて、Raptor符号化を行って、n個のデータパケットを得る。
[数式8]
FIG. 6 is a diagram showing the SVC layered bitstream after packaging. As shown in FIG. 6, in the packaging process, first, the SVC hierarchical bit stream of L layers, into a source matrix block of w i × h i, respectively. Here, w i is the width of the source matrix block, h i is the height of the source matrix block, and satisfies the constraint condition shown in Equation 8 below. The constraint guarantees that after channel decoding, the previous source code is always restored preferentially over the subsequent source code, i.e., the more important information is always restored more preferentially than the less important information. To do. Next, in each source matrix block, Raptor encoding is performed to obtain n data packets.
[Formula 8]

このn個のデータパケットは、一定のパケットロス率を有するチャネルで伝送され、スケーラブル映像の受信側に到達する。スケーラブル映像の受信側でα(0≦α≦n)個のデータパケットを受信し、ビットストリーム複合により得られたコードエレメントの数がrであることを仮定すると、αとrとの間の関係は、以下の数式9に示す拘束条件を満たす。
[数式9]
The n data packets are transmitted through a channel having a constant packet loss rate, and reach the scalable video receiving side. Assuming that α (0 ≦ α ≦ n) data packets are received on the receiving side of the scalable video and the number of code elements obtained by the bitstream combination is r, the relationship between α and r Satisfies the constraint condition shown in Equation 9 below.
[Formula 9]

また、スケーラブル映像の受信側が第i層のビットストリームを受信する確率Piは、αの関数であり、下記の数式10に示す拘束条件を満たすことを仮定すると、
[数式10]
Further, the probability Pi that the scalable video receiving side receives the i-th layer bit stream is a function of α, and it is assumed that the constraint condition shown in Equation 10 below is satisfied.
[Formula 10]

一定の帯域幅とパケットロス率の場合、数式10から分かるように、スケーラブル映像ストリームの伝送は、下記の目標を満たすべきである。即ち、0<α≦nの場合、スケーラブル映像の受信側がr個のコードエレメントから復元した映像の画像のPSNRを最大化する。該目標は、パッケージパラメータにおけるwを最適化することにより達成することができる。即ち、最適化の目標関数は、下記の数式11に示す通りである。現在、復元された映像の画像のPSNRを最大化するために、様々な探索アルゴリズムによって、L層のSVC階層化ビットストリームのパッケージ幅wをそれぞれ決定することができる。ここで、説明を省略する。
[数式11]
For a given bandwidth and packet loss rate, as can be seen from Equation 10, transmission of a scalable video stream should meet the following goals: That is, when 0 <α ≦ n, the scalable video receiving side maximizes the PSNR of the video image restored from the r code elements. The goal can be achieved by optimizing the w i in the package parameter. That is, the optimization target function is as shown in the following Expression 11. Currently, in order to maximize the PSNR of the restored video image, the package width w i of the L-layer SVC layered bitstream can be determined by various search algorithms. Here, the description is omitted.
[Formula 11]

そのほか、本発明の実施例において、Raptor符号化は、RS+LTという形式を採用し、その符号化プロセスが図7に示すように、主に、下記のステップを含む。   In addition, in the embodiment of the present invention, Raptor encoding adopts the format of RS + LT, and the encoding process mainly includes the following steps as shown in FIG.

ステップ501で、並べ替えおよびパッケージがされた後の各層のソース行列ブロックのそれぞれに対して、RS符号化およびインターリーブを行って、m個のデータパケットを得る。このm個のデータパケットの長さは、Plength個の符号に固定される。 In step 501, RS coding and interleaving are performed on each of the source matrix blocks of each layer after being rearranged and packaged to obtain m data packets. The length of the m data packets is fixed to P length codes.

即ち、本ステップにおいて、各ソース行列ブッロクの後ろに、大きさが(m-wi)×hiであってかつ冗長情報が付けられる行列ブロック(例えば、大きさがw×hであるソース行列ブロックに対して、前方誤り訂正(FEC:forward error correction)符号化を行うことにより、大きさが(m-wi)×hiである行列ブロックを生成する)をパディングすることにより、大きさがそれぞれm×hiであるL個の行列ブロックを得る。図6に示すように、このL個の行列ブロックの高さの和がPlengthであるため、このL個の行列ブロックを組み合わせて、長さがPlength個の符号に固定されるm個のデータパケットを得ることができる。 That is, in this step, a matrix block (for example, a source matrix having a size w i × h i ) having a size (mw i ) × h i and having redundant information attached after each source matrix block. the block, forward error correction (FEC: forward error correction) by coding, by padding magnitude of generating a (mw i) × h i a is the matrix block) sizes, respectively obtaining L number of matrix blocks is m × h i. As shown in FIG. 6, since the sum of the heights of the L matrix blocks is P length , m lengths of which the lengths are fixed to P length codes by combining the L matrix blocks. Data packets can be obtained.

ステップ502で、LT符号化の次数(Degree)dを決定する。   In step 502, the LT encoding degree (Degree) d is determined.

ステップ503で、決定されたLT符号化の次数dに従って、上記m個のデータパケットに対して、LT符号化を行って、n個のデータパケットを得る。このn個のデータパケットの長さもPlength個の符号に固定される。 In step 503, the m data packets are subjected to LT encoding according to the determined LT encoding order d to obtain n data packets. The length of the n data packets is also fixed to P length codes.

即ち、本ステップにおいて、上記m個のデータパケットの中からβ(1≦β≦d)個のデータパケットをランダムに選択して、β個のデータパケットにおける対応する情報に対して、ビットごとの排他的論理和演算を行って、1つの新しいデータパケットを得る。長さが同様にPlength個の符号に固定されるn個のデータパケットを得るまで、このように繰り返して実行する。 That is, in this step, β (1 ≦ β ≦ d) data packets are randomly selected from the m data packets, and the corresponding information in the β data packets is selected for each bit. An exclusive OR operation is performed to obtain one new data packet. This is repeated until n data packets whose length is similarly fixed to P length codes are obtained.

上記図7に示すRaptor符号化プロセスから分かるように、LT符号化の次数dの大きさが、LT符号化の複雑度を決定するキーポイントである。また、LT符号化における次数dの大きさの選択によって、スケーラブル映像の受信側の復号成功率が決定される。一般的なLT符号化において、mの値は比較的に大きい(10〜10)。この場合、次数dの値は、d∈[1,m]を満足する。本発明に係る映像システムにおいて、ビットストリーム処理および伝送の基本単位は、いずれもGOPであり、GOPビットストリームの大きさは、直接的にmの値の範囲に影響する。端末の映像再生の品質および遅延を保証するために、端末は一定の時間内で、該GOPのビットストリームを復号して、最小歪みを有する映像の画像を復元する必要がある。しかしながら、GOPビットストリームが比較的に小さい場合(m<10)、m値の減少につれて、次数dが1であるデータパケットの数が減少する。これにより、LT符号の復号成功率は次第に低下し、端末で復元された映像はひどい歪みが発生し、ひいては、復号できない。従って、d∈[1,m]という選択範囲は、スケーラブル映像のビットストリームの伝送に適合しない。このため、本発明の実施例では、次数dの値の範囲を適応選択する方法も提供されている。 As can be seen from the Raptor encoding process shown in FIG. 7, the size of the LT encoding order d is a key point for determining the complexity of LT encoding. Also, the decoding success rate on the receiving side of the scalable video is determined by selecting the size of the order d in LT coding. In general LT coding, the value of m is relatively large (10 3 to 10 4 ). In this case, the value of the order d satisfies dε [1, m]. In the video system according to the present invention, the basic unit of bit stream processing and transmission is GOP, and the size of the GOP bit stream directly affects the range of values of m. In order to guarantee the video playback quality and delay of the terminal, the terminal needs to decode the bit stream of the GOP within a certain time to restore the video image having the minimum distortion. However, if the GOP bitstream is relatively small (m <10 3 ), the number of data packets whose degree d is 1 decreases as the m value decreases. As a result, the decoding success rate of the LT code gradually decreases, and the video restored at the terminal is severely distorted and cannot be decoded. Therefore, the selection range of dε [1, m] is not suitable for transmission of a scalable video bit stream. For this reason, in the embodiment of the present invention, a method for adaptively selecting the range of the value of the order d is also provided.

LT(n,m)アルゴリズムにおいて、次数dの分布がRobust−Soliton分布であることが知られている。その分布関数は、下記の数式12に示す通りである。
[数式12]
In the LT (n, m) algorithm, it is known that the distribution of the order d is a Robust-Soliton distribution. The distribution function is as shown in Equation 12 below.
[Formula 12]

ここで、
、定数c>0、
、δは許容可能な復号失敗率である。
here,
, Constant c> 0,
, Δ is an acceptable decoding failure rate.

上記数式11に示す次数dの分布関数から分かるように、次数dが
である確率は95%を超えるが、次数dが
である確率は5%未満である。従って、次数dの大きさを適応選択する際に、
の範囲だけを考慮してもよい。即ち、
の範囲内で、次数dを選択してもよい。ここで、θは、Robust−Soliton分布関数のパラメータである。
As can be seen from the distribution function of order d shown in Equation 11 above, the order d is
The probability of being over 95%, but the order d is
Is less than 5%. Therefore, when adaptively selecting the magnitude of the order d,
Only the range may be considered. That is,
Within this range, the order d may be selected. Here, θ is a parameter of the Robust-Soliton distribution function.

また、次数dの選択範囲について、RS符号化の復号能力を考慮する必要もある。LT復号時、成功に復号できないパケットが、RS符号化の消失訂正の範囲内にあることを保証する必要がある。即ち、δ≦αを満足する必要がある。ここで、αは、m値に対応するRS符号化の冗長度である。上記の基準に従って、まず、mの値の範囲を分類し、次に、シミュレーションにより、m値が異なる次数範囲内にある場合の復号失敗率を得る。このように、異なるmの値の範囲内における次数dの値の最適範囲を決定し、即ち、表1に示すように、mの値の範囲と次数dの値の最適範囲との対応関係を確立する。
In addition, it is necessary to consider the decoding capability of RS encoding for the selection range of the order d. During LT decoding, it is necessary to ensure that packets that cannot be successfully decoded are within the range of erasure correction of RS encoding. That is, it is necessary to satisfy δ ≦ α. Here, α is the redundancy of RS encoding corresponding to the m value. According to the above criteria, first, the range of the value of m is classified, and then the decoding failure rate when the m value is in a different order range is obtained by simulation. Thus, the optimum range of the value of the order d within the range of different values of m is determined, that is, as shown in Table 1, the correspondence between the range of the value of m and the optimum range of the value of the order d is expressed as follows. Establish.

このように、上記ステップ502において、まず、mの値により、次数dの値の最適範囲を決定することができる。次に、次数dの値の最適範囲内で、1つの整数をランダムに選択して、LT符号化の次数dとする。   In this way, in the above step 502, first, the optimum range of the value of the order d can be determined from the value of m. Next, one integer is randomly selected within the optimum range of the value of the order d, and is set as the order d of LT coding.

上記次数dの値の範囲を適応選択する方法から分かるように、本実施例のLT符号化プロセスにおいて、次数dの選択範囲を大幅に縮小させる。これにより、LT符号化の複雑度を大幅に低減させる。また、次数dの値の最適範囲内で次数の値を選択することで、スケーラブル映像の受信側の復号成功率をさらに向上させることもできる。   As can be seen from the method of adaptively selecting the range of values of the order d, the selection range of the order d is greatly reduced in the LT encoding process of this embodiment. This greatly reduces the complexity of LT encoding. Further, by selecting the order value within the optimum range of the order d value, the decoding success rate on the receiving side of the scalable video can be further improved.

上記スケーラブル映像を優先度に応じて伝送する方法のほかに、本発明の実施例では、スケーラブル映像を優先度に応じて伝送する装置も提供されている。その内部構成は図8に示すように、主に、スケーラブル映像の各GOPに対して、SVC符号化を行うSVC符号化手段と、SVC符号化後のSVC階層化ビットストリームに対して、優先度並べ替えを行う優先度並べ替え手段と、並べ替え後のSVC階層化ビットストリームに対して、パッケージを行うパッケージ手段と、パッケージ後のSVC階層化ビットストリームに対して、Raptor符号化を行って、伝送チャネルを介して、スケーラブル映像の受信側に送信するRaptor符号化手段と、を含む。   In addition to the above-described method for transmitting scalable video according to priority, an embodiment of the present invention also provides an apparatus for transmitting scalable video according to priority. As shown in FIG. 8, the internal configuration mainly includes priority for SVC encoding means for performing SVC encoding for each GOP of scalable video, and for SVC layered bitstream after SVC encoding. Priority encoding means for performing rearrangement, packaging means for performing packaging on the SVC layered bitstream after rearrangement, and Raptor encoding for the SVC layered bitstream after packaging, Raptor encoding means for transmitting to the receiving side of the scalable video via the transmission channel.

本実施例において、上記優先度並べ替え手段の内部には、並べ替えパス上の全ての可能ノードを、一定の(s,t,q)特性(s、tおよびqはそれぞれ、空間領域、時間領域および品質領域の解像度特性を表す)に対応する各状態ノードとして定義し、s、tおよびqの増加ステップサイズの違いにより、同じ増加ステップサイズを有する状態ノードが同じステージにあるように、全ての状態ノードを異なるステージに区分する、ステージ区分モジュールと、各状態ノードそれぞれのビットレートおよびその対応するPSNRによって、各状態ノードの並べ替え因子を計算する並べ替え因子決定モジュールと、初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスの中から、各状態ノードの並べ替え因子の重み付け和が最大となる最適パスを決定する最適パス決定モジュールと最適パス上の初期ステージから宛先ステージまでの各状態ノードの順に従って、SVC階層化ビットストリームを出力する並べ替え結果出力モジュールと、を含む。   In this embodiment, the priority sorting means includes all possible nodes on the sorting path, and constant (s, t, q) characteristics (s, t, and q are the space region, time, All of the state nodes with the same increased step size in the same stage due to the difference in the increased step sizes of s, t, and q. A state partition module, a reorder factor determination module for calculating a reorder factor of each state node according to a bit rate of each state node and its corresponding PSNR, and a destination from the initial stage Among all paths that can be configured with state nodes up to the stage, the weighted sum of the reordering factors of each state node is maximized An optimal path determination module that determines an optimal path, and a rearrangement result output module that outputs an SVC layered bitstream according to the order of each state node from the initial stage to the destination stage on the optimal path.

上記のように、上記並べ替え因子決定モジュールは、上記数式2によって、各ノードの並べ替え因子を計算することができる。   As described above, the rearrangement factor determination module can calculate the rearrangement factor of each node according to Equation 2.

上記のように、上記最適パス決定モジュールは、図4と図5に示す方法を採用して、最適パスを決定することができる。   As described above, the optimal path determination module can determine the optimal path by adopting the method shown in FIGS.

また、上記Raptor符号化手段の内部には、パッケージ後の各層のソース行列ブロックのそれぞれに対して、RS符号化を行って、m個のデータパケットを得るRS符号化モジュールと、LT符号化の次数dを決定するLT符号化次数決定モジュールと、決定されたLT符号化の次数dに従って、上記m個のデータパケットに対して、LT符号化を行って、n個のデータパケットを得るLT符号化モジュールと、を含む。   Further, the Raptor encoding means includes an RS encoding module that performs RS encoding on each of the source matrix blocks of each layer after packaging to obtain m data packets, and LT encoding. LT coding order determination module for determining order d, and LT coding for performing LT encoding on the m data packets according to the determined LT encoding order d to obtain n data packets Module.

上記のように、本発明の実施例に係る、スケーラブル映像を優先度に応じて伝送する装置は、SVC階層化ビットストリームの階層化特性により、まず、SVC階層化ビットストリームに対して、優先度並べ替えを行って、次に、並べ替え後のSVC階層化ビットストリームに対して、パッケージおよびRaptor符号化を行う。これにより、スケーラブル映像のビットストリームの最適化選択および伝送の課題を解決するとともに、スケーラブル映像のビットストリームから再構築された画像の品質を最終的に向上させることができる。   As described above, according to the embodiment of the present invention, an apparatus for transmitting a scalable video according to a priority first has a priority for an SVC layered bitstream according to a layering characteristic of the SVC layered bitstream. Rearrangement is performed, and then package and Raptor encoding are performed on the rearranged SVC layered bitstream. Thus, it is possible to solve the problem of optimization selection and transmission of a bit stream of scalable video, and finally improve the quality of an image reconstructed from the bit stream of scalable video.

本発明の実施例に係る、スケーラブル映像を優先度に応じて伝送する装置では、SVC階層化ビットストリームに対して、優先度並べ替えを行う際に、単一のGOP内の異なる空間領域、時間領域および品質領域の階層化ビットストリームのレート歪み性能が充分に考慮されるため、優先度並べ替え結果がより合理的になり、さらに、SVC階層化ビットストリームのレート歪み性能が向上する。また、本発明の実施例に係る、スケーラブル映像を優先度に応じて伝送する装置は、LT符号化を行う際に、LT符号化の次数の値の範囲を適応選択することができる。これにより、LT符号化の複雑度を大幅に低下させることができる一方、スケーラブル映像の受信側の復号成功率を大幅に向上させることもできる。   In an apparatus for transmitting scalable video according to priority according to an embodiment of the present invention, when performing priority reordering on an SVC layered bitstream, different spatial regions and time in a single GOP Since the rate distortion performance of the layered bitstream in the region and the quality region is sufficiently considered, the priority reordering result becomes more rational, and further, the rate distortion performance of the SVC layered bitstream is improved. Also, an apparatus for transmitting scalable video according to priority according to an embodiment of the present invention can adaptively select a range of order values of LT encoding when performing LT encoding. As a result, the complexity of LT encoding can be greatly reduced, while the decoding success rate on the receiving side of scalable video can be greatly improved.

以下、シミュレーションにより、本発明の実施例に係る方法の技術的効果を詳しく説明する。表2は、シミュレーションモデルのパラメータを示す。
Hereinafter, the technical effect of the method according to the embodiment of the present invention will be described in detail by simulation. Table 2 shows the parameters of the simulation model.

図9から図12は、Foreman、Football、CityおよびHarbourという4つのスケーラブル映像シーケンスに対して、デフォルトの並べ替え方法、品質層に基づく優先度並べ替え方法、および本発明の実施例で提供される優先度並べ替え方法を採用する場合のレート歪み性能をそれぞれ示す。ここで、四角印の曲線は、デフォルトの並べ替え方法のレート歪み性能を表し、菱形印の曲線は、品質層に基づく優先度並べ替え方法のレート歪み性能を表し、丸印の曲線は、本発明の実施例で提供された優先度並べ替え方法のレート歪み性能を表す。   FIGS. 9 to 12 are provided in the embodiment of the present invention for the default reordering method, the priority reordering method based on the quality layer, and four scalable video sequences of Foreman, Football, City, and Harbour. The rate distortion performance when the priority ordering method is adopted is shown respectively. Here, the square curve represents the rate distortion performance of the default sorting method, the rhombus curve represents the rate distortion performance of the priority sorting method based on the quality layer, and the circle curve represents this 4 represents the rate distortion performance of the priority reordering method provided in an embodiment of the invention.

図9〜図12から分かるように、ビットレートが比較的低い場合、全てのシーケンスのシミュレーション結果のうち、本発明の実施例で提供される優先度並べ替え方法のレート歪み性能が、明らかにほかの2つの方法より良い。一方、ビットレートが比較的高い場合、本発明の実施例で提供される並べ替え方法のレート歪み性能は、依然としてほかの2つのアルゴリズムより良い。   As can be seen from FIGS. 9 to 12, when the bit rate is relatively low, the rate distortion performance of the priority reordering method provided in the embodiment of the present invention is clearly different from the simulation results of all sequences. It is better than these two methods. On the other hand, when the bit rate is relatively high, the rate distortion performance of the reordering method provided in the embodiments of the present invention is still better than the other two algorithms.

表3は、上記3つの並べ替え方法を採用して、異なる解像度とビットレートの映像シーケンスに対して、優先度並べ替えを行って得られた平均PSNRを示す。表3から分かるように、本発明の実施例で提供される優先度並べ替え方法は、異なビットレートでの性能がいずれも最も良い。ここで、ビットレートが比較的低いCIFシーケンスForemanにおいて、本発明の実施例で提供される優先度並べ替え方法の平均PSNRは、デフォルトの並べ替え方法および品質層に基づく優先度並べ替え方法に対して、全部8.21dB向上する。ビットレートが比較的高いCIFシーケンスFootballにおいて、本発明の実施例で提供される優先度並べ替え方法の平均PSNR性能は、6.41db向上する。低いビットレートの4CIFシーケンスCityにおいて、本発明の実施例で提供される優先度並べ替え方法の平均PSNRは、デフォルトの並べ替え方法および品質層に基づく優先度並べ替え方法に対して、それぞれ3.28dBおよび2.83dB向上する。高いビットレートの4CIFシーケンスHarbourにおいて、本発明の実施例で提供される優先度並べ替え方法の平均PSNRは、デフォルトの並べ替え方法および品質層に基づく優先度並べ替え方法に対して、それぞれ1.94dBおよび1.64dB向上する。
Table 3 shows average PSNRs obtained by performing priority reordering on video sequences having different resolutions and bit rates by employing the above three reordering methods. As can be seen from Table 3, the priority reordering methods provided in the embodiments of the present invention have the best performance at different bit rates. Here, in the CIF sequence Foreman having a relatively low bit rate, the average PSNR of the priority reordering method provided in the embodiment of the present invention is equal to the default reordering method and the priority reordering method based on the quality layer. Thus, the total improvement is 8.21 dB. In the CIF sequence Football having a relatively high bit rate, the average PSNR performance of the priority reordering method provided in the embodiment of the present invention is improved by 6.41 db. In the low bit rate 4CIF sequence City, the average PSNR of the priority reordering method provided in the embodiment of the present invention is 3 .3 for the default reordering method and the priority reordering method based on the quality layer, respectively. Increased by 28 dB and 2.83 dB. In the high bit rate 4CIF sequence Harbor, the average PSNR of the priority reordering method provided in the embodiments of the present invention is 1. for the default reordering method and the priority reordering method based on the quality layer, respectively. 94 dB and 1.64 dB improvement.

図13は、異なるパケットロス率およびソースデータパケット数Nで、標準LT符号化方式(SLTと呼ばれる)、および本発明の実施例で提供される、次数を適応選択するLT符号化方式(ALTと呼ばれる)を採用する場合のスケーラブル映像の受信側の復号成功率(SDR)を示す図である。図13において、送信データパケットの冗長は25%であり、四角印および丸印の曲線は、Nが576であって、SLTおよびALTを採用する場合のスケーラブル映像の受信側のSDRをそれぞれ表し、三角印および逆三角印の曲線は、Nが1278であって、SLTおよびALTを採用する場合のスケーラブル映像の受信側のSDRをそれぞれ表す。図13から分かるように、Nの値が異なる場合、ALTのSDR値は、明らかにSLTの結果より良い。   FIG. 13 illustrates a standard LT coding scheme (referred to as SLT), and an LT coding scheme (ALT and LT coding scheme) that adaptively selects the order provided in the embodiment of the present invention, with different packet loss rates and source data packet numbers N. It is a figure which shows the decoding success rate (SDR) at the receiving side of a scalable image | video in the case of employ | adopting. In FIG. 13, the redundancy of the transmission data packet is 25%, and the square and round curves represent the SDR on the receiving side of the scalable video when N is 576 and SLT and ALT are adopted, respectively. Curves with triangle marks and inverted triangle marks indicate SDRs on the receiving side of scalable video when N is 1278 and SLT and ALT are employed. As can be seen from FIG. 13, when the value of N is different, the SDR value of ALT is clearly better than the result of SLT.

上記は、本発明の好ましい実施例にすぎず、本発明の保護範囲を限定するものではない。本発明の精神と原則内で行われる種々の修正、均等置換え、改善などは全て本発明の保護範囲内に含まれるべきである。   The above are only preferred embodiments of the present invention and do not limit the protection scope of the present invention. Various modifications, equivalent replacements, improvements and the like made within the spirit and principle of the present invention should all be included in the protection scope of the present invention.

Claims (11)

スケーラブル映像を優先度に応じて伝送する方法であって、
スケーラブル映像の各ピクチャグループ(GOP)のスケーラブル映像符号化(SVC)後の階層化ビットストリームに対して、優先度並べ替えを行い、前記優先度並べ替えとは、GOPを単位として、SVC符号化後のSVC階層化ビットストリームに対して、その重要性に応じて、優先度の順位を並べ替えるということであり、
並べ替え後のSVC階層化ビットストリームに対して、パッケージおよびRaptor符号化を行って、伝送チャネルを介して、符号化後のスケーラブル映像のビットストリームを、スケーラブル映像の受信側に送信する、
ことを含み、
前記SVC階層化ビットストリームに対して、前記優先度並べ替えを行うことは、
最低解像度特性を有するビットストリームから、最高解像度特性を有するビットストリームまでの並べ替えパス上の全ての可能ノードを、一定の(s,t,q)特性(s、tおよびqは、整数であり、それぞれ、空間領域、時間領域および品質領域の解像度特性を表す)に対応する各状態ノードとして定義し、
s、tおよびqの増加ステップサイズの違いにより、同じ増加ステップサイズ和を有する状態ノードが同じステージにあるように、全ての状態ノードを異なるステージに区分し、前記増加ステップサイズ和は、s、tおよびqの増加ステップサイズの和であり、
各状態ノードそれぞれのビットレートおよびその対応するピーク信号対雑音比(PSNR)によって、数式
で、各状態ノードの並べ替え因子を計算し、ここで、g は第jのステージを表し、t (g )は第jのステージにおけるi番目の状態ノードを表し、t(g )は初期ステージの初期状態ノードを表し、t(g K−1 )は宛先ステージの宛先状態ノードを表し、前記宛先ステージは宛先状態ノードが位置するステージであり、前記宛先状態ノードは最高解像度特性を有する状態ノードであり、PSNR ti(gj) は状態ノードt (g )のPSNRを表し、R ti(gj) は状態ノードt (g )のビットレートを表し、PSNR t(g0) は初期状態ノードt(g )のPSNRを表し、R t(g0) は初期状態ノードt(g )のビットレートを表し、PSNR t(gK−1) は宛先状態ノードt(g K−1 )のPSNRを表し、R t(gK−1) は宛先状態ノードt(g K−1 )のビットレートを表し、O (g )は状態ノードt (g )の並べ替え因子を表し、Kはステージの総数を表し、
初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスの中から、各状態ノードの並べ替え因子の重み付け和が最大となる最適パスを決定し、
最適パス上の初期ステージから宛先ステージまでの各状態ノードの順に従って、SVC階層化ビットストリームを出力する、
ことを含むことを特徴とする方法。
A method of transmitting scalable video according to priority,
Prioritization is performed on the hierarchical bit stream after scalable video coding (SVC) of each picture group (GOP) of scalable video, and the priority rearrangement is SVC coding in units of GOP. For the later SVC layered bitstream, the order of priority is rearranged according to its importance.
The rearranged SVC layered bitstream is subjected to package and Raptor encoding, and the encoded scalable video bitstream is transmitted to the scalable video receiver via the transmission channel.
Look at including it,
Performing the priority reordering on the SVC layered bitstream is:
All possible nodes on the reordering path from the bitstream with the lowest resolution characteristic to the bitstream with the highest resolution characteristic, the constant (s, t, q) characteristic (s, t and q are integers) , Representing the resolution characteristics of the spatial domain, temporal domain and quality domain, respectively)
All state nodes are partitioned into different stages so that the state nodes having the same increased step size sum are in the same stage due to the difference in the increased step sizes of s, t and q, and the increased step size sum is s, is the sum of the increasing step sizes of t and q,
Depending on the bit rate of each state node and its corresponding peak signal-to-noise ratio (PSNR), the formula
To calculate the reordering factor for each state node, where g j represents the j th stage, t i (g j ) represents the i th state node in the j th stage, and t (g 0 ) Represents the initial state node of the initial stage, t (g K-1 ) represents the destination state node of the destination stage, the destination stage is the stage where the destination state node is located, and the destination state node is the highest resolution characteristic. Where PSNR ti (gj) represents the PSNR of state node t i (g j ), R ti (gj) represents the bit rate of state node t i (g j ), and PSNR t (g0 ) Represents the PSNR of the initial state node t (g 0 ), R t (g0) represents the bit rate of the initial state node t (g 0 ), and PSNR t (gK−1) represents the destination state node t (g K represents PSNR of -1), R t (gK- ) Represents the bit rate of the destination state node t (g K-1), O i (g j) represents a sort factor state node t i (g j), K represents the total number of stages,
From all the paths that can be configured with the state nodes from the initial stage to the destination stage, determine the optimal path that maximizes the weighted sum of the reordering factors of each state node,
Outputting an SVC layered bitstream according to the order of each state node from the initial stage to the destination stage on the optimal path;
A method comprising:
前記初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスの中から、最適パスを決定することは、
数式
によって、初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパス上の各状態ノードの並べ替え因子の重み付け和を計算し、
最大となる並べ替え因子の重み付け和を有するパスを、最適パスとする、
ことを含み、
ここで、Sは初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスのうち、x番目のパス上の各状態ノードの並べ替え因子の重み付け和を表し、O(g)は該x番目のパスの第jのステージにおける状態ノードの並べ替え因子を表し、該x番目のパスの第jのステージにおける状態ノードをt (g )とすると、O(g )=O (g )であり、ωは第jのステージの重み付け因子を表す(0<ω<1、0≦j≦K−1)、
ことを特徴とする請求項に記載の方法。
Determining the optimum path from all paths configurable by the state nodes from the initial stage to the destination stage is as follows:
Formula
To calculate the weighted sum of the reordering factors of each state node on all paths that can be configured with the state nodes from the initial stage to the destination stage,
The path having the largest weighted sum of the reordering factors is taken as the optimal path.
Including
Here, S X represents the weighted sum of the reordering factors of each state node on the x-th path among all the paths that can be configured by the state nodes from the initial stage to the destination stage, and O (g j ) is The reordering factor of the state node in the j-th stage of the x-th path is represented as t i (g j ), where O (g j ) = O. i (g j ), and ω j represents the weighting factor of the j-th stage (0 <ω j <1, 0 ≦ j ≦ K−1),
The method according to claim 1 .
前記初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスの中から、最適パスを決定することは、
初期ステージの初期状態ノードを開始点として選択して、ノード識別子jを1に設定し、初期ステージの並べ替え因子の重み付け和S(t)を0に設定し、初期ノードの最適パスの状態ノード集合を初期状態ノードに初期化するステップA0と、
数式
を採用して、第jのステージにおける各状態ノードの並べ替え因子の重み付け和S(t)を計算し、初期ステージから第jのステージにおける各状態ノードまでの最適パスの状態ノード集合をそれぞれ記録するステップA1と、
jがK−1と等しいかどうかを判断し、等しい場合、宛先状態ノードの最適パスの状態ノード集合における各状態ノードからなるパスを、最適パスとし、等しくない場合、「j=j+1」にして、ステップA1に戻るステップA2と、
を含み、
ここで、S(t)は第jのステージにおけるi番目の状態ノードtの並べ替え因子の重み付け和を表し、Sj−1(t)は第j−1のステージにおける状態ノードtに繋がるk番目の状態ノードtの並べ替え因子の重み付け和を表し、ωは第jのステージの重み付け因子を表し、O(g)は第jのステージにおけるi番目の状態ノードtの並べ替え因子を表し、M(t)は第jのステージにおけるi番目の状態ノードtの最適パスの状態ノード集合を表し、Mj−1(t)は第j−1のステージにおける状態ノードtに繋がる各状態ノードのうち、並べ替え因子の重み付け和の最大値に対応する状態ノードの最適パスの状態ノード集合を表す、
ことを特徴とする請求項に記載の方法。
Determining the optimum path from all paths configurable by the state nodes from the initial stage to the destination stage is as follows:
The initial state node of the initial stage is selected as the starting point, the node identifier j is set to 1, the weighted sum S 0 (t) of the reordering factors of the initial stage is set to 0, and the optimal path state of the initial node Step A0 for initializing the node set to an initial state node;
Formula
To calculate the weighted sum S j (t i ) of the reordering factors of each state node in the j-th stage, and obtain the state node set of the optimal path from the initial stage to each state node in the j-th stage Step A1 to record each,
It is determined whether or not j is equal to K−1. If it is equal, the path consisting of each state node in the state node set of the optimal path of the destination state node is the optimal path, and if not equal, “j = j + 1” is set. Step A2 returning to Step A1,
Including
Here, S j (t i ) represents the weighted sum of the rearrangement factors of the i-th state node t i in the j-th stage, and S j−1 (t k ) represents the state node in the j-th stage. represents a weighted sum of the sort factor k th state node t k leading to t i, omega j represents a weighting factor of a stage of the j, O i (g j) is the i-th state at the stage of the j Represents a reordering factor of node t i , M j (t i ) represents a state node set of an optimal path of i-th state node t i in the j-th stage, and M j−1 (t k ) represents j- th among the state node leading to the state node t i at -1 stage, representative of the state node set of optimal path state node corresponding to the maximum value of the weighted sum of the sorting factor,
The method according to claim 1 .
前記初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスの中から、最適パスを決定することは、
宛先ステージの宛先状態ノードを開始点として選択し、ノード識別子jをK−2に設定し、宛先ステージの並べ替え因子の重み付け和TK−1(t)を0に設定し、宛先ノードの最適パスの状態ノード集合を宛先状態ノードに初期化するステップa0と、
数式
を採用して、第jのステージにおける各状態ノードから宛先ステージまでの並べ替え因子の重み付け和T(t)を計算し、第jのステージにおける各状態ノードから宛先ステージまでの最適パスの状態ノード集合をそれぞれ記録するステップa1と、
jが0と等しいかどうかを判断し、等しい場合、初期状態ノードから宛先ステージまでの最適パスの状態ノード集合における各状態ノードからなるパスを、最適パスとし、等しくない場合、「j=j―1」にして、ステップa1に戻るステップa2と、
を含み、
ここで、T(t)は第jのステージにおけるi番目の状態ノードtから宛先ステージまでの並べ替え因子の重み付け和を表し、Tj+1(t)は第j+1のステージにおける状態ノードtに繋がるk番目の状態ノードtの並べ替え因子の重み付け和を表し、ωは第jのステージの重み付け因子を表し、O(g)は第jのステージにおけるi番目の状態ノードtの並べ替え因子を表し、M(t)は第jのステージにおけるi番目の状態ノードtから宛先ステージまでの最適パスの状態ノード集合を表し、Mj+1(t)は第j+1のステージにおける状態ノードtに繋がる各状態ノードから宛先ステージまでの並べ替え因子の重み付け和の最大値に対応する状態ノードから宛先ステージまでの最適パスの状態ノード集合を表す、
ことを特徴とする請求項に記載の方法。
Determining the optimum path from all paths configurable by the state nodes from the initial stage to the destination stage is as follows:
Select the destination state node of the destination stage as the starting point, set the node identifier j to K-2, set the destination stage reorder factor weighting sum T K-1 (t) to 0, and optimize the destination node Initializing the state node set of the path to the destination state node; and
Formula
Is used to calculate the weighted sum T j (t i ) of the reordering factors from each state node to the destination stage in the jth stage, and the optimal path from each state node to the destination stage in the jth stage Recording step a1 for each set of state nodes;
It is determined whether or not j is equal to 0. If they are equal, the path consisting of each state node in the state node set of the optimal path from the initial state node to the destination stage is set as the optimal path. 1 ”and returning to step a1, step a2;
Including
Here, T j (t i ) represents the weighted sum of the reordering factors from the i-th state node t i in the j-th stage to the destination stage, and T j + 1 (t k ) represents the state node in the j + 1-th stage. represents a weighted sum of the sort factor k th state node t k leading to t i, omega j represents a weighting factor of a stage of the j, O i (g j) is the i-th state at the stage of the j Represents the reordering factor of node t i , M j (t i ) represents the state node set of the optimal path from the i-th state node t i to the destination stage in the j-th stage, and M j + 1 (t k ) is Jo best path from state node corresponding to the maximum value of the weighted sum of the sort factors from each state node to the destination stage leading to state nodes t i in the j + 1 stage to the destination stage It represents a set of nodes,
The method according to claim 1 .
第jのステージの重み付け因子ωはωj+1(0<ω<1、0≦J≦K−1)である、
ことを特徴とする請求項またはに記載の方法。
The j-th stage weighting factor ω j is ω j + 1 (0 <ω <1, 0 ≦ J ≦ K−1).
The method according to claim 2 , 3 or 4 .
最適パスが1つより多い場合、
各ステージの重み付け因子の値を増加して、初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスの中から、最適パスを再決定する、
ことをさらに含むことを特徴とする請求項に記載の方法。
If there are more than one optimal path,
Increase the value of the weighting factor for each stage, and re-determine the optimal path from all paths that can be configured with state nodes from the initial stage to the destination stage.
The method according to claim 1, characterized by further comprising.
前記Raptor符号化は、
並べ替えおよびパッケージ後の各層のソース行列ブロックのそれぞれに対して、RS符号化およびインターリーブを行って、m個のデータパケットを得、
LT符号化の次数を決定し、
決定されたLT符号化の次数に従って、m個のデータパケットに対して、LT符号化を行って、n個のデータパケットを得る、
ことを含むことを特徴とする請求項1に記載の方法。
The Raptor encoding is
RS encoding and interleaving for each of the source matrix blocks of each layer after reordering and packaging to obtain m data packets,
Determine the order of LT coding;
According to the determined LT coding order, LT data is subjected to LT coding to obtain n data packets.
The method of claim 1, comprising:
前記LT符号化の次数を決定することは、
の範囲内で次数dの値を選択する、
ことを含み、
ここで、θは次数分布関数のパラメータであり、次数分布関数がRobust−Soliton関数である場合、
である(定数c>0、δは許容可能な復号失敗率、kは、次数分布関数の形式を制御するものであり、次数分布関数がRobust−Soliton関数である場合、k=1)、
ことを特徴とする請求項に記載の方法。
Determining the order of the LT encoding is
Select a value of the order d within the range of
Including
Here, θ is a parameter of an order distribution function, and when the order distribution function is a Robust-Soliton function,
(Constant c> 0, δ is an acceptable decoding failure rate , k is to control the form of the order distribution function, and k = 1 if the order distribution function is a Robust-Soliton function ),
The method according to claim 7 .
前記LT符号化の次数を決定することは、
mの値の範囲と次数dの値の最適範囲との対応関係を確立し、
mの値および前記対応関係により、次数dの値の最適範囲を決定し、
次数dの値の最適範囲内で、1つの整数をランダムに選択して、LT符号化の次数dとする、
ことを含み、
前記mの値の範囲と次数dの値の最適範囲との対応関係を確立することは、
mの値の範囲を分類し、
シミュレーションにより、m値が異なる次数範囲内にある場合の復号失敗率δを得、
数式
を決定する、
ことを含むことを特徴とする請求項に記載の方法。
Determining the order of the LT encoding is
establishing a correspondence between the range of values of m and the optimal range of values of order d;
The optimal range of the value of the order d is determined by the value of m and the correspondence relationship ,
In the optimum range of the value of the order d, one integer is selected at random to obtain the LT coding order d.
Including
Establishing a correspondence between the range of values of m and the optimal range of values of order d is
classify the range of values of m,
By simulation, the decoding failure rate δ when the m value is in a different order range is obtained,
Formula
To decide,
9. The method of claim 8 , comprising:
スケーラブル映像を優先度に応じて伝送する装置であって、
スケーラブル映像の各ピクチャグループ(GOP)に対して、スケーラブル映像符号化(SVC)を行うSVC符号化手段と、
SVC符号化後のSVC階層化ビットストリームに対して、優先度並べ替えを行い、前記優先度並べ替えとは、GOPを単位として、SVC符号化後のSVC階層化ビットストリームに対して、その重要性に応じて、優先度の順位を並べ替えるということである優先度並べ替え手段と、
並べ替え後のSVC階層化ビットストリームに対して、パッケージを行うパッケージ手段と、
パッケージ後のSVC階層化ビットストリームに対して、Raptor符号化を行って、伝送チャネルを介して、スケーラブル映像の受信側に送信するRaptor符号化手段と、
を含み、
前記優先度並べ替え手段は、
最低解像度特性を有するビットストリームから、最高解像度特性を有するビットストリームまでの並べ替えパス上の全ての可能ノードを、一定の(s,t,q)特性(s、tおよびqは、整数であり、それぞれ、空間領域、時間領域および品質領域の解像度特性を表す)に対応する各状態ノードとして定義し、s、tおよびqの増加ステップサイズの違いにより、同じ増加ステップサイズ和を有する状態ノードが同じステージにあるように、全ての状態ノードを異なるステージに区分し、前記増加ステップサイズ和は、s、tおよびqの増加ステップサイズの和であるステージ区分モジュールと、
各状態ノードそれぞれのビットレートおよびその対応するピーク信号対雑音比(PSNR)によって、数式
で、各状態ノードの並べ替え因子を計算し、ここで、g は第jのステージを表し、t (g )は第jのステージにおけるi番目の状態ノードを表し、t(g )は初期ステージの初期状態ノードを表し、t(g K−1 )は宛先ステージの宛先状態ノードを表し、前記宛先ステージは宛先状態ノードが位置するステージであり、前記宛先状態ノードは最高解像度特性を有する状態ノードであり、PSNR ti(gj) は状態ノードt (g )のPSNRを表し、R ti(gj) は状態ノードt (g )のビットレートを表し、PSNR t(g0) は初期状態ノードt(g )のPSNRを表し、R t(g0) は初期状態ノードt(g )のビットレートを表し、PSNR t(gK−1) は宛先状態ノードt(g K−1 )のPSNRを表し、R t(gK−1) は宛先状態ノードt(g K−1 )のビットレートを表し、O (g )は状態ノードt (g )の並べ替え因子を表し、Kはステージの総数を表す並べ替え因子決定モジュールと、
初期ステージから宛先ステージまでの状態ノードで構成可能な全てのパスの中から、各状態ノードの並べ替え因子の重み付け和が最大となる最適パスを決定する最適パス決定モジュールと、
最適パス上の初期ステージから宛先ステージまでの各状態ノードの順に従って、SVC階層化ビットストリームを出力する並べ替え結果出力モジュールと、
を含むことを特徴とする装置。
A device that transmits scalable video according to priority,
SVC encoding means for performing scalable video encoding (SVC) for each picture group (GOP) of the scalable video;
Against SVC hierarchical bit stream after SVC coding, have rows priority sort, the A priority sorting units of GOP, with respect to SVC hierarchical bit stream after SVC coding, the Priority sorting means, which means sorting the priority ranking according to importance ,
Packaging means for packaging the rearranged SVC layered bitstream;
Raptor encoding means for performing Raptor encoding on the SVC layered bitstream after packaging and transmitting the SVC layered bitstream to a scalable video receiving side via a transmission channel;
Only including,
The priority sorting means includes:
All possible nodes on the reordering path from the bitstream with the lowest resolution characteristic to the bitstream with the highest resolution characteristic, the constant (s, t, q) characteristic (s, t and q are integers) , Which represent the resolution characteristics of the space domain, the time domain, and the quality domain, respectively, and the state nodes having the same increased step size sum due to the difference of the increased step sizes of s, t, and q. Partitioning all state nodes into different stages so that they are in the same stage, wherein the increment step size sum is a sum of increment step sizes of s, t and q;
Depending on the bit rate of each state node and its corresponding peak signal-to-noise ratio (PSNR), the formula
To calculate the reordering factor for each state node, where g j represents the j th stage, t i (g j ) represents the i th state node in the j th stage, and t (g 0 ) Represents the initial state node of the initial stage, t (g K-1 ) represents the destination state node of the destination stage, the destination stage is the stage where the destination state node is located, and the destination state node is the highest resolution characteristic. Where PSNR ti (gj) represents the PSNR of state node t i (g j ), R ti (gj) represents the bit rate of state node t i (g j ), and PSNR t (g0 ) Represents the PSNR of the initial state node t (g 0 ), R t (g0) represents the bit rate of the initial state node t (g 0 ), and PSNR t (gK−1) represents the destination state node t (g K represents PSNR of -1), R t (gK- ) Represents the bit rate of the destination state node t (g K-1), O i (g j) represents a sort factor state node t i (g j), K Sorting factor represents the total number of stages A decision module;
An optimal path determination module that determines an optimal path that maximizes the weighted sum of the reordering factors of each state node from all paths that can be configured by the state nodes from the initial stage to the destination stage;
A reordering result output module that outputs an SVC layered bitstream according to the order of each state node from the initial stage to the destination stage on the optimal path;
The apparatus characterized by including.
前記Raptor符号化手段は、
パッケージ後の各層のソース行列ブロックに対して、RS符号化を行って、m個のデータパケットを得るRS符号化モジュールと、
LT符号化の次数を決定するLT符号化次数決定モジュールと、
決定されたLT符号化の次数に従って、前記m個のデータパケットに対して、LT符号化を行って、n個のデータパケットを得るLT符号化モジュールと、
を含むことを特徴とする請求項10に記載の装置。
The Raptor encoding means is
An RS encoding module that performs RS encoding on the source matrix block of each layer after packaging to obtain m data packets;
An LT encoding order determination module that determines the order of LT encoding;
An LT encoding module that performs LT encoding on the m data packets according to the determined LT encoding order to obtain n data packets;
The device of claim 10 , comprising:
JP2010275055A 2010-01-18 2010-12-09 Method and apparatus for transmitting scalable video according to priority Active JP5706144B2 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201010004056.6 2010-01-18
CN2010100040566A CN102131083B (en) 2010-01-18 2010-01-18 Method and device for transmitting scalable videos based on priorities

Publications (2)

Publication Number Publication Date
JP2011147120A JP2011147120A (en) 2011-07-28
JP5706144B2 true JP5706144B2 (en) 2015-04-22

Family

ID=44268954

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010275055A Active JP5706144B2 (en) 2010-01-18 2010-12-09 Method and apparatus for transmitting scalable video according to priority

Country Status (2)

Country Link
JP (1) JP5706144B2 (en)
CN (1) CN102131083B (en)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103139559B (en) * 2011-11-30 2016-01-27 中国电信股份有限公司 Multi-media signal transmission method and device
CN102547287B (en) * 2012-01-11 2013-11-20 西安电子科技大学 Raptor code-based image coding method
CN102694636B (en) * 2012-06-15 2015-07-29 北京交大微联科技有限公司 Adopt sending, receiving method and the system of the HARQ technology of fountain codes
CN102761906B (en) * 2012-07-20 2014-09-03 西安交通大学 Method for transmitting video packets in wireless local area network
CN105049856A (en) * 2015-07-14 2015-11-11 无锡天脉聚源传媒科技有限公司 Method and device for processing video file
CN105578207A (en) * 2015-12-18 2016-05-11 无锡天脉聚源传媒科技有限公司 Video frame rate conversion method and device
CN106937069A (en) * 2015-12-30 2017-07-07 惠州市伟乐科技股份有限公司 A kind of method of automatic identification signaling interface
CN106302458A (en) * 2016-08-16 2017-01-04 广东中星电子有限公司 Video information transmission method and video information transmission system
CN106850133A (en) * 2016-12-29 2017-06-13 东南大学 A kind of LT of restructural yards of decoding system and interpretation method
CN109245850B (en) * 2017-07-11 2021-04-02 上海交通大学 Self-adaptive system code FEC coding and decoding method based on media content
CN109194445B (en) * 2018-09-13 2020-11-27 中国电子科技集团公司第二十八研究所 Coding and decoding optimization method suitable for short code and long fountain code
CN110475044B (en) * 2019-08-05 2021-08-03 Oppo广东移动通信有限公司 Image transmission method and device, electronic equipment and computer readable storage medium
CN111131165B (en) * 2019-11-27 2021-09-24 重庆邮电大学 DMB video pushing method based on multi-description coding

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8437347B2 (en) * 2003-10-14 2013-05-07 Qualcomm Incorporated Scalable encoding for multicast broadcast multimedia service
JP2007019744A (en) * 2005-07-06 2007-01-25 Canon Inc Server device and its control method, client device and its control method, computer program, and storage medium
US20070133691A1 (en) * 2005-11-29 2007-06-14 Docomo Communications Laboratories Usa, Inc. Method and apparatus for layered rateless coding
US8315306B2 (en) * 2006-09-08 2012-11-20 The Texas A&M University System Distributed joint source-channel coding of video using raptor codes
KR100799592B1 (en) * 2006-11-30 2008-01-30 한국전자통신연구원 Apparatus and method of hierarachical modulation for scalable video bit stream
JP5081663B2 (en) * 2007-03-16 2012-11-28 株式会社リコー Encoding device, code conversion device, code expansion device, encoding method, code conversion method, and code expansion method
CN101572817B (en) * 2009-05-26 2011-01-05 北京邮电大学 Coding mode selection method applied to gradable spatial video coding

Also Published As

Publication number Publication date
CN102131083A (en) 2011-07-20
CN102131083B (en) 2013-08-14
JP2011147120A (en) 2011-07-28

Similar Documents

Publication Publication Date Title
JP5706144B2 (en) Method and apparatus for transmitting scalable video according to priority
Wah et al. A survey of error-concealment schemes for real-time audio and video transmissions over the Internet
Lee et al. Layered coded vs. multiple description coded video over error-prone networks
Cho et al. A full-featured, error-resilient, scalable wavelet video codec based on the set partitioning in hierarchical trees (SPIHT) algorithm
US6680976B1 (en) Robust, reliable compression and packetization scheme for transmitting video
US7117423B2 (en) Methods and systems for multiple substream unequal error protection and error concealment
MXPA06013791A (en) Method, apparatus, and system for enhancing robustness of predictive video codecs using a side-channel based on distributed source coding techniques.
WO2010042650A2 (en) System and method of optimized bit extraction for scalable video coding
Shyu et al. Detection and concealment of transmission errors in MPEG-2 images-a genetic algorithm approach
Parthasarathy et al. Design of a transport coding scheme for high-quality video over ATM networks
US20080025206A1 (en) Data packet processing
JP2010505333A (en) Flexible redundant coding
JP4732428B2 (en) Transcoding node and transcoding method for multiple description transcoding
Wang et al. Random linear network coding with ladder-shaped global coding matrix for robust video transmission
Paluri et al. A low complexity model for predicting slice loss distortion for prioritizing H. 264/AVC video
Baccaglini et al. A flexible RD-based multiple description scheme for JPEG 2000
Chen et al. Adaptive joint source-channel coding using rate shaping
Bajic et al. Domain-based multiple description coding of images and video
Lee et al. A robust luby transform encoding pattern-aware symbol packetization algorithm for video streaming over wireless network
Dumitrescu et al. Unequal erasure protection technique for scalable multistreams
KR20130114720A (en) System and method for mitigating the cliff effect for content delivery over a heterogeneous network
Bajic et al. EZBC video streaming with channel coding and error concealment
Kalman et al. Techniques for improved rate-distortion optimized video streaming
Wang et al. Rate-distortion optimized scheduling for redundant video representations
Cheng et al. Grace: Loss-resilient real-time video communication using data-scalable autoencoder

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140903

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141007

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150226

R150 Certificate of patent or registration of utility model

Ref document number: 5706144

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250