KR20090045882A - Image complexity computation in packet based video broadcast systems - Google Patents

Image complexity computation in packet based video broadcast systems Download PDF

Info

Publication number
KR20090045882A
KR20090045882A KR1020087003308A KR20087003308A KR20090045882A KR 20090045882 A KR20090045882 A KR 20090045882A KR 1020087003308 A KR1020087003308 A KR 1020087003308A KR 20087003308 A KR20087003308 A KR 20087003308A KR 20090045882 A KR20090045882 A KR 20090045882A
Authority
KR
South Korea
Prior art keywords
video
bandwidth
complexity
video stream
individual sections
Prior art date
Application number
KR1020087003308A
Other languages
Korean (ko)
Inventor
프라빈 에이. 모한다스
Original Assignee
시미트리콤 인코퍼레이티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US11/456,505 external-priority patent/US8107540B2/en
Application filed by 시미트리콤 인코퍼레이티드 filed Critical 시미트리콤 인코퍼레이티드
Publication of KR20090045882A publication Critical patent/KR20090045882A/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4347Demultiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2365Multiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2365Multiplexing of several video streams
    • H04N21/23655Statistical multiplexing, e.g. by controlling the encoder to alter its bitrate to optimize the bandwidth utilization
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2402Monitoring of the downstream path of the transmission network, e.g. bandwidth available
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/266Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
    • H04N21/2662Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

장면 콘텐츠 변화들을 고려하는 영상 복잡도 및 채널 대역폭 변화를 나타내는 통계적 모델을 이용하여 비디오 스트리밍, IPTV 및 브로드캐스트 애플리케이션들에서 실시간 영상 복잡도를 결정하는 방법이 개시된다. 이용가능한 채널 대역폭은 브로드캐스트 비디오 스트림의 영상 복잡도 및 대역폭 변화에 비례하여, 다중 비디오 스트림들간에 동일하지 않게 분배된다. 이용가능한 채널 대역폭의 분배는 대역폭 변화들과 영상 복잡도를 고려하는 확률 매트릭스들로부터 결정되는 바와 같은 각각의 비디오 스트림의 영상 복잡도 인자를 기초로 결정된다.A method is disclosed for determining real time video complexity in video streaming, IPTV and broadcast applications using a statistical model indicative of video complexity and channel bandwidth variation taking into account scene content changes. The available channel bandwidth is unequally distributed among multiple video streams, in proportion to the video complexity and bandwidth change of the broadcast video stream. The distribution of available channel bandwidths is determined based on the image complexity factor of each video stream as determined from the probability matrices taking into account bandwidth variations and image complexity.

Description

패킷 기반 비디오 브로드캐스트 시스템의 영상 복잡도 계산{IMAGE COMPLEXITY COMPUTATION IN PACKET BASED VIDEO BROADCAST SYSTEMS}Calculation of Image Complexity in Packet-Based Video Broadcast Systems {IMAGE COMPLEXITY COMPUTATION IN PACKET BASED VIDEO BROADCAST SYSTEMS}

본 발명은 일반적으로 브로드캐스트 시스템들에 관한 것이다. 보다 구체적으로는, 본 발명은 MPEG 호환가능한 인코딩을 사용하는 압축 비디오 프로그램들에서 일련의 영상들의 복잡도를 추정(estimating)하는 방법들에 관한 것이다.The present invention relates generally to broadcast systems. More specifically, the present invention relates to methods for estimating the complexity of a series of pictures in compressed video programs using MPEG compatible encoding.

전형적인 브로드캐스트 시스템들에서, IPTV(인터넷 프로토콜 텔레비젼) 및 다이렉트 브로드캐스트 위성(DBS) 애플리케이션들과 같은 통상적인 브로드캐스트 시스템들에서, 다중 비디오 프로그램들은 병렬로 인코딩되고, 디지털로 압축된 비트스트림들은 단일한 상수 또는 변수 비트 속도 채널로 멀티플렉싱된다. 이용가능한 채널 대역폭은 각각의 비디오 소스들의 복잡도/정보 콘텐츠에 비례하여, 프로그램들 중에서 균등하지 않게 분배될 수 있다. 손상들을 측정함으로써 비디오 품질을 계산하는 모니터링 시스템은 더 적은 또는 더 많은 복잡한 영상들에서 손상들의 상이한 효과들을 계산하기 위해, 비디오 스트림의 영상 복잡도 인자를 고려할 수 있다.In typical broadcast systems, in conventional broadcast systems such as IPTV (Internet Protocol Television) and direct broadcast satellite (DBS) applications, multiple video programs are encoded in parallel, and the digitally compressed bitstreams are single. Multiplexed into one constant or variable bit rate channel. The available channel bandwidth may be distributed unevenly among the programs in proportion to the complexity / information content of the respective video sources. A monitoring system that calculates video quality by measuring impairments may consider the video complexity factor of the video stream to calculate different effects of impairments in fewer or more complex images.

MPEG 인코딩된 변수 비트 속도(VBR) 비디오 트래픽은 광대역 네트워크들의 대역폭을 통제하는 것으로 예상된다. 이는 주문형 스트리밍, IPTV 또는 DBS 타입 들의 환경들에서 전송될 수 있다. VBR 또는 CBR 비디오 복잡도의 정확한 모델들은 그 동작 동안 임의의 제안된 네트워크의 성능의 예측을 위해 모니터링 시스템들을 인에이블할 필요가 있다. 도 1은 통상적인 IPTV 환경에서 비디오 콘텐츠를 전송하는데 관련된 구성요소들을 도시한다. 아날로그 신호로서 발신되는 비디오 소스는 인코더를 이용하여 인코딩되고, IP 네트워크를 이용하여 패킷화 및 전송된다. 멀티캐스트 또는 유니캐스트로서 네트워크에 전송될 수 있다. 코어는 설비를 위한 다양한 엘리먼트들을 포함하고, 가입자들 및 트래픽 흐름들을 관리한다. 콘텐츠는 콘텐츠 서버들에 저장되고, 사용자 요청시 주문형으로 전송된다. 네트워크의 다양한 지점들에서, 서비스 보증 관리 시스템들에 의한 수리들을 위해 측정들이 수행될 수 있다.MPEG encoded variable bit rate (VBR) video traffic is expected to control the bandwidth of broadband networks. This may be sent in on-demand streaming, IPTV or DBS types of environments. Accurate models of VBR or CBR video complexity need to enable monitoring systems to predict the performance of any proposed network during its operation. 1 illustrates the components involved in transmitting video content in a typical IPTV environment. Video sources originating as analog signals are encoded using encoders and packetized and transmitted using IP networks. It can be sent to the network as multicast or unicast. The core contains various elements for the facility and manages subscribers and traffic flows. The content is stored on content servers and sent on demand upon user request. At various points in the network, measurements may be performed for repairs by service assurance management systems.

MPEG 코딩 표준들은 3개의 화상 타입들(I, B 및 P)을 규정하고, 고정된 배치로 화상들을 인코딩한다. 화상 타입 변화들은 장면 전환들로 인해 발생할 수 있다. 갑작스러운 전환의 발생시, 새로운 장면의 제 1 프레임은 심각한 코딩 에러들을 방지하기 위해, 내부-코딩된다(I-프레임). 점진적인 장면 전환 동안, 2개의 기준 프레임들(I 또는 P)간의 거리는 화상 품질을 개선하기 위해 변화될 수 있다. 대부분의 이러한 점진적인 전환들 동안, 일시적인 상관관계가 감소되는 경향이 있다. 이러한 상황은 요구되는 화상 품질을 유지하도록 예측된 기준 프레임들(P-프레임들)의 보다 빈번한 배치를 요구한다. 비디오 시퀀스가 빠른 모션들을 포함하면, 화상 품질을 개선하기 위해 빈번한 P-프레임들을 요구할 수도 있다. 이는 비트 속도를 증가시킨다. 한편, 장면이 임의의 빠른 모션들 또는 점진적인 장면 전 환들을 포함하지 않는다면, 프레임간(I-프레임) 기준 거리는 화상 품질에 영향을 주지 않으면서 증가될 수 있다. 이것은 프레임들간에 강한 상관관계 때문이다.MPEG coding standards define three picture types (I, B and P) and encode pictures in a fixed arrangement. Picture type changes may occur due to scene transitions. In the event of a sudden switchover, the first frame of the new scene is inner-coded (I-frame) to prevent serious coding errors. During gradual scene transition, the distance between two reference frames I or P can be changed to improve the picture quality. During most of these gradual transitions, temporary correlations tend to be reduced. This situation requires more frequent placement of reference frames (P-frames) that are predicted to maintain the required picture quality. If the video sequence includes fast motions, it may require frequent P-frames to improve picture quality. This increases the bit rate. On the other hand, if the scene does not contain any fast motions or progressive scene transitions, the inter-frame (I-frame) reference distance can be increased without affecting the picture quality. This is due to the strong correlation between the frames.

따라서, 이에 제한됨이 없이, 슬라이스, 매크로부(macroblocks), 양자화(quantization), INTER/INTRA 코딩된 기준 및 비-기준 매크로부/슬라이스/화상 타입들을 포함하는 VCL 파라미터들을 분석함으로써, 비디오 스트림에서 비트 속도 변화들 및 비디오 코딩 계층(VCL) 복잡도 표시 변화들을 분석하고, 영상 복잡도를 동적으로 계산하는 통계적 모델에 도달하기 위한 프로세스가 필요하며, 손상 모니터들이 이러한 값을 사용하여 복잡한 영상들의 시퀀스에 대한 영향을 결정할 수 있다.Thus, without limitation, bits in the video stream may be analyzed by analyzing VCL parameters including slices, macroblocks, quantization, INTER / INTRA coded reference, and non-reference macro / slice / picture types. A process is needed to analyze speed changes and video coding layer (VCL) complexity indication changes and arrive at a statistical model that dynamically calculates image complexity, and damage monitors use these values to influence the sequence of complex images. Can be determined.

본 발명은 비디오 프로그램 스트림에서 대역폭 변화 및 VCL 파라미터들의 통계적 분석에 의해 실시간으로 영상 복잡도를 추정하는 방법을 제공한다. 이러한 값은 손실 상태들의 비디오 품질을 추정하기 위한 다른 애플리케이션들 및 모니터링에 의해 사용될 수 있고, 인간의 시각적 시스템에 의해 감지된 품질에 대한 양호한 추정을 가능하게 한다. The present invention provides a method for estimating image complexity in real time by statistical analysis of bandwidth variation and VCL parameters in a video program stream. This value can be used by other applications and monitoring for estimating video quality of lost states, allowing a good estimation of the quality perceived by the human visual system.

단일 채널상의 다중 비디오 스트림들을 브로드캐스팅하기 위한 프로세스는 각각의 다중 비디오 스트림들의 비디오 코딩 계층에서 비트 속도 변화들 및 복잡도 표시 변화들을 분석하는 단계로 시작된다. 그 다음, 각각의 다중 비디오 스트림들의 영상 복잡도를 동적으로 계산하기 위해, 통계적 모델이 생성된다. 그 다음, 브로드캐스트에서 각각의 다중 비디오 스트림들의 영상 복잡도의 영향이 결정된다. 이용가능한 채널 대역폭은 각각의 다중 비디오 스트림들의 영상 복잡도의 결정된 영향을 기초로, 다중 비디오 스트림들간에 분배된다.The process for broadcasting multiple video streams on a single channel begins with analyzing bit rate changes and complexity indication changes in the video coding layer of each of the multiple video streams. A statistical model is then created to dynamically calculate the picture complexity of each of the multiple video streams. The impact of the picture complexity of each of the multiple video streams in the broadcast is then determined. The available channel bandwidth is distributed among the multiple video streams based on the determined impact of the picture complexity of each of the multiple video streams.

프로세스는 특정 손실 상태들의 비디오 품질을 추정하는 단계를 더 포함한다.The process further includes estimating video quality of certain lost states.

복잡도 표시 변화들을 분석하는 단계는 비디오 스트림들의 개별 섹션들의 파라미터들의 변화들을 분석하는 단계를 포함한다. 비디오 스트림들의 개별 섹션들은 슬라이스(slice), 매크로부들, 양자화, 인터-코딩된(inter-coded) 기준부들, 인트라-코딩된(intra-coded) 기준부들, 및 비-기준 매크로부/슬라이스/화상 타입들을 포함한다. Analyzing the complexity indication changes includes analyzing changes in parameters of individual sections of the video streams. The separate sections of the video streams are sliced, macros, quantized, inter-coded references, intra-coded references, and non-reference macros / slices / pictures. Contains types.

통계적 모델을 생성하는 단계는 각각의 비디오 스트림의 개별 섹션들에 대한 비디오 코딩 계층 복잡도 표시 변화들의 제 1 통계적 모델을 생성하는 단계를 포함한다. 또한, 비디오 코딩 계층 비트 속도 변화들 또는 대역폭 변화의 제 2 통계적 모델은 각각의 비디오 스트림의 동일한 개별 섹션들에 대해 생성된다. 그 다음, 각각의 비디오 스트림의 개별 섹션들로부터의 제 1 및 제 2 통계적 모델은 조합된다. 각각의 비디오 스트림의 개별 섹션들의 영상 복잡도는 조합된 제 1 및 제 2 통계적 모델을 기초로 계산된다.Generating the statistical model includes generating a first statistical model of video coding layer complexity indication changes for individual sections of each video stream. In addition, a second statistical model of video coding layer bit rate changes or bandwidth changes is generated for the same individual sections of each video stream. The first and second statistical models from the individual sections of each video stream are then combined. The picture complexity of the individual sections of each video stream is calculated based on the combined first and second statistical models.

화상/슬라이스/매크로부 타입들에 대한 높은 양자화 변화들, 슬라이스/매크로부들 및 인터/인트라 예측 타입들은 각각의 비디오 스트림에서 양자화 변화들을 결정함으로써 카운트된다. 대역폭 변화는 각각의 비디오 스트림에서 비디오 코딩 계층 데이터의 대역폭을 결정함으로써 카운트된다. 카운팅은 각각의 양자화 변화에 대한 제 1 카운터, 각각의 매크로부에 대한 제 2 카운터, 각각의 슬라이스에 대한 제 3 카운터, 및 각각의 낮은 대역폭, 평균 대역폭 및 높은 대역폭 상태 변환에 대한 제 4 카운터를 증분함으로써 달성된다.High quantization changes, slice / macroparts, and inter / intra prediction types for picture / slice / macropart types are counted by determining quantization changes in each video stream. The bandwidth change is counted by determining the bandwidth of the video coding layer data in each video stream. Counting includes a first counter for each quantization change, a second counter for each macro portion, a third counter for each slice, and a fourth counter for each low bandwidth, average bandwidth, and high bandwidth state transition. Is achieved by increment.

각각의 비디오 스트림의 개별 섹션들에 대한 비디오 코딩 계층 복잡도의 복잡도 확률은 제 1, 제 2, 제 3 및 제 4 카운터를 이용하여 계산된다. 또한, 각각의 비디오 스트림을 위한 낮은 대역폭, 평균 대역폭 및 높은 대역폭 상태에 대한 확률은 제 1, 제 2, 제 3 및 제 4 카운터를 이용하여 계산된다. 제 1 변환 확률 매트릭스는 각각의 비디오 스트림의 개별 섹션들의 비디오 코딩 계층 복잡도 변환을 위해 구성되고, 제 2 변환 확률 매트릭스는 각각의 비디오 스트림의 개별 섹션들의 대역폭 상태 변환을 위해 구성된다. 각각의 비디오 스트림의 개별 섹션들의 영상 복잡도 값은 각각의 변환 확률 매트릭스로부터 획득된 제한 상태 확률들을 이용하여 계산된다.The complexity probability of the video coding layer complexity for the individual sections of each video stream is calculated using the first, second, third and fourth counters. In addition, the probability for low bandwidth, average bandwidth, and high bandwidth state for each video stream is calculated using the first, second, third, and fourth counters. The first transform probability matrix is configured for video coding layer complexity transformation of the individual sections of each video stream, and the second transform probability matrix is configured for bandwidth state transformation of the individual sections of each video stream. The picture complexity values of the individual sections of each video stream are calculated using the constraint state probabilities obtained from each transform probability matrix.

방법은 분배된 원격 프로브들로부터의 영상 복잡도 값을 획득하고; 감지된 비디오 품질을 위해 보다 정확하게 획득된 변수로서 영상 복잡도를 이용하여 패킷화된 비디오 스트림의 손상들의 계산을 용이하게 하며; 패킷화된 비디오 애플리케이션들에 대한 정규 간격들에서 영상 복잡도를 제공하고; 인간의 시각적 시스템에 의해 감지되는 바와 같은 비디오 복잡도의 추정값을 제공하며; 이에 제한됨이 없이 피크 신호대 잡음비(PSNR), MPQM, MQUANT 및 평균 제곱근 에러(RMSE)를 포함하는 전형적인 산업상 비디오 품질 평가 모델들에 대한 영상 복잡도 측정들을 제공하고; 비디오 인코더들, 멀티플렉서들, 라우터들, VOD 서버들(주문형), 브로드캐스트 서버들 및 비디오 품질 측정 설비들에 의해 사용되거나 포함될 수 있는 오프라인 및 실시간 영상 복잡도 측정들을 제공하며; 영상 복잡도에 기여하는 대역폭 변화에 대한 통계적 모델을 제공하고; 장면 전환들에 기여하는 비디오 코딩 계층 복잡도에 대한 통계적 모델을 제공하며; 낮은 복잡도 상태 및 높은 복잡도 상태에서 일련의 영상들의 통계적 분포를 결정하기 위해, 수집기들(collectors)에 의해 사용될 수 있다.The method obtains image complexity values from distributed remote probes; Using image complexity as a more accurately acquired variable for sensed video quality to facilitate calculation of impairments in a packetized video stream; Provide picture complexity at regular intervals for packetized video applications; Provide an estimate of video complexity as sensed by the human visual system; Provide image complexity measurements for typical industrial video quality assessment models including, but not limited to, peak signal-to-noise ratio (PSNR), MPQM, MQUANT, and mean square root error (RMSE); Provide offline and real-time image complexity measurements that can be used or included by video encoders, multiplexers, routers, VOD servers (on-demand), broadcast servers and video quality measurement facilities; Provide a statistical model for bandwidth variation that contributes to image complexity; Provide a statistical model for video coding layer complexity that contributes to scene transitions; It can be used by collectors to determine the statistical distribution of a series of images at low and high complexity states.

본 발명의 다른 특징들과 장점들은 예로서 본 발명의 원리들을 예시하는 첨부된 도면들과 연계하여, 이하의 보다 상세한 설명으로부터 명백해질 것이다.Other features and advantages of the invention will be apparent from the following more detailed description, taken in conjunction with the accompanying drawings, which illustrate, by way of example, the principles of the invention.

첨부된 도면들은 본 발명을 예시한다.The accompanying drawings illustrate the invention.

도 1은 영상 복잡도에 대한 측정들이 수행될 수 있는 잠재적인 지점들을 갖는 IPTV(IP 텔레비젼) 분배망의 일 예를 도시한다.1 shows an example of an IPTV (IP TV) distribution network with potential points at which measurements for image complexity may be performed.

도 2는 MPEG 프레임들이 IP(인터넷 프로토콜)에 캡슐화되고 측정 값들이 VCL 레벨에서 추출되는 전형적인 프로토콜 스택을 도시한다.2 illustrates a typical protocol stack in which MPEG frames are encapsulated in IP (Internet Protocol) and measurement values are extracted at the VCL level.

도 3은 최종 곡선 적합도 방정식을 통한 영상 복잡도를 계산하기 위한 통계적 모델을 도시한다.3 shows a statistical model for calculating the image complexity through the final curve fit equation.

도 4는 대역폭 모델을 위한 Markov 변환 프로세스를 도시한다.4 shows a Markov transformation process for a bandwidth model.

도 5는 비디오 코딩 계층 복잡도 모델에 대한 Markov 변환 프로세스를 도시한다.5 shows a Markov transformation process for a video coding layer complexity model.

도 6은 대역폭 모델에 대한 카운터들 및 변환 매트릭스 관계를 도시한다.6 shows the counters and transformation matrix relationship for the bandwidth model.

도 7은 비디오 코딩 계층 복잡도 모델에 대한 카운터들 및 변환 매트릭스 관계를 도시한다.7 illustrates counters and transform matrix relationships for a video coding layer complexity model.

도 8은 대역폭 변화 모델에 대한 변환 확률 매트릭스를 도시한다.8 shows a transform probability matrix for a bandwidth change model.

도 9는 비디오 코딩 계층 복잡도 모델에 대한 변환 확률 매트릭스를 도시한다.9 illustrates a transform probability matrix for a video coding layer complexity model.

도 10은 영상 복잡도를 계산하는 곡선 적합도 방정식 관계 및 확률 값들을 도시한다.10 illustrates curve fit equation equations and probability values for calculating image complexity.

도 11은 대역폭 및 비디오 코딩 계층 모델 계산을 위한 흐름도를 도시한다.11 shows a flowchart for calculating bandwidth and video coding layer model.

본 발명의 바람직한 실시예는 도 2-10에 도시된다. 본 발명의 일 실시예는 도 1에 도시된 것처럼 IPTV 전송 시스템에 사용될 수 있다.Preferred embodiments of the invention are shown in FIGS. 2-10. One embodiment of the present invention can be used in an IPTV transmission system as shown in FIG.

본 발명은 MPEG 타입 화상 인코딩을 지원하는 비디오 스트림에서 일련의 영상들의 영상 복잡도를 추정하는 방법에 관한 것이다. 방법은 인코딩된 비디오 스트림의 흐름 동안, 양자화, 매크로부/슬라이스 카운트들, 매크로부 사이즈들 16×16, 16×8, 8×8, 4×4, 8×16, 장면 전환들을 초래하는 확률을 결정하는 인터, 인트라, I/B/P 프레임/매크로부 타입들 변화로서 화상 타입 변화로서, VCL 파라미터들을 나타내는 통계적 모델을 생성하는 단계를 포함한다. 동일한 흐름의 인코딩된 비디오 스트림 동안, 높은 대역폭 및 낮은 대역폭 상태들의 확률을 결정하는 대역폭 변화를 나타내는 통계적 모델 또한 생성된다. 그 다음, 영상 복잡도는 동일한 흐름의 인코딩된 비디오 스트림으로부터 생성되는 2개의 통계적 모델들로부터 결정 된다. 상기 방법은 감지된 비디오 복잡도를 추정하기 위해 분배 시스템을 제공하는데 사용될 수 있다.The present invention relates to a method for estimating the image complexity of a series of pictures in a video stream supporting MPEG type picture encoding. The method provides a probability that, during the flow of the encoded video stream, quantization, macro portion / slice counts, macro portion sizes 16 × 16, 16 × 8, 8 × 8, 4 × 4, 8 × 16, scene transitions. Generating a statistical model indicative of the VCL parameters as the picture type change as the inter, intra, I / B / P frame / macropart types to determine. During the same flow of encoded video stream, a statistical model is also generated that represents the bandwidth change that determines the probability of high and low bandwidth states. The picture complexity is then determined from two statistical models generated from the encoded video stream of the same flow. The method can be used to provide a distribution system to estimate the sensed video complexity.

또한, 상기 방법은 다음을 포함한다: 높은 양자화 변환들, 모니터링 간격에 대한 슬라이스/매크로부 카운트들, 화상/슬라이스/매크로부 타입들(I, B, P)에 대한 인터/인트라 예측 타입들을 카운트하도록 양자화 변화들을 결정하고, 대역폭 변화를 카운트하도록 VCL 데이터의 대역폭을 결정하는 단계; 양자화 변화들에 대한 카운터를 증분하고, 매크로부와 슬라이스 타입들 및 사이즈들에 대한 카운터들을 증분하며, 낮은, 평균 및 높은 대역폭 상태 전이들에 대한 카운터를 증분하는 단계; 비디오 코딩 계층 복잡도에 대한 상태 변환들을 위해 상기 카운터들로부터 확률을 계산하고, 낮은, 평균 및 높은 대역폭 상태들에 대한 상태 변환들을 위해 상기 카운터들로부터 확률을 계산하는 단계; 및 비디오 코딩 계층 복잡도 변환을 위해 변환 확률 매트릭스를 계산하고, 대역폭 상태 변환을 위해 변환 확률 매트릭스를 계산하는 단계. The method also includes: high quantization transforms, slice / macropart counts for the monitoring interval, inter / intra prediction types for picture / slice / macropart types (I, B, P) Determining quantization changes to determine the bandwidth of the VCL data to count the bandwidth change; Incrementing a counter for quantization changes, incrementing counters for macro portion and slice types and sizes, and incrementing a counter for low, average, and high bandwidth state transitions; Calculating a probability from the counters for state transitions for video coding layer complexity and calculating a probability from the counters for state transitions for low, average, and high bandwidth states; And calculating a transform probability matrix for the video coding layer complexity transform and calculating a transform probability matrix for the bandwidth state transform.

상기에서 요약된 것처럼, 도 1은 비디오 콘텐츠 획득부(12), IPTV 관리 시스템(14), IPTV 콘텐츠 분배부(16) 및 IPTV 소비자(18)를 포함하는 전형적인 IPTV 분배망(21)을 도시한다. 비디오 소스(20)는 아날로그 형태로 일반적으로 획득되고, 비디오 인코더(22)에 의해 MPEG 1/2/4 포맷으로 인코딩되며, 주문형 비디오(VOD) 서버(24) 또는 브로드캐스트 서버(26)로 전송된다. VOD 서버(24)는 네트워크 코어(28)로의 전송을 위해 콘텐츠를 프로그램 스트림으로 캡슐화한다. 네트워크 코어(28)는 상대적으로 더 높은 대역폭 파이프이다. 또한, IPTV 망(21)은 다양한 관 리, 공급 및 서비스 보증 구성요소들로 이루어진다. 전형적으로, 운영 지원 시스템(OSS)(30), 가입자 관리 시스템(32) 및 새로운 부가 가치 서비스들을 생성하기 위한 애플리케이션 서버들(34)을 포함한다. 관리, 공급 및 서비스 보증 이후, 콘텐츠는 소비자에 의해 액세스가능한 VOD 서버(36) 또는 브로드캐스트 서버(38)에 저장될 수 있다. 이는 망(21)의 엣지(40)에 전형적으로 위치된다. 소비자는 케이블/DSL 라인(44)일 수 있는 광대역 액세스 라인(42)에 대한 액세스를 갖는다. 전형적으로, 텔레비젼은 비디오 스트림을 컴포넌트 출력으로 디코딩하는 셋톱박스(46)에 접속된다.As summarized above, FIG. 1 shows a typical IPTV distribution network 21 comprising a video content acquisition unit 12, an IPTV management system 14, an IPTV content distribution unit 16, and an IPTV consumer 18. . Video source 20 is generally obtained in analog form, encoded by video encoder 22 in MPEG 1/2/4 format, and sent to video on demand (VOD) server 24 or broadcast server 26. do. VOD server 24 encapsulates the content into a program stream for delivery to network core 28. Network core 28 is a relatively higher bandwidth pipe. The IPTV network 21 also consists of various management, supply and service assurance components. Typically includes an operating support system (OSS) 30, a subscriber management system 32 and application servers 34 for creating new value added services. After management, supply and service assurance, the content may be stored on the VOD server 36 or the broadcast server 38 accessible by the consumer. It is typically located at the edge 40 of the net 21. The consumer has access to broadband access line 42, which may be a cable / DSL line 44. Typically, the television is connected to a set top box 46 which decodes the video stream into component outputs.

패킷화된 비디오 스트림을 위한 프로토콜 스택은 도 2에 도시된다. 미디어 의존 부속품(48)은 이더넷, 소넷(Sonet), DS3, 케이블, 또는 DSL 인터페이스일 수 있다. PHY(50)는 미디어 의존 패킷 처리를 수행한다. IP(인터넷 프로토콜)(52)는 IPTV 망(21)에서 패킷 라우팅을 위한 어드레싱을 주로 제공하는 네트워크 계층 부분이다. UDP/RTP(54)는 포트들을 위한 애플리케이션 레벨 어드레싱을 제공하는 전송 계층이다. 비디오 스트림은 UDP/RTP 또는 단지 UDP 계층(54)에 캡슐화될 수 있다. 인코딩된 비디오는 MPEG 1/2/4로 압축될 수 있고, 비디오(56)에 대해 RTP 캡슐화로 또는 전송 스트림으로서 전송될 수 있다. H.264/AVC에 대한 경우와 같이 선택적인 네트워크 추상(Abstraction) 계층일 수 있다. 비디오 코딩 계층 패킷 입력부(60)는 디코딩되고, 필요한 파라미터들은 이하에서 기술되는 것처럼, 영상 복잡도 모델을 위한 측정 값들(62)을 획득하도록 추출된다.The protocol stack for the packetized video stream is shown in FIG. The media dependent accessory 48 may be an Ethernet, Sonnet, DS3, cable, or DSL interface. PHY 50 performs media dependent packet processing. IP (Internet Protocol) 52 is a network layer part that mainly provides addressing for packet routing in IPTV network 21. UDP / RTP 54 is a transport layer that provides application level addressing for ports. The video stream may be encapsulated in UDP / RTP or just UDP layer 54. The encoded video may be compressed to MPEG 1/2/4 and may be sent in RTP encapsulation for video 56 or as a transport stream. It may be an optional network abstraction layer as in the case for H.264 / AVC. The video coding layer packet input 60 is decoded and the necessary parameters are extracted to obtain the measurement values 62 for the image complexity model, as described below.

도 3은 본 발명의 일 실시예에서 통계적 모델들에 대한 상위 레벨 로직을 제 공한다. MPEG VCL 입력부(64)는 통계적 모델들을 위해 필요한 카운터들을 계산하기 위해, VCL 복잡도(I-프레임) 모델(66) 및 대역폭 모델(68)에 제공된다. 곡선 적합도 방정식(70)은 모델 출력 파라미터들을 갖고, 영상 복잡도(72)를 계산한다.3 provides high level logic for statistical models in one embodiment of the invention. The MPEG VCL input 64 is provided to the VCL complexity (I-frame) model 66 and the bandwidth model 68 to calculate the counters needed for the statistical models. Curve fit equation 70 has model output parameters and calculates image complexity 72.

도 4는 대역폭 모델(68)에 대한 개별 Markov 프로세스 상태 변환들을 도시한다. 비디오 시퀀스의 대역폭 변화들은 낮은 및 높은 대역폭 상태 변환들의 확률을 결정하기 위해 3가지 상태 Markov 프로세스로 모델링된다. 상태 1(S1)(74), 상태 2(S2)(76), 및 상태 3(S3)(78)은 낮은, 일정 및 높은 대역폭 상태들의 모델(68)의 상태들을 각각 나타낸다.4 shows individual Markov process state transitions for the bandwidth model 68. Bandwidth changes of the video sequence are modeled with a three state Markov process to determine the probability of low and high bandwidth state transitions. State 1 (S1) 74, state 2 (S2) 76, and state 3 (S3) 78 represent states of model 68 of low, constant and high bandwidth states, respectively.

도 5는 VCL 계층 복잡도 양자화 모델(66)에 대한 개별 Markov 프로세스 상태 변환들을 도시한다. 매크로부 계층으로부터 검색되는 양자화 변환들은 2가지 상태 Markov 프로세스로 모델링된다. K1(80) 및 K2(82)는 VCL 계층 복잡도 모델(66)의 상태들을 도시한다 - 높은 양자화 및 낮은 양자화 상태들.5 shows individual Markov process state transitions for the VCL layer complexity quantization model 66. Quantization transforms retrieved from the macro layer are modeled in a two state Markov process. K1 80 and K2 82 show the states of the VCL layer complexity model 66-high quantization and low quantization states.

도 6은 대역폭 모델(68)의 변환 확률들(90)을 계산하는데 사용되는 카운터들(86)을 도시한다. VCL 대역폭 모니터(84)는 VCL 스트림의 대역폭 변화들을 모니터링하고, 카운터들 cXY(86)를 업데이트하며, 여기서 X는 초기 상태를 나타내고, Y는 결과 상태를 나타낸다. 초기 및 결과 상태들은 각각 1, 2 또는 3으로 지정되는 낮은, 일정 또는 높은 대역폭 상태들일 수 있다. 예를 들어, C11은 낮은 대역폭 상태(74)로부터 낮은 대역폭 상태(74)로의 상태 변환 이벤트를 나타내고, C23은 일정 대역폭 상태(76)로부터 높은 대역폭 상태(78)로의 상태 변환 이벤트를 나타낸다.6 shows counters 86 used to calculate transform probabilities 90 of bandwidth model 68. The VCL bandwidth monitor 84 monitors the bandwidth changes of the VCL stream and updates the counters cXY 86, where X represents the initial state and Y represents the resulting state. The initial and resultant states may be low, constant or high bandwidth states, designated 1, 2 or 3, respectively. For example, C11 represents a state transition event from low bandwidth state 74 to low bandwidth state 74, and C23 represents a state transition event from constant bandwidth state 76 to high bandwidth state 78.

상태 변환 확률들(90)은 변환 매트릭스(88)를 획득하도록 계산된다. 상태 변환 확률들(90)은 pXY로 나타내고, 여기서 X는 초기 상태를 나타내며 Y는 결과 상태를 나타낸다. 초기 및 결과 상태들은 각각 1, 2 또는 3으로 지정된 낮은, 일정 또는 높은 대역폭 상태들일 수 있다. 예를 들어, p12는 낮은 대역폭 상태(S1)(74)로부터 일정 대역폭 상태(S2)(76)로 진행하는 변환 확률이다. 변환 확률들(90)로부터, 변환 매트릭스(88)가 형성된다. 변환 매트릭스(88)로부터, BP101(92) 및 BP103(94)을 획득하기 위한 초기 조건들 없이 제한 상태 확률들이 계산된다. 이러한 값들은 각각 낮은 대역폭 상태 및 높은 대역폭 상태에 유지되는 확률을 나타낸다.State transformation probabilities 90 are calculated to obtain a transformation matrix 88. State transition probabilities 90 are represented by pXY, where X represents the initial state and Y represents the resulting state. The initial and resultant states may be low, constant or high bandwidth states, designated 1, 2 or 3, respectively. For example, p12 is the conversion probability going from the low bandwidth state (S1) 74 to the constant bandwidth state (S2) 76. From the transform probabilities 90, a transform matrix 88 is formed. From the transformation matrix 88, the limited state probabilities are calculated without the initial conditions for obtaining BP101 92 and BP103 94. These values represent the probability of staying in a low bandwidth state and a high bandwidth state, respectively.

VCL 계층 복잡도 양자화 모델에 대한 변환 확률들을 계산하는데 사용되는 카운터들(98)이 도 7에 도시된다. VCL 슬라이스 및 매크로부 모니터(96)는 매크로부의 양자화 파라미터를 모니터링하고, 카운터들 dXY를 업데이트하며, 여기서 X는 초기 상태를 나타내고 Y는 결과 상태를 나타낸다. 초기 및 결과 상태들은 각각 1 또는 2로서 지정된 높은 양자화 또는 낮은 양자화 수신 상태들일 수 있다. 예를 들어, d12는 높은 양자화 수신 상태로부터 낮은 양자화 수신 상태로의 상태 변환 이벤트 카운트들을 나타낸다. 상태 변환 확률들은 VCL 계층 양자화 모델(66)에 대한 변환 매트릭스(100)를 획득하도록 계산된다. 변환 매트릭스(100)로부터, 화상 시퀀스에서 높은 양자화 발생 확률이 계산되고, 변수 IP100(102)로 설정된다.Counters 98 used to calculate transform probabilities for the VCL layer complexity quantization model are shown in FIG. 7. VCL slice and macro portion monitor 96 monitors the quantization parameter of the macro portion and updates the counters dXY, where X represents the initial state and Y represents the resulting state. The initial and resultant states may be high or low quantization reception states, designated as 1 or 2, respectively. For example, d12 represents state transition event counts from a high quantization reception state to a low quantization reception state. State transformation probabilities are calculated to obtain the transformation matrix 100 for the VCL layer quantization model 66. From the transform matrix 100, a high quantization occurrence probability in the picture sequence is calculated and set to the variable IP100 102.

대역폭 모델(68)에 대한 변환 확률 매트릭스(88)는 도 8에 도시된다. 상태들 S1(74), S2(76) 및 S3(78)은 상기에서 요약된 것처럼, 낮은, 평균 및 높은 대역 폭 상태들을 나타내고, 매트릭스(88)의 각각의 셀은 하나의 상태로부터 다른 상태로 상태 변환 확률을 나타낸다.The transform probability matrix 88 for the bandwidth model 68 is shown in FIG. 8. States S1 74, S2 76, and S3 78 represent low, average, and high bandwidth states, as summarized above, with each cell of the matrix 88 moving from one state to another. Represents a state transition probability.

도 9는 VCL 계층 양자화 모델(66)에 대한 변환 확률 매트릭스(100)를 나타낸다. 상태들 K1(104) 및 K2(106)은 높은 양자화 및 낮은 양자화 발생 상태들을 나타내고, 매트릭스(100)의 각각의 셀은 하나의 상태로부터 다른 상태로 상태 변환 확률을 나타낸다.9 shows a transform probability matrix 100 for the VCL layer quantization model 66. States K1 104 and K2 106 represent high quantization and low quantization occurrence states, and each cell of matrix 100 represents a state transition probability from one state to another.

도 10은 2 내지 3의 값을 범위로 하는 영상 복잡도(Γ)(72)를 획득하기 위해, 도 3의 곡선 적합도 방정식(73)에 사용되는 파라미터들 BP101(92), BP103(94) 및 IP100(102)로부터의 VCL 계층 복잡도 모델(66) 및 대역폭 모델(68)을 도시한다.FIG. 10 shows parameters BP101 92, BP103 94 and IP100 used in the curve fit equation 73 of FIG. 3 to obtain an image complexity (Γ) 72 ranging from 2 to 3; VCL layer complexity model 66 and bandwidth model 68 from 102 are shown.

도 11은 진보적인 프로세스의 주요 기능부들에 대한 흐름도를 도시한다. 대역폭 모델 초기화(108)는 대역폭(68) 및 VCL 계층 복잡도(66) 모델들을 실행하도록 수행될 필요가 있는 제 1 단계이다. 평균 대역폭을 계산하기 위한 변수들이 초기화된다(110). VCL 입력은 NAL(네트워크 추상 계층)/전송 스트림(112)으로부터 판독된다. VCL 패킷들에 대한 평균 대역폭이 계산되고(114), 설정된다(116). 이러한 동작 동안, 대역폭 모델(68) 및 VCL 계층 복잡도 모델(66)은 병렬로 실행된다(118). 대역폭 모델(68)은 변환 카운터들(120)을 위해 초기화된다. VCL 패킷 사이즈는 NAL/전송 계층 스트림(122)으로부터 판독된다. VCL에 대한 대역폭이 계산된다(124). 변환 카운터들이 업데이트되고(126), 변환 확률 매트릭스가 업데이트된다(128). 다음 단계는 이하에서 상세화되는 바와 같이, 방정식 (1) 및 (2)를 이용하여 높은 및 상태 제한 상태 확률들(130)을 계산하는 것이다. 변수들(BP101, BP103)이 설정된다(132). 모든 매크로부에 대해, VCL 복잡도 모델(66)은 동시에 실행된다(118). 카운터들은 초기화되고(136), 매크로부와 슬라이스 양자화 파라미터들은 VCL로부터 슬라이스 데이터를 디코딩함으로써 NAL/전송 스트림(138)으로부터 판독된다. VCL 복잡도 양자화 전송 확률 매트릭스가 계산되고(140), 제한 상태 확률들이 계산된다(142). 그 다음, IP100 변수가 설정된다(144). 최종 곡선 적합도 방정식은 변수들 BP101, BP103, 및 IP100을 이용하여 계산된다(146).11 shows a flow diagram for the main functional units of the progressive process. Bandwidth model initialization 108 is the first step that needs to be performed to execute the bandwidth 68 and VCL layer complexity 66 models. Variables for calculating the average bandwidth are initialized (110). The VCL input is read from NAL (Network Abstraction Layer) / Transport Stream 112. The average bandwidth for the VCL packets is calculated 114 and set 116. During this operation, bandwidth model 68 and VCL layer complexity model 66 are executed in parallel (118). Bandwidth model 68 is initialized for conversion counters 120. The VCL packet size is read from the NAL / Transport Layer Stream 122. The bandwidth for the VCL is calculated 124. The transform counters are updated 126, and the transform probability matrix is updated 128. The next step is to calculate the high and state limited state probabilities 130 using equations (1) and (2), as detailed below. Variables BP101 and BP103 are set (132). For all macro portions, the VCL complexity model 66 is executed 118 at the same time. The counters are initialized 136 and the macro portion and slice quantization parameters are read from the NAL / Transport Stream 138 by decoding slice data from the VCL. The VCL complexity quantization transmission probability matrix is calculated (140) and the limited state probabilities are calculated (142). Then, the IP 100 variable is set (144). The final curve fit equation is calculated using the variables BP101, BP103, and IP100 (146).

이제 일 실시예의 동작이 보다 상세히 설명될 것이다. 대역폭 모델(68)은 도 4의 Markov 모델을 이용하여 구성된다. 상태들 S1(74), S2(76), 및 S3(78)는 특정 수의 VCL 패킷들 또는 개별 섹션들을 처리한 이후 시간의 임의의 순간(instance)에 VCL 패킷 속도의 상태에 관련된다. 대역폭 모델(68)은 MPEG 비디오 스트림 생성 이후 초기화된다. 이러한 단계에서, 대역폭 모델(68)은 각각의 개별 섹션에서, 즉 샘플링 순간마다, 비디오 스트림의 평균 대역폭을 결정한다. 평균 대역폭을 결정하기 위한 프로시저는 다음과 같다:The operation of one embodiment will now be described in more detail. Bandwidth model 68 is constructed using the Markov model of FIG. States S1 74, S2 76, and S3 78 relate to the state of the VCL packet rate at any instance of time after processing a particular number of VCL packets or individual sections. The bandwidth model 68 is initialized after generating the MPEG video stream. In this step, the bandwidth model 68 determines the average bandwidth of the video stream in each individual section, i.e., at each sampling moment. The procedure for determining the average bandwidth is as follows:

○ 카운터들 A100, A101, A102, A103, A104를 제로로 초기화;Initializing counters A100, A101, A102, A103, A104 to zero;

○ MPEG 계층으로부터, 수신된 모든 NAL/전송 계층 패킷에 대해 VCL 패킷 크기 판독, 및 수신된 누적 크기에 대해 A100 설정;O Read VCL packet size for all NAL / Transport layer packets received from the MPEG layer, and set A100 for the received cumulative size;

○ 모든 INTRA 매크로부/화상 타입에 대해 A103 증분;A103 increments for all INTRA macroparts / picture types;

○ 모든 슬라이스 타입에 대해 A104 증분;A104 increments for all slice types;

○ 밀리초(miliseconds)의 제 1 VCL 수신 시간으로 A101 설정;O set A101 to the first VCL reception time in milliseconds;

○ 밀리초의 모든 VCL 수신 시간에 대해 A102 설정; 및O setting A102 for all VCL reception times in milliseconds; And

○ 각각의 샘플링 순간에, 평균 대역폭 계산.O Average bandwidth calculation at each sampling instant.

계산은 다음의 프로시저를 따른다:The calculation follows the following procedure:

A100 = A100 + MPEG 계층으로부터의 VCL_size_rcvdA100 = A100 + VCL_size_rcvd from MPEG layer

(A101 = 0)이면, A101 = 현재 시간If (A101 = 0), then A101 = current time

A102 = 현재 시간A102 = current time

C100 = A100 * 8 / (A102-A101) / 1000 (kbps로)C100 = A100 * 8 / (A102-A101) / 1000 (in kbps)

평균 대역폭 (C100) 범위는 C100 ± 10 kbps일 것이다.The average bandwidth (C100) range will be C100 ± 10 kbps.

모델은 A103의 최소 사전-규정된 카운트가 수신될 때에만 실행된다. 이러한 카운터는 장면 전환들을 나타내고, 다중 장면 전환들은 모델을 효과적으로 계산하는데 필요하다. 모델은 현재 비디오 스트림 대역폭이 C100 - 10 kbps보다 더 낮으면 낮은 대역폭 상태(S1)에 있고; C100 + 10 kbps보다 더 높은 대역폭들에 대해 모델은 높은 대역폭 상태(S3)에 있다. 대역폭이 평균 대역폭 값 이내에 있으면, 모델은 일정 대역폭 상태(S2)에 있다.The model is executed only when the minimum pre-defined count of A103 is received. This counter represents scene transitions, and multiple scene transitions are needed to effectively calculate the model. The model is currently in a low bandwidth state S1 if the video stream bandwidth is lower than C100-10 kbps; For bandwidths higher than C100 + 10 kbps the model is in a high bandwidth state S3. If the bandwidth is within the average bandwidth value, the model is in constant bandwidth state S2.

평균 대역폭(C100)은 VCL 패킷들에 대해 연속적으로 결정되고, 대역폭 변화는 도 4에 도시된 이산 변환 Markov 프로세스를 이용하여 모델링될 수 있다. 3개의 상태들(S1, S2 및 S3)의 변환들이 비디오 스트림 대역폭 변화를 모니터링함으로써 계산된다. 변환 매트릭스(88)(도 8)는 획득되고, 여기서 각각의 셀은 특정 상태로부터 다음 상태로 상태 변환의 확률을 나타낸다. 이러한 프로세스를 위한 Markov 모델은 어떠한 주기적 상태들을 갖지 않고 단일 체인으로부터의 반복(recurrent) 상태들을 갖지 않기 때문에, 제한-상태 확률들은 초기화 조건들에 독립적이다. 이러한 조건은 P1(S1 상태인 확률), P2(S2 상태인 확률) 및 P3(S3 상태인 확률)을 획득하는데 적용될 수 있다. 제한-상태 확률들에 대해, 다음의 방정식들이 유지된다:The average bandwidth C100 is determined continuously for the VCL packets, and the bandwidth change can be modeled using the discrete transform Markov process shown in FIG. The transitions of the three states S1, S2 and S3 are calculated by monitoring the video stream bandwidth change. Transformation matrix 88 (FIG. 8) is obtained, where each cell represents the probability of state transition from one state to the next. Since the Markov model for this process has no periodic states and no recurrent states from a single chain, the limit-state probabilities are independent of the initialization conditions. This condition may be applied to obtain P1 (probability in the S1 state), P2 (probability in the S2 state), and P3 (probability in the S3 state). For the limit-state probabilities, the following equations are maintained:

Figure 112008009966462-PCT00001
방정식 (1)
Figure 112008009966462-PCT00001
Equation (1)

Figure 112008009966462-PCT00002
방정식 (2)
Figure 112008009966462-PCT00002
Equation (2)

풀어야 할 3개의 변수들(P1, P2, P3)이 있기 때문에, 3개의 동시적인 방정식들이 필요하고, 그 각각은 변환 매트릭스(88)(도 8)로부터 생성될 수 있다. 변환 매트릭스(88)는 MPEG 비디오 스트림 대역폭 변화 통계들로부터 구성된다. 변환 매트릭스(88)는 도 8에 도시된 것처럼, 특정 상태로부터 임의의 다른 가능한 상태로 변환에 대한 확률을 계산함으로써 획득된다. 예를 들어, 상태 S1에 머무르는 확률은 p11로 나타낸다. Since there are three variables P1, P2, P3 to be solved, three simultaneous equations are needed, each of which can be generated from the transformation matrix 88 (FIG. 8). Transform matrix 88 is constructed from MPEG video stream bandwidth change statistics. Transformation matrix 88 is obtained by calculating the probability of transformation from a particular state to any other possible state, as shown in FIG. For example, the probability of staying in state S1 is represented by p11.

이러한 변환 확률들은 P1, P2 및 P3를 획득하기 위해 풀 수 있는 3개의 동시적인 방정식들을 획득하도록 방정식 (1) 및 (2)로 기입되고, 여기서 이들은 다음을 나타낸다: P1(낮은 대역폭 상태에 있는 모델의 확률); P2(평균/일정 대역폭 상태에 있는 모델의 확률); 및 P3(높은 대역폭 상태에 있는 모델의 확률).These transform probabilities are written in equations (1) and (2) to obtain three simultaneous equations that can be solved to obtain P1, P2 and P3, where they represent: P1 (model in low bandwidth state) Probability of; P2 (probability of the model in average / constant bandwidth state); And P3 (probability of the model in high bandwidth state).

낮은 및 높은 변환들의 확률은 영상 복잡도 값(72)을 획득하기 위해 최종 곡선 적합도 방정식(70)으로 진행한다. P1, P2 및 P3를 획득하기 위한 알고리즘은 다음과 같이 기술된다:The probabilities of the low and high transforms proceed to the final curve fit equation 70 to obtain the image complexity value 72. The algorithm for obtaining P1, P2 and P3 is described as follows:

○ 카운터들 c11, c12, c13, c21, c22, c23, c31, c32 및 c33을 0으로 초기화;O Initialize counters c11, c12, c13, c21, c22, c23, c31, c32 and c33 to zero;

○ 상태 = S2; 및O = S2; And

○ MPEG 비디오 기본 스트림의 몇몇 VCL 패킷들에 대해 (컨피규어러블 카운트(configurable count)),O For some VCL packets of the MPEG video elementary stream (configurable count),

Figure 112008009966462-PCT00003
Figure 112008009966462-PCT00003

Figure 112008009966462-PCT00004
Figure 112008009966462-PCT00004

샘플링 순간(예, 10초)마다, 변환 매트릭스(88)는 상기로부터 계산된다. 변환 확률들은 상태 변환의 상대 빈도들(frequecies)로부터 계산된다.For each sampling instant (eg 10 seconds), the transformation matrix 88 is calculated from above. Transform probabilities are calculated from the relative frequencies of the state transforms.

Figure 112008009966462-PCT00005
Figure 112008009966462-PCT00005

Figure 112008009966462-PCT00006
Figure 112008009966462-PCT00006

변환 매트릭스로부터, 확률들 P1(낮은 속도 확률), P2(일정/평균 속도 확률) 및 P3(높은 속도 확률)는 방정식 (1) 및 (2)를 이용하여 형성된 3개의 동시적인 방정식들을 이용하여 계산된다.From the transformation matrix, the probabilities P1 (low speed probability), P2 (constant / average speed probability) and P3 (high speed probability) are calculated using three simultaneous equations formed using equations (1) and (2) do.

변환 확률들을 방정식 (1)에 넣으면, 다음이 달성된다:Putting the transform probabilities into equation (1), the following is achieved:

Figure 112008009966462-PCT00007
방정식 (3)
Figure 112008009966462-PCT00007
Equation (3)

Figure 112008009966462-PCT00008
방정식 (4)
Figure 112008009966462-PCT00008
Equation (4)

방정식 (2)로부터, 다음이 달성된다:From equation (2), the following is achieved:

Figure 112008009966462-PCT00009
방정식 (5)
Figure 112008009966462-PCT00009
Equation (5)

방정식들을 푼 이후, 확률들은 이러한 변수들로 할당된다:After solving the equations, the probabilities are assigned to these variables:

Figure 112008009966462-PCT00010
Figure 112008009966462-PCT00010

상기 3개의 방정식들을 푼 이후, P1 및 P3는 최종 영상 복잡도(72)를 획득하도록 곡선 적합도 방정식(70)에 사용하기 위해 계산된다.After solving the three equations, P1 and P3 are calculated for use in the curve fit equation 70 to obtain the final image complexity 72.

모든 VCL 입력에 대해, VCL 계층 복잡도 모델(66)은 병렬로 실행될 필요가 있다. VCL 파라미터들은 장면 전환들과 화상 품질을 위해 모니터링된다. INTER/INTRA 매크로부 타입들은 장면 전환들을 결정하도록 분석되고, 매크로부 내부의 양자화 파라미터들은 영상 복잡도에 대한 기여로서 화상 품질을 결정하도록 판독된다. VCL 복잡도 모델(66)이 실행된 이후, 최종 영상 복잡도 값(72)을 획득하기 위해 영상 복잡도에 대한 곡선 적합도 방정식(70)을 풀 수 있다.For all VCL inputs, the VCL layer complexity model 66 needs to be executed in parallel. VCL parameters are monitored for scene transitions and picture quality. INTER / INTRA macropart types are analyzed to determine scene transitions, and quantization parameters inside the macro part are read to determine picture quality as a contribution to image complexity. After the VCL complexity model 66 is executed, the curve fit equation 70 for image complexity may be solved to obtain the final image complexity value 72.

VCL 복잡도 확률 계산은 전술한 것과 유사한 프로세스를 따르지만, Markov 상태들은 2개의 상태들로 제한된다. 도 10은 VCL 복잡도 모델의 상태 변환 프로세스를 도시한다. 상태들은 다음을 나타낸다:VCL complexity probability calculation follows a similar process as described above, but the Markov states are limited to two states. 10 shows a state transition process of the VCL complexity model. The states represent the following:

K1(높은 양자화 매크로부가 수신되는 상태); 및K1 (a state in which a high quantization macro portion is received); And

K2(낮은 양자화 매크로부가 수신되는 상태).K2 (a state in which the low quantization macro portion is received).

변환 확률들을 포함하는 변환 매트릭스(100)(도 9)가 계산된다. 각각의 셀은 상태 변환을 나타내고, 예를 들어 p12는 높은 양자화 수신 상태(K1)에서 낮은 양자화(K2)를 갖는 확률을 나타낸다.Transformation matrix 100 (FIG. 9) is calculated that includes the transformation probabilities. Each cell represents a state transition, for example p12 represents the probability of having a low quantization K2 in the high quantization reception state K1.

변환 확률들을 계산하기 위한 프로시저는 다음과 같다:The procedure for calculating transform probabilities is as follows:

모든 VCL 입력에 대해, MPEG 비디오 기본 스트림에서,For all VCL inputs, in the MPEG video elementary stream,

○ 모든 카운터들 d11, d12, d21, d22를 제로로 초기화. 상태 = K1으로 설정. O Reset all counters d11, d12, d21, d22 to zero. Set state = K1.

○ 높은/낮은 양자화 상태들을 설정하도록 양자화 임계치를 결정하기 위해, 화상 파라미터 설정(MPEG4에서처럼)으로부터 또는 이것이 이용가능하지 않은 경우 사전 컨피규어된(preconfigured) 값으로부터 초기 양자화 값을 판독한다. C101을 이러한 값으로 설정한다.O To determine the quantization threshold to set high / low quantization states, read the initial quantization value from the picture parameter setting (as in MPEG4) or from the preconfigured value if it is not available. Set C101 to this value.

○ 매크로부 카운트들에 대해 C102를 제로로 설정O Set C102 to zero for macro part counts

○ INTRA 매크로부 타입들에 대해 C103을 제로로 설정○ Set C103 to zero for INTRA macropart types

○ 슬라이스 타입들에 대해 C105를 제로로 설정O Set C105 to zero for slice types

○ 처리되는 모든 매크로부에 대해, C102 증분C102 increments for all macro sections processed

○ 모든 INTRA 매크로부 타입에 대해, C103 증분C103 increment for all INTRA macropart types

○ 모든 슬라이스 타입에 대해, C105 증분C105 increments for all slice types

○ 양자화가 이용가능한 모든 매크로부에 대해, C104의 양자화 값 판독O Read the quantization value of C104 for all macro parts where quantization is available

Figure 112008009966462-PCT00011
Figure 112008009966462-PCT00011

Figure 112008009966462-PCT00012
Figure 112008009966462-PCT00012

상기 카운터들로부터 샘플링 순간(예, 10초)마다, 변환 확률들은 상기 변환 매트릭스(100)를 획득하도록 계산된다.Every sampling instant (eg, 10 seconds) from the counters, transform probabilities are calculated to obtain the transform matrix 100.

Figure 112008009966462-PCT00013
Figure 112008009966462-PCT00013

변환 확률들로부터, 높은 양자화 발생(P1) 및 낮은 양자화 발생(P2)의 확률이 계산될 수 있다. 높은 양자화 발생 확률은 최종 영상 복잡도 값(72)을 획득하기 위해 곡선 적합도 함수(70)에 사용될 것이다.From the transform probabilities, the probability of high quantization occurrence P1 and low quantization occurrence P2 can be calculated. The high probability of quantization will be used in the curve goodness-of-fit function 70 to obtain the final image complexity value 72.

제한 상태 확률들이 초기 조건들에 독립적이기 때문에, 제한-상태 확률들에 대한 동시적인 방정식들을 다음과 같이 풀 수 있다:Since the constraint state probabilities are independent of the initial conditions, the simultaneous equations for the constraint-state probabilities can be solved as follows:

Figure 112008009966462-PCT00014
방정식 (6)
Figure 112008009966462-PCT00014
Equation (6)

Figure 112008009966462-PCT00015
방정식 (7)
Figure 112008009966462-PCT00015
Equation (7)

상기 방정식 (6) 및 (7)에서 변환 확률들을 대체 및 확장하면,Substituting and extending the transform probabilities in equations (6) and (7),

Figure 112008009966462-PCT00016
방정식 (8)
Figure 112008009966462-PCT00016
Equation (8)

Figure 112008009966462-PCT00017
방정식 (9)
Figure 112008009966462-PCT00017
Equation (9)

상기 두 방정식들은 P1 및 P2를 획득하기 위해 푼다. 영상 복잡도 방정식에 사용될 IP100 = P1(매크로부의 VCL 계층 복잡도의 높은 발생 확률)로 할당한다.The two equations are solved to obtain P1 and P2. Assign IP100 = P1 (high probability of macroblock VCL layer complexity) to be used in the image complexity equation.

BP101, BP103 및 IP100은 2 내지 3의 범위에 속하는 영상 복잡도(72)를 획득하기 위해 곡선 적합도 방정식(70)(도 10)에 사용된다.BP101, BP103 and IP100 are used in the curve fit equation 70 (FIG. 10) to obtain image complexity 72 in the range of 2-3.

영상 복잡도 (Γ)은 (Γ > 3)Γ = 3에 대해,The image complexity (Γ) is for (Γ> 3) Γ = 3

Figure 112008009966462-PCT00018
방정식 (10)
Figure 112008009966462-PCT00018
Equation (10)

몇가지 실시예들이 예시를 목적으로 상세히 기술되었지만, 본 발명의 사상과 범주를 벗어남이 없이 다양한 변형들이 각각에 이루어질 수 있다.While some embodiments have been described in detail for purposes of illustration, various modifications may be made to each without departing from the spirit and scope of the invention.

Claims (25)

단일 채널상에서 다중 비디오 스트림들을 브로드캐스팅하기 위한 프로세스로서,A process for broadcasting multiple video streams on a single channel, 각각의 상기 다중 비디오 스트림들의 비디오 코딩 계층에서 복잡도 표시(complexity indication) 변화들 및 비트 속도 변화들을 분석하는 단계;Analyzing complexity indication changes and bit rate changes in a video coding layer of each of the multiple video streams; 각각의 상기 다중 비디오 스트림들의 영상 복잡도를 동적으로 계산하기 위해 통계적 모델을 생성하는 단계;Generating a statistical model to dynamically calculate image complexity of each of the multiple video streams; 상기 브로드캐스팅에서 상기 다중 비디오 스트림들의 영상 복잡도의 영향을 결정하는 단계; 및Determining the effect of picture complexity of the multiple video streams in the broadcasting; And 각각의 상기 다중 비디오 스트림들의 영상 복잡도의 결정된 영향을 기초로, 상기 다중 비디오 스트림들간에 이용가능한 채널 대역폭을 분배하는 단계Distributing the available channel bandwidth between the multiple video streams based on the determined impact of the picture complexity of each of the multiple video streams. 를 포함하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.Broadcasting process of multiple video streams comprising a. 제 1 항에 있어서,The method of claim 1, 상기 분석 단계는 상기 비디오 스트림들의 개별 섹션들의 파라미터들에서 비디오 코딩 계층 복잡도 표시 변화들을 분석하는 단계를 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.Said analyzing step comprises analyzing video coding layer complexity indication changes in parameters of individual sections of said video streams. 제 2 항에 있어서,The method of claim 2, 상기 비디오 스트림들의 개별 섹션들은 슬라이스(slice), 매크로부들(macroblocks), 양자화(quantization), 인터-코딩된(inter-coded) 기준부들, 인트라-코딩된(intra-coded) 기준부들, 및 비-기준(non-reference) 매크로부/슬라이스/화상 타입들을 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.The separate sections of the video streams are sliced, macroblocks, quantized, inter-coded references, intra-coded references, and non- A broadcasting process for multiple video streams, characterized by comprising non-reference macroparts / slices / picture types. 제 1 항에 있어서,The method of claim 1, 손실 상태들의 비디오 품질을 추정하는 단계를 더 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.Estimating video quality of lost states. 제 1 항에 있어서,The method of claim 1, 상기 생성 단계는, The generating step, 각각의 비디오 스트림의 개별 섹션들에 대해 비디오 코딩 계층 복잡도 표시 변화들의 제 1 통계적 모델을 생성하는 단계;Generating a first statistical model of video coding layer complexity indication changes for individual sections of each video stream; 각각의 비디오 스트림의 동일한 개별 섹션들에 대해 대역폭 변화 또는 비디오 코딩 계층 비트 속도 변화들의 제 2 통계적 모델을 생성하는 단계;Generating a second statistical model of bandwidth variation or video coding layer bit rate variations for the same individual sections of each video stream; 각각의 비디오 스트림의 개별 섹션들로부터의 상기 제 1 및 제 2 통계적 모델을 조합하는 단계; 및Combining the first and second statistical models from separate sections of each video stream; And 상기 조합된 제 1 및 제 2 통계적 모델을 기초로 각각의 비디오 스트림의 개별 섹션들에 대한 영상 복잡도를 계산하는 단계를 포함하는 것을 특징으로 하는 다 중 비디오 스트림들의 브로드캐스팅 프로세스.Computing image complexity for individual sections of each video stream based on the combined first and second statistical models. 제 5 항에 있어서,The method of claim 5, wherein 각각의 비디오 스트림의 개별 섹션들에서 양자화 변화들을 결정함으로써, 화상/슬라이스/매크로부 타입들에 대한 높은 양자화 변환들(transitions), 슬라이스/매크로부들 및 인터/인트라 예측 타입들을 카운트하는 단계; 및Counting high quantization transitions, slice / macroparts, and inter / intra prediction types for picture / slice / macropart types by determining quantization changes in separate sections of each video stream; And 각각의 비디오 스트림의 개별 섹션들에서 비디오 코딩 계층 데이터의 대역폭을 결정함으로써 대역폭 변화를 카운트하는 단계를 더 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.Counting the bandwidth change by determining the bandwidth of the video coding layer data in the individual sections of each video stream. 제 6 항에 있어서,The method of claim 6, 상기 카운트 단계들은 각각의 양자화 변화에 대해 제 1 카운터를 증분하고, 각각의 매크로부에 대해 제 2 카운터를 증분하며, 각각의 슬라이스에 대해 제 3 카운터를 증분하고, 각각의 낮은 대역폭, 평균 대역폭 및 높은 대역폭 상태 변환에 대해 제 4 카운터를 증분하는 단계를 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.The count steps increment the first counter for each quantization change, increment the second counter for each macro portion, increment the third counter for each slice, and each low bandwidth, average bandwidth and Incrementing a fourth counter for high bandwidth state transitions. 제 7 항에 있어서,The method of claim 7, wherein 상기 제 1, 제 2, 제 3 및 제 4 카운터를 이용하여 각각의 비디오 스트림의 개별 섹션들에 대해 비디오 코딩 계층 복잡도에 대한 확률을 계산하는 단계; 및Calculating probabilities for video coding layer complexity for individual sections of each video stream using the first, second, third and fourth counters; And 상기 제 1, 제 2, 제 3 및 제 4 카운터를 이용하여 각각의 비디오 스트림의 개별 섹션들에 대해 낮은 대역폭, 평균 대역폭 및 높은 대역폭 상태에 대한 확률을 계산하는 단계를 더 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.Calculating probabilities for low bandwidth, average bandwidth, and high bandwidth states for individual sections of each video stream using the first, second, third, and fourth counters. Broadcasting process of multiple video streams. 제 8 항에 있어서,The method of claim 8, 각각의 비디오 스트림의 개별 섹션들의 비디오 코딩 계층 복잡도 변환에 대한 제 1 변환 확률 매트릭스를 구성하는 단계; 및Constructing a first transform probability matrix for the video coding layer complexity transform of the individual sections of each video stream; And 각각의 비디오 스트림의 개별 섹션들의 대역폭 상태 변환에 대한 제 2 변환 확률 매트릭스를 구성하는 단계를 더 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.And constructing a second transform probability matrix for the bandwidth state transitions of the individual sections of each video stream. 제 9 항에 있어서,The method of claim 9, 각각의 변환 확률 매트릭스로부터 획득된 제한 상태(limiting state) 확률들을 이용하여, 각각의 비디오 스트림의 개별 섹션들의 영상 복잡도를 계산하는 단계를 더 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.Calculating the image complexity of the individual sections of each video stream using the limiting state probabilities obtained from each transformation probability matrix. 단일 채널상에서 다중 비디오 스트림들을 브로드캐스팅하기 위한 프로세스로서,A process for broadcasting multiple video streams on a single channel, 각각의 상기 다중 비디오 스트림들의 개별 섹션들의 파라미터들에서 비디오 코딩 계층에서 비트 속도 변화들 및 복잡도 표시 변화들을 분석하는 단계;Analyzing bit rate changes and complexity indication changes in a video coding layer in parameters of individual sections of each of the multiple video streams; 각각의 상기 다중 비디오 스트림들의 영상 복잡도를 동적으로 계산하기 위해 통계적 모델을 생성하는 단계;Generating a statistical model to dynamically calculate image complexity of each of the multiple video streams; 상기 브로드캐스팅에서 상기 다중 비디오 스트림들의 영상 복잡도의 영향을 결정하는 단계;Determining the effect of picture complexity of the multiple video streams in the broadcasting; 각각의 상기 다중 비디오 스트림들의 영상 복잡도의 결정된 영향을 기초로, 상기 다중 비디오 스트림들간에 이용가능한 채널 대역폭을 분배하는 단계; 및Distributing available channel bandwidth between the multiple video streams based on the determined effect of the image complexity of each of the multiple video streams; And 손실 상태들의 비디오 품질을 추정하는 단계Estimating video quality of lost states 를 포함하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.Broadcasting process of multiple video streams comprising a. 제 11 항에 있어서,The method of claim 11, 상기 비디오 스트림들의 개별 섹션들은 슬라이스, 매크로부들, 양자화, 인터-코딩된 기준부들, 인트라-코딩된 기준부들, 및 비-기준 매크로부/슬라이스/화상 타입들을 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.The separate sections of the video streams comprise slices, macro portions, quantization, inter-coded references, intra-coded references, and non-reference macro portion / slice / picture types. Broadcasting process. 제 11 항에 있어서,The method of claim 11, 상기 생성 단계는, The generating step, 각각의 비디오 스트림의 개별 섹션들에 대한 비디오 코딩 계층 복잡도 표시 변화들의 제 1 통계적 모델을 생성하는 단계;Generating a first statistical model of video coding layer complexity indication changes for individual sections of each video stream; 각각의 비디오 스트림의 동일 개별 섹션들에 대한 대역폭 변화 또는 비디오 코딩 계층 비트 속도 변화들의 제 2 통계적 모델을 생성하는 단계;Generating a second statistical model of bandwidth variation or video coding layer bit rate variations for the same individual sections of each video stream; 각각의 비디오 스트림의 개별 섹션들로부터의 상기 제 1 및 제 2 통계적 모델을 조합하는 단계; 및Combining the first and second statistical models from separate sections of each video stream; And 상기 조합된 제 1 및 제 2 통계적 모델을 기초로, 각각의 비디오 스트림의 개별 섹션들에 대한 영상 복잡도를 계산하는 단계를 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.Based on the combined first and second statistical models, calculating image complexity for individual sections of each video stream. 제 13 항에 있어서,The method of claim 13, 각각의 비디오 스트림의 개별 섹션들에서 양자화 변화들을 결정함으로써, 화상/슬라이스/매크로부 타입들에 대해 높은 양자화 변환들, 슬라이스/매크로부들 및 인터/인트라 예측 타입들을 카운트하는 단계; 및Counting high quantization transforms, slice / macroparts, and inter / intra prediction types for picture / slice / macropart types by determining quantization changes in separate sections of each video stream; And 각각의 비디오 스트림의 개별 섹션들에서 비디오 코딩 계층 데이터의 대역폭을 결정함으로써 대역폭 변화를 카운트하는 단계를 더 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.Counting the bandwidth change by determining the bandwidth of the video coding layer data in the individual sections of each video stream. 제 14 항에 있어서,The method of claim 14, 상기 카운트 단계들은 각각의 양자화 변화에 대해 제 1 카운터를 증분하고, 각각의 매크로부에 대해 제 2 카운터를 증분하며, 각각의 슬라이스에 대해 제 3 카 운터를 증분하고, 각각의 낮은 대역폭, 평균 대역폭 및 높은 대역폭 상태 변환에 대해 제 4 카운터를 증분하는 단계를 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.The counting steps increment the first counter for each quantization change, increment the second counter for each macro portion, increment the third counter for each slice, and each low bandwidth, average bandwidth. And incrementing a fourth counter for high bandwidth state transitions. 제 15 항에 있어서,The method of claim 15, 상기 제 1, 제 2, 제 3 및 제 4 카운터를 이용하여 각각의 비디오 스트림의 개별 섹션들에 대해 비디오 코딩 계층 복잡도에 대한 확률을 계산하는 단계; 및Calculating probabilities for video coding layer complexity for individual sections of each video stream using the first, second, third and fourth counters; And 상기 제 1, 제 2, 제 3 및 제 4 카운터를 이용하여 각각의 비디오 스트림의 개별 섹션들에 대해 낮은 대역폭, 평균 대역폭 및 높은 대역폭 상태들에 대한 확률을 계산하는 단계를 더 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.Using the first, second, third and fourth counters to calculate probabilities for low bandwidth, average bandwidth and high bandwidth states for individual sections of each video stream. Broadcasting process of multiple video streams. 제 16 항에 있어서,The method of claim 16, 각각의 비디오 스트림의 개별 섹션들의 비디오 코딩 계층 복잡도 변환을 위해 제 1 변환 확률 매트릭스를 구성하는 단계; 및Constructing a first transform probability matrix for video coding layer complexity transform of individual sections of each video stream; And 각각의 비디오 스트림의 개별 섹션들의 대역폭 상태 변환을 위해 제 2 변환 확률 매트릭스를 구성하는 단계를 더 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.And constructing a second transform probability matrix for the bandwidth state transformation of individual sections of each video stream. 제 17 항에 있어서,The method of claim 17, 각각의 변환 확률 매트릭스로부터 획득된 제한 상태 확률들을 이용하여, 각각의 비디오 스트림의 개별 섹션들의 영상 복잡도를 계산하는 단계를 더 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.Using the limited state probabilities obtained from each transform probability matrix, calculating image complexity of individual sections of each video stream. 단일 채널상에서 다중 비디오 스트림들을 브로드캐스팅하기 위한 프로세스로서,A process for broadcasting multiple video streams on a single channel, 각각의 상기 다중 비디오 스트림들의 비디오 코딩 계층에서 비트 속도 변화들 및 복잡도 표시 변화들을 분석하는 단계;Analyzing bit rate changes and complexity indication changes in the video coding layer of each of the multiple video streams; 각각의 비디오 스트림의 개별 섹션들에 대한 비디오 코딩 계층 복잡도 표시 변화들의 제 1 통계적 모델을 생성하는 단계;Generating a first statistical model of video coding layer complexity indication changes for individual sections of each video stream; 각각의 비디오 스트림의 동일한 개별 섹션들에 대한 대역폭 변화 도는 비디오 코딩 계층 비트 속도 변화들의 제 2 통계적 모델을 생성하는 단계;Generating a second statistical model of bandwidth variation or video coding layer bit rate variations for the same individual sections of each video stream; 각각의 상기 다중 비디오 스트림들의 영상 복잡도를 동적으로 계산하기 위해, 각각의 비디오 스트림의 개별 섹션들로부터의 상기 제 1 및 제 2 통계적 모델을 조합하는 단계;Combining the first and second statistical models from separate sections of each video stream to dynamically calculate the picture complexity of each of the multiple video streams; 상기 브로드캐스팅에서 상기 다중 비디오 스트림들의 영상 복잡도의 영향을 결정하는 단계;Determining the effect of picture complexity of the multiple video streams in the broadcasting; 각각의 상기 다중 비디오 스트림들의 영상 복잡도의 결정된 영향을 기초로, 상기 다중 비디오 스트림들간에 이용가능한 채널 대역폭을 분배하는 단계;Distributing available channel bandwidth between the multiple video streams based on the determined effect of the image complexity of each of the multiple video streams; 상기 조합된 제 1 및 제 2 통계적 모델을 기초로, 각각의 비디오 스트림의 개별 섹션들에 대한 영상 복잡도를 계산하는 단계; 및Calculating image complexity for individual sections of each video stream based on the combined first and second statistical models; And 손실 상태들의 비디오 품질을 추정하는 단계Estimating video quality of lost states 를 포함하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.Broadcasting process of multiple video streams comprising a. 제 19 항에 있어서,The method of claim 19, 각각의 비디오 스트림에서 양자화 변화들을 결정함으로써, 화상/슬라이스/매크로부 타입들에 대해 높은 양자화 변환들, 슬라이스/매크로부들 및 인터/인트라 예측 타입들을 카운트하는 단계; 및Counting high quantization transforms, slice / macroparts, and inter / intra prediction types for picture / slice / macropart types by determining quantization changes in each video stream; And 각각의 비디오 스트림에서 비디오 코딩 계층 데이터의 대역폭을 결정함으로써, 대역폭 변화를 카운트하는 단계를 더 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.Counting the bandwidth change by determining the bandwidth of the video coding layer data in each video stream. 제 20 항에 있어서,The method of claim 20, 상기 카운트 단계들은 각각의 양자화 변화에 대해 제 1 카운터를 증분하고, 각각의 매크로부에 대해 제 2 카운터를 증분하며, 각각의 슬라이스에 대해 제 3 카운터를 증분하고, 각각의 낮은 대역폭, 평균 대역폭 및 높은 대역폭 상태 변환에 대해 제 4 카운터를 증분하는 단계를 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.The count steps increment the first counter for each quantization change, increment the second counter for each macro portion, increment the third counter for each slice, and each low bandwidth, average bandwidth and Incrementing a fourth counter for high bandwidth state transitions. 제 21 항에 있어서,The method of claim 21, 상기 제 1, 제 2, 제 3 및 제 4 카운터를 이용하여 각각의 비디오 스트림의 개별 섹션들에 대해 비디오 코딩 계층 복잡도에 대한 확률을 계산하는 단계; 및Calculating probabilities for video coding layer complexity for individual sections of each video stream using the first, second, third and fourth counters; And 상기 제 1, 제 2, 제 3 및 제 4 카운터를 이용하여 각각의 비디오 스트림의 개별 섹션들에 대해 낮은 대역폭, 평균 대역폭 및 높은 대역폭 상태들에 대한 확률을 계산하는 단계를 더 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.Using the first, second, third and fourth counters to calculate probabilities for low bandwidth, average bandwidth and high bandwidth states for individual sections of each video stream. Broadcasting process of multiple video streams. 제 22 항에 있어서,The method of claim 22, 각각의 비디오 스트림의 개별 섹션들의 비디오 코딩 계층 복잡도 변환을 위해 제 1 변환 확률 매트릭스를 구성하는 단계; 및Constructing a first transform probability matrix for video coding layer complexity transform of individual sections of each video stream; And 각각의 비디오 스트림의 개별 섹션들의 대역폭 상태 변환을 위해 제 2 변환 확률 매트릭스를 구성하는 단계를 더 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.And constructing a second transform probability matrix for the bandwidth state transformation of individual sections of each video stream. 제 23 항에 있어서,The method of claim 23, 각각의 변환 확률 매트릭스로부터 획득된 제한 상태 확률들을 이용하여, 각각의 비디오 스트림의 개별 섹션들의 영상 복잡도를 계산하는 단계를 더 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.Using the limited state probabilities obtained from each transform probability matrix, calculating image complexity of individual sections of each video stream. 제 19 항에 있어서,The method of claim 19, 상기 분석 단계는 상기 비디오 스트림들의 개별 섹션들의 파라미터들에서 비디오 코딩 계층 복잡도 표시 변화들을 분석하는 단계를 포함하고, 상기 비디오 스트림들의 개별 섹션들은 슬라이스, 매크로부들, 양자화, 인터-코딩된 기준부들, 인트라-코딩된 기준부들, 및 비-기준 매크로부/슬라이스/화상 타입들을 포함하는 것을 특징으로 하는 다중 비디오 스트림들의 브로드캐스팅 프로세스.The analyzing step includes analyzing video coding layer complexity indication changes in parameters of individual sections of the video streams, wherein the individual sections of the video streams are sliced, macro portions, quantized, inter-coded references, intra. A process of broadcasting multiple video streams comprising coded references and non-reference macros / slices / picture types.
KR1020087003308A 2006-07-10 2006-07-12 Image complexity computation in packet based video broadcast systems KR20090045882A (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US11/456,505 2006-07-10
US11/456,505 US8107540B2 (en) 2005-07-11 2006-07-10 Image complexity computation in packet based video broadcast systems

Publications (1)

Publication Number Publication Date
KR20090045882A true KR20090045882A (en) 2009-05-08

Family

ID=39521222

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020087003308A KR20090045882A (en) 2006-07-10 2006-07-12 Image complexity computation in packet based video broadcast systems

Country Status (8)

Country Link
EP (1) EP2039172A4 (en)
JP (1) JP2009543513A (en)
KR (1) KR20090045882A (en)
CN (1) CN101502112A (en)
BR (1) BRPI0614591A2 (en)
CA (1) CA2622548A1 (en)
MX (1) MX2008014372A (en)
WO (1) WO2008127217A2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2383999A1 (en) * 2010-04-29 2011-11-02 Irdeto B.V. Controlling an adaptive streaming of digital content
US8997160B2 (en) * 2010-12-06 2015-03-31 Netflix, Inc. Variable bit video streams for adaptive streaming
US9125073B2 (en) * 2012-08-03 2015-09-01 Intel Corporation Quality-aware adaptive streaming over hypertext transfer protocol using quality attributes in manifest file
EP3742739B1 (en) * 2019-05-22 2021-04-14 Axis AB Method and devices for encoding and streaming a video sequence over a plurality of network connections
CN113360094B (en) * 2021-06-04 2022-11-01 重庆紫光华山智安科技有限公司 Data prediction method and device, electronic equipment and storage medium
WO2023233631A1 (en) * 2022-06-02 2023-12-07 日本電信電話株式会社 Video quality estimation device, video quality estimation method, and program

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5018215A (en) * 1990-03-23 1991-05-21 Honeywell Inc. Knowledge and model based adaptive signal processor
US6310915B1 (en) * 1998-11-20 2001-10-30 Harmonic Inc. Video transcoder with bitstream look ahead for rate control and statistical multiplexing

Also Published As

Publication number Publication date
EP2039172A4 (en) 2011-04-13
JP2009543513A (en) 2009-12-03
WO2008127217A2 (en) 2008-10-23
BRPI0614591A2 (en) 2012-01-24
MX2008014372A (en) 2008-11-24
CA2622548A1 (en) 2008-01-10
CN101502112A (en) 2009-08-05
EP2039172A2 (en) 2009-03-25
WO2008127217A3 (en) 2009-04-16

Similar Documents

Publication Publication Date Title
US7609769B2 (en) Image complexity computation in packet based video broadcast systems
Verscheure et al. User-oriented QoS analysis in MPEG-2 video delivery
US7756136B2 (en) Spatial and temporal loss determination in packet based video broadcast system in an encrypted environment
Seeling et al. Video transport evaluation with H. 264 video traces
EP2432161B1 (en) Method of and system for measuring quality of audio and video bit stream transmissions over a transmission chain
US20100110199A1 (en) Measuring Video Quality Using Partial Decoding
KR101834031B1 (en) Method and apparatus for assessing the quality of a video signal during encoding and transmission of the video signal
US9077972B2 (en) Method and apparatus for assessing the quality of a video signal during encoding or compressing of the video signal
JP2015501568A (en) Scene change detection for perceptual quality assessment in video sequences
KR20090045882A (en) Image complexity computation in packet based video broadcast systems
KR20150045958A (en) Content-dependent video quality model for video streaming services
US20140098899A1 (en) Systems and processes for estimating and determining causes of video artifacts and video source delivery issues in a packet-based video broadcast system
JP4787303B2 (en) Video quality estimation apparatus, method, and program
Xiong et al. Rate control for real-time video network transmission on end-to-end rate-distortion and application-oriented QoS
Mu et al. Discrete quality assessment in IPTV content distribution networks
Ascenso et al. Packet-header based no-reference quality metrics for H. 264/AVC video transmission
JP5405915B2 (en) Video quality estimation apparatus, video quality estimation method, and video quality estimation apparatus control program
Skupin et al. Packet level video quality evaluation of extensive H. 264/AVC and SVC transmission simulation
Kwon et al. A novel video quality impairment monitoring scheme over an ipty service with packet loss
Xiong et al. An error resilience scheme on an end-to-end distortion analysis for video transmission over Internet
Wang et al. Video quality assessment for IPTV services: A survey
Gupta et al. IPTV End-to-End Performance Monitoring
Song et al. Real-time quality monitoring for networked H. 264/AVC video streaming
Liu et al. Expected run-time distortion based media streaming with server diversity
Sabry et al. Implementation of Video Codecs Over IPTV Using Opnet

Legal Events

Date Code Title Description
WITN Application deemed withdrawn, e.g. because no request for examination was filed or no examination fee was paid