WO2004077831A1 - 映像伝送システム、映像送信装置、映像受信装置および映像伝送方法 - Google Patents

映像伝送システム、映像送信装置、映像受信装置および映像伝送方法 Download PDF

Info

Publication number
WO2004077831A1
WO2004077831A1 PCT/JP2004/001988 JP2004001988W WO2004077831A1 WO 2004077831 A1 WO2004077831 A1 WO 2004077831A1 JP 2004001988 W JP2004001988 W JP 2004001988W WO 2004077831 A1 WO2004077831 A1 WO 2004077831A1
Authority
WO
WIPO (PCT)
Prior art keywords
video
quality
channel
priority
reception
Prior art date
Application number
PCT/JP2004/001988
Other languages
English (en)
French (fr)
Inventor
Yoshimasa Honda
Tsutomu Uenoyama
Original Assignee
Matsushita Electric Industrial Co., Ltd.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co., Ltd. filed Critical Matsushita Electric Industrial Co., Ltd.
Priority to US10/514,440 priority Critical patent/US7382729B2/en
Publication of WO2004077831A1 publication Critical patent/WO2004077831A1/ja

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234327Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into layers, e.g. base layer and one or more enhancement layers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/258Client or end-user data management, e.g. managing client capabilities, user preferences or demographics, processing of multiple end-users preferences to derive collaborative data
    • H04N21/25808Management of client data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/266Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
    • H04N21/2662Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/658Transmission by the client directed to the server
    • H04N21/6582Data stored in the client, e.g. viewing habits, hardware capabilities, credit card number

Definitions

  • the present invention relates to a video transmission system for transmitting video through a network.
  • compression codes are usually compressed below a certain band according to the H.221 method or MPEG (Moving Picture Experts Group) method. Once encoded, once encoded video data can not change the video quality even if the transmission band changes.
  • MPEG-4FGs Full Granularity Scalability
  • the video data encoded by MP EG-4 FGS is a moving image stream for improving the quality of the moving image quality of the base layer, and one basic layer which is a moving image stream that can be decoded by itself. It is composed of at least one or more enhancement layers, which are image streams.
  • the base layer is low-band, low-quality video data, and by adding this to the extension layer according to the band, high-quality image quality can be achieved with a high degree of freedom.
  • the total data size of the enhancement layer to be transmitted is It is possible to control and adapt to various bands, and it is possible to transmit a picture of quality according to the band.
  • the required quality of each terminal differs because the terminal's ability to receive video and the characteristics of the network used by each terminal (reception band) differ. There is a problem called.
  • the quality mentioned here includes, for example, image quality, frame rate (smoothness of movement), error tolerance, resolution, delay, processing complexity and so on.
  • FIG. 1 is a diagram showing an example of the configuration of a conventional video encoding apparatus.
  • the video encoding circuit 12 performs video encoding using motion compensation (DCT) (Discrete Cosine Transform: quantization) on the input video signal.
  • DCT motion compensation
  • the encoded data is output to the layering circuit 14.
  • the layering circuit 14 divides the encoded data input from the video encoding circuit 12 into M regions in blocks of NXN pixels used for DCT (however, both N and M are natural numbers) , M output encoded data to the bucketing buffer 16.
  • the packetization buffer 16 transmits the divided coded data input from the layering circuit 14 by a channel of high priority from an area including low frequency components.
  • low-priority channels are obtained even when network congestion occurs by dividing the DCT coefficients into regions and transmitting from low-frequency components to high-priority channels. Encoding in Since the data is discarded, it is possible to receive video with the image quality according to the bandwidth.
  • a terminal with a large display screen in a limited transmission band receives an image with an image quality priority which is not smooth but which has a higher quality than a video with low image quality and smooth movement. Is desirable.
  • terminals with smaller screens should receive low-quality, smooth-motion video rather than high-quality, non-smooth-motion video.
  • terminals in a wireless environment with a high error rate in the network can be played back even in situations where errors are high and error tolerance is higher than videos that can be played back only in situations where error tolerance is low and errors are not occurring. It is desirable to receive various videos.
  • An object of the present invention is to provide a video transmission system in which each terminal can receive video with a quality suitable for itself when a plurality of terminals having different characteristics receive video simultaneously.
  • the video transmission system is a video transmission system for transmitting hierarchically encoded data from a video transmission apparatus to a video reception apparatus through a network, wherein the video transmission apparatus is a hierarchically encoded data.
  • the video data comprises: a first transmission means for transmitting data on different channels from each other; a calculation means for grouping the channels according to quality to calculate a group list; and a second transmission means for transmitting the calculated group list
  • the receiving device comprises: a first receiving means for receiving a group list transmitted from the video transmitting device; a determining means for determining a receiving channel using the received group list; and the video transmitting device transmitted from the video transmitting device And second receiving means for receiving the data of the determined reception channel among the divided layer coding data.
  • a video transmission apparatus comprises: division means for dividing hierarchical encoded data into separate channels according to quality or according to quality and bandwidth; and transmitting the divided hierarchical encoded data through different channels from each other And a second transmitting unit for transmitting the calculated group list.
  • a video transmission method is a video transmission method for transmitting hierarchical encoded data from a video transmission device to a video reception device through a network, wherein the video transmission device is a hierarchical code.
  • Receiving, and the video receiving apparatus determining a receiving channel using the received group list.
  • the video reception device receiving data of the determined reception channel among the divided layer encoded data transmitted from the video transmission device.
  • FIG. 1 is a diagram showing an example of the configuration of a conventional video encoding apparatus
  • FIG. 2 is a diagram showing a configuration of a video transmission system according to Embodiment 1 of the present invention
  • FIG. 3 is a diagram showing an example of a structure of coded data when using MPEG-4 FGS coding.
  • FIG. 4 is a diagram showing an example of the result of channel division for the 13 coded data
  • FIG. 5 is a flow chart showing the operation of the video transmission apparatus corresponding to the first embodiment
  • Figure 6 A is a diagram to illustrate prioritization and grooving.
  • Fig. 6B is a diagram for explaining the prioritization in the case of emphasis on movement.
  • Fig. 6C is a diagram for explaining the prioritization when the image quality is emphasized.
  • Figure 7 A is a diagram showing the priority map for motion-focused
  • Fig. 7B is a diagram showing a priority map when image quality is emphasized.
  • Figure 8 A shows an example of a priority map
  • Fig. 8B is a diagram showing channels after prioritization based on the above priority map
  • Fig. 9A is a diagram showing motion priority groups in the group list
  • Figure 9B shows the image quality priority group in the group list.
  • FIG. 9C is a diagram showing a full quality group in the group list
  • FIG. 10 is a flowchart showing the operation of the video reception device corresponding to the first embodiment
  • Fig. 11 is a sequence diagram showing exchange of main information in the video transmission system according to the first embodiment.
  • FIG. 12 shows an application example of the video transmission system according to the first embodiment
  • FIG. 13 shows a configuration of the video transmission system according to the second embodiment of the present invention
  • FIG. 14 shows an embodiment of the present invention.
  • FIG. 15 is a diagram showing the configuration of a video transmission system according to a third embodiment of the present invention
  • FIG. 16 is a flowchart showing the operation of the video transmission apparatus corresponding to the third embodiment.
  • Figure 17 A shows an example of a channel priority map
  • Fig. 17 B is a diagram showing a part of the channel after prioritization based on the channel priority map.
  • Figure 17 C shows an example of bucketing split and bucketing priority
  • FIG. 18 is a diagram showing a configuration of a video transmission system according to a fourth embodiment of the present invention
  • FIG. 19 is a flowchart showing an operation of the video reception apparatus corresponding to the fourth embodiment.
  • the gist of the present invention is, in a system for transmitting a hierarchically encoded video stream, dividing the hierarchically encoded video stream according to quality or according to quality and bandwidth, and transmitting the same over different channels and channel according to quality. By grouping and transmitting the list, multiple receiving terminals can each select the reception quality of the video, and receive the video with appropriate quality.
  • hierarchically encoded data is divided into channels according to quality and band, priority is calculated using terminal information, and transmission is performed on another channel, and dull list in which channels are grouped according to quality is transmitted.
  • FIG. 2 is a diagram showing a configuration of a video transmission system according to Embodiment 1 of the present invention. is there.
  • This video transmission system comprises a video transmission device (hereinafter also referred to as “transmission terminal”) 100 for transmitting video, a video reception device (hereinafter also referred to as “reception terminal”) 150 for receiving video, and a video transmission device 100. And a network 180 for relaying the video transmitted from the network to the video receiver 150. That is, the video transmitted from the video transmission device 100 is transmitted to the video reception device 150 through the network 180.
  • the video transmission apparatus 100 includes a video input unit 102, a video encoding unit 104, a channel division unit 106, a video transmission unit 108, a terminal information reception unit 110, a priority calculation unit 112, and a group list.
  • a calculation unit 1 14 and a group list transmission unit 1 16 are included.
  • the video input unit 102 outputs an image provided from the outside or that is included in the video generated by the device 100 to the video coding unit 104 for each frame.
  • the video coding unit 104 hierarchically codes the image output from the video input unit 102 as an input image, and outputs the obtained coded data to the channel division unit 106.
  • the video encoding unit 104 includes a base layer (BL), an enhancement layer 1 (EL 1) that improves the image quality, an enhancement layer 2 (EL 2) that improves the smoothness of the motion, and an enhancement for the input image. It generates encoded data consisting of layer 3 (EL 3) and enhancement layer 4 (EL 4) and outputs it to channel division section 106.
  • BL base layer
  • EL 1 enhancement layer 1
  • EL 2 enhancement layer 2
  • EL 4 enhancement layer 4
  • the image quality can be improved by adding the enhancement layer 1 to the base layer, and by adding data to the base layer in the order of the enhancement layer 2, the enhancement layer 3 and the enhancement layer 4, the movement Becomes smoother.
  • the enhancement layer can divide the data into multiple parts from the lower layer (the beginning of the video stream), and by controlling the amount of data added to the base layer, It is possible to control the degree of quality to be improved.
  • the channel division unit 106 divides the encoded data output from the video encoding unit 104 into a plurality of parts, assigns separate channels to each divided data, and outputs the divided data from the priority calculation unit 1 12. To the video transmission unit 1 0 8. Also, it generates a split list, which is a list of split data and allocation channels, and outputs it to the group list calculation unit 114. For example, an example of the channel division result is as shown in FIG. Details of the process will be described later.
  • the video transmission unit 108 transmits the divided data output from the channel division unit 106 to the network 180 using the corresponding separate channels. Specifically, for example, the encoded data divided and assigned to different channels are added to the header with the specified priority, and multicasted by separate channels.
  • the priority can be described, for example, in the Internet Protocol (IP) header. Also, it is assumed that the channel is indicated, for example, by multicast address.
  • IP Internet Protocol
  • multicast transmission is a transmission method of data from one transmitting terminal to a plurality of terminals at the same time, and is a method of transferring data only to a terminal designated to receive a multicast address, which is a transmission data channel, Even when the receiving terminal performs reception, there is no duplication in the data to be transmitted in the same transmission path, so it is a transmission method with good transmission efficiency.
  • the transmission method of the video stream is not limited to multicast transmission.
  • the terminal information reception unit 110 receives the terminal information transmitted from the reception terminal (video reception device 150), and outputs the terminal information to the priority calculation unit 112.
  • the terminal information may be any information as long as it is information on the receiving terminal and can indicate the quality to be prioritized.
  • the terminal information may include, for example, the screen size of the display device used by the receiving terminal, the processing capability of the terminal, and the error occurrence rate of the network to which the terminal is connected.
  • the priority calculating unit 112 determines the channel priority using the terminal information output from the terminal information receiving unit 110, and outputs the determined priority to the channel dividing unit 106. Details of the process will be described later.
  • Group list calculation unit 1 1 4 generates a group list, which is a list of priority quality and channels to be received, using the division list output from channel division unit 1 0 6, and group list transmission unit 1 1 Output to 6. Details of the process will be described later.
  • the group list transmission unit 116 transmits the group list output from the group list calculation unit 114 to the network 180. Specifically, for example, the group list is transmitted to all the receiving terminals through the network 180.
  • Network 180 has nodes (network nodes) not shown.
  • the network node performs data transmission (packet transmission) according to the priority added to the channel. Specifically, if the network is congested, discard data from lower priority channels and guarantee data transmission for higher priority channels. Further, only data of the channel selected by the receiving terminal 150 among the plurality of channels transmitted from the transmitting terminal 100 is transferred to the receiving terminal 150.
  • the network node is, for example, a router.
  • a video receiver 150 has a terminal information transmitter 1 52, a priority quality input unit 1 54, a group list receiver 1 56, a reception channel determiner 1 58, a video receiver 1 60, a video decoder It has a part 1 62 and an image display part 1 6 4.
  • the terminal information transmission unit 125 transmits the terminal information of the video reception device 150 to the video transmission device 100.
  • the size of the display screen is transmitted as terminal information.
  • the terminal information is information related to the receiving terminal as described above and is prioritized. Any information can be used as long as it can indicate the quality.
  • the present embodiment will be described by way of an example in which terminal information is transmitted each time video data is received, the present invention is not limited to this. For example, it is also possible to transmit at regular intervals in order to avoid confusion on the transmission path.
  • the priority quality input unit 1 54 outputs the priority quality designated by the user (for example, quality priority, motion priority, etc.) to the reception channel determination unit 1 58. However, if there is no specification from the user, priority quality output will not be performed.
  • the group list receiving unit 1 56 receives the group list (list indicating the quality and the channel as described above) transmitted from the transmitting terminal (video transmitting apparatus 100), and receives the channel determination unit 1 5 8 Output to
  • the reception channel determination unit 1 5 8 determines the channel to be received using the priority quality output from the priority quality input unit 1 5 4 and the dummy list output from the group list reception unit 1 5 6. Specifically, the channel number to be received is determined, and the determined channel number is output to the video receiver 160. However, if there is no output from priority quality input section 1 54 or group list receiving section 1 56, the previously determined channel number is output to video receiving section 1 6 0. Details of the process will be described later.
  • the video receiver 160 receives the encoded data corresponding to the channel number output from the reception channel determiner 1 5 8, and outputs the received encoded data to the video decoder 16 2.
  • the video decoding unit 126 decodes the encoded data output from the video receiving unit 160, and outputs the video obtained by decoding to the video display unit 164.
  • the video display unit 164 displays the video output from the video decoding unit 126 on the screen.
  • the image display unit 1 64 is composed of a display device.
  • the flowchart shown in FIG. 5 is a storage device (not shown) of the video transmission device 100 (for example, a ROM or a flash). It is stored as a control program in a memory etc.) and executed by a CPU (not shown).
  • step S 1 0 0 the image input unit 1 0 2 2 outputs an image forming the image to the image encoding unit 1 0 4 frame by frame.
  • step S 1 100 the video coding unit 14 performs hierarchical coding on the image output from the video input unit 102, and the obtained coded data is divided into channel division units 1.
  • coded data is composed of a base layer (B L) and multiple enhancement layers (E L).
  • B L base layer
  • E L enhancement layers
  • FIG. 3 a case where encoded data is configured by one base layer (BL) and four enhancement layers (EL1 to 4) will be described as an example.
  • step S 1200 the terminal information reception unit 110 receives the terminal information transmitted from the plurality of reception terminals 150 and outputs the same to the priority calculation unit 112.
  • the terminal information is assumed to be the screen size (D inch) of the display device used by the receiving terminal 150.
  • the terminal information is not limited to the screen size, and for example, information that can indicate a priority quality such as user preference (motion priority, image quality priority) may be used. It is possible.
  • step S1300 the priority calculating unit 112 determines the priority of each channel using the terminal information output from the terminal information receiving unit 110, and determines the determined priority. Output to channel divider 106. That is, when the terminal information is received, the priority is determined using the received terminal information, and the determined priority is output to the channel division unit 106. On the other hand, when terminal information is not received, the previous priority is output to channel division section 106.
  • the quality to be emphasized is determined using a plurality of pieces of terminal information Dn (n is a terminal number), and the priority of each channel is determined based on the emphasized quality.
  • the procedure is as follows. 1) Calculation of average screen size
  • N is the total number of terminals.
  • channel division section 106 divides the encoded data output from video encoding section 104 into a plurality of sections, assigns separate channels to each divided data, and calculates priority calculation section 1 1 2. Is added to the priority that is output from and output to the video transmission unit 108.
  • the base layer (BL) is one channel
  • the enhancement layers (EL) 1 to 4 are each determined in advance. Divide by the amount of data and set it as another channel.
  • the enhancement layer 1 is made to be EL 1-1-EL so that the bit rate of each channel becomes the set bit rate B-BL, B-EL 1, B_EL 2 and B-EL 3.
  • the enhancement layer 3 into EL 3-0 to EL 3-3
  • the number of divisions is not limited to four.
  • Figure 8A shows a priority map, which is made up of a 4 by 4 matrix.
  • the priorities of the enhancement layers EL 1-1 to EL 1-2 are sequentially shown.
  • FIG. 8B The channels after priority assignment obtained by applying the priority map of FIG. 8A to the channel division result of FIG. 4 are as shown in FIG. 8B.
  • step S1500 group list calculation section 114 generates a group list indicating channels to be received according to priority quality using the division list output from channel division section 106. Output to group list transmitter 116.
  • FIG. 9 shows an example of the group list. In this example, three groups (motion priority, image quality priority, full quality) are calculated. Of course, the group list is not limited to three. Any combination of one or more channels is acceptable. For example, for the same type of quality, multiple groups with different degrees may be provided (see, for example, motion priority groups 1 and 2 and image quality priority groups 1 and 2 in FIG. 6A). That is, groups having different types and degrees of quality can be arbitrarily provided. In the example of FIG.
  • the group list transmission unit 116 transmits the group list output from the group list calculation unit 114 to the network 180. Specifically, for example, the group list is transmitted to all the receiving terminals through network 180. In this embodiment, transmission of the group list is always performed.
  • the present invention is not limited to this. For example, as described above, in order to avoid congestion of the transmission path, a fixed interval is provided. It is also possible to send
  • step S 1 7 0 8 the video transmission unit 1 0 8 transmits the divided data output from the channel division unit 1 0 6 to the network 1 8 0 through the corresponding separate channels.
  • Encoded data assigned to a channel is multicast-transmitted on separate channels with the specified priority added to the header.
  • the channel is indicated by, for example, a multicast address.
  • the flowchart shown in FIG. 10 is stored as a control program in a storage device (for example, ROM, flash memory, etc.) (not shown) of the video reception device 150, and is executed by the CPU (not shown).
  • a storage device for example, ROM, flash memory, etc.
  • the priority quality input section 1 54 outputs the priority quality designated by the user to the reception channel determination section 1 5 8.
  • the priority quality is not output unless specified by the user.
  • step S 2 0 0 the group list reception unit 1 5 6 receives the group list transmitted from the transmission terminal 1 0 0 and outputs it to the reception channel determination unit 1 5 8.
  • step S2200 using the priority quality output from the priority quality input unit 154 and the group list 1 output from the group list reception unit 156 in the reception channel determination unit 158, Determine the channel to be received.
  • the priority quality is motion priority
  • the one receiving the circle ( ⁇ ) shown in FIG. 9A and the priority quality is motion priority
  • the circle ( ⁇ ⁇ ) shown in FIG. 9B If the channel is to be received and if the priority quality is full quality, it is determined that the circle ( ⁇ ⁇ ⁇ ⁇ ) channel shown in Fig. 9C is to be received.
  • step S 2300 the video reception unit 160 receives encoded data regarding the channel number output from the reception channel determination unit 1 58, and the received encoded data is received by the video decoding unit 16. Output to 2.
  • step S 2400 the video decoding unit 126 decodes the encoded data output from the video receiving unit 160, and outputs the obtained video to the video display unit 164.
  • step S 2500 the video display unit 164 displays the video output from the video decoding unit 126 on the screen.
  • the terminal information transmission unit 152 transmits the terminal information of the receiving terminal 150 to the transmitting terminal 100.
  • the terminal information as described above, transmit the screen size (D inch) of the display device used by the terminal.
  • the terminal information is transmitted each time video data is received.
  • the present invention is not limited to this. For example, as described above, in order to avoid congestion of the transmission path, It is also possible to transmit at regular intervals.
  • the receiving terminal 150 transmits terminal information (for example, the size of the display screen) to the transmitting terminal 100 via the network 180 ((1)).
  • terminal information for example, the size of the display screen
  • the transmitting terminal 100 calculates the channel priority using the received terminal information ((2)), calculates the group list, and calculates the group. Send the list to the receiving terminal 150 via the network 180 ((3)).
  • receiving terminal 150 When receiving terminal 150 receives the group list from transmitting terminal 100, receiving terminal 150 determines a receiving channel using the received group list ((4)). Then, transmitting terminal 100 performs video coding and channel division (including prioritization) on the input video for each frame, and gives the division priority after division. The coded data is transmitted to the receiving terminal 150 through the network 180 on separate channels ((5)). At that time, the network 180 performs data transmission (bucket transmission) according to the priority.
  • the receiving terminal 150 receives the encoded video data from the transmitting terminal 1 0, 0 in the above reception channel, decodes it, and displays it on the screen ((6)).
  • FIG. 12 shows an application example of the video transmission system of the present embodiment.
  • a video server 100 is provided as a video transmission device, and a large screen terminal 150a, a small screen terminal 150b, and a low bandwidth terminal 150c are provided as video reception devices.
  • the video server 100 and each terminal 150a to 150c are connected to each other through a network 180.
  • Network 1 80 has LAN 1 82, Internet 1 84, and mobile network 1 86, and LAN 1 82 and Internet 1 84 are connected to each other through router 1 88, and LAN 1 8 2 And Mobile Network 186 are connected to each other via Router190.
  • the video server 100 and the large screen terminal 150a are connected via the LAN 182
  • the video server 100 and the small screen terminal 150b are the LAN 182
  • the router 1 88, the Internet 1 84 Connected via a Video Server 100 and a low bandwidth terminal 150 c are connected via a LAN 182, a Router 190 and a Mobile Network 186.
  • the large screen terminal 150 a can receive video with priority on image quality
  • the small screen terminal 15 O b can receive video with motion priority
  • the low band terminal 150 c can receive It is possible to receive an image with error tolerance priority.
  • hierarchical coded data is divided into different channels according to quality and band, and a group list according to quality is transmitted. It is possible to receive video. Also, in order to calculate the priority of each channel based on the terminal information and prioritize transmission, each terminal selects and receives a priority quality group in the usable transmission band of the terminal, The highest quality picture automatically adapted to the characteristics of the self Can be received. In addition, it is possible to realize video transmission with quality matched to terminal characteristics.
  • hierarchically encoded data is divided into channels according to quality and band, priority is calculated using input video information, and transmission is performed on another channel, and a group list according to quality is transmitted.
  • a video transmission system in which the quality prioritized by the receiving terminal can be selected and the video can be received with the quality suitable for the video characteristics according to the network conditions will be described.
  • FIG. 13 is a diagram showing a configuration of a video transmission system according to Embodiment 2 of the present invention.
  • the video transmission apparatus 200 and the video reception apparatus 250 in this video transmission system have the same basic configurations as the video transmission apparatus 100 and the video reception apparatus 150 in the video transmission system shown in FIG. 2, respectively.
  • the same components are denoted by the same reference numerals and the description thereof is omitted.
  • the video transmission device 200 includes a video coding unit 104a, a video characteristic calculation unit 202, and a priority calculation unit 204. Also, the video reception device 250 does not have the terminal information transmission unit 125 shown in FIG. Similar to the video coding unit 104 shown in FIG. 2, the video coding unit 104a hierarchically codes the image output from the video input unit 102 as an input image, and the obtained coded data is divided into channel division units. Output to 06.
  • the base layer (BL), the enhancement layer 1 (EL 1) for improving the image quality, and the motion smoothness are Generate encoded data consisting of enhancement layer 2 (EL 2), enhancement layer 3 (EL 3), and enhancement layer 4 (EL 4) to be raised (see Fig. 3), and output it.
  • the video encoding unit 104 a further outputs the base layer (BL) to the video characteristic calculation unit 202.
  • the video characteristic calculation unit 202 extracts the motion vector from the basic layer (BL) output from the video encoding unit 104 a, calculates the video characteristic of the input video, and obtains the obtained video characteristic. The value is output to priority calculation unit 2 0 4. Details of the process will be described later.
  • the priority calculation unit 204 determines the priority of each channel using the video characteristic value output from the video characteristic calculation unit 202, and outputs a priority map to the channel division unit 106.
  • the operation of the video transmission apparatus 200 having the above configuration will be described using the flowchart shown in FIG. Note that the flowchart shown in FIG. 14 is stored as a control program in a storage device (for example, ROM, flash memory, etc., not shown) of the video transmission device 200, and is executed by the network CP which is also not shown.
  • a storage device for example, ROM, flash memory, etc., not shown
  • step S 1 250 is inserted into the flow chart shown in FIG. 5 and step S 120 0 is deleted.
  • Steps S 1 0 0 0 and S 1 1 0 0 are the same as the steps in the flowchart shown in FIG. However, in the present embodiment, at the time of the video encoding process in step S 1 100, the video encoding unit 1 0 4 a is configured to process the encoded data of the base layer (B) in the video characteristic calculation unit 2 0. Output to 2.
  • step S 1 250 the video characteristic calculation unit 202 extracts the motion vector from the base layer (B) output from the video encoding unit 1 0 4 a and outputs the input video image.
  • the characteristic is calculated, and the obtained image characteristic value is output to the priority calculation unit 204.
  • motion vector information is extracted using the encoded data of the base layer output from the video encoding unit 104 a, and the absolute sum of the extracted motion vectors is calculated. Let the calculated absolute sum be the image characteristic value M.
  • the image characteristic value M is a value representing the magnitude of motion in the image, and the larger the value of M is, the larger the motion is. Conversely, the smaller the value of M, the smaller the motion is. It is a big picture.
  • the video characteristic value is the absolute sum of motion vectors
  • the present invention is not limited to this, and it is possible to represent the size of the motion of the video. It may be something.
  • step S1300 the priority calculation unit 204 determines the priority of each channel using the video characteristic value output from the video characteristic calculation unit 202, and the priority map is Output to divided part 106.
  • the quality to be emphasized is determined using the video characteristics, and the priority of each channel is determined based on the quality to be emphasized.
  • the procedure is as follows.
  • the video characteristic value M is compared with the threshold value T H to determine the quality to be emphasized.
  • the smoothness of motion is higher as the video characteristic value is larger, that is, the larger the motion of the video, motion is emphasized.
  • the video characteristic value M exceeds the threshold TH (M> TH)
  • the video characteristic value M is assumed, otherwise the video characteristic value M is equal to or less than the threshold TH (for example, In the case of M ⁇ TH), the image quality is emphasized.
  • Steps S 1 4 0 to S 1 7 0 0 are the same as the steps of the flowchart shown in FIG.
  • the hierarchical coding is divided into different channels by quality 'band and the group list by quality is transmitted, a plurality of receiving terminals can It is possible to freely select the priority quality and receive the video.
  • the quality that greatly affects the subjective image quality with respect to the input video in the usable transmission band of each terminal Priority can be received. That is, it is possible to realize video transmission with an emphasis on appropriate quality in accordance with the video characteristics.
  • hierarchically encoded data is divided by quality and band, and the priority calculated for each bucket in each channel is added and transmitted by another channel, and a group list by quality is transmitted.
  • FIG. 15 is a diagram showing a configuration of a video transmission system according to Embodiment 3 of the present invention.
  • the video transmission device 300 in this video transmission system has the same basic configuration as the video transmission device 100 in the video transmission system shown in FIG. 2, and the same components have the same reference numerals. The explanation is omitted.
  • the video receiving apparatus 150 is completely the same as that shown in FIG. 2, the description thereof will be omitted.
  • the video transmission device 300 has a channel division unit 302.
  • the channel division unit 302 divides the encoded data output from the video encoding unit 104 into a plurality of parts, assigns separate channels to each divided data, and outputs the divided data from the priority calculation unit 1 12. Priorities are added, and further, bucket division is performed for each channel, packet priorities are calculated, packets are prioritized, and video transmission is performed.
  • the divided data is output to the receiving unit 108, and the divided list is output to the group list calculating unit 114. Details of the process will be described later.
  • the flowchart shown in FIG. 16 is stored as a control program in a storage device (for example, a ROM, a flash memory, etc.) (not shown) of the video transmission device 300, and is executed by a CPU (not shown).
  • a storage device for example, a ROM, a flash memory, etc.
  • step S 1420 and step S 1440 are inserted into the flowchart shown in FIG. 5, and step S 1400 is deleted.
  • Steps S 1 00 to S 1 300 are the same as the steps of the flowchart shown in FIG.
  • step S 1420 channel division section 302 divides encoded data in the same manner as in the first embodiment.
  • the base layer is one channel (BL)
  • enhancement layers (EL) 1 to 4 are each divided by a predetermined amount of data to be separate channels (see Fig. 4).
  • the priority (see FIG. 8A) output from the priority calculation unit 112 is assigned to each channel (see FIG. 8B).
  • the channel division unit 302 also calculates the priority of packets that constitute the channel.
  • the packet is the minimum unit of data transmission, and refers to, for example, an IP packet.
  • the specific procedure is as follows.
  • FIG.17 shows an example of bucket priority calculation.
  • Fig.17 A is a channel priority map and
  • Fig.17 B is base layer (BL), enhancement layer 1 (EL 1
  • FIG. 17 C shows an example of packet priority of a packet group divided for the channel EL 1-1.
  • Figure 17 shows that the lower the number, the higher the priority.
  • channel priority P is used, and in accordance with the following (equation 2),
  • i is the packet group number at which the packet is located
  • P i is the packet group priority
  • K is the number of divided channels
  • P is the channel priority. Note that the method for calculating the packet priority is not limited to the above (Equation 2).
  • Steps S 1 500 to S 1 700 are the same as the steps of the flowchart shown in FIG.
  • hierarchically encoded data is divided into different channels by quality and band, the channel is prioritized based on terminal information, and packets in the channel are further prioritized.
  • transmission since transmission is performed, it is possible to preferentially receive coded data of quality suitable for the terminal characteristics automatically with finer precision in the usable transmission band of each terminal.
  • the method of calculating the priority of the channel is not limited to the power S shown in the case of using the terminal information as in the first embodiment, and the method is not limited to this. It is also possible to use characteristics.
  • Hierarchical coded data is divided by quality ⁇ band and transmitted on different channels.
  • the type of prioritized quality is controlled according to the reception status of the receiving terminal, thereby achieving high subjective picture quality.
  • FIG. 18 is a diagram showing a configuration of a video transmission system according to Embodiment 4 of the present invention.
  • the video receiving apparatus 450 in this video transmission system has the same basic configuration as the video receiving apparatus 150 in the video transmission system shown in FIG. 2, and the same components have the same reference numerals. The explanation is omitted.
  • the video transmission apparatus 100 is completely the same as that shown in FIG. 2, the description thereof will be omitted.
  • the feature of this embodiment is to control the type of quality to be prioritized according to the reception status of the receiving terminal (for example, the data loss rate or the packet loss rate). Therefore, the video reception device 450 has a reception status calculation unit 4 52, a reception channel determination unit 4 5 4, and a video reception unit 1 6 0 a.
  • the video receiving section 160a receives the encoded data corresponding to the channel number output from the receiving channel determining section 454, and receives the encoded data.
  • the data is output to the video decoding unit 126.
  • the total number of reception channels and the total number of channels that can successfully receive data are further output to reception status calculation unit 452.
  • the reception status calculation unit 42 5 calculates the reception status using the information output from the video reception unit 160a. Specifically, the data loss rate L is calculated using the total number of reception channels and the total number of channels successfully received which are output from the video reception unit 160a, and the calculated data loss rate L is used as a reception channel determination unit. Output to 5 5 4. Details of the process will be described later.
  • Reception channel determination unit 4 5 4 determines priority quality using data loss rate L output from reception status calculation unit 4 5 2, and determines the determined priority quality and group list reception unit 1 5 6 Channel number to receive using group list Are determined, and the determined channel number is output to the video reception unit 160a. However, if there is no output from the reception status calculation unit 4 52 or the group list reception unit 1 56, the channel number determined last is output to the video reception unit 1 6 0 a. Details of the process will be described later.
  • the flowchart shown in FIG. 19 is stored as a control program in a storage device (for example, ROM, flash memory, etc., not shown) of the video reception device 450, and is not shown. Executed by PU.
  • step S 2 0 5 0 is inserted into the flow chart shown in FIG. 10, and step S 2 0 0 0 is deleted.
  • step S 2 0 5 the data loss rate L is calculated using the information (total number of received channels and total number of channels successfully received) output from the video reception unit 1 6 0 a in the reception status calculation unit 4 5 2
  • the calculated and calculated data loss rate L is output to the reception channel determination unit 45 4.
  • the data loss rate L is, for example, the following (Equation 3),
  • Steps S 2 1 0 to S 2 6 0 0 are the same as the steps in the flowchart shown in FIG. However, in the present embodiment, the following processing is performed in the reception channel determination processing in step S2200.
  • step S 220 the reception channel determination unit 4 54 determines the priority quality using the data loss rate L output from the reception status calculation unit 4 52, Further, the determined priority quality and the channel number to be received are determined using the group list output from the group list reception unit 156, and the determined channel number is output to the video reception unit 160a.
  • the data loss rate is used using the reception status of the receiving terminal. If the data loss rate is high, select a motion priority that has a high frame rate and a small impact on the subjective image quality, and if not, select the image quality priority, so the subjective image quality does not depend on the reception status. You can receive high-quality video. That is, the reception quality can be improved according to the reception situation.
  • each terminal when video is simultaneously received by a plurality of terminals having different characteristics, each terminal can receive video with a quality suitable for itself.
  • the present invention has the effect of enabling each terminal to receive video with a quality suitable for itself when a plurality of terminals having different characteristics receive video simultaneously. It can be applied to a video transmission system that transmits video through a network

Description

映像伝送システム
技術分野
本発明は、 ネットワークを通じて映像を伝送する映像伝送システムに関す る。
明 背景技術
従来の映像伝送システムで伝送される映像データは、 ある一定の伝送帯域 で伝送できるように、 通常、 H. 2 6 1方式や MP EG (Moving Picture Experts Group) 方式などによって一定帯域以下に圧縮符号化されており、一 度符号化された映像データは伝送帯域が変わっても映像品質を変えることは できない。
しかし、近年のネットワークの多様化に伴い、伝送路の帯域変動が大きく、 複数の帯域に見合った品質の映像を伝送可能な映像データが必要とされてお り、 これに対応するために、 階層構造を持ち複数帯域に対応できる階層符号 化方式が規格化されている。 このような階層符号化方式の中でも、 とりわけ 帯域選択に関して自由度が高い方式である MP E G— 4 F G S (Fine Granularity Scalability) が現在規格化されたところである。 MP EG— 4 FG Sにより符号化された映像データは、 単体で復号化が可能な動画像スト リームである一の基本レイヤと、 基本レイヤの複号化動画像品質を向上させ るための動画像ストリームである、 少なくとも一以上の拡張レイヤとで構成 される。 基本レイヤは低帯域で低画質の映像データであり、 これに拡張レイ ャを帯域に応じて足し合わせることにより自由度の高い高画質化が可能であ る。
MPEG— 4 FGSにおいては、伝送する拡張レイヤの総データサイズを 制御して様々な帯域に適応させることが可能であり、 帯域に応じた品質の映 像を伝送することが可能である。
しかし、 複数の端末で同時に映像を受信する場合には、 映像を受信する端 末の能力や各端末が使用するネットワークの特性(受信帯域)が異なるため、 端末ごとに必要とされる品質が異なるという課題がある。 なお、 ここでいう 品質には、たとえば、画質、フレームレート (動きの滑らかさ)、エラー耐性、 解像度、 遅延、 処理の複雑度などがある。
この点に関し、 ネットワークの輻輳などによりネットワーク状況が変動す る端末に対して、 ネットワークの特性に合わせて適切な品質で映像伝送を行 うための技術として、 映像ストリームを階層化し優先度の異なるチャネルで 伝送するようにしたものがある(たとえば、特開平 4一 1 0 0 4 9 4号公報、 第 1頁、 第 1図を参照)。
図 1は、 従来の映像符号化装置の構成の一例を示す図である。 この映像符 号化装置 1 0において、映像符号化回路 1 2は、入力した映像信号に対して、 動き補償■ D C T (Discrete Cosine Transform:離散コサイン変換) ·量子 化を用いた映像符号化を行い、 符号化データを階層化回路 1 4に出力する。 階層化回路 1 4は、 映像符号化回路 1 2から入力した符号化データに対して D C Tに用いられる N X N画素のブロック単位で M個の領域に分割し (ただ し、 N、 Mは共に自然数)、 M個の符号化データをバケツト化バッファ 1 6に 出力する。 ここで、 階層化回路 1 4のデータ分割においては、 M個の領域の うちある領域が破棄された場合に生じる画質劣化を測定し、 あらかじめ設定 された許容値に等しくなるように領域の大きさを制御している。 パケット化 バッファ 1 6は、 階層化回路 1 4から入力した分割符号化データに対して、 低周波成分を含む領域から高い優先度のチャネルで伝送する。
このように、 映像符号化装置 1 0においては、 D C T係数を領域分割し、 低周波成分から高い優先度のチャネルで伝送することにより、 ネットワーク の輻輳が発生した場合においても、 低い優先度のチャネルにおける符号化デ ータが破棄されるため、 帯域に応じた画質で映像を受信することが可能であ る。
しかしながら、 上記した従来の技術においては、 伝送帯域に応じた画質で 映像を受信することは可能であるが、 複数の受信端末がそれぞれ自由に優先 する品質の種類 (たとえば、 上記のように、 画質、 動きの滑らかさ、 エラー 耐性、 解像度や処理複雑度など) を選択することはできない。
たとえば、 限られた伝送帯域の中で表示画面の大きい端末は、 低画質で動 きが滑らかな映像よりも、 動きは滑らかでないが 1枚 1枚が高画質な画質優 先の映像を受信することが望ましい。 逆に、 画面の小さい端末は、 高画質で 動きが滑らかでない映像よりも、 低画質で動きが滑らかな映像を受信するこ とが望ましい。 また、 ネットワークでのエラー発生率が高い無線環境におけ る端末は、エラー耐性が弱くエラ一がない状況でのみ再生可能な映像よりも、 エラ一耐性が高くエラーの発生する状況においても再生可能な映像を受信す ることが望ましい。
このように、 特性 (端末能力や受信帯域) が異なる複数の端末で同時に映 像を受信する場合には、 映像品質の種類と程度を端末が自由に選択でき、 端 末の特性や状況に応じた適切な品質で映像を受信できることが必要とされて いる。 発明の開示
本発明の目的は、 特性が異なる複数の端末で同時に映像を受信する場合に おいて、 各端末が自己に適した品質で映像を受信することができる映像伝送 システムを提供することである。
本発明の一形態によれば、 映像伝送システムは、 ネットワークを通じて階 層符号化データを映像送信装置から映像受信装置に伝送する映像伝送システ ムであって、 前記映像送信装置は、 階層符号化データを品質別または品質お よび帯域別に別々のチヤネルに分割する分割手段と、 分割された階層符号化 データを互いに別チャネルで送信する第 1送信手段と、 品質別にチャネルを グルーピングしてグループリストを算出する算出手段と、 算出されたグルー プリストを送信する第 2送信手段と、 を有し、 前記映像受信装置は、 前記映 像送信装置から送信されたグループリストを受信する第 1受信手段と、 受信 されたグループリストを用いて受信チャネルを決定する決定手段と、 前記映 像送信装置から送信された分割階層符号化データのうち、 決定された受信チ ャネルのデータを受信する第 2受信手段と、 を有する。
本発明の他の形態によれば、 映像送信装置は、 階層符号化データを品質別 または品質および帯域別に別々のチヤネルに分割する分割手段と、 分割され た階層符号化データを互いに別チャネルで送信する第 1送信手段と、 品質別 にチャネルをグルーピングしてグループリストを算出する算出手段と、 算出 されたグループリストを送信する第 2送信手段と、 を有する。
本発明のさらに他の形態によれば、 映像伝送方法は、 ネットワークを通じ て階層符号化データを映像送信装置から映像受信装置に伝送する映像伝送方 法であって、 前記映像送信装置が、 階層符号化データを品質別または品質お よぴ帯域別に別々のチヤネルに分割するステップと、 前記映像送信装置が、 分割した階層符号化データを互いに別チヤネルで送信するステップと、 前記 映像送信装置が、 品質別にチャネルをグルーピングしてグループリストを算 出するステップと、 前記映像送信装置が、 算出したグループリストを送信す るステップと、 前記映像受信装置が、 前記映像送信装置から送信されたダル 一プリストを受信するステップと、 前記映像受信装置が、 受信したグループ リストを用いて受信チャネルを決定するステップと、 前記映像受信装置が、 前記映像送信装置から送信された分割階層符号化データのうち、 決定した受 信チャネルのデータを受信するステップと、 を有する。 図面の簡単な説明
図 1は、 従来の映像符号化装置の構成の一例を示す図、 図 2は、 本発明の実施の形態 1に係る映像伝送システムの構成を示す図、 図 3は、 M P E G— 4 F G S符号化を用いた場合の符号化データの構造の 一例を示す図、
図 4は、 1 3の符号化データに対するチャネル分割結果の一例を示す図、 図 5は、 施の形態 1に対応する映像送信装置の動作を示すフローチヤ一 卜、
図 6 Aは 優先度付与とグルービングを説明するための図、
図 6 Bは 動き重視の場合の優先度付与を説明するための図、
図 6 Cは 画質重視の場合の優先度付与を説明するための図、
図 7 Aは 動き重視の場合の優先度マップを示す図、
図 7 Bは 画質重視の場合の優先度マップを示す図、
図 8 Aは 優先度マップの一例を示す図、
図 8 Bは 上記優先度マップに基づく優先度付与後のチャネルを示す図、 図 9 Aは グループリストのうち動き優先グループを示す図、
図 9 Bは グループリストのうち画質優先グループを示す図、
図 9 Cは グループリス トのうちフルクオリティグループを示す図、 図 1 0は 実施の形態 1に対応する映像受信装置の動作を示すフローチヤ ート、
図 1 1は 実施の形態 1に対応する映像伝送システムにおける主要な情報 のやり取りを示すシーケンス図、
図 1 2は、 実施の形態 1の映像伝送システムの適用例を示す図、 図 1 3は、本発明の実施の形態 2に係る映像伝送システムの構成を示す図、 図 1 4は、 実施の形態 2に対応する映像送信装置の動作を示すフローチヤ 一ト、
図 1 5は、本発明の実施の形態 3に係る映像伝送システムの構成を示す図、 図 1 6は、 実施の形態 3に対応する映像送信装置の動作を示すフローチヤ ート、 図 1 7 Aは、 チャネルの優先度マップの一例を示す図、
図 1 7 Bは、 上記チャネル優先度マップに基づく優先度付与後のチャネル の一部を示す図、
図 1 7 Cは、 バケツト分割とバケツト優先度の一例を示す図、
図 1 8は、本発明の実施の形態 4に係る映像伝送システムの構成を示す図、 図 1 9は、 実施の形態 4に対応する映像受信装置の動作を示すフローチヤ 一トである。 発明を実施するための最良の形態
本発明の骨子は、 階層符号化された映像ストリームを伝送するシステムに おいて、 その階層符号化された映像ストリームを品質別または品質および帯 城別に分割し別チャネルで伝送するとともに、 品質別にチヤネルをグルーピ ングしそのリストを送信することにより、 複数の受信端末がそれぞれ映像の 受信品質を選択でき、 適切な品質で映像を受信できることである。
また、 その際、 優先する品質に合わせて各チャネルに優先度を付けて伝送 を行う (このとき、 ネッ トワークノードは優先度に従つたパケット伝送を行 う) ことにより、 限られた帯域において、 受信端末が、 優先する品質のダル ープを選択して受信し、 自動的に最高品質の映像を受信できることである。 以下、 本発明の実施の形態について、 図面を参照して詳細に説明する。
(実施の形態 1 )
本実施の形態では、 階層符号化データを品質 ·帯域別にチャネル分割し、 端末情報を用いて算出した優先度を付加して別チャネルで伝送するとともに、 品質別にチャネルをグルーピングしたダル一プリストを送信することにより、 受信端末が優先する品質を選択でき、 ネットワークの状況に応じ端末特性に 適した品質で映像を受信することができる映像伝送システムについて説明す る。
図 2は、 本発明の実施の形態 1に係る映像伝送システムの構成を示す図で ある。
この映像伝送システムは、映像を送信する映像送信装置 (以下「送信端末」 ともいう) 1 00と、 映像を受信する映像受信装置 (以下 「受信端末」 とも いう) 1 50と、 映像送信装置 100から送信された映像を映像受信装置 1 50に中継するネッ トワーク 1 80とを有する。 すなわち、 映像送信装置 1 00から送信された映像は、 ネットワーク 1 80を通じて映像受信装置 1 5 0に伝送される。
映像送信装置 1 00は、 映像入力部 1 02、 映像符号化部 104、 チヤネ ル分割部 1 06、 映像送信部 1 08、 端末情報受信部 1 1 0、 優先度算出部 1 1 2、 グループリスト算出部 1 14、 およびグループリスト送信部 1 1 6 を有する。
映像入力部 1 02は、 外部から提供されたまたは当該装置 100で生成さ れた映像を構成する画像を 1フレームごとに映像符号化部 1 04に出力する。 映像符号化部 1 04は、 映像入力部 1 02から出力された画像を入力画像 として階層符号化し、 得られた符号化データをチヤネル分割部 1 06に出力 する。
たとえば、階層符号化として MP EG— 4 FG S符号化を用いる場合、符 号化データの構造の一例は、 図 3に示すとおりである。 すなわち、 映像符号 化部 104は、 入力画像に対して基本レイヤ (B L) と、 画質を向上させる 拡張レイヤ 1 (EL 1) と、 動きの滑らかさを向上させる拡張レイヤ 2 (E L 2)、 拡張レイヤ 3 (E L 3)、 拡張レイヤ 4 (E L4) とからなる符号化 データを生成し、 チャネル分割部 1 06に出力する。
この場合、 基本レイヤに拡張レイヤ 1を加えることにより、 画質を向上す ることができ、 また、 基本レイヤに拡張レイヤ 2、 拡張レイヤ 3、 拡張レイ ャ 4の順でデータを加えることにより、 動きがより一層滑らかになる。 さら に、 拡張レイヤは下位層 (映像ス トリームの先頭) からデータを複数に分割 することができ、 基本レイヤに加えるデータの量を制御することによって、 向上させる品質の程度を制御することが可能である。
チャネル分割部 1 0 6は、 映像符号化部 1 0 4から出力された符号化デー タを複数に分割し、 各分割データに別々のチャネルを割り当てるとともに優 先度算出部 1 1 2から出力される優先度を付加して映像送信部 1 0 8に出力 する。 また、 分割データと割り当てチャネルとのリス トである分割リス トを 生成し、 グループリス ト算出部 1 1 4に出力する。 たとえば、 チャネル分割 結果の一例は、 図 4に示すとおりである。 処理の詳細については、 後で説明 する。
映像送信部 1 0 8は、 チャネル分割部 1 0 6から出力された分割データを 対応する別々のチヤネルでネットワーク 1 8 0に伝送する。 具体的には、 た とえば、 分割され別々のチャネルに割り当てられた符号化データを、 指定さ れた優先度をへッダに付加して別々のチヤネルでマルチキャス ト送信する。 優先度は、 たとえば、 I P ( Internet Protocol) ヘッダ内に記述することが できる。 また、 チャネルは、 たとえば、 マルチキャストァドレスで示される ものとする。 ここで、 マルチキャスト送信とは、 1つの送信端末から同時に 複数の端末にデータを送信方式であり、 送信データチャネルであるマルチキ ヤストァドレスを受信指定した端末に対してのみデータ転送する方式であり、 複数の受信端末が受信を行う場合においても同一伝送路内では伝送されるデ 一タに重複がないため、 伝送効率が良い伝送方式である。
なお、 映像ストリ一ムの送信方法は、 もちろん、 マルチキャスト送信に限 定されない。
端末情報受信部 1 1 0は、 受信端末 (映像受信装置 1 5 0 ) から送信され る端末情報を受信し、優先度算出部 1 1 2に出力する。ここで、端末情報は、 受信端末に関する情報であって優先すべき品質を示すことができるものであ れば、 どのような情報でもよい。 端末情報としては、 たとえば、 受信端末が 使用する表示デバイスの画面サイズや端末の処理能力や端末が接続されてい るネットワークのエラ一発生率などを挙げることができる。 優先度算出部 1 1 2は、 端末情報受信部 1 1 0から出力された端末情報を 用いてチャネルの優先度を決定し、 決定した優先度をチャネル分割部 1 0 6 に出力する。 処理の詳細については、 後で説明する。
グループリスト算出部 1 1 4は、 チャネル分割部 1 0 6から出力された分 割リストを用いて、 優先品質と受信すべきチャネルとのリストであるグルー プリストを生成し、 グループリスト送信部 1 1 6に出力する。 処理の詳細に ついては、 後で説明する。
グループリス ト送信部 1 1 6は、 グループリス ト算出部 1 1 4から出力さ れたグループリストをネットワーク 1 8 0に伝送する。 具体的には、 たとえ ば、 グループリストを、 ネットワーク 1 8 0を通じて、 すべての受信端末に 送信する。
なお、 本実施の形態では、 グループリス トの送信を必ず行う場合を例にと つて説明するが、 これに限定されない。 たとえば、 伝送路の混雑を避けるた め、 一定の間隔で送信することも可能である。
ネットワーク 1 8 0は、 図示しないノード (ネットワークノード) を有す る。 ネットワークノードは、 チャネルに付加された優先度に従ってデータの 伝送 (パケット伝送) を行う。 具体的には、 ネットワークが混雑している場 合は、 優先度の低いチャネルからデータを破棄し、 優先度の高いチャネルの データ伝送を保証する。 また、 送信端末 1 0 0から送信される複数のチヤネ ルのうち受信端末 1 5 0が選択しているチャネルのデータのみを当該受信端 末 1 5 0に転送する。 ネットワークノードは、 たとえば、 ルータである。 映像受信装置 1 5 0は、 端末情報送信部 1 5 2、 優先品質入力部 1 5 4、 グループリスト受信部 1 5 6、 受信チャネル決定部 1 5 8、 映像受信部 1 6 0、 映像復号化部 1 6 2、 および映像表示部 1 6 4を有する。
端末情報送信部 1 5 2は、 当該映像受信装置 1 5 0の端末情報を映像送信 装置 1 0 0に送信する。 たとえば、 端末情報として表示画面の大きさを送信 する。 端末情報は、 上記のように、 受信端末に関する情報であって優先すベ き品質を示すことができるものであれば、 どのような情報でもよい。
なお、 本実施の形態では、 映像データを受信する度に端末情報を送信する 場合を例にとって説明するが、 これに限定されない。 たとえば、 伝送路の混 雑を避けるため、 一定の間隔で送信することも可能である。
優先品質入力部 1 5 4は、 ユーザが指定した優先する品質 (たとえば、 画 質優先、 動き優先など) を受信チャネル決定部 1 5 8に出力する。 ただし、 ユーザからの指定がない場合は、 優先品質の出力は行わない。
グループリスト受信部 1 5 6は、 送信端末 (映像送信装置 1 0 0 ) から送 信されたグループリスト (上記のように、 品質とチャネルを示すリスト) を 受信し、 受信チャネル決定部 1 5 8に出力する。
受信チャネル決定部 1 5 8は、 優先品質入力部 1 5 4から出力された優先 品質とグループリスト受信部 1 5 6から出力されたダル一プリストを用いて、 受信すべきチャネルを決定する。 具体的には、 受信するチャネル番号を決定 し、 決定したチャネル番号を映像受信部 1 6 0に出力する。 ただし、 優先品 質入力部 1 5 4またはグループリス ト受信部 1 5 6からの出力がない場合は、 前回決定したチャネル番号を映像受信部 1 6 0に出力する。 処理の詳細につ いては、 後で説明する。
映像受信部 1 6 0は、 受信チャネル決定部 1 5 8から出力されたチヤネノレ 番号に対応する符号化データを受信し、 受信した符号化データを映像複号化 部 1 6 2に出力する。
映像複号化部 1 6 2は、 映像受信部 1 6 0から出力された符号化データを 復号化し、 複号化して得られた映像を映像表示部 1 6 4に出力する。
映像表示部 1 6 4は、 映像復号化部 1 6 2から出力された映像を画面に表 示する。 映像表示部 1 6 4は、 表示デバイスで構成されている。
次いで、 上記構成を有する映像送信装置 1 0 0の動作について、 図 5に示 すフローチャートを用いて説明する。 なお、 図 5に示すフローチャートは、 映像送信装置 1 0 0の図示しない記憶装置 (たとえば、 R O Mやフラッシュ メモリなど) に制御プログラムとして記憶されており、 同じく図示しない C P Uによって実行される。
まず、 ステップ S 1 0 0 0では、 映像入力部 1 0 2で、 映像を構成する画 像を 1フレームごとに映像符号化部 1 0 4に出力する。
そして、 ステップ S 1 1 0 0では、 映像符号化部 1 0 4で、 映像入力部 1 0 2から出力された画像に対して階層符号化を行い、 得られた符号化データ をチャネル分割部 1 0 6に出力する。 たとえば、 階層符号化として M P E G - 4 F G S符号化を用いる場合、 符号化データは、 基本レイヤ (B L ) と複 数の拡張レイヤ ( E L ) とで構成される。 ここでは、 一例として、 図 3に示 すように、符号化データが 1つの基本レイヤ ( B L ) と 4つの拡張レイヤ ( E L l〜4 ) とで構成される場合を例にとつて説明する。
—方、 ステップ S 1 2 0 0では、 端末情報受信部 1 1 0で、 複数の受信端 末 1 5 0から送信された端末情報を受信し、優先度算出部 1 1 2に出力する。 ここでは、 一例として、 たとえば、 端末情報は、 受信端末 1 5 0が使用する 表示デバイスの画面サイズ ( Dインチ) であるとする。
ただし、 上記のように、 端末情報は、 画面サイズに限定されるわけではな く、 たとえば、 ユーザの好み (動き優先、 画質優先) などの優先すべき品質 を示すことができる情報であれば使用可能である。
そして、 ステップ S 1 3 0 0では、 優先度算出部 1 1 2で、 端末情報受信 部 1 1 0から出力された端末情報を用いて各チャネルの優先度を決定し、 決 定した優先度をチャネル分割部 1 0 6に出力する。 すなわち、 端末情報が受 信された場合は、 受信された端末情報を用いて優先度を決定し、 決定した優 先度をチャネル分割部 1 0 6に出力する。 これに対し、 端末情報が受信され ない場合は、 前回の優先度をチャネル分割部 1 0 6に出力する。
具体的には、 複数の端末情報 D— n ( nは端末番号) を用いて重視する品 質を決定し、 この重視する品質に基づいて各チャネルの優先度を決定する。 手順は、 次のとおりである。 1) 平均画面サイズの算出
複数の端末情報 D— nを用いて、 次の (式 1) により、
1 N
D =丄>"£1 n ··· (式 1)
- N - 平均画面サイズ D— A VRを算出する。 ここで、 Nは端末の総数である。
2) 重視する品質の決定
平均画面サイズ D__ A V Rをしきい値 T Hと比較して、 重視する品質を決 定する。 ここでは、 端末の表示画面サイズが大きいほど、 1枚 1枚の画質が 高品位であることが望ましいため、画質重視とする。具体的には、たとえば、 平均画面サイズ D— AVRがしきい値 THを超える (D— AVR>TH) 場 合は、 画質重視とし、 そうでない場合、 つまり、 平均画面サイズ D— AVR がしきい値 TH以下 (D— AVR TH) の場合は、 動き重視とする。
3) 優先度の決定
重視する品質に基づいて各チャネルの優先度を決定する。 具体的には、 動 き重視の場合は、 動き向上 (時間スケーラビリティ) の方向にチャネル優先 度を上げ (図 6A、 図 6 B参照)、 画質重視の場合は、 画質向上 (画質スケー ラビリティ) の方向にチャネル優先度を上げる (図 6 A、 図 6 C参照)。 これを図 7の優先度マップ (チャネルと優先度を示すマップ) を用いて説 明すると、動き重視の場合は、優先度マップの X方向に優先度を上げ、逆に、 画質重視の場合は、 優先度マップの Y方向に優先度を上げる。 たとえば、 動 き重視の場合は、 図 7 Aに示すように優先度を設定し、 画質重視の場合は、 図 7 Bに示すように優先度を設定する。 なお、 優先度マップについては、 後 で再度説明する。 また、 優先度マップは、 図 7に示す方法に限定されない。 図 7において、 数字が小さい程、 優先度が高いことを表す。
このように端末情報に合わせて優先度を決定することにより、 いかなる帯 域においても端末の特性に適した品質の種類に関して高い優先度で伝送する ことが可能になる。 そして、 ステップ S 1400では、 チャネル分割部 1 06で、 映像符号化 部 1 04から出力された符号化データを複数に分割し、 各分割データに別々 のチャネルを割り当てるとともに優先度算出部 1 1 2から出力される優先度 を付加して映像送信部 1 08に出力する。
具体的に、 たとえば、 図 3に示す構造の符号化データを例にとって説明す ると、 まず、 基本レイヤ (B L) を 1つのチャネルとし、 拡張レイヤ (E L) 1〜4をそれぞれあらかじめ決められたデータ量で分割し別チャネルとする。 たとえば、 4つに分割する場合、 各チヤネルのビットレートが設定ビット レート B— B L、 B— E L 1、 B_E L 2、 B— EL 3となるように、 拡張 レイヤ 1を E L 1— 1〜E L— 3に、 拡張レイヤ 2を E L 2— 0〜 E L 2— 3に、 拡張レイヤ 3を E L 3— 0〜E L 3— 3に、 拡張レイヤ 4を E L 4__ 0〜E L 4— 3にそれぞれ分割し、 合計で 4 XNに分割する (図 4のチヤネ ル分割例参照。 この場合、 N=4)。 なお、 当然のことながら、 分割数は 4に 限定されない。
次に、優先度算出部 1 1 2から出力された優先度を各チャネルに付与する。 たとえば、 図 8 Aは、 優先度マップを示しており、 この優先度マップは、 4 X 4のマトリクスで構成されている。 優先度マップにおいて、 左下 (X, Y) = (0, 0) は基本レイヤ B Lの優先度を示し、 基本レイヤ B Lから X方向に 行くにつれて順に拡張レイヤ E L 2— 0〜E L 4— 0の優先度を、 Υ方向に 行くにつれて順に拡張レイヤ E L 1— 1〜E L 1—2の優先度をそれぞれ示 している。 一般に、 (X, Υ) = ( I, J ) は、 E L ( I + 1 ) — Jの優先度を 示している。 図 4のチャネル分割結果に図 8 Aの優先度マップを適用して得 られる、 優先度付与後のチャネルは、 図 8 Bに示すとおりである。
そして、 ステップ S 1 500では、 グループリスト算出部 1 14で、 チヤ ネル分割部 1 06から出力された分割リストを用いて、 優先する品質別に受 信すべきチャネルを示したグループリストを生成し、 グループリスト送信部 1 1 6に出力する。 図 9は、 グループリストの一例を示している。 この例では、 3つのグルー プ (動き優先、 画質優先、 フルクオリティ) を算出する場合を示している。 なお、 グループリストは、 もちろん、 3つに限定されない。 1つ以上のチヤ ネルの組み合わせであれば、 どのようなグループでもよい。 たとえば、 同じ 種類の品質について、 程度の異なる複数のグループを設けてもよい (たとえ ば、図 6 Aにおける動き優先グループ 1と 2、画質優先グループ 1と 2参照)。 すなわち、品質の種類と程度が異なるグループを任意に設けることができる。 図 9の例において、 (Χ , Υ ) = ( 0 , 0 )は、 基本レイヤ B Lに対応し、 (X , Υ ) = ( I , J ) は、 チャネル E L ( 1 + 1 ) — Jに対応し、 丸 (〇) を付け たチャネルは、当該グループで受信すべきチャネルを示している。すなわち、 動き優先グループの場合は、 動きを向上する拡張レイヤのチャネルを優先的 に受信するリストを生成し、 画質優先グループの場合は、 画質を向上する拡 張レイヤのチャネルを優先的に受信するリストを生成し、 フルクオリティグ ループの場合は、 全チャネルを受信するリストを生成する。 このようにダル —プリストを生成することにより、 受信端末が優先する品質に合わせてチヤ ネルを受信し、 選択した品質において最適な映像を受信することが可能であ る
そして、 ステップ S 1 6 0 0では、 グループリスト送信部 1 1 6で、 グル ープリスト算出部 1 1 4から出力されたグループリストをネットワーク 1 8 0に伝送する。 具体的には、 たとえば、 グループリストを、 ネットワーク 1 8 0を通じて、 すべての受信端末に送信する。 なお、 本実施の形態では、 グ ループリストの送信を必ず行うようにしているが、 これに限定されるわけで はなく、 たとえば、 上記のように、 伝送路の混雑を避けるため、 一定の間隔 で送信することも可能である。
そして、 ステップ S 1 7 0 0では、 映像送信部 1 0 8で、 チャネル分割部 1 0 6から出力された分割データを対応する別々のチャネルでネットワーク 1 8 0に伝送する。 具体的には、 たとえば、 上記のように、 分割され別々の チャネルに割り当てられた符号化データを、 指定された優先度をヘッダに付 加して別々のチャネルでマルチキャスト送信する。 このとき、 チャネルは、 たとえば、 マルチキャストァドレスで示されている。
次いで、 上記構成を有する映像受信装置 1 5 0の動作について、 図 1 0に 示すフローチャートを用いて説明する。 なお、 図 1 0に示すフローチャート は、 映像受信装置 1 5 0の図示しない記憶装置 (たとえば、 R O Mやフラッ シュメモリなど) に制御プログラムとして記憶されており、 同じく図示しな い C P Uによって実行される。
まず、 ステップ S 2 0 0 0では、 優先品質入力部 1 5 4で、 ユーザが指定 した優先する品質を受信チャネル決定部 1 5 8に出力する。 ここでは、 たと えば、 動き優先、 画質優先、 フルクオリティの 3つの種類の中から 1つを選 択するものとする (図 9参照)。 ただし、 上記のように、 ユーザからの指定が ない場合は優先品質の出力は行わない。
一方、 ステップ S 2 1 0 0では、 グループリスト受信部 1 5 6で、 送信端 末 1 0 0から送信されたグループリストを受信し、 受信チャネル決定部 1 5 8に出力する。
ステップ S 2 2 0 0では、 受信チャネル決定部 1 5 8で、 優先品質入力部 1 5 4から出力された優先品質とグループリスト受信部 1 5 6から出力され たグループリス 1、を用いて、 受信すべきチャネルを決定する。
たとえば、 図 9のグループリストを受信した場合を考える。 この場合、 優 先品質が動き優先の場合は、 図 9 Aに示す丸 (〇) のチャネルを受信するも のと、 優先品質が動き優先の場合は、 図 9 Bに示す丸 (〇) のチャネルを受 信するものと、 優先品質がフルクオリティの場合は、 図 9 Cに示す丸 (〇) のチャネルを受信するものとそれぞれ決定する。
ただし、 優先品質入力部 1 5 4またはグループリスト受信部 1 5 6力 らの 出力がない場合は、 前回決定したチャネル番号を映像受信部 1 6 0に出力す る。 そして、 ステップ S 2300では、 映像受信部 1 60で、 受信チャネル決 定部 1 58から出力されたチャネル番号に関して、 符号化データの受信を行 い、 受信した符号化データを映像復号化部 1 6 2に出力する。
そして、 ステップ S 2400では、 映像復号化部 1 6 2で、 映像受信部 1 60から出力された符号化データを復号化し、 得られた映像を映像表示部 1 64に出力する。
そして、 ステップ S 2500では、 映像表示部 1 64で、 映像複号化部 1 6 2から出力された映像を画面に表示する。
そして、 ステップ S 2600では、 端末情報送信部 1 5 2で、 当該受信端 末 1 50の端末情報を送信端末 1 00に送信する。 たとえば、 端末情報とし て、 上記のように、 端末が使用する表示デバイスの画面サイズ (Dインチ) を送信する。 なお、 本実施の形態では、 映像データを受信する度に端末情報 を送信するようにしているが、 これに限定されるわけではなく、 たとえば、 上記のように、 伝送路の混雑を避けるため、 一定の間隔で送信することも可 能である。
次いで、 上記構成の映像伝送システムにおける主要な情報のやり取りにつ いて、 図 1 1のシーケンス図を用いて説明する。
まず、 受信端末 1 50は、 端末情報 (たとえば、 表示画面のサイズ) を、 ネットワーク 1 80を通じて送信端末 1 00に送信する ((1))。
そして、送信端末 1 00は、受信端末 1 50からの端末情報を受信すると、 受信した端末情報を用いてチャネルの優先度を算出した後 ((2))、グループ リストを算出し、 算出したグループリストをネットワーク 1 80を通じて受 信端末 1 50に送信する ((3))。
そして、 受信端末 1 50は、 送信端末 1 00からのグループリス トを受信 すると、 受信したグループリストを用いて受信チャネルを決定する ((4))。 そして、 送信端末 1 00は、 入力映像に対して、 1フレームごとに、 映像 符号化とチャネル分割 (優先度付与を含む) を行い、 分割ノ優先度付与後の 符号化データを別々のチャネルでネットワーク 180を通じて受信端末 1 5 0に送信する ((5))。 その際、 ネットワーク 1 80は、優先度に応じたデー タ伝送 (バケツト伝送) を行う。
そして、 受信端末 1 50は、 送信端末 1 0,0からの符号化映像データを上 記受信チャネルで受信し、 復号化し、 画面に表示する ((6))。
図 1 2は、 本実施の形態の映像伝送システムの適用例を示している。 図 1 2において、 映像送信装置として映像サーバ 100が設けられ、 映像受信装 置として大画面端末 1 50 a、 小画面端末 1 50 b、 および低帯域端末 1 5 0 cが設けられている。映像サーバ 1 00と各端末 1 50 a〜 1 50 cとは、 ネットワーク 1 80を通じて互いに接続されている。ネットワーク 1 80は、 LAN 1 82, ィンターネット 1 84、 およぴモバイル網 1 86を有し、 L AN 1 8 2とインターネット 1 84はルータ 1 88を介して互いに接続され、 LAN 1 8 2とモバイル網 1 86はルータ 1 90を介して互いに接続されて いる。 すなわち、 映像サーバ 1 00と大画面端末 1 50 aとは LAN 1 8 2 を介して接続され、 映像サーバ 1 00と小画面端末 1 50 bとは LAN 1 8 2、 ルータ 1 88、 インターネット 1 84を介して接続され、 映像サーバ 1 00と低帯域端末 1 50 cとは LAN 1 8 2、 ルータ 1 90、 モバイル網 1 86を介して接続されている。
この場合、大画面端末 1 50 aは、画質優先で映像を受信することができ、 小画面端末 1 5 O bは、 動き優先で映像を受信することができ、 低帯域端末 1 50 cは、 エラー耐性優先で映像を受信することができる。
このように、 本実施の形態によれば、 階層符号化データを品質,帯域別に 別チャネルに分割し、 品質別のグループリストを送信するため、 複数の受信 端末がそれぞれ優先する品質を自由に選択し映像受信することができる。 また、 端末情報に基づいて各チャネルの優先度を算出し、 優先度を付けて 伝送を行うため、 端末の使用可能な伝送帯域において、 各端末は優先する品 質のグループを選択 ·受信し、 自動的に自己の特性に適した最高品質の映像 を受信することができる。 また、 端末特性に合わせた品質での映像伝送を実 現することができる。
(実施の形態 2)
本実施の形態では、 階層符号化データを品質■帯域別にチャネル分割し、 入力映像情報を用いて算出した優先度を付加して別チャネルで伝送するとと もに、 品質別のグループリストを送信することにより、 受信端末が優先する 品質を選択でき、 ネットワークの状況に応じ映像特性に適した品質で映像を 受信することができる映像伝送システムについて説明する。
図 1 3は、 本発明の実施の形態 2に係る映像伝送システムの構成を示す図 である。 なお、 この映像伝送システムにおける映像送信装置 200およぴ映 像受信装置 2 50は、 図 2に示す映像伝送システムにおける映像送信装置 1 00および映像受信装置 1 50とそれぞれ同様の基本的構成を有しており、 同一の構成要素には同一の符号を付し、 その説明を省略する。
本実施の形態の特徴は、 実施の形態 1ではチャネルの優先度を端末情報に 基づいて算出するのに対し、 ここでは、 映像特性に基づいてチャネル優先度 の算出を行うことである。 そのため、 映像送信装置 200は、 映像符号化部 1 04 a、 映像特性算出部 202、 およぴ優先度算出部 204を有する。 ま た、 映像受信装置 250は、 図 2の端末情報送信部 1 5 2を有していない。 映像符号化部 1 04 aは、 図 2の映像符号化部 1 04と同様に、 映像入力 部 1 02から出力された画像を入力画像として階層符号化し、 得られた符号 化データをチャネル分割部 1 06に出力する。 たとえば、 階層符号化として MP EG— 4 FG S符号化を用いる場合、入力画像に対して、基本レイヤ(B L) と、 画質を向上させる拡張レイヤ 1 (E L 1) と、 動きの滑らかさを向 上させる拡張レイヤ 2 (E L 2)、拡張レイヤ 3 (E L 3)、拡張レイヤ 4 (E L 4) とからなる符号化データを生成し (図 3参照)、 出力する。 ただし、 本 実施の形態では、 映像符号化部 1 04 aは、 さらに、 基本レイヤ (B L) を 映像特性算出部 202に出力する。 映像特性算出部 2 0 2は、 映像符号化部 1 0 4 aから出力された基本レイ ャ (B L ) から動きベク トルを抽出して入力映像の映像特性を算出し、 得ら れた映像特性値を優先度算出部 2 0 4に出力する。 処理の詳細については、 後で説明する。
優先度算出部 2 0 4は、 映像特性算出部 2 0 2から出力された映像特性値 を用いて各チャネルの優先度を決定し、 優先度マップをチャネル分割部 1 0 6に出力する。
次いで、 上記構成を有する映像送信装置 2 0 0の動作について、 図 1 4に 示すフローチヤ一トを用いて説明する。 なお、 図 1 4に示すフローチャート は、 映像送信装置 2 0 0の図示しない記憶装置 (たとえば、 R O Mやフラッ シュメモリなど) に制御プログラムとして記憶されており、 同じく図示しな レヽ C P Uによって実行される。
本実施の形態では、 図 1 4に示すように、 ステップ S 1 2 5 0を図 5に示 すフローチヤ一トに揷入し、 ステップ S 1 2 0 0を削除している。
ステップ S 1 0 0 0およびステップ S 1 1 0 0は、 図 5に示すフローチヤ 一トの各ステップと同様であるため、 その説明を省略する。 ただし、 本実施 の形態では、 ステップ S 1 1 0 0の映像符号化処理の際に、 映像符号化部 1 0 4 aで、 基本レイヤ ( Bし) の符号化データを映像特性算出部 2 0 2に出 力する。
そして、 ステップ S 1 2 5 0では、 映像特性算出部 2 0 2で、 映像符号化 部 1 0 4 aから出力された基本レイヤ ( Bし) から動きべク トルを抽出して 入力映像の映像特性を算出し、 得られた映像特性値を優先度算出部 2 0 4に 出力する。 具体的には、 たとえば、 映像符号化部 1 0 4 aから出力された基 本レイヤの符号化データを用いて動きべク トノレを抽出し、 抽出した動きべク トルの絶対和を算出し、 算出した絶対和を映像特性値 Mとする。
ここで、 映像特性値 Mは、 映像中の動きの大きさを表す値であり、 Mの値 が大きいほど動きの大きい映像であり、 逆に、 Mの値が小さいほど動きの小 さい映像である。
なお、 本実施の形態では、 映像特性値を動きベク トルの絶対和としたが、 これに限定されるわけではなく、 映像の動きの大きさを表すことができるも のであれば、 どのようなものでもよい。
そして、 ステップ S 1 3 0 0では、 優先度算出部 2 0 4で、 映像特性算出 部 2 0 2から出力された映像特性値を用いて各チャネルの優先度を決定し、 優先度マップをチャネル分割部 1 0 6に出力する。
具体的には、 まず映像特性を用いて重視する品質を決定し、 この重視する 品質に基づいて各チャネルの優先度を決定する。手順は、次のとおりである。
1 ) 重視する品質の決定
映像特性値 Mをしきい値 T Hと比較して、 重視する品質を決定する。 ここ では、 映像特性値が大きいほど、 つまり、 動きの大きい映像であるほど、 動 きの滑らかさが高いことが望ましいため、 動き重視とする。 具体的には、 た とえば、 映像特性値 Mがしきい値 T Hを超える (M > T H) 場合は、 動き重 視とし、 そうでない場合、 つまり、 映像特性値 Mがしきい値 T H以下 (M≤ T H) の場合は、 画質重視とする。
2 ) 優先度の決定
重視する品質に基づいて各チャネルの優先度を決定する。 たとえば、 上記 のように、動き重視の場合は、優先度マップの X方向に優先度を上げ、逆に、 画質重視の場合は、 優先度マップの Y方向に優先度を上げる (図 7 A、 図 7 B参照)。 このように映像特性に合わせて優先度を決定することにより、映像 特性に合わせ、 いかなる帯域においても主観画質を高く保っための品質に関 して高い優先度で伝送することが可能になる。
ステップ S 1 4 0 0〜ステップ S 1 7 0 0は、 図 5に示すフローチヤ一ト の各ステップと同様であるため、 その説明を省略する。
このように、 本実施の形態によれば、 階層符号化を品質 '帯域別に別チヤ ネルに分割し、 品質別のグループリストを送信するため、 複数の受信端末が それぞれ優先する品質を自由に選択し映像受信することができる。
また、 映像特性に基づいて各チャネルの優先度を算出し、 優先度を付けて 伝送を行うため、 各端末の使用可能な伝送帯域において、 入力映像に対して 主観画質に与える影響の大きい品質を優先して受信することができる。 すな わち、 映像特性に合わせて適切な品質を重視した映像伝送を実現することが できる。
(実施の形態 3 )
本実施の形態では、 階層符号化データを品質 ·帯域別に分割し、 各チヤネ ル内のバケツトごとに算出した優先度を付加して別チャネルで伝送するとと もに、 品質別のグループリストを送信することにより、 受信端末が優先する 品質を選択でき、 より細かい精度でネットワークの状況に応じ端末特性や映 像特性に適した品質で映像を受信することができる映像伝送システムについ て説明する。
図 1 5は、 本発明の実施の形態 3に係る映像伝送システムの構成を示す図 である。 なお、 この映像伝送システムにおける映像送信装置 3 0 0は、 図 2 に示す映像伝送システムにおける映像送信装置 1 0 0と同様の基本的構成を 有しており、 同一の構成要素には同一の符号を付し、 その説明を省略する。 また、 映像受信装置 1 5 0は、 図 2に示すものと全く同一であるため、 その 説明を省略する。
本実施の形態の特徴は、 実施の形態 1 (および実施の形態 2 ) ではチヤネ ルに対して優先度を付けるのに対し、 ここでは、 チャネル內のパケッ トに対 してさらに細かい優先度を付けて伝送を行うことである。 そのため、 映像送 信装置 3 0 0は、 チャネル分割部 3 0 2を有する。
チャネル分割部 3 0 2は、 映像符号化部 1 0 4から出力された符号化デー タを複数に分割し、 各分割データに別々のチャネルを割り当てて優先度算出 部 1 1 2から出力される優先度を付加し、 さらに、 チャネルごとにバケツト 分割を行い、 パケットの優先度を算出してパケットに優先度を付け、 映像送 信部 108に分割データを出力し、 分割リストをグループリスト算出部 1 1 4に出力する。 処理の詳細については、 後で説明する。
次いで、 上記構成を有する映像送信装置 300の動作について、 図 1 6に 示すフローチャートを用いて説明する。 なお、 図 1 6に示すフローチャート は、 映像送信装置 300の図示しない記憶装置 (たとえば、 ROMやフラッ シュメモリなど) に制御プログラムとして記憶されており、 同じく図示しな い C PUによって実行される。
本実施の形態では、 図 1 6に示すように、 ステップ S 1420およびステ ップ S 1440を図 5に示すフローチャートに挿入し、 ステップ S 1400 を削除している。
ステップ S 1 000〜ステップ S 1 300は、 図 5に示すフローチヤ一ト の各ステップと同様であるため、 その説明を省略する。
そして、 ステップ S 1420では、 チャネル分割部 302で、 実施の形態 1と同様に、 符号化データの分割を行う。 たとえば、 基本レイヤを 1つのチ ャネルとし (B L)、 拡張レイヤ (E L) 1〜4をそれぞれあらかじめ決めら れたデータ量で分割し、別チャネルとする (図 4参照)。 そして、優先度算出 部 1 1 2から出力された優先度 (図 8A参照) を各チャネルに付与する (図 8 B参照)。
そして、 ステップ S 1440では、 同じくチャネル分割部 302で、 さら に、 チャネルを構成するパケットへの優先度を算出する。 ここで、 パケット とは、データ送出の最小単位であり、たとえば、 I Pパケットのことを指す。 具体的な処理の手順は、 次のとおりである。
1) バケツト分割
チャネル内のバケツトをあらかじめ設定された分割数 κのバケツト群に分 割する。 たとえば、 図 1 7 Cは、 K= 4の場合であってチャネル E L 1—1 を 4等分割する場合を示している。 なお、 パケットの分割方法は、 等分割に 限定されない。 2) バケツト優先度算出
各バケツトの優先度を算出する。 図 1 7は、 バケツト優先度算出の一例を 示しており、 特に、 図 1 7 Aは、 チャネルの優先度マップであり、 図 1 7 B は、 基本レイヤ (B L)、 拡張レイヤ 1 (E L 1) のチャネル優先度を示し、 図 1 7 Cは、 チャネル E L 1—1に対して分割されたパケット群のパケット 優先度の一例を示している。 図 1 7において、 数字が小さいパケット程、 優 先度が高いことを示す。
図 1 7 Cの例では、 チャネル優先度 Pを用いて、 次の (式 2) に従い、 丄 … (式 2)
下位に属するパケットから高い優先度を算出する。 ここで、 iはパケッ トの 位置するパケット群番号であり、 P iはパケット群の優先度であり、 Kはチ ャネルの分割数であり、 Pはチャネルの優先度である。 なお、 パケット優先 度の算出方法は、 上記の (式 2) に限定されない。
こうして算出されたバケツト優先度は、各バケツトのヘッダに付与される。 バケツト優先度を付けた符号化データは、 映像送信部 1 08に出力される。 ステップ S 1 500〜ステップ S 1 700は、 図 5に示すフローチヤ一ト の各ステップと同様であるため、 その説明を省略する。
このように、 本実施の形態によれば、 階層符号化データを品質 ·帯域別に 別チャネルに分割し、 端末情報に基づいてチャネルに優先度を付け、 さらに チャネル内のパケッ卜に細かい優先度を付けて伝送を行うため、 各端末の使 用可能な伝送帯域において、 より細かい精度で自動的に端末特性に適した品 質の符号化データを優先して受信することができる。
なお、 本実施の形態では、 チャネルの優先度算出方法として実施の形態 1 と同様に端末情報を用いる場合を示した力 S、これに限定されるわけではなく、 実施の形態 2と同様に映像特性を用いることも可能である。
(実施の形態 4) 本実施の形態では、 階層符号化データを品質 ·帯域別に分割し別チャネル. で伝送するとともに、 受信端末の受信状況に応じて優先する品質の種類を制 御することにより、 主観画質の高い映像を受信することができる映像伝送シ ステムについて説明する。
図 1 8は、 本発明の実施の形態 4に係る映像伝送システムの構成を示す図 である。 なお、 この映像伝送システムにおける映像受信装置 4 5 0は、 図 2 に示す映像伝送システムにおける映像受信装置 1 5 0と同様の基本的構成を 有しており、 同一の構成要素には同一の符号を付し、 その説明を省略する。 また、 映像送信装置 1 0 0は、 図 2に示すものと全く同一であるため、 その 説明を省略する。
本実施の形態の特徴は、 受信端末の受信状況 (たとえば、 データ欠落率ま たはパケットロス率) に応じて優先する品質の種類を制御することである。 そのため、 映像受信装置 4 5 0は、 受信状況算出部 4 5 2、 受信チャネル決 定部 4 5 4、 および映像受信部 1 6 0 aを有する。
映像受信部 1 6 0 aは、 図 2の映像受信装置 1 5 0と同様に、 受信チヤネ ル決定部 4 5 4から出力されたチャネル番号に対応する符号化データを受信 し、 受信した符号化データを映像復号化部 1 6 2に出力する。 ただし、 本実 施の形態では、 さらに、 受信チャネルの総数と、 正常にデータを受信できた チャネルの総数とを受信状況算出部 4 5 2に出力する。
受信状況算出部 4 5 2は、 映像受信部 1 6 0 aから出力された情報を用い て受信状況を算出する。 具体的には、 映像受信部 1 6 0 aから出力された受 信チヤネル総数および正常に受信できたチャネル総数を用いてデータ欠落率 Lを算出し、 算出したデータ欠落率 Lを受信チャネル決定部 4 5 4に出力す る。 処理の詳細については、 後で説明する。
受信チャネル決定部 4 5 4は、 受信状況算出部 4 5 2から出力されたデー タ欠落率 Lを用いて優先品質を決定し、 決定した優先品質とグループリスト 受信部 1 5 6から出力されたグループリストを用いて受信するチャネル番号 を決定し、決定したチャネル番号を映像受信部 1 6 0 aに出力する。ただし、 受信状況算出部 4 5 2またはグループリスト受信部 1 5 6からの出力がない 場合は、 前回決定したチャネル番号を映像受信部 1 6 0 aに出力する。 処理 の詳細については、 後で説明する。
次いで、 上記構成を有する映像受信装置 4 5 0の動作について、 図 1 9に 示すフローチャートを用いて説明する。 なお、 図 1 9に示すフローチャート は、 映像受信装置 4 5 0の図示しない記憶装置 (たとえば、 R O Mやフラッ シュメモリなど) に制御プログラムとして記憶されており、 同じく図示しな い。 P Uによって実行される。
本実施の形態では、 図 1 9に示すように、 ステップ S 2 0 5 0を図 1 0に 示すフローチヤ一トに挿入し、 ステップ S 2 0 0 0を削除している。
ステップ S 2 0 5 0では、 受信状況算出部 4 5 2で、 映像受信部 1 6 0 a から出力された情報 (受信チャネル総数と正常に受信できたチャネル総数) を用いてデータ欠落率 Lを算出し、 算出したデータ欠落率 Lを受信チャネル 決定部 4 5 4に出力する。 ここで、 データ欠落率 Lは、 たとえば、 次の (式 3 )、
L -n - T„j ... (式 3 )
C M
によって算出される。 ただし、 C nは受信チヤネル総数であり、 τ ηは正常に 受信できたチヤネル総数である。
なお、 データ欠落率 Lの算出方法は、 上記の例に限定されない。
ステップ S 2 1 0 0〜ステップ S 2 6 0 0は、 図 1 0に示すフローチヤ一 トの各ステップと同様であるため、 その説明を省略する。 ただし、 本実施の 形態では、 ステップ S 2 2 0 0の受信チャネル決定処理の際に、 次のような 処理を行う。
すなわち、 ステップ S 2 2 0 0では、 受信チャネル決定部 4 5 4で、 受信 状況算出部 4 5 2から出力されたデータ欠落率 Lを用いて優先品質を決定し、 さらに、 決定した優先品質とグループリスト受信部 1 56から出力されたグ ループリストを用いて受信すべきチャネル番号を決定し、 決定したチャネル 番号を映像受信部 160 aに出力する。
ここで、 具体的な優先品質決定方法は、 たとえば、 次のとおりである。 す なわち、 データ欠落率 Lを所定のしきい値 THと比較して、 優先品質を決定 する。 ここでは、 データ欠落率 Lが高く しきい値 THを超える (L>TH) 場合は、 データ欠落の影響が小さい動き優先とし (動き優先の場合は、 フレ ームレートが高く、パケットエラーの主観画質への影響が小さい)、データ欠 落率 Lが低くしきい値 TH以下 (L≤TH) の場合は、 データ欠落の影響が 大きい画質優先とする (画質優先の場合は、 フレームレートが低く、 バケツ トエラーにより主観画質が大きく低下してしまう)。
このように、 本実施の形態によれば、 階層符号化データを品質 ·帯域別に 別チャネルに分割し優先度を付けて伝送する映像伝送システムにおいて、 受 信端末の受信状況を用いてデータ欠落率を算出し、 データ欠落率が高い場合 は、 フレームレートが高くデータ欠落が主観画質に与える影響の小さい動き 優先を選択し、 そうでない場合は画質優先を選択するため、 受信状況によら ず主観画質の高い映像を受信することができる。 すなわち、 受信状況に合わ せて受信品質の向上を図ることができる。
以上説明したように、 本発明によれば、 特性が異なる複数の端末で同時に 映像を受信する場合において、 各端末が自己に適した品質で映像を受信する ことができる。
本明細書は、 200 3年 2月 28日出願の特願 2003— 05 3 780に 基づく。 この内容はすべてここに含めておく。 産業上の利用可能性
本発明は、特性が異なる複数の端末で同時に映像を受信する場合において、 各端末が自己に適した品質で映像を受信することができる効果を有し、 ネッ トワークを通じて映像を伝送する映像伝送システムにおいて適用することが できる

Claims

請求の範囲
1 . ネットワークを通じて階層符号化データを映像送信装置から映像受信 装置に伝送する映像伝送システムであって、
前記映像送信装置は、
階層符号化データを品質別または品質および帯域別に別々のチヤネルに分 割する分割手段と、
分割された階層符号化データを互いに別チャネルで送信する第 1送信手段 と、
品質別にチャネルをグルーピングしてグループリストを算出する算出手段 と、
算出されたグループリストを送信する第 2送信手段と、 を有し、 前記映像受信装置は、
前記映像送信装置から送信されたグループリス トを受信する第 1受信手段 と、
受信されたグループリス トを用いて受信チヤネルを決定する決定手段と、 前記映像送信装置から送信された分割階層符号化データのうち、 決定され た受信チャネルのデータを受信する第 2受信手段と、
を有する、 映像伝送システム。
2 . 前記品質は、 画質、 フレームレート、 エラー耐性、 解像度、 およぴ遅 延のうちの一以上の組み合わせである、
請求の範囲 1記載の映像伝送システム。
3 . 階層符号化データを品質別または品質および帯域別に別々のチヤネル に分割する分割手段と、
分割された階層符号化データを互いに別チャネルで送信する第 1送信手段 と、
品質別にチャネルをグルーピングしてグループリストを算出する算出手段 と、
算出されたグループリストを送信する第 2送信手段と、
を有する、 映像送信装置。
4 . 各チャネルの優先度を算出する第 2算出手段、 をさらに有し、 前記分割手段は、
階層符号化データを品質別または品質および帯域別に別々のチャネルに分 割するとともに、 各チャネルに算出されたチャネル優先度を付与し、 前記第 1送信手段は、
分割された階層符号化データをチャネル優先度が付与された互いに別のチ ャネルで送信する、 請求の範囲 3記載の映像送信装置。
5 . 前記第 2算出手段は、
受信端末情報に基づいて各チャネルの優先度を算出する、
請求の範囲 4記載の映像送信装置。
6 . 前記受信端末情報は、 映像受信装置の表示デバイスの画面サイズであ る、 請求の範囲 5記載の映像送信装置。
7 . 前記受信端末情報は、 映像受信装置のチャネル受信状況である、 請求 の範囲 5記載の映像送信装置。
8 . 前記第 2算出手段は、
映像特性に基づいて各チャネルの優先度を算出する、
請求の範囲 4記載の映像送信装置。
9 . 前記分割手段は、
階層符号化データを品質別または品質おょぴ帯域別に別々のチャネルに分 割し、 各チャネルに算出されたチャネル優先度を付与するとともに、 各チヤ ネル内のバケツトの優先度を算出し、 各バケツトに算出されたパケット優先 度を付与し、
前記第 1送信手段は、
分割された階層符号化データをパケット優先度が付与された互いに別のチ ャネルで送信する、
請求の範囲 4記載の映像送信装置。
1 0 . 請求項 3記載の映像送信装置から送信されたグループリストを受信 する第 1受信手段と、
受信されたグループリストを用いて受信チャネルを決定する決定手段と、 前記映像送信装置から送信された分割階層符号化データのうち、 決定され た受信チャネルのデータを受信する第 2受信手段と、
を有する、 映像受信装置。
1 1 . 受信状況を算出する第 3算出手段、 をさらに有し、
前記決定手段は、
受信されたグループリストおよび算出された受信状況を用いて受信チヤネ ルを決定する、
請求の範囲 1 0記載の映像受信装置。
1 2 . ネットワークを通じて階層符号化データを映像送信装置から映像受 信装置に伝送する映像伝送方法であって、
前記映像送信装置が、 階層符号化データを品質別または品質および帯域別 に別々のチヤネルに分割するステップと、
前記映像送信装置が、 分割した階層符号化データを互いに別チャネルで送 信するステップと、
前記映像送信装置が、 品質別にチャネルをグルーピングしてグループリス トを算出するステップと、
前記映像送信装置が、 算出したグループリストを送信するステップと、 前記映像受信装置が、 前記映像送信装置から送信されたグループリストを 受信するステップと、
前記映像受信装置が、 受信したグループリストを用いて受信チャネルを決 定するステップと、
前記映像受信装置が、 前記映像送信装置から送信された分割階層符号化デ ータのうち、 決定した受信チャネルのデータを受信するステップと、 を有する、 映像伝送方法。
PCT/JP2004/001988 2003-02-28 2004-02-20 映像伝送システム、映像送信装置、映像受信装置および映像伝送方法 WO2004077831A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US10/514,440 US7382729B2 (en) 2003-02-28 2004-02-20 Video transmission of layered coded data

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2003-053780 2003-02-28
JP2003053780A JP2004266503A (ja) 2003-02-28 2003-02-28 映像伝送システム

Publications (1)

Publication Number Publication Date
WO2004077831A1 true WO2004077831A1 (ja) 2004-09-10

Family

ID=32923445

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2004/001988 WO2004077831A1 (ja) 2003-02-28 2004-02-20 映像伝送システム、映像送信装置、映像受信装置および映像伝送方法

Country Status (4)

Country Link
US (1) US7382729B2 (ja)
JP (1) JP2004266503A (ja)
CN (1) CN1736107A (ja)
WO (1) WO2004077831A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006033404A1 (ja) * 2004-09-24 2006-03-30 Matsushita Electric Industrial Co., Ltd. 無線マルチメディア通信方法

Families Citing this family (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6263503B1 (en) 1999-05-26 2001-07-17 Neal Margulis Method for effectively implementing a wireless television system
US7917932B2 (en) 2005-06-07 2011-03-29 Sling Media, Inc. Personal video recorder functionality for placeshifting systems
US7975062B2 (en) 2004-06-07 2011-07-05 Sling Media, Inc. Capturing and sharing media content
US9998802B2 (en) 2004-06-07 2018-06-12 Sling Media LLC Systems and methods for creating variable length clips from a media stream
WO2005122025A2 (en) 2004-06-07 2005-12-22 Sling Media, Inc. Personal media broadcasting system
US7769756B2 (en) * 2004-06-07 2010-08-03 Sling Media, Inc. Selection and presentation of context-relevant supplemental content and advertising
EP1650973A1 (en) * 2004-10-25 2006-04-26 Alcatel USA Sourcing, L.P. Method for encoding a multimedia content
DE102005032080A1 (de) * 2005-07-08 2007-01-11 Siemens Ag Verfahren zum Senden eines Mediadatenstroms und Verfahren zum Empfangen und Erstellen eines rekonstruierten Mediadatenstroms, sowie dazugehörige Sendevorrichtung und Empfangsvorrichtung
KR100712532B1 (ko) * 2005-09-10 2007-04-30 삼성전자주식회사 단일표현과 다중표현 전환을 이용한 동영상 변환부호화장치 및 방법
GB0525527D0 (en) * 2005-12-15 2006-01-25 Levett David L Optimization of remote content delivery and presentation by composition and conversion on the remote device
EP2060074A1 (fr) * 2006-09-15 2009-05-20 France Telecom Procede et dispositif d'adaptation d'un flux de donnees scalable, produit programme d'ordinateur et equipement reseau correspondants
US8456986B2 (en) * 2006-12-13 2013-06-04 Viasat, Inc. Video and data network load balancing
US8358690B2 (en) * 2006-12-13 2013-01-22 Viasat, Inc. Predictive adaptive coding and modulation
US8411571B2 (en) 2006-12-13 2013-04-02 Viasat, Inc. Video and data network load balancing with video drop
US8576858B2 (en) * 2006-12-13 2013-11-05 Viasat, Inc. Multiple transmission paths for hierarchical layers
US8395993B2 (en) * 2006-12-13 2013-03-12 Viasat, Inc. Video and data network load balancing with video placeholder
US7961665B2 (en) 2006-12-13 2011-06-14 Viasat, Inc. Terminal aware multicasting
US8411572B2 (en) * 2006-12-13 2013-04-02 Viasat, Inc. ACM and fixed coding and modulation of hierarchical layers
AU2007333037A1 (en) * 2006-12-13 2008-06-19 Viasat, Inc. ACM aware encoding systems and methods
US7944872B2 (en) * 2006-12-13 2011-05-17 Viasat, Inc. Adaptive coding and modulation aware network load balancing
US20090041100A1 (en) 2006-12-13 2009-02-12 Viasat, Inc. Link aware mobile data network
US20080187291A1 (en) * 2007-02-05 2008-08-07 Microsoft Corporation Prioritization for video acquisition
US9019830B2 (en) * 2007-05-15 2015-04-28 Imagine Communications Corp. Content-based routing of information content
US8180029B2 (en) 2007-06-28 2012-05-15 Voxer Ip Llc Telecommunication and multimedia management method and apparatus
US11095583B2 (en) 2007-06-28 2021-08-17 Voxer Ip Llc Real-time messaging method and apparatus
WO2009025189A1 (ja) * 2007-08-23 2009-02-26 Sharp Kabushiki Kaisha 再生装置、再生方法
EP2051525A1 (en) 2007-10-15 2009-04-22 Mitsubishi Electric Information Technology Centre Europe B.V. Bandwidth and content dependent transmission of scalable video layers
US8150175B2 (en) * 2007-11-20 2012-04-03 General Electric Company Systems and methods for image handling and presentation
US9078024B2 (en) * 2007-12-18 2015-07-07 Broadcom Corporation Video processing system with user customized graphics for use with layered video coding and methods for use therewith
US8130823B2 (en) * 2007-12-19 2012-03-06 Broadcom Corporation Channel adaptive video transmission system for use with layered video coding and methods for use therewith
US8594191B2 (en) * 2008-01-03 2013-11-26 Broadcom Corporation Video processing system and transcoder for use with layered video coding and methods for use therewith
US20090217338A1 (en) * 2008-02-25 2009-08-27 Broadcom Corporation Reception verification/non-reception verification of base/enhancement video layers
JP4911075B2 (ja) * 2008-02-28 2012-04-04 ソニー株式会社 データ送信装置、データ送信方法、データ受信装置、データ受信方法およびデータ伝送システム
US8179983B2 (en) * 2008-05-20 2012-05-15 Broadcom Corporation Video processing system with layered video coding for fast channel change and methods for use therewith
US20100017530A1 (en) * 2008-06-23 2010-01-21 Hitachi, Ltd. Priority-Based Physical Layer Transmission Rate Control For Video Streaming Over Wireless Networks
EP2139179A1 (en) * 2008-06-26 2009-12-30 THOMSON Licensing Method and apparatus for reporting state information
CN101365125B (zh) 2008-09-27 2012-03-21 腾讯科技(深圳)有限公司 多路视频通信方法与系统
EP2200220A1 (en) * 2008-12-22 2010-06-23 Thomson Licensing Method and apparatus for reliable multicast streaming
US20100250764A1 (en) * 2009-03-31 2010-09-30 Nokia Corporation Method and Apparatus for Signaling Layer Information of Scalable Media Data
US8745186B2 (en) * 2009-03-31 2014-06-03 Canon Kabushiki Kaisha Network streaming of a video media from a media server to a media client
KR101531689B1 (ko) * 2009-08-11 2015-06-25 에스케이텔레콤 주식회사 데이터 전송 시스템의 채널 결합 장치 및 방법
CN101998265B (zh) * 2009-08-17 2014-06-04 华为技术有限公司 数据传输方法、基站、多播协调实体和用户设备
FR2954036B1 (fr) * 2009-12-11 2012-01-13 Thales Sa Procede et systeme pour la determination de parametres de codage sur des flux a resolution variable
JP2012095053A (ja) 2010-10-26 2012-05-17 Toshiba Corp ストリーム伝送システム、送信装置、受信装置、ストリーム伝送方法及びプログラム
FR2969892B1 (fr) * 2010-12-23 2015-05-29 Thales Sa Procede et dispositif d'adaptation de debit d'un flux video compresse transmis dans un environnement contraint
US9591361B2 (en) 2011-09-07 2017-03-07 Qualcomm Incorporated Streaming of multimedia data from multiple sources
US20130318251A1 (en) * 2012-05-22 2013-11-28 Alimuddin Mohammad Adaptive multipath content streaming
US10951954B2 (en) 2016-07-05 2021-03-16 Vishare Technology Limited Methods and systems for video streaming
EP3445045A1 (en) * 2017-08-18 2019-02-20 NXP USA, Inc. Video device and method for embedded data capture on a virtual channel
US10945029B2 (en) * 2019-05-31 2021-03-09 Qualcomm Incorporated Video frame rendering criteria for video telephony service

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6373786A (ja) * 1986-09-16 1988-04-04 Nippon Telegr & Teleph Corp <Ntt> 階層化バ−スト通信方式
JP2744783B2 (ja) * 1986-04-17 1998-04-28 ブリティッシュ・ブロードキャスティング・コーポレーション 情報信号を伝達するための伝達方法
JPH11313301A (ja) * 1998-02-27 1999-11-09 Hitachi Ltd 番組配信システム、番組配信装置、番組品質変換装置、及び番組受信装置
JP2001045436A (ja) * 1999-07-27 2001-02-16 Nec Corp デジタル放送受信機及びデータ伝送装置
JP2003333594A (ja) * 2002-05-14 2003-11-21 Canon Inc 画像処理装置、画像処理システム、画像処理方法、記憶媒体、及びプログラム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0817492B2 (ja) 1990-08-20 1996-02-21 松下電器産業株式会社 可変レート動画像符号化装置
US5148272A (en) * 1991-02-27 1992-09-15 Rca Thomson Licensing Corporation Apparatus for recombining prioritized video data
US5231384A (en) * 1991-08-26 1993-07-27 General Electric Company Apparatus for splitting video signal between two channels
US5502571A (en) * 1992-11-18 1996-03-26 U.S. Philips Corporation Device for processing digital signals first coded by means of variable length coding and device for inversely processing signals thus processed
US6148005A (en) * 1997-10-09 2000-11-14 Lucent Technologies Inc Layered video multicast transmission system with retransmission-based error recovery
US20020072966A1 (en) * 2000-08-31 2002-06-13 Eldering Charles A. System for providing targeted advertisements using advertiser-specific target groups
US6996097B1 (en) * 1999-05-21 2006-02-07 Microsoft Corporation Receiver-driven layered error correction multicast over heterogeneous packet networks
US7245663B2 (en) * 1999-07-06 2007-07-17 Koninklijke Philips Electronis N.V. Method and apparatus for improved efficiency in transmission of fine granular scalable selective enhanced images
US7093028B1 (en) * 1999-12-15 2006-08-15 Microsoft Corporation User and content aware object-based data stream transmission methods and arrangements
JP3662473B2 (ja) * 2000-05-12 2005-06-22 株式会社エヌ・ティ・ティ・ドコモ マルチキャストサービス提供方法及び情報配信装置
US7818779B2 (en) * 2002-03-28 2010-10-19 Mitsubishi Denki Kabushiki Kaisha Digital broadcast transmission device and method thereof, and digital broadcast reception device and method thereof
JP2005142654A (ja) * 2003-11-04 2005-06-02 Matsushita Electric Ind Co Ltd 映像送信装置および映像受信装置
JP2005229188A (ja) * 2004-02-10 2005-08-25 Matsushita Electric Ind Co Ltd 映像通信装置および映像通信方法
JP4779435B2 (ja) * 2005-05-17 2011-09-28 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2744783B2 (ja) * 1986-04-17 1998-04-28 ブリティッシュ・ブロードキャスティング・コーポレーション 情報信号を伝達するための伝達方法
JPS6373786A (ja) * 1986-09-16 1988-04-04 Nippon Telegr & Teleph Corp <Ntt> 階層化バ−スト通信方式
JPH11313301A (ja) * 1998-02-27 1999-11-09 Hitachi Ltd 番組配信システム、番組配信装置、番組品質変換装置、及び番組受信装置
JP2001045436A (ja) * 1999-07-27 2001-02-16 Nec Corp デジタル放送受信機及びデータ伝送装置
JP2003333594A (ja) * 2002-05-14 2003-11-21 Canon Inc 画像処理装置、画像処理システム、画像処理方法、記憶媒体、及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006033404A1 (ja) * 2004-09-24 2006-03-30 Matsushita Electric Industrial Co., Ltd. 無線マルチメディア通信方法

Also Published As

Publication number Publication date
CN1736107A (zh) 2006-02-15
US20050175084A1 (en) 2005-08-11
US7382729B2 (en) 2008-06-03
JP2004266503A (ja) 2004-09-24

Similar Documents

Publication Publication Date Title
WO2004077831A1 (ja) 映像伝送システム、映像送信装置、映像受信装置および映像伝送方法
EP1720318B1 (en) Apparatus and method for transmitting a multimedia data stream
JP4360908B2 (ja) 可変の変調レートを使用したビデオ転送
US7958532B2 (en) Method of transmitting layered video-coded information
RU2516010C2 (ru) Система многоканальной видеосвязи и способ обработки многоканальной видеосвязи
EP1879396B1 (en) Video data communication method and apparatus for improving transmission efficiency
JP5006917B2 (ja) モバイルiptvサービスを提供する方法及びこれのためのシステム
US20060262790A1 (en) Low-delay video encoding method for concealing the effects of packet loss in multi-channel packet switched networks
JP2009514448A (ja) テレビ電話のためのビデオソースレート制御
JP2003244676A (ja) 動画配信システム、動画配信装置および方法、記録媒体、並びにプログラム
KR100592547B1 (ko) 스트리밍을 위한 패킷 스케줄링 방법
US20060168632A1 (en) Video reception device, video transmission device, and video transmission system
JP4732428B2 (ja) 多重記述トランスコーディングのためのトランスコーディング・ノード及びトランスコーディング方法
JP4227438B2 (ja) 映像伝送システム
EP1725038A2 (en) A low-delay video encoding method for concealing the effects of packet loss in multi-channel packet switched networks
Patel et al. A dynamic cross-layer mapping to support real time multimedia applications over IEEE 802.11 n
Zhai et al. A novel cost-distortion optimization framework for video streaming over differentiated services networks
Choi et al. Content-aware packet-level interleaving method for video transmission over wireless networks
Yu et al. Time utility function based packet scheduling algorithm for streaming scalable media
Xu et al. Spectrally efficient partitioning of MPEG video streams for robust transmission over multiple channels
Cho et al. Video streaming over 3G networks with GOP-based priority scheduling
Wagner et al. Playback delay and buffering optimization in scalable video broadcasting
JP4343913B2 (ja) 画像通信システム,画像配信システム,画像通信方法,画像配信システム制御プログラムおよびそのプログラム記録媒体
Tickoo et al. Smart Multipath Capacity Aggregation for High Quality Video Streaming
Danmusa Methods of Transmission of High Audio and Video Information on the Network

Legal Events

Date Code Title Description
AK Designated states

Kind code of ref document: A1

Designated state(s): AE AG AL AM AT AU AZ BA BB BG BR BW BY BZ CA CH CN CO CR CU CZ DE DK DM DZ EC EE EG ES FI GB GD GE GH GM HR HU ID IL IN IS KE KG KP KR KZ LC LK LR LS LT LU LV MA MD MG MK MN MW MX MZ NA NI NO NZ OM PG PH PL PT RO RU SC SD SE SG SK SL SY TJ TM TN TR TT TZ UA UG US UZ VC VN YU ZA ZM ZW

AL Designated countries for regional patents

Kind code of ref document: A1

Designated state(s): BW GH GM KE LS MW MZ SD SL SZ TZ UG ZM ZW AM AZ BY KG KZ MD RU TJ TM AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IT LU MC NL PT RO SE SI SK TR BF BJ CF CG CI CM GA GN GQ GW ML MR NE SN TD TG

121 Ep: the epo has been informed by wipo that ep was designated in this application
WWE Wipo information: entry into national phase

Ref document number: 10514440

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 20048002779

Country of ref document: CN

122 Ep: pct application non-entry in european phase