WO2007026536A1 - 動画受信装置 - Google Patents

動画受信装置 Download PDF

Info

Publication number
WO2007026536A1
WO2007026536A1 PCT/JP2006/316026 JP2006316026W WO2007026536A1 WO 2007026536 A1 WO2007026536 A1 WO 2007026536A1 JP 2006316026 W JP2006316026 W JP 2006316026W WO 2007026536 A1 WO2007026536 A1 WO 2007026536A1
Authority
WO
WIPO (PCT)
Prior art keywords
intra
frame
motion vector
moving image
map
Prior art date
Application number
PCT/JP2006/316026
Other languages
English (en)
French (fr)
Inventor
Daisaku Komiya
Yoshimasa Honda
Original Assignee
Matsushita Electric Industrial Co., Ltd.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co., Ltd. filed Critical Matsushita Electric Industrial Co., Ltd.
Priority to CN2006800318855A priority Critical patent/CN101253773B/zh
Priority to US12/065,223 priority patent/US8073273B2/en
Publication of WO2007026536A1 publication Critical patent/WO2007026536A1/ja
Priority to US13/275,639 priority patent/US8280178B2/en

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/43Hardware specially adapted for motion estimation or compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/11Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation

Definitions

  • the present invention relates to a technique for decoding an encoded moving image. More specifically, the present invention relates to a high-speed video decoding technique for decoding an arbitrary interframe compressed video encoded based on temporal correlation! /.
  • MPEG-2 ISO / IEC 13818-2 International Standard MPEG-2 Video
  • ITU-T H.263 A video compression standard called ITU-T H.263 is often used for videophones.
  • Many moving picture compression standards such as the MPEG standard incorporate inter-frame compression technology that uses redundancy in the time direction of successive image frames. This is because continuous frames are highly correlated in a short time such as 30 frames per second.
  • a specific frame is encoded using only information in the frame.
  • the subsequent frame is encoded by acquiring a difference frame that is a difference from the immediately preceding frame.
  • a frame that is encoded using only the information in the frame is called an intra-frame code frame or an intra frame.
  • the sign of the succeeding frame is the preceding sign. This is called an inter-frame encoded frame or an inter-frame because it is encoded using a frame to be transmitted.
  • intra-frame decoding of intra frames is performed, and subsequent inter-frames are sequentially decoded.
  • Inter-frame decoding is performed by first decoding the difference frame and adding the decoded difference frame to the previous frame.
  • a frame is divided into several blocks, and intra-frame coding and inter-frame coding are selected on a block basis.
  • a block on which intra-frame coding has been performed is called an intra block
  • a block on which inter-frame coding has been performed is called an inter block.
  • An intra frame is a frame that only an intra block can use
  • an inter frame is a frame that includes an inter block.
  • Intraframes can be decoded immediately. Since an inter frame includes an inter block, it can be decoded only by adding it to the block in the previous frame that has already been decoded. An interframe can only be decoded after the previous frame has been decoded. In other words, an interframe can be decoded only after decoding in the order of the latest intraframe power ahead. This is a common problem with interframe compression that uses temporal redundancy. Therefore, even if the video recorded by the DVD recorder is randomly accessed for playback, it cannot be started from an arbitrary position, and the playback start position is limited to the insertion position of the intra frame. At first glance, this problem seems to be avoided by frequently inserting intra frames. However, since the compression rate of intra frames is low, if many intra frames are inserted, the compression rate of moving images will be significantly reduced.
  • Participation in a multi-point video conference is an example of the inconvenience resulting from the fact that inter-frame video cannot be decoded by inter-frame compressed video.
  • There are two ways to implement a multipoint TV conference One method is to collect videos taken by each terminal in a multipoint conference device called MCU, and after the MCU combines all the videos, it sends it back to each terminal.
  • MCU multipoint conference device
  • Already One method is a method in which a video transmitted by a terminal on the transmission side is broadcast to all terminals and the video transmitted by the terminal on the reception side is synthesized.
  • interframe compression technology is used for video compression, a terminal that newly participates in the middle of the conference cannot decode the interframe card, so the arrival of the next intraframe is not possible. Wait and start playback. As a result, the image is not displayed for a while even though it has joined the conference.
  • Another example of the inconvenience resulting from the inability to decode inter-frame compressed video between frames is the start of playback or channel switching of a digital video broadcasting service.
  • broadcasting services terrestrial digital broadcasting and mobile broadcasting using satellites have been started.
  • a decoder used in a terminal such as a digital TV starts playback after waiting for the arrival of the next intra frame when the reception of the broadcast is started or when the channel is switched.
  • a technique for immediately decoding and displaying an image when a new terminal joins is disclosed in Japanese Patent Laid-Open No. 7-298231.
  • the participating terminal notifies the MCU in the first video conference realization method and the participation notification to all terminals already participating in the conference in the second video conference realization method.
  • the MCU or all the conference participation terminals send the intra frame by encoding the video shot by the terminal for a certain period of time. As a result, new participating terminals can immediately decode and display the frame.
  • the intra-band is continuously transmitted for a certain period of time after notification of participation in the conference, so that the network bandwidth is compressed. Since the communication partner is dynamically requested to change the encoding mode, it can only be applied to systems that perform real-time encoding.
  • the present invention has been made in view of the conventional problem of decoding of compressed inter-frame compressed video, and it has been made possible to participate in a video conference, start playback of a digital video broadcasting service, or switch channels. At this time, there is provided a moving picture receiving apparatus capable of decoding a compressed moving picture between arbitrary frames and displaying a screen without delay.
  • a moving image receiving apparatus of the present invention includes a moving image data receiving unit that receives moving image data having a plurality of intraframe and interframe forces, a media buffer that stores moving image data received by the moving image data receiving unit, Based on the intra map storage unit that stores an intra map indicating the position of an intra block included in each frame of the moving image data, and the intra map stored in the intra map storage unit, the media buffer stores the intra map storage unit.
  • a pseudo-intra-frame generation unit that extracts intra-block images included in the inter-frame in the order of the latest accumulated inter-frame forces, and generates a pseudo-intra frame by combining multiple inter-frame force extracted intra-block images; ,
  • the pseudo intra frame generation unit V use the pseudo intra frame generated Te Te, and a decoder starts decoding the video data received by the video data receiving unit.
  • the pseudo intra frame generation unit may also calculate a new inter frame force when an intra block applicable as a block constituting the pseudo intra frame is also extracted with a plurality of inter frame forces.
  • An extracted intra block image may be used.
  • the moving image receiving apparatus receives the moving image data received by the moving image data receiving unit from the moving image data
  • An intra map generation unit that generates an intra map of video data may be provided, and the intra map generated by the intra map generation unit may be stored in the intra map storage unit.
  • the moving image receiving apparatus includes a motion vector map storage unit that stores a motion vector map indicating a motion vector for each block between frames of the moving image data, and the pseudo intra frame generation unit includes a plurality of inter frames.
  • the intra-block image from which the force is extracted may be moved to a position determined based on the motion vector map and combined to generate a pseudo intra-frame.
  • the moving image receiving apparatus includes a motion vector map generating unit that generates a motion vector map of the moving image data from the moving image data received by the moving image data receiving unit, and is generated by the motion vector map generating unit.
  • the motion vector map may be stored in the motion vector map storage unit.
  • a pseudo intra frame can be generated without receiving motion vector map data.
  • the decoding process can be started quickly without the need to perform a process to generate a motion vector map after an instruction for video decoding is given. it can.
  • a moving image receiving device stores a moving image data receiving unit that receives moving image data including a plurality of intra frames and frames, and the moving image data received by the moving image data receiving unit.
  • a motion vector map storage unit for storing a motion vector map indicating a motion vector for each block between frames of the moving image data, and a motion vector map stored in the motion vector map storage unit; , Latest interframe power Retrospectively, an intra block in an intra frame corresponding to each block constituting the latest inter frame is identified, and a pseudo intra frame is generated using an image of the identified intra block.
  • the moving image receiving apparatus includes a motion vector map generating unit that generates a motion vector map of the moving image data from the moving image data received by the moving image data receiving unit, and is generated by the motion vector map generating unit.
  • the motion vector map may be stored in the motion vector map storage unit.
  • a pseudo intra frame can be generated without receiving motion vector map data.
  • the decoding process can be started quickly without the need to perform a process to generate a motion vector map after an instruction for video decoding is given. it can.
  • the moving image reproducing apparatus of the present invention includes a moving image data reproducing unit for reproducing moving image data including a plurality of intra frames and inter frames, and the moving image based on the moving image being reproduced by the moving image data reproducing unit.
  • An intra map generation unit that generates an intra map indicating the position of each intra block of the inter frame included in the video frame, and a video data transmission unit that transmits the intra map generated by the intra map generation unit together with the video data With.
  • an intra map is generated during playback of a moving image, and the intra map is transmitted when moving image data is transmitted.
  • the moving image playback device includes a motion vector map generating unit that generates a motion vector map indicating a motion vector for each block between frames of the moving image based on the moving image being played back by the moving image data reproducing unit. You can prepare.
  • a motion vector map is generated during playback of a moving image, and when the moving image data is transmitted, the motion vector map is transmitted together with the intra map, so that the device receiving the moving image waits for an intra frame.
  • video decoding can be started at any time.
  • the present invention it is possible to start decoding using a pseudo intra frame that does not wait until a next intra frame is received after an instruction for moving image decoding is received. It has an excellent effect that the screen is displayed without delay when participating in a TV conference, starting playback of a digital video broadcasting service, or switching channels.
  • FIG. 1 is a block diagram showing a configuration of a moving picture decoding apparatus according to the first embodiment.
  • FIG. 2 is a block diagram showing a configuration of a video transmission / reception system according to the video decoding device of the first embodiment.
  • FIG. 3A shows an example of an intra map.
  • FIG. 3B shows an example of a motion vector map.
  • FIG. 4 is a block diagram showing an internal configuration of a moving image receiving apparatus of the moving image transmission / reception system according to the first embodiment.
  • FIG. 5 is a flowchart showing an operation flow of the video decoding apparatus according to the first embodiment.
  • Fig. 6 is a flowchart showing an example of a pseudo intra frame generation method using only an intra map by the pseudo intra frame generator of the first embodiment.
  • FIG. 7 shows an intra map by the pseudo intra frame generator of the first embodiment.
  • Flow chart showing an example of a pseudo intra frame generation method using a motion vector map
  • FIG. 8 is a diagram for explaining a pseudo intra frame generation method using an intra map and a motion vector map by the pseudo intra frame generator according to the first embodiment.
  • FIG. 9 is a diagram for explaining a pseudo intra frame generation method using only a motion vector map by the pseudo intra frame generator according to the first embodiment.
  • FIG. 10 is a flowchart illustrating an example of a pseudo intra frame generation method using only a motion vector map by the pseudo intra frame generator according to the first embodiment.
  • FIG. 11 is a diagram for explaining a pseudo intra frame generation method using an intra map and a motion vector map by the pseudo intra frame generator according to the second embodiment.
  • FIG. 12 is a block diagram showing a configuration of a video transmission / reception system according to the video decoding device of the third embodiment.
  • FIG. 13 is a block diagram showing a configuration of a moving image transmission / reception system according to the moving image decoding apparatus of the fourth embodiment.
  • FIG. 14 is a block diagram showing an internal configuration of a moving image receiving apparatus of the moving image transmitting / receiving system in the fourth embodiment.
  • FIG. 15 is a block diagram showing an internal configuration of a moving picture decoding apparatus according to the fourth embodiment.
  • FIG. 1 is a diagram illustrating a configuration of a video decoding device provided in a video reception device according to a first embodiment. Before describing the configuration for video decoding with reference to FIG. 1, a video transmission / reception system to which the video reception device of the first embodiment is applied will be described.
  • FIG. 2 is a diagram showing a configuration of a moving image transmission / reception system to which the moving image receiving apparatus of the first embodiment is applied.
  • the video transmission / reception system includes a video transmission device 101 for transmitting inter-frame compressed video, a broadcast communication relay device 102 serving as a data transmission medium, and a received inter-frame compressed video after decoding and decoding. Display on an output device such as a display.
  • the moving picture decoding apparatus according to the present embodiment is installed inside moving picture receiving apparatus 103.
  • the moving picture transmitting apparatus 101 includes an encoder 104 that compresses a moving picture between frames, and can send the inter-frame compressed moving pictures generated by using a sending unit (not shown).
  • the moving picture transmitting apparatus 101 corresponds to, for example, a moving picture broadcast server for digital broadcasting at a broadcasting station, and corresponds to an MCU in a video conference system.
  • the broadcast communication relay device 102 includes all of the media that transmits the data transmitted from the moving image transmitting device 101 to the moving image receiving device 103.
  • a broadcast satellite, a transmission / reception antenna, and the like are part of the broadcast communication relay device 102, and in communication, an optical fiber router and the like are part of the broadcast communication relay device 102.
  • the broadcast communication relay device 102 transmits the data transmitted from the moving image transmitting device 101 to the moving image receiving device 103 without being limited to broadcasting or communication.
  • the moving image receiving apparatus 103 includes the moving image decoding apparatus (see FIG. 1) according to the first embodiment of the present invention, and decodes and displays the received inter-frame compressed moving image at high speed.
  • the moving picture receiving apparatus 103 corresponds to, for example, a digital television or a video conference terminal.
  • the encoder 104 includes an intra map creation unit 105 and a motion vector map creation unit 106, and generates an intra map and a motion vector map for each frame when encoding each frame of the moving image.
  • An intramap is a map that indicates the position of an intra-coded block included in a frame.
  • a motion vector map is a map showing the relationship between the position of an inter-coded block included in a frame and a motion vector.
  • FIG. 3A is a diagram showing an example of an intra map.
  • the outer frame is a single frame, and the small rectangles placed inside the frame indicate the blocks that make up the frame.
  • the intra block is labeled “I”.
  • the position of the intra block in the frame can be known from the intra map.
  • FIG. 3B is a diagram showing an example of a motion vector map.
  • the outer frame is a single frame, and the small rectangles placed inside the frame indicate the blocks that make up the frame.
  • Figure 3B The motion vector is displayed at the center of each inter block. From the intra map and the motion vector map, the position of the inter block in the frame and the motion vector of the block can be known.
  • the intra map shown in FIG. 3A and the motion vector map shown in FIG. 3B are examples. As long as the necessary information, such as intra block position, inter block position, and motion vector, can be obtained, the map form such as array and bit string is not limited to the form shown in Fig. 3A and Fig. 3B.
  • the encoder 104 may be provided with only one of the forces provided for the intra map creation unit 105 and the motion vector map creation unit 106.
  • the moving image transmitting apparatus 101 transmits the intra map together when the intra map creating unit 105 of the encoder 104 generates an intra map.
  • the moving image transmitting apparatus 101 transmits the motion vector map when the motion vector map creating unit 106 included in the encoder 104 generates a motion vector map.
  • the moving image receiving apparatus 103 receives an intra map and a motion vector map in synchronization with the inter-frame compressed moving image. The moving picture receiving apparatus 103 can decode the inter frame force immediately by using the intra map and the motion vector map.
  • FIG. 4 is a diagram showing a configuration of the moving image receiving apparatus 103.
  • the moving image receiving apparatus 103 includes a media receiving unit 301 that receives an inter-frame compressed moving image, a map information receiving unit 302 that receives an intra map and a motion vector map, and an intramap motion vector received by the map information receiving unit 302.
  • a video decoding device 303 that immediately decodes an inter-frame compressed video received by the media reception unit 301 using a map with any frame force, and a display for outputting the uncompressed video decoded by the video decoding device 303 to the outside It consists of part 304.
  • Media receiving section 301 extracts only the inter-frame compressed image from the transmitted data.
  • the media reception unit 301 corresponds to the function of a receiver and a tuner in digital broadcasting, and corresponds to a socket interface and a packet reconstruction function for communication.
  • the media reception unit 301 simultaneously receives a plurality of streams, not limited to one stream, and sends it to the video decoding device 303.
  • the map information receiving unit 302 receives the intra data from the transmitted data. The map and the motion vector map are extracted, and the extracted map is sent to the video decoding device 303.
  • the display unit 304 displays the uncompressed image decoded by the video decoding device 303.
  • the display unit 304 corresponds to a display, for example.
  • the moving image receiving apparatus 103 can immediately decode the received interframe compressed moving image including any frame carrier including inter frames.
  • FIG. 1 is a diagram illustrating a configuration of the video decoding device 303 according to the first embodiment.
  • the video decoding device 303 includes a media buffer 401 that stores the inter-frame compressed images of the latest multiple frames from the inter-frame compressed video extracted by the media receiving unit 301, and the latest extracted by the map information receiving unit 302.
  • a media buffer 401 that stores the inter-frame compressed images of the latest multiple frames from the inter-frame compressed video extracted by the media receiving unit 301, and the latest extracted by the map information receiving unit 302.
  • an intra map memory 402 and a motion vector map memory 403 for storing an intra map and motion vectors for a plurality of frames, respectively.
  • the video decoding device 303 includes a pseudo intra frame generator 404 that generates an inter-frame compressed image force pseudo intra frame stored in the media buffer 401, a decoder 406 that decodes the inter-frame compressed image, and a decoder 406. Includes a reconstructed image buffer 407 for storing the reconstructed image output for decoding the next inter-frame compressed image, and a switch 405 for switching an input to the decoder 406.
  • the pseudo intra frame generated by the pseudo intra frame generator 404 is an image for decoding the latest inter-frame compressed image input to the video decoding device 303.
  • the pseudo intra frame corresponds to an image obtained by decoding the inter-frame compressed image one frame before the latest inter-frame compressed image.
  • the pseudo intra frame generator 404 generates a pseudo intra frame from the inter-frame compressed image based on the intra map and the motion vector map stored in the intra map memory 402 and the motion vector map memory 403.
  • the media buffer 401, the intra map memory 402, and the motion vector map memory 403 store each data for each frame, and can extract data in units of frames.
  • the reconstructed image buffer 407 holds an uncompressed reconstructed image for one frame.
  • the reconstructed image data of the reconstructed image Noffer 407 is overwritten when new data is input.
  • the decoder 406 is a normal decoder that decodes an inter-frame compressed moving image by intra frame power. Decoder 406 contains inter-frame compressed images and images used for decoding them. It is powered.
  • both the intra map and the motion vector map are transmitted unless otherwise specified, and the video decoding device 303 includes both the intra map memory 402 and the motion vector map memory 403. Shall be.
  • FIG. 5 is a diagram showing an internal operation of the video decoding device 303.
  • the video decoding device 303 reads the media data received by the media receiving unit 301 and stores it in the media buffer 401, and also reads the intra map and motion vector map received by the map information receiving unit 302. They are stored in each of the intra map memory 402 and the motion vector map memory 4003 (S501).
  • video decoding device 303 determines whether or not a decoding start command has been input (S502).
  • the video decoding device 303 determines whether the frame read into the media buffer 401 is an intra frame (S503).
  • the video decoding device 303 sends a reset notification to the media buffer 401, the intra map memory 402, and the motion vector map memory 403, and stores them in the respective memories. All stored data is deleted (S504). Thereafter, the data is read again (S501). If the read frame is not an intra frame (NO in S503), the data stored in the memory is not erased and the data is read again (S501).
  • the pseudo intra frame generator 404 of the video decoding device 303 displays the frame related to the frame that is most recently input from the media buffer 401, the intra map memory 402, and the motion vector map memory 403. Read each data of compressed image, intra map, motion vector map (S505) [0060] The pseudo intra frame generator 404 generates a pseudo intra frame using the read inter-frame compressed image, intra map, and motion vector map data. The video decoding device 303 determines whether or not the generation of the pseudo intra frame by the pseudo intra frame generator 404 has been completed (S506).
  • the data related to the next newly input frame is read from the media notifier 401, the intra map memory 402, and the motion vector map memory 403 (S505).
  • a pseudo intra frame is generated using the data. That is, the moving picture decoding apparatus 303 reads out data in the order of new directions and generates a pseudo intra frame until a pseudo intra frame can be generated.
  • the video decoding device 303 connects the switch 405 to the output of the pseudo intra frame generator 404 (contact A, see FIG. 1) ( S507).
  • the pseudo intra frame generated by the pseudo intra frame generator 404 is input to the decoder 406.
  • the decoder 406 of the video decoding device 303 decodes the latest inter-frame compressed image input from the reception unit 301 using the input pseudo intra frame, and the decoded reconstructed image is converted into the video decoding device 303. To the external and reconstructed image buffer 407 (S508).
  • the moving picture decoding apparatus 303 determines whether or not the decoding has ended (S509). When the decoding is completed (YES in S509), the decoder 406 terminates the operation and shifts to the data reading step (S501). The video decoding device 303 puts the switch 405 into a disconnected state.
  • switch 405 is connected to the output of reconstructed image buffer 407 (contact B, see Fig. 1). As a result, the reconstructed image held in the reconstructed image buffer 407 is output to the decoder 406 (S510), and decoding is continued (S508).
  • the moving picture decoding apparatus 303 can immediately decode the received inter-frame compressed moving picture regardless of the intra-frame and the inter-frame.
  • the pseudo intra frame generator 404 receives an inter-frame compressed image, an intra map, and a motion vector map related to the latest frame, and generates a pseudo intra frame using them.
  • the pseudo intra frame generator 404 repeatedly inputs the inter-frame compressed image, the intra map, and the motion vector map related to the frame immediately before the input frame. Then, a pseudo intra frame is generated.
  • FIG. 6 is a diagram illustrating an example of a pseudo intra frame generation method using only the intra map in the pseudo intra frame generator 404.
  • numbers are assigned to the inter-frame compressed images and intra maps stored in the media buffer 401 and the intra map memory 402.
  • the intra frame is frame 0, the intra map related to frame 0 is intra map 0, the subsequent frame is frame n (n is a natural number), and the intra map related to frame n is an intra map n (n is a natural number).
  • the latest frame and intramap are called frame N and intramap N, respectively.
  • the pseudo intra frame generator 404 has an image memory for generating a pseudo intra frame.
  • the pseudo intra frame generator 404 initializes the image memory and resets the data number n to N (S601).
  • the pseudo intra frame generator 404 reads the intra map n from the intra map memory 402 (S602), and extracts the intra block included in the frame n based on the intra map n, and also extracts the frame n force (S603). If there is no intra block in frame n, n is decremented to proceed to the next frame (S607), the intra map of the next frame is read, and the same processing is repeated (S602).
  • pseudo intra frame generator 404 pastes the intra block extracted from frame n into the image memory.
  • the pseudo intra frame generator 404 determines whether or not the intra block is already pasted at the pasted position of the extracted intra block (S604). Applicable If the intra block is still pasted at the pasting position (NO in S604), the extracted intra block is pasted. If an intra block has already been pasted (YES in S604), the intra block is not pasted.
  • the above operations (S604, S605) are performed on the intra block extracted from one frame.
  • the pseudo intra frame generator 404 checks the image memory and determines whether or not the generation of the pseudo intra frame is completed, that is, whether all the blocks have been pasted (S606). If the generation of the pseudo intra frame is completed (NO in S606), n is decremented to perform processing on the data related to the next frame (S607), the intra map of the next frame is read, The same process is repeated (S602). When the generation of the pseudo intra frame is completed (YES in S606), the pseudo intra frame stored in the image memory is output to the outside of the pseudo intra frame generator 404.
  • a pseudo intra frame is generated by pasting intra blocks included in a plurality of inter-frame compressed images stored in the media buffer 401.
  • a pseudo intra frame close to the actual image can be generated.
  • FIG. 7 is a diagram showing an operation of a pseudo intra frame generation method using an intra map and a motion vector map in the pseudo intra frame generator 404.
  • numbers are assigned to the inter-frame compressed images, intra maps, and motion vector maps stored in the media buffer 401, the intra map memory 402, and the motion vector map memory 403.
  • the numbering method is the same as in the explanation of Fig. 6.
  • the pseudo intra frame generator 404 initializes the image memory and resets the data number n to N (S701).
  • the pseudo intra frame generator 404 reads the intra map N from the intra map memory 402 (S702), and extracts the intra block included in the frame N based on the intra map N, and also extracts the frame N force. If an intra block exists in the frame (YES in S703), the pseudo intra frame generator 404 pastes the intra block extracted from frame N into the image memory (S704), and proceeds to the next frame. N is decremented (S705). If there is no intra block in frame N (NO in S703), n is decremented to proceed to the next frame without performing the intra block pasting step (S705).
  • the pseudo intra frame generator 404 reads the intra map n and the motion vector map (n + 1) from the intra map memory 402 and the motion vector map memory 403, respectively. Based on the motion vector map (n + 1), the starting block of the motion vector is determined in frame n for each inter block of frame (n + 1). The origin block is a block in the position where the correlation with the inter block is highest in the search area of frame n.
  • FIG. 8 is a diagram showing the relationship among an inter block, a motion vector, an origin block, an intra block overlapping the origin block, and a shifted intra block.
  • Figure 8 shows frame n and frame n + 1.
  • Frame n + 1 is newer in time than frame n, that is, frame n + 1 is a frame that follows frame n.
  • One of the interblocks in frame n + 1 is interblock 801, and the motion vector of interblock 801 is motion vector 802.
  • the motion vector of the inter block 801 indicates that the image block force frame n force at the position of the starting block has also moved to the position of the inter block 801 at the time of frame n + 1.
  • the starting block 803 overlaps with four blocks in the frame n. Since the intra map n force also knows the position of the intra block included in the frame n, the intra block 804 that overlaps the starting block can be identified. In this example, the three blocks other than intra block 804 are not intra blocks! /. When the starting block overlaps with a plurality of intra blocks, for example, a block having the largest overlapping area may be selected.
  • the pseudo intra frame generator 404 determines whether or not there is an intra block overlapping with the starting block in the frame n (S708). Intra-maps are used to determine whether or not the force overlaps with an intra block. Use n. If the starting block overlaps the intra block (YES in S708), the intra block in the overlapped frame n is shifted to the same position as the inter block in the frame (n + 1) (S709).
  • the intra block 804 is shifted to the position of the inter block 801 in the frame n.
  • the shifted intra block 805 does not affect the block at the same position in frame n.
  • the pseudo intra frame generator 404 determines whether or not the image is pasted on the image memory at the shifted position (S710). If no image has been pasted at that block position (NO in S710), the shifted intra block is pasted (S711). If an image has already been pasted at that block position (YE in S710)
  • the pseudo intra frame generator 404 checks the image memory and determines whether or not the generation of the pseudo intra frame is completed, that is, whether all the blocks have been pasted (S712). If the generation of the pseudo intra frame has not been completed (N0 in S712), n is decremented to proceed to the data related to the next frame (S705), and the intra map and motion vector map of the next frame are obtained. Read and repeat the same process (S70
  • the pseudo intra frame stored in the image memory is output to the outside of the pseudo intra frame generator 404 (S713).
  • the above is an example of a pseudo intra frame generation method using the intra map and the motion vector map by the pseudo intra frame generator 404.
  • the intermediate force of a plurality of inter-frame compressed images stored in the media buffer 401 is also shifted after intra blocks are shifted using a motion vector to generate a pseudo intra frame.
  • intra blocks included in a temporally new inter-frame compressed image By preferentially using intra blocks included in a temporally new inter-frame compressed image, a pseudo intra frame close to the actual image can be generated.
  • FIGS. 9 and 10 an example of a pseudo intra frame generation method using only the motion vector map in the pseudo intra frame generator 404 will be described with reference to FIGS. 9 and 10.
  • a number is assigned to the motion vector map stored in the motion vector map memory 403 and the corresponding inter-frame compressed image.
  • the inter-frame compressed image other than the intra frame is not used, so that only the intra frame is stored in the media buffer 401.
  • the numbering method is the same as in the description of FIG. 6.
  • the intra frame is frame 0, the subsequent frame is frame n (n is a natural number), and the motion vector map related to frame n is the motion vector map n (n is a natural number).
  • the latest motion vector map stored in the motion vector map memory 403 is defined as a motion vector map N.
  • FIG. 9 is a diagram for explaining a pseudo intra frame generation method using only a motion vector map.
  • a pseudo intra frame generation method will be described.
  • the starting block 2 in the frame 2 is determined using the motion vector 1302 of the inter block 1301.
  • the starting block is the same as the starting block described in FIG.
  • frame 2 select the inter block that overlaps the starting block. If the starting block overlaps multiple blocks, select one block from them.
  • the method of selecting the inter block may be, for example, a block having the largest overlapping area with the starting block.
  • an inter block 1303 having the largest overlapping area with the starting block is selected as the next inter block.
  • starting block 1 in frame 1 is determined from motion vector 1304 of the relevant inter block 1303.
  • the next inter block in frame 1 is selected.
  • the starting block itself is regarded as an inter block having a motion vector (0, 0), and the starting point of the motion vector (0, 0) is the starting block.
  • all the blocks that overlap with start block 1 are intra blocks, so the next inter block is set as start block 1.
  • the motion vector of the starting block 1 considered as an inter block The starting block 0 in frame 0 is determined from Toru 1305. Since frame 0 is an intra frame, instead of selecting an inter block, an intra block is selected.
  • the block selection method may be the block with the largest overlapping area with the starting block. In this example, the intra block 1306 having the largest overlapping area with the origin block 0 is selected.
  • the selected intra block 1306 is used as an intra block for generating a pseudo intra block.
  • This intra block is pasted at the corresponding position of inter frame 3.
  • the pseudo intra frame of frame 3 is generated by performing the same processing for all the blocks in the inter frame 3.
  • FIG. 10 is a diagram for explaining the operation flow of the pseudo intra frame generator 404.
  • the operation of the pseudo intra frame generator 404 will be described with reference to FIG.
  • the pseudo intra frame generator 404 initializes the image memory and resets the data number n to N (S 14 04).
  • the pseudo intra frame generator 404 reads the motion vector map n from the motion vector map memory 403, and performs the following processing (S1403 to S1405) on all the blocks in the frame n. It is assumed that an ID is assigned to each block in frame n.
  • the pseudo intra frame generator 404 determines the starting block n-1 in frame n-1 from the motion vector of the inter block. If the block is an intra block or the like that does not have a motion vector, it is assumed that it has a motion vector (0, 0) and the starting block n ⁇ 1 is determined. Origin block n— 1 inherits the ID of the inter block in frame n.
  • the method of selecting an interblock may be an interblock that has the largest overlapping area with the starting block. If all the blocks that overlap the starting block are intra blocks, the starting block itself is regarded as an inter block of the motion vector (0, 0). The determined interblock inherits the ID of the origin block n—1.
  • the pseudo intra frame generator 404 When all the blocks in frame n have been processed !, n is decremented to proceed to the next frame (S 1406).
  • n 1 (YES in S 1404), that is, if the frame is an intra frame, an intra block that overlaps with the starting block n ⁇ 1 is determined.
  • the intra block may be selected as an intra block having the largest overlapping area with the starting block.
  • the determined intra block inherits the ID of the origin block n—1.
  • the pseudo intra frame generator 404 generates an internal image (not shown) based on the ID that each intra block inherits for each intra block in the intra frame (frame 0) determined to generate the pseudo intra frame. It is pasted at the same position as the block having the same ID in frame n in the memory (S1408).
  • the pseudo intra frame generator 404 outputs the pseudo intra frame held in the image memory to the outside of the pseudo intra frame generator 404 (S1409).
  • the above is an example of a pseudo intra frame generation method using only the motion vector map by the pseudo intra frame generator 404.
  • the motion vector selected by each frame is connected for each block to create the motion vector that the latest frame has for the intra frame stored in the media notifier 401. This can be used to generate a pseudo intra frame.
  • the moving picture decoding apparatus 303 uses the intra map memory 402 and the motion vector map memory 403 to store the inter-frame compressed image stored in the media buffer 401 using the intra map and the motion vector map. By generating pseudo intra frames and using pseudo intra frames for video decoding, it can be decoded at any timing.
  • the video receiving device 103 includes the video decoding device 303, the inter-frame compressed video can be immediately decoded when joining a video conference, starting playback of a digital video broadcasting service, or switching channels. Can be displayed without delay.
  • pseudo intra-frame generation using force intra-maps and motion vector maps showing three pseudo intra-frame generation methods by pseudo intra-frame generator 404 is shown.
  • Various other generations are conceivable for the generation method of the program, which is not limited to these.
  • the second embodiment is modified based on the pseudo intra frame generation method (hereinafter referred to as “basic method”) using the intra map and motion vector map described in the first embodiment. is there.
  • an image to be pasted to the image memory inside the pseudo intra frame generator 404 is performed in units of partial blocks, finer than blocks.
  • the intra block 804 that overlaps the starting block is directly pasted on the internal image memory.
  • the intra block 804 that overlaps the starting block is the starting point. Only paste the part that actually overlaps the block.
  • FIG. 11 is a diagram for explaining a pseudo intra frame generation method according to the second embodiment.
  • the upper part of Fig. 11 shows each frame, the motion vector, the starting block, and the intra block that overlaps the starting block. Frame numbering is the same as in FIG.
  • the lower part of FIG. 11 partially shows the state of the image memory inside the pseudo intra frame generator 404 after processing each frame.
  • attention is paid to the inter block 1501 in the frame n + 1, and how the image to be pasted in the internal memory 1512 corresponding to the block position of the inter block 1501 is generated. I will explain.
  • starting block 1503 is determined within frame n. Since the intra block that overlaps the start block 1503 is only the intra block 1504, the partial block 1513 that overlaps the start block 1503 and the intra block 1504 is cut out from the intra block 1504 and pasted to the internal memory 1512. At this time, the partial block 1513 is pasted at the same position as the position occupied by the partial block 1513 in the starting block 1503.
  • the motion vector 1505 of the inter block having the maximum area overlapping with the start block 1503 in the frame n is used. From motion vector 15 05, starting block 1506 is determined within frame n-1. It overlaps with the starting block 1506 Since the intra block 1507 is only the intra block 1507, a partial block where the starting block 1506 and the intra block 1507 overlap is cut out from the intra block 1507.
  • the shell is allocated only to a vacant part in the internal memory 1512 so that the pasted partial block 1513 is not overwritten. As a result, the partial block force is also subtracted from the partial block 1513, and an L-shaped partial block 1514 is pasted.
  • the motion vector 1508 of the inter block having the largest area overlapping with the starting block 1506 in the frame n-1 is used. From the motion vector 1508, the starting block 1509 is determined within the frame n ⁇ 2. Since the intra blocks overlapping with the origin block 1509 are the intra block 1510 and the intra block 1511, the partial blocks overlapping the origin block 1509, the intra block 1510, and the intra block 1511 are cut out from the intra block 1510 and the intra block 1511. When pasting the cut-out partial block to the internal memory 1512, the shell is allocated only to an empty part in the internal memory 1512 so that the already pasted partial block 1513 and partial block 1514 are not overwritten.
  • an L-shaped partial block 1515 is pasted.
  • all vacant spaces in the internal memory 1512 corresponding to the block position of the inter block 1501 are filled.
  • the pseudo intra block generation process for the inter block 1501 is completed.
  • the pseudo intra frame generator 404 generates a pseudo intra frame for each inter block in the frame n + 1 by shifting the intra blocks in units of partial blocks and pasting them together.
  • the image of the starting block position can be used as it is.
  • a pseudo intra frame closer to the actual image can be generated.
  • an image to be pasted to the image memory inside the pseudo intra frame generator 404 may be processed in units of partial blocks smaller than the block.
  • the origin block 15 in frame n In the example of force deformation using the motion vector 1505 of the inter block with the largest area overlapping 03, the average motion vector of the motion vectors of the three inter blocks excluding the intra block 1504 overlapping the starting block 1503 is used.
  • the starting point of the movement beta is the starting block 1503.
  • the other processing is exactly the same as the pseudo intra frame generation method of the second embodiment.
  • the motion vector selection method when shifting to the processing of the next frame has three inter blocks except for the intra block 1504 that overlaps the start block 1503.
  • a weighted average motion vector corresponding to the area overlapping the motion vector starting block 1503 may be used.
  • the starting point of the motion vector is the starting block 1 503.
  • the other processing is exactly the same as the pseudo intra frame generation method of the second embodiment.
  • FIG. 12 is a diagram showing a configuration of a moving picture transmission / reception system according to a moving picture decoding apparatus of a third embodiment of the present invention.
  • the video transmission / reception system of the third embodiment includes a video transmission device 901 for transmitting an inter-frame compressed video, a broadcast communication relay device 102 serving as a data transmission medium, and a transmitted inter-frame compressed video. It is composed of a moving image receiving device 103 that receives and displays it on an output device such as a display. Broadcast communication relay device 102 and moving image receiving device 103 are the same as those described in the first embodiment.
  • the configuration and operation of the moving picture transmission apparatus 901 of the third embodiment are different.
  • the moving picture transmitting apparatus 101 includes an encoder and generates an intra map or a motion vector map when encoding an inter-frame compressed image.
  • the moving picture transmission apparatus 901 of the embodiment includes a decoder, and generates an intra map and a motion vector map when decoding an inter-frame compressed image.
  • the inter-frame compressed moving picture stored in the moving picture transmission apparatus 901 is transmitted to the moving picture receiving apparatus 103, or the inter-frame compressed moving picture transmitted by a third party is transmitted to the moving picture. Even when device 901 receives and transfers to video receiving device 103, intra It is possible to generate a motion vector map and send it with the inter-frame compressed video.
  • the broadcast communication relay device 102 is a personal area network (PAN) by short-range wireless communication
  • a mobile video corresponding to the video transmission device 901 can be used to transmit the inter-frame compressed video transmitted from the video video on the Internet.
  • the mobile video transfers the intra-map and motion vector map along with the inter-frame compressed video to the nearby digital TV equivalent to the video receiver 103 via PAN and immediately plays back It is possible to do.
  • the moving picture transmission device 901 includes a decoder 902 for decoding the inter-frame compressed moving picture.
  • the decoder 902 includes an intra map creation unit 903 and a motion vector map creation unit 904.
  • the intra map creation unit 903 and the motion vector map creation unit 904 generate an intra map and a motion vector map for each frame when decoding each frame of the inter-frame compressed moving image.
  • the intra map and motion vector map generated at this time are the same as the intra map and vector map described in the first embodiment.
  • the moving image transmitting apparatus 901 includes a hard disk that provides inter-frame compressed moving images to the decoder 902, a storage unit 905 such as a DVD, or a media receiving unit 906.
  • the moving image transmitting apparatus 901 decodes the inter-frame compressed moving image accumulated in the accumulating unit 905 or the inter-frame compressed moving image transmitted from the outside and received by the media receiving unit 906 by the decoder 902, and displays the unillustrated display unit Play with.
  • An intra map creation unit 903 and a motion vector map creation unit 904 inside the decoder 902 generate an intra map and a motion vector map for each frame when decoding each frame of the inter-frame compressed moving image.
  • the moving image transmission device 9001 includes a network transmission unit (not shown), and transmits the acquired inter-frame compressed moving image to the moving image reception device 103 by the storage unit 905 or the media reception unit 906.
  • an intra map generated by the intra map creation unit 903 and a motion vector map generated by the motion vector map creation unit 904 are also transmitted.
  • the moving image receiving apparatus 103 receives the intra map and the motion vector map in synchronization with the inter-frame compressed moving image, and immediately decodes the received inter map by using them. It can be done.
  • the moving picture transmission apparatus 901 of this embodiment includes the decoder 902, and generates and transmits an intra map and a motion vector map during decoding.
  • the video receiving device 103 includes the same video decoding device 303 as in the first embodiment, so that interframe compression is performed when participating in a video conference, starting playback of a digital video broadcasting service, or switching channels. Inter-frame power of video can be decoded immediately and displayed on screen without delay.
  • FIG. 13 is a diagram showing a configuration of a moving picture transmission / reception system according to a moving picture decoding apparatus of a fourth embodiment.
  • the video transmission / reception system according to the fourth embodiment includes a video transmission device 1001 for transmitting a compressed inter-frame video, a broadcast communication relay device 102 serving as a data transmission medium, and a transmitted inter-frame compressed video. It consists of a video receiver 1003 that receives and displays it on an output device such as a display.
  • the broadcast communication relay device 102 is the same as that of the first embodiment, and the configuration and operation of the moving image transmitting device 1001 and the moving image receiving device 1003 are different.
  • the moving picture transmitting apparatus 101 of the first embodiment includes an encoder 104 including an intra map creation unit 105 and a motion vector map creation unit 106, and an intra map or Whereas a motion vector map is generated, the moving picture transmission apparatus 1001 of the present embodiment includes an encoder 1002 that does not include an intra map creation unit and a motion vector map creation unit.
  • the encoder 1002 does not generate an intra map or a motion vector map at the time of video encoding, and the video transmission device 1001 according to the present embodiment is compared to the video reception device 1003 together with the inter-frame compressed video. And motion vector maps are not sent.
  • the moving image receiving apparatus 1003 of the present embodiment includes an intra map creating unit and a motion vector map creating unit, not shown, and receives the received inter-frame compressed moving image. Create intramap and motion vector map from
  • FIG. 14 is a diagram showing a configuration of the moving image receiving apparatus 1003.
  • the video receiver 1003 includes a media receiver 301 that receives inter-frame compressed video, an intra map, and a motion vector pine.
  • the video decoding device 1101 that immediately decodes the inter-frame compressed video received by the media receiver 301 using the video reception device 301 and the uncompressed video decoded by the video decoding device 1101 are output to the outside.
  • the media receiving unit 301 is the same as that of the first embodiment, and extracts only the intermediate inter-frame compressed image of the transmitted data.
  • the media receiver 301 corresponds to a receiver or tuner function in digital broadcasting, and a socket interface corresponds to a packet reconstruction function in communication.
  • the media receiving unit 301 can receive not only one stream but also a plurality of streams at the same time, and send them to the moving picture decoding apparatus 1101.
  • the display unit 304 is the same as that in the first embodiment, and displays the uncompressed image decoded by the moving picture decoding apparatus 1101.
  • the display unit 304 is a display, for example. With the above-described configuration, the moving image receiving apparatus 1003 can immediately decode the received inter-frame compressed moving image with the inter-frame force.
  • FIG. 15 is a diagram illustrating a configuration of a moving picture decoding device 1101 according to the fourth embodiment.
  • the video decoding device 1101 includes a media buffer 401 for storing the latest inter-frame compressed images for a plurality of frames from the inter-frame compressed video extracted by the media receiver 301, and an intra-block from the inter-frame compressed video.
  • Intra map generator 1201 and motion vector map generator 1202, and intra map generator 1201 and motion vector map generator 1202 that generate the intra map and motion vector map respectively.
  • an intra map memory 4002 and a motion vector map memory 403 for storing motion vector maps, respectively.
  • the video decoding device 1101 uses the inter-frame compressed image force pseudo intra stored in the media buffer 401 based on the intra map and the motion vector map stored in the intra map memory 402 and the motion vector map memory 403.
  • An image buffer 407 and a switch 405 for switching an input to the decoder 406 are provided.
  • the pseudo intra frame generated by the pseudo intra frame generator 404 is an image that is indispensable for decoding the latest inter-frame compressed image input to the video decoding device 1101. It is a statue.
  • the pseudo intra frame corresponds to a decoded inter-frame compressed image one frame before the latest inter-frame compressed image.
  • the media buffer 401, the intramap memory 402, and the motion vector map memory 403 store each data for each frame, and can access and retrieve each data on a frame basis.
  • the reconstructed image buffer 407 holds an uncompressed reconstructed image for one frame and is overwritten when new data is input.
  • the decoder 406 is a normal decoder that can also decode an inter-frame compressed moving image by an intra frame.
  • the moving picture decoding apparatus 1101 includes an intra map creation unit 1201 and a motion vector map creation unit 1202, so that the received inter-frame compressed image force is also necessary to generate a pseudo intra frame. Can be generated.
  • the generated intra map and motion vector map are stored in the intra map memory 4002 and the motion vector map memory 403, respectively. Other operations are the same as those of the moving picture decoding apparatus 303 of the first embodiment.
  • the moving image decoding apparatus 1101 includes the intra map creating unit 1201 and By including the motion vector map creation unit 1202, it is possible to generate an intra map and a motion vector map necessary for generating a pseudo intra frame, and it is possible to immediately decode the inter frame force.
  • the present invention has an excellent effect when decoding can be started at an arbitrary timing using a pseudo intra frame, and can be applied to a video conference terminal, a digital television, or the like. It is useful as a moving picture decoding apparatus to be applied.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

 動画受信装置は、受信した動画データを復号する動画復号装置(303)を備える。動画復号装置(303)は、動画データを記憶するメディアバッファ(401)と、動画データのインターフレームに含まれるイントラブロックの位置を示すイントラマップを記憶するイントラマップメモリ(402)と、イントラマップメモリ(402)に記憶されたイントラマップに基づいて、メディアバッファ(401)に蓄積された最新のインターフレームから順に、インターフレームに含まれるイントラブロックの画像を抽出し、複数のインターフレームから抽出したイントラブロックの画像を組み合わせて擬似イントラフレームを生成する擬似イントラフレーム生成部(404)と、擬似イントラフレームを用いて動画データの復号を開始するデコーダ(406)とを備える。これにより、動画受信装置は、受信した動画データを任意のフレームから復号できる。

Description

明 細 書
動画受信装置
関連する出願
[0001] 本出願では、 2005年 8月 31日に日本国に出願された特許出願番号 2005— 2507 58の利益を主張し、当該出願の内容は引用することによりここに組み込まれているも のとする。
技術分野
[0002] 本発明は、符号化された動画の復号化技術に関する。具体的には、時間的な相関 に基づ!/、て符号化されたフレーム間圧縮動画を、任意のフレーム力 復号する高速 動画復号化技術に関する。
背景技術
[0003] 近年、パーソナルコンピュータが一般家庭にも広く浸透し、動画伝送によるテレビ電 話や撮影したムービー映像の編集などが簡単に行えるようになってきた。地上波デジ タル放送の開始、 DVD (Digital Versatile Disk)レコーダやハードディスクレコーダ の普及により、デジタル動画がますます身近なものとなつてきて 、る。
[0004] デジタル動画は、一般に膨大な情報量のデジタル情報を有するので、圧縮される のが普通である。上述した地上波デジタル放送や DVDレコーダには、 MPEG-2(ISO /IEC 13818-2 International Standard MPEG- 2 Video)という動画圧縮規格が用い られている。テレビ電話には ITU-T H.263という動画圧縮規格がよく用いられている
[0005] MPEG規格を始めとする多くの動画圧縮規格は、連続する画像フレームの時間方 向での冗長性を利用したフレーム間圧縮技術を取り入れている。これは、 30フレーム 毎秒といった短時間では、連続するフレームは相関が高いことに着目したものである 。具体的には、ある特定のフレームをフレーム内の情報のみを利用して符号ィ匕する。 その後続フレームは、直前のフレームとの差分である差分フレームを取得して符号ィ匕 する。フレーム内の情報のみを利用して符号ィ匕されるフレームは、フレーム内符号ィ匕 フレームもしくはイントラフレームと呼ばれる。後続フレームを符号ィ匕したものは、先行 するフレームを利用して符号ィ匕されるため、フレーム間符号化フレームもしくはインタ 一フレームと呼ばれる。
[0006] 復号時には、最初にイントラフレームをフレーム内復号した後、後続のインターフレー ムを順次復号していく。インターフレームの復号は、まず差分フレームを復号し、復号 された差分フレームを直前フレームと加算することによって復号する。
[0007] 実際のフレーム間圧縮符号化においては、フレームをいくつかのブロックに分割し、 ブロック単位でフレーム内符号化、フレーム間符号ィ匕が選択される。フレーム内符号 化が行われたブロックをイントラブロック、フレーム間符号ィ匕が行われたブロックをイン ターブロックと呼ぶ。イントラフレームはイントラブロックのみ力 なるフレームであり、ィ ンターフレームは、インターブロックを含むフレームである。
[0008] インターブロックの符号化においては、単純にブロック間の差分を求めるだけでなぐ 動きベクトルを導入している。これにより、符号ィ匕対象のブロックと最も相関が高いブ ロックとの差分を求めることで、圧縮率の向上を図っている。
[0009] イントラフレームは、直ちに復号可能である。インターフレームは、インターブロックを 含むために、すでに復号された直前フレーム内のブロックと加算することによって初 めて復号可能になる。インターフレームは、直前のフレームが復号された後でなけれ ば復号することはできない。つまり、インターフレームは、前方にある直近のイントラフ レーム力 順番に復号をしてきた後でなければ復号できない。これは、時間方向での 冗長性を利用するフレーム間圧縮の共通の問題点である。従って、 DVDレコーダで 録画した映像のランダムアクセス再生にぉ 、ても、任意の位置から開始することはで きず、再生開始位置は、イントラフレームの挿入位置に限られる。この問題点は、一 見イントラフレームを頻繁に挿入することで回避可能に思える。しかし、イントラフレー ムは圧縮率が低いため、イントラフレームを数多く挿入すると動画の圧縮率が著しく 低下する。
[0010] フレーム間圧縮動画をインターフレームカも復号できな 、ことに起因する不都合の一 例として、多地点 TV会議への参加が挙げられる。多地点 TV会議の実現方法には 二つある。一つの方法は、各端末で撮影した動画を MCUと呼ばれる多地点会議装 置に集め、 MCUがすべての動画を合成したのち各端末に送り返す方法である。もう 一つの方法は、送信側の端末が端末で撮影した動画を全ての端末に向けて同報送 信し、受信側の端末が送られた動画を合成する方法である。いずれの方法において も、動画圧縮にフレーム間圧縮技術が用いられていると、会議の途中で新たに参カロ する端末は、インターフレームカも復号することができないため、次のイントラフレーム の到着を待って再生を開始する。これにより、会議に参加したにも拘らず、しばらく画 像が表示されな 、状態となる。
[0011] フレーム間圧縮動画をインターフレーム力 復号することができないことに起因する 不都合の別な一例として、デジタル動画放送サービスの再生開始もしくはチャンネル 切替えが挙げられる。放送サービスとして、地上波デジタル放送や衛星を使ったモバ ィル放送などが開始されている。デジタルテレビ等の端末に用いられる復号器は、放 送の受信を開始した場合やチャンネルを切り替えた場合に、当該受信チャンネルに ぉ 、て次のイントラフレームの到着を待って再生を開始して 、る。
[0012] 多地点 TV会議において、新たな端末の参加時に即座に画像を復号して表示するた めの技術が、特開平 7— 298231号公報に開示されている。特開平 7— 298231号 公報によれば、参加端末が第一の TV会議実現方法では MCUに、第二の TV会議 実現方法では会議に既に参加している全ての端末に参加の通知を行う。その通知に よって、 MCUもしくは全ての会議参加端末は、端末で撮影された動画を一定時間フ レーム内符号ィ匕してイントラフレームを送出する。これにより、新たな参加端末は即座 にフレームを復号して表示することができる。
発明の開示
発明が解決しょうとする課題
[0013] しかしながら、特開平 7— 298231号公報においては、会議参加通知後一定時間は イントラフレームが送信され続けるのでネットワーク帯域を圧迫する。通信相手に動的 に符号化モードの変更を要求するので、リアルタイム符号ィ匕を行っているシステムに しか適応できな 、と!/、つた問題が残されて 、る。
[0014] デジタル動画放送サービスの再生開始もしくはチャンネル切替えの場合に動画を復 号し表示する技術においては、次のイントラフレームの到着を待って当該チャンネル の再生を開始するため、画面上にしばらく画像が表示されないという問題が生じる。 [0015] 本発明は、力かる従来のフレーム間圧縮動画の復号ィ匕の問題に鑑みてなされたもの であって、テレビ会議への途中参加やデジタル動画放送サービスの再生開始もしく はチャンネル切替えに際して、任意のフレーム力 フレーム間圧縮動画を復号するこ とを可能とし、遅滞なく画面表示がなされる動画受信装置を提供する。
課題を解決するための手段
[0016] 本発明の動画受信装置は、複数のイントラフレームおよびインターフレーム力 なる 動画データを受信する動画データ受信部と、前記動画データ受信部にて受信した動 画データを蓄積するメディアバッファと、前記動画データのそれぞれのインターフレ ームに含まれるイントラブロックの位置を示すイントラマップを記憶するイントラマップ 記憶部と、前記イントラマップ記憶部に記憶されたイントラマップに基づいて、前記メ ディアバッファに蓄積された最新のインターフレーム力 順に、インターフレームに含 まれるイントラブロックの画像を抽出し、複数のインターフレーム力 抽出したイントラ ブロックの画像を組み合わせて擬似イントラフレームを生成する擬似イントラフレーム 生成部と、前記擬似イントラフレーム生成部にて生成された擬似イントラフレームを用 V、て、前記動画データ受信部にて受信する動画データの復号を開始するデコーダと を備える。
[0017] このようにインターフレームに含まれるイントラブロックを抽出し、イントラブロックを組 み合わせて擬似のイントラフレームを生成することにより、動画復号の指示があってか ら、次のイントラフレームを受信するまで待つことなぐ擬似イントラフレームを用いて 復号を開始することができる。
[0018] 上記動画受信装置において、前記擬似イントラフレーム生成部は、擬似イントラフレ ームを構成するブロックとして適用可能なイントラブロックが複数のインターフレーム 力も抽出された場合は、新しい方のインターフレーム力も抽出したイントラブロックの 画像を用いてもよい。
[0019] このように新し 、方のインターフレーム力も抽出したイントラブロックを用いることによ り、現在受信中のフレームの画像に近い擬似イントラフレームを生成することができる
[0020] 上記動画受信装置は、前記動画データ受信部にて受信した動画データから、前記 動画データのイントラマップを生成するイントラマップ生成部を備え、前記イントラマツ プ生成部にて生成されたイントラマップを前記イントラマップ記憶部に記憶してもよ ヽ
[0021] このようにイントラマップを生成することにより、イントラマップのデータを受信せずに擬 似イントラフレームを生成することができる。また、イントラマップを生成してイントラマツ プ記憶部に記憶しておくことにより、動画復号の指示があってから、イントラマップを 生成する処理を行う必要がなぐ迅速に復号処理を開始できる。
[0022] 上記動画受信装置は、前記動画データのフレーム間のブロック毎の動きベクトルを 示す動きベクトルマップを記憶する動きベクトルマップ記憶部を備え、前記擬似イント ラフレーム生成部は、複数のインターフレーム力も抽出したイントラブロックの画像を、 動きベクトルマップに基づ 、て決まる位置に移動して組み合わせて、擬似イントラフレ ームを生成してもよい。
[0023] このように動きベクトルマップを用いることにより、動きの大きい動画の場合にも適切な 擬似イントラフレームを生成することができる。
[0024] 上記動画受信装置は、前記動画データ受信部にて受信した動画データから、前記 動画データの動きベクトルマップを生成する動きベクトルマップ生成部を備え、前記 動きベクトルマップ生成部にて生成された動きベクトルマップを前記動きベクトルマツ プ記憶部に記憶してもよい。
[0025] このように動きベクトルマップを生成することにより、動きベクトルマップのデータを受 信せずに擬似イントラフレームを生成することができる。また、動きベクトルマップを生 成して動きベクトルマップ記憶部に記憶しておくことにより、動画復号の指示があって から、動きベクトルマップを生成する処理を行う必要がなぐ迅速に復号処理を開始 できる。
[0026] 本発明の別の態様の動画受信装置は、複数のイントラフレームおよびインターフレー ムからなる動画データを受信する動画データ受信部と、前記動画データ受信部にて 受信した動画データを蓄積するメディアバッファと、前記動画データのフレーム間の ブロック毎の動きベクトルを示す動きベクトルマップを記憶する動きベクトルマップ記 憶部と、前記動きベクトルマップ記憶部に記憶された動きベクトルマップに基づ 、て、 最新のインターフレーム力 遡って、前記最新のインターフレームを構成する各プロ ックに相当するイントラフレーム中のイントラブロックを特定し、前記特定されたイントラ ブロックの画像を用いて擬似イントラフレームを生成する擬似イントラフレーム生成部 と、前記擬似イントラフレーム生成部にて生成された擬似イントラフレームを用いて、 前記動画データ受信部にて受信する動画データの復号を開始するデコーダとを備 える。
[0027] このように動きベクトルマップに基づ!/、て最新のインターフレームからイントラフレー ムに遡り、イントラフレームの各ブロックの画像に基づいて擬似イントラフレームを生成 することができる。これにより、動画復号の指示があってから、次のイントラフレームを 受信するまで待つことなぐ擬似イントラフレームを用いて復号を開始することができ る。
[0028] 上記動画受信装置は、前記動画データ受信部にて受信した動画データから、前記 動画データの動きベクトルマップを生成する動きベクトルマップ生成部を備え、前記 動きベクトルマップ生成部にて生成された動きベクトルマップを前記動きベクトルマツ プ記憶部に記憶してもよい。
[0029] このように動きベクトルマップを生成することにより、動きベクトルマップのデータを受 信せずに擬似イントラフレームを生成することができる。また、動きベクトルマップを生 成して動きベクトルマップ記憶部に記憶しておくことにより、動画復号の指示があって から、動きベクトルマップを生成する処理を行う必要がなぐ迅速に復号処理を開始 できる。
[0030] 本発明の動画再生装置は、複数のイントラフレームおよびインターフレームからなる 動画データを再生する動画データ再生部と、前記動画データ再生部にて再生中の 動画に基づ 、て、前記動画に含まれるインターフレームのそれぞれのイントラブロック の位置を示すイントラマップを生成するイントラマップ生成部と、前記イントラマップ生 成部にて生成されたイントラマップを前記動画データと共に送信する動画データ送 信部とを備える。
[0031] このように動画の再生中にイントラマップを生成し、動画データを送信するときにイント ラマップを送信することにより、動画を受信した装置において、イントラフレームを待た ずに、任意のタイミングでイントラマップに基づ 、て動画の復号を開始することができ る。
[0032] 上記動画再生装置は、前記動画データ再生部にて再生中の動画に基づいて、前記 動画のフレーム間のブロック毎の動きベクトルを示す動きベクトルマップを生成する動 きベクトルマップ生成部を備えてもよ 、。
[0033] このように動画の再生中に動きベクトルマップを生成し、動画データを送信するときに イントラマップと共に動きベクトルマップを送信することにより、動画を受信した装置に おいて、イントラフレームを待たずに、任意のタイミングで動画の復号を開始すること ができる。
[0034] 本発明によれば、動画復号の指示があってから、次のイントラフレームを受信するま で待つことなぐ擬似イントラフレームを用いて復号を開始することができる。テレビ会 議への途中参加やデジタル動画放送サービスの再生開始もしくはチャンネル切替え に際して、遅延なく画面表示がなされるというすぐれた効果を有する。
[0035] 以下に説明するように、本発明には他の態様が存在する。したがって、この発明の開 示は、本発明の一部の提供を意図しており、ここで記述され請求される発明の範囲を 制限することは意図していない。
図面の簡単な説明
[0036] [図 1]図 1は、第 1の実施の形態の動画復号装置の構成を示すブロック図
[図 2]図 2は、第 1の実施の形態の動画復号装置に係る動画送受信システムの構成を 示すブロック図
[図 3A]図 3Aは、イントラマップの一例を示す図
[図 3B]図 3Bは、動きベクトルマップの一例を示す図
[図 4]図 4は、第 1の実施の形態における動画送受信システムの動画受信装置の内 部構成を示すブロック図
[図 5]図 5は、第 1の実施の形態の動画復号装置の動作の流れを示す流れ図
[図 6]図 6は、第 1の実施の形態の擬似イントラフレーム生成器によるイントラマップの みを使う擬似イントラフレーム生成方法の一例を示す流れ図
[図 7]図 7は、第 1の実施の形態の擬似イントラフレーム生成器によるイントラマップと 動きベクトルマップを使う擬似イントラフレーム生成方法の一例を示す流れ図
[図 8]図 8は、第 1の実施の形態の擬似イントラフレーム生成器によるイントラマップと 動きベクトルマップを使う擬似イントラフレーム生成方法を説明する図
[図 9]図 9は、第 1の実施の形態の擬似イントラフレーム生成器による動きベクトルマツ プのみを使う擬似イントラフレーム生成方法を説明する図
[図 10]図 10は、第 1の実施の形態の擬似イントラフレーム生成器による動きベクトル マップのみを使う擬似イントラフレーム生成方法の一例を示す流れ図
[図 11]図 11は、第 2の実施の形態の擬似イントラフレーム生成器によるイントラマップ と動きベクトルマップを使う擬似イントラフレーム生成方法を説明する図
[図 12]図 12は、第 3の実施の形態の動画復号装置に係る動画送受信システムの構 成を示すブロック図
[図 13]図 13は、第 4の実施の形態の動画復号装置に係る動画送受信システムの構 成を示すブロック図
[図 14]図 14は、第 4の実施の形態における動画送受信システムの動画受信装置の 内部構成を示すブロック図
[図 15]図 15は、第 4の実施の形態の動画復号装置の内部構成を示すブロック図 発明を実施するための最良の形態
[0037] 以下に、本発明の詳細な説明を述べる。以下に説明する実施の形態は本発明の単 なる例であることが理解され、本発明が様々な態様に変形することができる。従って、 以下に開示する特定の構成および機能は、請求の範囲を限定するものではない。
[0038] (第 1の実施の形態) 図 1は、第 1の実施の形態の動画受信装置が備える動画復号 装置の構成を示す図である。図 1を用いて動画復号のための構成について説明する 前に、第 1の実施の形態の動画受信装置が適用される動画送受信システムについて 説明する。
[0039] 図 2は、第 1の実施の形態の動画受信装置が適用される動画送受信システムの構成 を示す図である。動画送受信システムは、フレーム間圧縮動画を送信するための動 画送信装置 101と、データの伝送媒体となる放送通信中継装置 102と、送信された フレーム間圧縮動画を受信し、復号ィ匕した後ディスプレイなどの出力装置に表示す る動画受信装置 103とを備えている。本実施の形態の動画復号装置は、動画受信装 置 103の内部に設置されている。
[0040] 動画送信装置 101は、動画をフレーム間圧縮するエンコーダ 104を備え、図示しな い送出部を用いて生成したフレーム間圧縮動画を送出することが可能である。動画 送信装置 101は、例えば放送局におけるデジタル放送を行うための動画放送サーバ に相当し、ある 、はテレビ会議システムにおける MCUに相当する。
[0041] 放送通信中継装置 102は、動画送信装置 101から送信されたデータを動画受信装 置 103まで伝送する媒体の全てを包含するものである。放送においては放送衛星や 送受信アンテナなどが放送通信中継装置 102の一部であり、通信においては光ファ ィバゃルータなどが放送通信中継装置 102の一部である。放送通信中継装置 102 は、動画送信装置 101から送信されたデータを放送や通信に限ることなく動画受信 装置 103まで伝送する。
[0042] 動画受信装置 103は、本発明の第 1の実施の形態である動画復号装置(図 1参照) を備え、受信したフレーム間圧縮動画を高速に復号し表示するものである。動画受 信装置 103は、例えばデジタルテレビに相当し、あるいはテレビ会議端末に相当する ものである。
[0043] 次に、動画送信装置 101のエンコーダ 104について説明する。エンコーダ 104は、ィ ントラマップ作成部 105と動きベクトルマップ作成部 106を備え、動画の各フレームを 符号化する際に、フレーム毎にイントラマップと動きベクトルマップを生成する。イント ラマップとは、フレームに含まれるイントラ符号ィ匕されたブロックの位置を示すマップ である。動きベクトルマップとは、フレームに含まれるインター符号化されたブロックの 位置と動きベクトルの関係を示すマップである。
[0044] 図 3Aは、イントラマップの例を示す図である。外枠は一枚のフレームを、フレーム内 に敷き詰められた小さい長方形はフレームを構成するブロックを示す。図 3Aにおい て、イントラブロックは「I」と表示する。イントラマップにより、当該フレームにおけるイン トラブロックの位置を知ることができる。
[0045] 図 3Bは、動きベクトルマップの例を示す図である。外枠は一枚のフレームを、フレー ム内に敷き詰められた小さい長方形はフレームを構成するブロックを示す。図 3Bに おいて、各インターブロックの中心に動きベクトルを表示する。イントラマップおよび動 きベクトルマップにより、当該フレームにおけるインターブロックの位置およびそのブロ ックの動きベクトルを知ることができる。
[0046] なお、図 3Aに示すイントラマップおよび図 3Bに示す動きベクトルマップは一例である 。必要な情報であるイントラブロックの位置、インターブロックの位置および動きべタト ルが得られる限り、配列、ビット列などマップとしての形態は、図 3Aおよび図 3Bに示 す態様に捉われるものではない。ここではエンコーダ 104は、イントラマップ作成部 1 05と動きベクトルマップ作成部 106を備えるとしている力 どちらか一方しか備えない ものであってもよい。
[0047] 動画送信装置 101は、フレーム間圧縮動画を送信する際に、エンコーダ 104が有す るイントラマップ作成部 105がイントラマップを生成するときはイントラマップを併せて 送信する。また、動画送信装置 101は、フレーム間圧縮動画を送信する際に、ェンコ ーダ 104が有する動きベクトルマップ作成部 106が動きベクトルマップを生成するとき は動きベクトルマップを併せて送信する。この結果として、動画像受信装置 103は、 フレーム間圧縮動画に同期して、イントラマップ、動きベクトルマップを受信する。動 画像受信装置 103は、イントラマップ、動きベクトルマップを利用することにより、イン ターフレーム力 即時に復号できる。
[0048] 図 4は、動画受信装置 103の構成を示す図である。動画受信装置 103は、フレーム 間圧縮動画を受信するメディア受信部 301と、イントラマップや動きベクトルマップを 受信するマップ情報受信部 302と、マップ情報受信部 302にて受信したイントラマツ プゃ動きベクトルマップを用いてメディア受信部 301にて受信したフレーム間圧縮動 画を任意のフレーム力も即時に復号する動画復号装置 303と、動画復号装置 303が 復号した非圧縮動画を外部に出力するための表示部 304とから構成される。
[0049] メディア受信部 301は、伝送されたデータの中からフレーム間圧縮画像のみを抽出 する。メディア受信部 301は、デジタル放送においては受信機やチューナの機能に 相当し、通信にぉ 、てはソケットインターフェイスやパケット再構築機能に相当する。 メディア受信部 301は、 1ストリームに限らず複数のストリームを同時に受信し、動画 復号装置 303に送る。マップ情報受信部 302は、伝送されたデータの中からイントラ マップと動きベクトルマップを抽出し、抽出したマップを動画復号装置 303に送る。
[0050] 表示部 304は、動画復号装置 303によって復号された非圧縮画像を表示する。表示 部 304は、例えばディスプレイに相当する。動画受信装置 103は、以上の構成を有 することにより、受信したフレーム間圧縮動画を、インターフレームを含む任意のフレ 一ムカも即時に復号することができる。
[0051] 図 1は、第 1の実施の形態の動画復号装置 303の構成を示す図である。動画復号装 置 303は、メディア受信部 301が抽出したフレーム間圧縮動画の中から直近の複数 フレーム分のフレーム間圧縮画像を蓄積するメディアバッファ 401と、マップ情報受 信部 302にて抽出した最新の複数フレーム分のイントラマップおよび動きベクトルを それぞれ格納するイントラマップメモリ 402および動きベクトルマップメモリ 403を備え ている。
[0052] 動画復号装置 303は、メディアバッファ 401に蓄積されたフレーム間圧縮画像力 擬 似イントラフレームを生成する擬似イントラフレーム生成器 404と、フレーム間圧縮画 像を復号するデコーダ 406と、デコーダ 406が出力した再構築画像を次のフレーム 間圧縮画像の復号のために格納する再構築画像バッファ 407と、デコーダ 406への 入力を切り替えるスィッチ 405とを備えて 、る。
[0053] 擬似イントラフレーム生成器 404が生成する擬似イントラフレームとは、動画復号装 置 303に入力された最新のフレーム間圧縮画像を復号するための画像である。擬似 イントラフレームは、当該最新のフレーム間圧縮画像より 1フレーム前のフレーム間圧 縮画像を復号した画像に相当する。擬似イントラフレーム生成器 404は、イントラマツ プメモリ 402および動きベクトルマップメモリ 403に格納されたイントラマップや動きべ タトルマップに基づいて、フレーム間圧縮画像から擬似イントラフレームを生成する。
[0054] メディアバッファ 401、イントラマップメモリ 402、動きベクトルマップメモリ 403は、各デ ータをフレーム毎に格納しており、フレーム単位でデータを取り出すことができる。再 構築画像バッファ 407は 1フレーム分の非圧縮再構築画像を保持する。再構築画像 ノ ッファ 407の再構築画像データは、新しいデータが入力されると上書きされる。
[0055] デコーダ 406は、フレーム間圧縮動画をイントラフレーム力 復号する通常のデコー ダである。デコーダ 406には、フレーム間圧縮画像とその復号に用いられる画像が入 力される。
[0056] なお、動画送信装置 101からイントラマップもしくは動きベクトルマップのどちらかが送 信されない場合は、送信されないマップに対応するメモリには何も蓄積されない。そ の場合は、イントラマップメモリ 402と動きベクトルマップメモリ 403の双方を具備する 必要はなぐ送信されるデータに対応するメモリを備えておくだけでよい。本実施の形 態の以降の説明では、特に断らない限りイントラマップと動きベクトルマップの双方が 送信され、動画復号装置 303がイントラマップメモリ 402と動きベクトルマップメモリ 40 3の双方を具備して 、るものとする。
[0057] 図 5は、動画復号装置 303の内部の動作を示す図である。まず、動画復号装置 303 は、メディア受信部 301にて受信したメディアデータを読み込んでメディアバッファ 40 1に格納すると共に、マップ情報受信部 302にて受信したイントラマップおよび動きべ タトルマップを読み込んで、イントラマップメモリ 402および動きベクトルマップメモリ 4 03のそれぞれに格納する(S501)。
[0058] この状態で、動画復号装置 303は、デコード開始命令が入力されたか否かを判定す る(S502)。デコード開始命令が入力されない場合には(S502で NO)、動画復号装 置 303は、メディアバッファ 401に読み込まれたフレームがイントラフレームか否かを 判定する(S503)。読み込まれたフレームがイントラフレームである場合には(S503 で YES)、動画復号装置 303は、メディアバッファ 401、イントラマップメモリ 402、動 きベクトルマップメモリ 403にリセット通知を送り、それぞれのメモリに格納されている データをすベて消去する(S504)。その後、再度データを読み込む(S501)。読み込 まれたフレームがイントラフレームでない場合には(S503で NO)、メモリに格納され て 、るデータを消去しな 、で、再度データを読み込む(S501)。
[0059] 次に、データ読み込み中に(S501)にデコード開始命令が入力された場合(S502で YES)の動作について説明する。デコード開始が入力された場合には、動画復号装 置 303の擬似イントラフレーム生成器 404は、メディアバッファ 401、イントラマップメ モリ 402、動きベクトルマップメモリ 403から最も新しく入力されたフレームに係るフレ ーム間圧縮画像、イントラマップ、動きベクトルマップの各データを読み出す (S505) [0060] 擬似イントラフレーム生成器 404は、読み出したフレーム間圧縮画像、イントラマップ 、動きベクトルマップの各データを用いて、擬似イントラフレームを生成する。動画復 号装置 303は、擬似イントラフレーム生成器 404による擬似イントラフレームの生成が 完了した力否かを判定する(S506)。擬似イントラフレームの生成が完了しない場合 には(S506)、メディアノ ッファ 401、イントラマップメモリ 402、動きベクトルマップメモ リ 403から、次に新しく入力されたフレームに係るデータを読み出し (S505)、そのデ ータを用いて擬似イントラフレームを生成する。すなわち、動画復号装置 303は、擬 似イントラフレームを生成できるまで、新しい方力 順にデータを読み出して擬似イン トラフレームの生成を行う。
[0061] 擬似イントラフレーム生成器 404が擬似イントラフレームの生成を完了した場合には、 動画復号装置 303はスィッチ 405を擬似イントラフレーム生成器 404の出力(接点 A 、図 1参照)と接続する(S507)。これにより、擬似イントラフレーム生成器 404が生成 した擬似イントラフレームがデコーダ 406に入力される。
[0062] 動画復号装置 303のデコーダ 406は、入力された擬似イントラフレームを用いて、受 信部 301から入力される最新のフレーム間圧縮画像を復号し、復号した再構築画像 を動画復号装置 303の外部および再構築画像バッファ 407に出力する(S508)。
[0063] 動画復号装置 303は、デコードが終了した力否かを判定する(S509)。デコードが終 了した場合には(S509で YES)、デコーダ 406は動作を終了し、データ読込みのス テツプに移行する(S501)。動画復号装置 303は、スィッチ 405を切断状態とする。
[0064] デコードが終了していない場合には(S509で NO)、スィッチ 405を再構築画像バッ ファ 407の出力(接点 B、図 1参照)と接続する。これにより、再構築画像バッファ 407 に保持された再構築画像が、デコーダ 406に出力され (S510)、デコードを継続する (S508)。
[0065] 以上のようにして、動画復号装置 303は、フレーム間圧縮動画をイントラフレームとィ ンターフレームにかかわらず受信した最新のフレーム力 即時に復号することができ る。
[0066] 次に、擬似イントラフレーム生成器 404による擬似イントラフレームの生成の動作(S5 06)についてさらに詳細に説明する。図 5のフローチャートですでに説明したように、 擬似イントラフレーム生成器 404には最新のフレームに係るフレーム間圧縮画像、ィ ントラマップ、動きベクトルマップが入力され、それらを用いて擬似イントラフレームを 生成する。擬似イントラフレームの生成が完了しない場合は、擬似イントラフレーム生 成器 404は、入力されたフレームより時間的に一つ前のフレームに係るフレーム間圧 縮画像、イントラマップ、動きベクトルマップを繰り返し入力し、擬似イントラフレームを 生成する。擬似イントラフレーム生成器 404におけるイントラマップと動きベクトルマツ プを使った擬似イントラフレームの生成方法は複数考えられる。ここでは、複数の擬 似イントラフレームの生成方法の中から (i)イントラマップのみを使う例(図 6参照)、 (ii )イントラマップと動きベクトルマップを使う例(図 7参照)、 (iii)動きベクトルマップのみ を使う例(図 10参照)について説明する。
[0067] 図 6は、擬似イントラフレーム生成器 404におけるイントラマップのみを使う擬似イント ラフレーム生成方法の一例を示す図である。説明の都合上、メディアバッファ 401、ィ ントラマップメモリ 402に蓄積されているフレーム間圧縮画像およびイントラマップに 番号を付ける。イントラフレームをフレーム 0、フレーム 0に係るイントラマップをイントラ マップ 0とし、後続のフレームをフレーム n (nは自然数)、フレーム nに係るイントラマツ プをイントラマップ n (nは自然数)とし、蓄積されて!、る最新のフレーム及びイントラマ ップをそれぞれフレーム N、イントラマップ Nとする。擬似イントラフレーム生成器 404 は、擬似イントラフレームを生成するための画像メモリを有して 、るものとする。
[0068] 擬似イントラフレーム生成器 404は、画像メモリを初期化し、データ番号 nを Nにリセッ トする(S601)。擬似イントラフレーム生成器 404は、イントラマップメモリ 402からイン トラマップ nを読込み(S602)、イントラマップ nに基づいてフレーム nに含まれるイント ラブロックをフレーム n力も抽出する(S603)。フレーム n内にイントラブロックが全く存 在しない場合は、次のフレームへ処理を進めるために nをデクリメントし(S607)、次 のフレームのイントラマップを読込み、同じ処理を繰り返す(S602)。
[0069] インターフレーム nからイントラブロックが抽出された場合には(S603で YES)、擬似 イントラフレーム生成器 404は、フレーム nから抽出したイントラブロックを画像メモリに 貼り付ける。擬似イントラフレーム生成器 404は、抽出したイントラブロックの貼り付け 位置にすでにイントラブロックが貼り付けられている力否かを判定する(S604)。該当 する貼り付け位置にイントラブロックがまだ貼り付けられて 、な 、場合は(S604で NO )、抽出したイントラブロックを貼り付ける。イントラブロックがすでに貼り付けられている 場合には(S604で YES)、イントラブロックの貼り付けを行わない。以上の動作を(S6 04、 S605)を、 1フレーム分から抽出したイントラブロックに対して行う。
[0070] 擬似イントラフレーム生成器 404は、画像メモリをチェックし、擬似イントラフレームの 生成が完了しているかどうか、すなわち全てのブロックが貼付け済みであるかどうか 判定する(S606)。擬似イントラフレームの生成が完了して 、な 、場合は(S606で N 0)、次のフレームに係るデータへ処理を行うために nをデクリメントし(S607)、次の フレームのイントラマップを読込み、同じ処理を繰り返す (S602)。擬似イントラフレー ムの生成が完了した場合は (S606で YES)、画像メモリ内に保持された擬似イントラ フレームを擬似イントラフレーム生成器 404の外部へ出力する。
[0071] 以上が、擬似イントラフレーム生成器 404によるイントラマップのみを使う擬似イントラ フレーム生成方法の動作である。メディアバッファ 401に蓄積された複数のフレーム 間圧縮画像の中に含まれるイントラブロックを貼り合わせることにより擬似イントラフレ ームを生成する。時間的に新 、フレーム間圧縮画像に含まれるイントラブロックを 優先して利用することにより、実際の画像に近い擬似イントラフレームを生成すること ができる。
[0072] 図 7は、擬似イントラフレーム生成器 404におけるイントラマップと動きベクトルマップ を使う擬似イントラフレーム生成方法の動作を示す図である。説明の都合上、メディア バッファ 401、イントラマップメモリ 402、動きベクトルマップメモリ 403に蓄積されてい るフレーム間圧縮画像、イントラマップおよび動きベクトルマップに番号を付ける。番 号の付け方は図 6の説明の場合と同様とする。
[0073] 擬似イントラフレーム生成器 404は、画像メモリを初期化すると共に、データ番号 nを Nにリセットする(S701)。擬似イントラフレーム生成器 404は、イントラマップメモリ 40 2からイントラマップ Nを読込み(S702)、イントラマップ Nに基づいてフレーム Nに含 まれるイントラブロックをフレーム N力も抽出する。フレーム内にイントラブロックが存在 する場合には(S703で YES)、擬似イントラフレーム生成器 404は、フレーム Nから 抽出したイントラブロックを画像メモリに貼り付け (S704)、次のフレームへ処理を進 めるために nをデクリメントする(S705)。フレーム N内にイントラブロックが全く存在し ない場合は(S703で NO)、イントラブロックの貼り付けのステップを行わないで、次の フレームへ処理を進めるために nをデクリメントする(S705)。
[0074] 擬似イントラフレーム生成器 404は、イントラマップ nと動きベクトルマップ(n+ 1)を イントラマップメモリ 402と動きベクトルマップメモリ 403からそれぞれ読込む。動きべク トルマップ(n+ 1)に基づいて、フレーム(n+ 1)のインターブロック毎に、フレーム n 内で動きベクトルの起点ブロックを確定する。起点ブロックとは、フレーム nの探索エリ ァの中で当該インターブロックと最も相関が高い位置にあるブロックである。
[0075] 図 8は、インターブロック、動きベクトル、起点ブロック、起点ブロックと重なるイントラブ ロック、シフトしたイントラブロックの関係を示す図である。図 8には、フレーム nとフレ ーム n+ 1を示す。フレーム nよりフレーム n+ 1の方が時間的に新しいフレーム、すな わちフレーム n+ 1はフレーム nの後続フレームである。フレーム n+ 1内のインターブ ロックの一つをインターブロック 801とし、インターブロック 801の動きベクトルを動きべ ク卜ル 802とする。
[0076] インターブロック 801のフレーム n+ 1内での位置と動きベクトル 802から、フレーム n 内で対応するブロックが確定する。フレーム n+ 1内のインターブロックに対応するブ ロックを起点ブロック 803と呼ぶ。起点ブロックは、フレーム n内のインターブロック 80 1の画像と最も相関が画像を示すブロックである。インターブロック 801の動きベクトル により、起点ブロックの位置の画像ブロック力 フレーム n力もフレーム n+ 1の時間に インターブロック 801の位置へ移動したことが示される。
[0077] 本例では、起点ブロック 803はフレーム n内の 4つのブロックと重なっている。イントラ マップ n力もフレーム nに含まれるイントラブロックの位置がわかるので、起点ブロックと 重なるイントラブロック 804を特定することができる。本例では、イントラブロック 804以 外の 3つのブロックはイントラブロックではな!/、。起点ブロックが複数のイントラブロック と重なる場合には、例えば、重なり面積の最も大きいもの選択する等とすればよい。
[0078] 図 7に戻って、擬似イントラフレーム生成の動作の説明を続ける。擬似イントラフレー ム生成器 404は、フレーム nにおいて、起点ブロックと重なるイントラブロックがあるか 否かを判定する(S708)。イントラブロックと重なる力否かの判定には、イントラマップ nを用いる。起点ブロックがイントラブロックと重なり合う場合には(S708で YES)、重 なり合ったフレーム n内のイントラブロックをフレーム(n+ 1)のインターブロックと同じ 位置へシフトする(S709)。
[0079] 図 8に示されるように、イントラブロック 804をフレーム n内でインターブロック 801の位 置にシフトしたもの力 シフトしたイントラブロック 805である。シフトしたイントラブロック 805は、フレーム n内の同じ位置のブロックに何ら影響を与えるものではない。
[0080] 図 7に戻って、擬似イントラフレーム生成器 404は、シフトした位置の画像メモリに画 像が貼り付けられている力否かを判定する(S710)。そのブロック位置にまだ画像が 貼り付けられていない場合は(S710で NO)、シフトしたイントラブロックを貼り付ける( S711)。そのブロック位置にすでに画像が貼り付けられている場合には(S710で YE
5)、画像の貼り付けは行わない。イントラブロックと重なる力否かの判定において、起 点ブロックがフレーム nに含まれるイントラブロックと重なり合わな 、場合には(S708 で NO)、何も行わない。この動作(S707〜S711)をフレーム(n+ 1)の中で動きべク トルを有するすべてのブロックに対して行う。
[0081] 擬似イントラフレーム生成器 404は、画像メモリをチェックし、擬似イントラフレームの 生成が完了しているかどうか、すなわち全てのブロックが貼付け済みであるかどうか 判定する(S712)。擬似イントラフレームの生成が完了していない場合は(S712で N 0)、次のフレームに係るデータへ処理を進めるために nをデクリメントし(S705)、次 のフレームのイントラマップ、動きベクトルマップを読込み、同じ処理を繰り返す(S70
6)。擬似イントラフレームの生成が完了している場合には(S712で YES)、画像メモ リ内に保持された擬似イントラフレームを擬似イントラフレーム生成器 404の外部へ出 力する(S713)。
[0082] 以上が、擬似イントラフレーム生成器 404によるイントラマップと動きベクトルマップを 使う擬似イントラフレーム生成方法の一例である。メディアバッファ 401に蓄積された 複数のフレーム間圧縮画像の中力も動きベクトルを用いてイントラブロックをシフトし た後に貼り合わせ、擬似イントラフレームを生成する。時間的に新しいフレーム間圧 縮画像に含まれるイントラブロックを優先して利用することにより、実際の画像に近い 擬似イントラフレームを生成することができる。 [0083] 次に、擬似イントラフレーム生成器 404における動きベクトルマップのみを使う擬似ィ ントラフレーム生成方法の一例を図 9および図 10を用いて説明する。説明の都合上 、動きベクトルマップメモリ 403に蓄積されている動きベクトルマップおよび対応するフ レーム間圧縮画像に番号を付ける。ただし、動きベクトルマップのみを使う擬似イント ラフレーム生成方法では、イントラフレーム以外のフレーム間圧縮画像は使用しない ので、メディアバッファ 401にはイントラフレームのみが蓄積されている。番号の付け 方は図 6の説明の場合と同様に、イントラフレームをフレーム 0とし、後続のフレームを フレーム n (nは自然数)、フレーム nに係る動きベクトルマップを動きベクトルマップ n ( nは自然数)とし、動きベクトルマップメモリ 403に蓄積されている最新の動きベクトル マップを動きベクトルマップ Nとする。
[0084] 図 9は、動きベクトルマップのみを使う擬似イントラフレーム生成方法について説明す る図である。図 9では、説明を簡単にするために蓄積されている最新の動きベクトル マップを動きベクトルマップ 3 (n= 3)とし、フレーム 3内のインターブロック 1301に着 目し、動きベクトルマップのみを使う擬似イントラフレーム生成方法について説明する 。インターブロック 1301の動きベクトル 1302を用いて、フレーム 2内の起点ブロック 2 を確定する。ここで、起点ブロックとは、図 8で説明した起点ブロックと同じである。続 いて、フレーム 2内で、起点ブロックに重なったインターブロックを選択する。起点ブロ ックが複数のブロックと重なっている場合には、その中から一つのブロックを選択する 。インターブロックの選び方は、例えば、起点ブロックとの重なり面積の最も大きいブ ロック等とすればよい。本例では、次のインターブロックとして、起点ブロックと重なり 面積が最も大きいインターブロック 1303が選ばれる。
[0085] 次に、当該インターブロック 1303の動きベクトル 1304からフレーム 1内の起点ブロッ ク 1を確定する。続いて、フレーム 1内で次のインターブロックを選択する。このとき、 起点ブロックと重なるすベてのブロック力 Sイントラブロックである場合が考えられる。そ の場合には、起点ブロックそれ自体を動きベクトル (0, 0)を有するインターブロックと みなし、動きベクトル (0, 0)の始点は当該起点ブロックとする。本例では、起点ブロッ ク 1と重なるブロックは、すべてイントラブロックであるので、次のインターブロックを起 点ブロック 1とする。次に、インターブロックとみなされた当該起点ブロック 1の動きべク トル 1305からフレーム 0内の起点ブロック 0を確定する。フレーム 0はイントラフレーム であるので、インターブロックを選択するかわりに、イントラブロックを選択する。ブロッ クの選び方は、起点ブロックとの重なり面積の最も大きいブロック等とすればよい。本 例では、起点ブロック 0と重なり面積が最も大きいイントラブロック 1306が選ばれる。
[0086] 動きベクトルマップのみを使う擬似イントラフレーム生成方法では、選択したイントラブ ロック 1306を、擬似イントラブロックを生成するためのイントラブロックとして利用する 。このイントラブロックは、インターフレーム 3の対応する位置に貼り付ける。そして、ィ ンターフレーム 3内の全てのブロックについて同様の処理を行うことによりフレーム 3 の擬似イントラフレームを生成する。
[0087] 図 10は、擬似イントラフレーム生成器 404の動作の流れを説明する図である。図 10 を参照して、擬似イントラフレーム生成器 404の動作について説明する。擬似イントラ フレーム生成器 404は、画像メモリを初期化し、データ番号 nを Nにリセットする(S 14 04)。擬似イントラフレーム生成器 404は、動きベクトルマップメモリ 403から動きべク トルマップ nを読込み、フレーム n内のすべてのブロックに対してそれぞれ以下の処理 (S1403〜S1405)を行う。なお、フレーム n内のブロックにはそれぞれ IDが付与さ れているものとする。
[0088] 擬似イントラフレーム生成器 404は、フレーム n内のブロックがインターブロックである 場合には、インターブロックの有する動きベクトルからフレーム n— 1内の起点ブロック n- 1を確定する。ブロックが動きベクトルを有しないイントラブロック等である場合に は、動きベクトル (0, 0)を有するものとみなして起点ブロック n— 1を確定する。起点 ブロック n— 1は、フレーム nのインターブロックの IDを継承する。
[0089] 擬似イントラフレーム生成器 404は、 n= 1であるか否か、すなわちフレームがイントラ フレームであるか否かを判定する(S 1404)。 n= 1でな!/、場合には(S 1404で NO)、 当該起点ブロック n— 1と重なるインターブロックを決定する(S1405)。インターブロッ クの選び方は、起点ブロックとの重なり面積の最も大きいインターブロック等とすれば よい。起点ブロックと重なるすベてのブロックがイントラブロックである場合には、起点 ブロック自体を動きベクトル(0, 0)のインターブロックとみなす。決定されたインターブ ロックは、起点ブロック n—1の IDを継承する。擬似イントラフレーム生成器 404は、フ レーム n内の全てのブロックにつ!/、て処理を終えると、次のフレームへ処理を進める ために nをデクリメントする(S 1406)。
[0090] n= 1である場合(S 1404で YES)、すなわちフレームがイントラフレームである場合、 当該起点ブロック n— 1と重なるイントラブロックを決定する。イントラブロックの選び方 は、起点ブロックとの重なり面積の最も大きいイントラブロック等とすればよい。決定さ れたイントラブロックは、起点ブロック n— 1の IDを継承する。
[0091] 擬似イントラフレーム生成器 404は、擬似イントラフレームを生成するために決定した イントラフレーム(フレーム 0)内の各イントラブロックを、各イントラブロックが継承した I Dに基づいて、図示しない内部の画像メモリの中のフレーム n内の同じ IDを有するブ ロックと同じ位置に貼り付ける(S1408)。擬似イントラフレーム生成器 404は、画像メ モリ内に保持された擬似イントラフレームを擬似イントラフレーム生成器 404の外部へ 出力する(S1409)。
[0092] 以上が、擬似イントラフレーム生成器 404による動きベクトルマップのみ使う擬似イン トラフレーム生成方法の一例である。動きベクトルマップを用いて、ブロック毎に、各フ レームで選択した動きベクトルを繋ぎ合せることにより、メディアノッファ 401に蓄積さ れているイントラフレームに対して最新のフレームが有する動きベクトルを作成するこ とができ、それを利用することにより擬似イントラフレームを生成することができる。
[0093] 第 1の実施の形態の動画復号装置 303は、イントラマップメモリ 402と動きベクトルマ ップメモリ 403に格納されたイントラマップや動きベクトルマップを用いてメディアバッ ファ 401に格納されたフレーム間圧縮画像力も擬似イントラフレームを生成し、動画 の復号に擬似イントラフレームを用いることにより、任意のタイミングで復号することが 可能である。
[0094] また、動画受信装置 103が動画復号装置 303を備えることにより、テレビ会議への 途中参加やデジタル動画放送サービスの再生開始もしくはチャンネル切替えに際し て、フレーム間圧縮動画をインターフレーム力 即時に復号することができ、遅滞なく 画面表示を実現することができる。
[0095] 本実施の形態では、擬似イントラフレーム生成器 404による擬似イントラフレーム生 成方法を 3つ示した力 イントラマップや動きベクトルマップを用いた擬似イントラフレ ーム生成方法はこれらに限定するものではなぐその他さまざまなノ リエーシヨンが考 えられる。
[0096] (第 2の実施の形態) 次に、第 2の実施の形態について説明する。第 2の実施の形 態は、第 1の実施の形態で説明したイントラマップ及び動きベクトルマップを用いた擬 似イントラフレーム生成方法 (以下、「基本方法」と呼ぶ)に基づいて改変するもので ある。
[0097] 第 2の実施の形態では、擬似イントラフレーム生成器 404の内部の画像メモリに貼り 付ける画像をブロックより細カゝ 、部分ブロック単位で行う。第 1の実施の形態で説明し た基本方法では、起点ブロックと重なるイントラブロック 804をそのまま内部の画像メ モリに貼り付ける力 第 2の実施の形態では、起点ブロックと重なるイントラブロック 80 4が起点ブロックと実際に重なっている部分のみを貼り付ける。
[0098] 図 11は、第 2の実施の形態における擬似イントラフレーム生成方法について説明す る図である。図 11の上段には、各フレームと動きベクトル、起点ブロック、起点ブロック と重なるイントラブロックを示す。フレーム番号の付け方は、図 8の場合と同様である。 図 11の下段には、各フレームを処理した後の擬似イントラフレーム生成器 404の内 部の画像メモリの状態を部分的に示す。ここでは、説明を容易にするためフレーム n + 1の中のインターブロック 1501に着目し、インターブロック 1501のブロック位置に 相当する内部メモリ 1512に貼り付ける画像がどのように生成されるかにっ 、て説明 する。
[0099] インターブロック 1501の動きベクトル 1502より、フレーム n内で起点ブロック 1503が 確定する。起点ブロック 1503と重なるイントラブロックは、イントラブロック 1504のみ であるので、起点ブロック 1503とイントラブロック 1504の重なる部分ブロック 1513を イントラブロック 1504から切り出し、内部メモリ 1512に貼り付ける。このとき、部分プロ ック 1513を、起点ブロック 1503の中で部分ブロック 1513が占める位置と同じ位置に 貼り付ける。
[0100] フレーム n—lの処理に移行するに際して、フレーム n内で起点ブロック 1503と重なる 面積が最大であるインターブロックの動きベクトル 1505を利用する。動きベクトル 15 05より、フレーム n—1内で起点ブロック 1506が確定する。起点ブロック 1506と重な るイントラブロックは、イントラブロック 1507のみであるので、起点ブロック 1506とイン トラブロック 1507の重なる部分ブロックをイントラブロック 1507から切り出す。切り出し た部分ブロックを内部メモリ 1512に貼り付けるに際して、すでに貼り付けられた部分 ブロック 1513を上書きしないように、内部メモリ 1512内の空いている部分にのみ貝占り 付ける。結果として当該部分ブロック力も部分ブロック 1513を差し引 、た L字型の部 分ブロック 1514を貼り付けることになる。
[0101] フレーム n— 2の処理に移行するに際して、フレーム n—l内で起点ブロック 1506と重 なる面積が最大であるインターブロックの動きベクトル 1508を利用する。動きベクトル 1508より、フレーム n— 2内で起点ブロック 1509が確定する。起点ブロック 1509と重 なるイントラブロックは、イントラブロック 1510とイントラブロック 1511であるので、起点 ブロック 1509とイントラブロック 1510、イントラブロック 1511の重なる部分ブロックをィ ントラブロック 1510、イントラブロック 1511から切り出す。切り出した部分ブロックを内 部メモリ 1512に貼り付けるに際して、すでに貼り付けられた部分ブロック 1513、部分 ブロック 1514を上書きしないように、内部メモリ 1512内の空いている部分にのみ貝占り 付ける。結果として、 L字型の部分ブロック 1515を貼り付けることとなる。このとき、部 分ブロック 1515の貼付けにより、インターブロック 1501のブロック位置に相当する内 部メモリ 1512内の空いているスペースはすべて埋まる。インターブロック 1501のスぺ ースがすべて埋まった時点で、インターブロック 1501に対する擬似イントラブロックの 生成処理は終了する。
[0102] 第 2の実施の形態の擬似イントラフレーム生成器 404は、フレーム n+ 1内のインター ブロック毎に、イントラブロックを部分ブロック単位でシフトしたのち貼り合わせることに より擬似イントラフレームを生成する。起点ブロックの位置の画像をそのまま利用でき る。また、時間的に新しいフレーム間圧縮画像に含まれるイントラブロックを優先して 利用することにより、実際の画像により近い擬似イントラフレームを生成することができ る。
[0103] 第 2の実施の形態の変形例として、擬似イントラフレーム生成器 404の内部の画像メ モリに貼り付ける画像をブロックより細かい部分ブロック単位で処理してもよい。図 11 において、フレーム n—lの処理に移行するに際して、フレーム n内で起点ブロック 15 03と重なる面積が最大であるインターブロックの動きベクトル 1505を利用した力 変 形例では、起点ブロック 1503と重なるイントラブロック 1504を除いた 3つのインター ブロックの有する動きベクトルの平均動きベクトルを利用する。その際に、動きべタト ルの始点は、起点ブロック 1503とする。それ以外の処理については、第 2の実施の 形態の擬似イントラフレーム生成方法と全く同じである。
[0104] 第 2の実施の形態の変形例において、次フレームの処理に移行する際の動きべタト ルの選択方法が、起点ブロック 1503と重なるイントラブロック 1504を除いた 3つのィ ンターブロックの有する動きベクトルの起点ブロック 1503と重なる面積に応じた加重 平均動きベクトルを利用してもよい。その際に、動きベクトルの始点は、起点ブロック 1 503とする。それ以外の処理については、第 2の実施の形態の擬似イントラフレーム 生成方法と全く同じである。
[0105] 以上、イントラマップと動きベクトルマップを用いる擬似イントラフレーム生成方法 (基 本方法)を第 2の実施の形態とその変形例を挙げて説明したが、本発明は、上記方 法に限定されるものではなくその他の様々な態様において実施し得る。
[0106] (第 3の実施の形態) 図 12は、本発明の第 3の実施の形態の動画復号装置に係る 動画送受信システムの構成を示す図である。第 3の実施の形態の動画送受信システ ムは、フレーム間圧縮動画を送信するための動画送信装置 901と、データの伝送媒 体となる放送通信中継装置 102と、送信されたフレーム間圧縮動画を受信し、デイス プレイなどの出力装置に表示する動画受信装置 103とから構成される。放送通信中 継装置 102と動画受信装置 103は、第 1の実施の形態で説明したものと同じである。 第 3の実施の形態の動画送信装置 901の構成および動作が異なる。
[0107] 第 1の実施の形態では、動画送信装置 101がエンコーダを具備し、フレーム間圧縮 画像の符号ィ匕の際にイントラマップや動きベクトルマップを生成していたのに対し、本 実施の形態の動画送信装置 901はデコーダを具備し、フレーム間圧縮画像の復号 化の際にイントラマップや動きベクトルマップを生成する。本実施の形態の動画送信 装置 901を用いると、動画送信装置 901に蓄積されたフレーム間圧縮動画を動画受 信装置 103に送信する場合や、第三者が送信したフレーム間圧縮動画を動画送信 装置 901がー且受信し、動画受信装置 103に転送する場合においてもイントラマツ プゃ動きベクトルマップを生成し、フレーム間圧縮動画とともに送信することが可能で ある。これにより、例えば放送通信中継装置 102を近距離無線によるパーソナルエリ ァネットワーク(PAN)であるとすると、インターネット上の動画サーノくから送信された フレーム間圧縮動画を動画送信装置 901に相当するモバイルビユーヮが受信復号し 、当該モバイルビユーヮのディスプレイに表示すると同時に、モバイルビユーヮは PA Nを経由して動画受信装置 103に相当する近くのデジタルテレビにフレーム間圧縮 動画とともにイントラマップや動きベクトルマップを転送し即座に再生することが可能 である。
[0108] 続いて、本実施の形態の動画送信装置 901の構成および動作について説明する。
動画送信装置 901は、フレーム間圧縮動画を復号するためのデコーダ 902を備えて いる。デコーダ 902は、イントラマップ作成部 903と動きベクトルマップ作成部 904を 備えている。イントラマップ作成部 903および動きベクトルマップ作成部 904は、フレ ーム間圧縮動画の各フレームを復号ィ匕する際に、フレーム毎にイントラマップと動き ベクトルマップを生成する。この際生成されるイントラマップと動きベクトルマップは、 第 1の実施の形態で説明したイントラマップおよびベクトルマップと同じである。動画 送信装置 901は、デコーダ 902にフレーム間圧縮動画を提供するハードディスク、 D VDなどの蓄積部 905、もしくはメディア受信部 906を備える。
[0109] 動画送信装置 901は、蓄積部 905に蓄積されたフレーム間圧縮動画、もしくは外部 より送られてメディア受信部 906が受信したフレーム間圧縮動画を、デコーダ 902で 復号し、図示しない表示部で再生する。デコーダ 902内部のイントラマップ作成部 90 3と動きベクトルマップ作成部 904は、フレーム間圧縮動画の各フレームを復号化す る際に、フレーム毎にイントラマップと動きベクトルマップを生成する。動画送信装置 9 01は、図示しないネットワーク送信部を備え、蓄積部 905もしくはメディア受信部 906 力 取得したフレーム間圧縮動画を動画受信装置 103へ送出する。フレーム間圧縮 動画を送信する際に、イントラマップ作成部 903が生成するイントラマップや、動きべ タトルマップ作成部 904が生成する動きベクトルマップを併せて送信する。これにより 、動画像受信装置 103は、フレーム間圧縮動画に同期して、イントラマップ、動きべク トルマップを受信し、それらを利用することによりインターフレームカゝら即時に復号す ることがでさる。
[0110] 以上説明したように、本実施の形態の動画送信装置 901はデコーダ 902を備え、デ コード時にイントラマップ、動きベクトルマップを生成して送信する。動画受信装置 10 3は、第 1の実施の形態と同様の動画復号装置 303を備えることにより、テレビ会議へ の途中参加やデジタル動画放送サービスの再生開始もしくはチャンネル切替えに際 して、フレーム間圧縮動画をインターフレーム力 即時に復号することができ、遅滞な く画面表示をすることができる。
[0111] (第 4の実施の形態) 図 13は、第 4の実施の形態の動画復号装置に係る動画送受 信システムの構成を示す図である。第 4の実施の形態の動画送受信システムは、フレ ーム間圧縮動画を送信するための動画送信装置 1001と、データの伝送媒体となる 放送通信中継装置 102と、送信されたフレーム間圧縮動画を受信し、ディスプレイな どの出力装置に表示する動画受信装置 1003とから構成される。放送通信中継装置 102は、第 1の実施の形態のものと同じであり、動画送信装置 1001と動画受信装置 1003の構成および動作が異なる。
[0112] 第 1の実施の形態の動画送信装置 101がイントラマップ作成部 105および動きべタト ルマップ作成部 106を含むエンコーダ 104を具備し、フレーム間圧縮画像の符号ィ匕 の際にイントラマップや動きベクトルマップを生成していたのに対し、本実施の形態の 動画送信装置 1001は、イントラマップ作成部および動きベクトルマップ作成部を含ま ないエンコーダ 1002を備える。
[0113] エンコーダ 1002は、動画符号化の際にイントラマップや動きベクトルマップを生成 せず、本実施の形態の動画送信装置 1001は、動画受信装置 1003に対してフレー ム間圧縮動画とともにイントラマップや動きベクトルマップを送信しない。イントラマツ プゃ動きベクトルマップが送信されないことに鑑み、本実施の形態の動画受信装置 1 003は、図示しな 、イントラマップ作成部および動きベクトルマップ作成部を具備し、 受信したフレーム間圧縮動画からイントラマップおよび動きベクトルマップを作成する
[0114] 図 14は、動画受信装置 1003の構成を示す図である。動画受信装置 1003は、フレ ーム間圧縮動画を受信するメディア受信部 301と、イントラマップや動きベクトルマツ プを生成し、それらを用いてメディア受信部 301の受信したフレーム間圧縮動画をィ ンターフレーム力も即時に復号する動画復号装置 1101と、動画復号装置 1101が復 号した非圧縮動画を外部に出力する表示部 304とから構成される。メディア受信部 3 01は第 1の実施の形態のものと同じであり、伝送されたデータの中力 フレーム間圧 縮画像のみを抽出するものである。メディア受信部 301は、デジタル放送においては 受信機やチューナの機能に相当し、通信においてはソケットインターフェイスゃパケ ット再構築機能に相当する。メディア受信部 301は、 1ストリームに限らず複数のストリ ームを同時に受信し、動画復号装置 1101に送ることができる。表示部 304も第 1の 実施の形態と同じであり、動画復号装置 1101によって復号された非圧縮画像を表 示する。表示部 304は、例えばディスプレイである。動画受信装置 1003は、以上の 構成を有することにより、受信したフレーム間圧縮動画をインターフレーム力 即時に 復号することができる。
[0115] 図 15は、第 4の実施の形態の動画復号装置 1101の構成を示す図である。動画復号 装置 1101は、メディア受信部 301が抽出したフレーム間圧縮動画の中から直近の 複数フレーム分のフレーム間圧縮画像を蓄積しておくためのメディアバッファ 401と、 フレーム間縮圧動画からイントラブロックと動きベクトルを抽出し、イントラマップと動き ベクトルマップをそれぞれ生成するイントラマップ生成部 1201と動きベクトルマップ生 成部 1202と、イントラマップ生成部 1201と動きベクトルマップ生成部 1202が生成し たイントラマップと動きベクトルマップをそれぞれ格納するためのイントラマップメモリ 4 02と動きベクトルマップメモリ 403とを備える。
[0116] また、動画復号装置 1101は、イントラマップメモリ 402と動きベクトルマップメモリ 403 に格納されたイントラマップや動きベクトルマップに基づ 、てメディアバッファ 401に 格納されたフレーム間圧縮画像力 擬似イントラフレームを生成する擬似イントラフレ ーム生成器 404と、フレーム間圧縮画像を復号するデコーダ 406と、デコーダ 406力 S 出力した再構築画像を次のフレーム間圧縮画像の復号のために格納する再構築画 像バッファ 407と、デコーダ 406への入力を切り替えるスィッチ 405とを備えている。
[0117] 擬似イントラフレーム生成器 404が生成する擬似イントラフレームとは、動画復号装 置 1101に入力された最新のフレーム間圧縮画像を復号するために必要不可欠な画 像である。擬似イントラフレームは、当該最新のフレーム間圧縮画像より 1フレーム前 のフレーム間圧縮画像を復号したものに相当する。メディアバッファ 401、イントラマツ プメモリ 402、動きベクトルマップメモリ 403は、各データをフレーム毎に格納し、各デ ータにフレーム単位でアクセスして取り出すことができるものである。再構築画像バッ ファ 407は、 1フレーム分の非圧縮再構築画像を保持し、新しいデータが入力される と上書きされる。デコーダ 406は、フレーム間圧縮動画をイントラフレームカも復号す ることができる通常のデコーダである。
[0118] 動画復号装置 1101は、イントラマップ作成部 1201および動きベクトルマップ作成部 1202を具備することにより、受信したフレーム間圧縮画像力も擬似イントラフレームを 生成するために必要なイントラマップや動きベクトルマップを生成することができる。 生成されたイントラマップおよび動きベクトルマップは、それぞれイントラマップメモリ 4 02および動きベクトルマップメモリ 403に格納される。それ以外の動作については、 第 1の実施の形態の動画復号装置 303と同じである。
[0119] 以上説明したように、本実施の形態の動画受信装置 1003は、イントラマップや動き ベクトルマップが動画送信装置 1001から送信されない場合においても、動画復号装 置 1101がイントラマップ作成部 1201および動きベクトルマップ作成部 1202を具備 することにより、擬似イントラフレームを生成するために必要なイントラマップや動きべ タトルマップを生成することができ、インターフレーム力も即時に復号することが可能 である。
[0120] 以上に現時点で考えられる本発明の好適な実施の形態を説明したが、本実施の形 態に対して多様な変形が可能なことが理解され、そして、本発明の真実の精神と範 囲内にあるそのようなすべての変形を添付の請求の範囲が含むことが意図されてい る。
産業上の利用可能性
[0121] 以上説明したように、本発明は、擬似イントラフレームを用いて任意のタイミングで復 号を開始することができると 、うすぐれた効果を有し、テレビ会議端末やデジタルテレ ビ等に適用される動画復号装置として有用である。

Claims

請求の範囲
[1] 複数のイントラフレームおよびインターフレーム力 なる動画データを受信する動画 データ受信部と、
前記動画データ受信部にて受信した動画データを蓄積するメディアバッファと、 前記動画データのそれぞれのインターフレームに含まれるイントラブロックの位置を 示すイントラマップを記憶するイントラマップ記憶部と、
前記イントラマップ記憶部に記憶されたイントラマップに基づ 、て、前記メディアバッ ファに蓄積された最新のインターフレーム力 順に、インターフレームに含まれるイン トラブロックの画像を抽出し、複数のインターフレームから抽出したイントラブロックの 画像を組み合わせて擬似イントラフレームを生成する擬似イントラフレーム生成部と、 前記擬似イントラフレーム生成部にて生成された擬似イントラフレームを用いて、前 記動画データ受信部にて受信する動画データの復号を開始するデコーダと、 を備える動画受信装置。
[2] 前記擬似イントラフレーム生成部は、擬似イントラフレームを構成するブロックとして 適用可能なイントラブロックが複数のインターフレーム力も抽出された場合は、新しい 方のインターフレーム力も抽出したイントラブロックの画像を用いる請求項 1に記載の 動画受信装置。
[3] 前記動画データ受信部にて受信した動画データから、前記動画データのイントラマ ップを生成するイントラマップ生成部を備え、
前記イントラマップ生成部にて生成されたイントラマップを前記イントラマップ記憶部 に記憶する請求項 1に記載の動画受信装置。
[4] 前記動画データのフレーム間のブロック毎の動きベクトルを示す動きベクトルマップ を記憶する動きベクトルマップ記憶部を備え、
前記擬似イントラフレーム生成部は、複数のインターフレーム力 抽出したイントラ ブロックの画像を、動きベクトルマップに基づ 、て決まる位置に移動して組み合わせ て、擬似イントラフレームを生成する請求項 1に記載の動画受信装置。
[5] 前記動画データ受信部にて受信した動画データから、前記動画データの動きべク トルマップを生成する動きベクトルマップ生成部を備え、 前記動きベクトルマップ生成部にて生成された動きベクトルマップを前記動きべタト ルマップ記憶部に記憶する請求項 4に記載の動画受信装置。
[6] 複数のイントラフレームおよびインターフレーム力もなる動画データを受信する動画 データ受信部と、
前記動画データ受信部にて受信した動画データを蓄積するメディアバッファと、 前記動画データのフレーム間のブロック毎の動きベクトルを示す動きベクトルマップ を記憶する動きベクトルマップ記憶部と、
前記動きベクトルマップ記憶部に記憶された動きベクトルマップに基づ 、て、最新 のインターフレームから遡って前記最新のインターフレームを構成する各ブロックに 相当するイントラフレーム中のイントラブロックを特定し、前記特定されたイントラブロッ クの画像を用いて擬似イントラフレームを生成する擬似イントラフレーム生成部と、 前記擬似イントラフレーム生成部にて生成された擬似イントラフレームを用いて、前 記動画データ受信部にて受信する動画データの復号を開始するデコーダと、 を備える動画受信装置。
[7] 前記動画データ受信部にて受信した動画データから、前記動画データの動きべク トルマップを生成する動きベクトルマップ生成部を備え、
前記動きベクトルマップ生成部にて生成された動きベクトルマップを前記動きべタト ルマップ記憶部に記憶する請求項 6に記載の動画受信装置。
[8] 複数のイントラフレームおよびインターフレーム力もなる動画データを再生する動画 データ再生部と、
前記動画データ再生部にて再生中の動画に基づいて、前記動画に含まれるインタ 一フレームのそれぞれのイントラブロックの位置を示すイントラマップを生成するイント ラマップ生成部と、
前記イントラマップ生成部にて生成されたイントラマップを前記動画データと共に送 信する動画データ送信部と、
を備える動画再生装置。
[9] 前記動画データ再生部にて再生中の動画に基づいて、前記動画のフレーム間の ブロック毎の動きベクトルを示す動きベクトルマップを生成する動きベクトルマップ生 成部を備える請求項 8に記載の動画再生装置。
PCT/JP2006/316026 2005-08-31 2006-08-14 動画受信装置 WO2007026536A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN2006800318855A CN101253773B (zh) 2005-08-31 2006-08-14 运动图像接收设备
US12/065,223 US8073273B2 (en) 2005-08-31 2006-08-14 Moving image receiving apparatus
US13/275,639 US8280178B2 (en) 2005-08-31 2011-10-18 Moving image receiving apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2005250758A JP4406623B2 (ja) 2005-08-31 2005-08-31 動画受信装置
JP2005-250758 2005-08-31

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US12/065,223 A-371-Of-International US8073273B2 (en) 2005-08-31 2006-08-14 Moving image receiving apparatus
US13/275,639 Division US8280178B2 (en) 2005-08-31 2011-10-18 Moving image receiving apparatus

Publications (1)

Publication Number Publication Date
WO2007026536A1 true WO2007026536A1 (ja) 2007-03-08

Family

ID=37808636

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2006/316026 WO2007026536A1 (ja) 2005-08-31 2006-08-14 動画受信装置

Country Status (4)

Country Link
US (2) US8073273B2 (ja)
JP (1) JP4406623B2 (ja)
CN (1) CN101253773B (ja)
WO (1) WO2007026536A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2639958C2 (ru) 2013-04-17 2017-12-25 Нокиа Текнолоджиз Ой Устройство, способ и компьютерная программа для кодирования и декодирования видеоинформации

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09284714A (ja) * 1996-04-19 1997-10-31 Oki Electric Ind Co Ltd 圧縮記録画像再生装置
JPH11168729A (ja) * 1997-12-03 1999-06-22 Toshiba Corp 画像復号化装置及び画像復号化方法
JP2002112275A (ja) * 2000-07-25 2002-04-12 Matsushita Electric Ind Co Ltd 画像復号方法、画像復号装置、およびデータ記憶媒体

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5220325A (en) * 1991-03-28 1993-06-15 At&T Bell Laboratories Hierarchical variable length decoder for digital video data
US5617143A (en) * 1993-03-29 1997-04-01 Canon Kabushiki Kaisha Movement detection device and encoding apparatus using the same
JPH07298231A (ja) 1994-04-27 1995-11-10 Canon Inc 多地点動画像通信システム、その制御装置及び動画像通信端末
US20020080870A1 (en) * 1999-01-07 2002-06-27 Thomas A. Piazza Method and apparatus for performing motion compensation in a texture mapping engine
US6819715B2 (en) 2000-07-25 2004-11-16 Matsushita Electric Industrial Co., Ltd. Image decoding method, image decoding apparatus, and data storage medium
CN1615019A (zh) * 2003-11-05 2005-05-11 华为技术有限公司 一种视频宏块模式编码方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09284714A (ja) * 1996-04-19 1997-10-31 Oki Electric Ind Co Ltd 圧縮記録画像再生装置
JPH11168729A (ja) * 1997-12-03 1999-06-22 Toshiba Corp 画像復号化装置及び画像復号化方法
JP2002112275A (ja) * 2000-07-25 2002-04-12 Matsushita Electric Ind Co Ltd 画像復号方法、画像復号装置、およびデータ記憶媒体

Also Published As

Publication number Publication date
US20120063741A1 (en) 2012-03-15
US20090103819A1 (en) 2009-04-23
JP4406623B2 (ja) 2010-02-03
US8073273B2 (en) 2011-12-06
JP2007067790A (ja) 2007-03-15
US8280178B2 (en) 2012-10-02
CN101253773A (zh) 2008-08-27
CN101253773B (zh) 2010-05-19

Similar Documents

Publication Publication Date Title
US7894526B2 (en) Motion estimation method and moving picture coding method
US7822120B2 (en) Moving picture encoding method, moving picture decoding method, and recording medium
CN100387043C (zh) 健壮模式交错播送的方法和设备
US7526026B2 (en) Moving picture coding method and moving picture decoding method
JP4695669B2 (ja) 映像配信システム
JP2010508733A (ja) 資源の効率的な使用によるデジタル・ビデオ・レコーダにおけるトリック再生機能の実行
US20110235716A1 (en) Decoding apparatus, decoding method, program and integrated circuit
JP2011087195A (ja) 画像処理装置および画像処理方法
JP4148673B2 (ja) 映像配信システム
US20030099293A1 (en) Image reproducing method, and image processing method, and image reproducing device, image processing device, and television receiver capable of using the methods
JP4373730B2 (ja) 映像データ送信装置、映像データ送受信システム、及び、その方法
US7403563B2 (en) Image decoding method and apparatus, and television receiver utilizing the same
EP1259073A1 (en) Image reproducing method and image processing method, and image reproducing device, image processing device, and television receiver capable of using the methods
JP3621332B2 (ja) スプライト符号化方法及び装置、スプライト符号化データ復号方法及び装置、並びに記録媒体
JP4406623B2 (ja) 動画受信装置
JP2002218472A (ja) 可変画像レート復号化装置及び可変画像レート復号化方法
JPH1118063A (ja) デジタル放送受信装置
JP4336402B2 (ja) 画像処理装置及び画像処理方法
KR100734141B1 (ko) 복수의 프레임을 참조하는 시간적 및 공간적 스케일러블인코딩 및 디코딩 방법과 그 장치
JP4043406B2 (ja) 画像復号方法と装置、およびそれらを利用可能なテレビジョン受信装置
CN114513658B (zh) 一种视频加载方法、装置、设备及介质
KR100731884B1 (ko) 복수의 프레임을 참조하는 시간적 스케일러블 인코딩 및디코딩 방법과 그 장치
JP4070471B2 (ja) 動画像符号化方法及び装置
JP2001045495A (ja) 画面合成装置
JP2001238167A (ja) 画像再生方法とこの方法を利用可能な画像再生装置およびテレビジョン受像機

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 200680031885.5

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application
WWE Wipo information: entry into national phase

Ref document number: 12065223

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 06796416

Country of ref document: EP

Kind code of ref document: A1