WO2010103635A1 - データ送信装置、データ送信プログラムおよびデータ送受信システム - Google Patents

データ送信装置、データ送信プログラムおよびデータ送受信システム Download PDF

Info

Publication number
WO2010103635A1
WO2010103635A1 PCT/JP2009/054682 JP2009054682W WO2010103635A1 WO 2010103635 A1 WO2010103635 A1 WO 2010103635A1 JP 2009054682 W JP2009054682 W JP 2009054682W WO 2010103635 A1 WO2010103635 A1 WO 2010103635A1
Authority
WO
WIPO (PCT)
Prior art keywords
information
data
video
data transmission
unit
Prior art date
Application number
PCT/JP2009/054682
Other languages
English (en)
French (fr)
Inventor
範幸 井原
Original Assignee
富士通株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士通株式会社 filed Critical 富士通株式会社
Priority to JP2011503607A priority Critical patent/JP5234172B2/ja
Priority to PCT/JP2009/054682 priority patent/WO2010103635A1/ja
Publication of WO2010103635A1 publication Critical patent/WO2010103635A1/ja
Priority to US13/137,481 priority patent/US9100672B2/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2362Generation or processing of Service Information [SI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • H04N21/2381Adapting the multiplex stream to a specific network, e.g. an Internet Protocol [IP] network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/242Synchronization processes, e.g. processing of PCR [Program Clock References]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/643Communication protocols
    • H04N21/6437Real-time Transport Protocol [RTP]

Definitions

  • the present invention relates to a system for transmitting and receiving data including encoded video information.
  • the TS packet is included after receiving a plurality of TS (Transport Stream) packets including information necessary for starting reproduction. Play video and audio using information.
  • TS Transport Stream
  • An object is to provide an apparatus, a data transmission program, and a data transmission / reception system.
  • the data transmitted by the data transmission device identifies the video information included in the data.
  • the video information insertion unit includes: an identification information insertion unit that inserts the video identification information; and a video information insertion unit that inserts the video information into the data transmitted by the data transmission device. Is characterized in that the video information subjected to intra-frame coding is inserted immediately after the video identification information inserted by the identification information insertion unit.
  • the data transmission device in the data transmission device that transmits a transport stream defined by MPEG2, as the transport stream, PAT (Program Association Table) information indicating a list of programs related to reproduction of the transport stream, and A PAT / PMT multiplexing control unit that multiplexes PMT (Program Map) information representing image and audio identification corresponding to the program, and video multiplexing that multiplexes encoded video information as the transport stream
  • PAT / PMT multiplexing control unit that multiplexes the PAT information and the PMT information in this order
  • the video multiplexing control unit includes the PAT / PMT multiplexing unit.
  • I-Pictu The re information is multiplexed.
  • information necessary for transport stream playback processing defined by MPEG2 is transmitted in the order in which it is used, so that the playback processing on the receiver side can be performed smoothly.
  • the data transmission device when reproducing a video or the like on the receiver side based on the encoded video information transmitted by the data transmission device, the data transmission device, the data transmission program, and the data transmission / reception system may The reproduction process can be started.
  • TS packet It is a figure for demonstrating the structure of TS packet. It is a figure for demonstrating the structure of a PAT packet. It is a figure for demonstrating the structure of a PMT packet. It is a figure which shows an example of the hardware constitutions of the data transmitter which concerns on this Embodiment, and a data receiver. It is a figure for demonstrating the principle of operation of the data transmitter which concerns on this Embodiment. It is a figure for demonstrating the structure of the external transmission packet of the data transmitter which concerns on this Embodiment. It is a figure for demonstrating the structure of a RTP header. It is a flowchart which shows the flow of the multiplexing process by the data transmitter which concerns on this Embodiment.
  • FIG. 2 shows an example of a functional configuration of a data transmission apparatus according to a conventional technique. It is a figure which shows the data transmitted or received by a prior art in time series. It is a figure which shows the data transmitted or received in this Embodiment in time series. It is a figure for demonstrating the operation principle of the data receiver which concerns on this Embodiment.
  • DESCRIPTION OF SYMBOLS 100 Data transmitter 110 Multiplexer 120 PAT / PMT multiplexing controller 130 Multiplexing timing acquisition means 140 PAT multiplexing controller 150, 170, 190 Timer 160 PMT multiplexing controller 180 PCR multiplexing controller 200 Video multiplexing Control unit 210, 230 Multiplex timing notification means 220 Video encoding unit 240 Audio multiplexing control unit 250 Audio encoding unit 260 TS transmission unit 270 IP network 280 Data reception device 310, 410 CPU 320, 420 ROM 330, 430 RAM 340, 440 HDD 350, 450 Communication I / F 360, 460 Display device 510 Data receiving unit 520 Data allocating unit 530 Data decoding unit 600 Data transmission / reception system
  • the transport stream defined by MPEG2 is a processing target, but the scope of the present invention is not limited to this.
  • TS Transport Stream
  • a plurality of video (MPEG2 standard, H.264 standard, etc.) and audio (MPEG1-Layer2 standard, MPEG-) are included in one TS.
  • AAC standard etc. are multiplexed.
  • a TS packet of a PAT is extracted from the received TS, and a PID (Packet ID) of a PMT (Program Map Table) is extracted from the PAT data.
  • PAT is a list of programs included in the TS stored as a PID list of the PMT, and the PID of the PAT is always 0.
  • the PMT TS packet is extracted from the received TS based on the acquired PMT PID, and the video and audio PIDs are acquired from the PMT data.
  • the PMT stores image and audio PIDs included in the program, and the above processing is performed with reference to “elementary_PID” shown in FIG.
  • an elementary stream (hereinafter referred to as ES (Elementary Stream)) is a minimum unit of encoded image / sound.
  • the TS packet As information for reproducing the ES from the video and audio TS packet as described above.
  • the TS packet whose “payload_unit_start_indicator” is 1 indicates that it is the head of an ES PES (Packetized ES) packet.
  • the TS packet whose “payload_unit_start_indicator” is 0 indicates that the data is in the middle of the PES packet. Then, the TS immediately before the “payload_unit_start_indicator” changes from 0 to 1 is extracted, and the extracted TS packets are connected to reproduce the video and audio ES.
  • ES PES Packetized ES
  • video called I-Picture video encoded in the frame
  • P-Picture video encoded in the forward prediction between frames
  • B-Picture video encoded in the bidirectional prediction
  • Video information with different encoding methods is inserted to improve compression efficiency.
  • a clock synchronized with the PCR (Program Clock Reference) transmitted by the encoder on the TS transmission side is generated by the decoder on the TS reception side, and synchronized with the clock.
  • Video and audio may be played back.
  • the PCR is transmitted as a TS packet from the TS transmission side, and the PID of the PCR packet is indicated by PMT.
  • FIG. 10 shows a functional configuration example of a data transmission apparatus according to the prior art.
  • the PAT multiplexing control unit receives the PAT packet
  • the PMT multiplexing control unit receives the PMT packet
  • the PCR multiplexing control unit receives the PCR packet.
  • the video multiplexing control unit multiplexes the packet including I-Picture or the like
  • the audio multiplexing control unit multiplexes the packet including the audio information. Therefore, in the order of TSs received by the data receiving device, it is not known which packet appears when.
  • One or more TS packets may be sandwiched between a PAT packet and a PMT packet, a PMT packet and a PCR packet, and a PCR packet and a packet including an I-Picture.
  • the data receiving apparatus When the data receiving apparatus accepts a video playback start instruction, it first waits for reception of a PAT packet, and when a PAT packet is received, there is a waiting time until a packet having the same PID as the PID of the PMT packet indicated in the packet is received. Will do. Similarly, when referring to a packet including a PCR packet or I-Picture, a waiting time is generated until the packet is received. For this reason, it takes time until the playback is actually started after receiving the playback start instruction.
  • FIG. 11 shows an example of data reception by a data receiving apparatus to which the conventional technology is applied.
  • the reception interval of the I-Picture packet in the data reception device is X
  • the reception interval of any one of the PAT packet, the PMT packet, and the PCR packet is Y
  • the reception interval in both is Different.
  • the reception interval X is 500 msec
  • the reception interval Y is 100 msec
  • the reception interval X is longer than the reception interval Y.
  • the disclosed data transmitting apparatus 100 transmits TS packets in the order of a PAT packet, a PMT packet, a PCR packet, and an I-Picture packet in order to execute smooth reproduction processing on the receiving side.
  • the receiving side acquires TS packets in the order of PAT packet, PMT packet, PCR packet, and I-Picture packet. Smooth reproduction processing is possible. That is, when TS packets are acquired in this order, the time from the reception of data to the start of reproduction processing can be shortened on the receiving side.
  • FIG. 4 is a diagram for explaining an example of the hardware configuration of the data transmission device 100.
  • a CPU Central Processing Unit
  • ROM Read-Only Memory
  • RAM Random Access Memory
  • HDD Hard Disc Drive
  • I / F Interface
  • the CPU 310 is a device that executes a program stored in the ROM 320.
  • the CPU 310 performs arithmetic processing on the data expanded (loaded) in the RAM 330 in accordance with instructions of the program, and controls the entire data transmission device 100.
  • the ROM 320 stores programs and data executed by the CPU 310. When the program stored in the ROM 320 is executed by the CPU 310, the RAM 330 is loaded (loaded) with the program and data to be executed, and temporarily holds the operation data during the operation.
  • the HDD 340 is a device that stores an OS that is basic software, an application program according to the present embodiment, and the like together with related data.
  • the communication I / F 350 is an interface for transmitting / receiving data to / from a peripheral device (such as a transport stream receiving device defined by MPEG2) having another communication control function connected via a wireless or wired communication network. It is.
  • the display device 360 includes a key switch using a hard key, an LCD (Liquid Crystal Display), and the like, and functions as a user interface when the user uses the functions of the data transmission device 100 and makes various settings. .
  • the data receiving device 280 also includes a CPU 410, a ROM 420, a RAM 430, an HDD 440, a communication I / F 450, and a display device 460, similar to the data transmitting device 100.
  • the units and units included in the data transmission device 100 and the data reception device 280 are realized by the CPUs 310 and 410 executing programs corresponding to the units and units stored in the ROMs 320 and 420 or the HDDs 340 and 440. It is also good.
  • each unit and each unit included in the data transmission device 100 and the data reception device 280 may be configured to implement processing related to each unit and each unit as hardware.
  • FIG. 5 is a diagram for explaining the principle of operation of the data transmitting apparatus 100.
  • the data transmission apparatus 100 shown in FIG. 5 includes a multiplexing unit 110, a PAT / PMT multiplexing control unit 120, a PAT multiplexing control unit 140, a PMT multiplexing control unit 160, a PCR multiplexing control unit 180, timers 150 and 170, 190. Furthermore, the data transmission device 100 includes a video multiplexing control unit 200, a video encoding unit 220, an audio multiplexing control unit 240, an audio encoding unit 250, and a TS transmission unit 260.
  • the data transmission device 100 is connected to the data reception device 280 via the IP network 270, for example, and transmits a transport stream defined by MPEG2 to the data reception device 280. Then, the data reception device 280 decodes the received transport stream and reproduces video and audio.
  • the multiplexing unit 110 includes a PAT / PMT multiplexing control unit 120, a PAT multiplexing control unit 140, a PMT multiplexing control unit 160, a PCR multiplexing control unit 180, a video multiplexing control unit 200, and an audio multiplexing control unit 240.
  • predetermined information is multiplexed on the TS.
  • the PAT multiplexing control unit 140 When receiving a predetermined notification from the timer 150, the PAT multiplexing control unit 140 instructs the multiplexing unit 110 to multiplex the PAT packet to the TS.
  • the timer 150 is a timer that notifies the PAT multiplexing control unit 140 at an appropriate time interval.
  • the PMT multiplexing control unit 160 instructs the multiplexing unit 110 to multiplex the PMT packet to the TS.
  • the timer 170 is a timer that notifies the PMT multiplexing control unit 160 at an appropriate time interval.
  • the PCR multiplexing control unit 180 instructs the multiplexing unit 110 to multiplex the PCR packet to the TS.
  • the timer 190 is a timer that notifies the PCR multiplexing control unit 180 at appropriate time intervals.
  • the voice encoding unit 250 generates an ES in which the voice to be multiplexed in the TS is encoded, and notifies the ES to the voice multiplexing control unit 240. In addition, the speech encoding unit 250 notifies the generated multiplexing ES to the speech multiplexing control unit 240 and notifies the TS of the timing for multiplexing the ES.
  • the audio multiplexing control unit 240 instructs the multiplexing unit 110 to multiplex the ES related to the audio notified by the audio encoding unit 250 into the TS based on the timing notified by the audio encoding unit 250.
  • the video encoding unit 220 generates an ES obtained by encoding the video to be multiplexed on the TS, and notifies the video multiplexing control unit 200 of the ES. In addition, the video encoding unit 220 notifies the generated ES to the video multiplexing control unit 200 and also notifies the TS of the timing for multiplexing the ES.
  • the video multiplexing control unit 200 instructs the multiplexing unit 110 to multiplex the ES related to the video notified by the video encoding unit 220 into the TS based on the timing notified by the video encoding unit 220.
  • the video multiplexing control unit 200 and the video encoding unit 220 have multiplexing timing notification units 210 and 230, respectively.
  • the multiplexing timing notifying means 210 and 230 notify the PAT / PMT multiplexing control unit 120 that the I-Picture packet is multiplexed on the TS or the timing at which the I-Picture packet is multiplexed on the TS.
  • the multiplexing timing notification means 210 and 230 may be included in both the video multiplexing control unit 200 and the video encoding unit 220.
  • the video multiplexing control unit 200 or the video encoding unit 220 may be provided. It is good also as a form which either one has.
  • the PAT / PMT multiplexing control unit 120 instructs the multiplexing unit 110 to multiplex the PAT packet and the PMT packet into the TS. At this time, the PAT / PMT multiplexing control unit 120 instructs to multiplex the PAT packet and the PMT packet in this order.
  • the video multiplexing control unit 200 instructs the multiplexing unit 110 to multiplex the I-Picture packet immediately after the PMT packet multiplexed on the TS based on the multiplexing instruction of the PAT / PMT multiplexing control unit 120. Give instructions.
  • the multiplexing unit 110 is instructed to multiplex the PAT packet, the PMT packet, and the PCR packet into the TS.
  • the PAT / PMT multiplexing control unit 120 instructs to multiplex the PAT packet, the PMT packet, and the PCR packet in this order.
  • the video multiplexing control unit 200 instructs the multiplexing unit 110 to multiplex the I-Picture packet immediately after the PCR packet multiplexed on the TS based on the multiplexing instruction of the PAT / PMT multiplexing control unit 120. Give instructions.
  • the PAT / PMT multiplexing control unit 120 has multiplexing timing acquisition means 130.
  • the multiplexing timing acquisition unit 130 acquires a notification that the I-Picture packet is multiplexed on the TS notified by the multiplexing timing notification unit 210 or 230, or a timing notification that the I-Picture packet is multiplexed on the TS. To do.
  • the multiplexing instruction is given to the multiplexing unit 110.
  • FIG. 12 is a diagram for explaining an overview of a TS transmitted by the data transmitting apparatus 100 (or received by the data receiving apparatus 280).
  • the data transmitting apparatus 100 is based on processing by the PAT / PMT multiplexing control unit 120 and the video multiplexing control unit 200 in the order of PAT packet, PMT packet, PCR packet, and I-Picture packet in TS. Multiplexing (hereinafter referred to as pre-multiplex processing) can be performed.
  • the packet multiplexed by the PAT / PMT multiplexing control unit 120 is a packet surrounded by a dotted line in the figure.
  • the data transmitting apparatus 100 can perform the reproduction process smoothly when the receiver 280 performs the reproduction process of the transport stream defined by MPEG2 by performing the pre-multiplex process.
  • the data reception device 280 can start decoding video information within the reception interval X (for example, 500 msec) of the I-Picture packet after starting the reception of the TS. That is, as compared with the prior art shown in FIG. 11, when the data transmitting apparatus 100 and the data receiving apparatus 280 are used, decoding of video information is started in a relatively short time after the TS reception in the data receiving apparatus 280 is started. Can do.
  • the TS transmitter 260 transmits the TS multiplexed in the multiplexer 110 to the outside of the data transmitter 100. As illustrated in FIG. 6, the TS transmission unit 260 transmits the PAT packet, the PMT packet, the PCR packet, and the I-Picture packet multiplexed on the TS to the outside of the data transmission device 100 without changing the order.
  • the TS transmission unit 260 when the TS transmission unit 260 externally transmits the TS via the IP network, the order of the PAT packet, the PMT packet, the PCR packet, and the I-Picture packet immediately after the header of the transmission packet It is good also as a form arrange
  • the TS transmission unit 260 is a transmission packet that has undergone pre-multiplex processing in the header part of the RTP packet when the TS is externally transmitted using RTP (Real-time Transport Protocol). A marker flag for identification may be added.
  • the marker flag is arranged at a position indicated by “M” in FIG.
  • the data reception device 280 includes a data reception unit 510, a data distribution unit 520, and a data decoding unit 530.
  • the data reception unit 510 receives a TS transmitted from the data transmission device 100.
  • the data sorting unit 520 sorts the TS packet into video information, audio information, and other information based on the data attribute identification information included in the PAT packet and the PMT packet extracted from the received TS packet. Then, the data decoding unit 530 performs decoding for each information distributed by the data distribution unit 520.
  • the data reception unit 510 monitors the marker flag attached to the RTP packet by the TS transmission unit 260.
  • the data reception unit 510 detects the marker flag, the received TS is a TS subjected to pre-multiplex processing. judge.
  • the data reception unit 510 performs a video information decoding process on the TS packets after it is determined that the received TS is a pre-multiplexed TS. In this way, the reproducible position of the I-Picture can be easily detected during the reproduction process in the data receiving device 280. Further, since the data receiving apparatus 280 only needs to perform decoding information processing after detecting the reproducible position of the I-Picture, the load on the data attribute identification processing of the TS packet in the data receiving apparatus 280 is reduced. Can be made.
  • each of the PAT / PMT multiplexing control unit 120, the video multiplexing control unit 200 or the video encoding unit 220, the multiplexing timing acquisition unit 130, and the TS transmission unit 260 in the present embodiment is described in the claims.
  • Each corresponds to an identification information insertion unit, a video information insertion unit, an insertion timing acquisition unit, and a data transmission unit.
  • FIG. 8 is a flowchart showing the flow of multiplexing processing by the data transmission apparatus 100.
  • the data transmission device 100 starts the TS multiplexing process.
  • S20 it is determined whether it is time to multiplex the I-Picture packet. That is, when the multiplexing timing acquisition unit 130 receives a notification of the timing for multiplexing the I-Picture packet from the video multiplexing control unit 200 or the video encoding unit 220 in S20 (Yes in S20), in S30 Transition to processing. On the other hand, when the multiplexing timing acquisition unit 130 does not receive the notification in S20 (No in S20), the process proceeds to S40.
  • the PAT / PMT multiplexing control unit 120 notifies the multiplexing unit 110 of an instruction to multiplex the TS in the order of PAT packet, PMT packet, and PCR packet.
  • the multiplexing unit 110 multiplexes the PAT packet, the PMT packet, and the PCR packet according to the instruction.
  • S40 it is determined whether it is time to multiplex the PAT packet. If the timer 150 notifies the PAT multiplexing control unit 140 in S40 (Yes in S40), the PAT multiplexing control unit 140 multiplexes the PAT packet in the TS for the multiplexing unit 110 in S50. To instruct. In S50, the multiplexing unit 110 multiplexes the PAT packet into the TS. If there is no notification from the timer 150 to the PAT multiplexing control unit 140 in S40 (No in S40), the process proceeds to S60.
  • S60 it is determined whether it is time to multiplex the PMT packet.
  • the PMT multiplexing control unit 160 multiplexes the PMT packet in the TS with respect to the multiplexing unit 110 in S70.
  • the multiplexing unit 110 multiplexes the PMT packet on the TS. If there is no notification from the timer 170 to the PMT multiplexing control unit 160 in S60 (No in S60), the process proceeds to S80.
  • step S80 it is determined whether it is time to multiplex PCR packets.
  • the PCR multiplexing control unit 180 multiplexes the PCR packet into the TS for the multiplexing unit 110 in S90.
  • the multiplexing unit 110 multiplexes the PCR packet on the TS. If there is no notification from the timer 190 to the PCR multiplexing control unit 180 in S80 (No in S80), the process proceeds to S100.
  • S100 it is determined whether or not it is time to multiplex the encoded video. If the video multiplexing control unit 200 is notified of the video multiplexing timing by the video encoding unit 220 in S100 (Yes in S100), the process proceeds to S110. If the video multiplexing control unit 200 is not notified of the video multiplexing timing by the video encoding unit 220 in S100 (No in S100), the process proceeds to S120.
  • the video multiplexing control unit 200 instructs the multiplexing unit 110 to multiplex the ES related to the video notified by the video encoding unit 220 into the TS.
  • the video multiplexing control unit 200 multiplexes the I-Picture packet notified by the video encoding unit 220 immediately after the PCR packet multiplexed in TS in S30 in S110.
  • the multiplexing unit 110 is instructed so that In step S ⁇ b> 110, the multiplexing unit 110 performs multiplexing according to an instruction from the video multiplexing control unit 200.
  • S120 it is determined whether or not it is time to multiplex the encoded speech. If the audio multiplexing control unit 240 is notified of the audio multiplexing timing by the audio encoding unit 250 in S120 (Yes in S120), the process proceeds to S130. If the audio multiplexing control unit 240 is not notified of the audio multiplexing timing by the audio encoding unit 250 in S120 (No in S120), the process proceeds to S140.
  • the audio multiplexing control unit 240 instructs the multiplexing unit 110 to multiplex the ES related to the audio notified by the audio encoding unit 250 into the TS.
  • the multiplexing unit 110 performs multiplexing in accordance with the instruction from the audio multiplexing control unit 240, and in S140, the data transmitting apparatus 100 ends the TS multiplexing process.
  • the data transmitting apparatus 100 can perform pre-multiplex processing based on processing by the PAT / PMT multiplexing control unit 120 and the video multiplexing control unit 200. In addition, the data transmission apparatus 100 can perform the reproduction process smoothly when the receiver 280 performs the reproduction process of the TS defined by MPEG2 by performing the pre-multiplex process.
  • FIG. 9 is a flowchart showing the flow of external transmission processing by the data transmission apparatus 100.
  • the data transmission device 100 starts TS external transmission processing.
  • the TS transmission unit 260 sets an I-Picture transmission flag in S230.
  • the TS transmitter 260 temporarily transmits the TS transmitted from the multiplexer 110 to the RAM 330 or the like in S260. Add to the stored TS and save.
  • the TS transmission unit 260 uses UDP for all the TSs that have not been subjected to pre-multiplexing processing in S250.
  • External transmission using (User Datagram Protocol) or RTP.
  • the TS transmission unit 260 transmits the TS transmitted from the multiplexing unit 110 to the RAM 330 or the like in S260. Add to the temporarily stored TS and save. When the TS is temporarily added and stored, the TS transmission unit 260 stores the TS according to the order received from the multiplexing unit 110. By storing TSs in this order, TSs can be transmitted to the outside in the order in which multiplexing unit 110 multiplexes them.
  • the PAT information (PAT packet) can be arranged immediately after the header portion of the transmission packet by transmitting in S250. become.
  • the TS transmitter 260 uses UDP to externally transmit all the temporarily stored TSs in S290. To do.
  • the TS transmission unit 260 transmits the PAT packet, the PMT packet, the PCR packet, and the I-Picture packet multiplexed on the TS without changing the order.
  • the data transmission apparatus 100 transmits the data necessary for the TS reproduction process in the necessary order on the receiver 280 side based on the process by the TS transmission unit 260, the TS reproduction process can be smoothly performed.
  • the TS transmitter 260 in S320 sets the RTP header with the marker flag “0” at the head of the TS that has been temporarily accumulated. Append.
  • the TS transmission unit 260 transmits the generated RTP packet to the outside, and in S340, the data transmission apparatus 100 ends the TS external transmission process.
  • the data reception device 280 can detect the reproducible position of the I-Picture by receiving the TS transmitted by the data transmission device 100 and monitoring the marker flag in the received RTP header.
  • the data receiving apparatus that has received the packet transmitted by the data transmitting apparatus 100, receive the PMT packet immediately after the PAT packet, the PCR packet immediately after the PMT packet, and the I-Picture packet immediately after the PCR packet. become. For this reason, it is possible to eliminate the waiting time until the necessary packet generated when the packet transmitted from the data transmitting apparatus according to the above-described prior art is received is generated.
  • the data transmitting apparatus 100 is introduced, there is no need to change the function or hardware of the data receiving apparatus.

Abstract

 開示するデータ送信装置の一形態では、符号化した映像情報を含むデータの送信を行うデータ送信装置において、当該データ送信装置が送信する前記データに、該データに含まれる前記映像情報を識別するための映像識別情報を挿入する識別情報挿入部と、当該データ送信装置が送信する前記データに、前記映像情報を挿入する映像情報挿入部と、を有するデータ送信装置であって、前記映像情報挿入部は、前記識別情報挿入部により挿入された前記映像識別情報の直後に、フレーム内符号化を施した前記映像情報を挿入することを特徴とする。

Description

データ送信装置、データ送信プログラムおよびデータ送受信システム
 本発明は、符号化した映像情報を含むデータを送受信するシステムに関する。
 昨今、インターネット通信を始めとする様々な通信手段を介して映像データなどをリアルタイムで伝送するストリーム配信の需要が高まっている。特に近年、デジタル放送やインターネットテレビにおいて、映像及び音声を圧縮し、多重化する技術としてMPEG2で規定されたトランスポートストリームによるリアルタイムデータ配信が一般的である(特許文献1等)。
 そして、MPEG2で規定されたトランスポートストリームを受信し、映像及び音声を再生する際には、再生開始に必要な情報を含む複数のTS(Transport Stream)パケットを受信した後、該TSパケットが含む情報を利用し映像及び音声を再生する。
特開2008-245061号公報
 しかしながら、上記の技術において映像及び音声の再生を行う際、再生開始に必要な情報を含むTSパケットの全てが揃うまでにある程度の時間を要するため、データ受信開始から再生開始までにタイムラグが生じるという問題がある。
 そこで、本発明では、データ送信装置より送信する符号化した映像情報に基づき受信機側で映像等の再生を行う際、データ受信開始後、短時間で該再生処理を開始させることができるデータ送信装置、データ送信プログラム及びデータ送受信システムを提供することを目的とする。
 開示するデータ送信装置の一形態では、符号化した映像情報を含むデータの送信を行うデータ送信装置において、当該データ送信装置が送信する前記データに、該データに含まれる前記映像情報を識別するための映像識別情報を挿入する識別情報挿入部と、当該データ送信装置が送信する前記データに、前記映像情報を挿入する映像情報挿入部と、を有するデータ送信装置であって、前記映像情報挿入部は、前記識別情報挿入部により挿入された前記映像識別情報の直後に、フレーム内符号化を施した前記映像情報を挿入することを特徴とする。
 データ送信装置の一例では、MPEG2で規定するトランスポートストリームを送信するデータ送信装置において、前記トランスポートストリームとして、該トランスポートストリームの再生に関連するプログラムの一覧を表すPAT(Program Association Table)情報並びに該プログラムに対応する画像及び音声の識別を表すPMT(Program Map Table)情報を多重化するPAT/PMT多重化制御部と、前記トランスポートストリームとして、符号化された映像情報を多重化する映像多重化制御部と、を有するデータ送信装置であって、前記PAT/PMT多重化制御部は、前記PAT情報、前記PMT情報の順に多重化し、前記映像多重化制御部は、前記PAT/PMT多重化制御部により多重化された前記PMT情報の直後にI-Picture情報を多重化することを特徴とする。
 上記データ送信装置の一例では、MPEG2で規定されたトランスポートストリームの再生処理に必要な情報を、使用する順序に並べて送信するため、受信機側における該再生処理を円滑にさせることができる。
 開示するデータ送信装置、データ送信プログラム及びデータ送受信システムでは、データ送信装置が送信した符号化された映像情報に基づき受信機側で映像等の再生を行う際、データ受信開始後、短時間で該再生処理を開始させることができる。
TSパケットの構造を説明するための図である。 PATパケットの構造を説明するための図である。 PMTパケットの構造を説明するための図である。 本実施の形態に係るデータ送信装置及びデータ受信装置のハードウェア構成の一例を示す図である。 本実施の形態に係るデータ送信装置の動作原理を説明するための図である。 本実施の形態に係るデータ送信装置の外部送信パケットの構成を説明するための図である。 RTPヘッダの構造を説明するための図である。 本実施の形態に係るデータ送信装置による多重化処理の流れを示すフローチャートである。 本実施の形態に係るデータ送信装置による外部送信処理の流れを示すフローチャートである。 従来技術によるデータ送信装置の機能構成例を示す。 従来技術により送信又は受信されるデータを時系列で示す図である。 本実施の形態において送信又は受信されるデータを時系列で示す図である。 本実施の形態に係るデータ受信装置の動作原理を説明するための図である。
符号の説明
100 データ送信装置
110 多重化部
120 PAT/PMT多重化制御部
130 多重化タイミング取得手段
140 PAT多重化制御部
150、170、190 タイマー
160 PMT多重化制御部
180 PCR多重化制御部
200 映像多重化制御部
210、230 多重化タイミング通知手段
220 映像符号化部
240 音声多重化制御部
250 音声符号化部
260 TS送信部
270 IPネットワーク
280 データ受信装置
310、410 CPU
320、420 ROM
330、430 RAM
340、440 HDD
350、450 通信I/F
360、460 表示装置
510 データ受信部
520 データ振分部
530 データ復号部
600 データ送受信システム
 図面を参照しながら、本発明を実施するための最良の形態について説明する。以下、本実施の形態に係るデータ送信装置及びデータ受信装置においては、MPEG2で規定されるトランスポートストリームを処理対象としているが、本発明の範囲はこれに限定されるものではない。
(MPEG2で規定されるトランスポートストリームに基づく映像及び音声の再生処理)
 MPEG2で規定されるトランスポートストリーム(以下、TS(Transport Stream)という。)では、1つのTS内に、複数の映像(MPEG2規格、H.264規格等)や音声(MPEG1-Layer2規格、MPEG-AAC規格等)を多重化する。
 このTSから映像及び音声を再生するためには、初めに、受信したTSからPAT(Program Association Table)のTSパケットを抽出し、該PATのデータ内からPMT(Program Map Table)のPID(Packet ID)を取得する。ここで、PATとはTS内に含まれるプログラム一覧を、PMTのPID一覧として格納したものであり、PATのPIDは必ず0である。上記処理においては、図1で示す「PID」及び図2で示す「program_map_PID」を参照して行う。
 次に、映像等を再生するためには、取得したPMTのPIDに基づいて、受信したTSからPMTのTSパケットを抽出し、該PMTのデータ内から映像及び音声のPIDを取得する。ここでPMTとはプログラムに含まれる画像及び音声の各PIDを格納したものであり、上記処理は図3で示す「elementary_PID」を参照して行う。
 そして、映像等を再生するためには、取得した映像及び音声のPIDに基づいて、受信したTSから映像及び音声のTSパケットを抽出し、映像及び音声のTSパケットのデータ領域を繋ぎ合わせて、エレメンタリストリームを再生する。ここで、エレメンタリストリーム(以下、ES(Elementary Stream)という。)は、符号化された画像・音声の最小単位である。
 ここで、上記のように映像及び音声のTSパケットからESを再生するための情報として、TSパケット内の「payload_unit_start_indicator」がある。当該「payload_unit_start_indicator」が1であるTSパケットは、ESのPES(Packetized ES)パケットの先頭であることを示す。当該「payload_unit_start_indicator」が0であるTSパケットは、該PESパケットの途中のデータであることを示す。そして、当該「payload_unit_start_indicator」が0から1に変化する直前のTSパケットまでを抽出し、抽出したTSパケットを繋ぎ合わせることで、映像及び音声のESを再生する。
 また、映像のES内には、I-Picture(フレーム内符号化した映像)、P-Picture(フレーム間順方向予測符号化した映像)、B-Picture(双方向予測符号化した映像)という映像符号化方式の異なる映像情報を挿入し、圧縮効率を高めている。ただし、映像のESを再生する際、最初の映像として、前後の映像フレームの情報を用いないI-Pictureに基づき映像の再生を行う必要がある。
 さらに、リアルタイムで映像及び音声のTSを再生するためには、TS送信側のエンコーダが送信するPCR(Program Clock Reference)に同期したクロックをTS受信側のデコーダで生成し、該クロックに同期して映像及び音声を再生する場合もある。ここで、PCRは、TSパケットとしてTS送信側より送信され、PCRパケットのPIDはPMTで示される。
 図10に従来技術によるデータ送信装置の機能構成例を示す。図10で示すように従来技術によるデータ送信装置においては、それぞれ任意のタイミングで、PAT多重化制御部がPATパケットを、PMT多重化制御部がPMTパケットを、PCR多重化制御部がPCRパケットを、また、映像多重化制御部がI-Pictureなどを含んだパケットを、音声多重化制御部が音声情報を含んだパケットを多重化する。従って、データ受信装置が受信したTSの並び順においては、どのパケットがいつ出現するかはわからない。PATパケットとPMTパケット、PMTパケットとPCRパケット、PCRパケットとI-Pictureを含んだパケットとの間には、1以上のTSパケットが挟まれる場合がある。
 データ受信装置が映像の再生開始指示を受け付けた場合、まずPATパケットの受信を待ち、PATパケットを受信すると該パケット内に示されるPMTパケットのPIDと同じPIDのパケットを受信するまで待ち時間が発生することになる。同様に、PCRパケットやI-Pictureを含んだパケットを参照する際にも、そのパケットを受信するまで待ち時間が発生することになる。そのため、再生開始指示を受けてから実際に再生を開始するまでに時間がかかってしまう。
 また、図11に従来技術を適用したデータ受信装置によるデータ受信例を示す。図11で示すように、データ受信装置におけるI-Pictureパケットの受信間隔はXであり、PATパケット、PMTパケット及びPCRパケットのうち何れかのパケットの受信間隔はYであり、双方で受信間隔は異なる。また、例えば、受信間隔Xは500msecであり、受信間隔Yは100msecというように、受信間隔Xは受信間隔Yより長い。この様な場合に、上記で説明した各パケットの特徴を考慮すると、データ受信装置においてI-Pictureパケットに基づき映像情報の復号化を開始するためには、データ受信開始からの時間がX以上掛かる場合もあることが分かる。
 そこで、開示のデータ送信装置100は、受信側で円滑な再生処理を実行させるために、PATパケット、PMTパケット、PCRパケット、I-Pictureパケットの順序でTSパケットを送信する。そうすることで、MPEG2で規定されるTSから多重化された映像及び音声を再生する場合、受信側ではPATパケット、PMTパケット、PCRパケット、I-Pictureパケットの順序でTSパケットを取得するため、円滑な再生処理が可能となる。つまり、この順序でTSパケットを取得した場合、受信側においてデータ受信から再生処理を開始するまでの時間を短縮することができる。
 (本実施の形態に係るデータ送信装置のハードウェア構成)
図4を用いて、本実施の形態に係るデータ送信装置100のハードウェア構成の一例について説明する。図4は、データ送信装置100のハードウェア構成の一例を説明する図である。
 図4に示すデータ送信装置100は、CPU(Central Processing Unit)310、ROM(Read-Only Memory)320、RAM(Random Access Memory)330、HDD(Hard Disc Drive)340、通信I/F(Interface)350、表示装置360を有する。
 CPU310は、ROM320に記憶されたプログラムを実行する装置であり、RAM330に展開(ロード)されたデータを、プログラムの命令に従って演算処理し、データ送信装置100の全体を制御する。ROM320は、CPU310が実行するプログラムやデータを記憶している。RAM330は、CPU310でROM320に記憶されたプログラムを実行する際に、実行するプログラムやデータが展開(ロード)され、演算の間、演算データを一時的に保持する。HDD340は、基本ソフトウェアであるOSや本実施の形態に係るアプリケーションプログラムなどを、関連するデータとともに記憶する装置である。
 通信I/F350は、無線又は有線の通信ネットワークを介して接続された他の通信制御機能を備えた周辺機器(MPEG2で規定されたトランスポートストリームの受信装置等)とデータを送受信するためのインタフェースである。表示装置360は、ハードキーによるキースイッチやLCD(Liquid Crystal Display)等で構成され、データ送信装置100が有する機能をユーザが利用する際や各種設定を行う際のユーザインタフェースとして機能する装置である。
 また、図4で示すように、データ受信装置280もデータ送信装置100と同様に、CPU410、ROM420、RAM430、HDD440、通信I/F450、表示装置460を有する。
 データ送信装置100及びデータ受信装置280が有する各部・各手段は、CPU310、410が、ROM320、420又はHDD340、440に記憶された各部・各手段に対応するプログラムを実行することにより実現される形態としても良い。また、データ送信装置100及びデータ受信装置280が有する各部・各手段は、当該各部・各手段に関する処理をハードウェアとして実現する形態としても良い。
 (本実施の形態に係るデータ送信装置の動作原理)
図5を用いて、本実施の形態に係るデータ送信装置100の動作原理を説明する。図5は、データ送信装置100の動作原理を説明するための図である。
 図5に示すデータ送信装置100は、多重化部110、PAT/PMT多重化制御部120、PAT多重化制御部140、PMT多重化制御部160、PCR多重化制御部180、タイマー150、170、190を有する。さらに、データ送信装置100は、映像多重化制御部200、映像符号化部220、音声多重化制御部240、音声符号化部250、TS送信部260を有する。
 データ送信装置100は、例えば、IPネットワーク270を介してデータ受信装置280と接続され、MPEG2で規定されるトランスポートストリームをデータ受信装置280に送信する。そして、データ受信装置280は、受信したトランスポートストリームをデコードし、映像及び音声を再生する。
 多重化部110は、PAT/PMT多重化制御部120、PAT多重化制御部140、PMT多重化制御部160、PCR多重化制御部180、映像多重化制御部200、音声多重化制御部240からの指示に従い、TSに所定の情報を多重化する。
 PAT多重化制御部140は、タイマー150から所定の通知があった場合、多重化部110に対して、TSにPATパケットを多重化するよう指示を行う。また、タイマー150は、PAT多重化制御部140に対し適当な時間間隔で通知を行うタイマーである。
 PMT多重化制御部160は、タイマー170から所定の通知があった場合、多重化部110に対して、TSにPMTパケットを多重化するよう指示を行う。また、タイマー170は、PMT多重化制御部160に対し適当な時間間隔で通知を行うタイマーである。
 PCR多重化制御部180は、タイマー190から所定の通知があった場合、多重化部110に対して、TSにPCRパケットを多重化するよう指示を行う。また、タイマー190は、PCR多重化制御部180に対し適当な時間間隔で通知を行うタイマーである。
 音声符号化部250は、TSに多重化する音声を符号化したESを生成し、該ESを音声多重化制御部240に通知する。また、音声符号化部250は、生成したESを音声多重化制御部240に通知すると共に、TSに該ESを多重化するタイミングを通知する。
 音声多重化制御部240は、音声符号化部250により通知されるタイミングに基づき、音声符号化部250により通知される音声に関するESをTSに多重化するよう多重化部110に対し指示を行う。
 映像符号化部220は、TSに多重化する映像を符号化したESを生成し、該ESを映像多重化制御部200に通知する。また、映像符号化部220は、生成したESを映像多重化制御部200に通知すると共に、TSに該ESを多重化するタイミングを通知する。
 映像多重化制御部200は、映像符号化部220により通知されるタイミングに基づき、映像符号化部220により通知される映像に関するESをTSに多重化するよう多重化部110に対し指示を行う。
 映像多重化制御部200、映像符号化部220は、多重化タイミング通知手段210、230をそれぞれ有する。多重化タイミング通知手段210、230は、PAT/PMT多重化制御部120に対し、TSにI-Pictureパケットを多重化する旨、又はTSにI-Pictureパケットを多重化するタイミングを通知する。
 図5で示すように、多重化タイミング通知手段210、230は、映像多重化制御部200及び映像符号化部220の双方が有する形態としても良く、映像多重化制御部200又は映像符号化部220の何れか一方が有する形態としても良い。
 PAT/PMT多重化制御部120は、PATパケット及びPMTパケットをTSに多重化するよう多重化部110に対し指示を行う。この際、PAT/PMT多重化制御部120は、PATパケット、PMTパケットの順で多重化するよう指示を行う。
 そして、映像多重化制御部200は、PAT/PMT多重化制御部120の多重化指示に基づきTSに多重化されたPMTパケットの直後にI-Pictureパケットを多重化するよう多重化部110に対し指示を行う。
 PAT/PMT多重化制御部120の一形態においては、PATパケット、PMTパケット及びPCRパケットをTSに多重化するよう多重化部110に対し指示を行う。この際、PAT/PMT多重化制御部120は、PATパケット、PMTパケット、PCRパケットの順で多重化するよう指示を行う。
 そして、映像多重化制御部200は、PAT/PMT多重化制御部120の多重化指示に基づきTSに多重化されたPCRパケットの直後にI-Pictureパケットを多重化するよう多重化部110に対し指示を行う。
 また、PAT/PMT多重化制御部120は、多重化タイミング取得手段130を有する。多重化タイミング取得手段130は、多重化タイミング通知手段210、230により通知されたTSにI-Pictureパケットを多重化する旨の通知、又はTSにI-Pictureパケットを多重化するタイミングの通知を取得する。
 さらに、PAT/PMT多重化制御部120の一形態においては、多重化タイミング取得手段130により前記通知を取得した場合、多重化部110に対し上記の多重化指示を行う。
 図12は、データ送信装置100により送信される(又はデータ受信装置280により受信される)TSの概要を説明するための図である。図12で示すようにデータ送信装置100は、PAT/PMT多重化制御部120及び映像多重化制御部200による処理に基づき、TSにPATパケット、PMTパケット、PCRパケット、I-Pictureパケットの順で多重化する(以下、前多重処理という。)ことができる。PAT/PMT多重化制御部120によって多重化されたパケットは、図中の点線で囲まれたパケットである。したがって、データ送信装置100は、前多重処理を行うことで、受信機280側においてMPEG2で規定されたトランスポートストリームの再生処理を行う際、該再生処理を円滑に行わせることができる。また、データ受信装置280においては、TSの受信を開始した後、I-Pictureパケットの受信間隔X(例えば、500msec)以内に映像情報の復号化を開始することができる。つまり、図11で示す従来技術と比較すると、データ送信装置100及びデータ受信装置280を用いれば、データ受信装置280におけるTS受信開始後、相対的に短時間で映像情報の復号化を開始することができる。
 TS送信部260は、データ送信装置100の外部に、多重化部110において多重化が行われたTSを送信する。図6で示すように、TS送信部260は、TSに多重化したPATパケット、PMTパケット、PCRパケット、I-Pictureパケットの順序を変更することなく、データ送信装置100の外部に送信する。
 さらに、図6で示すように、TS送信部260は、IPネットワークを介してTSを外部送信する際、送信パケットのヘッダ部の直後にPATパケット、PMTパケット、PCRパケット、I-Pictureパケットの順序で配置する形態としても良い。データ送信装置100は、TS送信部260による処理に基づき、受信機280側においてTS再生処理に必要なデータを必要な順序で送信するため、該TS再生処理を円滑に行わせることができる。また、TS送信部260は、RTP(Real-time Transport Protocol)を使用してTSを外部送信する際、上記要件に加え、RTPパケットのヘッダ部内に前多重処理を施した送信パケットであることを識別するマーカー・フラグを付する形態としても良い。ここで、図7中の「M」で示す位置に上記マーカー・フラグは配置される。このような処理を送信機100側で行い、データ受信装置280において上記マーカー・フラグを監視することで、再生処理の際にI-Pictureの再生可能位置を容易に検知することができる。
 一方、図13で示すようにデータ受信装置280は、データ受信部510、データ振分部520、データ復号部530を有する。データ受信部510は、データ送信装置100から送信されたTSを受信する。データ振分部520は、受信したTSパケットから抽出されたPATパケット及びPMTパケットに含まれるデータ属性識別情報に基づき、TSパケットを映像情報、音声情報、およびその他情報に振り分ける。そして、データ復号部530は、データ振分部520により振り分けられた情報毎に復号化を行う。
 また、データ受信部510は、TS送信部260によりRTPパケットに付されたマーカー・フラグの監視を行い、該マーカー・フラグを検知した場合、受信したTSが前多重処理を施したTSであると判定する。そして、データ受信部510は、受信したTSが前多重処理を施したTSであると判定した以降のTSパケットに対し、映像情報の復号化処理を実行する。このようにすることで、データ受信装置280における再生処理の際にI-Pictureの再生可能位置を容易に検知することができる。また、データ受信装置280において、I-Pictureの再生可能位置を検知した後は、復号化の情報処理のみを行えば良いため、データ受信装置280におけるTSパケットのデータ属性識別処理に掛かる負荷を低減させることができる。
 ここで、本実施の形態におけるPAT/PMT多重化制御部120、映像多重化制御部200又は映像符号化部220、多重化タイミング取得手段130、TS送信部260のそれぞれは、特許請求の範囲における識別情報挿入部、映像情報挿入部、挿入タイミング取得手段、データ送信部にそれぞれ対応している。
 (本実施の形態に係るデータ送信装置による処理例)
図8、9を用いて、本実施の形態に係るデータ送信装置100による処理例を説明する。
 (1)本実施の形態に係るデータ送信装置による多重化処理の一例
ここでは、図8を用いて、データ送信装置100による多重化処理の一例を説明する。図8は、データ送信装置100による多重化処理の流れを示すフローチャートである。
 S10でデータ送信装置100が、TSの多重化処理を開始する。S20において、I-Pictureパケットを多重化するタイミングか否かの判定を行う。つまり、S20で多重化タイミング取得手段130が、映像多重化制御部200又は映像符号化部220よりI-Pictureパケットを多重化するタイミングの通知を受けた場合(S20でYesの場合)、S30における処理に移行する。一方、S20で多重化タイミング取得手段130が、当該通知を受けない場合(S20でNoの場合)、S40における処理に移行する。
 S30でPAT/PMT多重化制御部120が、多重化部110に対し、TSにPATパケット、PMTパケット、PCRパケットの順序で多重化するよう指示を通知する。そして、S30で多重化部110が、当該指示に従い、PATパケット、PMTパケット及びPCRパケットの多重化を行う。
 S40において、PATパケットを多重化するタイミングか否かの判定を行う。S40でPAT多重化制御部140に対しタイマー150から通知があった場合(S40でYesの場合)、S50でPAT多重化制御部140が、多重化部110に対してTSにPATパケットを多重化するよう指示を行う。そして、S50で多重化部110が、TSにPATパケットを多重化する。S40でPAT多重化制御部140に対しタイマー150から通知が無い場合(S40でNoの場合)、S60における処理に移行する。
 S60において、PMTパケットを多重化するタイミングか否かの判定を行う。S60でPMT多重化制御部160に対しタイマー170から通知があった場合(S60でYesの場合)、S70でPMT多重化制御部160が、多重化部110に対してTSにPMTパケットを多重化するよう指示を行う。そして、S70で多重化部110が、TSにPMTパケットを多重化する。S60でPMT多重化制御部160に対しタイマー170から通知が無い場合(S60でNoの場合)、S80における処理に移行する。
 S80において、PCRパケットを多重化するタイミングか否かの判定を行う。S80でPCR多重化制御部180に対しタイマー190から通知があった場合(S80でYesの場合)、S90でPCR多重化制御部180が、多重化部110に対してTSにPCRパケットを多重化するよう指示を行う。そして、S90で多重化部110が、TSにPCRパケットを多重化する。S80でPCR多重化制御部180に対しタイマー190から通知が無い場合(S80でNoの場合)、S100における処理に移行する。
 S100において、符号化した映像を多重化するタイミングか否かの判定を行う。S100で映像多重化制御部200が、映像符号化部220により映像多重化のタイミングを通知された場合(S100でYesの場合)、S110における処理に移行する。S100で映像多重化制御部200が、映像符号化部220により映像多重化のタイミングを通知されない場合(S100でNoの場合)、S120における処理に移行する。
 S110で映像多重化制御部200が、映像符号化部220により通知される映像に関するESをTSに多重化するよう多重化部110に対し指示を行う。特に、S20でYesであった場合は、S110で映像多重化制御部200が、映像符号化部220により通知されるI-Pictureパケットを、S30においてTSに多重化されたPCRパケットの直後に多重化するよう多重化部110に対し指示を行う。そして、S110で多重化部110が、映像多重化制御部200の指示に従い多重化を行う。
 S120において、符号化した音声を多重化するタイミングか否かの判定を行う。S120で音声多重化制御部240が、音声符号化部250により音声多重化のタイミングを通知された場合(S120でYesの場合)、S130における処理に移行する。S120で音声多重化制御部240が、音声符号化部250により音声多重化のタイミングを通知されない場合(S120でNoの場合)、S140における処理に移行する。
 S130で音声多重化制御部240が、音声符号化部250により通知される音声に関するESをTSに多重化するよう多重化部110に対し指示を行う。そして、S130で多重化部110が、音声多重化制御部240の指示に従い多重化を行い、S140でデータ送信装置100が、TSの多重化処理を終了する。
 データ送信装置100は、PAT/PMT多重化制御部120及び映像多重化制御部200による処理に基づき、前多重処理を行うことができる。また、データ送信装置100は、前多重処理を行うことで、受信機280側においてMPEG2で規定されたTSの再生処理を行う際、該再生処理を円滑に行わせることができる。
 (2)本実施の形態に係るデータ送信装置による外部送信処理の一例
ここでは、図9を用いて、データ送信装置100による外部送信処理の一例を説明する。図9は、データ送信装置100による外部送信処理の流れを示すフローチャートである。
 S210でデータ送信装置100が、TSの外部送信処理を開始する。S220で外部送信するデータが前多重処理を施したTSである場合(S220でYesの場合)、S230でTS送信部260が、I-Picture送信フラグを立てる。一方、S220で外部送信するデータが前多重処理を施したTSではない場合(S220でNoの場合)、S260でTS送信部260が、多重化部110から送出されたTSを、RAM330等に一時蓄積しているTSに追加して保存する。
 S240において、一次蓄積している前多重処理を施していないTSが1つ以上ある場合(S240でYesの場合)、S250でTS送信部260が、該前多重処理を施していないTS全てをUDP(User Datagram Protocol)又はRTPを使用して外部送信する。
 S240において、一次蓄積している前多重処理を施さないTSが1つも無い場合(S240でNoの場合)、S260でTS送信部260が、多重化部110から送出されたTSを、RAM330等に一時蓄積しているTSに追加して保存する。一次蓄積しているTSに追加して保存する際には、TS送信部260が多重化部110から受信した順序に従ってTSを保存する。このような順にTSを保存することで、多重化部110が多重した順のままTSを外部へ送信できる。
 また、S240で前多重処理を施していない保存TSが1パケット以上あれば、S250で送信してしまうことにより、送信パケットのヘッダ部の直後にPAT情報(PATパケット)を配置することができるようになる。
 S270において、RAM330等に一時蓄積しているTS数が所定数以内である場合(S270でYesの場合)、S220における処理に移行する。S270において、一時蓄積しているTS数が所定数より多い場合(S270でNoの場合)、S280における処理に移行する。
 S280において、TS送信部260が外部送信する送信モードがUDPである場合(S280でYesの場合)、S290でTS送信部260が、UDPを使用して、一時蓄積している全TSを外部送信する。S290でTS送信部260は、TSに多重化したPATパケット、PMTパケット、PCRパケット、I-Pictureパケットの順序を変更することなく外部送信する。
 データ送信装置100は、TS送信部260による処理に基づき、受信機280側においてTS再生処理に必要なデータを必要な順序で送信するため、該TS再生処理を円滑に行わせることができる。
 S280において、TS送信部260が外部送信する送信モードがUDPでない場合(S280でNoの場合)、S300における処理に移行する。S300において、I-Pictureフラグが立っている場合(S300でYesの場合)、S310でTS送信部260が、マーカー・フラグを「1」としたRTPヘッダを、一次蓄積しているTSの先頭に付加する。
 S300において、I-Pictureフラグが立っていない場合(S300でNoの場合)、S320でTS送信部260が、マーカー・フラグを「0」としたRTPヘッダを、一次蓄積しているTSの先頭に付加する。
 S330でTS送信部260が、生成したRTPパケットを外部送信し、S340でデータ送信装置100が、TSの外部送信処理を終了する。データ受信装置280では、データ送信装置100が送信したTSを受信し、受信したRTPヘッダ内の上記マーカー・フラグを監視することで、I-Pictureの再生可能位置を検知することができる。
 データ送信装置100により送信されたパケットを受信したデータ受信装置においては、PATパケットのすぐ後にPMTパケットを、PMTパケットのすぐ後にPCRパケットを、PCRパケットのすぐ後にI-Pictureパケットをそれぞれ受信することになる。そのため、上述の従来技術によるデータ送信装置から送信されたパケットを受信した時には発生していた必要なパケットを受信するまでの待ち時間を、生じさせなくすることができる。尚、データ送信装置100を導入するにあたって、データ受信装置には、機能やハードウェアを何ら変更する必要は無い。
 (総括)
開示するデータ送信装置の一形態では、データ送信装置が送信した符号化された映像情報に基づき受信機側で映像等の再生を行う際、データ受信開始後、短時間で該再生処理を開始させることができる。
以上、本発明の実施の形態について詳述したが、本発明は係る特定の実施の形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲において、種々の変形・変更が可能である。

Claims (18)

  1.  符号化した映像情報を含むデータの送信を行うデータ送信装置において、
     当該データ送信装置が送信する前記データに、該データに含まれる前記映像情報を識別するための映像識別情報を挿入する識別情報挿入部と、
     当該データ送信装置が送信する前記データに、前記映像情報を挿入する映像情報挿入部と、を有するデータ送信装置であって、
     前記映像情報挿入部は、前記識別情報挿入部により挿入された前記映像識別情報の直後に、フレーム内符号化を施した前記映像情報を挿入することを特徴とするデータ送信装置。
  2.  前記識別情報挿入部は、
     前記映像情報挿入部から、前記フレーム内符号化を施した映像情報が挿入される旨の通知を取得する挿入タイミング取得手段を有し、
     前記挿入タイミング取得手段により前記通知を取得した場合、前記映像識別情報、前記データの送受信装置間で同期を取るために使用するクロック情報の順に挿入し、
     前記映像情報挿入部は、
     前記映像識別情報に代えて、前記識別情報挿入部により挿入された前記クロック情報の直後に、前記フレーム内符号化を施した映像情報を挿入することを特徴とする請求項1に記載のデータ送信装置。
  3.  IPネットワークを介して当該データ送信装置の外部に、前記データを送信するデータ送信部を有し、
     前記データ送信部は、前記映像識別情報、前記クロック情報、および前記フレーム内符号化を施した映像情報の順序を変更することなく、かつ、送信パケットのヘッダ部の直後に該映像識別情報を配置して、前記データを送信することを特徴とする請求項2に記載のデータ送信装置。
  4.  前記データ送信部は、RTP(Real-time Transport Protocol)を使用して送信する場合、前記映像識別情報、クロック情報、およびフレーム内符号化を施した映像情報の順序で配置された送信パケットであることを識別するマーカー・フラグを、RTPパケットのヘッダ部内に付することを特徴とする請求項3に記載のデータ送信装置。
  5.  請求項1乃至3のいずれか一に記載のデータ送信装置と、
     前記データ送信装置により送信された前記データを受信するデータ受信部と、受信した該データに含まれる前記映像識別情報に基づき、該データから前記映像情報を抽出するデータ振分部と、抽出した該映像情報を復号化するデータ復号化部とを有するデータ受信装置と、を含むことを特徴とするデータ送受信システム。
  6.  請求項4に記載のデータ送信装置と、
     前記データ送信装置により送信された前記データを受信するデータ受信部と、受信した該データに含まれる前記映像識別情報に基づき、該データから前記映像情報を抽出するデータ振分部と、抽出した該映像情報を復号化するデータ復号化部とを有するデータ受信装置と、を含むデータ送受信システムであって、
     前記データ受信部は、受信した前記データに関するRTPパケットのヘッダ部内の前記マーカー・フラグに基づき、該データを、前記映像識別情報、クロック情報、およびフレーム内符号化を施した映像情報の順序で配置された送信パケットであると識別することを特徴とするデータ送受信システム。
  7.  符号化した映像情報を含むデータの送信を行うデータ送信装置に、
     識別情報挿入部が、当該データ送信装置が送信する前記データに、該データに含まれる前記映像情報を識別するための映像識別情報を挿入するステップと、
     映像情報挿入部が、当該データ送信装置が送信する前記データに、前記映像情報を挿入するステップと、を実行させるデータ送信プログラムであって、
     前記映像情報挿入部は、前記識別情報挿入部により挿入された前記映像識別情報の直後に、フレーム内符号化を施した前記映像情報を挿入することを特徴とするデータ送信プログラム。
  8.  前記識別情報挿入部は、
     挿入タイミング取得手段が、前記映像情報挿入部から、前記フレーム内符号化を施した映像情報が挿入される旨の通知を取得するステップをさらに有し、
     前記挿入タイミング取得手段により前記通知を取得した場合、前記映像識別情報、前記データの送受信装置間で同期を取るために使用するクロック情報の順に挿入し、
     前記映像情報挿入部は、
     前記映像識別情報に代えて、前記識別情報挿入部により挿入された前記クロック情報の直後に、前記フレーム内符号化を施した映像情報を挿入することを特徴とする請求項7に記載のデータ送信プログラム。
  9.  データ送信部が、IPネットワークを介して当該データ送信装置の外部に、前記データを送信するステップをさらに有し、
     前記データ送信部は、前記映像識別情報、前記クロック情報、および前記フレーム内符号化を施した映像情報の順序を変更することなく、かつ、送信パケットのヘッダ部の直後に該映像識別情報を配置して、前記データを送信することを特徴とする請求項8に記載のデータ送信プログラム。
  10.  前記データ送信部は、RTP(Real-time Transport Protocol)を使用して送信する場合、前記映像識別情報、クロック情報、およびフレーム内符号化を施した映像情報の順序で配置された送信パケットであることを識別するマーカー・フラグを、RTPパケットのヘッダ部内に付することを特徴とする請求項9に記載のデータ送信プログラム。
  11.  MPEG2で規定するトランスポートストリームを送信するデータ送信装置において、
     前記トランスポートストリームとして、該トランスポートストリームの再生に関連するプログラムの一覧情報を含むPAT(Program Association Table)情報並びに該プログラムに対応する画像及び音声の識別情報を含むPMT(Program Map Table)情報を多重化するPAT/PMT多重化制御部と、
     前記トランスポートストリームとして、符号化された映像情報を多重化する映像多重化制御部と、を有するデータ送信装置であって、
     前記PAT/PMT多重化制御部は、前記PAT情報、前記PMT情報の順に多重化し、
     前記映像多重化制御部は、前記PAT/PMT多重化制御部により多重化された前記PMT情報の直後にI-Picture情報を多重化することを特徴とするデータ送信装置。
  12.  前記PAT/PMT多重化制御部は、
     前記I-Picture情報が多重化される旨の通知を前記映像多重化制御部から取得する前多重タイミング取得手段を有し、
     前記前多重タイミング取得手段により前記通知を取得した場合、前記PAT情報、前記PMT情報、前記トランスポートストリームのデータ送受信装置間で同期を取るために使用するPCR(Program Clock Reference)情報の順に多重化し、
     前記映像多重化制御部は、
     前記PMT情報に代えて、前記PAT/PMT多重化制御部により多重化された前記PCR情報の直後に前記I-Picture情報を多重化することを特徴とする請求項11に記載のデータ送信装置。
  13.  IPネットワークを介して、前記トランスポートストリームを当該データ送信装置の外部に送信するTS送信部を有し、
     前記TS送信部は、前記トランスポートストリームについて、前記PAT情報、前記PMT情報、前記PCR情報、前記I-Picture情報の順序を変更することなく、かつ、送信パケットのヘッダ部の直後に該PAT情報を配置して、外部送信することを特徴とする請求項12に記載のデータ送信装置。
  14.  前記TS送信部は、
     RTP(Real-time Transport Protocol)を使用して前記トランスポートストリームを外部送信する場合、
     RTPパケットのヘッダ部内に、前記PCR情報の直後に前記I-Picture情報を多重化した前記トランスポートストリームに関する送信パケットであることを識別するマーカー・フラグを付することを特徴とする請求項13に記載のデータ送信装置。
  15.  MPEG2で規定するトランスポートストリームを送信するデータ送信装置に、
     PAT/PMT多重化制御部が、前記トランスポートストリームとして、該トランスポートストリームの再生に関連するプログラムの一覧情報を含むPAT(Program Association Table)情報並びに該プログラムに対応する画像及び音声の識別情報を含むPMT(Program Map Table)情報を多重化するステップと、
     映像多重化制御部が、前記トランスポートストリームとして、符号化された映像情報を多重化するステップと、を実行させるデータ送信プログラムであって、
     前記PAT/PMT多重化制御部は、前記PAT情報、前記PMT情報の順に多重化し、
     前記映像多重化制御部は、前記PAT/PMT多重化制御部によって多重化された前記PMT情報の直後にI-Picture情報を多重化することを特徴とするデータ送信プログラム。
  16.  前記PAT/PMT多重化制御部は、
     前多重タイミング取得手段が、前記I-Picture情報が多重化される旨の通知を前記映像多重化制御部から取得するステップをさらに有し、
     前記前多重タイミング取得手段によって前記通知を取得した場合、前記PAT情報、前記PMT情報、前記トランスポートストリームのデータ送受信装置間で同期を取るために使用するPCR(Program Clock Reference)情報の順に多重化し、
     前記映像多重化制御部は、
     前記PMT情報に代えて、前記PAT/PMT多重化制御部により多重化された前記PCR情報の直後に前記I-Picture情報を多重化することを特徴とする請求項15に記載のデータ送信プログラム。
  17.  TS送信部が、IPネットワークを介して、前記トランスポートストリームを前記データ送信装置の外部に送信するステップをさらに有し、
     前記TS送信部は、前記トランスポートストリームについて、前記PAT情報、前記PMT情報、前記PCR情報、前記I-Picture情報の順序を変更することなく、かつ、送信パケットのヘッダ部の直後に該PAT情報を配置して、外部送信することを特徴とする請求項16に記載のデータ送信プログラム。
  18.  前記TS送信部は、
     RTP(Real-time Transport Protocol)を使用して前記トランスポートストリームを外部送信する場合、
     RTPパケットのヘッダ部内に、前記PCR情報の直後に前記I-Picture情報を多重化した前記トランスポートストリームに関する送信パケットであることを識別するマーカー・フラグを付することを特徴とする請求項17に記載のデータ送信プログラム。
PCT/JP2009/054682 2009-03-11 2009-03-11 データ送信装置、データ送信プログラムおよびデータ送受信システム WO2010103635A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011503607A JP5234172B2 (ja) 2009-03-11 2009-03-11 データ送信装置、データ送信プログラムおよびデータ送受信システム
PCT/JP2009/054682 WO2010103635A1 (ja) 2009-03-11 2009-03-11 データ送信装置、データ送信プログラムおよびデータ送受信システム
US13/137,481 US9100672B2 (en) 2009-03-11 2011-08-19 Data transmitting device and data transmitting and receiving system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2009/054682 WO2010103635A1 (ja) 2009-03-11 2009-03-11 データ送信装置、データ送信プログラムおよびデータ送受信システム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US13/137,481 Continuation US9100672B2 (en) 2009-03-11 2011-08-19 Data transmitting device and data transmitting and receiving system

Publications (1)

Publication Number Publication Date
WO2010103635A1 true WO2010103635A1 (ja) 2010-09-16

Family

ID=42727943

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2009/054682 WO2010103635A1 (ja) 2009-03-11 2009-03-11 データ送信装置、データ送信プログラムおよびデータ送受信システム

Country Status (3)

Country Link
US (1) US9100672B2 (ja)
JP (1) JP5234172B2 (ja)
WO (1) WO2010103635A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5605608B2 (ja) * 2010-03-30 2014-10-15 ソニー株式会社 送信装置及び方法、並びにプログラム
EP2820569A4 (en) * 2012-02-27 2016-04-27 Nokia Technologies Oy MULTIMEDIA MARKING
US9158822B2 (en) * 2012-11-23 2015-10-13 The Johns Hopkins University System and method for pick-and-drop sampling
KR20140070896A (ko) * 2012-11-29 2014-06-11 삼성전자주식회사 비디오 스트리밍 방법 및 그 전자 장치

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1998043423A1 (fr) * 1997-03-25 1998-10-01 Sony Corporation Procede et dispositif generant un flux d'acheminement et dispositif de transmission de programme
JP2001309306A (ja) * 2000-04-26 2001-11-02 Sony Corp 再生装置および方法、並びに記録媒体
JP2002175670A (ja) * 1999-01-14 2002-06-21 Toshiba Corp ストリーム記録に適した情報媒体およびストリーム記録に適したシステム
JP2005217556A (ja) * 2004-01-28 2005-08-11 Hitachi Ltd 番組送信方法、番組送信装置、番組送信システム、および、番組送信プログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020044757A1 (en) * 1995-08-04 2002-04-18 Sony Corporation Information carrier, device for reading and device for providing the information carrier and method of transmitting picture information
US7088911B2 (en) 2000-04-26 2006-08-08 Sony Corporation Recording apparatus and method, playback apparatus and method, and recording medium therefor
CN1993762A (zh) * 2004-07-27 2007-07-04 皇家飞利浦电子股份有限公司 改善特技播放期间和之后的图形可访问性
KR100640424B1 (ko) * 2005-03-16 2006-11-01 삼성전자주식회사 디지털 멀티미디어 방송 수신기에서 방송 채널의 전환을 제어하는 장치 및 방법
EP1952112A4 (en) * 2005-10-05 2010-01-13 Lg Electronics Inc METHOD AND DEVICE FOR SIGNAL PROCESSING AND CODING AND DECODING METHOD AND DEVICE THEREFOR
CA2625025C (en) * 2007-03-20 2015-06-23 Kabushiki Kaisha Toshiba Ip broadcast system, and multiplexer, receiving apparatus and method used in ip broadcast system
JP5092493B2 (ja) 2007-03-28 2012-12-05 富士通株式会社 受信プログラム、受信装置、通信システム、及び、通信方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1998043423A1 (fr) * 1997-03-25 1998-10-01 Sony Corporation Procede et dispositif generant un flux d'acheminement et dispositif de transmission de programme
JP2002175670A (ja) * 1999-01-14 2002-06-21 Toshiba Corp ストリーム記録に適した情報媒体およびストリーム記録に適したシステム
JP2001309306A (ja) * 2000-04-26 2001-11-02 Sony Corp 再生装置および方法、並びに記録媒体
JP2005217556A (ja) * 2004-01-28 2005-08-11 Hitachi Ltd 番組送信方法、番組送信装置、番組送信システム、および、番組送信プログラム

Also Published As

Publication number Publication date
JP5234172B2 (ja) 2013-07-10
US9100672B2 (en) 2015-08-04
JPWO2010103635A1 (ja) 2012-09-10
US20120039396A1 (en) 2012-02-16

Similar Documents

Publication Publication Date Title
US10368115B2 (en) Transmitting method, receiving method, transmitting device, and receiving device
JP5234172B2 (ja) データ送信装置、データ送信プログラムおよびデータ送受信システム
US8036154B2 (en) Device and method for saving power in digital broadcasting receiver
JP3877947B2 (ja) 符号化データの転送制御方法及び蓄積再生システム
KR101145078B1 (ko) 미디어 배신 전환 방법, 수신 장치, 송신 장치
JP4869330B2 (ja) デジタル画像データ処理装置及び処理方法
JP2004274619A (ja) 動画配信サーバ、動画受信端末装置、画像パケット送信方法及び画像パケット受信方法
JP3770595B2 (ja) 記録方法
JP4040078B2 (ja) ディジタル放送受信装置
JP2012070344A (ja) デジタル放送受信装置及びデジタル放送受信方法
JP2010183237A (ja) コンテンツ同期再生システム、コンテンツ同期再生方法、再生端末、再生端末の制御方法、及び制御プログラム
JP2008252832A (ja) 受信装置、データストリーム出力装置、放送システム、受信装置の制御方法、データストリーム出力装置の制御方法、制御プログラムおよび記録媒体
JP2007281805A (ja) デジタル放送受信装置、デジタル放送受信方法及びプログラム
JP6684433B2 (ja) 送信装置、送信方法、並びに、プログラム
JP6744092B2 (ja) 送信装置、受信装置、送信方法及び受信方法
JP4373802B2 (ja) 番組送信方法、番組送信装置、番組送信システム、および、番組送信プログラム
JP4390666B2 (ja) 圧縮映像データ及び圧縮音声データの復号再生方法及び復号再生装置
JP4040053B2 (ja) ディジタル放送受信装置およびディジタル放送受信方法
TW202205866A (zh) 數位串流錯誤檢查方法與電路系統
JPH1023399A (ja) Mpeg2データ再生装置
JP2005026854A (ja) ディジタル記録再生装置及び再生レート制御方法
JP2005277457A (ja) デジタル放送信号送出装置及びデジタル放送信号送出装置の制御方法
JP2005210586A (ja) トランスポートストリーム処理装置および方法
JP2008236186A (ja) Tsパケット多重化装置とその多重化方法
JP2004007541A (ja) データ多重方法及び多重データ復号方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 09841463

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2011503607

Country of ref document: JP

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 09841463

Country of ref document: EP

Kind code of ref document: A1