WO2015093811A1 - 트릭 플레이 서비스 제공을 위한 신호 송수신 장치 및 신호 송수신 방법 - Google Patents

트릭 플레이 서비스 제공을 위한 신호 송수신 장치 및 신호 송수신 방법 Download PDF

Info

Publication number
WO2015093811A1
WO2015093811A1 PCT/KR2014/012385 KR2014012385W WO2015093811A1 WO 2015093811 A1 WO2015093811 A1 WO 2015093811A1 KR 2014012385 W KR2014012385 W KR 2014012385W WO 2015093811 A1 WO2015093811 A1 WO 2015093811A1
Authority
WO
WIPO (PCT)
Prior art keywords
temporal
picture
trick play
field
present
Prior art date
Application number
PCT/KR2014/012385
Other languages
English (en)
French (fr)
Inventor
윤준희
황수진
서종열
오현묵
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to US15/101,320 priority Critical patent/US10230999B2/en
Priority to KR1020167013602A priority patent/KR101792518B1/ko
Priority to JP2016540577A priority patent/JP6474815B2/ja
Priority to EP14872884.3A priority patent/EP3086559A4/en
Publication of WO2015093811A1 publication Critical patent/WO2015093811A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238—Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • H04N21/2387—Stream processing in response to a playback request from an end-user, e.g. for trick-play
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/114—Adapting the group of pictures [GOP] structure, e.g. number of B-frames between two anchor frames
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/177—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23614—Multiplexing of additional data and video streams
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/414—Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • H04N21/4147—PVR [Personal Video Recorder]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434—Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/84—Generation or processing of descriptive data, e.g. content descriptors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85—Assembly of content; Generation of multimedia applications
    • H04N21/854—Content authoring

Definitions

  • the present invention relates to a signal transmission and reception apparatus and a signal transmission and reception method.
  • UHD broadcast content provides higher quality content than SD or HD broadcast content, so the amount of data to be transmitted is relatively large. Accordingly, new data compression methods are being developed to efficiently transmit such high quality content.
  • the HEVC compression method which is advanced compared to the existing H.264 / AVC compression method, has been commercialized, and thus, a study on a method of utilizing content data encoded by HEVC is required.
  • trick play was possible on the existing encoded content, where trick play refers to a service that provides random access and double speed functions such as 2x and 4x speeds, which can play a video after a certain time. .
  • a Trick play function was provided for media services based on AVC streams.
  • a T.P.G.playable trick of H.264 / AVC encoded content was available for the CFF medial file format.
  • An object of the present invention is to provide a signal transmission / reception method and a signal transmission / reception apparatus capable of more efficiently providing trick play for an encoded stream.
  • Another object of the present invention is to provide a signal transmitting / receiving method and a signal transmitting / receiving apparatus capable of transmitting and receiving signaling information for trick play of a stream, for example, an AVC or HEVC stream, according to a standardized encoding scheme.
  • Another object of the present invention is to provide a signal transmission / reception method and a signal transmission / reception apparatus capable of providing an extensible method when signaling trick play of an encoded stream.
  • Another object of the present invention is to provide a signal transmission / reception method and a signal transmission / reception apparatus for enabling a more efficient trick play while being compatible with a trick play scheme for HEVC encoded content.
  • Another object of the present invention is to provide a method and / or apparatus for transmitting / receiving a broadcast signal for trick play of HEVC-based broadcast content, and to define a file format suitable for HEVC streams to more efficiently transmit and receive signals. It is to provide a method and a signal transmitting and receiving device.
  • Another object of the present invention is to provide a signaling method capable of providing a maximum speed information to a user, and to provide a signal transmission / reception method and a signal transmission / reception apparatus for providing trick play using temporal scalability of HEVC.
  • An embodiment of the present invention includes encoding video source data and outputting video data including a Supplemental Enhancement Information (SEI) message having Group of Picture (GOP) metadata; And transmitting the video data.
  • SEI Supplemental Enhancement Information
  • GOP Group of Picture
  • the GOP metadata may include temporal ID information, picture type information, and temporal sublayer picture type information.
  • the picture type information refers to NAL_unit_type used for trick play among NAL_unit_types of HEVC (High Efficiency Video Coding), and the temporal ID information corresponds to a specific value of NAL_unit_type of HEVC, and the temporal sublayer picture type information. May refer to either a Temporal Sub-layer Access (TSA) picture or a Step-wise Temporal Sub-layer Access (STSA) picture of HEVC.
  • TSA Temporal Sub-layer Access
  • STSA Step-wise Temporal Sub-layer Access
  • the transmitting of the video data may include: generating a video stream including personal video recorder (PVR) assist information having a maximum temporal identification information value; And transmitting the video stream.
  • PVR personal video recorder
  • Another embodiment of the present invention includes receiving encoded video data and parsing a Supplemental Enhancement Information (SEI) message of the encoded video data to obtain Group of Picture (GOP) metadata; And decoding the encoded video data based on the obtained Group of Picture (GOP) metadata. It provides a signal receiving method comprising a.
  • SEI Supplemental Enhancement Information
  • Another embodiment of the present invention provides a video encoder for encoding video source data and outputting video data including an SEI message having GOP metadata; And a video transmission unit configured to transmit the video data.
  • Another embodiment of the present invention includes a video parser that receives encoded video data and obtains Group of Picture (GOP) metadata by parsing an SEI message of the encoded video data; And a video decoding unit to decode the encoded video data based on GOP (Group of Picture) metadata obtained by the video parser. It provides a signal receiving apparatus comprising a.
  • GOP Group of Picture
  • Another embodiment of the present invention provides a method of generating a video stream by encoding video data;
  • the video stream includes personal video recorder (PVR) assist information having a maximum temporal identification information value of the video stream; and transmitting the generated video stream.
  • PVR personal video recorder
  • a demultiplexer for demultiplexing the received signal to extract a video stream;
  • the video stream includes personal video recorder (PVR) assist information having a maximum temporal identification information value of the video stream;
  • a video decoder configured to decode the extracted video stream based on the PVR assist information and perform trick play of the video data. It provides a signal receiving apparatus comprising a.
  • signaling information for trick play of a stream for example, an AVC or HEVC stream, according to a standardized encoding scheme may be transmitted and received.
  • an extended method may be provided when an encoded stream signals trick play.
  • a signaling method capable of providing a maximum speed information to a user, and provide trick play using temporal scalability of HEVC.
  • FIG. 1 is a diagram illustrating a signaling method for trick play according to an embodiment of the present invention according to a scenario.
  • CFF common file format
  • FIG. 3 is a diagram illustrating syntax of an “hvcn” box according to an embodiment of the present invention.
  • HDR high dynamic range
  • FIG. 5 is a diagram illustrating a picture type for random access in the case of an HEVC stream according to an embodiment of the present invention.
  • FIG. 6 is a view showing a trick play method in the case of closed GOP according to an embodiment of the present invention.
  • FIG. 7 is a diagram illustrating a trick play method when an open GOP and a GOP includes a decodable leading picture according to an embodiment of the present invention.
  • FIG. 8 is a diagram illustrating a trick play method when an open GOP and a GOP includes a decodable leading picture and a skipped leading picture according to an embodiment of the present invention.
  • FIG. 9 is a diagram illustrating a trick play method when an open GOP and a GOP includes a skipped leading picture according to an embodiment of the present invention.
  • FIG. 10 illustrates a configuration of a trick play box for supporting trick play of an HEVC stream having max_temporal_id of 0 according to an embodiment of the present invention.
  • 11 is a diagram illustrating a configuration of a trick play box for supporting trick play of an HEVC stream having max_temporal_id of 0 according to another embodiment of the present invention.
  • FIG. 12 illustrates a description of pic_type included in a trick play box for supporting trick play of an HEVC stream having max_temporal_id of 0 according to an embodiment of the present invention.
  • FIG. 13 is a diagram illustrating a configuration of a trick play box for supporting trick play of an HEVC stream having max_temporal_id equal to 0 when pic_type does not include content related to a leading picture according to an embodiment of the present invention.
  • FIG. 14 is a diagram illustrating a trick play box for supporting trick play of an HEVC stream having max_temporal_id equal to 0 when pic_type does not include content related to a leading picture according to another embodiment of the present invention.
  • FIG. 15 is a diagram illustrating the configuration of an HEVC stream supporting temporal scalability according to an embodiment of the present invention.
  • FIG. 16 illustrates a configuration of a trick play box for supporting trick play by limiting a maximum speed in an HEVC stream supporting temporal scalability according to an embodiment of the present invention.
  • FIG. 17 is a diagram showing the configuration of a trick play box for supporting trick play by limiting a maximum speed in an HEVC stream supporting temporal scalability according to another embodiment of the present invention.
  • FIG. 18 is a diagram illustrating a method of changing a frame rate when the temporal sub-layer picture type is TSA according to an embodiment of the present invention.
  • FIG. 19 is a diagram illustrating a method of changing a frame rate when the temporal sub-layer picture type is STSA according to an embodiment of the present invention.
  • FIG. 20 is a diagram illustrating the configuration of a trick play box for supporting trick play at high speed in an HEVC stream supporting temporal scalability according to an embodiment of the present invention. (Scenario 3)
  • FIG. 21 is a diagram showing the configuration of a trick play box for supporting trick play at high speed in an HEVC stream supporting temporal scalability according to another embodiment of the present invention.
  • FIG. 22 is a view showing a trick play method using a temporal id and a tier according to an embodiment of the present invention.
  • FIG. 23 is a diagram illustrating a trick play method according to a conventional tier concept according to an embodiment of the present invention.
  • 24 is a diagram illustrating a trick play method according to a method of mapping one temporal id to one tier 1: 1 according to an embodiment of the present invention.
  • FIG. 25 is a diagram illustrating a trick play method according to a method of mapping one temporal id to one tier 1: 1 according to another embodiment of the present invention.
  • FIG. 26 is a diagram illustrating a result of mapping one temporal id to one tier 1: 1 according to an embodiment of the present invention.
  • FIG. 27 is a diagram illustrating a result of mapping one temporal id to one tier 1: 1 according to another embodiment of the present invention.
  • FIG. 28 is a diagram illustrating a trick play method according to a method of mapping one temporal id to several tiers according to an embodiment of the present invention.
  • 29 is a diagram illustrating a configuration of an adaptation field of a TS packter including information for mapping a tempora id and a tier according to an embodiment of the present invention.
  • FIG. 30 is a diagram illustrating a configuration of HEVC_temporal_id_tier_mapping_info according to an embodiment of the present invention.
  • FIG. 31 is a diagram illustrating a configuration of a trick_play_speed field included in HEVC_temporal_id_tier_mapping_info according to an embodiment of the present invention.
  • FIG. 32 is a diagram illustrating a configuration of PVR_assist_information according to an embodiment of the present invention.
  • FIG. 33 is a diagram illustrating a configuration of PVR_assist_information to which temporal id frame work is added according to an embodiment of the present invention.
  • FIG. 34 is a diagram illustrating a configuration of PVR_assist_information to which temporal id frame work is added according to another embodiment of the present invention.
  • 35 is a diagram illustrating a configuration of PVR_assist_information for supporting trick play using a temporal id according to an embodiment of the present invention.
  • FIG. 36 illustrates a receiving apparatus according to an embodiment of the present invention.
  • FIG. 37 illustrates a comparison of a tier framework and an HEVC temporal sub-layer according to an embodiment of the present invention.
  • FIG. 38 is a diagram illustrating a configuration of PVR_assist_information according to another embodiment of the present invention.
  • 39 illustrates a trick play method using an HEVC temporal sub-layer according to an embodiment of the present invention.
  • FIG. 40 illustrates a broadcast signal transmission method according to an embodiment of the present invention.
  • 41 is a diagram illustrating a structure of a broadcast signal receiving apparatus according to an embodiment of the present invention.
  • FIG. 42 is a diagram illustrating an embodiment of a signal transmission and reception method according to the present invention.
  • FIG. 43 is a diagram illustrating a structure of a group of pictures (GOP) when encoding video data according to an embodiment of the present invention.
  • GOP group of pictures
  • 44 is a diagram illustrating an example of syntax of video data transmitted and received according to an embodiment of the present invention.
  • 45 is a diagram illustrating picture type information capable of supporting trick play of a video stream according to an embodiment of the present invention.
  • 46 is a diagram illustrating an example of an operation of a trick play according to a dependency_level field of metadata information of a GOP for trick play according to an embodiment of the present invention.
  • FIG. 47 is a diagram illustrating an example of temporal sublayer picture type information according to a temporal_sub_layer_pic_type field of metadata information of a GOP for trick play according to an embodiment of the present invention.
  • FIG. 49 illustrates an example of changing a frame rate for trick play when the type of temporal service layer picture type information (temporal_sub_layer_pic_type field) among metadata information of a GOP for trick play according to an embodiment of the present invention is STSA. Is a drawing that discloses.
  • 50 is a diagram illustrating an embodiment of a signal receiving apparatus according to the present invention.
  • 51 is a diagram illustrating an embodiment of a signal transmission apparatus according to the present invention.
  • High Efficiency Video Coding is a high-efficiency video coding standard that offers the same video quality with approximately twice the compression rate compared to traditional H.265 / AVC technology.
  • Temporal scalability refers to temporal scalability and means a method of encoding different frame frequencies at the same spatial resolution.
  • Trick play refers to a function that provides ramdom access to play a video after a certain time and provides a double speed function.
  • Open GOP refers to a structure that can be encoded by using a picture located before a corresponding GOP as a reference picture when encoding a picture in one GOP. That is, it means a GOP including a leading picture.
  • the closed GOP refers to a structure in which only a picture in a corresponding GOP is used as a reference picture when encoding a picture in one GOP. That is, unlike in Open GOP, it does not include a leading picture.
  • a leading picture is a picture in which decoding order is slower than that of IRAP in HEVC, but a reproduction order is fast.
  • Temporal id is a term introduced to support temporal scalability in HEVC, and may be signaled by nuh_temporal_id_plus1 of NAL_unit_header.
  • Tier is a term introduced to support trick play in an AVC stream or an mpeg-2 stream, and may be included in an adaptation field in a TS packet.
  • FIG. 1 is a diagram illustrating a trick play method according to an embodiment of the present invention according to a scenario.
  • a signaling method for trick play may be defined depending on whether temporal scalability of HEVC is used.
  • the video stream according to an embodiment of the present invention is a stream that does not provide temporal scalability, that is, when the video stream includes only pictures with a temporal_id of 0, the video stream does not include the leading picture, so that the CFF media Trick play can be provided by signaling dependency_level and pic_type defined in the file format.
  • the CFF media Trick play can be provided by signaling dependency_level and pic_type defined in the file format.
  • trick play may be provided by including a leading picture type in pic_type and signaling dependency_level.
  • trick play may be provided by signaling dependency_level, pic_type, and temporal_sub_layer_pic_type. More specifically, trick play may be provided by signaling a supportable speed level through temporal_id included in the stream.
  • an additional service for double speed may be provided by signaling a support speed level supported through temporal_id and additionally using pictures having a temporal_id of 0.
  • the box shown in this figure represents a picture constituting the video stream, and the T_ID described in the box may mean a temporal_id for supporting temporal scalability.
  • CFF common file format
  • the CFF box structure according to an embodiment of the present invention may include a storage box abbreviated as "hvcn" to support the HEVC-based nal unit.
  • FIG. 3 is a diagram illustrating syntax of an "hvcn" box according to an embodiment of the present invention.
  • the CFF box structure may include a nal unit storage box abbreviated as "hvcn”.
  • a nal unit storage box may be defined for each codec for trick play.
  • the HEVC trick box may be defined separately from the existing AVC trick box inside the existing "trick" box without defining a nal unit storage box for each codec for trick play. Also, AVC or HEVC trick play may be selected according to the flag of the "trick" box.
  • the HEVCConfig may include a Sequence Parameter Set (SPS) and a Picture Parameter Set (PPS) of the HEVC, and may include video information such as a VUI parameter of the SPS.
  • SPS Sequence Parameter Set
  • PPS Picture Parameter Set
  • HDR high dynamic range
  • Common_Metadata referenced in the xml box according to an embodiment of the present invention may include a HighDynamicRange element.
  • the HighDynamicRange element according to an embodiment of the present invention may have a string value according to the xml schema and one HighDynamicRange element may or may not exist.
  • the HighDynamicRange element may indicate a minimum and / or maximum brightness value (min.luminance and / or max.luminance).
  • the HighDynamicRange element may indicate a profile value divided into minimum and / or maximum brightness values.
  • the HighDynamicRange element may have a conventional capacity (min: 0.1cd / m2, max: 100cd / m2), Mid capacity (min: 0.001cd / m2, max: 1000cd / m2) or High capacity (min: 0.0001cd / m2 , max: 10000cd / m2).
  • FIG. 5 is a diagram illustrating a picture type for random access in the case of an HEVC stream according to an embodiment of the present invention.
  • This figure shows the types of pictures that can be the basis for performing random access and trick play among HEVC NAL unit types.
  • shaded picture types represent HEVC temporal sub-layer picture types that can be used for trick play when a stream with temporal IDs greater than zero is included, that is, when temporal scalability is provided. Can be.
  • the picture types indicated by the above-described shades may be used in scenarios 2 and 3 according to one embodiment of the present invention.
  • the random access point pictures may include Instantaneous Decoding Refresh (IDR), Broken Link Access (BLA) and / or Clean Random Access (CRA), and the leading picture is random access decadable leading.
  • temporal sub-layer access pictures include Temporal Sub-layer Access (TSA) and / or Step-wise Temporal Sub-layer Access (STSA) can do.
  • An Instantaneous Decoding Refresh (IDR) picture may include a case with an associated leading picture and / or a case without an associated leading picture.
  • a Broken Link Access (BLA) picture may include a case in which there is a related RADL picture but no related RASL picture, and / or a case in which there is no related leading picture.
  • a clean random access (CRA) picture may include a case having an associated leading picture.
  • Temporal Sub-layer Access (TSA) pictures may include cases that are not referenced in the same sub-layer and / or cases that are referenced in the same sub-layer.
  • Step-wise Temporal Sub-layer Access (STSA) pictures may include cases that are not referenced in the same sub-layer and / or cases that are referenced in the same sub-layer.
  • GOP is an abbreviation of Group Of Picture and represents a set of encoded pictures for enabling random access.
  • the closed GOP may mean a GOP that does not include a leading picture
  • the open GOP may mean a GOP that includes a leading picture.
  • the leading picture may represent a picture that is slower in decoding order but faster in display order than IRAP (Intra Random Access Point in HEVC).
  • one square box may represent one picture.
  • a picture may be used in the same sense as a frame and / or an image.
  • a set of pictures from I1 to P9 may represent one GOP.
  • the I picture is one of three picture formats used in the MPEG coded signal and may include all data for configuring one complete picture. That is, an I picture may not refer to another picture.
  • the P picture may include only a difference value between the prediction information and the actual information generated by observing the difference between the current picture and the previous picture in the reproduction order. That is, the P picture may refer to a picture existing before the current picture in the reproduction order.
  • the B picture may include only prediction information generated by observing a difference between a current picture, a picture existing before the current picture in the reproduction order, and a picture existing behind the current picture. That is, the B picture may refer to pictures existing before and after the current picture. Arrows shown in this figure may indicate whether reference is made between pictures. For example, a B3 picture can refer to an I1 picture and a B5 picture to make a complete picture, and a P9 picture can refer to an I1 picture.
  • numbers in boxes may indicate dependency_level of each picture.
  • the first picture may indicate a picture having dependency_level of 1
  • the second picture may indicate a picture having dependency_level of 5
  • the third picture may indicate a picture having dependency_level of 4.
  • the double speed trick play may be performed by decoding pictures having 1 to 4 as dependency_level values.
  • 4x trick play can be performed by decoding pictures having 1 to 3 as dependency_level values.
  • the 8x trick play can be performed by decoding pictures having 1 to 2 as dependency_level values.
  • the 16x trick play can be performed by decoding pictures having 1 as the dependency_level value.
  • FIG. 7 is a diagram illustrating a trick play method when an open GOP and a GOP includes a decodable leading picture according to an embodiment of the present invention. (Scenario 1-2)
  • the first drawing shows the decoding order of the pictures forming the video stream.
  • the second drawing shows the display order of the pictures making up the video stream at normal speed.
  • the third drawing shows the video stream during double speed trick play.
  • displayed pictures B0 through B6 may represent a decodable leading picture.
  • the leading picture included in the GOP is a decodable leading picture, it may be displayed from the arrow portion as shown in the second figure, and trick play may be performed as shown in the third figure.
  • B1, B3, B5, RAP, and B1 pictures may be displayed according to dependency_level of each picture as shown in the figure.
  • the decodable leading picture may include a random access decadable leading picture (RADL).
  • FIG 8 is a diagram illustrating a trick play method when an open GOP and a GOP includes a decodable leading picture and a skipped leading picture according to an embodiment of the present invention.
  • Scenario 1-2 is a diagram illustrating a trick play method when an open GOP and a GOP includes a decodable leading picture and a skipped leading picture according to an embodiment of the present invention.
  • the first drawing shows the decoding order of the pictures forming the video stream.
  • the second drawing shows the display order of the pictures making up the video stream at normal speed.
  • the third drawing shows the video stream during double speed trick play.
  • pictures B0 through B2 may represent a skipped leading picture
  • pictures B3 through B6 may represent a decodable leading picture
  • the skipped leading picture cannot be displayed, and trick play cannot be performed. Therefore, as shown in the second drawing, the picture can be displayed from the B3 picture, and as shown in the third drawing, the trick play can be performed from the B3 picture.
  • pictures B3, B5, RAP, and B1 may be displayed according to dependency_level of each picture as shown in the figure.
  • the decodable leading picture may include a random access decadable leading picture (RADL)
  • the skipped leading picture may include a random access skipped leading picture (RASL).
  • FIG. 9 is a diagram illustrating a trick play method when an open GOP and a GOP includes a skipped leading picture according to an embodiment of the present invention. (Scenario 1-2)
  • the first drawing shows the decoding order of the pictures forming the video stream.
  • the second drawing shows the display order of the pictures making up the video stream at normal speed.
  • the third drawing shows the video stream during double speed trick play.
  • pictures B0 to B6 displayed may represent a skipped leading picture.
  • the skipped leading picture cannot be displayed, and trick play cannot be performed. Accordingly, the second drawing may be displayed from the RAP, and when the double speed trick play is performed, the RAP and B1 pictures may be displayed as shown in the third drawing.
  • the skipped leading picture may include a random access skipped leading picture (RASL).
  • FIG. 10 illustrates a configuration of a trick play box for supporting trick play of an HEVC stream having max_temporal_id of 0 according to an embodiment of the present invention. (Scenario 1-2)
  • This figure shows a signaling method of a trick play box to trick play a stream having a maximum temporal_id of 0 in the stream.
  • a new box called "trikhvc" can be defined.
  • the trikhvc box according to an embodiment of the present invention may include a pic_type field and / or a dependency_level field in a for loop that is repeated by a sample_count value.
  • sample_count may mean the total number of pictures included in the stream.
  • one sample may mean one picture.
  • the pic_type field may indicate the type of picture defined in NAL_unit_type of HEVC. Some NAL_unit_type that can be used for trick play may be selected and used as pic_type according to an embodiment of the present invention.
  • the pic_type field may indicate a 4-bit value.
  • the dependency_level field may indicate the dependency level of the picture.
  • Dependency_level according to an embodiment of the present invention may be used when performing trick play.
  • the dependency_level field may be the same as the dependency_level field used in the existing trick play box of AVC. For example, performing a trick play including a sample having dependency_level of 3 may mean that only the samples corresponding to 1, 2, or 3 of dependency_level are decoded and displayed. Therefore, dependency_level may mean the level of the layer that can be discarded in performing the trick play. Even when the leading picture exists, the decodable leading picture has dependency_level, and the receiving side can decode and display only the corresponding picture while skipping the picture that is not the same as the conventional trick play method.
  • the dependency_level field may indicate a value of 6 bits.
  • FIG. 11 is a diagram illustrating a configuration of a trick play box for supporting trick play of an HEVC stream having max_temporal_id of 0 according to another embodiment of the present invention. (Scenario 1-2)
  • This figure shows a signaling method of a trick play box to trick play a stream having a maximum temporal_id of 0 in the stream.
  • trick play of the HEVC stream may be performed by using a box "trik" previously defined.
  • AVC or HEVC trick play may be selected using a flag.
  • a trik box can signal by separating a stream according to a video codec using a flag.
  • a pic_type field and / or dependency_level field may be included in a for loop repeated by a sample_count value.
  • the trik box may signal H.264 / AVC trick play, and when the flag value is 1, the trik box may signal HEVC trick play.
  • sample_count may mean the total number of pictures included in the stream.
  • one sample may mean one picture.
  • the pic_type field may indicate the type of picture defined in NAL_unit_type of HEVC. Some NAL_unit_type that can be used for trick play may be selected and used as pic_type according to an embodiment of the present invention.
  • the pic_type field may represent a 2-bit value, and when the flag value is 1, it may represent a 4-bit value.
  • the dependency_level field may indicate the dependency level of the picture.
  • Dependency_level according to an embodiment of the present invention may be used when performing trick play.
  • the dependency_level field may be the same as the dependency_level field used in the existing trick play box of AVC. For example, performing a trick play including a sample having dependency_level of 3 may mean that only the samples corresponding to 1, 2, or 3 of dependency_level are decoded and displayed. Therefore, dependency_level may mean the level of the layer that can be discarded in performing the trick play. Even when the leading picture exists, the decodable leading picture has dependency_level, and the receiving side can decode and display only the corresponding picture while skipping the picture that is not the same as the conventional trick play method.
  • the dependency_level field may indicate a value of 6 bits.
  • FIG. 12 illustrates a description of pic_type included in a trick play box for supporting trick play of an HEVC stream having max_temporal_id of 0 according to an embodiment of the present invention.
  • Pic_type may have a value of 0 to 15.
  • pic_type When pic_type is 0, pic_type may indicate an IDR picture that does not have an associated leading picture.
  • nal_unit_type may indicate IDR_N_LP.
  • pic_type When pic_type is 1, pic_type may indicate an IDR picture having an associated decodable leading picture.
  • nal_unit_type may indicate IDR_W_RADL.
  • pic_type When pic_type is 2, pic_type may indicate a BLA picture having an associated leading picture.
  • nal_unit_type may indicate BLA_N_LP.
  • pic_type When pic_type is 3, pic_type may indicate a BLA picture having an associated RADL picture but not having an associated RASL picture. In this case, nal_unit_type may indicate BLA_W_RADL.
  • pic_type may indicate a BLA picture having an associated RADL picture and a RASL picture.
  • nal_unit_type may indicate BLA_W_LP.
  • pic_type When pic_type is 5, pic_type may indicate a CRA picture having an associated leading picture. In this case, nal_unit_type may indicate CRA_NUT.
  • pic_type When pic_type is 7, pic_type may indicate a RADL (Random Access Decodable Leading Picture) picture.
  • nal_unit_type may indicate RADL_N or RADL_R.
  • pic_type When pic_type is 8, pic_type may indicate a RASL (Random Access Skipped Leading Picture) picture.
  • nal_unit_type may indicate RASL_N or RASL_R.
  • pic_type may indicate an unspecified I picture.
  • pic_type 10 may correspond to an unknown value.
  • pic_type 11 to 15 may correspond to a reserved value.
  • FIG. 13 is a diagram illustrating a configuration of a trick play box for supporting trick play of an HEVC stream having max_temporal_id equal to 0 when pic_type does not include content related to a leading picture according to an embodiment of the present invention.
  • Scenario 1-1
  • This figure shows a signaling method of a trick play box to trick play a stream having a maximum temporal_id of 0 in the stream.
  • a new box called "trikhvc" can be defined.
  • the trikhvc box according to an embodiment of the present invention may include a pic_type field and / or a dependency_level field in a for loop that is repeated by a sample_count value.
  • sample_count may mean the total number of pictures included in the stream.
  • one sample may mean one picture.
  • the pic_type field may indicate the type of picture defined in NAL_unit_type of HEVC. Some NAL_unit_type that can be used for trick play may be selected and used as pic_type according to an embodiment of the present invention.
  • the pic_type field may indicate a value of 3 bits.
  • the dependency_level field may indicate the dependency level of the picture.
  • Dependency_level according to an embodiment of the present invention may be used when performing trick play.
  • the dependency_level field may be the same as the dependency_level field used in the existing trick play box of AVC. For example, performing a trick play including a sample having dependency_level of 3 may mean that only the samples corresponding to 1, 2, or 3 of dependency_level are decoded and displayed. Therefore, dependency_level may mean the level of the layer that can be discarded in performing the trick play. Even when the leading picture exists, the decodable leading picture has dependency_level, and the receiving side can decode and display only the corresponding picture while skipping the picture that is not the same as the conventional trick play method.
  • the dependency_level field may indicate a 5-bit value.
  • FIG. 14 is a diagram illustrating a trick play box for supporting trick play of an HEVC stream having max_temporal_id of 0 when pic_type does not include content related to a leading picture according to another embodiment of the present invention. (Scenario 1-1)
  • This figure shows a signaling method of a trick play box to trick play a stream having a maximum temporal_id of 0 in the stream.
  • trick play of the HEVC stream may be performed by using a box "trik" previously defined.
  • AVC or HEVC trick play may be selected using a flag.
  • a trik box may include a pic_type field and / or a dependency_level field in a for loop that is repeated by falg and sample_count.
  • the trik box may signal H.264 / AVC trick play, and when the flag value is 1, the trik box may signal HEVC trick play.
  • sample_count may mean the total number of pictures included in the stream.
  • one sample may mean one picture.
  • the pic_type field may indicate the type of picture defined in NAL_unit_type of HEVC. Some NAL_unit_type that can be used for trick play may be selected and used as pic_type according to an embodiment of the present invention.
  • the pic_type field may represent a 2-bit value, and when the flag value is 1, it may represent a 3-bit value.
  • the dependency_level field may indicate the dependency level of the picture.
  • Dependency_level may be used when performing trick play.
  • the dependency_level field may be the same as the dependency_level field used in the existing trick play box of AVC. For example, performing a trick play including a sample having dependency_level of 3 may mean that only the samples corresponding to 1, 2, or 3 of dependency_level are decoded and displayed. Therefore, dependency_level may mean the level of the layer that can be discarded in performing the trick play. Even when the leading picture exists, the decodable leading picture has dependency_level, and the receiving side can decode and display only the corresponding picture while skipping the picture that is not the same as the conventional trick play method.
  • the dependency_level field may represent a 6-bit value, and when the flag value is 1, it may represent a 5-bit value.
  • the pic_type when performing the trick play, if the constraint that the leading picture is not displayed, the pic_type may be configured as follows. If pic_type is 0, pic_type can indicate that the sample is an unknown sample. If pic_type is 1, pic_type can indicate that the sample is an IDR sample. If pic_type is 2, pic_type indicates that the sample is a CRA sample. If pic_type is 3, pic_type may indicate that the sample is a BLA sample, and if pic_type is 4, pic_type may indicate that the sample is an unconstrained I sample. In this case, the number of bits allocated to the pic_type and / or dependency_level fields for the HEVC stream may be reduced. Here, the sample may represent the same meaning as the picture.
  • FIG. 15 is a diagram illustrating the configuration of an HEVC stream supporting temporal scalability according to an embodiment of the present invention.
  • a square box may indicate a picture included in a stream, and T_ID may indicate a temporal id.
  • FIG. 16 illustrates a configuration of a trick play box for supporting trick play by limiting a maximum speed in an HEVC stream supporting temporal scalability according to an embodiment of the present invention.
  • scenario 2 the scenario 2
  • This figure illustrates a method of signaling so that max_temporal_id is greater than 0, that is, the maximum support speed can be limited to support trick play in an HEVC stream supporting temporal scalability. For example, when the maximum temporal_id is 2, only up to 4 times the speed may be provided.
  • a new box called "trikhvc" can be defined.
  • the trikhvc box may include a pic_type field, a temporal_sub_layer_pic_type field, a max_temporal_id field, a temporal_id field, a constraint_trick_play_mode field and / or a next_temporal_id field in a for loop repeated by a sample_count value.
  • sample_count may mean the total number of pictures included in the stream.
  • one sample may mean one picture.
  • the pic_type field may indicate the type of picture defined in NAL_unit_type of HEVC. Some NAL_unit_type that can be used for trick play may be selected and used as pic_type according to an embodiment of the present invention.
  • the pic_type field may indicate a 4-bit value.
  • the temporal_sub_layer_pic_type field may indicate whether a corresponding picture is a Temporal Sub-layer Access (TSA) picture or a Step-wise Temporal Sub-layer Access (STSA) picture.
  • TSA Temporal Sub-layer Access
  • STSA Step-wise Temporal Sub-layer Access
  • temporal_sub_layer_pic_type may indicate that the picture is a TSA picture
  • temporal_sub_layer_pic_type may indicate that the picture is an STSA picture
  • temporal_sub_layer_pic_type_pic_type is 3 .
  • HEVC can distinguish temporal_sub_layer_access_picture to provide temporal scalability and to adaptively change frame rate.
  • HEVC can dynamically change the frame rate based on the TSA picture and the STSA picture in a layer where temporal_id is not zero.
  • TSA and STSA can differ in how and how they can change the fram rate. That is, there may be a difference in how many temporal_ids the TSA and the STSA can skip at a time. For example, if temporal_id is 0, the frame rate is 15p, if temporal_id is 1, the frame rate is 30p, and if temporal_id is 2 (max_temporal_id) If the frame rate is 60p, the TSA is temporal_id in the layer where temporal_id is 0.
  • the broadcasting system can change from providing a service with a frame rate of 15p to providing a service with a 60p.
  • the layer with temporal_id of 0 can be accessed from the layer with temporal_id of 1 and then with the layer with temporal_id of 2. Accordingly, in this case, the broadcast system may gradually provide a service having a frame rate of 15p, and then provide a service having a 30p and finally a service having a 60p.
  • the max_temporal_id field may indicate a maximum temporal_id value included in a stream.
  • the temporal_id field may indicate a temporal id value calculated using the nuh_temporal_id_plus1 value of HEVC.
  • the value of the temporal_id field may represent a value obtained by subtracting 1 from the nuh_temporal_id_plus1 value.
  • the constraint_trick_play_mode field may indicate double speed information that can be provided at maximum.
  • the present invention may set a limit to assign max_trick_play_mode to a value smaller than the value calculated through the above-described equation. For example, if the value of max_trick_play_mode is 1, 2x, 4x, 3x, 8x, and 16x.
  • constraint_trick_play_mode may have the same meaning as max_trick_play_mode.
  • a faster speed than max_trick_play_mode may not be supported, and a same speed number as max_trick_play_mode may be supported.
  • an embodiment of the present invention may signal a constraint to assign a value smaller than the calculated max_trick_play_mode value.
  • next_temporal_id field may indicate a movable temporal_id to inform the maximum changeable frame rate according to the temporal_sub_layer_pic_type. For example, in a stream with max_temporal_id of 2, if you want to provide trick play at 4x that displays only pictures with temporal_id 0, and then return to normal speed (1x), next_temporal_id can have a max_temporal_id value if temporal_sub_layer_pic_type is TSA. have. On the other hand, in STSA, next_temporal_id may have a value obtained by adding 1 to the temporal_id value.
  • FIG. 17 is a diagram showing the configuration of a trick play box for supporting trick play by limiting a maximum speed in an HEVC stream supporting temporal scalability according to another embodiment of the present invention. (Scenario 2)
  • This figure illustrates a method of signaling so that max_temporal_id is greater than 0, that is, the maximum support speed can be limited to support trick play in an HEVC stream supporting temporal scalability. For example, when the maximum temporal_id is 2, only up to 4 times the speed may be provided.
  • trick play of the HEVC stream may be performed by using a box "trik" previously defined.
  • AVC or HEVC trick play may be selected using a flag.
  • the trik box may include a pic_type field, dependency_level field, temporal_sub_layer_pic_type field, max_temporal_id field, temporal_id field, constraint_trick_play_mode field, and / or next_temporal_id field in a for loop repeated by a flag and sample_count value.
  • sample_count may mean the total number of pictures included in the stream.
  • one sample may mean one picture.
  • the pic_type field may indicate the type of picture defined in NAL_unit_type of HEVC. Some NAL_unit_type that can be used for trick play may be selected and used as pic_type according to an embodiment of the present invention.
  • the pic_type field may represent a 2-bit value, and when the flag value is 1, it may represent a 4-bit value.
  • the dependency_level field may indicate the dependency level of the picture.
  • Dependency_level according to an embodiment of the present invention may be used when performing trick play.
  • the dependency_level field may be the same as the dependency_level field used in the existing trick play box of AVC. For example, performing a trick play including a sample having dependency_level of 3 may mean that only the samples corresponding to 1, 2, or 3 of dependency_level are decoded and displayed. Therefore, dependency_level may mean the level of the layer that can be discarded in performing the trick play. Even when the leading picture exists, the decodable leading picture has dependency_level, and the receiving side can decode and display only the corresponding picture while skipping the picture that is not the same as the conventional trick play method.
  • the dependency_level field may indicate a value of 6 bits.
  • the temporal_sub_layer_pic_type field may indicate whether a corresponding picture is a Temporal Sub-layer Access (TSA) picture or a Step-wise Temporal Sub-layer Access (STSA) picture.
  • TSA Temporal Sub-layer Access
  • STSA Step-wise Temporal Sub-layer Access
  • temporal_sub_layer_pic_type may indicate that the picture is a TSA picture
  • temporal_sub_layer_pic_type may indicate that the picture is an STSA picture
  • temporal_sub_layer_pic_type_pic_type is 3 .
  • HEVC can distinguish temporal_sub_layer_access_picture to provide temporal scalability and to adaptively change frame rate.
  • HEVC can dynamically change the frame rate based on the TSA picture and the STSA picture in a layer where temporal_id is not zero.
  • TSA and STSA can differ in how and how they can change the fram rate. That is, there may be a difference in how many tempora_ids can be skipped at a time between the TSA and the STSA. For example, if temporal_id is 0, the frame rate is 15p, if temporal_id is 1, the frame rate is 30p, and if temporal_id is 2 (max_temporal_id) If the frame rate is 60p, the TSA is temporal_id in the layer where temporal_id is 0.
  • the broadcasting system can change from providing a service with a frame rate of 15p to providing a service with a 60p.
  • the layer with temporal_id of 0 can be accessed from the layer with temporal_id of 1 and then with the layer with temporal_id of 2. Accordingly, in this case, the broadcast system may gradually provide a service having a frame rate of 15p, and then provide a service having a 30p and finally a service having a 60p.
  • the max_temporal_id field may indicate a maximum temporal_id value included in a stream.
  • the temporal_id field may indicate a temporal id value calculated using the nuh_temporal_id_plus1 value of HEVC.
  • the value of the temporal_id field may represent a value obtained by subtracting 1 from the nuh_temporal_id_plus1 value.
  • the constraint_trick_play_mode field may indicate double speed information that can be provided at maximum.
  • the present invention may set a limit to assign max_trick_play_mode to a value smaller than the value calculated through the above-described equation. For example, if the value of max_trick_play_mode is 1, 2x, 4x, 3x, 8x, and 16x.
  • constraint_trick_play_mode may have the same meaning as max_trick_play_mode.
  • next_temporal_id field may indicate a movable temporal_id to inform the maximum changeable frame rate according to the temporal_sub_layer_pic_type. For example, in a stream with max_temporal_id of 2, if you want to provide trick play at 4x that displays only pictures with temporal_id 0, and then return to normal speed (1x), next_temporal_id can have a max_temporal_id value if temporal_sub_layer_pic_type is TSA. have. On the other hand, in STSA, next_temporal_id may have a value obtained by adding 1 to the temporal_id value.
  • FIG. 18 is a diagram illustrating a method of changing a frame rate when the temporal sub-layer picture type is TSA according to an embodiment of the present invention.
  • the receiver displays only the stream of the layer having temporal_id of 0, that is, performs trick play at 4x speed and then displays it at 1x speed (normal speed). Can be.
  • the receiver may decode and display a picture having a temporal_id of 0 and then decode and display a picture having a temporal_id of 2.
  • FIG. 19 is a diagram illustrating a method of changing a frame rate when the temporal sub-layer picture type is STSA according to an embodiment of the present invention. (Scenario 3)
  • the receiving side displays only the stream of the layer having temporal_id of 0, that is, performs trick play at 4x speed and then directly displays at 1x speed (normal speed). It is not possible to display at 1x speed after going through 2x display process in the middle. Therefore, when the temporal sub-layer picture type according to an embodiment of the present invention is STSA, a method for informing a limitation on a double speed that can be converted may be needed. In other words, it may be necessary to signal the next_temporal_id.
  • the receiving side decodes and displays the picture with temporal_id of 0 and then decodes and displays the picture with temporal_id of 2.
  • the receiving side decodes and displays the picture with temporal_id of 1 and then decodes and displays the picture with temporal_id of 2.
  • a picture having a temporal_id of 2 may be decoded and displayed.
  • FIG. 20 is a diagram illustrating the configuration of a trick play box for supporting trick play at high speed in an HEVC stream supporting temporal scalability according to an embodiment of the present invention. (Scenario 3)
  • a new box called "trikhvc" can be defined.
  • a trikhvc box according to an embodiment of the present invention may include a pic_type field, a temporal_sub_layer_pic_type field, a max_temporal_id field, a temporal_id field, a next_temporal_id field, and / or a dependency_level field in a for loop repeated by a sample_count value.
  • sample_count may mean the total number of pictures included in the stream.
  • one sample may mean one picture.
  • the pic_type field may indicate the type of picture defined in NAL_unit_type of HEVC. Some NAL_unit_type that can be used for trick play may be selected and used as pic_type according to an embodiment of the present invention.
  • the pic_type field may indicate a 4-bit value.
  • the temporal_sub_layer_pic_type field may indicate whether a corresponding picture is a Temporal Sub-layer Access (TSA) picture or a Step-wise Temporal Sub-layer Access (STSA) picture.
  • TSA Temporal Sub-layer Access
  • STSA Step-wise Temporal Sub-layer Access
  • temporal_sub_layer_pic_type may indicate that the picture is a TSA picture
  • temporal_sub_layer_pic_type may indicate that the picture is an STSA picture
  • temporal_sub_layer_pic_type_pic_type is 3 .
  • HEVC can distinguish temporal_sub_layer_access_picture to provide temporal scalability and to adaptively change frame rate.
  • HEVC can dynamically change the frame rate based on the TSA picture and the STSA picture in a layer where temporal_id is not zero.
  • TSA and STSA can differ in how and how they can change the fram rate. That is, there may be a difference in how many tempora_ids can be skipped at a time between the TSA and the STSA. For example, if temporal_id is 0, the frame rate is 15p, if temporal_id is 1, the frame rate is 30p, and if temporal_id is 2 (max_temporal_id) If the frame rate is 60p, the TSA is temporal_id in the layer where temporal_id is 0.
  • the broadcasting system can change from providing a service with a frame rate of 15p to providing a service with a 60p.
  • the layer with temporal_id of 0 can be accessed from the layer with temporal_id of 1 and then with the layer with temporal_id of 2. Accordingly, in this case, the broadcast system may gradually provide a service having a frame rate of 15p, and then provide a service having a 30p and finally a service having a 60p.
  • the max_temporal_id field may indicate a maximum temporal_id value included in a stream.
  • the temporal_id field may indicate a temporal id value calculated using the nuh_temporal_id_plus1 value of HEVC.
  • the value of the temporal_id field may represent a value obtained by subtracting 1 from the nuh_temporal_id_plus1 value.
  • next_temporal_id field may indicate a movable temporal_id to inform the maximum changeable frame rate according to the temporal_sub_layer_pic_type. For example, in a stream with max_temporal_id of 2, if you want to provide trick play at 4x that displays only pictures with temporal_id 0, and then return to normal speed (1x), next_temporal_id can have a max_temporal_id value if temporal_sub_layer_pic_type is TSA. have. On the other hand, in STSA, next_temporal_id may have a value obtained by adding 1 to the temporal_id value.
  • the dependency_level field may indicate the dependency level of the picture.
  • Dependency_level according to an embodiment of the present invention may be used when performing trick play.
  • the dependency_level field may be the same as the dependency_level field used in the existing trick play box of AVC. For example, performing a trick play including a sample having dependency_level of 3 may mean that only the samples corresponding to 1, 2, or 3 of dependency_level are decoded and displayed. Therefore, dependency_level may mean the level of the layer that can be discarded in performing the trick play. Even when the leading picture exists, the decodable leading picture has dependency_level, and the receiving side can decode and display only the corresponding picture while skipping the picture that is not the same as the conventional trick play method.
  • the dependency_level field may indicate a value of 6 bits.
  • the trick play box shown in this figure may include a max_trick_play_mode field indicating the maximum double speed that can be supported in trick play.
  • the receiving side may decode only pictures having temporal_id of 0 and 1 in order to provide a double speed trick play service.
  • the receiver may decode and display only pictures having a temporal_id of 0 in order to provide a 4x trick play service.
  • the receiver classifies pictures according to dependency_level among pictures having a temporal_id of 0 and decodes and displays only pictures having a corresponding dependency_level to play a trick play service with a higher speed than 4 times. Can provide.
  • FIG. 21 is a diagram showing the configuration of a trick play box for supporting trick play at high speed in an HEVC stream supporting temporal scalability according to another embodiment of the present invention.
  • trick play of the HEVC stream may be performed by using a box "trik" previously defined.
  • AVC or HEVC trick play may be selected using a flag.
  • a trik box may include a pic_type field, a dependency_level field, a temporal_sub_layer_pic_type field, a max_temporal_id field, a temporal_id field, and / or a next_temporal_id field in a for loop repeated by a flag and a sample_count value.
  • sample_count may mean the total number of pictures included in the stream.
  • one sample may mean one picture.
  • the pic_type field may indicate the type of picture defined in NAL_unit_type of HEVC. Some NAL_unit_type that can be used for trick play may be selected and used as pic_type according to an embodiment of the present invention.
  • the pic_type field may represent a 2-bit value, and when the flag value is 1, it may represent a 4-bit value.
  • the dependency_level field may indicate the dependency level of the picture.
  • Dependency_level according to an embodiment of the present invention may be used when performing trick play.
  • the dependency_level field may be the same as the dependency_level field used in the existing trick play box of AVC. For example, performing a trick play including a sample having dependency_level of 3 may mean that only the samples corresponding to 1, 2, or 3 of dependency_level are decoded and displayed. Therefore, dependency_level may mean the level of the layer that can be discarded in performing the trick play. Even when the leading picture exists, the decodable leading picture has dependency_level, and the receiving side can decode and display only the corresponding picture while skipping the picture that is not the same as the conventional trick play method.
  • the dependency_level field may indicate a value of 6 bits.
  • the temporal_sub_layer_pic_type field may indicate whether a corresponding picture is a Temporal Sub-layer Access (TSA) picture or a Step-wise Temporal Sub-layer Access (STSA) picture.
  • TSA Temporal Sub-layer Access
  • STSA Step-wise Temporal Sub-layer Access
  • temporal_sub_layer_pic_type may indicate that the picture is a TSA picture
  • temporal_sub_layer_pic_type may indicate that the picture is an STSA picture
  • temporal_sub_layer_pic_type_pic_type is 3 .
  • HEVC can distinguish temporal_sub_layer_access_picture to provide temporal scalability and to adaptively change frame rate.
  • HEVC can dynamically change the frame rate based on the TSA picture and the STSA picture in a layer where temporal_id is not zero.
  • TSA and STSA can differ in how and how they can change the fram rate. That is, there may be a difference in how many tempora_ids can be skipped at a time between the TSA and the STSA. For example, if temporal_id is 0, the frame rate is 15p, if temporal_id is 1, the frame rate is 30p, and if temporal_id is 2 (max_temporal_id) If the frame rate is 60p, the TSA is temporal_id in the layer where temporal_id is 0.
  • the broadcasting system can change from providing a service with a frame rate of 15p to providing a service with a 60p.
  • the layer with temporal_id of 0 can be accessed from the layer with temporal_id of 1 and then with the layer with temporal_id of 2. Accordingly, in this case, the broadcast system may gradually provide a service having a frame rate of 15p, and then provide a service having a 30p and finally a service having a 60p.
  • the max_temporal_id field may indicate a maximum temporal_id value included in a stream.
  • the temporal_id field may indicate a temporal id value calculated using the nuh_temporal_id_plus1 value of HEVC.
  • the value of the temporal_id field may represent a value obtained by subtracting 1 from the nuh_temporal_id_plus1 value.
  • next_temporal_id field may indicate a movable temporal_id to inform the maximum changeable frame rate according to the temporal_sub_layer_pic_type. For example, in a stream with max_temporal_id of 2, if you want to provide trick play at 4x that displays only pictures with temporal_id 0, and then return to normal speed (1x), next_temporal_id can have a max_temporal_id value if temporal_sub_layer_pic_type is TSA. have. On the other hand, in STSA, next_temporal_id may have a value obtained by adding 1 to the temporal_id value.
  • the trick play box shown in this figure may include a max_trick_play_mode field indicating the maximum double speed that can be supported in trick play.
  • the receiving side may decode only pictures having temporal_id of 0 and 1 in order to provide a double speed trick play service.
  • the receiver may decode and display only pictures having a temporal_id of 0 in order to provide a 4x trick play service.
  • the receiver classifies pictures according to dependency_level among pictures having a temporal_id of 0 and decodes and displays only pictures having a corresponding dependency_level to play a trick play service with a higher speed than 4 times. Can provide.
  • FIG. 22 is a diagram illustrating a trick play method using a combination of a temporal id and a tier according to an embodiment of the present invention.
  • the tier value may be assigned only to a picture having a temporal id of zero.
  • the receiver according to an embodiment of the present invention can perform trick play at normal speed by decoding and displaying pictures having a temporal id of 0, 1, 2 or 3, and having a temporal id of 0.
  • the present invention can perform trick play faster than 8x speed by assigning different tier values to pictures having a temporal id of zero.
  • the following method may be used to provide a trick play.
  • Trick play can be provided by mapping tier and temporal id to use the PVR_assist_info descriptor.
  • Trick play can be provided by including a trick play using a temporal id in the PVR_assist_info descriptor.
  • Trick play can be provided by parsing nuh_temporal_id_plus1 information of NAL_unit_header and selecting only packets necessary for actual trick play.
  • scenario C is
  • the temporal sub-layer or temporal id is a term introduced to support temporal scalability in HEVC and may be signaled by nuh_temporal_id_plus1 of NAL_unit_header.
  • a tier according to an embodiment of the present invention is a term introduced to support trick play in an AVC stream or an mpeg-2 stream, and may be included in an adaptation field in a TS packet.
  • FIG. 23 is a diagram illustrating a trick play method according to a conventional tier concept according to an embodiment of the present invention.
  • An existing tier according to an embodiment of the present invention may indicate dependency between layers.
  • pictures with a temporal id of 3 may have a value of tier 6
  • pictures with a temporal id of 2 may have a value of tier of 4, and pictures having a temporal id of 1 have a value of tier.
  • pictures with a temporal id of 0 an I picture may have 1 as a tier value, and a P picture may have 2 as a tier value. That is, pictures having a temporal id of 0 may have the same temporal id but different tier values.
  • pictures having max_temporal_id that is, highest dependency_level, may have 6 or 7 as a tier value.
  • pictures having other temporal_ids may have 1 to 5 as tier values.
  • pictures corresponding to a layer having a temporal_id of 0 may have a value of 1 or 2 as a tier value according to the type of the picture.
  • FIG. 24 is a diagram illustrating a trick play method according to a method of mapping one temporal id to one tier 1: 1 according to an embodiment of the present invention.
  • a method of mapping a temporal id and a tier may be used to provide a trick play based on a HEVC stream including a temporal id but not tier information.
  • a method of mapping one temporal id to one tier 1: 1 may be used, and (scenario Aa) to map one temporal id to several tiers.
  • the method can be used.
  • the value of the temporal id may be mapped 1: 1 to the tier regardless of the meaning of the existing tier.
  • the value of temporal id is mapped to tier 1: 1, but tier 6,7 is the maximum temporal by maintaining the meaning of the existing tier of discardable picture. id can be mapped to tier 6 or 7.
  • the PVR_assist_tier_m_cumulative_frames field included in the PVR_assist_info descriptor may transmit a value of the minimum number of extractable frames per 1.28 seconds from tier 1 through the PVR_assist_tier_m field (This field conveys the value of the intended minimum number of extractable frames per 1.28 sec). from tier 1 through "PVR_assist_teir_m").
  • This figure illustrates a trick play method according to scenario A-a which is an embodiment of the present invention.
  • pictures with a temporal id of 3 may be mapped to tier 4
  • pictures with a temporal id of 2 may be mapped to tier 3
  • pictures with a temporal id of 1 may be mapped to tier 2.
  • the pictures with a temporal id of 0 may be mapped to tier 1.
  • Scenario A which is an embodiment of the present invention, cannot provide trick play at 8x speed or more.
  • FIG. 25 is a diagram illustrating a trick play method according to a method of mapping one temporal id to one tier 1: 1 according to another embodiment of the present invention. (Scenario A-a)
  • the temporal id value is mapped to tier 1: 1 differently from the previous drawing, but tier 6 and 7 retain the meaning of the existing tier of discardable picture, so that the maximum temporal id is mapped to tier 6 or 7. You can.
  • pictures with a temporal id of 3 may be mapped to tier 6
  • pictures with a temporal id of 2 may be mapped to tier 3
  • pictures with a temporal id of 1 may be mapped to tier 2.
  • the pictures with a temporal id of 0 may be mapped to tier 1.
  • This drawing differs from the previous drawing in that the pictures corresponding to temporal id 3, the maximum temporal id, may be mapped to tier 6.
  • FIG. 26 is a diagram illustrating a result of mapping one temporal id to one tier 1: 1 according to an embodiment of the present invention.
  • the figure shows the result of mapping the value of the temporal id to the tier 1: 1 as it is regardless of the meaning of the existing tier.
  • the nuh_temporal_id plus1 field shown in this figure is a field included in NAL_unit_header and may indicate a value obtained by adding 1 to a temporal id. For example, if the nuh_temporal_id plus1 field value is 1, the temporal id may be 0. Thus, as shown in this figure, pictures having a temporal id of 0 may be mapped to tier 1, pictures having a temporal id of 1 may be mapped to tier 2, and pictures having a temporal id of 2 may be mapped to tier 3 Pictures having a temporal id of 3 may be mapped to tier 4.
  • the new tier mapped with the temporal id may be different from the meaning of the tier previously used.
  • tier 6 and 7 meant discardable pictures
  • tier 7 meant pictures not used as a reference.
  • the newly defined tier through mapping may not have the meaning of the existing tier 6 and 7.
  • the temporal sub-layer and the tier may be mapped to have the same number, and the mapping information described above may be used to perform the trick play.
  • FIG. 27 is a diagram illustrating a result of mapping one temporal id to one tier 1: 1 according to another embodiment of the present invention.
  • a value of a temporal id is mapped to a tier 1: 1, but tier 6 and 7 maintain the meaning of the existing tier of discardable picture.
  • the nuh_temporal_id plus1 field shown in this figure is a field included in NAL_unit_header and may indicate a value obtained by adding 1 to a temporal id. For example, if the nuh_temporal_id plus1 field value is 1, the temporal id may be 0. Thus, as shown in this figure, pictures having a temporal id of 0 may be mapped to tier 1, pictures having a temporal id of 1 may be mapped to tier 2, and pictures having a temporal id of 2 may be mapped to tier 3 Pictures with a temporal id of 3 may be mapped to tier 6.
  • the new tier mapped with the temporal id may have the same meaning as the tier previously used.
  • Tiers 6 and 7 may refer to discardable pictures
  • tier 6 may refer to pictures used as a reference
  • tier 7 may refer to pictures not used as a reference. Accordingly, as described above, pictures having nuh_temporal_id plus1 of 4 may be mapped to tier 6.
  • pictures not used as a reference it may be mapped to tier 7.
  • FIG. 28 is a diagram illustrating a trick play method according to a method of mapping one temporal id to several tiers according to an embodiment of the present invention.
  • pictures with a temporal id of 1, which is a maximum temporal id may be mapped to tier 4 or 6, and the remaining five pictures with a temporal id of 0 may be mapped to tier 0 to 3.
  • the new tier mapped with the temporal id may be different from the meaning of the tier previously used.
  • tier 6 and 7 meant discardable pictures
  • tier 7 meant pictures not used as a reference.
  • the newly defined tier through mapping may not have the meaning of the existing tier 6 and 7.
  • pictures with a temporal id of 1 may be mapped to tier 4. (28010)
  • a new tier mapped with a temporal id may have the same meaning as a tier previously used.
  • Tiers 6 and 7 may refer to discardable pictures
  • tier 6 may refer to pictures used as a reference
  • tier 7 may refer to pictures not used as a reference.
  • pictures with a temporal id of 1 may be mapped to tier 6. (28020)
  • FIG. 29 illustrates a configuration of an adaptation field of a TS packet including information for mapping a temporal id and a tier according to an embodiment of the present invention.
  • An embodiment of the present invention may provide a descriptor that maps values of tier and nuh_temporal_id_plus1 to speed information for trick play.
  • HEVC_temporal_id_tier_mapping_info which is information for trick play of the HEVC stream including the temporal id, may also be included in the above-described adaptation field.
  • This figure illustrates the configuration of a data field included in an adaptation field of a TS packet.
  • data_field_tag is 0x00
  • this data field may be reserved. If 0x01, this data field may indicate Announcement switching data field. If 0x02, this may indicate data field for AU_information, and 0x03. In this case, it may represent a data field for PVR_assist_information, 0x04 may indicate a data field indicating a TSAP time line, and 0x05 may indicate a data field for HEVC_temporal_id_tier_mapping_info.
  • An embodiment of the present invention may map a tier value to a temporal id using the HEVC_temporal_id_tier_mapping_info descriptor and provide trick play based on the tier using the PVR_assist_information descriptor.
  • FIG. 30 is a diagram illustrating a configuration of HEVC_temporal_id_tier_mapping_info according to an embodiment of the present invention.
  • the HEVC_temporal_id_tier_mapping_info may include an included_temporal_id_flag field, a temporal_sub_layer_dependency_flag field, a max_temporal_id_plus1 field, a temporal_id_plus1 field, a curr_tier_num field, and / or a trick_play_speed field.
  • the included_temporal_id_flag field may signal whether or not encoding is performed using a temporal id.
  • the temporal_sub_layer_dependency_flag field may indicate whether there is a dependency between temporal sub-layers. That is, the temporal_sub_layer_dependency_flag field has 1 when the lower temporal sub-layer picture does not refer to the upper temporal sub-layer picture.
  • the max_temporal_id_plus1 field may indicate a maximum temporal id value, and a value indicated by the max_temporal_id_plus1 field is a value obtained by adding 1 to the temporal id.
  • the temporal_id_plus1 field may have the same value as that indicated by nuh_temporal_id_plus1 included in the NAL unit header.
  • the curr_tier_num field may indicate a tier value mapped to temporal_id_plus1.
  • the trick_play_speed field may indicate the maximum trick play speed that can be provided according to the temporal id value.
  • the if (max_temporal_id_plus1> 1) conditional statement may indicate a case where max_temporal_id_plus1 is greater than one. That is, the temporal scalability may indicate that the stream is used, and in this case, since the trick play may be provided using the temporal id, an embodiment of the present invention may map a temporal id to a tier to use the existing PVR_assist_information. have.
  • the temporal_id_plus1 field may be located in the for loop at the same level as the curr_tier_num field and the trick_play_speed field, and the tier number and the speed for trick play according to each temporal_id may be signaled.
  • a look up table may be generated using the descriptor including the above-described HEVC_temporal_id_tier_mapping_info, and tier related information of PVR_assist_information may be interpreted and used as temporal_id using the above look up table.
  • the for loop may be deleted from the above-described HEVC_temporal_id_tier_mapping_info, and the curr_tier_num field and the trick_play_speed field may be located at the level where the temporal_id_plus1 field is located.
  • the descriptor including the aforementioned HEVC_temporal_id_tier_mapping_info may be signaled for each picture.
  • FIG. 31 is a diagram illustrating a configuration of a trick_play_speed field included in HEVC_temporal_id_tier_mapping_info according to an embodiment of the present invention.
  • the speed of trick play that can be provided may be 1x. If the trick_play_speed field is 0, the speed of trick play that can be provided may be 2x. 4 times, 3 times the speed of the available trick play can be 8 times, 4 times the speed of the available trick play can be 16 times, 5 times the speed of the provided trick play can be 32 times If 6, the speed of the trick play that can be provided may be 64 times.
  • FIG. 32 is a diagram illustrating a configuration of PVR_assist_information according to an embodiment of the present invention.
  • PVR_assist_information in accordance with one embodiment of the present invention data_field_tag field, data_field_length field, PVR_assist_tier_pic_num field, PVR_assist_block_trick_mode_present_flag field, PVR_assist_pic_struct_present_flag field, PVR_assist_tier_next_pic_in_tier_present_flag field, PVR_assist_substream_info_present_flag field, PVR_assist_extension_present_flag field, PVR_assist_segmentation_info_present_flag field, PVR_assist_tier_m_cumulative_frames_present_flag field, PVR_assist_tier_n_mmco_present_flag field, PVR_assist_reserved_0 field, PVR_assist_seg_id field, PVR_assist_prg_id Field, PVR_
  • the data_field_tag field may represent that the corresponding data field is PVR_assist_information.
  • the data_field_tag field may have 0x03.
  • the data_field_length field may indicate the length of the PVR_assist_information excluding the data_field_tag field and the data_field_length field.
  • the PVR_assist_tier_pic_num field may indicate a tier number of a picture related to PVR_assist_information.
  • the minimum tier number may be zero and the maximum tier number may be seven. Tier number 0 can be reserved for future use.
  • the tier number of the HEVC RAP picture may be 0, and the tier number of all pictures other than the HEVC RAP picture may be a value obtained by adding 1 to the temporal id.
  • this field may indicate the tier number of pictures included in the video stream, and may be called tier number information.
  • the tier number may be used for signaling the temporal sublayer.
  • PVR_assist_tier_pic_num may be named tier number information.
  • the PVR_assist_block_trick_mode_present_flag field may have a value of 1 in a non-RAP picture when the value of this field is 1 in a previous RAP picture.
  • the PVR_assist_pic_struct_present_flag field may have a value of 1 when the video stream is an AVC or HEVC stream and the PVR_assist_pict_struct field is present.
  • the PVR_assist_tier_next_pic_in_tier_present_flag field may have a value of 1 when the PVR_assist_tier_next_pic_in_tier field exists.
  • the PVR_assist_substream_info_present_flag field may have a value of 1 when the PVR_assist_substream_info field exists.
  • the PVR_assist_extension_present_flag field may have a value of 1 in any one of a PVR_assist_segmentation_info_present_flag field, PVR_assist_tier_m_cumulative_frames_present_flag field, PVR_assist_tier_n_mmco_present_flag field, and PVR_assist_temporal_id_info_present_present_flag field.
  • the PVR_assist_segmentation_info_present_flag field may have a value of 1 when the PVR_assist_segmentation_info field exists.
  • the PVR_assist_tier_m_cumulative_frames_present_flag field may have a value of 1 when the PVR_assist_tier_m field and the PVR_assist_tier_m_cumulative_frames field exist. In the case of HEVC, this field may be recommended to have a value of zero.
  • the PVR_assist_tier_n_mmco_present_flag field may have a value of 1 when the PVR_assist_tier_n_mmco field exists. In the case of HEVC, this field may have a value of zero.
  • the PVR_assist_seg_id field may transmit an id of a segment to which a picture belongs.
  • the PVR_assist_prg_id field may transmit the ID of a program to which a picture belongs.
  • the PVR_assist_seg_start_flag field may have a value of 1 when the picture has a first reproduction order in one segment.
  • the PVR_assist_seg_end_flag field may have a value of 1 when the picture has the last reproduction order in one segment.
  • the PVR_assist_prg_start_flag field may have a value of 1 when the picture has the first playback order in one program.
  • the PVR_assist_prg_stop_flag field may have a value of 1 when the picture has the last playback order in one program.
  • the PVR_assist_scene_change_flag field may have a value of 1 when the first picture is in the playback order of a new scene.
  • the PVR_assist_tier_m field may indicate a tier number associated with the PVR_assist_tier_m_cumulative_frames field. In the case of HEVC, this field may not exist.
  • the PVR_assist_tier_m_cumulative_frames field may deliver a value of the minimum number of frames extractable from tier 1 per second through the PVR_assist_tier_m field.
  • the PVR_assist_tier_n_mmco field may indicate the minimum tier number below MMCOs that can be ignored by the decoder while performing trick play. In the case of HEVC, this field may not exist.
  • PVR_assist_information may further include a PVR_assist_tier_next_pic_tier field.
  • the PVR_assist_tier_next_pic_tier field may indicate a relative position of a next order picture in decoding order among pictures having a tier number equal to the value indicated by the PVR_assist_tier_pic_num field, and may be referred to as tier next picture information.
  • PVR_assist_information includes metadata for performing a trick play of video data, and may be referred to as PVR assist information.
  • An embodiment of the present invention may provide a method including trick play using a temporal id in the existing PVR_assist_information included in the adaptation field of the TS packet. That is, one embodiment of the present invention may provide temporal id frame work.
  • One embodiment of the present invention may signal PVR_assist_temporal_id_plus1 together with the existing PVR_assist_tier_pic_num to support temporal scalability based on temporal id.
  • the PVR_assist_information may include all the aforementioned fields, the PVR_assist_temporal_id_plus1 field, the PVR_assist_temporal_id_info_present_flag field, and / or the PVR_assist_max_temporal_id_plus1 field in the previous drawing showing the configuration of the PVR_assist_information.
  • a field having the same name as the aforementioned field in the previous drawing showing the configuration of PVR_assist_information may have the same meaning as the aforementioned meaning in the previous drawing.
  • the PVR_assist_temporal_id_plus1 field may indicate a temporal id value of the current frame and may actually indicate the same value as the nuh_temporal_id_plus1 value included in the NAL unit header.
  • the PVR_assist_temporal_id_info_present_flag field may indicate whether or not the temporal id related information is included. This field may indicate a value of 1 if the PVR_assist_max_temporal_id_plus1 field exists. This field may be provided per RAP picture.
  • the PVR_assist_max_temporal_id_plus1 field may indicate a maximum temporal id value and, in fact, may indicate a value obtained by adding 1 to the maximum temporal id value. This field may have a value of any one of 0 to 6. This field can be used to provide information about the speed of trick play.
  • the double speed of the trick play may be calculated using the values of the PVR_assist_max_temporal_id_plus1 field and the PVR_assist_temporal_id_plus1 field.
  • An embodiment of the present invention may provide a method including trick play using a temporal id in the existing PVR_assist_information included in the adaptation field of the TS packet. That is, one embodiment of the present invention may provide temporal id frame work.
  • the PVR_assist_tier_pic_num field may be used as it is and the meaning of PVR_assist_temporal_id_plus1 may be contained in the PVR_assist_tier_pic_num field.
  • the PVR_assist_tier_pic_num_to_temporal_id_flag field may be used to inform that the meaning of the tier has been changed.
  • the PVR_assist_information may include all the above-described fields, the PVR_assist_tier_pic_num_to_temporal_id_flag field, the PVR_assist_temporal_id_info_present_flag field, and / or the PVR_assist_id_temporal field in the previous drawing showing the configuration of the PVR_assist_information.
  • a field having the same name as the aforementioned field in the previous drawing showing the configuration of PVR_assist_information may have the same meaning as the aforementioned meaning in the previous drawing.
  • the PVR_assist_tier_pic_num field may be used as it is for temporal id frame work according to an embodiment of the present invention. That is, the PVR_assist_tier_pic_num field indicates the temporal id value of the current frame and may actually have the same value as the nuh_temporal_id_plus1 value included in the NAL unit header.
  • the PVR_assist_tier_pic_num_to_temporal_id_flag field may have a value of 1 if the PVR_assist_tier_pic_num field is used as a field indicating a temporal id.
  • the PVR_assist_temporal_id_info_present_flag field may indicate whether or not the temporal id related information is included.
  • the PVR_assist_max_temporal_id_plus1 field may indicate a maximum temporal id value and, in fact, may indicate a value obtained by adding 1 to the maximum temporal id value.
  • the double speed of the trick play may be calculated using PVR_assist_tier_pic_num field values having the meaning of the PVR_assist_max_temporal_id_plus1 field and the PVR_assist_temporal_id_plus1 field.
  • a type of a framework for providing a PVR may be distinguished by adding two or more fields of PVR_assist_framework to PVR_assist_information.
  • One embodiment of the present invention can distinguish the existing tier, substream framework and temporal id framework. In this case, flag values previously included in PVR_assist_information may not be used, and an embodiment of the present invention may configure a conditional statement in place of a tag value corresponding to each framework.
  • PVR_assist_information in accordance with one embodiment of the present invention may include data_field_tag field, data_field_length field, PVR_assist_temporal_id_plus1 field, PVR_assist_substream_info_present_flag field, PVR_assist_extension_present_flag field, PVR_assist_temporal_id_present_flag field, PVR_assist_temporal_sub_layer_dependency_flag field, PVR_assist_max_temporal_id_plus1 field, PVR_assist_curr_tier_num fields and / or field PVR_assist_trick_play_speed.
  • the data_field_tag field may represent that the corresponding data field is PVR_assist_information.
  • the data_field_tag field may have 0x03.
  • the data_field_length field may indicate the length of the PVR_assist_information excluding the data_field_tag field and the data_field_length field.
  • the PVR_assist_temporal_id_plus1 field may indicate a temporal id value of the current frame and may actually indicate the same value as the nuh_temporal_id_plus1 value included in the NAL unit header.
  • the PVR_assist_substream_info_present_flag field may have a value of 1 when the PVR_assist_substream_info field exists.
  • the PVR_assist_extension_present_flag field may have a value of 1 when any one of the PVR_assist_segmentation_info_present_flag field, the PVR_assist_tier_m_cumulative_frames_present_flag field, and the PVR_assist_tier_n_mmco_present_flag field is 1.
  • the PVR_assist_temporal_id_info_present_flag field may indicate whether or not the temporal id related information is included.
  • the PVR_assist_temporal_sub_layer_dependency_flag field may indicate whether there is a dependency between temporal sub-layers. That is, the temporal_sub_layer_dependency_flag field has 1 when the lower temporal sub-layer picture does not refer to the upper temporal sub-layer picture.
  • the PVR_assist_max_temporal_id_plus1 field may indicate a maximum temporal id value and, in fact, may indicate a value obtained by adding 1 to the maximum temporal id value.
  • the PVR_assist_curr_tier_num field may indicate a tier value corresponding to temporal_id_plus1.
  • the trick_play_speed field may indicate the maximum trick play speed that can be provided according to the temporal id value.
  • conditional statement may indicate a case where PVR_assist_max_temporal_id_plus1 is greater than one. That is, it may indicate that temporal scalability is a used stream, and in this case, trick play may be provided using a temporal id.
  • the PVR_assist_temporal_id_plus1 field may be located in the for loop at the same level as the PVR_assist_curr_tier_num field and the PVR_assist_trick_play_speed field, and the tier number and speed for trick play according to each temporal_id may be signaled.
  • the existing PVR_assist_tier_pic_num field may be left as it is, and the above-described field value may be changed to represent the PVR_assist_temporal_id_plus1 field value.
  • the meaning of the PVR_assist_tier_pic_num field has been changed using the PVR_assist_tier_pic_num_to_temporal_id_flag field.
  • Another embodiment of the present invention may provide a trick play using only a temporal id without a tier. That is, trick play may be provided by parsing nuh_temporal_id_plus1 information of NAL_unit_header and selecting only packets necessary for actual trick play.
  • scenario C For example, when trying to play a stream composed of temporal ids from 0 to 3 at double speed, an embodiment of the present invention transmits only TS packets having a nuh_temporal_id_plus1 value of 1, 2, or 3 to the system decoder. Can provide 2x trick play.
  • FIG. 36 illustrates a receiving apparatus according to an embodiment of the present invention.
  • a receiving apparatus includes a receiver 36010, a demodulator 36020, a trick play performer 36030, a system decoder and demux 36040. And / or a video decoder 36050.
  • the receiver 36010 may receive a broadcast signal transmitted through a broadcast network, a cable network, and / or an internet network.
  • the demodulator 36020 may demodulate a broadcast signal modulated according to a modulation technique.
  • the trick play performer 36030 may select a TS packet for trick play by a method according to each scenario. Details of scenarios 1, 2, and 3, according to one embodiment of the present invention, are described above.
  • the system decoder and demux 36040 may decode system information and may separate the multiplexed broadcast signal for each unit stream.
  • the demultiplexer may demultiplex the received broadcast signal to extract a video stream.
  • the video decoder 36050 may decode the video stream.
  • the video decoder may include a system decoder and a trick play performer, and the video decoder may perform trick play of video data by decoding a video stream selected for trick play based on the PVR assist information.
  • the video decoder may perform trick play based on temporal identification information and maximum temporal identification information included in the PVR assist information.
  • FIG. 37 illustrates a comparison of a tier framework and an HEVC temporal sub-layer according to an embodiment of the present invention.
  • the hierarchical structure of the HEVC temporal sub-layer according to an embodiment of the present invention is similar to the tier system framework.
  • the temporal id according to an embodiment of the present invention may match the tier number.
  • the HEVC temporal sub-layer according to an embodiment of the present invention may support the PVR by a method similar to the tier system framework.
  • An HEVC compliant encoder / decoder may support an HEVC temporal sub-layer.
  • a temporal id according to an embodiment of the present invention may exist in a HEVC encoded stream. If the stream is encoded by a temporal sub-layer structure, no special encoding structure for trick play may be needed. Therefore, the HEVC temporal sub-layer according to an embodiment of the present invention can reduce the encoding burden when supporting trick play.
  • tier 7 means discarded pictures that are not referenced
  • tier 6 means discarded pictures that are referenced.
  • the HEVC temporal sub-layer according to an embodiment of the present invention may not distinguish whether the picture is a reference picture or not.
  • tier 1 represents a RAP picture
  • tier 2 represents a P picture.
  • a temporal id 0 may represent all of an I picture, a P picture, and a B picture including an IRAP picture.
  • other sublayers may be assigned to temporal ids 6 and 7. Therefore, when compared with the tier numbers 6 and 7, it is possible to support additional double speed when using the temporal id according to an embodiment of the present invention.
  • frame division may be necessary in the base sublayer having a temporal id of 0 to support faster speed.
  • FIG. 38 is a diagram illustrating a configuration of PVR_assist_information according to another embodiment of the present invention.
  • a temporal id given at the video level to filter the access units (AUs) before the decoding process may be signaled at the system level.
  • an intra frame may be signaled to support higher double speed in the base sublayer having a temporal id of zero.
  • PVR_assist_information in accordance with one embodiment of the present invention may include data_field_tag field, data_field_length field, PVR_assist_temporal_id_plus1 field, PVR_assist_temporal_id_info_present_flag field, PVR_assist_intra_picture_flag field, PVR_assist_max_temporal_id_plus1 field, PVR_assist_PB_numbers_in_temporalid_zero field, PVR_assist_reserved_0 fields and / or field PVR_assist_reserved_byte.
  • the data_field_tag field may represent that the corresponding data field is PVR_assist_information.
  • the data_field_tag field may have 0x03.
  • the data_field_length field may indicate the length of the PVR_assist_information excluding the data_field_tag field and the data_field_length field.
  • the PVR_assist_temporal_id_plus1 field may indicate a temporal id of a picture.
  • the temporal id can have the value minus one in this field.
  • the minimum value of this field may be 1 and the maximum value may be 7.
  • the value of this field may have the same value as the nuh_temporal_id_plus1 value.
  • the PVR_assist_temporal_id_info_present_flag field may have a value of 1 if the PVR_assist_max_temporal_id_plus1 field exists. This field may be provided only in the picture corresponding to the RAP picture.
  • the PVR_assist_intra_picture_flag field may have a value of 1 if the current access unit is an intra picture.
  • the PVR_assist_max_temporal_id_plus1 field may indicate a maximum temporal id.
  • the maximum temporal id may represent a value obtained by subtracting 1 from this field. This field may have a value from 1 to 7.
  • the PVR_assist_PB_numbers_in_temporalID_zero field may indicate the number of frames other than intra frames existing between intra frames in the base sublayer having a temporal id of zero. This field can be used to guess the speed of trick play.
  • the PVR_assist_reserved_0 field is reserved for future use.
  • the PVR_assist_reserved_byte field may indicate a field left for later use.
  • 39 illustrates a trick play method using an HEVC temporal sub-layer according to an embodiment of the present invention.
  • the first picture 3910 is a picture in which pictures corresponding to one GOP are arranged in a playback order.
  • I may represent an I picture
  • B may represent a B picture
  • P may represent a P picture.
  • numbers below the alphabet indicating the type of picture may indicate the reproduction order.
  • the arrow can indicate the reference relationship between the pictures.
  • a second figure 3920 is a diagram showing a method of providing trick play using an HEVC temporal sub-layer according to an embodiment of the present invention.
  • One square box may represent one picture. The number in the box can represent the temporal id.
  • An x in the square may represent the picture to be decoded and played back during trick play. As shown in the second figure, 2x to 8x trick play can be provided by the HEVC temporal sub-layer.
  • the third figure 3930 is a diagram showing a method of providing trick play using base sub-layer signaling according to an embodiment of the present invention.
  • One embodiment of the present invention can provide trick play at 12x, 24x, and 48x speeds by decoding and playing only intra pictures.
  • FIG. 40 illustrates a broadcast signal transmission method according to an embodiment of the present invention.
  • An embodiment of the present invention may transmit a broadcast signal by the following procedure.
  • an embodiment of the present invention may generate a video stream by encoding video data.
  • the video stream may be encoded by the AVC or the HEVC codec.
  • the video stream may include PVR assist information having a maximum temporal identification information value of the video stream.
  • the maximum temporal identification information may be named max_temporal_id or PVR_assist_max_temporal_id. Detailed description of the maximum temporal identification information has been described above with reference to FIGS. 30, 33, 34, 35, and 38.
  • the PVR assist information may mean information necessary for performing trick play of video data in a receiver or a PVR device. Detailed description of the PVR assist information has been described above with reference to FIG.
  • an embodiment of the present invention may generate a broadcast signal including the generated video stream.
  • the video stream may refer to a video unit stream, a PES stream in which the video unit stream is packetized, or a transport stream including a TS packet.
  • a broadcast signal may be generated by modulating the generated video stream using various modulation schemes.
  • an embodiment of the present invention may transmit the generated broadcast signal.
  • an embodiment of the present invention may transmit the generated broadcast signal through at least one of a terrestrial broadcasting network, a cable network, and an internet network.
  • the video stream may include an adaptation field, and the adaptation field may include PVR assist information.
  • the adaptation field may include data as a field existing between the header of the TS packet and the payload.
  • the video stream according to an embodiment of the present invention may mean a stream including several TS packets. Accordingly, the video stream according to an embodiment of the present invention may include an adaptation field.
  • the adaptation field may include a private data byte field, and the private data byte field may include PVR assist information.
  • the private data byte field may be included in the adaptation field and may include several data fields. One data field of the aforementioned several data fields may include PVR assist information.
  • a video stream may include one or more temporal sublayers, where the temporal sublayer may represent a collection of pictures.
  • the header of the NAL unit including the encoded video data according to an embodiment of the present invention may include temporal identification plus information.
  • the temporal identification plus information may indicate a value obtained by adding 1 to the temporal identification information, and the temporal identification information may include information for identifying a temporal sublayer.
  • Temporal identification plus information according to an embodiment of the present invention may be used to identify a temporal sublayer.
  • the temporal sublayer may be named a temporal sub-layer
  • the temporal identification information may be named a temporal id
  • the temporal identification plus information may be named nuh_temporal_id_plus1.
  • the PVR assist information may include maximum temporal identification information indicating a maximum temporal identification information value of the video stream.
  • An HEVC encoded video stream may have several temporal sublayers and each temporal sublayer may be identified by temporal identification information.
  • the maximum temporal identification information according to an embodiment of the present invention may mean temporal identification information of a temporal sublayer having the maximum temporal identification information among a plurality of temporal sublayers.
  • the maximum temporal identification information may have a value of 0 to 6. Accordingly, when the temporal identification information value is one-to-one matched with the tier number according to another embodiment of the present invention, the temporal identification information value may be matched within a range of a previously defined tier number. In the past, tier numbers were defined from 0 to 7.
  • the maximum temporal identification information may be used to provide information about the speed of trick play.
  • the maximum temporal identification information may signal information about the maximum speed of the trick play.
  • An embodiment of the present invention may signal a trick play speed corresponding to each temporal identification information.
  • an embodiment of the present invention can inform the user of the maximum speed information that can be serviced, and can determine the speed of trick play in response to a user's request and provide the determined speed. Detailed description thereof has been given above with reference to FIGS. 33 and 38.
  • the PVR assist information may include temporal identification flag information indicating whether the maximum temporal identification information is included, wherein the temporal identification flag information may be provided at least for each RAP. have.
  • the temporal identification flag information may be named PVR_assist_temporal_id_info_present_flag.
  • the temporal identification flag information may have a value of 1 when the maximum temporal identification information is included in the PVR assist information. In the case of an AVC stream, the temporal identification flag information may have a value of zero.
  • the maximum temporal identification information may be signaled for each RAP by providing temporal identification flag information for each RAP. Accordingly, an embodiment of the present invention may signal the maximum speed information of trick play for each RAP. Detailed description thereof has been given above with reference to FIGS. 32 and 38.
  • 41 is a diagram illustrating a structure of a broadcast signal receiving apparatus according to an embodiment of the present invention.
  • the broadcast signal receiving apparatus 41010 may include a receiver 41020, a demultiplexer 41030, and / or a decoder 41040.
  • the receiver may receive a broadcast signal.
  • the demultiplexer may demultiplex the received broadcast signal to extract a video stream.
  • the video stream may include PVR assist information having a maximum temporal identification information value of the video stream.
  • the decoder may decode the extracted video stream based on the above-described PVR assist information and perform trick play of the video data.
  • the configuration having the same name as that of the broadcast signal receiving apparatus shown in FIG. 36 among the configurations of the broadcast signal receiving apparatus shown in FIG. 36 according to the embodiment of the present invention is the configuration of the broadcast signal receiving apparatus shown in FIG. Can perform the same function as
  • the configuration corresponding to the process of the broadcast signal transmitting method shown in FIG. 40 among the configurations of the broadcast signal receiving apparatus shown in FIG. 40 corresponds to the process of the broadcast signal transmitting method shown in FIG. 40. Function can be performed.
  • the video decoder obtains information on trick play in advance and performs trick play efficiently. can do.
  • FIG. 42 is a diagram illustrating an embodiment of a signal transmission and reception method according to the present invention.
  • Video source data is encoded (S110).
  • an HEVC encoded video stream may include a Supplemental Enhancement Information (SEI) message having picture information of the video data.
  • SEI Supplemental Enhancement Information
  • GOP Group of Picture metadata
  • HEVC video data may transmit video coding layer (VCL) NAL units including coding slice segment Network Abstraction Layer (NAL) units or subunits thereof, and if the SEI message includes GOP metadata, Information on the picture can be signaled to enable efficient trick play.
  • VCL video coding layer
  • NAL Network Abstraction Layer
  • GOP metadata in the SEI message includes the total number of GOPs, GOP size, picture type of each picture constituting the GOP, temporal ID, temporal sub-layer picture information (picture type of temporal sub-layer), and the like. can do.
  • the video including the GOP metadata is transmitted in the SEI message (S120).
  • the encoded video data is received (S210).
  • the SEI message of the received video is parsed to obtain group of picture (GOP) metadata (S220).
  • group of picture GOP
  • the encoded video source data is decoded using the GOP (Group of Picture) metadata obtained by parsing the SEI message (S230).
  • trick play may be performed using the filtered pictures by filtering the picture of the video source data by using the GOP (Group of Picture) metadata of the SEI message.
  • efficient trick play can be performed by using picture information of GOP (Group of Picture) metadata included in an SEI message of a video and a pointer (or a video index) of a picture of encoded video data. That is, the video decoder can efficiently perform trick play because the video parser decodes the filtered picture using the picture pointer of the video source using metadata obtained by parsing the SEI message.
  • FIG. 43 is a diagram illustrating a structure of a group of pictures (GOP) when encoding video data according to an embodiment of the present invention.
  • GOP group of pictures
  • video data When encoding and outputting video source data, video data may be transmitted in units of GOPs.
  • This example is an example of video data transmitted in units of GOP.
  • GOP-1, GOP, and GOP + 1 indicate that GOPs are transmitted in chronological order at the top of the figure, and this diagram shows the maximum temporal_id of the NAL unit header. Is 2 and the GOP size is 24.
  • the GOP represents a set of one or more types of pictures, and the GOP may include several picture types of I, P, and B.
  • the picture types in the GOP are displayed together with the display order, and the order of the displayed pictures is illustrated as I1, B2, B3, B4, P5, B6, B7, P9, B10, B11, and B12.
  • the decoding order in the GOP has a different order than the display order as illustrated by I1, P5, B3, B2, B4, P9, B7, B6 ..
  • Temporal_Id When the coded slice segment is included in an intra random access point (IRAP) picture, Temporal_Id has a value of zero. In this example, I1, P5, P9, P13, P17, and P21 have a value of 0 for Temporal_Id.
  • B3, B7, B11, B15, B19, and B23 are pictures using only pictures having a Temporal_Id of 0 in decoding order, and a Temporal_Id has a value of 1.
  • B2, B4, B6, B8, B10, B12, B14, B16, B18, B20, B22, and B24 are pictures using pictures having Temporal_Id of 0 and 1 in decoding order of have a value of Temporal_Id of 2.
  • each picture constituting the GOP may include temporal ID, picture type, temporal sublayer picture type information (temporal_sub_layer_picture_type), and dependency level information.
  • the number of total GOPs constituting the video stream And information of each picture of the GOP may be signaled preferentially through an SEI message. This will be described in detail below.
  • 44 is a diagram illustrating an example of syntax of video data transmitted and received according to an embodiment of the present invention.
  • metadata information of a GOP may be included in an SEI message of video data encoded, in particular, video data encoded using HEVC.
  • the SEI message may include GOP metadata information (trickplay_service_GOP_metadata_info (payloadSize)) for the trick play service. This information may be included in the SEI raw byte sequence payload (RBSP) of the SEI message of the video element.
  • GOP metadata information trickplay_service_GOP_metadata_info (payloadSize)
  • the video parser in the decoder of the receiver when parsing the HEVC NAL unit of video data, when the nal_unit_type value corresponds to the SEI data and the payloadType is a specific value, the GOP meta for the trick play service in the SEI message of the video data.
  • Data information (tricklplay_service_GOP_metadata_info) may be obtained.
  • payloadType may have an integer value greater than zero.
  • the video parser of the decoder of the receiver may obtain GOP metadata information for trick play of video data by decoding GOP metadata information (tricklplay_service_GOP_metadata_info ()) for a trick play service.
  • the receiver can obtain metadata information of the GOP for trick play in advance before decoding the raw data of the video data and implement efficient trick play.
  • the metadata information of the GOP for trick play may include the following information.
  • the GOP_total_count field represents the total number of GOPs constituting the stream.
  • the GOP_size field represents the total number of pictures constituting the GOP.
  • the max_temporal_ID field represents a maximum temporal_id value included in a video stream.
  • TemporalId value can have a value of 0, and nal_unit_type is TSA (temporal sub-layer access (TSA) picture) _R , TSA_N, step-wise temporal sub-layer access (STSA) picture (R) _R, or STSA_N, the TemporalId value may have a non-zero value.
  • TSA temporary sub-layer access
  • STSA step-wise temporal sub-layer access
  • the picture_type field may be configured as pic_type by selecting some nal_unit_type that can be used for trick play among NAL_unit_type of HEVC. This will be described later.
  • the temporal_sub_layer_pic_type field represents temporal_sub_layer_pic_type that can be adaptively changed among pictures having a temporal ID of 1 or more.
  • This information represents a temporal sublayer picture type field. A detailed example thereof will be described later.
  • the dependency_level field represents information indicating the magnitude of dependency of each picture in the GOP.
  • the dependency_level field is as follows. For example, if the dependency_level field is 0x00, this indicates that dependency_level of this video sample is unknown.
  • dependency_level field when the dependency_level field is 0x3F, it may be a reserved field.
  • 45 is a diagram illustrating picture type information capable of supporting trick play of a video stream according to an embodiment of the present invention.
  • IDR instantaneous decoding refresh
  • BLA picture Broken link access
  • pic_type 4 indicates that the BLA can have associated random access decodable leading (RADL) and random access skipped leading (RASL) pictures
  • RASL random access skipped leading
  • pic_type 5
  • the clean random access (CRA) picture is Indicates that you can have an associated leading picture.
  • pic_type 6 it may represent a random access decodable leading picture
  • pic_type 7 it may represent a random access skipped leading picture.
  • the leading picture refers to a picture preceding a related IRAP picture in output order
  • a broken link access (BLA) refers to an IRAP picture in which each VCL NAL unit has a nal_unit_type value such as BLA_W_LP, BLA_W_RADL, or BLA_N_LP.
  • Clean random access (CRA) means an IRAP picture in which each VCL NAL unit has a nal_unit_type value equal to CRA_NUT.
  • the nal_unit_type associated with each picture type information is illustrated in the rightmost column.
  • 46 is a diagram illustrating an example of an operation of a trick play according to a dependency_level field of metadata information of a GOP for trick play according to an embodiment of the present invention.
  • dependency_level of I1 and I25 is 1, and P5 And P17 indicates that dependency_level is 2, and dependency_level of B5, B13, and B21 is 3, respectively.
  • the dependency_level of B3, B7, B11, B15, B19, and B23 is 4, and the dependency_level of B2, B4, B6, B8, B10, B12, B14, B16, B18, B20, B22, and B24 is 5.
  • FIG. 47 is a diagram illustrating an example of temporal sublayer picture type information according to a temporal_sub_layer_pic_type field of metadata information of a GOP for trick play according to an embodiment of the present invention.
  • the temporal service layer picture type information (temporal sublayer picture type) is information for distinguishing Temporal_sub_layer_pic_type that can be adaptively changed among pictures having a Temporal ID.
  • Sub_layer represents a temporal scalable layer of a temporal scalable bit stream constituting VCL NAL units having a specific TemporalId value and related non-VCL NAL units.
  • Sub-layer reference pictures are pictures containing samples that can be used for inter prediction in the decoding process of successive pictures of the same sub-layer in decoding order, and the sub-layer non-reference picture is decoded. Pictures that contain samples that cannot be used for inter prediction in the decoding process of successive pictures of the same sub-layer in order.
  • Temporal sub-layer access (TSA) picture refers to a coded picture in which each VCL NAL unit has a nal_unit_type equal to TSA_R or TSA_N.
  • this sample represents a non-reference Temporal Sub-layer Access (TSA) picture.
  • TSA Temporal Sub-layer Access
  • the sample is a reference step-wise temporal sub-layer access (STSA) picture.
  • STSA picture is coded with nal_unit_tye equal to each VCL NAL unit STSA_R or STSA_N. Refers to a picture.
  • the value of the temporal service layer picture type information is 3, it may represent that the sample is a non-reference step-wise temporal sub-layer access (STSA) picture.
  • STSA step-wise temporal sub-layer access
  • a frame rate may be dynamically changed based on a Temporal Sub-layer Access Picture (TSA) and a Step-wise Temporal Sub-layer Access Picture (STSA) in a layer where the Temporal_ID is not 0.
  • TSA and STSA differ in how they can change the frame rate or how different frame rates. That is, the two picture types differ from each other in how many temporal_ids can be skipped at one time. This will be described later.
  • T_ID represents Temporal_ID.
  • TSA temporal service layer picture type information
  • the stream of the layer having the temporal_ID of 2 is displayed at 4x speed by trick play, and the number of speeds at 1x normal speed is shown. It can be displayed.
  • a picture having a T_ID of 1 is a TSA picture.
  • a double speed conversion is performed by using pictures having different Temporal_IDs. It can provide possible trick play. (Indicated by dashed lines).
  • FIG. 49 illustrates an example of changing a frame rate for trick play when the type of temporal service layer picture type information (temporal_sub_layer_pic_type field) among metadata information of a GOP for trick play according to an embodiment of the present invention is STSA. Is a drawing that discloses.
  • T_ID represents Temporal_ID. If T_ID is 1, it may be an STSA picture. In this figure, if temporal service layer picture type information (temporal_sub_layer_pic_type) is STSA, only the stream of the layer with temporal_ID of 2 is displayed at 4x as a trick play, and then the number of times is doubled and then 1x at the next STSA. Display at normal speed).
  • temporal service layer picture type information temporary_sub_layer_pic_type
  • temporal_sub_layer_pic_type when the temporal service layer picture type information (temporal_sub_layer_pic_type) is TSA, it is possible to directly access temporal_id 2 directly from temporal_id 0.
  • a video service having a frame rate of 15p When an adaptive stream is transmitted and received, a video service having a frame rate of 15p is provided. It can indicate that it can be directly changed to 60p service. Therefore, the trick play conversion can be made more efficient by using temporal_id and temporal_sub_layer_pic_type.
  • temporal_sub_layer_pic_type when the temporal service layer picture type information (temporal_sub_layer_pic_type) is STSA, only stepwise access to pictures is possible, so that temporal_id 1 may be accessed from temporal_id 0 and then temporal_id 2 may be accessed.
  • the dynamic frame rate can be changed based on a Temporal Sub-layer Access (TSA) picture and a Step-wise Temporal Sub-layer Access (STSA) picture in a layer where the Temporal_ID is not 0.
  • TSA Temporal Sub-layer Access
  • STSA Step-wise Temporal Sub-layer Access
  • FIG. 50 is a diagram illustrating an embodiment of a signal receiving apparatus according to the present invention.
  • an embodiment of a signal receiving apparatus according to the present invention will be described with reference to the drawings.
  • An embodiment of the apparatus for receiving a signal may include a decoder, which may include a temporary storage unit 210, a video parser 220, and a video decoder 230.
  • One embodiment of a signal receiving apparatus may receive encoded video data.
  • the encoded data may include pictures included in the GOP in chronological order.
  • the temporary storage unit 210 may serve as a buffer for temporarily storing the encoded video data.
  • the encoded video data may be a file format or a video stream.
  • the video parser 220 may obtain GOP metadata by parsing the SEI message from the encoded video data.
  • the GOP metadata includes the total number of GOPs, the GOP size, the picture type of each picture constituting the GOP, the temporal ID, and the temporal sublayer picture information as described above. -picture type of layer).
  • the video parser 220 may parse the SEI message and transfer the GOP metadata obtained from the SEI message to the video decoder 230.
  • the video parser 220 may filter or demux the pictures in the GOP by using the GOP metadata.
  • the video decoder 230 may decode the video decoder 220 to play the video using the video data output from the video parser 220.
  • the video decoder 230 may perform trick play based on an index in the video data.
  • the video decoder 230 may efficiently perform video trick play based on the GOP (Group of Picture) metadata obtained by the video parser 220. This is illustrated in FIGS. 46 to 48.
  • the video parser 220 uses a temporalID, picture type information, dependency level information (dependency_level), and a temporal sublayer picture type for each picture (or coding slice segment) in the video data.
  • the video decoding unit 230 may output the pictures required for trick play so that the video decoding unit 230 may obtain information on the decoding order faster than directly decoding the video data, and decode the corresponding picture first.
  • the video decoder 230 may decode the pictures in the illustrated order using the GOP metadata. The video pictures can then be displayed at a normal speed of 1x.
  • the video decoder 230 uses the GOP metadata to perform the trick play at twice the speed, such as I1, P5, B3, P9, B7, Pictures can be decoded in the decoding order of P13, B11, P17, B15, P21, B19, and B23 to perform trick play.
  • the video decoding unit 230 decodes the picture according to the decoding order of I5, P5, P9, P13, P17, and P21 when performing the trick play at 4x speed using the GOP metadata parsed by the video parser 220. You can do trick play.
  • the video decoding unit 230 may use temporal sublayer picture type information when performing double speed conversion during trick play.
  • An embodiment of the signal receiving apparatus may further include a video processor 240.
  • the video processor 240 may perform various post-processing operations such as scaling processing on video data decoded by the video decoder 240. Can be done.
  • the video decoding unit 230 not only obtains information for trick play while decoding the video source data, but also obtains information necessary for trick play in advance through the SEI message from the video parser 220, so that the decoder can trick more efficiently. You can play.
  • 51 is a diagram illustrating an embodiment of a signal transmission apparatus according to the present invention. Referring to this figure, the operation of an embodiment of a signal transmission apparatus according to the present invention will be described.
  • One embodiment of a signal transmission apparatus includes a video source encoder 310 and a video transmitter 320.
  • the video source encoder 310 encodes video source data (S110).
  • the video source encoder 310 may use AVC or HEVC as a method of encoding video source data.
  • the video source encoder 310 may generate and output a video format transmitted by the video transmitter 320.
  • a HEVC encoded video stream may have a supplemental enhancement information (SEI) message having picture information of the video data. (message) may be included.
  • SEI Supplemental Enhancement Information
  • GOP Group of Picture metadata may be included in the SEI message of HEVC video data.
  • GOP metadata in the SEI message includes the total number of GOPs, GOP size, picture type of each picture constituting the GOP, temporal ID, temporal sub-layer picture information (picture type of temporal sub-layer), and the like. can do. This is illustrated in FIG. 44.
  • the video transmitter 320 transmits the video including the GOP metadata in the SEI message of the HEVC video data.
  • information at the PES level may be included as illustrated in FIGS. 1 to 41 to efficiently implement trick play.
  • the decoder of the receiver may enable the video trick play to be performed more efficiently using the GOP metadata in the SEI message.
  • signaling information for trick play of a stream may be transmitted and received.
  • Signaling can provide an extensible scheme.
  • the present invention has industrial applicability that is usable and repeatable in the field of broadcast and video signal processing.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명은 신호 송수신 장치 및 신호 송수신 방법에 관한 것이다. 본 발명의 일 실시예는, 비디오 소스 데이터를 인코딩하고, GOP(Group of Picture) 메타데이터를 가지는 SEI(Supplemental Enhancement Information) 메시지를 포함하는 비디오 데이터를 출력하는 단계; 및 상기 비디오 데이터를 전송하는 단계;를 포함하는 신호 송신 방법을 제공한다. 본 발명의 실시예에 따르면, 인코딩된 스트림에 대해 트릭 플레이를 보다 효율적으로 제공할 수 있다.

Description

트릭 플레이 서비스 제공을 위한 신호 송수신 장치 및 신호 송수신 방법
본 발명은 신호 송수신 장치 및 신호 송수신 방법에 관한 것이다.
디지털 기술 및 통신 기술의 발전으로 방송, 영화뿐만 아니라 인터넷 및 개인 미디어 등의 다양한 영역에서 오디오/비디오 중심의 멀티미디어 컨텐츠 보급 및 수요가 급속도로 확대되고 있다. 나아가 방송 및 영화를 통하여 입체감을 제공하는 실감미디어에 대한 소비자 요구가 증가되고 있다. 또한, 디스플레이 기술의 발전과 더불어 가정에서의 TV 화면이 대형화 됨에 따라 HD급 이상의 고화질에 실감나는 컨텐츠를 즐기고자 하는 소비가 증가되고 있다. 3DTV와 더불어 UHDTV (Ultra High Definition TV)와 같은 실감방송이 차세대 방송 서비스로 관심을 받고 있으며, 특히 UHD (Ultra High Definition) 방송 서비스에 대한 논의가 증가되고 있는 추세이다.
UHD 방송 컨텐츠는 SD 또는 HD 방송 컨텐츠보다 고화질의 컨텐츠를 제공하므로 전송해야 하는 데이터량이 비교적 많다. 따라서, 이러한 고화질의 컨텐츠를 효율적으로 전송하기 위해 새로운 데이터 압축 방법들이 개발되고 있다. 최근 기존 H.264/AVC 압축 방법에 비해 발전된 HEVC 압축 방법이 상용화되고 있으므로 HEVC에 의해 인코딩된 컨텐츠 데이터를 활용하는 방법에 대한 연구가 필요하다.
기존의 인코딩된 컨텐츠에 대해 트릭 플레이(trick play)가 가능했는데, 여기서 트릭 플레이란 일정 시간 뒤의 영상을 재생할 수 있는 기능인 random access 및 2 배속, 4 배속 등과 같은 배속 기능을 제공하는 서비스를 의미한다.
기존에 AVC 스트림을 기반으로 한 미디어 서비스에 대해 트릭 플레이 기능을 제공하였는데 예를 들어 기존의 CFF(Common File Format) medial file format 에 대해 H.264/AVC 인코딩된 컨텐츠의 트릭 플레이가 가능하였다.
본 발명의 목적은, 인코딩된 스트림에 대해 트릭 플레이를 보다 효율적으로 제공할 수 있는 신호 송수신 방법 및 신호 송수신 장치를 제공하는 것이다.
본 발명의 다른 목적은, 표준화된 인코딩 방식에 따른 스트림, 예를 들어 AVC 또는 HEVC 스트림의 트릭 플레이를 위한 시그널링 정보를 송수신할 수 있는 신호 송수신 방법 및 신호 송수신 장치를 제공하는 것이다.
본 발명의 다른 목적은, 인코딩된 스트림을 트릭 플레이를 시그널링할 경우 확장 가능한 방식을 제공할 수 있는 신호 송수신 방법 및 신호 송수신 장치를 제공하는 것이다.
본 발명의 다른 목적은, HEVC 인코딩된 컨텐츠에 대한 트릭 플레이 방식과 호환되면서도 더 효율적인 트릭 플레이가 가능하도록 하는 신호 송수신 방법 및 신호 송수신 장치를 제공하는 것이다.
본 발명의 다른 목적은, HEVC 기반으로 한 방송 컨텐츠의 트릭 플레이를 위하여 방송 신호를 송수신하는 방법 및/또는 장치를 제공하고 HEVC 스트림에 적합한 파일 포맷을 정의하여 보다 효율적으로 트릭 플레이를 제공하는 신호 송수신 방법 및 신호 송수신 장치를 제공하는 것이다.
본 발명의 다른 목적은, 사용자에게 최대 배속 정보를 제공할 수 있는 시그널링 방법을 제공하고, HEVC의 temporal scalability를 이용하여 트릭 플레이를 제공하는 신호 송수신 방법 및 신호 송수신 장치를 제공하는 것이다.
본 발명의 일 실시예는, 비디오 소스 데이터를 인코딩하고, GOP(Group of Picture) 메타데이터를 가지는 SEI(Supplemental Enhancement Information) 메시지를 포함하는 비디오 데이터를 출력하는 단계; 및 상기 비디오 데이터를 전송하는 단계;를 포함하는 신호 송신 방법을 제공한다.
상기 GOP 메타데이터는, 템퍼럴 아이디 정보, 픽쳐 타입 정보 및 템퍼럴 서브 레이어 픽쳐 타입 정보를 포함할 수 있다.
상기 픽쳐 타입 정보는 HEVC(High Efficiency Video Coding)의 NAL_unit_type 중 트릭 플레이에 사용되는 NAL_unit_type을 지칭하고, 상기 템퍼럴 아이디 정보는, HEVC의 NAL_unit_type의 특정 값에 대응하고, 상기 템퍼럴 서브 레이어 픽쳐 타입 정보는 HEVC의 TSA(Temporal sub-layer access) picture 또는 STSA(Step-wise temporal sub-layer access) picture 중 어느 하나를 지칭할 수 있다.
상기 비디오 데이터를 전송하는 단계는, 최대 템포럴 식별 정보 값을 가지는 PVR(personal video recorder) 어시스트 정보를 포함하고 비디오 스트림을 생성하는 단계; 및 상기 비디오 스트림을 전송하는 단계를 포함할 수 있다.
본 발명의 다른 일 실시예는, 인코딩된 비디오 데이터를 수신하고, 상기 인코딩된 비디오 데이터의 SEI(Supplemental Enhancement Information) 메시지를 파싱하여 GOP(Group of Picture) 메타데이터를 얻는 단계; 및 상기 얻은 GOP(Group of Picture) 메타데이터에 기반하여 상기 인코딩된 비디오 데이터를 복호하는 단계; 를 포함하는 신호 수신 방법을 제공한다.
본 발명의 다른 일 실시예는, 비디오 소스 데이터를 인코딩하고, GOP 메타데이터를 가지는 SEI 메시지를 포함하는 비디오데이터를 출력하는 비디오인코더; 및상기 비디오 데이터를 전송하는 비디오전송부;를 포함하는 신호 송신 장치를 제공한다.
본 발명의 다른 일 실시예는, 인코딩된 비디오 데이터를 수신하고, 상기 인코딩된 비디오 데이터의 SEI 메시지를 파싱하여 GOP(Group of Picture) 메타데이터를 얻는 비디오파서; 및 상기 비디오파서가 얻은 GOP(Group of Picture) 메타데이터에 기반하여 상기 인코딩된 비디오 데이터를 복호하는 비디오디코딩부; 를 포함하는 신호 수신 장치를 제공한다.
본 발명의 다른 일 실시예는, 비디오 데이터를 인코딩하여 비디오 스트림을 생성하는 단계; 여기서, 상기 비디오 스트림은 상기 비디오 스트림의 최대 템포럴 식별 정보 값을 가지는 PVR(personal video recorder) 어시스트 정보를 포함하고;상기 생성된 비디오 스트림을 전송하는 단계;를 포함하는 신호 송신 방법을 제공한다.
본 발명의 다른 일 실시예는, 수신한 신호를 역다중화하여 비디오 스트림을 추출하는 역다중화부; 여기서, 상기 비디오 스트림은 상기 비디오 스트림의 최대 템포럴 식별 정보 값을 가지는 PVR(personal video recorder) 어시스트 정보를 포함하고; 및 상기 PVR 어시스트 정보를 기초로 하여 상기 추출된 비디오 스트림을 디코딩하고 상기 비디오 데이터의 트릭 플레이를 수행하는 비디오디코더; 를 포함하는 신호 수신 장치를 제공한다.
본 발명의 실시예에 따르면, 인코딩된 스트림에 대해 트릭 플레이를 보다 효율적으로 제공할 수 있다.
본 발명의 실시예에 따르면, 표준화된 인코딩 방식에 따른 스트림, 예를 들어 AVC 또는 HEVC 스트림의 트릭 플레이를 위한 시그널링 정보를 송수신할 수 있다.
본 발명의 실시예에 따르면 인코딩된 스트림을 트릭 플레이를 시그널링할 경우 확장가능한 방식을 제공할 수 있다.
본 발명의 실시예에 따르면 HEVC 인코딩된 컨텐츠에 대한 트릭 플레이 방식과 호환되면서도 더 효율적인 트릭 플레이가 가능하도록 할 수 있다. .
본 발명의 실시예에 따르면 HEVC 기반으로 한 방송 컨텐츠의 트릭 플레이를 위하여 방송 신호를 송수신하는 방법 및/또는 장치를 제공하고 HEVC 스트림에 적합한 파일 포맷을 정의하여 보다 효율적으로 트릭 플레이를 제공할 수 있다.
본 발명의 실시예에 따르면 사용자에게 최대 배속 정보를 제공할 수 있는 시그널링 방법을 제공하고, HEVC의 temporal scalability를 이용하여 트릭 플레이를 제공할 수 있다.
도 1은 본 발명의 일 실시예에 따른 트릭 플레이를 위한 시그널링 방법을 시나리오에 따라 나타낸 도면이다.
도 2는 본 발명의 일 실시예에 따른 HEVC 기반의 스트림을 지원하기 위한 Common File Format (CFF) box structure를 나타낸 도면이다.
도 3은 본 발명의 일 실시예에 따른 “hvcn” 박스의 syntax를 나타낸 도면이다.
도 4는 본 발명의 일 실시예에 따른 Common_Metadata에 포함된 HDR (High Dynamic Range)를 지원하는 element를 나타낸 도면이다.
도 5는 본 발명의 일 실시예에 따른 HEVC 스트림의 경우 random access를 위한 picture type을 나타낸 도면이다.
도 6은 본 발명의 일 실시예에 따라 closed GOP인 경우 트릭 플레이의 방법을 나타낸 도면이다.
도 7은 본 발명의 일 실시예에 따라 open GOP이고 GOP가 decodable leading picture를 포함하는 경우 트릭 플레이의 방법을 나타낸 도면이다.
도 8은 본 발명의 일 실시예에 따라 open GOP이고 GOP가 decodable leading picture 및 skipped leading picture를 포함하는 경우 트릭 플레이의 방법을 나타낸 도면이다.
도 9는 본 발명의 일 실시예에 따라 open GOP이고 GOP가 skipped leading picture를 포함하는 경우 트릭 플레이의 방법을 나타낸 도면이다.
도 10은 본 발명의 일 실시예에 따라 max_temporal_id가 0인 HEVC 스트림의 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다.
도 11은 본 발명의 또 다른 일 실시예에 따라 max_temporal_id가 0인 HEVC 스트림의 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다.
도 12는 본 발명의 일 실시예에 따라 max_temporal_id가 0인 HEVC 스트림의 트릭 플레이를 지원하기 위한 trick play box에 포함된 pic_type에 대한 설명을 나타낸 도면이다.
도 13은 본 발명의 일 실시예에 따라 pic_type에 leading picture 관련된 내용이 포함되어 있지 않는 경우, max_temporal_id가 0인 HEVC 스트림의 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다.
도 14은 본 발명의 또 다른 일 실시예에 따라 pic_type에 leading picture 관련된 내용이 포함되어 있지 않는 경우, max_temporal_id가 0인 HEVC 스트림의 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다.
도 15는 본 발명의 일 실시예에 따른 temporal scalability를 지원하는 HEVC 스트림의 구성을 나타낸 도면이다.
도 16은 본 발명의 일 실시예에 따라 temporal scalability를 지원하는 HEVC 스트림에서 최대 배속을 제한하여 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다.
도 17은 본 발명의 또 다른 일 실시예에 따라 temporal scalability를 지원하는 HEVC 스트림에서 최대 배속을 제한하여 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다.
도 18은 본 발명의 일 실시예에 따른 temporal sub-layer picture type이 TSA인 경우 frame rate의 변경 방법을 나타낸 도면이다.
도 19는 본 발명의 일 실시예에 따른 temporal sub-layer picture type이 STSA인 경우 frame rate의 변경 방법을 나타낸 도면이다.
도 20은 본 발명의 일 실시예에 따라 temporal scalability를 지원하는 HEVC 스트림에서 고배속의 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다. (시나리오 3)
도 21은 본 발명의 또 다른 일 실시예에 따라 temporal scalability를 지원하는 HEVC 스트림에서 고배속의 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다.
도 22는 본 발명의 일 실시예에 따른 temporal id와 tier를 이용한 트릭 플레이의 방법을 나타낸 도면이다.
도 23는 본 발명의 일 실시예에 따라, 기존의 tier 개념에 따른 트릭 플레이 방법을 나타낸 도면이다.
도 24은 본 발명의 일 실시예에 따라, 하나의 temporal id를 하나의 tier에 1:1로 매핑하는 방법에 따른 트릭 플레이 방법을 나타낸 도면이다.
도 25은 본 발명의 또 다른 일 실시예에 따라, 하나의 temporal id를 하나의 tier에 1:1로 매핑하는 방법에 따른 트릭 플레이 방법을 나타낸 도면이다.
도 26은 본 발명의 일 실시예에 따라, 하나의 temporal id를 하나의 tier에 1:1로 매핑한 결과를 나타낸 도면이다.
도 27는 본 발명의 또 다른 일 실시예에 따라, 하나의 temporal id를 하나의 tier에 1:1로 매핑한 결과를 나타낸 도면이다.
도 28은 본 발명의 일 실시예에 따라, 하나의 temporal id를 여러 개의 tier에 매핑하는 방법에 따른 트릭 플레이의 방법을 나타낸 도면이다.
도 29은 본 발명의 일 실시예에 따른 tempora id와 tier의 매핑을 위한 정보를 포함한 TS packter의 adaptation field의 구성을 나타낸 도면이다.
도 30는 본 발명의 일 실시예에 따른 HEVC_temporal_id_tier_mapping_info의 구성을 나타낸 도면이다.
도 31은 본 발명의 일 실시예에 따른 HEVC_temporal_id_tier_mapping_info에 포함된 trick_play_speed 필드의 구성을 나타낸 도면이다.
도 32는 본 발명의 일 실시예에 따른 PVR_assist_information의 구성을 나타낸 도면이다.
도 33는 본 발명의 일 실시예에 따른 temporal id frame work가 추가된 PVR_assist_information의 구성을 나타낸 도면이다.
도 34은 본 발명의 또 다른 일 실시예에 따른 temporal id frame work가 추가된 PVR_assist_information의 구성을 나타낸 도면이다.
도 35은 본 발명의 일 실시예에 따른 temporal id를 이용한 트릭 플레이를 지원하기 위한 PVR_assist_information의 구성을 나타낸 도면이다.
도 36은 본 발명의 일 실시예에 따른 수신 장치를 나타낸 도면이다.
도 37는 본 발명의 일 실시예에 따른 tier framework와 HEVC temporal sub-layer을 비교한 도면이다.
도 38은 본 발명의 또 다른 일 실시예에 따른 PVR_assist_information의 구성을 나타낸 도면이다.
도 39은 본 발명의 일 실시예에 따른 HEVC temporal sub-layer를 이용한 트릭 플레이 방법을 나타낸 도면이다.
도 40는 본 발명의 일 실시예에 따른 방송 신호 송신 방법을 나타낸 도면이다.
도 41은 본 발명의 일 실시예에 따른 방송 신호 수신 장치의 구조를 나타낸 도면이다.
도 42는 본 발명에 따른 신호 송수신 방법의 일 실시예를 예시한 도면이다
도 43은 본 발명의 실시예에 따라 비디오 데이터를 인코딩할 경우 GOP (Group of Picture)를 구조를 예시한 도면이다.
도 44는 본 발명의 실시예에 따라 송수신되는 비디오 데이터의 신택스의 일 예를 예시한 도면이다.
도 45는 본 발명의 실시예에 따른 비디오 스트림의 트릭 플레이를 지원할 수 있는 픽쳐 타입 정보를 예시한 도면이다.
도 46은 본 발명의 실시예에 따른 트릭플레이를 위한 GOP의 metadata 정보 중 dependency_level 필드에 따른 트릭 플레이의 동작 예를 예시한 도면이다.
도 47은 본 발명의 실시예에 따른 트릭플레이를 위한 GOP의 metadata 정보 중 temporal_sub_layer_pic_type 필드에 따른 템퍼럴 서브 레이어 픽쳐 타입 정보 (temporal sublayer picture type) 의 예를 예시한 도면이다.
도 48은 본 발명의 실시예에 따른 트릭플레이를 위한 GOP의 metadata 정보 중 템퍼럴 서비스 레이어 픽쳐 타입 정보(temporal_sub_layer_pic_type)의 타입이 TSA인 경우 트릭 플레이를 위한 프레임 레잇(frame rate)을 변경하는 예를 개시한 도면이다.
도 49는 본 발명의 실시예에 따른 트릭플레이를 위한 GOP의 metadata 정보 중 템퍼럴 서비스 레이어 픽쳐 타입 정보(temporal_sub_layer_pic_type 필드)의 타입이 STSA인 경우 트릭 플레이를 위한 프레임 레잇(frame rate)을 변경하는 예를 개시한 도면이다.
도 50은 본 발명에 따른 신호 수신 장치의 일 실시예를 예시한 도면이다.
도 51은 본 발명에 따른 신호 송신 장치의 일 실시예를 예시한 도면이다.
본 발명의 이해와 설명의 편의를 위하여, 용어 및 약어에 대하여 아래와 같이 정의한다.
HEVC (High Efficiency Video Coding)은 기존 H.265/AVC 기술과 비교하여 약 2배 높은 압축률을 가지면서 동일한 비디오 품질을 제공하는 고효율 비디오 코딩 표준이다.
temporal scalability은 시간적 스케일러빌리티를 의미하며 같은 공간 해상도에서 프레임 주파수가 다른 것들을 부호화하는 방법을 의미한다.
트릭 플레이란 일정 시간 뒤의 영상을 플레이할 수 있는 ramdom access가 가능하고 배속 기능을 제공하는 기능을 의미한다.
Open GOP는 하나의 GOP내의 picture를 encoding할 때, 해당하는 GOP 이전에 위치한 picture를 reference picture로 이용해 encoding할 수 있는 구조를 의미한다. 즉, leading picture를 포함하는 GOP를 의미한다.
Closed GOP는 하나의 GOP내의 picture를 encoding할 때, 해당하는 GOP 내의 picture만을 reference picture로 사용하는 구조를 의미한다. 즉, Open GOP에서와는 달리 leading picture를 포함하지 않는다.
leading picture는 HEVC에서 IRAP보다 디코딩 순서는 느리지만 재생 순서는 빠른 픽처를 의미한다.
temporal id는 HEVC에서 temporal scalability를 지원하기 위하여 도입된 용어이고, NAL_unit_header의 nuh_temporal_id_plus1에 의하여 시그널링될 수 있다.
tier는 AVC 스트림 또는 mpeg-2 스트림에서 트릭 플레이를 지원하기 위하여 도입된 용어이고, TS packet내에 adaptation field에 포함될 수 있다.
도 1은 본 발명의 일 실시예에 따른 트릭 플레이 방법을 시나리오에 따라 나타낸 도면이다.
본 발명의 일 실시예에 따르면, HEVC의 temporal scalability의 사용 여부에 따라 트릭 플레이를 위한 시그널링 방법이 정의될 수 있다.
본 발명의 일 실시예에 따른 비디오 스트림이 temporal scalability를 제공하지 않는 스트림인 경우 즉, 비디오 스트림이 temporal_id가 0인 픽처만 포함하는 경우에서 Closed GOP이면 비디오 스트림이 leading picture를 포함하지 않으므로, CFF media file format에 정의된 dependency_level 및 pic_type를 시그널링함으로써 트릭 플레이가 제공될 수 있다. (시나리오 1-1) 반면, Open GOP이면, pic_type에 leading picture type을 포함시키고 dependency_level를 시그널링함으로써 트릭 플레이가 제공될 수 있다. (시나리오 1-2)
본 발명의 일 실시예에 따른 비디오 스트림이 temporal scalability 기반의 스트림인 경우 즉, 비디오 스트림이 temporal_id가 0보다 큰 픽처를 포함하는 경우 dependency_level, pic_type 및 temporal_sub_layer_pic_type을 시그널링함으로써 트릭플레이가 제공될 수 있다. 보다 구체적으로, 스트림에 포함된 temporal_id를 통하여 지원 가능한 배속 level을 시그널링함으로써 트릭 플레이가 제공될 수 있다. (시나리오 2) 또한, 시나리오 2와 마찬가지로 temporal_id를 통하여 지원 가능한 배속 level을 시그널링하고 추가적으로 temporal_id가 0인 픽처들을 이용함으로써 배속을 위한 추가 서비스가 제공될 수 있다. (시나리오 3)
이 도면에 도시된 박스는 비디오 스트림을 구성하는 픽처를 나타내며 박스 안에 기술된 T_ID는 temporal scalability를 지원하기 위한 temporal_id를 의미할 수 있다.
도 2는 본 발명의 일 실시예에 따른 HEVC 기반의 스트림을 지원하기 위한 Common File Format (CFF) box structure를 나타낸 도면이다.
이 도면에서 "NL0", "NL1" 및 "NL2"는 CFF box들의 포함관계를 나타내고 "Format Req."는 해당 박스의 존재 여부 및 개수를 나타내고 "Specification"은 해당 박스가 정의되어 있는 표준서의 부분을 나타내고 "Description"은 해당 박스에 대한 설명을 나타낼 수 있다. "Format Req."가 "+"이면 해당 박스가 하나 이상 존재한다는 것을 의미하고 "0/1"이면 해당 박스가 존재하거나 존재하지 않음을 의미하고 "1"이면 해당 박스가 존재함을 의미하고 "0"이면 해당 박스가 존재하지 않음을 의미할 수 있다.
이 도면은 본 발명의 일 실시예에 따른 CFF box structure로서 기존의 CFF에 HEVC를 위한 새로운 trick play box를 추가한 것이다. 또한, 본 발명의 일 실시예에 따른 CFF box structure는 HEVC 기반의 nal unit을 지원하기 위해 "hvcn"로 약칭되는 storage box를 포함할 수 있다.
도 3은 본 발명의 일 실시예에 따른 "hvcn" 박스의 syntax를 나타낸 도면이다.
본 발명의 일 실시예에 따르면, CFF box structure는 "hvcn"로 약칭되는 nal unit storage box를 포함할 수 있다.
본 발명의 일 실시예에 따르면, 트릭 플레이를 위해서 코덱 별로 nal unit storage box가 정의될 수 있다.
본 발명의 일 실시예에 따르면, 트릭 플레이를 위해서 코덱 별로 nal unit storage box를 정의하지 않고 기존의 "trick" 박스 내부에 기존의 AVC trick box와 별도로 HEVC trick box가 정의될 수 있다. 또한, "trick" 박스의 플래그에 따라 AVC 또는 HEVC trick play가 선택될 수 있다.
이 도면에서 HEVCConfig는 HEVC의 SPS (Sequence Parameter Set) 및 PPS (Picture Parameter Set)를 포함할 수 있고 SPS의 VUI 파라미터 등의 비디오 정보를 포함할 수 있다.
도 4는 본 발명의 일 실시예에 따른 Common_Metadata에 포함된 HDR (High Dynamic Range)를 지원하는 element를 나타낸 도면이다.
본 발명의 일 실시예에 따른 xml 박스에서 참조하고 있는 Common_Metadata는 HighDynamicRange 엘레먼트를 포함할 수 있다.
본 발명의 일 실시예에 따른 HighDynamicRange 엘레먼트는 xml 스키마에 따라 문자열 값을 가질 수 있고 HighDynamicRange 엘레먼트는 한 개 존재하거나 존재하지 않을 수 있다.
본 발명의 일 실시예에 따른 HighDynamicRange 엘레먼트는 최소 및/또는 최대 밝기 값 (min.luminance and/or max.luminance)을 나타낼 수 있다.
본 발명의 일 실시예에 따른 HighDynamicRange 엘레먼트는 최소 및/또는 최대 밝기 값으로 구분되는 profile 값을 나타낼 수 있다. 예를 들면, HighDynamicRange 엘레먼트는 Conventional capacity (min: 0.1cd/m2, max: 100cd/m2), Mid capacity (min: 0.001cd/m2, max: 1000cd/m2) 또는 High capacity (min: 0.0001cd/m2, max: 10000cd/m2)를 나타낼 수 있다.
도 5는 본 발명의 일 실시예에 따른 HEVC 스트림의 경우 random access를 위한 picture type을 나타낸 도면이다.
이 도면은 HEVC NAL unit type 중, random access 및 트릭 플레이의 수행을 위해 기본이 될 수 있는 픽처의 종류를 나타낸 도면이다.
이 도면에서 음영으로 표시된 picture type (TSA, STSA)은 temporal ID가 0보다 큰 스트림이 포함되는 경우 즉, temporal scalability가 제공되는 경우에 트릭 플레이를 위해 사용될 수 있는 HEVC temporal sub-layer picture type을 나타낼 수 있다. 상술한 음영으로 표시된 picture type은 본 발명의 일 실시예에 따른 시나리오 2 및 3에서 이용될 수 있다.
본 발명의 일 실시예에 따르면 random access point pictures는 IDR (Instantaneous Decoding Refresh), BLA (Broken Link Access) 및/또는 CRA (Clean Random Access)를 포함할 수 있고, leading picture는 RADL (Random Access Decodable Leading Picture) 및/또는 RASL (Random Access Skipped Leading Picture)를 포함할 수 있고, temporal sub-layer access pictures는 TSA (Temporal Sub-layer Access) 및/또는 STSA (Step-wise Temporal Sub-layer Access)를 포함할 수 있다.
IDR (Instantaneous Decoding Refresh) 픽처는 관련된 leading picture를 갖는 경우 및/또는 관련된 leading picture를 갖지 않는 경우를 포함할 수 있다.
BLA (Broken Link Access) 픽처는 관련된 RADL 픽처는 갖지만 관련된 RASL 픽처는 갖지 않는 경우 및/또는 관련된 leading picture를 갖지 않는 경우를 포함할 수 있다.
CRA (Clean Random Access) 픽처는 관련된 leading picture를 갖는 경우를 포함할 수 있다.
TSA (Temporal Sub-layer Access) 픽처는 같은 sub-layer에서 참조되지 않는 경우 및/또는 같은 sub-layer에서 참조되는 경우를 포함할 수 있다.
STSA (Step-wise Temporal Sub-layer Access) 픽처는 같은 sub-layer에서 참조되지 않는 경우 및/또는 같은 sub-layer에서 참조되는 경우를 포함할 수 있다.
도 6은 본 발명의 일 실시예에 따라 closed GOP인 경우 트릭 플레이의 방법을 나타낸 도면이다. (시나리오 1-1)
이 도면은 비디오 스트림 내에 최대 temporal_id 값이 0이고 closed GOP인 경우에 트릭 플레이를 수행하는 방법을 나타낸 도면이다. 여기서, GOP는 Group Of Picture의 약칭으로서 random access를 가능하게 하기 위한 부호화된 픽처들의 집합을 나타낸다. 여기서, closed GOP는 leading picture를 포함하지 않는 GOP를 의미하고, open GOP는 leading picture를 포함하는 GOP를 의미할 수 있다. 여기서, leading picture란 HEVC에서 IRAP (Intra Random Access Point, AVC codec에서 random access point와 동일한 개념) 보다 디코딩 순서는 느리지만 디스플레이 순서는 빠른 픽처를 나타낼 수 있다.
이 도면에서, 하나의 네모 박스는 하나의 픽처를 나타낼 수 있다. 여기서, 픽처는 프레임 및/또는 화상과 동일한 의미로 사용될 수 있다.
이 도면에서, I1부터 P9까지의 픽처 집합은 하나의 GOP를 나타낼 수 있다. 여기서, I 픽처는 MPEG 부호화 신호에서 사용되는 3가지 픽처 형식중 하나로서 하나의 완전한 픽처를 구성하기 위한 모든 데이터를 포함할 수 있다. 즉, I 픽처는 다른 픽처를 참조하지 않을 수 있다. P 픽처는 현재의 픽처와 재생 순서상 그 앞의 픽처간의 차이를 관찰하여 만들어진 예측정보와 실제 정보와의 차이 값만을 포함할 수 있다. 즉, P 픽처는 재생 순서상 현재의 픽처 앞에 존재하는 픽처를 참조할 수 있다. B 픽처는 현재의 픽처, 재생 순서상 현재의 픽처 앞에 존재하는 픽처 및 현재의 픽처 뒤에 존재하는 픽처간의 차이를 관찰하여 만들어진 예측정보만을 포함할 수 있다. 즉, B 픽처는 현재의 픽처 앞 및 뒤에 존재하는 픽처를 참조할 수 있다. 이 도면에서 도시된 화살표는 픽처들 간에 참조 여부를 나타낼 수 있다. 예를 들어, B3 픽처는 완전한 화상을 만들기 위하여 I1 픽처 및 B5 픽처를 참조할 수 있고, P9 픽처는 I1 픽처를 참조할 수 있다.
이 도면에서, 네모 안의 숫자는 각 픽처의 dependency_level을 나타낼 수 있다. 예를 들어, 첫 번째 픽처는 dependency_level이 1인 픽처를 나타내고, 두 번째 픽처는 dependency_level이 5인 픽처를 나타내고, 세 번째 픽처는 dependency_level이 4인 픽처를 나타낼 수 있다.
본 발명의 일 실시예에 따르면, 2배속 트릭 플레이는 dependency_level 값으로 1 내지 4를 갖는 픽처들을 디코딩함으로써 수행할 수 있다. 4배속 트릭 플레이는 dependency_level 값으로 1 내지 3을 갖는 픽처들을 디코딩함으로써 수행할 수 있다. 8배속 트릭 플레이는 dependency_level 값으로 1 내지 2를 갖는 픽처들을 디코딩함으로써 수행할 수 있다. 16배속 트릭 플레이는 dependency_level 값으로 1을 갖는 픽처들을 디코딩함으로써 수행할 수 있다.
도 7은 본 발명의 일 실시예에 따라 open GOP이고 GOP가 decodable leading picture를 포함하는 경우 트릭 플레이의 방법을 나타낸 도면이다. (시나리오 1-2)
첫 번째 도면은 비디오 스트림을 이루는 픽처들의 디코딩 순서를 나타낸 도면이고, 두 번째 도면은 정상배속 시 비디오 스트림을 이루는 픽처들의 디스플레이 순서를 나타낸 도면이고, 세 번째 도면은 2배속 트릭 플레이 시 비디오 스트림을 이루는 픽처들의 디스플레이 순서를 나타낸 도면이다.
두 번째 도면에서, 표시된 B0부터 B6까지의 픽처들이 decodable leading picture를 나타낼 수 있다.
이 도면에서, GOP에 포함된 leading picture는 decodable leading picture이기 때문에 두 번째 도면에 도시된 바와 같이 화살표 부분부터 디스플레이 될 수 있고, 세 번째 도면에 도시된 바와 같이 트릭 플레이가 수행될 수 있다. 여기서, 2배속 트릭 플레이가 수행되는 경우 각 픽처의 dependency_level에 따라 도면에 표시된 바와 같이 B1, B3, B5, RAP 및 B1 픽처가 디스플레이될 수 있다. 여기서, decodable leading picture는 RADL (Random Access Decodable Leading Picture)을 포함할 수 있다.
도 8은 본 발명의 일 실시예에 따라 open GOP이고 GOP가 decodable leading picture 및 skipped leading picture를 포함하는 경우 트릭 플레이의 방법을 나타낸 도면이다. (시나리오 1-2)
첫 번째 도면은 비디오 스트림을 이루는 픽처들의 디코딩 순서를 나타낸 도면이고, 두 번째 도면은 정상배속 시 비디오 스트림을 이루는 픽처들의 디스플레이 순서를 나타낸 도면이고, 세 번째 도면은 2배속 트릭 플레이 시 비디오 스트림을 이루는 픽처들의 디스플레이 순서를 나타낸 도면이다.
두 번째 및 세 번째 도면에서, 표시된 B0부터 B2까지의 픽처들이 skipped leading picture를 나타낼 수 있고, 표시된 B3부터 B6까지의 픽처들이 decodable leading picture를 나타낼 수 있다.
이 도면에서, skipped leading picture는 디스플레이될 수 없고, 트릭 플레이가 수행될 수 없다. 따라서, 두 번째 도면에 도시된 바와 같이 B3 픽처부터 디스플레이될 수 있고, 세 번째 도면에 도시된 바와 같이 B3 픽처부터 트릭 플레이가 수행될 수 있다. 여기서, 2배속 트릭 플레이가 수행되는 경우 각 픽처의 dependency_level에 따라 도면에 표시된 바와 같이 B3, B5, RAP 및 B1 픽처가 디스플레이될 수 있다. 여기서, decodable leading picture는 RADL (Random Access Decodable Leading Picture)을 포함할 수 있고, skipped leading picture는 RASL (Random Access Skipped Leading Picture)를 포함할 수 있다.
도 9는 본 발명의 일 실시예에 따라 open GOP이고 GOP가 skipped leading picture를 포함하는 경우 트릭 플레이의 방법을 나타낸 도면이다. (시나리오 1-2)
첫 번째 도면은 비디오 스트림을 이루는 픽처들의 디코딩 순서를 나타낸 도면이고, 두 번째 도면은 정상배속 시 비디오 스트림을 이루는 픽처들의 디스플레이 순서를 나타낸 도면이고, 세 번째 도면은 2배속 트릭 플레이 시 비디오 스트림을 이루는 픽처들의 디스플레이 순서를 나타낸 도면이다.
두 번째 및 세 번째 도면에서, 표시된 B0부터 B6까지의 픽처들이 skipped leading picture를 나타낼 수 있다.
이 도면에서, skipped leading picture는 디스플레이될 수 없고, 트릭 플레이가 수행될 수 없다. 따라서, 두 번째 도면에서 RAP부터 디스플레이될 수 있고, 2배속 트릭 플레이가 수행되는 경우 세 번째 도면에 도시된 바와 같이 RAP 및 B1 픽처가 디스플레이될 수 있다. 여기서, skipped leading picture는 RASL (Random Access Skipped Leading Picture)를 포함할 수 있다.
도 10은 본 발명의 일 실시예에 따라 max_temporal_id가 0인 HEVC 스트림의 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다. (시나리오 1-2)
이 도면은, 스트림 내의 최대 temporal_id가 0인 스트림을 트릭 플레이 하기 위하여 trick play box의 시그널링 방법을 나타낸 도면이다.
본 발명의 일 실시예에 따르면, "trikhvc"라는 새로운 박스가 정의될 수 있다. 본 발명의 일 실시예에 따른 trikhvc 박스는 sample_count 값만큼 반복되는 for 루프 내에 pic_type 필드 및/또는 dependency_level 필드를 포함할 수 있다.
sample_count는 스트림에 포함된 픽처의 총 개수를 의미할 수 있다. 여기서, 하나의 sample은 하나의 picture를 의미할 수 있다.
pic_type 필드는 HEVC의 NAL_unit_type에서 정의된 픽처의 종류를 나타낼 수 있다. 트릭 플레이에 이용될 수 있는 일부 NAL_unit_type은 본 발명의 일 실시예에 따른 pic_type으로 선택되어 사용될 수 있다. pic_type 필드는 4비트의 값을 나타낼 수 있다.
dependency_level 필드는 해당 픽처의 dependency level을 나타낼 수 있다. 본 발명의 일 실시예에 따른 dependency_level은 트릭 플레이를 수행하는 경우에 이용될 수 있다. dependency_level 필드는 기존 AVC의 trick play box에서 사용되었던 dependency_level 필드와 동일할 수 있다. 예를 들어, dependency_level이 3인 샘플을 포함하여 트릭 플레이를 수행한다는 것은 dependency_level이 1, 2 또는 3에 해당하는 샘플만을 디코딩하고 디스플레이한다는 것을 의미할 수 있다. 따라서, dependency_level은 트릭 플레이를 수행하는데 있어서 버려도 되는 layer의 level을 의미할 수 있다. leading picture가 존재하는 경우에도 decodable leading picture는 dependency_level을 가지며, 수신측은 기존에 트릭 플레이 방법과 동일하게 해당되지 않는 픽처를 건너뛰면서 해당되는 픽처만을 디코딩하고 디스플레이할 수 있다. dependency_level 필드는 6비트의 값을 나타낼 수 있다.
도 11은 본 발명의 또 다른 일 실시예에 따라 max_temporal_id가 0인 HEVC 스트림의 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다. (시나리오 1-2)
이 도면은, 스트림 내의 최대 temporal_id가 0인 스트림을 트릭 플레이 하기 위하여 trick play box의 시그널링 방법을 나타낸 도면이다.
본 발명의 일 실시예에 따르면, 기존에 정의된 "trik"이라는 박스를 이용하여 HEVC 스트림의 트릭 플레이가 수행될 수 있다. 본 발명의 일 실시예에 따르면, flag를 이용하여 AVC 또는 HEVC 트릭 플레이가 선택될 수 있다.
본 발명의 일 실시예에 따른 trik 박스는 flag를 이용해 video codec에 맞게 stream을 분리해서 시그널링 할 수 있다. 또한, sample_count 값만큼 반복되는 for 루프 내에 pic_type 필드 및/또는 dependency_level 필드를 포함할 수 있다.
본 발명의 일 실시예에 따른 flag 값이 0인 경우, trik 박스는 H.264/AVC trick play를 시그널링할 수 있고, flag 값이 1인 경우, trik 박스는 HEVC trick play를 시그널링할 수 있다.
sample_count는 스트림에 포함된 픽처의 총 개수를 의미할 수 있다. 여기서, 하나의 sample은 하나의 picture를 의미할 수 있다.
pic_type 필드는 HEVC의 NAL_unit_type에서 정의된 픽처의 종류를 나타낼 수 있다. 트릭 플레이에 이용될 수 있는 일부 NAL_unit_type은 본 발명의 일 실시예에 따른 pic_type으로 선택되어 사용될 수 있다. 본 발명의 일 실시예에 따른 flag 값이 0인 경우, pic_type 필드는 2비트의 값을 나타낼 수 있고, flag 값이 1인 경우, 4비트의 값을 나타낼 수 있다.
dependency_level 필드는 해당 픽처의 dependency level을 나타낼 수 있다. 본 발명의 일 실시예에 따른 dependency_level은 트릭 플레이를 수행하는 경우에 이용될 수 있다. dependency_level 필드는 기존 AVC의 trick play box에서 사용되었던 dependency_level 필드와 동일할 수 있다. 예를 들어, dependency_level이 3인 샘플을 포함하여 트릭 플레이를 수행한다는 것은 dependency_level이 1, 2 또는 3에 해당하는 샘플만을 디코딩하고 디스플레이한다는 것을 의미할 수 있다. 따라서, dependency_level은 트릭 플레이를 수행하는데 있어서 버려도 되는 layer의 level을 의미할 수 있다. leading picture가 존재하는 경우에도 decodable leading picture는 dependency_level을 가지며, 수신측은 기존에 트릭 플레이 방법과 동일하게 해당되지 않는 픽처를 건너뛰면서 해당되는 픽처만을 디코딩하고 디스플레이할 수 있다. dependency_level 필드는 6비트의 값을 나타낼 수 있다.
도 12는 본 발명의 일 실시예에 따라 max_temporal_id가 0인 HEVC 스트림의 트릭 플레이를 지원하기 위한 trick play box에 포함된 pic_type에 대한 설명을 나타낸 도면이다.
본 발명의 일 실시예에 따른 pic_type은 0 내지 15의 값을 가질 수 있다.
pic_type이 0인 경우, pic_type은 관련된 leading picture를 갖지 않는 IDR 픽처를 나타낼 수 있다. 이 경우, nal_unit_type은 IDR_N_LP을 나타낼 수 있다.
pic_type이 1인 경우, pic_type은 관련된 decodable leading picture를 갖는 IDR 픽처를 나타낼 수 있다. 이 경우, nal_unit_type은 IDR_W_RADL을 나타낼 수 있다.
pic_type이 2인 경우, pic_type은 관련된 leading picture를 갖는 BLA 픽처를 나타낼 수 있다. 이 경우, nal_unit_type은 BLA_N_LP을 나타낼 수 있다.
pic_type이 3인 경우, pic_type은 관련된 RADL 픽처를 갖지만 관련된 RASL 픽처를 갖지 않는 BLA 픽처를 나타낼 수 있다. 이 경우, nal_unit_type은 BLA_W_RADL을 나타낼 수 있다.
pic_type이 4인 경우, pic_type은 관련된 RADL 픽처 및 RASL 픽처를 갖는 BLA 픽처를 나타낼 수 있다. 이 경우, nal_unit_type은 BLA_W_LP을 나타낼 수 있다.
pic_type이 5인 경우, pic_type은 관련된 leading picture를 갖는 CRA 픽처를 나타낼 수 있다. 이 경우, nal_unit_type은 CRA_NUT을 나타낼 수 있다.
pic_type이 7인 경우, pic_type은 RADL (Random Access Decodable Leading Picture) 픽처를 나타낼 수 있다. 이 경우, nal_unit_type은 RADL_N 또는 RADL_R을 나타낼 수 있다.
pic_type이 8인 경우, pic_type은 RASL (Random Access Skipped Leading Picture) 픽처를 나타낼 수 있다. 이 경우, nal_unit_type은 RASL_N 또는 RASL_R을 나타낼 수 있다.
pic_type이 9인 경우, pic_type은 정해지지 않은 I 픽처를 나타낼 수 있다.
pic_type 10은 unknown 값에 해당할 수 있다.
pic_type 11 내지 15는 reserved 값에 해당할 수 있다.
도 13은 본 발명의 일 실시예에 따라 pic_type에 leading picture 관련된 내용이 포함되어 있지 않는 경우, max_temporal_id가 0인 HEVC 스트림의 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다. (시나리오 1-1)
이 도면은, 스트림 내의 최대 temporal_id가 0인 스트림을 트릭 플레이 하기 위하여 trick play box의 시그널링 방법을 나타낸 도면이다.
본 발명의 일 실시예에 따르면, "trikhvc"라는 새로운 박스가 정의될 수 있다. 본 발명의 일 실시예에 따른 trikhvc 박스는 sample_count 값만큼 반복되는 for 루프 내에 pic_type 필드 및/또는 dependency_level 필드를 포함할 수 있다.
sample_count는 스트림에 포함된 픽처의 총 개수를 의미할 수 있다. 여기서, 하나의 sample은 하나의 picture를 의미할 수 있다.
pic_type 필드는 HEVC의 NAL_unit_type에서 정의된 픽처의 종류를 나타낼 수 있다. 트릭 플레이에 이용될 수 있는 일부 NAL_unit_type은 본 발명의 일 실시예에 따른 pic_type으로 선택되어 사용될 수 있다. pic_type 필드는 3비트의 값을 나타낼 수 있다.
dependency_level 필드는 해당 픽처의 dependency level을 나타낼 수 있다. 본 발명의 일 실시예에 따른 dependency_level은 트릭 플레이를 수행하는 경우에 이용될 수 있다. dependency_level 필드는 기존 AVC의 trick play box에서 사용되었던 dependency_level 필드와 동일할 수 있다. 예를 들어, dependency_level이 3인 샘플을 포함하여 트릭 플레이를 수행한다는 것은 dependency_level이 1, 2 또는 3에 해당하는 샘플만을 디코딩하고 디스플레이한다는 것을 의미할 수 있다. 따라서, dependency_level은 트릭 플레이를 수행하는데 있어서 버려도 되는 layer의 level을 의미할 수 있다. leading picture가 존재하는 경우에도 decodable leading picture는 dependency_level을 가지며, 수신측은 기존에 트릭 플레이 방법과 동일하게 해당되지 않는 픽처를 건너뛰면서 해당되는 픽처만을 디코딩하고 디스플레이할 수 있다. dependency_level 필드는 5비트의 값을 나타낼 수 있다.
도 14는 본 발명의 또 다른 일 실시예에 따라 pic_type에 leading picture 관련된 내용이 포함되어 있지 않는 경우, max_temporal_id가 0인 HEVC 스트림의 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다. (시나리오 1-1)
이 도면은, 스트림 내의 최대 temporal_id가 0인 스트림을 트릭 플레이 하기 위하여 trick play box의 시그널링 방법을 나타낸 도면이다.
본 발명의 일 실시예에 따르면, 기존에 정의된 "trik"이라는 박스를 이용하여 HEVC 스트림의 트릭 플레이가 수행될 수 있다. 본 발명의 일 실시예에 따르면, flag를 이용하여 AVC 또는 HEVC 트릭 플레이가 선택될 수 있다.
본 발명의 일 실시예에 따른 trik 박스는 falg, sample_count 값만큼 반복되는 for 루프 내에 pic_type 필드 및/또는 dependency_level 필드를 포함할 수 있다.
본 발명의 일 실시예에 따른 flag 값이 0인 경우, trik 박스는 H.264/AVC trick play를 시그널링할 수 있고, flag 값이 1인 경우, trik 박스는 HEVC trick play를 시그널링할 수 있다.
sample_count는 스트림에 포함된 픽처의 총 개수를 의미할 수 있다. 여기서, 하나의 sample은 하나의 picture를 의미할 수 있다.
pic_type 필드는 HEVC의 NAL_unit_type에서 정의된 픽처의 종류를 나타낼 수 있다. 트릭 플레이에 이용될 수 있는 일부 NAL_unit_type은 본 발명의 일 실시예에 따른 pic_type으로 선택되어 사용될 수 있다. 본 발명의 일 실시예에 따른 flag 값이 0인 경우, pic_type 필드는 2비트의 값을 나타낼 수 있고, flag 값이 1인 경우, 3비트의 값을 나타낼 수 있다.
dependency_level 필드는 해당 픽처의 dependency level을 나타낼 수 있다. 본 발명의 일 실시예에 따른 dependency_level은 트릭 플레이를 수행하는 경우에 이용될 수 있다. dependency_level 필드는 기존 AVC의 trick play box에서 사용되었던 dependency_level 필드와 동일할 수 있다. 예를 들어, dependency_level이 3인 샘플을 포함하여 트릭 플레이를 수행한다는 것은 dependency_level이 1, 2 또는 3에 해당하는 샘플만을 디코딩하고 디스플레이한다는 것을 의미할 수 있다. 따라서, dependency_level은 트릭 플레이를 수행하는데 있어서 버려도 되는 layer의 level을 의미할 수 있다. leading picture가 존재하는 경우에도 decodable leading picture는 dependency_level을 가지며, 수신측은 기존에 트릭 플레이 방법과 동일하게 해당되지 않는 픽처를 건너뛰면서 해당되는 픽처만을 디코딩하고 디스플레이할 수 있다. 본 발명의 일 실시예에 따른 flag 값이 0인 경우, dependency_level 필드는 6비트의 값을 나타낼 수 있고, flag 값이 1인 경우, 5비트의 값을 나타낼 수 있다.
본 발명의 또 다른 일 실시예에 따르면, 트릭 플레이를 수행할 때 leading picture는 디스플레이되지 않는다는 제약이 포함되는 경우, pic_type은 아래와 같이 구성될 수 있다. pic_type이 0인 경우, pic_type은 해당 샘플이 unknown 샘플임을 나타낼 수 있고, pic_type이 1인 경우, pic_type은 해당 샘플이 IDR 샘플임을 나타낼 수 있고, pic_type이 2인 경우, pic_type은 해당 샘플이 CRA 샘플임을 나타낼 수 있고, pic_type이 3인 경우, pic_type은 해당 샘플이 BLA 샘플임을 나타낼 수 있고, pic_type이 4인 경우, pic_type은 해당 샘플이 unconstrained I 샘플임을 나타낼 수 있다. 이 경우, HEVC 스트림에 대한 pic_type 및/또는 dependency_level 필드에 할당되는 비트 수가 줄어들 수 있다. 여기서, 샘플은 픽처와 동일한 의미를 나타낼 수 있다.
도 15는 본 발명의 일 실시예에 따른 temporal scalability를 지원하는 HEVC 스트림의 구성을 나타낸 도면이다.
이 도면에서, 네모 박스는 스트림에 포함되는 픽처를 나타낼 수 있고, T_ID는 temporal id를 나타낼 수 있다.
도 16은 본 발명의 일 실시예에 따라 temporal scalability를 지원하는 HEVC 스트림에서 최대 배속을 제한하여 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다. (시나리오 2)
이 도면은 max_temporal_id가 0보다 큰 즉, temporal scalability를 지원하는 HEVC 스트림에서 트릭 플레이를 지원하기 위하여 최대로 지원할 수 있는 배속을 제한할 수 있도록 시그널링하는 방법을 나타낸 도면이다. 예를 들어, 최대 temporal_id가 2일 경우, 최대 4배속까지만 제공될 수 있다.
본 발명의 일 실시예에 따르면, "trikhvc"라는 새로운 박스가 정의될 수 있다. 본 발명의 일 실시예에 따른 trikhvc 박스는 sample_count 값만큼 반복되는 for 루프 내에 pic_type 필드, temporal_sub_layer_pic_type 필드, max_temporal_id 필드, temporal_id 필드, constraint_trick_play_mode 필드 및/또는 next_temporal_id 필드를 포함할 수 있다.
sample_count는 스트림에 포함된 픽처의 총 개수를 의미할 수 있다. 여기서, 하나의 sample은 하나의 picture를 의미할 수 있다.
pic_type 필드는 HEVC의 NAL_unit_type에서 정의된 픽처의 종류를 나타낼 수 있다. 트릭 플레이에 이용될 수 있는 일부 NAL_unit_type은 본 발명의 일 실시예에 따른 pic_type으로 선택되어 사용될 수 있다. pic_type 필드는 4비트의 값을 나타낼 수 있다.
temporal_sub_layer_pic_type 필드는 해당 픽처가 TSA (Temporal Sub-layer Access) 픽처인지 STSA (Step-wise Temporal Sub-layer Access) 픽처인지를 나타낼 수 있다. temporal_sub_layer_pic_type이 1이면, temporal_sub_layer_pic_type은 해당 픽처가 TSA 픽처임을 나타낼 수 있고, temporal_sub_layer_pic_type이 2이면, temporal_sub_layer_pic_type은 해당 픽처가 STSA 픽처임을 나타낼 수 있고, temporal_sub_layer_pic_type이 3이면, temporal_sub_layer_pic_type은 해당 픽처가 unknown 픽처임을 나타낼 수 있다. HEVC는 temporal scalability를 제공하고 적응적으로 frame rate를 변경할 수 있도록 temporal_sub_layer_access_picture를 구분할 수 있다. 즉, HEVC는 temporal_id가 0이 아닌 layer에서 TSA 픽처 및 STSA 픽처를 기반으로 다이나믹하게 frame rate를 변경시킬 수 있다. TSA와 STSA는 fram rate를 어떻게 및 얼마나 변경할 수 있는지에 대해서 차이가 존재할 수 있다. 즉, TSA와 STSA는 한번에 몇 개의 temporal_id를 건너뛸 수 있는지에 대해서 차이가 존재할 수 있다. 예를 들면, temporal_id가 0인 경우 frame rate는 15p이고, temporal_id가 1인 경우 frame rate는 30p이고, temporal_id가 2인 경우 (max_temporal_id) frame rate는 60p라면, TSA는 temporal_id가 0인 레이어에서 temporal_id가 2인 레이어로 바로 접근할 수 있으므로 방송 시스템은 frame rate가 15p인 서비스를 제공하다가 60p인 서비스를 제공하는 것으로 바로 변경할 수 있다. 반면, STSA는 단계적 접근만을 할 수 있으므로 temporal_id가 0인 레이어에서 temporal_id가 1인 레이어로 먼저 접근하고 그 후에 temporal_id가 2인 레이어로 접근할 수 있다. 따라서, 이 경우 방송 시스템은 점차적으로 frame rate가 15p인 서비스를 제공하다가 30p인 서비스를 제공하고 최종적으로 60p인 서비스를 제공할 수 있다.
max_temporal_id 필드는 스트림에 포함된 최대 temporal_id 값을 나타낼 수 있다.
temporal_id 필드는 HEVC의 nuh_temporal_id_plus1 값을 이용하여 계산된 temporal id 값을 나타낼 수 있다. temporal_id 필드가 가지는 값은 nuh_temporal_id_plus1 값에서 1을 뺀 값을 나타낼 수 있다.
constraint_trick_play_mode 필드는 최대로 제공될 수 있는 배속 정보를 나타낼 수 있다. max_temporal_id 값을 이용하여 max_trick_play_mode (최대로 제공될 수 있는 배속) = 2^(max_temporal_id)이라는 식을 통하여, 본 발명은 최대로 제공 가능한 배속을 시그널링할 수 있다. 예를 들어, 최대 temporal id가 2인 경우 본 발명은 2^2인 4배속을 최대로 제공할 수 있다. 본 발명의 일 실시예에 따르면, 본 발명은 max_trick_play_mode를 상술한 식을 통하여 계산된 값보다 작은 값으로 할당하는 제한을 둘 수 있다. 예를 들어, max_trick_play_mode의 값이 1이면 2배속, 2이면 4배속, 3이면 8배속, 4이면 16배속을 나타낼 수 있다. 여기서, constraint_trick_play_mode는 max_trick_play_mode와 동일한 의미를 가질 수 있다. 본 발명의 일 실시예에는 max_trick_play_mode보다 빠른 배속은 지원할 수 없고, max_trick_play_mode와 동일한 배속 수는 지원할 수 있다. 또한, 본 발명의 일 실시예는 계산된 max_trick_play_mode 값보다 작은 값으로 할당하는 constraint를 signaling 할 수도 있다.
next_temporal_id 필드는 temporal_sub_layer_pic_type에 따라 최대로 변경 가능한 frame rate를 알려주기 위하여, 이동 가능한 temporal_id를 나타낼 수 있다. 예를 들어, max_temporal_id가 2인 스트림에서, temporal_id가 0인 픽처만을 디스플레이하는 4배속의 트릭 플레이를 제공하다가 정상배속 (1배속)으로 되돌리고자 할 때, temporal_sub_layer_pic_type이 TSA이면 next_temporal_id는 max_temporal_id 값을 가질 수 있다. 반면, STSA이면 next_temporal_id는 temporal_id 값에서 1을 더한 값을 가질 수 있다.
도 17은 본 발명의 또 다른 일 실시예에 따라 temporal scalability를 지원하는 HEVC 스트림에서 최대 배속을 제한하여 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다. (시나리오 2)
이 도면은 max_temporal_id가 0보다 큰 즉, temporal scalability를 지원하는 HEVC 스트림에서 트릭 플레이를 지원하기 위하여 최대로 지원할 수 있는 배속을 제한할 수 있도록 시그널링하는 방법을 나타낸 도면이다. 예를 들어, 최대 temporal_id가 2일 경우, 최대 4배속까지만 제공될 수 있다.
본 발명의 일 실시예에 따르면, 기존에 정의된 "trik"이라는 박스를 이용하여 HEVC 스트림의 트릭 플레이가 수행될 수 있다. 본 발명의 일 실시예에 따르면, flag를 이용하여 AVC 또는 HEVC 트릭 플레이가 선택될 수 있다.
본 발명의 일 실시예에 따른 trik 박스는 flag, sample_count 값만큼 반복되는 for 루프 내에 pic_type 필드, dependency_level 필드, temporal_sub_layer_pic_type 필드, max_temporal_id 필드, temporal_id 필드, constraint_trick_play_mode 필드 및/또는 next_temporal_id 필드를 포함할 수 있다.
sample_count는 스트림에 포함된 픽처의 총 개수를 의미할 수 있다. 여기서, 하나의 sample은 하나의 picture를 의미할 수 있다.
pic_type 필드는 HEVC의 NAL_unit_type에서 정의된 픽처의 종류를 나타낼 수 있다. 트릭 플레이에 이용될 수 있는 일부 NAL_unit_type은 본 발명의 일 실시예에 따른 pic_type으로 선택되어 사용될 수 있다. 본 발명의 일 실시예에 따른 flag 값이 0인 경우, pic_type 필드는 2비트의 값을 나타낼 수 있고, flag 값이 1인 경우, 4비트의 값을 나타낼 수 있다.
dependency_level 필드는 해당 픽처의 dependency level을 나타낼 수 있다. 본 발명의 일 실시예에 따른 dependency_level은 트릭 플레이를 수행하는 경우에 이용될 수 있다. dependency_level 필드는 기존 AVC의 trick play box에서 사용되었던 dependency_level 필드와 동일할 수 있다. 예를 들어, dependency_level이 3인 샘플을 포함하여 트릭 플레이를 수행한다는 것은 dependency_level이 1, 2 또는 3에 해당하는 샘플만을 디코딩하고 디스플레이한다는 것을 의미할 수 있다. 따라서, dependency_level은 트릭 플레이를 수행하는데 있어서 버려도 되는 layer의 level을 의미할 수 있다. leading picture가 존재하는 경우에도 decodable leading picture는 dependency_level을 가지며, 수신측은 기존에 트릭 플레이 방법과 동일하게 해당되지 않는 픽처를 건너뛰면서 해당되는 픽처만을 디코딩하고 디스플레이할 수 있다. dependency_level 필드는 6비트의 값을 나타낼 수 있다.
temporal_sub_layer_pic_type 필드는 해당 픽처가 TSA (Temporal Sub-layer Access) 픽처인지 STSA (Step-wise Temporal Sub-layer Access) 픽처인지를 나타낼 수 있다. temporal_sub_layer_pic_type이 1이면, temporal_sub_layer_pic_type은 해당 픽처가 TSA 픽처임을 나타낼 수 있고, temporal_sub_layer_pic_type이 2이면, temporal_sub_layer_pic_type은 해당 픽처가 STSA 픽처임을 나타낼 수 있고, temporal_sub_layer_pic_type이 3이면, temporal_sub_layer_pic_type은 해당 픽처가 unknown 픽처임을 나타낼 수 있다. HEVC는 temporal scalability를 제공하고 적응적으로 frame rate를 변경할 수 있도록 temporal_sub_layer_access_picture를 구분할 수 있다. 즉, HEVC는 temporal_id가 0이 아닌 layer에서 TSA 픽처 및 STSA 픽처를 기반으로 다이나믹하게 frame rate를 변경시킬 수 있다. TSA와 STSA는 fram rate를 어떻게 및 얼마나 변경할 수 있는지에 대해서 차이가 존재할 수 있다. 즉, TSA와 STSA는 한번에 몇 개의 tempora_id를 건너뛸 수 있는지에 대해서 차이가 존재할 수 있다. 예를 들면, temporal_id가 0인 경우 frame rate는 15p이고, temporal_id가 1인 경우 frame rate는 30p이고, temporal_id가 2인 경우 (max_temporal_id) frame rate는 60p라면, TSA는 temporal_id가 0인 레이어에서 temporal_id가 2인 레이어로 바로 접근할 수 있으므로 방송 시스템은 frame rate가 15p인 서비스를 제공하다가 60p인 서비스를 제공하는 것으로 바로 변경할 수 있다. 반면, STSA는 단계적 접근만을 할 수 있으므로 temporal_id가 0인 레이어에서 temporal_id가 1인 레이어로 먼저 접근하고 그 후에 temporal_id가 2인 레이어로 접근할 수 있다. 따라서, 이 경우 방송 시스템은 점차적으로 frame rate가 15p인 서비스를 제공하다가 30p인 서비스를 제공하고 최종적으로 60p인 서비스를 제공할 수 있다.
max_temporal_id 필드는 스트림에 포함된 최대 temporal_id 값을 나타낼 수 있다.
temporal_id 필드는 HEVC의 nuh_temporal_id_plus1 값을 이용하여 계산된 temporal id 값을 나타낼 수 있다. temporal_id 필드가 가지는 값은 nuh_temporal_id_plus1 값에서 1을 뺀 값을 나타낼 수 있다.
constraint_trick_play_mode 필드는 최대로 제공될 수 있는 배속 정보를 나타낼 수 있다. max_temporal_id 값을 이용하여 max_trick_play_mode (최대로 제공될 수 있는 배속) = 2^(max_temporal_id)이라는 식을 통하여, 본 발명은 최대로 제공 가능한 배속을 시그널링할 수 있다. 예를 들어, 최대 temporal id가 2인 경우 본 발명은 2^2인 4배속을 최대로 제공할 수 있다. 본 발명의 일 실시예에 따르면, 본 발명은 max_trick_play_mode를 상술한 식을 통하여 계산된 값보다 작은 값으로 할당하는 제한을 둘 수 있다. 예를 들어, max_trick_play_mode의 값이 1이면 2배속, 2이면 4배속, 3이면 8배속, 4이면 16배속을 나타낼 수 있다. 여기서, constraint_trick_play_mode는 max_trick_play_mode와 동일한 의미를 가질 수 있다.
next_temporal_id 필드는 temporal_sub_layer_pic_type에 따라 최대로 변경 가능한 frame rate를 알려주기 위하여, 이동 가능한 temporal_id를 나타낼 수 있다. 예를 들어, max_temporal_id가 2인 스트림에서, temporal_id가 0인 픽처만을 디스플레이하는 4배속의 트릭 플레이를 제공하다가 정상배속 (1배속)으로 되돌리고자 할 때, temporal_sub_layer_pic_type이 TSA이면 next_temporal_id는 max_temporal_id 값을 가질 수 있다. 반면, STSA이면 next_temporal_id는 temporal_id 값에서 1을 더한 값을 가질 수 있다.
도 18은 본 발명의 일 실시예에 따른 temporal sub-layer picture type이 TSA인 경우 frame rate의 변경 방법을 나타낸 도면이다.
이 도면에서 도시된 바와 같이, temporal sub-layer picture type이 TSA인 경우 수신측은 temporal_id가 0인 레이어의 스트림만을 디스플레이하다가 즉, 4배속으로 트릭 플레이를 수행하다가 바로 1배속 (정상배속)으로 디스플레이할 수 있다.
이 도면에서 도시된 바와 같이, temporal sub-layer picture type이 TSA인 경우 수신측은 temporal_id가 0인 픽처를 디코딩 및 디스플레이하다가 바로 temporal_id가 2인 픽처를 디코딩 및 디스플레이할 수 있다.
도 19는 본 발명의 일 실시예에 따른 temporal sub-layer picture type이 STSA인 경우 frame rate의 변경 방법을 나타낸 도면이다. (시나리오 3)
이 도면에서 도시된 바와 같이, temporal sub-layer picture type이 STSA인 경우 수신측은 temporal_id가 0인 레이어의 스트림만을 디스플레이하다가 즉, 4배속으로 트릭 플레이를 수행하다가 바로 1배속 (정상배속)으로 디스플레이할 수 없고, 중간에 2배속으로 디스플레이하는 과정을 거친 후 1배속으로 디스플레이할 수 있다. 따라서, 본 발명의 일 실시예에 따른 temporal sub-layer picture type이 STSA인 경우에는 변환이 가능한 배속수에 대한 제한을 알려주는 방법이 필요할 수 있다. 즉, next_temporal_id를 시그널링해주는 것이 필요할 수 있다.
이 도면에서 도시된 바와 같이, temporal sub-layer picture type이 STSA이고 4배속으로 디스플레이하다가 1배속으로 디스플레이하고자 할 경우 수신측은 temporal_id가 0인 픽처를 디코딩 및 디스플레이하다가 바로 temporal_id가 2인 픽처를 디코딩 및 디스플레이할 수 없고, temporal_id가 1인 픽처를 디코딩 및 디스플레이한 후 temporal_id가 2인 픽처를 디코딩 및 디스플레이할 수 있다.
도 20은 본 발명의 일 실시예에 따라 temporal scalability를 지원하는 HEVC 스트림에서 고배속의 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다. (시나리오 3)
본 발명의 일 실시예에 따르면, "trikhvc"라는 새로운 박스가 정의될 수 있다. 본 발명의 일 실시예에 따른 trikhvc 박스는 sample_count 값만큼 반복되는 for 루프 내에 pic_type 필드, temporal_sub_layer_pic_type 필드, max_temporal_id 필드, temporal_id 필드, next_temporal_id 필드 및/또는 dependency_level 필드를 포함할 수 있다.
sample_count는 스트림에 포함된 픽처의 총 개수를 의미할 수 있다. 여기서, 하나의 sample은 하나의 picture를 의미할 수 있다.
pic_type 필드는 HEVC의 NAL_unit_type에서 정의된 픽처의 종류를 나타낼 수 있다. 트릭 플레이에 이용될 수 있는 일부 NAL_unit_type은 본 발명의 일 실시예에 따른 pic_type으로 선택되어 사용될 수 있다. pic_type 필드는 4비트의 값을 나타낼 수 있다.
temporal_sub_layer_pic_type 필드는 해당 픽처가 TSA (Temporal Sub-layer Access) 픽처인지 STSA (Step-wise Temporal Sub-layer Access) 픽처인지를 나타낼 수 있다. temporal_sub_layer_pic_type이 1이면, temporal_sub_layer_pic_type은 해당 픽처가 TSA 픽처임을 나타낼 수 있고, temporal_sub_layer_pic_type이 2이면, temporal_sub_layer_pic_type은 해당 픽처가 STSA 픽처임을 나타낼 수 있고, temporal_sub_layer_pic_type이 3이면, temporal_sub_layer_pic_type은 해당 픽처가 unknown 픽처임을 나타낼 수 있다. HEVC는 temporal scalability를 제공하고 적응적으로 frame rate를 변경할 수 있도록 temporal_sub_layer_access_picture를 구분할 수 있다. 즉, HEVC는 temporal_id가 0이 아닌 layer에서 TSA 픽처 및 STSA 픽처를 기반으로 다이나믹하게 frame rate를 변경시킬 수 있다. TSA와 STSA는 fram rate를 어떻게 및 얼마나 변경할 수 있는지에 대해서 차이가 존재할 수 있다. 즉, TSA와 STSA는 한번에 몇 개의 tempora_id를 건너뛸 수 있는지에 대해서 차이가 존재할 수 있다. 예를 들면, temporal_id가 0인 경우 frame rate는 15p이고, temporal_id가 1인 경우 frame rate는 30p이고, temporal_id가 2인 경우 (max_temporal_id) frame rate는 60p라면, TSA는 temporal_id가 0인 레이어에서 temporal_id가 2인 레이어로 바로 접근할 수 있으므로 방송 시스템은 frame rate가 15p인 서비스를 제공하다가 60p인 서비스를 제공하는 것으로 바로 변경할 수 있다. 반면, STSA는 단계적 접근만을 할 수 있으므로 temporal_id가 0인 레이어에서 temporal_id가 1인 레이어로 먼저 접근하고 그 후에 temporal_id가 2인 레이어로 접근할 수 있다. 따라서, 이 경우 방송 시스템은 점차적으로 frame rate가 15p인 서비스를 제공하다가 30p인 서비스를 제공하고 최종적으로 60p인 서비스를 제공할 수 있다.
max_temporal_id 필드는 스트림에 포함된 최대 temporal_id 값을 나타낼 수 있다.
temporal_id 필드는 HEVC의 nuh_temporal_id_plus1 값을 이용하여 계산된 temporal id 값을 나타낼 수 있다. temporal_id 필드가 가지는 값은 nuh_temporal_id_plus1 값에서 1을 뺀 값을 나타낼 수 있다.
next_temporal_id 필드는 temporal_sub_layer_pic_type에 따라 최대로 변경 가능한 frame rate를 알려주기 위하여, 이동 가능한 temporal_id를 나타낼 수 있다. 예를 들어, max_temporal_id가 2인 스트림에서, temporal_id가 0인 픽처만을 디스플레이하는 4배속의 트릭 플레이를 제공하다가 정상배속 (1배속)으로 되돌리고자 할 때, temporal_sub_layer_pic_type이 TSA이면 next_temporal_id는 max_temporal_id 값을 가질 수 있다. 반면, STSA이면 next_temporal_id는 temporal_id 값에서 1을 더한 값을 가질 수 있다.
dependency_level 필드는 해당 픽처의 dependency level을 나타낼 수 있다. 본 발명의 일 실시예에 따른 dependency_level은 트릭 플레이를 수행하는 경우에 이용될 수 있다. dependency_level 필드는 기존 AVC의 trick play box에서 사용되었던 dependency_level 필드와 동일할 수 있다. 예를 들어, dependency_level이 3인 샘플을 포함하여 트릭 플레이를 수행한다는 것은 dependency_level이 1, 2 또는 3에 해당하는 샘플만을 디코딩하고 디스플레이한다는 것을 의미할 수 있다. 따라서, dependency_level은 트릭 플레이를 수행하는데 있어서 버려도 되는 layer의 level을 의미할 수 있다. leading picture가 존재하는 경우에도 decodable leading picture는 dependency_level을 가지며, 수신측은 기존에 트릭 플레이 방법과 동일하게 해당되지 않는 픽처를 건너뛰면서 해당되는 픽처만을 디코딩하고 디스플레이할 수 있다. dependency_level 필드는 6비트의 값을 나타낼 수 있다.
본 발명의 일 실시예에 따르면, 이 도면에 도시된 trick play box는 트릭 플레이에서 지원가능한 최대 배속을 나타내는 max_trick_play_mode 필드를 포함할 수 있다.
본 발명의 일 실시예에 따르면, max_temporal_id가 2인 경우 2배속 트릭 플레이 서비스를 제공하기 위하여 수신측은 temporal_id가 0 및 1인 픽처만을 디코딩할 수 있다. 또한, 4배속 트릭 플레이 서비스를 제공하기 위하여 수신측은 temporal_id가 0인 픽처만을 디코딩 및 디스플레이할 수 있다. 또한, 4배속보다 고배속의 트릭 플레이 서비스를 제공하기 위하여 수신측은 temporal_id가 0인 픽처들 중에서 dependency_level에 따라서 픽처들을 분류하고 해당하는 dependency_level을 갖는 픽처만을 디코딩 및 디스플레이함으로써 4배속보다 고배속의 트릭 플레이 서비스를 제공할 수 있다.
도 21은 본 발명의 또 다른 일 실시예에 따라 temporal scalability를 지원하는 HEVC 스트림에서 고배속의 트릭 플레이를 지원하기 위한 trick play box의 구성을 나타낸 도면이다.
본 발명의 일 실시예에 따르면, 기존에 정의된 "trik"이라는 박스를 이용하여 HEVC 스트림의 트릭 플레이가 수행될 수 있다. 본 발명의 일 실시예에 따르면, flag를 이용하여 AVC 또는 HEVC 트릭 플레이가 선택될 수 있다.
본 발명의 일 실시예에 따른 trik 박스는 flag, sample_count 값만큼 반복되는 for 루프 내에 pic_type 필드, dependency_level 필드, temporal_sub_layer_pic_type 필드, max_temporal_id 필드, temporal_id 필드 및/또는 next_temporal_id 필드를 포함할 수 있다.
sample_count는 스트림에 포함된 픽처의 총 개수를 의미할 수 있다. 여기서, 하나의 sample은 하나의 picture를 의미할 수 있다.
pic_type 필드는 HEVC의 NAL_unit_type에서 정의된 픽처의 종류를 나타낼 수 있다. 트릭 플레이에 이용될 수 있는 일부 NAL_unit_type은 본 발명의 일 실시예에 따른 pic_type으로 선택되어 사용될 수 있다. 본 발명의 일 실시예에 따른 flag 값이 0인 경우, pic_type 필드는 2비트의 값을 나타낼 수 있고, flag 값이 1인 경우, 4비트의 값을 나타낼 수 있다.
dependency_level 필드는 해당 픽처의 dependency level을 나타낼 수 있다. 본 발명의 일 실시예에 따른 dependency_level은 트릭 플레이를 수행하는 경우에 이용될 수 있다. dependency_level 필드는 기존 AVC의 trick play box에서 사용되었던 dependency_level 필드와 동일할 수 있다. 예를 들어, dependency_level이 3인 샘플을 포함하여 트릭 플레이를 수행한다는 것은 dependency_level이 1, 2 또는 3에 해당하는 샘플만을 디코딩하고 디스플레이한다는 것을 의미할 수 있다. 따라서, dependency_level은 트릭 플레이를 수행하는데 있어서 버려도 되는 layer의 level을 의미할 수 있다. leading picture가 존재하는 경우에도 decodable leading picture는 dependency_level을 가지며, 수신측은 기존에 트릭 플레이 방법과 동일하게 해당되지 않는 픽처를 건너뛰면서 해당되는 픽처만을 디코딩하고 디스플레이할 수 있다. dependency_level 필드는 6비트의 값을 나타낼 수 있다.
temporal_sub_layer_pic_type 필드는 해당 픽처가 TSA (Temporal Sub-layer Access) 픽처인지 STSA (Step-wise Temporal Sub-layer Access) 픽처인지를 나타낼 수 있다. temporal_sub_layer_pic_type이 1이면, temporal_sub_layer_pic_type은 해당 픽처가 TSA 픽처임을 나타낼 수 있고, temporal_sub_layer_pic_type이 2이면, temporal_sub_layer_pic_type은 해당 픽처가 STSA 픽처임을 나타낼 수 있고, temporal_sub_layer_pic_type이 3이면, temporal_sub_layer_pic_type은 해당 픽처가 unknown 픽처임을 나타낼 수 있다. HEVC는 temporal scalability를 제공하고 적응적으로 frame rate를 변경할 수 있도록 temporal_sub_layer_access_picture를 구분할 수 있다. 즉, HEVC는 temporal_id가 0이 아닌 layer에서 TSA 픽처 및 STSA 픽처를 기반으로 다이나믹하게 frame rate를 변경시킬 수 있다. TSA와 STSA는 fram rate를 어떻게 및 얼마나 변경할 수 있는지에 대해서 차이가 존재할 수 있다. 즉, TSA와 STSA는 한번에 몇 개의 tempora_id를 건너뛸 수 있는지에 대해서 차이가 존재할 수 있다. 예를 들면, temporal_id가 0인 경우 frame rate는 15p이고, temporal_id가 1인 경우 frame rate는 30p이고, temporal_id가 2인 경우 (max_temporal_id) frame rate는 60p라면, TSA는 temporal_id가 0인 레이어에서 temporal_id가 2인 레이어로 바로 접근할 수 있으므로 방송 시스템은 frame rate가 15p인 서비스를 제공하다가 60p인 서비스를 제공하는 것으로 바로 변경할 수 있다. 반면, STSA는 단계적 접근만을 할 수 있으므로 temporal_id가 0인 레이어에서 temporal_id가 1인 레이어로 먼저 접근하고 그 후에 temporal_id가 2인 레이어로 접근할 수 있다. 따라서, 이 경우 방송 시스템은 점차적으로 frame rate가 15p인 서비스를 제공하다가 30p인 서비스를 제공하고 최종적으로 60p인 서비스를 제공할 수 있다.
max_temporal_id 필드는 스트림에 포함된 최대 temporal_id 값을 나타낼 수 있다.
temporal_id 필드는 HEVC의 nuh_temporal_id_plus1 값을 이용하여 계산된 temporal id 값을 나타낼 수 있다. temporal_id 필드가 가지는 값은 nuh_temporal_id_plus1 값에서 1을 뺀 값을 나타낼 수 있다.
next_temporal_id 필드는 temporal_sub_layer_pic_type에 따라 최대로 변경 가능한 frame rate를 알려주기 위하여, 이동 가능한 temporal_id를 나타낼 수 있다. 예를 들어, max_temporal_id가 2인 스트림에서, temporal_id가 0인 픽처만을 디스플레이하는 4배속의 트릭 플레이를 제공하다가 정상배속 (1배속)으로 되돌리고자 할 때, temporal_sub_layer_pic_type이 TSA이면 next_temporal_id는 max_temporal_id 값을 가질 수 있다. 반면, STSA이면 next_temporal_id는 temporal_id 값에서 1을 더한 값을 가질 수 있다.
본 발명의 일 실시예에 따르면, 이 도면에 도시된 trick play box는 트릭 플레이에서 지원가능한 최대 배속을 나타내는 max_trick_play_mode 필드를 포함할 수 있다.
본 발명의 일 실시예에 따르면, max_temporal_id가 2인 경우 2배속 트릭 플레이 서비스를 제공하기 위하여 수신측은 temporal_id가 0 및 1인 픽처만을 디코딩할 수 있다. 또한, 4배속 트릭 플레이 서비스를 제공하기 위하여 수신측은 temporal_id가 0인 픽처만을 디코딩 및 디스플레이할 수 있다. 또한, 4배속보다 고배속의 트릭 플레이 서비스를 제공하기 위하여 수신측은 temporal_id가 0인 픽처들 중에서 dependency_level에 따라서 픽처들을 분류하고 해당하는 dependency_level을 갖는 픽처만을 디코딩 및 디스플레이함으로써 4배속보다 고배속의 트릭 플레이 서비스를 제공할 수 있다.
도 22는 본 발명의 일 실시예에 따른 temporal id와 tier를 복합적으로 이용한 트릭 플레이의 방법을 나타낸 도면이다.
본 발명의 일 실시예에 따르면 tier 값은 temporal id가 0인 픽처에 대해서만 할당될 수 있다.
이 도면에서 도시된 바와 같이, 본 발명의 일 실시예에 따른 수신기는 temporal id가 0, 1, 2 또는 3인 픽처들을 디코딩 및 디스플레이함으로써 정상배속의 트릭 플레이를 수행할 수 있고, temporal id가 0, 1 또는 2인 픽처들을 디코딩 및 디스플레이함으로써 2배속의 트릭 플레이를 수행할 수 있고, temporal id가 0 또는 1인 픽처들을 디코딩 및 디스플레이함으로써 4배속의 트릭 플레이를 수행할 수 있고, temporal id가 0인 픽처들을 모두 디코딩 및 디스플레이함으로써 8배속의 트릭 플레이를 수행할 수 있다. 본 발명은 temporal id가 0인 픽처에 대해서 각기 다른 tier 값을 할당함으로써 8배속보다 더 빠른 트릭 플레이를 수행할 수 있다.
본 발명의 일 실시예에 따르면, 트릭 플레이를 제공하기 위하여 다음과 같은 방법이 이용될 수 있다. PVR_assist_info descriptor를 이용하기 위해서 tier와 temporal id를 매핑함으로써 트릭 플레이가 제공될 수 있다. (시나리오 A) PVR_assist_info descriptor에 temporal id를 이용한 트릭 플레이를 포함함으로써 트릭 플레이가 제공될 수 있다. (시나리오 B) NAL_unit_header의 nuh_temporal_id_plus1 정보를 파싱하여 실제 트릭 플레이를 위해 필요한 패킷만 선택함으로써 트릭 플레이가 제공될 수 있다. (시나리오 C)
본 발명의 일 실시예에 따른 temporal sub-layer 또는 temporal id는 HEVC에서 temporal scalability를 지원하기 위하여 도입된 용어이고, NAL_unit_header의 nuh_temporal_id_plus1에 의하여 시그널링될 수 있다.
본 발명의 일 실시예에 따른 tier는 AVC 스트림 또는 mpeg-2 스트림에서 트릭 플레이를 지원하기 위하여 도입된 용어이고, TS packet내에 adaptation field에 포함될 수 있다.
도 23는 본 발명의 일 실시예에 따라, 기존의 tier 개념에 따른 트릭 플레이 방법을 나타낸 도면이다.
본 발명의 일 실시예에 따른 기존의 tier는 layer간 dependency를 나타낼 수 있다.
이 도면에 도시된 바와 같이, temporal id가 3인 픽처들은 tier값으로 6을 가질 수 있고, temporal id가 2인 픽처들은 tier값으로 4를 가질 수 있고, temporal id가 1인 픽처들은 tier값으로 3을 가질 수 있고, temporal id가 0인 픽처들 중에서 I 픽처는 tier값으로 1을 가질 수 있고 P 픽처는 tier값으로 2를 가질 수 있다. 즉, temporal id가 0인 픽처들은 같은 temporal id를 갖지만 서로 다른 tier값을 가질 수 있다.
본 발명의 일 실시예에 따르면, max_temporal_id를 갖는 즉, dependency_level이 가장 높은 픽처들은 tier 값으로 6 또는 7을 가질 수 있다. 그리고, 그 이외의 temporal_id를 갖는 픽처들은 tier 값으로 1 내지 5를 가질 수 있다. 이 때, temporal_id가 0인 레이어에 해당하는 픽처들은 픽처의 타입에 따라 tier 값으로 1 또는 2 값을 가질 수 있다.
도 24은 본 발명의 일 실시예에 따라, 하나의 temporal id를 하나의 tier에 1:1로 매핑하는 방법에 따른 트릭 플레이 방법을 나타낸 도면이다. (시나리오 A-a)
본 발명의 일 실시예에 따르면, temporal id는 포함하지만 tier 정보는 포함하지 않는 HEVC 스트림을 기반으로 트릭 플레이를 제공하기 위해서 temporal id와 tier를 매핑하는 방법이 사용될 수 있다. (시나리오 A)
본 발명의 일 실시예에 따른 트릭 플레이를 제공하기 위해서 하나의 temporal id를 하나의 tier에 1:1로 매핑하는 방법이 사용될 수 있고, (시나리오 A-a) 하나의 temporal id를 여러 개의 tier에 매핑하는 방법이 사용될 수 있다. (시나리오 A-b)
본 발명의 일 실시예는 상술한 시나리오 A-a 및 시나리오 A-b에 있어서, 기존의 tier가 갖는 의미와 무관하게 temporal id의 값을 그대로 tier에 1:1로 매핑시킬 수 있다.
본 발명의 또 다른 일 실시예는 상술한 시나리오 A-a 및 시나리오 A-b에 있어서, temporal id의 값을 tier에 1:1로 매핑시키되 tier 6,7은 discardable picture라는 기존 tier의 의미를 그대로 유지하여 maximum temporal id는 tier 6 또는 7에 매핑시킬 수 있다.
상술한 시나리오 A에 따르면, 기존의 PVR_assist_info descriptor의 대부분을 그대로 이용할 수 있다는 장점이 있을 수 있다. 다만, 본 발명의 일 실시예는 HEVC 스트림을 기반으로 하기 때문에 PVR_assist_info descriptor에 포함된 일부 필드는 수정될 필요가 있다. 예를 들어, PVR_assist_info descriptor에 포함된 PVR_assist_tier_m_cumulative_frames 필드는 PVR_assist_tier_m 필드를 통하여 tier 1로부터 1.28초당 추출 가능한 최소 프레임의 수의 값을 전달할 수 있다 (This field conveys the value of the intended minimum number of extractable frames per 1.28 sec. from tier 1 through "PVR_assist_teir_m")고 새로 정의될 수 있다.
이 도면은 본 발명의 일 실시예인 시나리오 A-a에 따른 트릭 플레이 방법을 나타낸 도면이다.
이 도면에 도시된 바와 같이, temporal id가 3인 픽처들은 tier 4에 매핑될 수 있고, temporal id가 2인 픽처들은 tier 3에 매핑될 수 있고, temporal id가 1인 픽처들은 tier 2에 매핑될 수 있고, temporal id가 0인 픽처들은 tier 1에 매핑될 수 있다.
본 발명의 일 실시예인 시나리오 A는 8배속 이상의 트릭 플레이를 제공할 수 없다.
도 25은 본 발명의 또 다른 일 실시예에 따라, 하나의 temporal id를 하나의 tier에 1:1로 매핑하는 방법에 따른 트릭 플레이 방법을 나타낸 도면이다. (시나리오 A-a)
본 발명의 일 실시예는 이전 도면과 다르게 temporal id의 값을 tier에 1:1로 매핑시키되 tier 6,7은 discardable picture라는 기존 tier의 의미를 그대로 유지하여 maximum temporal id는 tier 6 또는 7에 매핑시킬 수 있다.
이 도면에 도시된 바와 같이, temporal id가 3인 픽처들은 tier 6에 매핑될 수 있고, temporal id가 2인 픽처들은 tier 3에 매핑될 수 있고, temporal id가 1인 픽처들은 tier 2에 매핑될 수 있고, temporal id가 0인 픽처들은 tier 1에 매핑될 수 있다.
이 도면이 이전 도면과 다른 점은 maximum temporal id인 temporal id 3에 해당하는 픽처들을 tier 6에 매핑하였다는 점일 수 있다.
도 26은 본 발명의 일 실시예에 따라, 하나의 temporal id를 하나의 tier에 1:1로 매핑한 결과를 나타낸 도면이다.
이 도면은 본 발명의 일 실시예에 따른 시나리오 A-a 에 있어서, 기존의 tier가 갖는 의미와 무관하게 temporal id의 값을 그대로 tier에 1:1로 매핑한 결과를 나타낸 도면이다.
이 도면에 도시된 nuh_temporal_id plus1 필드는 NAL_unit_header에 포함된 필드로서 temporal id에 1을 더한 값을 나타낼 수 있다. 예를 들면, nuh_temporal_id plus1 필드 값이 1이면 temporal id는 0이 될 수 있다. 따라서, 이 도면에 도시된 바와 같이 temporal id가 0인 픽처들은 tier 1에 매핑될 수 있고, temporal id가 1인 픽처들은 tier 2에 매핑될 수 있고, temporal id가 2인 픽처들은 tier 3에 매핑될 수 있고, temporal id가 3인 픽처들은 tier 4에 매핑될 수 있다.
본 발명의 일 실시예에 따르면, temporal id와 매핑한 새로운 tier는 기존에 사용되던 tier의 의미와 다를 수 있다. 기존의 tier 6 및 7은 discardable picture를 의미했었고 tier 7은 reference로 사용되지 않는 픽처를 의미했었다. 하지만, 매핑을 통하여 새롭게 정의되는 tier는 기존의 tier 6 및 7이 가지고 있던 의미를 갖고 있지 않을 수 있다.
본 발명의 일 실시예는 temporal sub-layer와 tier가 동일한 숫자를 갖도록 매핑할 수 있고 트릭 플레이를 수행하는데 상술한 매핑 정보를 이용할 수 있다.
도 27는 본 발명의 또 다른 일 실시예에 따라, 하나의 temporal id를 하나의 tier에 1:1로 매핑한 결과를 나타낸 도면이다.
이 도면은 본 발명의 또 다른 일 실시예에 따른 시나리오 A-a에 있어서, temporal id의 값을 tier에 1:1로 매핑시키되 tier 6,7은 discardable picture라는 기존 tier의 의미를 그대로 유지하여 maximum temporal id는 tier 6 또는 7에 매핑한 결과를 나타낸 도면이다.
이 도면에 도시된 nuh_temporal_id plus1 필드는 NAL_unit_header에 포함된 필드로서 temporal id에 1을 더한 값을 나타낼 수 있다. 예를 들면, nuh_temporal_id plus1 필드 값이 1이면 temporal id는 0이 될 수 있다. 따라서, 이 도면에 도시된 바와 같이 temporal id가 0인 픽처들은 tier 1에 매핑될 수 있고, temporal id가 1인 픽처들은 tier 2에 매핑될 수 있고, temporal id가 2인 픽처들은 tier 3에 매핑될 수 있고, temporal id가 3인 픽처들은 tier 6에 매핑될 수 있다.
본 발명의 일 실시예에 따르면, temporal id와 매핑한 새로운 tier는 기존에 사용되던 tier의 의미와 동일할 수 있다. tier 6 및 7은 discardable picture를 의미할 수 있고 tier 6은 reference로 사용되는 픽처를 의미하고 tier 7은 reference로 사용되지 않는 픽처를 의미할 수 있다. 따라서, 상술한 바와 같이 nuh_temporal_id plus1가 4인 픽처들은 tier 6으로 매핑될 수 있다. 여기서, reference로 사용되지 않는 픽처들인 경우에는 tier 7로 매핑될 수 있다.
도 28은 본 발명의 일 실시예에 따라, 하나의 temporal id를 여러 개의 tier에 매핑하는 방법에 따른 트릭 플레이의 방법을 나타낸 도면이다. (시나리오 A-b)
이 도면에 도시된 바와 같이, maximum temporal id인 temporal id가 1인 픽처들은 tier 4 또는 6에 매핑될 수 있고 temporal id가 0인 나머지 5개의 픽처들은 tier 0 내지 3에 매핑될 수 있다.
본 발명의 일 실시예에 따르면, temporal id와 매핑한 새로운 tier는 기존에 사용되던 tier의 의미와 다를 수 있다. 기존의 tier 6 및 7은 discardable picture를 의미했었고 tier 7은 reference로 사용되지 않는 픽처를 의미했었다. 하지만, 매핑을 통하여 새롭게 정의되는 tier는 기존의 tier 6 및 7이 가지고 있던 의미를 갖고 있지 않을 수 있다. 따라서, 이 도면에 도시된 바와 같이, temporal id가 1인 픽처들은 tier 4에 매핑될 수 있다. (28010)
본 발명의 또 다른 일 실시예에 따르면, temporal id와 매핑한 새로운 tier는 기존에 사용되던 tier의 의미와 동일할 수 있다. tier 6 및 7은 discardable picture를 의미할 수 있고 tier 6은 reference로 사용되는 픽처를 의미하고 tier 7은 reference로 사용되지 않는 픽처를 의미할 수 있다. 따라서, 이 도면에 도시된 바와 같이, temporal id가 1인 픽처들은 tier 6에 매핑될 수 있다. (28020)
도 29은 본 발명의 일 실시예에 따른 temporal id와 tier의 매핑을 위한 정보를 포함한 TS packet의 adaptation field의 구성을 나타낸 도면이다.
본 발명의 일 실시예는 tier 및 nuh_temporal_id_plus1의 값을 트릭 플레이를 위한 속도 정보와 매핑하는 디스크립터를 제공할 수 있다.
본 발명의 일 실시예에 따르면, 기존 트릭 플레이를 위한 정보는 TS 패킷의 adaptation field에 포함되었으므로, temporal id를 포함하는 HEVC 스트림의 트릭 플레이를 위한 정보인 HEVC_temporal_id_tier_mapping_info도 상술한 adaptation field에 포함될 수 있다.
이 도면은 TS packet의 adaptation field에 포함된 data field의 구성을 나타낸 도면이다.
이 도면에 도시된 바와 같이, data_field_tag가 0x00이면 해당 data field는 reserved임을 나타낼 수 있고, 0x01이면 해당 data field는 Announcement switching data field임을 나타낼 수 있고, 0x02이면 AU_information에 대한 data field임을 나타낼 수 있고, 0x03이면 PVR_assist_information에 대한 data field임을 나타낼 수 있고, 0x04이면 TSAP time line을 나타내는 data field임을 나타낼 수 있고, 0x05이면 HEVC_temporal_id_tier_mapping_info에 대한 data field임을 나타낼 수 있다.
본 발명의 일 실시예는 HEVC_temporal_id_tier_mapping_info 디스크립터를 이용하여 temporal id에 tier 값을 매핑하고 PVR_assist_information 디스크립터를 이용하여 tier 기반으로 트릭 플레이를 제공할 수 있다.
도 30는 본 발명의 일 실시예에 따른 HEVC_temporal_id_tier_mapping_info의 구성을 나타낸 도면이다.
본 발명의 일 실시예에 따른 HEVC_temporal_id_tier_mapping_info는 included_temporal_id_flag 필드, temporal_sub_layer_dependency_flag 필드, max_temporal_id_plus1 필드, temporal_id_plus1 필드, curr_tier_num 필드 및/또는 trick_play_speed 필드를 포함할 수 있다.
included_temporal_id_flag 필드는 temporal id를 이용해서 인코딩했는지 여부를 시그널링할 수 있다.
temporal_sub_layer_dependency_flag 필드는 temporal sub-layer 간에 dependency 여부를 나타낼 수 있다. 즉, temporal_sub_layer_dependency_flag 필드는 하위 temporal sub-layer 픽처가 상위 temporal sub-layer 픽처를 참조하지 않는 경우 1을 갖는다.
max_temporal_id_plus1 필드는 최대 temporal id 값을 나타낼 수 있으며 max_temporal_id_plus1 필드가 나타내는 값은 temporal id에 1을 더한 값이다.
temporal_id_plus1 필드는 NAL unit header에 포함된 nuh_temporal_id_plus1이 나타내는 값과 동일한 값을 가질 수 있다.
curr_tier_num 필드는 temporal_id_plus1과 매핑되는 tier 값을 나타낼 수 있다.
trick_play_speed 필드는 temporal id 값에 따라 최대로 제공 가능한 트릭 플레이 속도를 나타낼 수 있다.
if(max_temporal_id_plus1>1) 조건문은 max_temporal_id_plus1이 1보다 큰 경우를 나타낼 수 있다. 즉, temporal scalability가 사용된 스트림임을 나타낼 수 있고, 이 경우 temporal id를 이용하여 트릭 플레이를 제공할 수 있으므로, 본 발명의 일 실시예는 기존의 PVR_assist_information을 이용하기 위해 temporal id를 tier에 매핑시킬 수 있다.
본 발명의 또 다른 일 실시예는 temporal_id_plus1 필드를 for루프 안에 curr_tier_num 필드 및 trick_play_speed 필드와 동일한 레벨에 위치시키고 각 temporal_id에 따른 tier 넘버와 트릭 플레이를 위한 속도를 시그널링할 수 있다. 본 발명의 일 실시예는 상술한 HEVC_temporal_id_tier_mapping_info를 포함한 디스크립터를 이용하여 look up table을 생성할 수 있고 상술한 look up table을 이용하여 PVR_assist_information의 tier 관련 정보를 temporal_id로 해석하여 사용할 수 있다.
본 발명의 또 다른 일 실시예는 상술한 HEVC_temporal_id_tier_mapping_info에서 for 루프를 삭제하고 temporal_id_plus1 필드가 위치한 레벨에 curr_tier_num 필드 및 trick_play_speed 필드를 위치시킬 수 있다. 본 발명의 일 실시예는 상술한 HEVC_temporal_id_tier_mapping_info를 포함한 디스크립터를 각 픽처마다 시그널링할 수 있다.
도 31은 본 발명의 일 실시예에 따른 HEVC_temporal_id_tier_mapping_info에 포함된 trick_play_speed 필드의 구성을 나타낸 도면이다.
본 발명의 일 실시예에 따른 trick_play_speed 필드가 0이면 제공 가능한 트릭 플레이의 배속은 1배속일 수 있고, 1이면 제공 가능한 트릭 플레이의 배속은 2배속일 수 있고, 2이면 제공 가능한 트릭 플레이의 배속은 4배속일 수 있고, 3이면 제공 가능한 트릭 플레이의 배속은 8배속일 수 있고, 4이면 제공 가능한 트릭 플레이의 배속은 16배속일 수 있고, 5이면 제공 가능한 트릭 플레이의 배속은 32배속일 수 있고, 6이면 제공 가능한 트릭 플레이의 배속은 64배속일 수 있다.
도 32는 본 발명의 일 실시예에 따른 PVR_assist_information의 구성을 나타낸 도면이다.
본 발명의 일 실시예에 따른 PVR_assist_information은 data_field_tag 필드, data_field_length 필드, PVR_assist_tier_pic_num 필드, PVR_assist_block_trick_mode_present_flag 필드, PVR_assist_pic_struct_present_flag 필드, PVR_assist_tier_next_pic_in_tier_present_flag 필드, PVR_assist_substream_info_present_flag 필드, PVR_assist_extension_present_flag 필드, PVR_assist_segmentation_info_present_flag 필드, PVR_assist_tier_m_cumulative_frames_present_flag 필드, PVR_assist_tier_n_mmco_present_flag 필드, PVR_assist_reserved_0 필드, PVR_assist_seg_id 필드, PVR_assist_prg_id 필드, PVR_assist_seg_start_flag 필드, PVR_assist_seg_end_flag 필드, PVR_assist_prg_start_flag 필드, PVR_assist_prg_stop_flag 필드, PVR_assist_scene_change_flag 필드, PVR_assist_tier_m 필드, PVR_assist_tier_m_cumulative_frames 필드 및/또는 PVR_assist_tier_n_mmco 필드를 포함할 수 있다.
data_field_tag 필드는 해당 데이터 필드가 PVR_assist_information임을 나타낼 수 있다. data_field_tag 필드는 0x03을 가질 수 있다.
data_field_length 필드는 data_field_tag 필드 및 data_field_length 필드를 제외한 PVR_assist_information의 길이를 나타낼 수 있다.
PVR_assist_tier_pic_num 필드는 PVR_assist_information와 관련된 픽처의 티어 넘버를 나타낼 수 있다. 최소 티어 넘버는 0일 수 있고, 최대 티어 넘버는 7일 수 있다. 티어 넘버 0은 앞으로 사용을 위해 남겨둘 수 있다. 본 발명의 일 실시예에 따르면 HEVC인 경우, HEVC RAP 픽처의 티어 넘버는 0일 수 있고 HEVC RAP 픽처가 아닌 다른 모든 픽처의 티어 넘버는 temporal id에 1을 더한 값일 수 있다. 본 발명의 일 실시예에 따르면, 이 필드는 비디오 스트림에 포함되는 픽처의 티어 넘버를 나타낼 수 있고, 티어 넘버 정보라고 명명될 수 있다. 여기서, 티어 넘버는 템포럴 서브 레이어를 시그널링하기 위해 사용될 수 있다. PVR_assist_tier_pic_num는 티어 넘버 정보로 명명될 수 있다.
PVR_assist_block_trick_mode_present_flag 필드는 이전의 RAP 픽처에서 이 필드의 값이 1인 경우에 RAP가 아닌 픽처에서 1 값을 가질 수 있다.
PVR_assist_pic_struct_present_flag 필드는 비디오 스트림이 AVC 또는 HEVC 스트림이고 PVR_assist_pict_struct 필드가 존재하는 경우에 1 값을 가질 수 있다.
PVR_assist_tier_next_pic_in_tier_present_flag 필드는 PVR_assist_tier_next_pic_in_tier 필드가 존재하는 경우에 1 값을 가질 수 있다.
PVR_assist_substream_info_present_flag 필드는 PVR_assist_substream_info 필드가 존재하는 경우에 1 값을 가질 수 있다.
PVR_assist_extension_present_flag 필드는 PVR_assist_segmentation_info_present_flag 필드, PVR_assist_tier_m_cumulative_frames_present_flag 필드, PVR_assist_tier_n_mmco_present_flag 필드 및 PVR_assist_temporal_id_info_present_flag 필드 중 어느 하나의 값이 1인 경우에 1 값을 가질 수 있다.
PVR_assist_segmentation_info_present_flag 필드는 PVR_assist_segmentation_info 필드가 존재하는 경우에 1 값을 가질 수 있다.
PVR_assist_tier_m_cumulative_frames_present_flag 필드는 PVR_assist_tier_m 필드 및 PVR_assist_tier_m_cumulative_frames 필드가 존재하는 경우에 1 값을 가질 수 있다. HEVC인 경우, 이 필드는 0 값을 갖는 것이 권장될 수 있다.
PVR_assist_tier_n_mmco_present_flag 필드는 PVR_assist_tier_n_mmco 필드가 존재하는 경우에 1 값을 가질 수 있다. HEVC인 경우, 이 필드는 0 값을 가질 수 있다.
PVR_assist_seg_id 필드는 픽처가 속해있는 세그먼트의 id를 전달할 수 있다.
PVR_assist_prg_id 필드는 픽처가 속해있는 프로그램의 id를 전달할 수 있다.
PVR_assist_seg_start_flag 필드는 하나의 세그먼트 안에서 첫 번째 재생 순서를 갖는 픽처인 경우 1 값을 가질 수 있다.
PVR_assist_seg_end_flag 필드는 하나의 세그먼트 안에서 마지막 재생 순서를 갖는 픽처인 경우 1 값을 가질 수 있다.
PVR_assist_prg_start_flag 필드는 하나의 프로그램 안에서 첫 번째 재생 순서를 갖는 픽처인 경우 1 값을 가질 수 있다.
PVR_assist_prg_stop_flag 필드는 하나의 프로그램 안에서 마지막 재생 순서를 갖는 픽처인 경우 1 값을 가질 수 있다.
PVR_assist_scene_change_flag 필드는 새로운 장면의 재생 순서상 첫 번째 픽처인 경우 1 값을 가질 수 있다.
PVR_assist_tier_m 필드는 PVR_assist_tier_m_cumulative_frames 필드와 관련된 티어 넘버를 나타낼 수 있다. HEVC인 경우, 이 필드는 존재하지 않을 수 있다.
PVR_assist_tier_m_cumulative_frames 필드는 PVR_assist_tier_m 필드를 통하여 tier 1로부터 초당 추출 가능한 최소 프레임의 수의 값을 전달할 수 있다.
PVR_assist_tier_n_mmco 필드는 트릭 플레이를 수행하는 동안 디코더에 의해 무시될 수 있는 MMCOs 아래의 최소 티어 넘버를 나타낼 수 있다. HEVC인 경우, 이 필드는 존재하지 않을 수 있다.
본 발명의 일 실시예에 따른 PVR_assist_information는 PVR_assist_tier_next_pic_tier 필드를 더 포함할 수 있다. PVR_assist_tier_next_pic_tier 필드는 PVR_assist_tier_pic_num 필드가 나타내는 값과 동일한 티어 넘버를 갖는 픽처들 중 디코딩 순서상 다음 순서 픽처의 상대적인 위치를 나타낼 수 있고, 티어 넥스트 픽처 정보라고 명명될 수 있다.
본 발명의 일 실시예에 따른 PVR_assist_information는 비디오 데이터의 트릭 플레이를 수행하기 위한 메타데이터를 포함하고, PVR 어시스트 정보라고 명명될 수 있다.
도 33는 본 발명의 일 실시예에 따른 temporal id frame work가 추가된 PVR_assist_information의 구성을 나타낸 도면이다. (시나리오 B-a-a)
본 발명의 일 실시예는 TS packet의 adaptation 필드에 포함되는 기존 PVR_assist_information에 temporal id를 이용한 트릭 플레이를 포함하는 방법을 제공할 수 있다. 즉, 본 발명의 일 실시예는 temporal id frame work를 제공할 수 있다.
본 발명의 일 실시예는 temporal id 기반의 temporal scalability를 지원하기 위하여 기존의 PVR_assist_tier_pic_num과 함께 PVR_assist_temporal_id_plus1을 시그널링할 수 있다.
본 발명의 일 실시예에 따르면, PVR_assist_information는 PVR_assist_information의 구성을 나타낸 이전 도면에서 전술한 모든 필드, PVR_assist_temporal_id_plus1 필드, PVR_assist_temporal_id_info_present_flag 필드 및/또는 PVR_assist_max_temporal_id_plus1 필드를 포함할 수 있다.
이 도면에서 PVR_assist_information의 구성을 나타낸 이전 도면에서 전술한 필드와 동일한 명칭을 갖는 필드는 이전 도면에서 전술한 의미와 동일한 의미를 가질 수 있다.
PVR_assist_temporal_id_plus1 필드는 현재 프레임의 temporal id 값을 나타내고, 실제적으로 NAL unit header에 포함된 nuh_temporal_id_plus1 값과 동일한 값을 나타낼 수 있다.
PVR_assist_temporal_id_info_present_flag 필드는 temporal id 관련된 정보를 포함하는지 여부를 나타낼 수 있다. 이 필드는 PVR_assist_max_temporal_id_plus1 필드가 존재하면 1 값을 나타낼 수 있다. 이 플드는 RAP 픽처마다 제공될 수 있다.
PVR_assist_max_temporal_id_plus1 필드는 최대 temporal id 값을 나타내고 실제적으로, temporal id 최대값에 1을 더한 값을 나타낼 수 있다. 이 필드는 0 내지 6 중 어느 하나의 값을 가질 수 있다. 이 필드는 트릭 플레이의 속도에 대한 정보를 제공하는데 사용될 수 있다.
본 발명의 일 실시예에 따르면, 트릭 플레이의 배속수는 PVR_assist_max_temporal_id_plus1 필드와 PVR_assist_temporal_id_plus1 필드의 값을 이용하여 계산될 수 있다.
도 34은 본 발명의 또 다른 일 실시예에 따른 temporal id frame work가 추가된 PVR_assist_information의 구성을 나타낸 도면이다. (시나리오 B-a-b)
본 발명의 일 실시예는 TS packet의 adaptation 필드에 포함되는 기존 PVR_assist_information에 temporal id를 이용한 트릭 플레이를 포함하는 방법을 제공할 수 있다. 즉, 본 발명의 일 실시예는 temporal id frame work를 제공할 수 있다.
본 발명의 일 실시예는 PVR_assist_tier_pic_num 필드를 그대로 사용하고 PVR_assist_tier_pic_num 필드에 PVR_assist_temporal_id_plus1의 의미를 담을 수 있다. 또한, PVR_assist_tier_pic_num_to_temporal_id_flag 필드를 이용하여 tier의 의미가 변경되었음을 알려줄 수 있다.
본 발명의 일 실시예에 따르면, PVR_assist_information는 PVR_assist_information의 구성을 나타낸 이전 도면에서 전술한 모든 필드, PVR_assist_tier_pic_num_to_temporal_id_flag 필드, PVR_assist_temporal_id_info_present_flag 필드 및/또는 PVR_assist_max_temporal_id_plus1 필드를 포함할 수 있다.
이 도면에서 PVR_assist_information의 구성을 나타낸 이전 도면에서 전술한 필드와 동일한 명칭을 갖는 필드는 이전 도면에서 전술한 의미와 동일한 의미를 가질 수 있다. 다만, PVR_assist_tier_pic_num 필드는 본 발명의 일 실시예에 따라 temporal id frame work에 그대로 이용될 수 있다. 즉, PVR_assist_tier_pic_num 필드는 현재 프레임의 temporal id 값을 나타내고, 실제적으로 NAL unit header에 포함된 nuh_temporal_id_plus1 값과 동일한 값을 가질 수 있다.
PVR_assist_tier_pic_num_to_temporal_id_flag 필드는 PVR_assist_tier_pic_num 필드를 temporal id를 나타내는 필드로 사용했다면 1 값을 가질 수 있다.
PVR_assist_temporal_id_info_present_flag 필드는 temporal id 관련된 정보를 포함하는지 여부를 나타낼 수 있다.
PVR_assist_max_temporal_id_plus1 필드는 최대 temporal id 값을 나타내고 실제적으로, temporal id 최대값에 1을 더한 값을 나타낼 수 있다.
본 발명의 일 실시예에 따르면, 트릭 플레이의 배속수는 PVR_assist_max_temporal_id_plus1 필드와 PVR_assist_temporal_id_plus1 필드의 의미를 갖는 PVR_assist_tier_pic_num 필드 값을 이용하여 계산될 수 있다.
본 발명의 또 다른 일 실시예는 PVR_assist_framework라는 2비트 이상의 필드를 PVR_assist_information에 추가하여 PVR을 제공하는 framework의 종류를 구분할 수 있다. 본 발명의 일 실시예는 기존의 tier, substream framework 및 temporal id framework를 구분할 수 있다. 이 경우, 기존에 PVR_assist_information에 포함된 플래그 값들은 사용되지 않을 수 있고 본 발명의 일 실시예는 각 framework에 해당하는 태그 값을 대신하여 조건문을 구성할 수 있다.
도 35은 본 발명의 일 실시예에 따른 temporal id를 이용한 트릭 플레이를 지원하기 위한 PVR_assist_information의 구성을 나타낸 도면이다. (시나리오 B-b)
본 발명의 일 실시예에 따른 PVR_assist_information는 data_field_tag 필드, data_field_length 필드, PVR_assist_temporal_id_plus1 필드, PVR_assist_substream_info_present_flag 필드, PVR_assist_extension_present_flag 필드, PVR_assist_temporal_id_present_flag 필드, PVR_assist_temporal_sub_layer_dependency_flag 필드, PVR_assist_max_temporal_id_plus1 필드, PVR_assist_curr_tier_num 필드 및/또는 PVR_assist_trick_play_speed 필드를 포함할 수 있다.
data_field_tag 필드는 해당 데이터 필드가 PVR_assist_information임을 나타낼 수 있다. data_field_tag 필드는 0x03을 가질 수 있다.
data_field_length 필드는 data_field_tag 필드 및 data_field_length 필드를 제외한 PVR_assist_information의 길이를 나타낼 수 있다.
PVR_assist_temporal_id_plus1 필드는 현재 프레임의 temporal id 값을 나타내고, 실제적으로 NAL unit header에 포함된 nuh_temporal_id_plus1 값과 동일한 값을 나타낼 수 있다.
PVR_assist_substream_info_present_flag 필드는 PVR_assist_substream_info 필드가 존재하는 경우에 1 값을 가질 수 있다.
PVR_assist_extension_present_flag 필드는 PVR_assist_segmentation_info_present_flag 필드, PVR_assist_tier_m_cumulative_frames_present_flag 필드 및 PVR_assist_tier_n_mmco_present_flag 필드 중 어느 하나의 값이 1인 경우에 1 값을 가질 수 있다.
PVR_assist_temporal_id_info_present_flag 필드는 temporal id 관련된 정보를 포함하는지 여부를 나타낼 수 있다.
PVR_assist_temporal_sub_layer_dependency_flag 필드는 temporal sub-layer 간에 dependency 여부를 나타낼 수 있다. 즉, temporal_sub_layer_dependency_flag 필드는 하위 temporal sub-layer 픽처가 상위 temporal sub-layer 픽처를 참조하지 않는 경우 1을 갖는다.
PVR_assist_max_temporal_id_plus1 필드는 최대 temporal id 값을 나타내고 실제적으로, temporal id 최대값에 1을 더한 값을 나타낼 수 있다.
PVR_assist_curr_tier_num 필드는 temporal_id_plus1에 해당하는 tier 값을 나타낼 수 있다.
trick_play_speed 필드는 temporal id 값에 따라 최대로 제공 가능한 트릭 플레이 속도를 나타낼 수 있다.
if(PVR_assist_max_temporal_id_plus1>1) 조건문은 PVR_assist_max_temporal_id_plus1이 1보다 큰 경우를 나타낼 수 있다. 즉, temporal scalability가 사용된 스트림임을 나타낼 수 있고, 이 경우 temporal id를 이용하여 트릭 플레이를 제공할 수 있다.
본 발명의 또 다른 일 실시예는 PVR_assist_temporal_id_plus1 필드를 for루프 안에 PVR_assist_curr_tier_num 필드 및 PVR_assist_trick_play_speed 필드와 동일한 레벨에 위치시키고 각 temporal_id에 따른 tier 넘버와 트릭 플레이를 위한 속도를 시그널링할 수 있다.
본 발명의 또 다른 일 실시예는 기존의 PVR_assist_tier_pic_num 필드를 그대로 두고 상술한 필드 값을 PVR_assist_temporal_id_plus1 필드 값을 나타내도록 변경하여 사용할 수 있다. 이 경우, PVR_assist_tier_pic_num_to_temporal_id_flag 필드를 이용하여 PVR_assist_tier_pic_num 필드의 의미가 변경되었다는 것을 시그널링할 필요가 있다.
본 발명의 또 다른 일 실시예는 tier 없이 temporal id만을 이용하여 트릭 플레이를 제공할 수 있다. 즉, NAL_unit_header의 nuh_temporal_id_plus1 정보를 파싱하여 실제 트릭 플레이를 위해 필요한 패킷만 선택함으로써 트릭 플레이가 제공될 수 있다. (시나리오 C) 예를 들어, temporal id가 0부터 3까지 구성된 스트림을 2배속으로 플레이하고자 할 경우, 본 발명의 일 실시예는 nuh_temporal_id_plus1 값이 1, 2 또는 3인 TS packet만을 system decoder로 전달함으로써 2배속 트릭 플레이를 제공할 수 있다.
도 36은 본 발명의 일 실시예에 따른 수신 장치를 나타낸 도면이다.
본 발명의 일 실시예에 따른 수신 장치는 수신부 (Tuner; 36010), 복조부 (Demodulator; 36020), 트릭 플레이 수행부 (Trick play; 36030), 시스템 디코더/ 역다중화부 (System decoder and Demux; 36040) 및/또는 비디오 디코더 (Video decoder; 36050)를 포함할 수 있다.
수신부 (Tuner; 36010)는 방송망, 케이블망 및/또는 인터넷망을 통하여 전송되는 방송 신호를 수신할 수 있다.
복조부 (Demodulator; 36020)는 변조 기법에 따라 변조된 방송 신호를 복조할 수 있다.
트릭 플레이 수행부 (Trick play; 36030)는 각 시나리오에 따른 방법에 의하여 트릭 플레이를 위한 TS packet을 선별할 수 있다. 본 발명의 일 실시예에 따른, 시나리오 1, 2 및 3에 대한 상세한 설명은 전술하였다.
시스템 디코더/ 역다중화부 (System decoder and Demux; 36040)는 시스템 정보를 디코딩할 수 있고 다중화된 방송 신호를 단위 스트림 별로 분리할 수 있다. 역다중화부는 수신한 방송 신호를 역다중화하여 비디오 스트림을 추출할 수 있다.
비디오 디코더 (Video decoder; 36050)는 비디오 스트림을 디코딩할 수 있다. 비디오 디코더는 시스템 디코더 및 트릭 플레이 수행부를 포함할 수 있고, 비디오 디코더는 PVR 어시스트 정보를 기초로 하여 트릭 플레이를 위해 선별된 비디오 스트림을 디코딩함으로써 비디오 데이터의 트릭 플레이를 수행할 수 있다. 비디오 디코더는 PVR 어시스트 정보에 포함된 템포럴 식별 정보 및 최대 템포럴 식별 정보를 기초로 하여 트릭 플레이를 수행할 수 있다.
도 37는 본 발명의 일 실시예에 따른 tier framework와 HEVC temporal sub-layer을 비교한 도면이다.
본 발명의 일 실시예에 따른 HEVC temporal sub-layer의 계층 구조는 tier system framework와 유사하다. 본 발명의 일 실시예에 따른 temporal id는 tier 넘버에 매칭될 수 있다. 본 발명의 일 실시예에 따른 HEVC temporal sub-layer는 tier system framework와 비슷한 방법에 의하여 PVR을 지원할 수 있다.
본 발명의 일 실시예에 따른 HEVC compliant 인코더/디코더는 HEVC temporal sub-layer를 지원할 수 있다. 본 발명의 일 실시예에 따른 temporal id는 HEVC로 인코딩된 스트림에 존재할 수 있다. 스트림이 temporal sub-layer 구조에 의하여 인코딩된 경우, 트릭 플레이를 위한 어떠한 특별한 인코딩 구조도 필요하지 않을 수 있다. 따라서, 본 발명의 일 실시예에 따른 HEVC temporal sub-layer는 트릭 플레이를 지원하는 경우에 인코딩 부담을 줄일 수 있다.
이 도면에 도시된 바와 같이, tier framework에서 tier 7은 참조되지 않는 discardable 픽처를 의미했고, tier 6는 참조되는 discardable 픽처를 의미했다. 하지만, 본 발명의 일 실시예에 따른 HEVC temporal sub-layer는 참조되는 픽처인지 아닌지를 구분하지 않을 수 있다. tier framework에서 tier 1은 RAP 픽처를 나타내고, tier 2는 P 픽처를 나타냈다. 하지만, 본 발명의 일 실시예에 따른 HEVC temporal sub-layer에서 temporal id 0은 IRAP 픽처를 포함하는 I 픽처, P 픽처 및 B 픽처를 모두 나타낼 수 있다.
본 발명의 일 실시예에 따르면 다른 서브 레이어들이 temporal id 6와 7에 지정될 수 있다. 따라서, tier 넘버 6 및 7과 비교해보면, 본 발명의 일 실시예에 따라 temporal id를 이용하는 경우 추가적인 배속을 지원할 수 있다.
본 발명의 일 실시예에 따르면 더 빠른 배속을 지원하기 위하여 temporal id가 0인 베이스 서브 레이어에서 프레임 구분이 필요할 수 있다.
도 38은 본 발명의 또 다른 일 실시예에 따른 PVR_assist_information의 구성을 나타낸 도면이다.
본 발명의 일 실시예에 따르면, 디코딩 과정 전에 억세스 유닛 (access units; AUs)을 필터링하기 위하여 비디오 레벨에 주어진 temporal id는 시스템 레벨에서 시그널링될 수 있다.
본 발명의 일 실시예에 따르면, temporal id가 0인 베이스 서브 레이어에서 보다 높은 배속을 지원하기 위하여 intra 프레임이 시그널링될 수 있다.
본 발명의 일 실시예에 따른 PVR_assist_information는 data_field_tag 필드, data_field_length 필드, PVR_assist_temporal_id_plus1 필드, PVR_assist_temporal_id_info_present_flag 필드, PVR_assist_intra_picture_flag 필드, PVR_assist_max_temporal_id_plus1 필드, PVR_assist_PB_numbers_in_temporalid_zero 필드, PVR_assist_reserved_0 필드 및/또는 PVR_assist_reserved_byte 필드를 포함할 수 있다.
data_field_tag 필드는 해당 데이터 필드가 PVR_assist_information임을 나타낼 수 있다. data_field_tag 필드는 0x03을 가질 수 있다.
data_field_length 필드는 data_field_tag 필드 및 data_field_length 필드를 제외한 PVR_assist_information의 길이를 나타낼 수 있다.
PVR_assist_temporal_id_plus1 필드는 픽처의 temporal id를 나타낼 수 있다. 실제적으로, temporal id는 이 필드에서 1을 뺀 값을 가질 수 있다. 이 필드의 최소 값은 1이고, 최대 값은 7을 가질 수 있다. HEVC 스트림의 경우, 이 필드의 값은 nuh_temporal_id_plus1 값과 동일한 값을 가질 수 있다.
PVR_assist_temporal_id_info_present_flag 필드는 PVR_assist_max_temporal_id_plus1 필드가 존재하면 1 값을 가질 수 있다. 이 필드는 RAP 픽처에 해당하는 픽처에서만 제공될 수 있다.
PVR_assist_intra_picture_flag 필드는 현재 억세스 유닛이 intra 픽처이면 1 값을 가질 수 있다.
PVR_assist_max_temporal_id_plus1 필드는 최대 temporal id를 나타낼 수 있다. 실제적으로, 최대 temporal id는 이 필드에서 1을 뺀 값을 나타낼 수 있다. 이 필드는 1에서 7까지의 값을 가질 수 있다.
PVR_assist_PB_numbers_in_temporalID_zero 필드는 temporal id가 0인 베이스 서브 레이어에서 intra 프레임들 사이에 존재하는 intra 프레임이 아닌 프레임의 개수를 나타낼 수 있다. 이 필드는 트릭 플레이의 속도를 추측하는데 사용될 수 있다.
PVR_assist_reserved_0 필드는 추후 사용을 위해 남겨진 필드이다.
PVR_assist_reserved_byte 필드는 추후 사용을 위해 남겨진 필드를 나타낼 수 있다.
도 39은 본 발명의 일 실시예에 따른 HEVC temporal sub-layer를 이용한 트릭 플레이 방법을 나타낸 도면이다.
이 도면에서 첫 번째 그림 (39010)은 하나의 GOP에 해당하는 픽처들을 재생 순서에 따라 정렬해 놓은 그림이다. 첫 번째 그림에서 I는 I 픽처를 나타낼 수 있고, B는 B 픽처를 나타낼 수 있고 P는 P 픽처를 나타낼 수 있다. 또한, 픽처의 종류를 나타내는 알파벳 밑의 숫자는 재생 순서를 나타낼 수 있다. 첫 번째 그림에서 화살표는 픽처들간에 참조 관계를 나타낼 수 있다.
이 도면에서 두 번째 그림 (39020)은 본 발명의 일 실시예에 따른 HEVC temporal sub-layer를 이용하여 트릭 플레이를 제공하는 방법을 나타낸 그림이다. 네모 박스 하나는 하나의 픽처를 나타낼 수 있다. 네모 안의 숫자는 temporal id를 나타낼 수 있다. 네모 안의 x표시는 트릭 플레이 시 디코딩 및 재생되는 픽처를 나타낼 수 있다. 두 번째 그림에 도시된 바와 같이 2 배속부터 8 배속 트릭 플레이까지는 HEVC temporal sub-layer에 의하여 제공될 수 있다.
이 도면에서 세 번째 그림 (39030)은 본 발명의 일 실시예에 따른 base sub-layer 시그널링을 이용하여 트릭 플레이를 제공하는 방법을 나타낸 그림이다. 본 발명의 일 실시예는 intra 픽처만을 디코딩 및 재생함으로써 12 배속, 24 배속 및 48 배속의 트릭 플레이를 제공할 수 있다.
도 40는 본 발명의 일 실시예에 따른 방송 신호 송신 방법을 나타낸 도면이다.
본 발명의 일 실시예는 다음과 같은 과정에 의하여 방송 신호를 송신할 수 있다. 먼저, 본 발명의 일 실시예는 비디오 데이터를 인코딩하여 비디오 스트림을 생성할 수 있다. (S40010) 여기서, 비디오 스트림은 AVC 또는 HEVC 코덱에 의하여 인코딩될 수 있다. 여기서, 비디오 스트림은 비디오 스트림의 최대 템포럴 식별 정보 값을 가지는 PVR 어시스트 정보를 포함할 수 있다. 최대 템포럴 식별 정보는 max_temporal_id 또는 PVR_assist_max_temporal_id로 명명될 수 있다. 최대 템포럴 식별 정보에 대한 상세한 설명은 도 30, 33, 34, 35, 38에서 전술하였다. PVR 어시스트 정보는 수신기 또는 PVR 장치에서 비디오 데이터의 트릭 플레이를 수행하는데 필요한 정보를 의미할 수 있다. PVR 어시스트 정보에 대한 상세한 설명은 도 34에서 전술하였다. 다음으로, 본 발명의 일 실시예는 생성된 비디오 스트림을 포함하는 방송 신호를 생성할 수 있다. (S40020) 여기서, 비디오 스트림은 비디오 단위 스트림, 비디오 단위 스트림이 패킷화된 PES 스트림 또는 TS 패킷을 포함하는 트랜스포트 스트림을 의미할 수 있다. 생성된 비디오 스트림을 여러 가지의 변조 방식을 이용하여 변조함으로써 방송 신호를 생성할 수 있다. 다음으로, 본 발명의 일 실시예는 생성된 방송 신호를 전송할 수 있다. (S40030) 여기서, 본 발명의 일 실시예는 생성된 방송 신호를 지상파 방송망, 케이블망 및 인터넷망 중 적어도 어느 하나를 통하여 전송할 수 있다.
본 발명의 또 다른 일 실시예에 따르면, 비디오 스트림은 어댑테이션 필드를 포함하고, 어댑테이션 필드는 PVR 어시스트 정보를 포함할 수 있다. 여기서, 어댑테이션 필드는 TS 패킷의 헤더와 페이로드 사이에 존재하는 필드로서 데이터를 포함할 수 있다. 본 발명의 일 실시예에 따른 비디오 스트림은 수개의 TS 패킷을 포함하는 스트림을 의미할 수 있다. 따라서, 본 발명의 일 실시예에 따른 비디오 스트림은 어댑테이션 필드를 포함할 수 있다.
본 발명의 또 다른 일 실시예에 따르면, 어댑테이션 필드는 프라이빗 데이터 바이트 필드를 포함할 수 있고, 프라이빗 데이터 바이트 필드는 PVR 어시스트 정보를 포함할 수 있다. 여기서, 프라이빗 데이터 바이트 필드는 어댑테이션 필드에 포함되고, 수 개의 데이터 필드를 포함할 수 있다. 상술한 수 개의 데이터 필드 중 하나의 데이터 필드는 PVR 어시스트 정보를 포함할 수 있다.
본 발명의 또 다른 일 실시예에 따르면, 비디오 스트림은 하나 이상의 템포럴 서브 레이어를 포함할 수 있고, 여기서 템포럴 서브 레이어는 픽처들의 집합을 나타낼 수 있다. 본 발명의 일 실시예에 따른 인코딩된 비디오 데이터를 포함하는 NAL 유닛의 헤더는 템포럴 식별 플러스 정보를 포함할 수 있다. 여기서 템포럴 식별 플러스 정보는 템포럴 식별 정보에 1을 더한 값을 나타낼 수 있고, 템포럴 식별 정보는 템포럴 서브 레이어를 식별하는 정보를 포함할 수 있다. 본 발명의 일 실시예에 따른 템포럴 식별 플러스 정보는 템포럴 서브 레이어를 식별하기 위해 사용될 수 있다. 템포럴 서브 레이어는 temporal sub-layer로, 템포럴 식별 정보는 temporal id로, 템포럴 식별 플러스 정보는 nuh_temporal_id_plus1으로 명명될 수 있다.
본 발명의 또 다른 일 실시예에 따르면, PVR 어시스트 정보는 비디오 스트림의 최대 템포럴 식별 정보 값을 나타내는 최대 템포럴 식별 정보를 포함할 수 있다. HEVC로 인코딩된 비디오 스트림은 여러 개의 템포럴 서브 레이어를 가질 수 있고 각 템포럴 서브 레이어는 템포럴 식별 정보에 의해 식별될 수 있다. 본 발명의 일 실시예에 따른 최대 템포럴 식별 정보는 여러 개의 템포럴 서브 레이어 중에 최대 템포럴 식별 정보를 갖는 템포럴 서브 레이어의 템포럴 식별 정보를 의미할 수 있다.
본 발명의 또 다른 일 실시예에 따르면, 최대 템포럴 식별 정보는 0 내지 6 중 어느 하나의 값을 가질 수 있다. 따라서, 본 발명의 또 다른 일 실시예에 따라 템포럴 식별 정보 값이 tier 넘버와 일대일 매칭되는 경우 기존에 정의되어 있던 tier 넘버의 범위 내에서 매칭될 수 있다. 기존에 tier 넘버는 0부터 7까지 정의되어 있다.
본 발명의 또 다른 일 실시예에 따르면, 최대 템포럴 식별 정보는 트릭 플레이의 속도에 대한 정보를 제공하는데 사용될 수 있다. 최대 템포럴 식별 정보는 트릭 플레이의 최대 배속에 대한 정보를 시그널링할 수 있다. 본 발명의 일 실시예는 각 템포럴 식별 정보에 해당하는 트릭 플레이 배속을 시그널링할 수 있다. 최대 템포럴 식별 정보를 시그널링함으로써, 본 발명의 일 실시예는 사용자에게 서비스가 가능한 최대 배속 정보를 알려줄 수 있으며 사용자의 요청을 받아 트릭 플레이의 배속을 결정하여 결정된 배속을 제공할 수 있다. 이에 대한 상세한 설명은 도 33, 38에서 전술하였다.
본 발명의 또 다른 일 실시예에 따르면, PVR 어시스트 정보는 최대 템포럴 식별 정보의 포함 여부를 나타내는 템포럴 식별 플래그 정보를 포함할 수 있고 여기서, 템포럴 식별 플래그 정보는 최소한 RAP 마다는 제공될 수 있다. 템포럴 식별 플래그 정보는 PVR_assist_temporal_id_info_present_flag로 명명될 수 있다. 템포럴 식별 플래그 정보는 PVR 어시스트 정보 내에 최대 템포럴 식별 정보가 포함되어 있으면 1 값을 가질 수 있다. AVC 스트림인 경우, 템포럴 식별 플래그 정보는 0 값을 가질 수 있다. 본 발명의 일 실시예는 템포럴 식별 플래그 정보를 RAP 마다 제공함으로써 최대 템포럴 식별 정보를 RAP 마다 시그널링할 수 있다. 이에 따라, 본 발명의 일 실시예는 트릭 플레이의 최대 배속 정보를 RAP 마다 시그널링할 수 있다. 이에 대한 상세한 설명은 도 32, 38에서 전술하였다.
도 41은 본 발명의 일 실시예에 따른 방송 신호 수신 장치의 구조를 나타낸 도면이다.
본 발명의 일 실시예에 따른 방송 신호 수신 장치 (41010)는 수신부 (41020), 역다중화부 (41030) 및/또는 디코더 (41040)을 포함할 수 있다.
수신부는 방송 신호를 수신할 수 있다.
역다중화부는 수신한 방송 신호를 역다중화하여 비디오 스트림을 추출할 수 있다. 여기서, 비디오 스트림은 비디오 스트림의 최대 템포럴 식별 정보 값을 가지는 PVR 어시스트 정보를 포함할 수 있다.
디코더는 상술한 PVR 어시스트 정보를 기초로 하여 추출된 비디오 스트림을 디코딩하고 비디오 데이터의 트릭 플레이를 수행할 수 있다.
이 도면에 도시된, 본 발명의 일 실시예에 따른 방송 신호 수신 장치의 구성 중 도 36에 도시된 방송 신호 수신 장치의 구성과 동일한 명칭을 가진 구성은 도 36에 도시된 방송 신호 수신 장치의 구성과 동일한 기능을 수행할 수 있다.
이 도면에 도시된, 본 발명의 일 실시예에 따른 방송 신호 수신 장치의 구성 중 도 40에 도시된 방송 신호 송신 방법의 과정과 대응되는 구성은 도 40에 도시된 방송 신호 송신 방법의 과정과 대응되는 기능을 수행할 수 있다.
이하에서는, 위와 같이 신호 전송을 위한 PES 레벨 이외에 비디오 데이터 레벨에서 트릭 플레이를 효율적으로 할 수 있는 실시예를 개시한다.
위에서 개시한 실시예에 따르면, 비디오 전송 단계에서 비디오 트릭 플레이를 효율적으로 수행할 수 있도록 트릭 플레이에 대한 정보를 송수신할 수 있다.
그러나 위의 개시한 실시예와 별개로 또는 위에서 개시한 실시예에 추가하여 비디오 데이터 레벨에서 트릭 플레이를 위한 정보를 미리 시그널링하도록 하면 비디오 디코더가 미리 트릭 플레이에 대한 정보를 얻고 트릭 플레이를 효율적으로 수행할 수 있다.
이하 본 발명의 용이하게 설명할 수 있는 실시예를 도면을 참조하여 설명한다.
도 42는 본 발명에 따른 신호 송수신 방법의 일 실시예를 예시한 도면이다.
비디오 소스 데이터를 인코딩한다(S110).
비디오 소스 데이터를 인코딩하는 방식으로 AVC 나 HEVC를 사용할 수 있다.
예를 들어 HEVC 인코딩된 비디오 스트림은 그 비디오 데이터의 픽쳐 정보를 가지는 SEI (Supplemental Enhancement Information) 메시지(message)를 포함할 수 있다.
HEVC인코딩된 비디오 데이터 스트림의 트릭 플레이를 위해 HEVC 비디오 데이터의 SEI 메시지에 GOP(Group of Picture) 메타데이터를 포함할 수 있다. HEVC 비디오 데이터는 코딩 슬라이스 세그먼트 NAL(Network Abstraction Layer) 유닛 또는 그 서브 유닛을 포함하는 VCL 데이터 (video coding layer (VCL) NAL unit)을 전송할 수 있는데, SEI 메시지가 GOP 메타데이터를 포함하면 VCL 데이터 이전에 픽쳐에 대한 정보를 시그널링할 수 있어 효율적인 트릭 플레이가 가능하다.
SEI 메시지 내 GOP 메타데이터는 총 GOP 개수, GOP 사이즈, GOP를 구성하는 각 picture의 picture type, 템퍼럴 아이디(temporal ID) 및 템퍼럴 서브 레이어 픽쳐 정보(temporal sub-layer의 picture type) 등을 포함할 수 있다.
SEI 메시지(message)에 GOP 메타데이터를 포함한 비디오를 전송한다(S120).
이와 같이 전송한 비디오 데이터를 수신하여 플레이하는 경우 다음과 같은 방법을 사용할 수 있다.
인코딩된 비디오 데이터를 수신한다(S210).
수신한 비디오의 SEI 메시지를 파싱하여 GOP(Group of Picture) 메타데이터를 얻는다(S220). 이 경우 비디오의 SEI 메시지의 GOP(Group of Picture) 메타데이터로부터 비디오 데이터의 총 GOP 개수, GOP 사이즈, GOP를 구성하는 각 picture의 picture type, 템퍼럴 아이디(temporal ID) 및 템퍼럴 서브 레이어 픽쳐 정보(temporal sub-layer의 picture type) 등을 얻을 수 있다.
SEI 메시지를 파싱하여 얻은 GOP(Group of Picture) 메타데이터를 이용하여 인코딩된 비디오 소스 데이터를 디코딩한다(S230). 이 경우 SEI 메시지의 GOP(Group of Picture) 메타데이터를 이용하여, 비디오 소스 데이터의 픽쳐를 필터링하여 필터링된 픽쳐 들을 이용하여 트릭 플레이를 수행할 수 있다. 이와 같이 비디오의 SEI 메시지에 포함된 GOP(Group of Picture) 메타데이터의 픽쳐 정보와 인코딩된 비디오 데이터의 픽쳐의 포인터(또는 비디오 인덱스)를 이용하면 효율적인 트릭 플레이를 수행할 수 있다. 즉, 비디오 디코더는, 비디오 파서가 SEI 메시지를 파싱하여 얻은 메타데이터를 이용하여 비디오 소스의 픽쳐 포인터를 이용하여 필터링된 픽쳐를 디코딩하기 때문에 트릭 플레이를 효율적으로 수행할 수 있다.
도 43은 본 발명의 실시예에 따라 비디오 데이터를 인코딩할 경우 GOP (Group of Picture)를 구조를 예시한 도면이다. 이 도면을 참조하여 본 발명의 일 실시예를 설명하면 다음과 같다.
비디오 소스 데이터를 인코딩하여 출력할 경우, GOP 단위로 비디오 데이터를 전송할 수 있다.
이 예는 GOP 단위로 전송되는 비디오 데이터의 일 예인데 이 도면의 최상위에 GOP-1, GOP, GOP+1은 각각 시간 순서에 따른 GOP가 전송되는 것을 나타내고, 이 도면은 NAL unit header의 최대 temporal_id 가 2이고, GOP 사이즈가 24인 경우를 나타낸다.
GOP는 하나 이상의 타입의 픽쳐의 집합을 나타내는데, GOP는 I, P, B 의 여러 개의 픽쳐 타입을 포함할 수 있다.
이 도면에서 GOP 내의 픽쳐 타입과 디스플레이 순서를 함께 표시하여 디스플레이되는 픽쳐의 순서를 I1, B2, B3, B4, P5, B6, B7, P9, B10, B11, B12..로 예시하였다.
그러나 비디오 인코딩의 참조 관계로 인해 GOP 내의 디코딩 순서는 I1, P5, B3, B2, B4, P9, B7, B6..의 예시한 바와 같이 디스플레이 순서와는 다른 순서를 갖는다.
코딩된 슬라이스 세그먼트가 IRAP (intra random access point) 픽쳐에 포함될 경우, Temporal_Id는 0의 값을 갖는다. 이 예에서 I1, P5, P9, P13, P17, P21은 Temporal_Id가 0의 값을 갖는다.
B3, B7, B11, B15, B19, B23은 디코딩 순서에서 Temporal_Id가 0인 픽쳐들만 이용하는 픽쳐들로서, Temporal_Id가 1의 값을 갖는다.
그리고, B2, B4, B6, B8, B10, B12, B14, B16, B18, B20, B22 및 B24은 의 디코딩 순서에서 Temporal_Id가 0과 1인 픽쳐들을 이용하는 픽쳐들로서 Temporal_Id가 2의 값을 갖는다.
본 발명의 실시예에서 GOP를 구성하는 각 픽쳐는 각각의 temporal ID, picture type, 템퍼럴 서브 레이어 픽쳐 타입 정보(temporal_sub_layer_picture_type) 및 dependency level 정보를 포함할 수 있는데, 비디오 스트림을 구성하는 전체 GOP의 개수와 GOP의 각 picture의 정보를 SEI message를 통해 우선적으로 시그널링 할 수 있다. 이에 대해 상술하면 다음과 같다.
도 44는 본 발명의 실시예에 따라 송수신되는 비디오 데이터의 신택스의 일 예를 예시한 도면이다.
본 발명의 실시예에 따라 인코딩된 비디오 데이터, 특히 HEVC를 이용하여 인코딩된 비디오 데이터의 SEI 메시지에 GOP의 metadata 정보가 포함될 수 있다.
예를 들어 SEI 메시지의 payloadType 이 특정 payladType 인 경우 (payloadType = = xxx), SEI 메시지는 트릭 플레이 서비스를 위한 GOP 메타데이터 정보(trickplay_service_GOP_metadata_info (payloadSize))를 포함할 수 있다. 이 정보는 비디오 엘레먼트의 SEI 메시지 중 SEI RBSP (raw byte sequence payload)에 포함될 수 있다.
수신기의 디코더 내에 비디오 파서는, 비디오 데이터의 HEVC NAL unit을 파싱(parsing)하였을 때 nal_unit_type 값이 SEI 데이터에 해당하는 값이고 payloadType이 특정 값인 경우 비디오 데이터의 SEI message내에서 트릭플레이 서비스를 위한 GOP 메타데이터 정보(tricklplay_service_GOP_metadata_info) 를 얻을 수 있다 이 때, payloadType은 0보다 큰 정수 값을 가질 수 있다.
수신기의 디코더의 비디오 파서는 트릭플레이 서비스를 위한 GOP 메타데이터 정보(tricklplay_service_GOP_metadata_info() )를 디코딩하여 비디오 데이터의 트릭플레이를 위한 GOP의 metadata 정보를 획득할 수 있다.
이 정보를 이용해 수신기는 트릭플레이를 위한 GOP의 metadata 정보를 비디오 데이터의 로우 데이터를 디코딩하기 이전에 미리 획득하고 효율적인 트릭플레이를 구현할 수 있다.
트릭플레이를 위한 GOP의 metadata 정보는 다음과 같은 정보를 포함할 수 있다.
GOP_total_count 필드는 스트림을 구성하는 총 GOP의 개수를 나타낸다.
GOP_size필드는 GOP를 구성하는 picture의 총 개수를 나타낸다.
max_temporal_ID필드는 비디오 스트림에 포함된 최대 temporal_id 값을 나타낸다.
temporal_ID필드는 HEVC 표준에서 정의하는 nuh_temporal_id_plus1을 이용해 계산된 temporal ID (temporalId = nuh_temporal_id_plus1 ? 1)와 동일한 값을 가질 수 있다.
예를 들어 HEVC 표준에서 nal_unit_type이 16~23인 경우, 즉 RAP (random access picture)인 경우에는 TemporalId 값이 0의 값을 가질 수 있고, nal_unit_type이 TSA(temporal sub-layer access (TSA) picture)_R, TSA_N, STSA(step-wise temporal sub-layer access (STSA) picture)_R, 또는 STSA_N인 경우 TemporalId 값이 0이 아닌 값을 가질 수 있다.
picture_type필드는 HEVC의 NAL_unit_type 중, 트릭플레이에 이용될 수 있는 일부 nal_unit_type을 선택하여 pic_type으로 구성할 수 있다. 이에 대해서는 후술한다.
temporal_sub_layer_pic_type 필드는 1이상인 temporal ID를 가지는 picture 중에서 adaptive 하게 변경할 수 있는 temporal_sub_layer_pic_type을 나타낸다. 이 정보는 템퍼럴 서브 레이어 픽쳐 타입 필드를 나타내는데 이에 대한 상세한 예는 후술한다.
dependency_level 필드는 GOP 내 각 picture 의 의존도의 크기를 나타내는 정보를 나타내는데 이에 대한 값을 예시하면 다음과 같다. 예를 들어 dependency_level필드가 0x00인 경우 이 비디오 샘플의 dependency_level이 알려지지 않았음을 나타낸다(The dependency level of this sample is unknown).
dependency_level 필드가 0x01 부터 0x3E인 경우, 비디오 샘플이 이 값보다 큰 dependency_level 필드를 가진 비디오 샘플에 의존하지 않는다는 것을 나타낸다(This sample does not depend on samples with a greater dependency_level values than this one).
예를 들어, dependency_level 필드가 0x3F 인 경우은 reserved 필드로 할 수 있다.
dependency_level 필드에 따른 트릭 플레이 동작은 이하에서 후술한다.
도 45는 본 발명의 실시예에 따른 비디오 스트림의 트릭 플레이를 지원할 수 있는 픽쳐 타입 정보를 예시한 도면이다.
픽쳐 타입 정보(pic_type)는, 이 필드의 해당 값에 따라 관련 leading picture가 없는 IDR (instantaneous decoding refresh)(pic_type =0), 복호 가능한 leading picture를 가진 IDR (pic_type = 1), 관련 leading picture가 없는 BLA (broken link access) (pic_type =2) 등을 나타낼 수 있다.
이 예에서, pic_type 가 4인 경우, BLA가 관련 RADL (random access decodable leading) 과 RASL (random access skipped leading) 픽쳐를 가질 수 있음을 나타내고, pic_type 가 5인 경우, CRA (clean random access) 픽쳐가 관련 leading picture를 가질 수 있음을 나타낸다. pic_type 가 6인 경우, Random access decodable leading picture를, pic_type 가 7인 경우, Random access skipped leading picture 등을 나타낼 수 있다.
여기서 leading picture는 출력 순서로 관련 IRAP 픽쳐에 선행하는 픽쳐를 지칭하고, BLA (broken link access)는 각 VCL NAL 유닛이 BLA_W_LP, BLA_W_RADL, 또는 BLA_N_LP과 같은 nal_unit_type값을 가지는 IRAP 픽처를 의미한다. CRA (clean random access)는 각 VCL NAL 유닛이 CRA_NUT 과 같은 nal_unit_type값을 IRAP 픽처를 의미한다.
각각의 픽쳐 타입 정보 와 관련된 nal_unit_type은 가장 오른쪽 열에 예시하였다.
도 46은 본 발명의 실시예에 따른 트릭플레이를 위한 GOP의 metadata 정보 중 dependency_level 필드에 따른 트릭 플레이의 동작 예를 예시한 도면이다.
이 도면에서 예시한 바와 같이 각 픽쳐들이 I1, B2, B3, B4, B5, B6, B7, P9, B10, B11, B12..의 순서를 가진다고 할 때, I1 및 I25의 dependency_level이 1이고, P5 및 P17은 dependency_level이 2이고, B5, B13, B21의 dependency_level이 3임을 각각 나타낸다. 그리고, B3, B7, B11, B15, B19, B23의 dependency_level이 4이고, B2, B4, B6, B8, B10, B12, B14, B16, B18, B20, B22, B24의 dependency_level이 5임을 예시한다.
2배속의 트릭 플레이를 수행하는 경우 dependency_level이 1, 2, 3, 그리고 4인 픽쳐를 이용하고, 이 도면에서 예시하는 바와 같이 예를 들어 dependency_level이 3 이면 해당 샘플을 포함한 trick play의 경우 dependency_level = 1, 2, 3에 해당되는 sample만 가지고 play하면 된다는 것을 의미한다. 따라서, dependency_level을 이용하여 트릭 플레이를 하는데 있어서 참조해야 하는 layer의 level과 참조 하지 않아야 하는 layer의 level을 구분할 수 있다.
도 47은 본 발명의 실시예에 따른 트릭플레이를 위한 GOP의 metadata 정보 중 temporal_sub_layer_pic_type 필드에 따른 템퍼럴 서브 레이어 픽쳐 타입 정보 (temporal sublayer picture type) 의 예를 예시한 도면이다.
기술한 바와 같이 템퍼럴 서비스 레이어 픽쳐 타입 정보(temporal sublayer picture type)는 Temporal ID를 가지는 픽쳐들 중 어댑티브(adaptive)하게 변경할 수 있는 Temporal_sub_layer_pic_type을 구분하는 정보이다.
서브 레이어(Sub_layer)는 특정 TemporalId 값을 가지는 VCL NAL units과 관련 non-VCL NAL units를 구성하는 temporal scalable 비트 스트림의 temporal scalable layer를 나타낸다.
서브 레이어(Sub_layer) reference picture는 디코딩 순서에서 같은 서브 레이어의 연속된 픽쳐들의 디코딩 프로세스에서 인터 프리딕션(inter prediction)을 위해 사용될 수 있는 샘플들을 포함하는 픽쳐들이고, sub-layer non-reference picture는 디코딩 순서에서 같은 서브 레이어의 연속된 픽쳐들의 디코딩 프로세스에서 인터 프리딕션(inter prediction)을 위해 사용될 수 없는 샘플들을 포함하는 픽쳐들이다.
이 예에서 템퍼럴 서비스 레이어 픽쳐 타입 정보의 값이 0인 경우, 해당 샘플이 reference TSA(Temporal sub-layer access) picture를 나타낸다. Temporal sub-layer access (TSA) picture는 각 VCL NAL unit 이 TSA_R 또는 TSA_N과 같은 nal_unit_type을 가지는 코딩된 픽쳐를 지칭한다.
템퍼럴 서비스 레이어 픽쳐 타입 정보의 값이 1인 경우, 해당 샘플이 non-reference TSA(Temporal sub-layer access) picture를 나타낸다.
템퍼럴 서비스 레이어 픽쳐 타입 정보의 값이 2인 경우, 해당 샘플이 reference STSA(Step-wise temporal sub-layer access) picture임을 나타내는데, STSA picture는 각 VCL NAL unit STSA_R 또는 STSA_N과 같은 nal_unit_tye을 가지는 코딩된 픽쳐를 지칭한다.
템퍼럴 서비스 레이어 픽쳐 타입 정보의 값이 3인 경우, 해당 샘플이 non-reference STSA(Step-wise temporal sub-layer access) picture임을 나타낼 수 있다.
각 템퍼럴 서비스 레이어 픽쳐 타입 정보에 따른 트릭 플레이의 차이에 대해 개시한다. Temporal_ID가 0이 아닌 layer에서 TSA(Temporal Sub-layer Access picture)와 STSA(Step-wise Temporal Sub-layer Access picture)를 기반으로 다이나믹하게 frame rate을 변경시킬 수 있다. TSA와 STSA는 frame rate을 어떤 방식으로 또는 얼마나 다른 프레임 레잇으로 변경할 수 있는지에 대해 차이가 있다. 즉, 두 픽쳐 타입은, 한번에 몇 개의 temporal_id를 건너뛸 수 있는지에 대해 서로 간에 차이가 있다. 이에 대해 후술한다.
도 48은 본 발명의 실시예에 따른 트릭플레이를 위한 GOP의 metadata 정보 중 템퍼럴 서비스 레이어 픽쳐 타입 정보(temporal_sub_layer_pic_type)의 타입이 TSA인 경우 트릭 플레이를 위한 프레임 레잇(frame rate)을 변경하는 예를 개시한 도면이다.
이 도면에서 T_ID는 Temporal_ID를 나타내는데, 템퍼럴 서비스 레이어 픽쳐 타입 정보(temporal_sub_layer_pic_type)가 TSA인 경우, 트릭 플레이로 temporal_ID가 2인 layer의 stream만을 4배속으로 display하다가, 배속 수를 1배 속 정상 속도로 디스플레이 할 수 있다.
즉, T_ID가 1인 픽쳐는 TSA 픽쳐인데, 이 도면에서, T_ID 가 2인 픽쳐와 T_ID가 0 인 픽쳐들을 연결한 화살표로 표시한 바와 같이, 서로 다른 Temporal_ID를 가진 픽쳐들을 이용하여 바로 배속 변환이 가능한 트릭 플레이를 제공할 수 있다. (점선으로 표시).
도 49는 본 발명의 실시예에 따른 트릭플레이를 위한 GOP의 metadata 정보 중 템퍼럴 서비스 레이어 픽쳐 타입 정보(temporal_sub_layer_pic_type 필드)의 타입이 STSA인 경우 트릭 플레이를 위한 프레임 레잇(frame rate)을 변경하는 예를 개시한 도면이다.
이 도면에서 T_ID는 Temporal_ID를 나타내는데, T_ID가 1인 경우 STSA 픽쳐일 수 있다. 이 도면은 템퍼럴 서비스 레이어 픽쳐 타입 정보(temporal_sub_layer_pic_type)가 STSA인 경우 트릭 플레이로 temporal_ID가 2인 레이어의 stream만을 4배속으로 디스플레이하다가, 배속 수를 2배속으로 플레이한 후에 다음 STSA 에서 1배속 으로 (정상 속도로) 디스플레이하는 과정을 나타낸다.
이 도면에서, T_ID 가 2인 픽쳐와 T_ID가 1 인 픽쳐들을 연결한 화살표로 표시한 바와 같이, 서로 다른 Temporal_ID를 가진 픽쳐들을 이용하여 순차적으로 배속 변환이 가능한 트릭 플레이를 제공할 수 있다. (점선으로 표시).
위 도 48 및 도 49에 따르면, 변환 가능한 배속 수에 대한 제한 사항(constraint)를 알려주는 방법이 필요하다. 예를 들어 temporal_id이 0인 경우 frame rate이 15p, temporal_id이 1인 경우 frame rate이 30p, temporal_id 이 2인 경우 frame rate이 (max_temporal_id=2)가 60p이라 가정한다.
그런 경우 템퍼럴 서비스 레이어 픽쳐 타입 정보(temporal_sub_layer_pic_type)가 TSA인 경우, temporal_id 0에서 바로 temporal_id 2로 바로 접근이 가능하여, adaptive stream을 송수신한 경우, frame rate이 15p인 비디오 서비스를 제공하다가 frame rate이 60p 서비스로 바로 변경 가능함을 나타낼 수 있다. 따라서 temporal_id와 temporal_sub_layer_pic_type를 이용하면 트릭 플레이 변환이 보다 효율적으로 할 수 있다.
다른 예로서, 템퍼럴 서비스 레이어 픽쳐 타입 정보(temporal_sub_layer_pic_type)가 STSA인 경우, 픽쳐들에 대해 단계적 접근만이 가능하므로, temporal_id 0에서 temporal_id 1로 접근하고, 그 후에 temporal_id 2로 접근할 수 있다.
따라서, 점차적으로 15p 비디오에서 30p 비디오로 전환을 하고, 다시 30p 비디오에서 60p 비디오로 서비스로 변경이 가능하다. 이와 같이 Temporal_ID가 0이 아닌 layer에서 TSA(Temporal Sub-layer Access) picture와 STSA(Step-wise Temporal Sub-layer Access) picture를 기반으로 다이나믹한 frame rate을 변경시킬 수 있다
도 50은 본 발명에 따른 신호 수신 장치의 일 실시예를 예시한 도면이다. 이 도면을 참조하여 본 발명에 따른 신호 수신 장치의 일 실시예를 설명하면 다음과 같다.
신호 수신 장치의 일 실시예는 디코더를 포함할 수 있는데, 디코더는 임시저장부(210), 비디오파서(220) 및 비디오디코딩부(230)를 포함할 수 있다.
신호 수신 장치의 일 실시예는 인코딩된 비디오 데이터를 수신할 수 있다. 인코딩된 데이터는 시간적인 순서에 따라 GOP에 포함된 픽쳐들을 포함할 수 있다.
임시저장부(210)는 인코딩된 비디오 데이터를 임시 저장하는 버퍼역할을 수행할 수 있는데, 이 경우 인코딩된 비디오 데이터는 파일 형식일 수도 있고 비디오 스트림이 될 수도 있다.
비디오파서(220)는 인코딩된 비디오 데이터로부터 SEI 메시지를 파싱하여 GOP(Group of Picture) 메타데이터를 얻을 수 있다. GOP(Group of Picture) 메타데이터는 위에서 설명한 바와 같이 비디오 데이터의 총 GOP 개수, GOP 사이즈, GOP를 구성하는 각 picture의 picture type, 템퍼럴 아이디(temporal ID) 및 템퍼럴 서브 레이어 픽쳐 정보(temporal sub-layer의 picture type)를 포함할 있다. 비디오파서(220)는 SEI 메시지를 파싱하고, SEI 메시지로부터 얻은 GOP 메타데이터를 비디오디코딩부(230)에 전달할 수 있다.
또는 비디오파서(220)는 GOP 메타데이터를 이용하여 GOP 내의 픽쳐를 필터링하거나 디먹싱하여 출력할 수도 있다.
비디오디코딩부(230)는 비디오파서(220)가 출력하는 비디오데이터를 이용하여 비디오를 재생하도록 디코딩할 수 있다.
비디오디코딩부(230)는 비디오데이터 내의 인덱스에 기반하여 트릭플레이를 수행할 수 있다.
이 경우 비디오디코딩부(230)는 비디오파서(220)가 얻은 GOP(Group of Picture) 메타데이터에 기반하여 비디오 트릭 플레이를 효율적으로 수행할 수 있다. 이에 대해서는 도 46내지 도 48에 예시하였다.
예를 들어 비디오파서(220)는, 비디오 데이터 내의 각 픽쳐(또는 코딩 슬라이스 세그먼트)에 대한 temporalID, 픽쳐 타입 정보, 디펜던시 레벨 정보(dependency_level)과 템퍼럴 서브 레이어 픽쳐 타입을 이용하여 GOP 내의 픽처들 중 트릭플레이에 필요한 픽쳐들을 출력하여 비디오디코딩부(230)가 디코딩 순서에 대한 정보를 비디오 데이터를 복호하면서 직접 얻는 것보다 빨리 얻고, 해당 픽쳐를 먼저 디코딩하도록 할 수 있다.
이 도면에서 수신되는 비디오 데이터의 GOP내 픽쳐들은 I1, B2, B3, B4, P5, B6, B7, P9, B10, B11, B12..로 예시하였고 그 아래 괄호안에 temporalID 값을 예시하였다.
비디오파서(220)가 SEI 메시지로부터 GOP 메타데이터를 얻은 경우 비디오디코딩부(230)는 GOP 메타데이터를 이용하여 예시한 순서에 따라 픽쳐들을 디코딩할 수 있다. 그러면 1배속의 정상 속도로 비디오 픽쳐들이 디스플레이될 수 있다.
그러나, 비디오파서(220)가 SEI 메시지로부터 GOP 메타데이터를 얻은 경우, 비디오디코딩부(230)는 GOP 메타데이터를 이용하여, 2배속의 트릭 플레이를 하는 경우 I1, P5, B3, P9, B7, P13, B11, P17, B15, P21, B19, B23의 디코딩 순서에 따라 픽쳐를 디코딩하여 트릭플레이를 수행할 수 있다.
비디오디코딩부(230)는 비디오파서(220)가 파싱한 GOP 메타데이터를 이용하여 4배속의 트릭 플레이를 하는 경우, I5, P5, P9, P13, P17, P21의 디코딩 순서에 따라 픽쳐를 디코딩하여 트릭플레이를 수행할 수 있다.
다른 예로서, 비디오디코딩부(230)는 트릭 플레이 시에 배속 변환을 할 경우 템퍼럴 서브 레이어 픽쳐 타입 정보를 이용할 수 있다.
신호 수신 장치의 일 실시예는 비디오프로세싱부(240)를 더 포함할 수 있는데, 비디오프로세싱부(240)는 비디오디코딩부(240)가 복호한 비디오 데이터에 대해 스케일링 처리 등 여러 가지 후처리 등을 수행할 수 있다.
따라서, 비디오디코딩부(230)는 비디오 소스 데이터를 복호하면서 트릭 플레이를 위한 정보를 얻을 뿐만 아니라 비디오파서(220)로부터 SEI 메시지를 통해 미리 트릭 플레이에 필요한 정보를 얻음으로써, 더 효율적으로 디코더가 트릭플레이를 수행할 수 있다.
도 51은 본 발명에 따른 신호 송신 장치의 일 실시예를 예시한 도면이다. 이 도면을 참조하여 본 발명에 따른 신호 송신 장치의 일 실시예의 동작을 설명하면 다음과 같다.
본 발명에 따른 신호 송신 장치의 일 실시예는 비디오 소스 인코더(310) 및 비디오전송부(320)를 포함한다.
비디오 소스 인코더(310)는 비디오 소스 데이터를 인코딩한다(S110). 비디오 소스 인코더(310)는 비디오 소스 데이터를 인코딩하는 방식으로 AVC 나 HEVC를 이용할 수 있다.
비디오 소스 인코더(310)는 비디오전송부(320)는 전송하는 비디오 포맷을 생성하여 출력할 수 있는데, 예를 들어 HEVC 인코딩된 비디오 스트림은 그 비디오 데이터의 픽쳐 정보를 가지는 SEI (Supplemental Enhancement Information) 메시지(message)를 포함할 수 있다.
HEVC인코딩된 비디오 데이터 스트림의 트릭 플레이를 위해 HEVC 비디오 데이터의 SEI 메시지에 GOP(Group of Picture) 메타데이터를 포함할 수 있다.
SEI 메시지 내 GOP 메타데이터는 총 GOP 개수, GOP 사이즈, GOP를 구성하는 각 picture의 picture type, 템퍼럴 아이디(temporal ID) 및 템퍼럴 서브 레이어 픽쳐 정보(temporal sub-layer의 picture type) 등을 포함할 수 있다. 이에 대해서는 도 44에 예시하였다.
비디오전송부(320)는 HEVC 비디오 데이터의 SEI 메시지(message)에 GOP 메타데이터를 포함한 비디오를 전송한다.
비디오를 전송할 경우, 트릭 플레이를 효율적으로 구현하기 위해 도 1 내지 도 41에서 예시한 바와 같이 PES 레벨에서의 정보를 포함할 수 있다.
따라서, 수신기의 디코더가 SEI 메시지 내의 GOP 메타데이터를 이용하여 보다 효율적으로 비디오 트릭 플레이를 수행할 수 있도록 할 수 있다.
본 발명의 실시예에 따르면, 표준화된 인코딩 방식에 따른 스트림, 예를 들어 AVC 또는 HEVC 스트림의 트릭 플레이를 위한 시그널링 정보를 송수신할 수 있고, 본 발명의 실시예에 따르면 인코딩된 스트림을 트릭 플레이를 시그널링할 경우 확장가능한 방식을 제공할 수 있다. 그리고, HEVC 인코딩된 컨텐츠에 대한 트릭 플레이 방식과 호환되면서도 더 효율적인 트릭 플레이가 가능하도록 할 수 있다.
발명의 실시를 위한 형태는 위의 발명의 실시를 위한 최선의 형태에서 함께 기술되었다.
본원 발명은 방송 및 비디오 신호 처리 분야에서 사용 가능하고 반복 가능성이 있는 산업상 이용가능성이 있다.

Claims (12)

  1. 비디오 소스 데이터를 인코딩하고, GOP(Group of Picture) 메타데이터를 가지는 SEI(Supplemental Enhancement Information) 메시지를 포함하는 비디오 데이터를 출력하는 단계; 및
    상기 비디오 데이터를 전송하는 단계;를 포함하는 신호 송신 방법.
  2. 제 1항에 있어서,
    상기 GOP 메타데이터는, 템퍼럴 아이디 정보, 픽쳐 타입 정보 및 템퍼럴 서브 레이어 픽쳐 타입 정보를 포함하는 신호 송신 방법.
  3. 제 2항에 있어서,
    상기 픽쳐 타입 정보는 HEVC(High Efficiency Video Coding)의 NAL_unit_type 중 트릭 플레이에 사용되는 NAL_unit_type을 지칭하고, 상기 템퍼럴 아이디 정보는, HEVC의 NAL_unit_type의 특정 값에 대응하고, 상기 템퍼럴 서브 레이어 픽쳐 타입 정보는 HEVC의 TSA(Temporal sub-layer access) picture 또는 STSA(Step-wise temporal sub-layer access) picture 중 어느 하나를 지칭하는 신호 송신 방법.
  4. 제 1항에 있어서,
    상기 비디오 데이터를 전송하는 단계는,
    최대 템포럴 식별 정보 값을 가지는 PVR(personal video recorder) 어시스트 정보를 포함하고 비디오 스트림을 생성하는 단계; 및
    상기 비디오 스트림을 전송하는 단계를 포함하는 신호 송신 방법.
  5. 인코딩된 비디오 데이터를 수신하고, 상기 인코딩된 비디오 데이터의 SEI(Supplemental Enhancement Information) 메시지를 파싱하여 GOP(Group of Picture) 메타데이터를 얻는 단계; 및
    상기 얻은 GOP(Group of Picture) 메타데이터에 기반하여 상기 인코딩된 비디오 데이터를 복호하는 단계; 를 포함하는 신호 수신 방법.
  6. 제 5항에 있어서,
    상기 GOP 메타데이터는, 템퍼럴 아이디 정보, 픽쳐 타입 정보 및 템퍼럴 서브 레이어 픽쳐 타입 정보를 포함하는 신호 수신 방법.
  7. 제 6항에 있어서,
    상기 픽쳐 타입 정보는 HEVC(High Efficiency Video Coding)의 NAL_unit_type 중 트릭 플레이에 사용되는 NAL_unit_type을 지칭하고, 상기 템퍼럴 아이디 정보는, HEVC의 NAL_unit_type의 특정 값에 대응하고, 상기 템퍼럴 서브 레이어 픽쳐 타입 정보는 HEVC의 TSA(Temporal sub-layer access) picture 또는 STSA(Step-wise temporal sub-layer access) picture 중 어느 하나를 지칭하는 신호 수신 방법.
  8. 제 5항에 있어서,
    상기 인코딩된 비디오 데이터를 수신하고, 상기 인코딩된 비디오 데이터의 SEI(Supplemental Enhancement Information) 메시지를 파싱하여 GOP(Group of Picture) 메타데이터를 얻는 단계는,
    상기 인코딩된 비디오 데이터를 포함하는 비디오 스트림의 최대 템포럴 식별 정보 값을 가지는 PVR 어시스트 정보를 얻는 단계를 포함하는 신호 수신 방법.
  9. 비디오 소스 데이터를 인코딩하고, GOP 메타데이터를 가지는 SEI 메시지를 포함하는 비디오데이터를 출력하는 비디오인코더; 및
    상기 비디오 데이터를 전송하는 비디오전송부;를 포함하는 신호 송신 장치.
  10. 인코딩된 비디오 데이터를 수신하고, 상기 인코딩된 비디오 데이터의 SEI 메시지를 파싱하여 GOP(Group of Picture) 메타데이터를 얻는 비디오파서; 및
    상기 비디오파서가 얻은 GOP(Group of Picture) 메타데이터에 기반하여 상기 인코딩된 비디오 데이터를 복호하는 비디오디코딩부; 를 포함하는 신호 수신 장치.
  11. 비디오 데이터를 인코딩하여 비디오 스트림을 생성하는 단계;
    여기서, 상기 비디오 스트림은 상기 비디오 스트림의 최대 템포럴 식별 정보 값을 가지는 PVR(personal video recorder) 어시스트 정보를 포함하고;
    상기 생성된 비디오 스트림을 전송하는 단계;를 포함하는 신호 송신 방법.
  12. 수신한 신호를 역다중화하여 비디오 스트림을 추출하는 역다중화부;
    여기서, 상기 비디오 스트림은 상기 비디오 스트림의 최대 템포럴 식별 정보 값을 가지는 PVR(personal video recorder) 어시스트 정보를 포함하고; 및
    상기 PVR 어시스트 정보를 기초로 하여 상기 추출된 비디오 스트림을 디코딩하고 상기 비디오 데이터의 트릭 플레이를 수행하는 비디오디코더; 를 포함하는 신호 수신 장치.
PCT/KR2014/012385 2013-12-16 2014-12-16 트릭 플레이 서비스 제공을 위한 신호 송수신 장치 및 신호 송수신 방법 WO2015093811A1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
US15/101,320 US10230999B2 (en) 2013-12-16 2014-12-16 Signal transmission/reception device and signal transmission/reception method for providing trick play service
KR1020167013602A KR101792518B1 (ko) 2013-12-16 2014-12-16 트릭 플레이 서비스 제공을 위한 신호 송수신 장치 및 신호 송수신 방법
JP2016540577A JP6474815B2 (ja) 2013-12-16 2014-12-16 トリックプレイサービス提供のための信号送受信装置及び信号送受信方法
EP14872884.3A EP3086559A4 (en) 2013-12-16 2014-12-16 Signal transmission/reception device and signal transmission/reception method for providing trick play service

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US201361916757P 2013-12-16 2013-12-16
US61/916,757 2013-12-16
US201461954615P 2014-03-18 2014-03-18
US61/954,615 2014-03-18
US201461970910P 2014-03-27 2014-03-27
US61/970,910 2014-03-27

Publications (1)

Publication Number Publication Date
WO2015093811A1 true WO2015093811A1 (ko) 2015-06-25

Family

ID=53403086

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2014/012385 WO2015093811A1 (ko) 2013-12-16 2014-12-16 트릭 플레이 서비스 제공을 위한 신호 송수신 장치 및 신호 송수신 방법

Country Status (5)

Country Link
US (1) US10230999B2 (ko)
EP (1) EP3086559A4 (ko)
JP (1) JP6474815B2 (ko)
KR (1) KR101792518B1 (ko)
WO (1) WO2015093811A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109155876A (zh) * 2016-05-24 2019-01-04 高通股份有限公司 样本条目和随机存取
US11218742B2 (en) 2015-10-07 2022-01-04 Panasonic Intellectual Property Management Co., Ltd. Video transmission method, video reception method, video transmission apparatus, and video reception apparatus

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3242487B1 (en) * 2014-12-29 2021-10-13 Sony Group Corporation Transmitting device, transmitting method, receiving device and receiving method
US9510062B1 (en) * 2015-08-13 2016-11-29 This Technology, Inc. In-band trick mode control
US11736687B2 (en) * 2017-09-26 2023-08-22 Qualcomm Incorporated Adaptive GOP structure with future reference frame in random access configuration for video coding
KR102624024B1 (ko) 2017-11-17 2024-01-12 소니그룹주식회사 정보 처리 장치, 정보 처리 방법, 기록 매체, 재생 장치, 재생 방법, 및 프로그램

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110101512A (ko) * 2010-03-08 2011-09-16 삼성전자주식회사 미디어 컨텐츠 재생 장치 및 방법
WO2012050405A2 (ko) * 2010-10-16 2012-04-19 엘지전자 주식회사 디지털 수신기 및 디지털 수신기에서의 3d 컨텐트 처리방법
KR20130098184A (ko) * 2010-08-17 2013-09-04 엘지전자 주식회사 디지털 수신기 및 디지털 수신기에서의 컨텐트 처리 방법
WO2013157826A1 (ko) * 2012-04-16 2013-10-24 한국전자통신연구원 영상 정보 디코딩 방법, 영상 디코딩 방법 및 이를 이용하는 장치
KR20130129080A (ko) * 2012-05-17 2013-11-27 삼성전자주식회사 기록 매체, 기록 매체에 기록된 데이터에 대한 트릭 플레이를 수행하는 기록 매체 재생 장치 및 그 트릭 플레이 방법

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7831990B2 (en) 2002-04-29 2010-11-09 Sony Corporation Generic adaptation layer for JVT video
ATE555474T1 (de) 2004-04-28 2012-05-15 Panasonic Corp Stream-erzeugungsvorrichtung für bewegliche bilder, kodierungsvorrichtung für bewegliche bilder, multiplex-vorrichtung für bewegliche bilder und decodierungsvorrichtung für bewegliche bilder
JP2008294512A (ja) * 2007-05-22 2008-12-04 Panasonic Corp デジタルテレビ受信装置及びデジタルテレビ送信装置
JP2008294612A (ja) 2007-05-23 2008-12-04 Toshiba Corp 制御装置
US8416858B2 (en) * 2008-02-29 2013-04-09 Cisco Technology, Inc. Signalling picture encoding schemes and associated picture properties
WO2009158550A2 (en) * 2008-06-25 2009-12-30 Cisco Technology, Inc. Support for blocking trick mode operations
US9131033B2 (en) * 2010-07-20 2015-09-08 Qualcomm Incoporated Providing sequence data sets for streaming video data
US20120075436A1 (en) * 2010-09-24 2012-03-29 Qualcomm Incorporated Coding stereo video data
WO2013172667A1 (en) 2012-05-17 2013-11-21 Samsung Electronics Co., Ltd. Recording medium, reproducing device for performing trick play for data of the recording medium, and method thereof
EP3039861A1 (en) * 2013-08-28 2016-07-06 Cisco Technology, Inc. Support for trick modes in hevc streams
DE112014000261T5 (de) 2013-12-01 2015-09-24 Lg Electronics Inc. Verfahren und Gerät zum Senden und Empfangen eines Übertragungssignals zum Bereitstellen eines Trickmodusdienstes

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110101512A (ko) * 2010-03-08 2011-09-16 삼성전자주식회사 미디어 컨텐츠 재생 장치 및 방법
KR20130098184A (ko) * 2010-08-17 2013-09-04 엘지전자 주식회사 디지털 수신기 및 디지털 수신기에서의 컨텐트 처리 방법
WO2012050405A2 (ko) * 2010-10-16 2012-04-19 엘지전자 주식회사 디지털 수신기 및 디지털 수신기에서의 3d 컨텐트 처리방법
WO2013157826A1 (ko) * 2012-04-16 2013-10-24 한국전자통신연구원 영상 정보 디코딩 방법, 영상 디코딩 방법 및 이를 이용하는 장치
KR20130129080A (ko) * 2012-05-17 2013-11-27 삼성전자주식회사 기록 매체, 기록 매체에 기록된 데이터에 대한 트릭 플레이를 수행하는 기록 매체 재생 장치 및 그 트릭 플레이 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3086559A4 *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11218742B2 (en) 2015-10-07 2022-01-04 Panasonic Intellectual Property Management Co., Ltd. Video transmission method, video reception method, video transmission apparatus, and video reception apparatus
US20220086510A1 (en) * 2015-10-07 2022-03-17 Panasonic Intellectual Property Management Co., Ltd. Video transmission method, video reception method, video transmission apparatus, and video reception apparatus
US11683539B2 (en) 2015-10-07 2023-06-20 Panasonic Intellectual Property Management Co., Ltd. Video transmission method, video reception method, video transmission apparatus, and video reception apparatus
US20230276083A1 (en) * 2015-10-07 2023-08-31 Panasonic Intellectual Property Management Co., Ltd. Video transmission method, video reception method, video transmission apparatus, and video reception apparatus
US11997325B2 (en) 2015-10-07 2024-05-28 Panasonic Intellectual Property Management Co., Ltd. Video transmission method, video reception method, video transmission apparatus, and video reception apparatus
CN109155876A (zh) * 2016-05-24 2019-01-04 高通股份有限公司 样本条目和随机存取
CN109155876B (zh) * 2016-05-24 2021-02-02 高通股份有限公司 一种检索视频数据的方法、装置、设备及可读存储媒体

Also Published As

Publication number Publication date
KR101792518B1 (ko) 2017-11-02
US10230999B2 (en) 2019-03-12
EP3086559A1 (en) 2016-10-26
EP3086559A4 (en) 2017-08-02
US20170272787A1 (en) 2017-09-21
JP2017504254A (ja) 2017-02-02
JP6474815B2 (ja) 2019-02-27
KR20160082242A (ko) 2016-07-08

Similar Documents

Publication Publication Date Title
WO2015080414A1 (ko) 트릭 플레이 서비스 제공을 위한 방송 신호 송수신 방법 및 장치
WO2015126144A1 (ko) 파노라마 서비스를 위한 방송 신호 송수신 방법 및 장치
WO2015093811A1 (ko) 트릭 플레이 서비스 제공을 위한 신호 송수신 장치 및 신호 송수신 방법
WO2018004291A1 (ko) 방송 신호 송신 방법, 방송 신호 수신 방법, 방송 신호 송신 장치 및 방송 신호 수신 장치
WO2015115869A1 (ko) 트릭 플레이 서비스 제공을 위한 신호 송수신 장치 및 신호 송수신 방법
WO2015152635A1 (ko) 신호 송수신 장치 및 신호 송수신 방법
WO2015076616A1 (ko) 신호 송수신 장치 및 신호 송수신 방법
WO2014073927A1 (ko) 신호 송수신 장치 및 신호 송수신 방법
WO2012036532A2 (en) Method and apparatus for processing a broadcast signal for 3d (3-dimensional) broadcast service
WO2012023789A2 (ko) 디지털 방송 신호 수신 장치 및 방법
WO2015034306A1 (ko) 디지털 방송 시스템에서 고화질 uhd 방송 컨텐츠 송수신 방법 및 장치
WO2016182371A1 (ko) 방송 신호 송신 장치, 방송 신호 수신 장치, 방송 신호 송신 방법, 및 방송 신호 수신 방법
WO2014003379A1 (ko) 영상 디코딩 방법 및 이를 이용하는 장치
WO2015102449A1 (ko) 컬러 개멋 리샘플링을 기반으로 하는 방송 신호 송수신 방법 및 장치
WO2014003515A1 (ko) 멀티미디어 시스템에서 적응적 미디어 구조 송신 방법 및 장치
WO2010021525A2 (en) A method for processing a web service in an nrt service and a broadcast receiver
WO2012077987A2 (ko) 디지털 방송 신호 수신 장치 및 방법
WO2014025213A1 (ko) 신호 송수신 장치 및 신호 송수신 방법
WO2011112053A2 (ko) 비실시간 방송 서비스 처리 시스템 및 그 처리방법
WO2015065037A1 (ko) Hevc 기반의 ip 방송 서비스 제공을 위한 방송 신호 송수신 방법 및 장치
WO2014084564A1 (ko) 신호 송수신 장치 및 신호 송수신 방법
WO2014073853A1 (ko) 신호 송수신 장치 및 신호 송수신 방법
WO2016171518A2 (ko) 방송 신호 송신 장치, 방송 신호 수신 장치, 방송 신호 송신 방법, 및 방송 신호 수신 방법
WO2012050405A2 (ko) 디지털 수신기 및 디지털 수신기에서의 3d 컨텐트 처리방법
WO2017061796A1 (ko) 방송 신호 송신 장치, 방송 신호 수신 장치, 방송 신호 송신 방법, 및 방송 신호 수신 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 14872884

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 20167013602

Country of ref document: KR

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 15101320

Country of ref document: US

ENP Entry into the national phase

Ref document number: 2016540577

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

REEP Request for entry into the european phase

Ref document number: 2014872884

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2014872884

Country of ref document: EP