WO2015033809A1 - 復号装置および復号方法、並びに符号化装置および符号化方法 - Google Patents

復号装置および復号方法、並びに符号化装置および符号化方法 Download PDF

Info

Publication number
WO2015033809A1
WO2015033809A1 PCT/JP2014/072104 JP2014072104W WO2015033809A1 WO 2015033809 A1 WO2015033809 A1 WO 2015033809A1 JP 2014072104 W JP2014072104 W JP 2014072104W WO 2015033809 A1 WO2015033809 A1 WO 2015033809A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
unit
color gamut
decoding
data
Prior art date
Application number
PCT/JP2014/072104
Other languages
English (en)
French (fr)
Inventor
しのぶ 服部
江藤 博昭
卓己 津留
金井 健一
俊也 浜田
Original Assignee
ソニー株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to CN201480002494.5A priority Critical patent/CN104662911B/zh
Priority to JP2015507842A priority patent/JP6651848B2/ja
Priority to MX2015002589A priority patent/MX343609B/es
Priority to BR112015006711-5A priority patent/BR112015006711B1/pt
Application filed by ソニー株式会社 filed Critical ソニー株式会社
Priority to EP14838854.9A priority patent/EP2966869B1/en
Priority to MYPI2015700546A priority patent/MY184223A/en
Priority to CN201910291356.8A priority patent/CN110012297B/zh
Priority to IN1681DEN2015 priority patent/IN2015DN01681A/en
Priority to EP20198437.4A priority patent/EP3783900A1/en
Priority to KR1020157007337A priority patent/KR20160052459A/ko
Priority to US14/490,444 priority patent/US9264683B2/en
Publication of WO2015033809A1 publication Critical patent/WO2015033809A1/ja
Priority to US14/984,509 priority patent/US10015505B2/en
Priority to US15/421,863 priority patent/US10798398B2/en
Priority to US15/421,844 priority patent/US10728567B2/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression

Definitions

  • the present disclosure relates to a decoding device and a decoding method, and a coding device and a coding method, and in particular, a decoding device and a decoding method which allow a color gamut of an image to be coded to be accurately recognized on the decoding side And an encoding apparatus and an encoding method.
  • the MPEG2 (ISO / IEC 13818-2) system is defined as a general-purpose image coding system, and is a standard that covers both interlaced scanning images and progressive scanning images, as well as standard resolution images and high definition images. It is currently widely used in a wide variety of applications and consumer applications.
  • a code amount (bit of 18 to 22 MBps for 4 to 8 Mbps in the case of a standard resolution interlaced scanning image having 720 ⁇ 480 pixels and 18 to 22 Mbps for a high resolution interlaced scanning image having 1920 ⁇ 1088 pixels
  • By assigning a rate it is possible to realize high compression rate and good image quality.
  • MPEG2 was mainly intended for high-quality coding suitable for broadcasting, it did not correspond to a coding amount (bit rate) lower than that of MPEG1, that is, a coding method with a higher compression rate.
  • bit rate bit rate
  • MPEG4 image coding method the standard was approved as an international standard as ISO / IEC 14496-2 in December 1998.
  • Non-Patent Document 1 has been issued as Draft.
  • the color gamut of the image to be encoded is defined by color_primaries of VUI (Video Usability Information).
  • the color gamut of the image to be encoded is defined by the index that identifies any of the color gamuts defined in another standard. Therefore, a color gamut other than the fixed color gamut can not be defined as the color gamut of the image to be encoded, and the color gamut of the image to be encoded can not be accurately recognized on the decoding side.
  • the present disclosure has been made in view of such a situation, and enables the decoding side to accurately recognize the color gamut of an image to be encoded.
  • a decoding device includes: a receiving unit that receives the coded stream from a coding device that transmits a coded stream including coded data of an image and color gamut information representing the color gamut of the image; An extraction unit for extracting the encoded data and the color gamut information from the encoded stream received by the reception unit; and decoding the encoded data extracted by the extraction unit to generate the image. And a decryption unit.
  • the decoding method of the first aspect of the present disclosure corresponds to the decoding device of the first aspect of the present disclosure.
  • the encoded stream is received from an encoding apparatus that transmits an encoded stream including encoded data of an image and color gamut information representing the color gamut of the image, and the encoding is performed
  • the encoded data and the color gamut information are extracted from a stream, and the encoded data is decoded to generate the image.
  • An encoding apparatus encodes an image and generates an encoded data, a setting unit configured to set color gamut information representing a color gamut of the image, and the encoding unit. And a transmitter configured to transmit a coded stream including the coded data generated by the coding unit and the color gamut information generated by the setting unit.
  • the coding method of the second aspect of the present disclosure corresponds to the coding device of the second aspect of the present disclosure.
  • an image is encoded to generate encoded data, color gamut information representing a color gamut of the image is set, and a code including the encoded data and the color gamut information Stream is transmitted.
  • the decoding device of the third aspect of the present disclosure transmits a coded stream including coded data of an image, identification information for identifying a predetermined color gamut, and coverage of the color gamut of the image with respect to the predetermined color gamut.
  • a receiver for receiving the coded stream from a coding device, an extraction unit for extracting the coded data, the identification information, and the coverage from the coded stream received by the receiver; And a decoding unit that decodes the encoded data extracted by the unit and generates the image.
  • the decoding method of the third aspect of the present disclosure corresponds to the decoding device of the third aspect of the present disclosure.
  • a code for transmitting a coded stream including coded data of an image, identification information for identifying a predetermined color gamut, and coverage of the color gamut of the image with respect to the predetermined color gamut
  • the coding stream is received from the coding device, the coding data, the identification information, and the coverage are extracted from the coding stream, and the coding data is decoded to generate the image.
  • the encoding apparatus encodes an image and generates an encoded data, an encoding unit for identifying a predetermined color gamut, and a color gamut of the image for the predetermined color gamut.
  • a setting unit for setting the coverage rate of the video signal, a transmission unit for transmitting an encoded stream including the encoded data generated by the encoding unit, the identification information generated by the setting unit, and the coverage rate
  • An encoding apparatus comprising:
  • the coding method of the fourth aspect of the present disclosure corresponds to the coding device of the fourth aspect of the present disclosure.
  • an image is encoded to generate encoded data, and identification information for identifying a predetermined color gamut and a coverage of the color gamut of the image with respect to the predetermined color gamut are set. And an encoded stream including the encoded data, the identification information, and the coverage is transmitted.
  • the decoding devices of the first and third aspects and the encoding devices of the second and fourth aspects can be realized by causing a computer to execute a program.
  • a program to be executed by a computer to realize the decoding device of the first and third aspects and the encoding device of the second and fourth aspect is transmitted by transmission via a transmission medium, or It can be recorded and provided on a medium.
  • the decoding device of the first or third aspect and the coding device of the second or fourth aspect may be independent devices or may be internal blocks constituting one device.
  • coded data of an image can be decoded. Further, according to the first and third aspects of the present disclosure, it is possible to accurately recognize the color gamut of the image to be encoded.
  • an image can be encoded. Further, according to the second and fourth aspects of the present disclosure, the color gamut of the image to be encoded can be accurately recognized on the decoding side.
  • Fig. 18 is a diagram illustrating a configuration example of a multi-viewpoint image coding device to which the present disclosure is applied. It is a figure which shows the structural example of the multi-viewpoint image decoding apparatus to which this indication is applied. It is a figure which shows the example of a hierarchy image coding system. It is a figure explaining the example of spatial scalable coding. It is a figure explaining the example of temporal scalable coding. It is a figure explaining the example of scalable coding of signal noise ratio. It is a figure which shows the structural example of the hierarchy image coding apparatus to which this indication is applied.
  • FIG. 21 is a diagram illustrating an example of a schematic configuration of a television set to which the present disclosure is applied. It is a figure which shows the example of a schematic structure of the mobile telephone to which this indication is applied. It is a figure showing an example of outline composition of a recording and reproducing device to which this indication is applied. It is a figure showing an example of outline composition of an imaging device to which this indication is applied. It is a block diagram which shows an example of scalable coding utilization. It is a block diagram which shows the other example of scalable coding utilization. It is a block diagram which shows the further another example of scalable coding utilization. Fig.
  • FIG. 3 shows an example of a schematic configuration of a video set to which the present disclosure is applied.
  • 1 shows an example of a schematic configuration of a video processor to which the present disclosure is applied.
  • 7 illustrates another example of a schematic configuration of a video processor to which the present disclosure is applied.
  • FIG. 1 is a block diagram showing a configuration example of a first embodiment of an encoding device to which the present disclosure is applied.
  • the encoding device 10 in FIG. 1 includes a setting unit 11, an encoding unit 12, and a transmission unit 13.
  • the encoding device 10 encodes an image according to the HEVC scheme.
  • the setting unit 11 of the encoding device 10 sets parameter sets such as SPS (Sequence Parameter Set), PPS (Picture Parameter Set), VUI, and SEI (Supplemental Enhancement Information).
  • SPS Sequence Parameter Set
  • PPS Physical Parameter Set
  • VUI User Interface
  • SEI Supplemental Enhancement Information
  • color_primaries_info SEI is SEI including color gamut information which is information representing (a boundary of) a color gamut.
  • ref_display_luminance_info SEI is luminance information (color gamut information of the display of the master) indicating the luminance level of white, gray and black of the display (display section) of the master displaying the image to be encoded at the time of authoring the image to be encoded SEI including The setting unit 11 supplies the set parameter set to the encoding unit 12.
  • the encoding unit 12 receives an image to be encoded in units of frames.
  • the encoding unit 12 encodes the input image to be encoded in accordance with the HEVC method.
  • the encoding unit 12 generates an encoded stream from the encoded data obtained as a result of encoding and the parameter set supplied from the setting unit 11 and supplies the encoded stream to the transmission unit 13.
  • the transmission unit 13 transmits the encoded stream supplied from the encoding unit 12 to a decoding device described later.
  • FIG. 2 is a diagram showing an example of syntax of color_primaries_info SEI.
  • colour_primaries_info SEI describes color_primaries_info_id.
  • color_primaries_info_id is an ID for identifying the purpose of color gamut information.
  • colour_primaries_type is a type of color space.
  • colour_primaries_type is 1, and when the type of color space is XYZ color system, color_primaries_type is 2.
  • color_primaries_info_present_flag is described in color_primaries_info SEI.
  • the color_primaries_info_present_flag is a flag indicating whether or not primary color information indicating the position in the color space of the primary color in the color gamut information is described in the color_primaries_info SEI. If primary color information is described, colour_primaries_info_present_flag is 1, and if not described, colour_primaries_info_present_flag is 0.
  • white_point_info_present_flag is described in colour_primaries_info SEI.
  • white_point_info_present_flag is a flag indicating whether white information representing a position (white point) in the white color space in the color gamut information is described in colour_primaries_info SEI.
  • white_point_info_present_flag is 1, and when not described, white_point_info_present_flag is 0.
  • colour_description_present_flag is a flag indicating whether or not an index for identifying a color gamut defined in another standard is described in VUI. If an index is described in VUI, colour_description_present_flag is 1, and if an index is not described in VUI, colour_description_present_flag is 0.
  • limited_colour_gamut_boundaries_flag is a flag indicating whether the color gamut of the image to be encoded is limited to the color gamut identified by the index described in the VUI.
  • the limited_colour_gamut_boundaries_flag is 0, and when the color gamut is not limited, the limited_colour_gamut_boundaries_flag is 1.
  • limited_colour_gamut_range_in_percent represents the coverage of the color gamut of the image to be encoded with respect to the color gamut identified by the index described in the VUI. That is, limited_colour_gamut_range_in_percent is the ratio of the gamut of the image to be encoded in the gamut identified by the index described in VUI.
  • color_primaries_info_present_flag 1
  • the color_primaries_info_SEI describes the color_primaries_order_type.
  • color_primaries_order_type is a type of description order of primary color information.
  • the type of color space is RGB color system, and primary color information is described in the order of red, green and blue, and then in descending order of wavelength of other colors (for example, Color_primaries_order_type is 1 when described in the order of yellow, cyan, and yellow). Also, if the type of color space is RGB color system and the primary color information is described in order of long wavelength (for example, in order of red, yellow, green, cyan and blue), colour_primaries_order_type is 2. If the type of color space is XYZ color system and the primary color information is described in the order of X, Y, Z, the color_primaries_order_type is 3.
  • num_colour_primaries_minus3 is described in the color_primaries_info SEI.
  • num_colour_primaries_minus3 is a value obtained by subtracting 3 from the number of primary color information described in the color_primaries_info SEI.
  • the color_primaries_info SEI describes primary color information by the number obtained by adding 3 to num_colour_primaries_minus3.
  • the primary color information includes color_primaries_info_sei_element (ColourPrimaryXSign [i], ColorPrimaryXExp [i], ColorPrimaryXMantissa [i], ColourPrimaryXManlen [i]) representing the position in the color space of the primary color, and colour_primaries_info_sei_element (ColourPrimarySign [] representing the position in the Y direction. i], ColourPrimaryYExp [i], ColourPrimaryYMantissa [i], ColourPrimaryYManlen [i]).
  • White information includes color_primaries_info_sei_element (WhitePointXSign, WhitePointXExp, WhitePointXMantissa, WhitePointXManlen) representing the position in the white color space in the X direction, and color_primaries_info_sei_element (WhitePointYSign, WhitePointYExp, WhitePoint YMantissa, WhitePointYManlen) representing the position in the Y direction.
  • color_primaries_info_sei_element WhitePointXSign, WhitePointXExp, WhitePoint YMantissa, WhitePointYManlen
  • FIG. 5 is a diagram showing an example of the syntax of color_primaries_info_sei_element constituting primary color information and white information.
  • the color_primaries_info_sei_element is configured by the color_primaries_info_sign, the color_primaries_info_exponent, the color_primaries_info_mantissa_len_minus1, and the color_primaries_info_mantissa.
  • ColorPrimaryXSign [i], ColorPrimaryYSign [i], WhitePointXSign, WhitePointYSign are collectively referred to as OutSign.
  • ColorPrimaryXExp [i], ColorPrimaryYExp [i], WhitePointXExp, WhitePointYExp are called OutExp, ColourPrimaryXMantissa [i], ColorPrimaryYMantissa [i], WhitePointXMantissa, WhitePointYMantissa are called OutMantissa.
  • ColorPrimaryXManlen [i] ColorPrimaryYManlen [i], WhitePointXManlen, and WhitePointYManlen are called OutManLen.
  • Colour_primaries_info_sign represents the floating point sign of the coordinates of the position in the color space of the corresponding color, as shown in FIG. If the sign is positive, the color_primaries_info_sign is 0 and if the sign is negative, the color_primaries_info_sign is 1.
  • the color_primaries_info_exponent represents the floating point exponent of the coordinates of the position in the color space of the corresponding color, as shown in FIG.
  • Color_primaries_info_mantissa_len_minus1 is a value obtained by subtracting 1 from the number of bits of color_primaries_info_mantissa as shown in FIG.
  • color_primaries_info_mantissa is a floating point mantissa of the coordinates of the position in the color space of the corresponding color, as shown in FIG.
  • the color_primaries_info_sei_element can represent the coordinate x of the position in the color space of the corresponding color. That is, as shown in FIG. 7, the coordinate x can be determined by the following equation (1) using colour_primaries_info_sign, colour_primaries_info_exponent, colour_primaries_info_mantissa_len_minus1 and colour_primaries_info_mantissa.
  • s is colour_primaries_info_sign and e is colour_primaries_info_exponent.
  • n is colour_primaries_info_mantissa and v is colour_primaries_info_mantissa_len_minus1.
  • color_primaries_info_sei_element is color_primaries_info_sei_element (ColourPrimaryXSign [i], ColourPrimaryXExp [i], ColourPrimaryXMantissa [i], ColourPrimaryXManlen [i]) that represents the coordinate ColorPrimariesX of the position in the x direction in the primary color space, the table of FIG.
  • ColourPrimaries XSign which is colour_primaries_info_sign of colour_primaries_info_sei_element (ColourPrimaryXSign [i], ColourPrimaryXExp [i], ColourPrimaryXMantissa [i], ColourPrimaryXManlen [i]), is substituted for s in equation (1).
  • ColorPrimaries_Info_exponent ColorPrimaries_info_exponent, of color_primaries_info_sei_element (ColourPrimaryXSign [i], ColorPrimaryXExp [i], ColorPrimaryXMantissa [i], ColorPrimaryXManlen [i]) is substituted into e of the formula (1).
  • ColorPrimaries_info_sei_element (ColourPrimaryXSign [i], ColourPrimaryXExp [i], ColorPrimaryXMantissa [i], ColourPrimaryXManlen [i]), ColourPrimaries_info_mantissa of Color_primaries_info_sei_element is substituted for n in the equation (1), and v_color_prime timate_l .
  • the coordinate ColourPrimariesX of the position in the x direction in the color space of the primary colors is calculated as the coordinate x.
  • color_primaries_info_sei_element is color_primaries_info_sei_element (ColourPrimaryYSign [i], ColourPrimaryYExp [i], ColourPrimaryYMantissa [i], ColourPrimaryYManlen [i])
  • the coordinate ColourPrimariesY of the y-direction position in the primary color space is calculated as the coordinate x. Be done.
  • color_primaries_info_sei_element is color_primaries_info_sei_element (WhitePointXSign, WhitePointXExp, WhitePointXMantissa, WhitePointXManlen)
  • the coordinate WhitePointX of the position in the x direction in the white color space is calculated as the coordinate x.
  • color_primaries_info_sei_element is color_primaries_info_sei_element (WhitePoint YSign, WhitePoint YExp, WhitePoint YMantissa, WhitePoint YManlen)
  • the coordinate WhitePointY of the position in the y direction in the white color space is calculated as the coordinate x.
  • FIG. 8 is a diagram illustrating an example of the syntax of ref_display_luminance_info SEI.
  • ref_display_luminance_info_id is described in ref_display_luminance_info SEI.
  • ref_display_luminance_info_id is an ID for identifying the purpose of the white, gray and black luminance information of the master display (reference display).
  • ref_display_luminance_white_present_flag is described in ref_display_luminance_info SEI.
  • ref_display_luminance_white_present_flag is a flag indicating whether the luminance information of the white of the master display is described in ref_display_luminance_info SEI.
  • ref_display_luminance_white_present_flag is 1, and when not described, ref_display_luminance_white_present_flag is 0.
  • ref_display_luminance_black_present_flag and ref_display_luminance_gray_present_flag are similarly described for black and gray in ref_display_luminance_info SEI.
  • ref_display_luminance_white_present_flag 1
  • ref_display_luminance_white is described in ref_display_luminance_info SEI.
  • ref_display_luminance_white is luminance information of white.
  • ref_display_luminance_info SEI describes ref_display_luminance_black which is black luminance information when ref_display_luminance_black_present_flag is 1.
  • ref_display_luminance_info SEI similarly describes ref_display_luminance_gray which is gray luminance information when ref_display_luminance_gray_present_flag is 1.
  • FIG. 10 is a flowchart illustrating the stream generation process of the encoding device 10.
  • step S11 of FIG. 10 the setting unit 11 of the encoding device 10 sets an SPS.
  • step S12 the setting unit 11 sets a VUI including an index (identification information) for identifying a color gamut defined in another standard.
  • step S13 the setting unit 11 sets PPS.
  • step S14 the setting unit 11 determines whether the color gamut of the image to be encoded is narrower than the color gamut identified by the index included in VUI.
  • step S14 If it is determined in step S14 that the color gamut of the image to be encoded is narrower than the color gamut identified by the index included in VUI, the process proceeds to step S15.
  • step S15 the setting unit 11 sets color_primaries_info SEI including color gamut information of the image to be encoded, and the process proceeds to step S16.
  • step S14 when it is determined in step S14 that the color gamut of the image to be encoded is not narrower than the color gamut identified by the index included in VUI, color_primaries_info SEI including color gamut information of the image to be encoded is Not set For example, colour_primaries_info SEI is set which includes limited_colour_gamut_range_in_percent. Then, the process proceeds to step S16.
  • step S16 the setting unit 11 sets ref_display_luminance_info SEI including white, gray, and black luminance information of the master display.
  • the setting unit 11 supplies the parameter set such as the set SPS, PPS, VUI, color_primaries_info SEI, ref_display_luminance_info SEI to the encoding unit 12.
  • step S17 the encoding unit 12 encodes the image to be encoded in units of frames input from the outside according to the HEVC method.
  • step S18 the encoding unit 12 generates an encoded stream from the encoded data obtained as a result of encoding and the parameter set supplied from the setting unit 11, and supplies the encoded stream to the transmission unit 13.
  • step S19 the transmission unit 13 transmits the encoded stream supplied from the encoding unit 12 to a decoding device described later, and ends the process.
  • the encoding apparatus 10 sets and transmits color_primaries_info SEI including color gamut information, even if the image to be encoded is different from the color gamut defined in another standard, The color gamut of the image to be encoded can be accurately recognized on the decoding side.
  • the encoding apparatus 10 sets and transmits ref_display_luminance_info SEI including white, black and gray luminance information, it is possible to make the decoding side correctly recognize the luminance information of the master display.
  • the color_primaries_info SEI including color gamut information is set when the color gamut of the image to be encoded is narrower than the color gamut identified by the index included in VUI, but it is It may be set.
  • FIG. 11 is a block diagram showing a configuration example of a first embodiment of a decoding device to which the present disclosure is applied, which decodes the coded stream transmitted from the coding device 10 of FIG.
  • the decoding device 50 in FIG. 11 includes a receiving unit 51, an extracting unit 52, a decoding unit 53, an adjusting unit 54, a display control unit 55, and a display unit 56.
  • the receiving unit 51 of the decoding device 50 receives the coded stream transmitted from the coding device 10 of FIG.
  • the extraction unit 52 extracts the parameter set and the encoded data from the encoded stream supplied from the reception unit 51.
  • the extraction unit 52 supplies the parameter set and the encoded data to the decoding unit 53. Further, the extraction unit 52 supplies VUI, color_primaries_info SEI and ref_display_luminance_info SEI of the parameter set to the adjustment unit 54.
  • the decoding unit 53 decodes the encoded data supplied from the extraction unit 52 according to the HEVC method. At this time, the decoding unit 53 also refers to the parameter set supplied from the extraction unit 52 as necessary. The decoding unit 53 supplies the image obtained as a result of the decoding to the adjustment unit 54.
  • the adjustment unit 54 acquires color gamut information from the color_primaries_info SEI supplied from the extraction unit 52, or recognizes the color gamut from the index included in the VUI.
  • the adjustment unit 54 adjusts the color gamut of the image supplied from the decoding unit 53 based on the color gamut represented by the acquired color gamut information or the recognized color gamut, and the color gamut of the display unit 56.
  • the adjustment unit 54 acquires luminance information of white, black, and gray from the ref_display_luminance_info SEI supplied from the extraction unit 52.
  • the adjustment unit 54 adjusts the dynamic range of the luminance of the image after the color gamut adjustment based on the luminance information and the luminance information of the display unit 56.
  • the adjustment unit 54 supplies the image after the dynamic range adjustment of the luminance to the display control unit 55.
  • the color gamut may be adjusted after the adjustment of the dynamic range of luminance.
  • the display control unit 55 causes the display unit 56 to display the image supplied from the adjustment unit 54.
  • FIG. 12 is a flowchart illustrating the image generation process of the decoding device 50 of FIG.
  • step S51 of FIG. 12 the receiving unit 51 of the decoding device 50 receives the encoded stream transmitted from the encoding device 10 of FIG.
  • step S52 the extraction unit 52 extracts a parameter set and encoded data from the encoded stream supplied from the reception unit 51.
  • the extraction unit 52 supplies the parameter set and the encoded data to the decoding unit 53. Further, the extraction unit 52 supplies VUI, color_primaries_info SEI and ref_display_luminance_info SEI of the parameter set to the adjustment unit 54.
  • step S53 the decoding unit 53 decodes the encoded data supplied from the extraction unit 52 using the HEVC method. At this time, the decoding unit 53 also refers to the parameter set supplied from the extraction unit 52 as necessary. The decoding unit 53 supplies the image obtained as a result of the decoding to the adjustment unit 54.
  • step S54 the adjustment unit 54 determines whether or not the color_primaries_info SEI has been supplied from the extraction unit 52. If it is determined in step S54 that the color_primaries_info SEI has been supplied, the process proceeds to step S55.
  • step S55 the adjustment unit 54 acquires color gamut information from the color_primaries_info SEI, and recognizes the color gamut represented by the color gamut information.
  • color gamut information is not included in color_primaries_info SEI, for example, the color gamut is recognized based on limited_colour_gamut_range_in_percent. Then, the process proceeds to step S57.
  • step S54 when it is determined in step S54 that colour_primaries_info SEI is not supplied, the adjustment unit 54 determines the color gamut defined in another standard from the index included in VUI supplied from the extraction unit 52 in step S56. Recognize Then, the process proceeds to step S57.
  • step S57 the adjustment unit 54 adjusts the color gamut of the image supplied from the decoding unit 53 based on the color gamut of the display unit 56 and the color gamut recognized in step S55 or step S56.
  • step S 58 the adjustment unit 54 acquires white, black, and gray luminance information from the ref_display_luminance_info SEI supplied from the extraction unit 52.
  • step S59 the adjustment unit 54 adjusts the dynamic range of the luminance of the image after the color gamut adjustment based on the luminance information of the display unit 56 and the acquired luminance information.
  • the adjustment unit 54 supplies the image after the dynamic range adjustment of the luminance to the display control unit 55.
  • step S60 the display control unit 55 causes the display unit 56 to display the image supplied from the adjustment unit 54, and ends the process.
  • the decoding apparatus 50 since the decoding apparatus 50 receives the color_primaries_info SEI including the color gamut information, it is possible to accurately recognize the color gamut of the image to be encoded. As a result, the color gamut of the decoded image can be optimized. That is, when the color gamut of the image to be encoded is different from the color gamut defined in another standard, the color gamut of the image after decoding can be prevented from being unnecessarily reduced or expanded.
  • the decoding apparatus 50 receives ref_display_luminance_info SEI including white, black, and gray brightness information, the brightness information of the master display can be accurately recognized. As a result, the dynamic range of the luminance of the image after decoding can be optimized.
  • the decoding device 50 recognizes the color gamut of the image to be encoded, and adjusts the color gamut, based on the limited_color_gamut_range_in_percent and the color gamut identified by the index included in the VUI.
  • the decoding device 50 can encode the image to be encoded as compared to the case where the color gamut to be encoded is defined by the VUI index based on limited_colour_gamut_range_in_percent. Can accurately recognize the color gamut of
  • FIG. 13 is a block diagram showing a configuration example of a second embodiment of the encoding device to which the present disclosure is applied.
  • the configuration of the encoding device 70 in FIG. 13 differs from the configuration in FIG. 1 in that a setting unit 72 is provided instead of the setting unit 11, and that an image adjustment unit 71 is newly provided.
  • An image is input to the image adjustment unit 71 of the encoding device 70 from the outside.
  • the image adjustment unit 71 edits the image while displaying an image input from the outside on the display of a master (not shown) according to the authoring work of the user.
  • the image adjustment unit 71 supplies the setting unit 72 with the color gamut information of the image after editing and the white and black luminance information of the display of the master (not shown). Further, the image adjustment unit 71 inputs the image after editing to the encoding unit 12 as an image to be encoded.
  • the setting unit 72 sets SPS, PPS, and VUI. Further, the setting unit 72 sets color_primaries_info SEI including the color gamut information and the luminance information supplied from the image adjusting unit 71. The setting unit 72 supplies the parameter set such as the set SPS, PPS, VUI, and color_primaries_info SEI to the encoding unit 12.
  • FIG. 14 is a diagram showing an example of syntax of colour_primaries_info SEI
  • FIGS. 15 to 19 are diagrams explaining respective pieces of information of colour_primaries_info SEI.
  • color_primaries_info_id is an ID for identifying the purpose of color gamut information.
  • color_primaries_info SEI describes color_primaries_cancel_flag.
  • the color_primaries_cancel_flag is a flag indicating whether or not the continuity of the previous color_primaries_info SEI is to be canceled.
  • color_primaries_cancel_flag is 1 to indicate canceling the continuity of the previous color_primaries_info SEI, and is 0 to indicate not canceling.
  • the color_primaries_info SEI describes the color_primaries_persistence_flag.
  • the color_primaries_persistence_flag is a flag indicating whether to apply the color gamut information and the luminance information included in the color_primaries_info SEI to a plurality of continuous pictures.
  • color_primaries_persistence_flag is 1 when color gamut information and luminance information are applied to a plurality of consecutive pictures, and is 0 when applied to only one picture.
  • white_level_display_luminance_present_flag is described in the color_primaries_info SEI.
  • white_level_display_luminance_present_flag is a flag indicating whether white_level_display_luminance is described in color_primaries_info SEI, as shown in FIG. As shown in FIG. 19, white_level_display_luminance is white luminance information of the master display.
  • White_level_display_luminance_present_flag is 1 when white luminance information of the master display is described in color_primaries_info SEI, and is 0 when not described.
  • black_level_display_luminance_present_flag is described similarly for black.
  • color_primates_info SEI describes color_gamut_coverage_present_flag.
  • the color_gamut_coverage_present_flag is a flag indicating whether or not the color_gamut_coverage is described in the color_primaries_info SEI as shown in FIG.
  • the color_gamut_coverage is information representing the coverage of the color gamut of the image to be encoded with respect to the color gamut identified by the index described in the VUI, as shown in FIG. If colour_gamut_coverage is described in colour_primaries_info SEI, then colour_gamut_coverage_present_flag is 1, otherwise 0.
  • color_primary_Red_x representing the chromaticity in the x direction of red in the CIE color system
  • color_primary_Red_y representing the chromaticity in the y direction in the color gamut information. Be done.
  • color_primary_Green_x, colour_primary_Green_y, colour_primary_Blue_x, colour_primary_Blue_y, white_point_x, white_point_y are described as color gamut information in color_primaries_info SEI similarly.
  • the color gamut information is transmitted from the image adjustment unit 71 or the like by an extended display identification data (EDID) or the like of HDMI (High-Definition Multimedia Interface) which is limited in size of information that can be transmitted. It is conceivable.
  • EDID extended display identification data
  • HDMI High-Definition Multimedia Interface
  • the applicant currently proposes metadata on a color gamut described in fixed point as IEC (International Electrotechnical Commission) 61966-12-2. Therefore, the color gamut information is described in fixed point in order not to change the size of the color gamut information, or to enable the proposed metadata to be used as color gamut information.
  • the color gamut information in the first embodiment may also be described in 16-bit fixed point.
  • white_level_display_luminance_present_flag 1
  • white_level_display_luminance is described in color_primaries_info SEI.
  • black_level_display_luminance_present_flag 1
  • blak_level_display_luminance is described.
  • blak_level_display_luminance is black luminance information of the master display as shown in FIG.
  • white_level_display_luminance and blak_level_display_luminance are described in the color_primaries_info SEI. That is, the present applicant currently proposes metadata relating to luminance including luminance information of white and black as IEC 61966-12-2.
  • white_level_display_luminance and blak_level_display_luminance are described in the color_primaries_info SEI to enable the proposed metadata to be used as white_level_display_luminance and blak_level_display_luminance.
  • the color_primates_info SEI describes the color_gamut_coverage.
  • FIG. 20 is a flowchart illustrating the stream generation process of the encoding device 70.
  • step S80 of FIG. 20 the image adjustment unit 71 edits the image while displaying the image input from the outside on the display of a master (not shown) according to the authoring work of the user.
  • the image adjustment unit 71 supplies the setting unit 72 with the color gamut information of the image after editing and the white and black luminance information of the display of the master (not shown). Further, the image adjustment unit 71 inputs the image after editing to the encoding unit 12 as an image to be encoded.
  • steps S81 to S83 are the same as the processes of steps S11 to S13 of FIG.
  • step S84 the setting unit 72 sets color_primaries_info SEI including the color gamut information of the image to be encoded supplied from the image adjustment unit 71 and the luminance information of the display of the master.
  • steps S85 to S87 are the same as the processes in steps S17 to S19 in FIG.
  • the encoding device 70 sets and transmits color_primaries_info SEI including color gamut information, even if the image to be encoded is different from the color gamut defined in another standard, The color gamut of the image to be encoded can be accurately recognized on the decoding side.
  • the encoding device 70 since the encoding device 70 also sets white_level_display_luminance and black_level_display_luminance to color_primaries_info SEI and transmits it, luminance information of the master display can be correctly recognized on the decoding side.
  • FIG. 21 is a block diagram showing a configuration example of a second embodiment of a decoding device to which the present disclosure is applied, which decodes the coded stream transmitted from the coding device 70 of FIG.
  • the configuration of the decoding device 90 in FIG. 21 differs from the configuration in FIG. 11 in that an extracting unit 91, an adjusting unit 92, and a display control unit 93 are provided instead of the extracting unit 52, the adjusting unit 54, and the display control unit 55.
  • the extraction unit 91 of the decoding device 90 in FIG. 21 extracts the parameter set and the encoded data from the encoded stream supplied from the reception unit 51.
  • the extraction unit 91 supplies the parameter set and the encoded data to the decoding unit 53. Further, the extraction unit 91 supplies VUI and color_primaries_info SEI of the parameter set to the adjustment unit 92, and supplies color_primaries_info SEI to the display control unit 93.
  • the adjustment unit 92 acquires color gamut information and colour_gamut_coverage from the color_primaries_info SEI supplied from the extraction unit 91. Further, the adjustment unit 92 recognizes the color gamut from the index included in the VUI supplied from the extraction unit 91.
  • the adjustment unit 92 is an image supplied from the decoding unit 53 based on the color gamut represented by the acquired color gamut information, or the color gamut based on the recognized color gamut and the color_gamut_coverage, and the color gamut of the display unit 56. Adjust the color gamut of The adjustment unit 92 supplies the image after the color gamut adjustment to the display control unit 93.
  • the display control unit 93 acquires white and black luminance information from the color_primaries_info SEI supplied from the extraction unit 91.
  • the display control unit 93 adjusts the dynamic range of the luminance of the image after the color gamut adjustment supplied from the adjustment unit 92 based on the luminance information and the luminance information of the display unit 56.
  • the display control unit 93 supplies the image after the dynamic range adjustment of the luminance to the display unit 56 and causes the display unit 56 to display the image.
  • FIG. 22 is a flowchart for explaining the image generation processing of the decoding device 90 of FIG.
  • step S101 of FIG. 22 the receiving unit 51 of the decoding apparatus 90 receives the encoded stream transmitted from the encoding apparatus 70 of FIG. 13 and supplies the encoded stream to the extraction unit 91.
  • step S102 the extraction unit 91 extracts a parameter set and encoded data from the encoded stream supplied from the reception unit 51.
  • the extraction unit 91 supplies the parameter set and the encoded data to the decoding unit 53. Further, the extraction unit 91 supplies VUI and color_primaries_info SEI of the parameter set to the adjustment unit 92, and supplies color_primaries_info SEI to the display control unit 93.
  • step S103 the decoding unit 53 decodes the encoded data supplied from the extraction unit 91 according to the HEVC method. At this time, the decoding unit 53 also refers to the parameter set supplied from the extraction unit 91 as necessary. The decoding unit 53 supplies the image obtained as a result of the decoding to the adjustment unit 92.
  • step S104 the adjustment unit 92 recognizes a color gamut defined in another standard from the index included in the VUI supplied from the extraction unit 91.
  • step S105 the adjustment unit 92 determines whether the color_primaries_info SEI has been supplied from the extraction unit 91. If it is determined in step S105 that the color_primaries_info SEI has been supplied, the process proceeds to step S106.
  • step S106 the adjustment unit 92 acquires color gamut information from color_primaries_info SEI, and recognizes the color gamut represented by the color gamut information.
  • color gamut information is not included in the color_primaries_info SEI, the color gamut is recognized based on, for example, color_gamut_coverage and the color gamut recognized in step S104. Then, the process proceeds to step S107.
  • step S105 determines whether the color_primaries_info SEI is supplied. If it is determined in step S105 that the color_primaries_info SEI is not supplied, the process proceeds to step S107.
  • step S107 the adjustment unit 92 adjusts the color gamut of the image supplied from the decoding unit 53 based on the color gamut of the display unit 56 and the color gamut recognized in step S104 or step S106.
  • step S108 the display control unit 93 acquires white and black luminance information from the color_primaries_info SEI supplied from the extraction unit 91.
  • step S109 the display control unit 93 adjusts the dynamic range of the luminance of the image after color gamut adjustment supplied from the adjustment unit 92 based on the luminance information of the display unit 56 and the acquired luminance information.
  • step S110 the display control unit 93 supplies the image after the adjustment of the dynamic range of the luminance to the display unit 56 for display, and ends the process.
  • the decoding apparatus 90 since the decoding apparatus 90 receives the color_primaries_info SEI including the color gamut information, it is possible to accurately recognize the color gamut of the image to be encoded. As a result, the color gamut of the decoded image can be optimized. That is, when the color gamut of the image to be encoded is different from the color gamut defined in another standard, it is possible to prevent the color gamut of the decoded image from being unnecessarily reduced or enlarged.
  • the decoding device 90 can display without adjusting the color gamut of the decoded image.
  • the image intended by the authoring operator can be displayed on the display unit 56.
  • the decoding device 90 can display a high-quality decoded image by adjusting the color gamut of the decoded image based on the color gamut that has been correctly recognized.
  • the decoding device 90 can accurately recognize the luminance information of the master display. As a result, the dynamic range of the luminance of the image after decoding can be optimized.
  • the color gamut information and the luminance information are arranged in the SEI, but may be arranged in the system layer.
  • FIG. 23 is a view for explaining a box of MP 4 as a system layer in which color gamut information and luminance information are arranged.
  • a tin priming box for storing color gamut information and luminance information as ColorPrimariesInfo is newly defined.
  • the tinf box is stored in a trak box (stbl box stored in) or a traf box (track fragment box).
  • ColorPrimariesInfo is configured similarly to the color_primaries_info SEI of FIG. 2 and the ref_display_luminance_info SEI of FIG. 8 or the color_primaries_info SEI of FIG. 14 except that padding_value for byte alignment is inserted.
  • the present disclosure can also be applied to the AVC scheme.
  • the above-described series of processes may be performed by hardware or software.
  • a program that configures the software is installed on a computer.
  • the computer includes, for example, a general-purpose personal computer that can execute various functions by installing a computer incorporated in dedicated hardware and various programs.
  • FIG. 24 is a block diagram showing an example of a hardware configuration of a computer that executes the series of processes described above according to a program.
  • a central processing unit (CPU) 201 a read only memory (ROM) 202, and a random access memory (RAM) 203 are mutually connected by a bus 204.
  • CPU central processing unit
  • ROM read only memory
  • RAM random access memory
  • an input / output interface 205 is connected to the bus 204.
  • An input unit 206, an output unit 207, a storage unit 208, a communication unit 209, and a drive 210 are connected to the input / output interface 205.
  • the input unit 206 includes a keyboard, a mouse, a microphone, and the like.
  • the output unit 207 includes a display, a speaker, and the like.
  • the storage unit 208 includes a hard disk, a non-volatile memory, and the like.
  • the communication unit 209 is configured of a network interface or the like.
  • the drive 210 drives removable media 211 such as a magnetic disk, an optical disk, a magneto-optical disk, or a semiconductor memory.
  • the CPU 201 loads the program stored in the storage unit 208 into the RAM 203 via the input / output interface 205 and the bus 204 and executes the program. Processing is performed.
  • the program executed by the computer (CPU 201) can be provided by being recorded on, for example, the removable medium 211 as a package medium or the like. Also, the program can be provided via a wired or wireless transmission medium such as a local area network, the Internet, or digital satellite broadcasting.
  • the program can be installed in the storage unit 208 via the input / output interface 205 by attaching the removable media 211 to the drive 210.
  • the program can be received by the communication unit 209 via a wired or wireless transmission medium and installed in the storage unit 208.
  • the program can be installed in advance in the ROM 202 or the storage unit 208.
  • the program executed by the computer may be a program that performs processing in chronological order according to the order described in this specification, in parallel, or when necessary, such as when a call is made. It may be a program to be processed.
  • FIG. 25 shows an example of a multi-viewpoint image coding method.
  • the multi-viewpoint image includes images of a plurality of viewpoints (views).
  • the multiple views of this multi-view image are encoded using the base view that performs encoding / decoding using only the image of its own view without using the images of other views, and the image of the other view.
  • It consists of a non-base view that performs decoding.
  • the non-base view may use an image of a base view, or may use an image of another non-base view.
  • the image of each view is encoded / decoded.
  • the method of the first embodiment described above is used. It may be applied. By doing this, the color gamut of the image to be encoded can be accurately recognized on the decoding side.
  • flags and parameters used in the method of the first embodiment described above may be shared. More specifically, for example, syntax elements of color_primaries_info SEI, ref_display_luminance_info SEI, etc. may be shared in encoding / decoding of each view. Of course, other necessary information may be shared in encoding / decoding of each view.
  • FIG. 26 is a diagram showing a multi-viewpoint image coding apparatus which performs the above-described multi-viewpoint image coding.
  • the multi-viewpoint image coding device 600 includes a coding unit 601, a coding unit 602, and a multiplexing unit 603.
  • the encoding unit 601 encodes a base view image to generate a base view image coded stream.
  • the encoding unit 602 encodes the non-base view image to generate a non-base view image coded stream.
  • the multiplexing unit 603 multiplexes the base view image coded stream generated by the coding unit 601 and the non-base view image coded stream generated by the coding unit 602 to generate a multi-view image coded stream. Do.
  • the coding device 10 (FIG. 1) can be applied to the coding unit 601 and the coding unit 602 of the multi-viewpoint image coding device 600. That is, in encoding for each view, the color gamut of the image to be encoded can be correctly recognized on the decoding side. Also, the encoding unit 601 and the encoding unit 602 can perform encoding using the same flags and parameters (for example, syntax elements related to processing between images) (that is, flags and parameters). Since it can be shared, it is possible to suppress a reduction in coding efficiency.
  • flags and parameters for example, syntax elements related to processing between images
  • FIG. 27 is a diagram illustrating a multi-viewpoint image decoding apparatus that performs the above-described multi-viewpoint image decoding.
  • the multiview image decoding apparatus 610 includes a demultiplexer 611, a decoder 612, and a decoder 613.
  • a demultiplexing unit 611 demultiplexes a multi-view image coded stream in which the base view image coded stream and the non-base view image coded stream are multiplexed, and the base view image coded stream and the non-base view image. Extract the coded stream.
  • the decoding unit 612 decodes the base view image coded stream extracted by the demultiplexing unit 611 to obtain a base view image.
  • the decoding unit 613 decodes the non-base view image coded stream extracted by the demultiplexing unit 611 to obtain a non-base view image.
  • the decoding device 50 (FIG. 11) can be applied to the decoding unit 612 and the decoding unit 613 of the multi-viewpoint image decoding device 610. That is, in the decoding for each view, the color gamut of the image to be encoded can be accurately recognized.
  • the decoding unit 612 and the decoding unit 613 can perform decoding using the same flag or parameter (for example, syntax elements related to processing between images) (that is, share the flag or parameter). Can reduce the coding efficiency reduction.
  • FIG. 28 shows an example of the hierarchical image coding method.
  • Hierarchical image coding (scalable coding) is to image data into a plurality of layers (layering) so as to have a scalable function with respect to predetermined parameters, and encode each layer.
  • Hierarchical image decoding (scalable decoding) is decoding corresponding to the hierarchical image coding.
  • the hierarchized image includes images of a plurality of hierarchies (layers) having different values of the predetermined parameter.
  • a plurality of layers of this hierarchical image are encoded using a base layer that performs encoding / decoding using only an image of its own layer without using an image of another layer, and an image of another layer It consists of a non-base layer (also referred to as an enhancement layer) that performs decoding.
  • the non-base layer may use an image of the base layer, or may use an image of another non-base layer.
  • the non-base layer is configured by data (difference data) of a difference image between its own image and an image of another layer so that redundancy is reduced.
  • difference data difference data
  • a base layer and a non-base layer also referred to as an enhancement layer
  • an image of lower quality than the original image can be obtained only with the data of the base layer.
  • an original image that is, a high quality image
  • images of various qualities can be easily obtained depending on the situation.
  • image compression information of only a base layer is transmitted, and a moving image with low space-time resolution or poor image quality is reproduced
  • image compression information of the enhancement layer is transmitted in addition to the base layer, and the space-time resolution is high, or It is possible to transmit image compression information according to the capabilities of the terminal or the network from the server without performing transcoding processing, such as reproducing high-quality moving images.
  • flags and parameters used in the method of the first embodiment described above may be shared. More specifically, for example, syntax elements of color_primaries_info SEI, ref_display_luminance_info SEI, etc. may be shared in encoding / decoding of each layer. Of course, necessary information other than these may be shared in encoding / decoding of each layer.
  • parameters having a scalable function are arbitrary.
  • spatial scalability as shown in FIG. 29 may be used as the parameter (spatial scalability).
  • the resolution of the image differs for each layer. That is, in this case, as shown in FIG. 29, there are two layers, each of which is a base layer spatially lower in resolution than the original image, and an enhancement layer in which the original spatial resolution is obtained by combining with the base layer. It is hierarchized. Of course, this number of layers is an example, and can be hierarchized into any number of layers.
  • temporal scalability as shown in FIG. 30 may be applied as a parameter to give such a scalability (temporal scalability).
  • the frame rate is different for each layer. That is, in this case, as shown in FIG. 30, each picture has two layers, a base layer with a lower frame rate than the original moving picture and an enhancement layer where the original frame rate can be obtained by combining with the base layer. It is hierarchized. Of course, this number of layers is an example, and can be hierarchized into any number of layers.
  • a signal to noise ratio may be applied as a parameter for providing such scalability (SNR scalability).
  • SNR scalability the SNR scalability
  • the SN ratio differs for each layer. That is, in this case, as shown in FIG. 31, each picture is hierarchized into two layers, a base layer having a lower SNR than the original image, and an enhancement layer for obtaining the original SNR by combining with the base layer. Ru.
  • this number of layers is an example, and can be hierarchized into any number of layers.
  • bit-depth scalability can be used as a parameter for providing scalability.
  • bit-depth scalability the bit depth differs for each layer.
  • a chroma format can also be used as a parameter for providing scalability (chroma scalability).
  • chroma scalability chroma scalability
  • the chroma format is different for each layer. In this case, for example, it is possible to obtain a component image of a 4: 2: 2 format by adding an enhancement layer to a component image of a base layer (base layer) of 4: 2: 0 format.
  • FIG. 32 is a diagram showing a hierarchical image coding apparatus that performs the above-described hierarchical image coding.
  • hierarchical image coding apparatus 620 has coding section 621, coding section 622, and multiplexing section 623.
  • the encoding unit 621 encodes a base layer image to generate a base layer image coded stream.
  • the encoding unit 622 encodes the non-base layer image to generate a non-base layer image coded stream.
  • the multiplexing unit 623 multiplexes the base layer image coded stream generated by the coding unit 621 and the non-base layer image coded stream generated by the coding unit 622 to generate a hierarchical image coded stream. .
  • the coding device 10 (FIG. 1) can be applied to the coding unit 621 and the coding unit 622 of the hierarchical image coding device 620. That is, in encoding for each layer, the color gamut of the image to be encoded can be correctly recognized on the decoding side.
  • the encoding unit 621 and the encoding unit 622 can perform filter processing control of intra prediction, and the like using the same flag and parameter (for example, syntax elements related to processing between images). That is, since flags and parameters can be shared), reduction in coding efficiency can be suppressed.
  • FIG. 33 is a diagram showing a hierarchical image decoding device that performs the hierarchical image decoding described above. As illustrated in FIG. 33, the hierarchical image decoding device 630 includes a demultiplexing unit 631, a decoding unit 632, and a decoding unit 633.
  • a demultiplexing unit 631 demultiplexes the hierarchical image coded stream in which the base layer image coded stream and the non-base layer image coded stream are multiplexed, and the base layer image coded stream and the non-base layer image code Extract the stream of
  • the decoding unit 632 decodes the base layer image coded stream extracted by the demultiplexing unit 631 to obtain a base layer image.
  • the decoding unit 633 decodes the non-base layer image coded stream extracted by the demultiplexing unit 631 to obtain a non-base layer image.
  • the decoding device 50 (FIG. 11) can be applied to the decoding unit 632 and the decoding unit 633 of the hierarchical image decoding device 630. That is, in decoding for each layer, the color gamut of the image to be encoded can be accurately recognized.
  • the decoding unit 612 and the decoding unit 613 can perform decoding using the same flag or parameter (for example, syntax elements related to processing between images) (that is, share the flag or parameter). Can reduce the coding efficiency reduction.
  • FIG. 34 illustrates a schematic configuration of a television to which the present technology is applied.
  • the television set 900 includes an antenna 901, a tuner 902, a demultiplexer 903, a decoder 904, a video signal processing unit 905, a display unit 906, an audio signal processing unit 907, a speaker 908, and an external interface unit 909.
  • the television device 900 includes a control unit 910, a user interface unit 911 and the like.
  • the tuner 902 selects a desired channel from the broadcast wave signal received by the antenna 901 and demodulates it, and outputs the obtained encoded bit stream to the demultiplexer 903.
  • the demultiplexer 903 extracts a video or audio packet of a program to be viewed from the encoded bit stream, and outputs data of the extracted packet to the decoder 904. Also, the demultiplexer 903 supplies a packet of data such as an EPG (Electronic Program Guide) to the control unit 910. When the scrambling is performed, the scrambling is canceled by a demultiplexer or the like.
  • EPG Electronic Program Guide
  • the decoder 904 decodes the packet, and outputs the video data generated by the decoding process to the video signal processing unit 905 and the audio data to the audio signal processing unit 907.
  • the video signal processing unit 905 performs noise removal, video processing and the like according to user settings on the video data.
  • the video signal processing unit 905 generates video data of a program to be displayed on the display unit 906, image data by processing based on an application supplied via a network, and the like. Further, the video signal processing unit 905 generates video data for displaying a menu screen or the like such as item selection, and superimposes the video data on video data of a program.
  • the video signal processing unit 905 generates a drive signal based on the video data generated in this manner, and drives the display unit 906.
  • the display unit 906 drives a display device (for example, a liquid crystal display element or the like) based on the drive signal from the video signal processing unit 905 to display a video of the program.
  • a display device for example, a liquid crystal display element or the like
  • the audio signal processing unit 907 performs predetermined processing such as noise removal on the audio data, performs D / A conversion processing and amplification processing of the processed audio data, and supplies the speaker 908 with audio output.
  • An external interface unit 909 is an interface for connecting to an external device or a network, and transmits and receives data such as video data and audio data.
  • a user interface unit 911 is connected to the control unit 910.
  • the user interface unit 911 is configured of an operation switch, a remote control signal reception unit, and the like, and supplies an operation signal according to a user operation to the control unit 910.
  • the control unit 910 is configured using a CPU (Central Processing Unit), a memory, and the like.
  • the memory stores programs executed by the CPU, various data necessary for the CPU to perform processing, EPG data, data acquired via the network, and the like.
  • the program stored in the memory is read and executed by the CPU at a predetermined timing such as when the television device 900 is started.
  • the CPU executes the program to control each unit such that the television device 900 operates according to the user operation.
  • the television apparatus 900 is provided with a bus 912 for connecting the tuner 902, the demultiplexer 903, the video signal processing unit 905, the audio signal processing unit 907, the external interface unit 909, and the like to the control unit 910.
  • the decoder 904 is provided with the function of the decoding device (decoding method) of the present application. Therefore, the color gamut of the image to be encoded can be accurately recognized.
  • FIG. 35 illustrates a schematic configuration of a mobile phone to which the present technology is applied.
  • the cellular phone 920 includes a communication unit 922, an audio codec 923, a camera unit 926, an image processing unit 927, a multiplexing and separating unit 928, a recording and reproducing unit 929, a display unit 930, and a control unit 931. These are connected to one another via a bus 933.
  • an antenna 921 is connected to the communication unit 922, and a speaker 924 and a microphone 925 are connected to the audio codec 923. Further, an operation unit 932 is connected to the control unit 931.
  • the mobile phone 920 performs various operations such as transmission and reception of audio signals, transmission and reception of electronic mail and image data, image shooting, data recording, and the like in various modes such as a voice call mode and a data communication mode.
  • an audio signal generated by the microphone 925 is converted into audio data and compressed by the audio codec 923 and supplied to the communication unit 922.
  • the communication unit 922 performs modulation processing of audio data, frequency conversion processing, and the like to generate a transmission signal. Further, the communication unit 922 supplies a transmission signal to the antenna 921 to transmit it to a base station (not shown). In addition, the communication unit 922 performs amplification, frequency conversion processing, demodulation processing, and the like of the reception signal received by the antenna 921, and supplies the obtained audio data to the audio codec 923.
  • the audio codec 923 performs data expansion of audio data and conversion to an analog audio signal, and outputs it to the speaker 924.
  • control unit 931 receives the character data input by the operation of operation unit 932, and displays the input character on display unit 930. Further, the control unit 931 generates mail data based on a user instruction or the like in the operation unit 932 and supplies the mail data to the communication unit 922.
  • the communication unit 922 performs modulation processing and frequency conversion processing of mail data, and transmits the obtained transmission signal from the antenna 921. Further, the communication unit 922 performs amplification, frequency conversion processing, demodulation processing and the like of the received signal received by the antenna 921 to restore mail data.
  • the mail data is supplied to the display unit 930 to display the contents of the mail.
  • the portable telephone 920 can also store the received mail data in the storage medium by the recording and reproducing unit 929.
  • the storage medium is any rewritable storage medium.
  • the storage medium is a removable memory such as a RAM or a semiconductor memory such as a built-in flash memory, a hard disk, a magnetic disk, a magneto-optical disk, an optical disk, a USB (Universal Serial Bus) memory, or a memory card.
  • the image data generated by the camera unit 926 is supplied to the image processing unit 927.
  • the image processing unit 927 performs encoding processing of image data to generate encoded data.
  • the demultiplexing unit 928 multiplexes the encoded data generated by the image processing unit 927 and the audio data supplied from the audio codec 923 according to a predetermined method, and supplies the multiplexed data to the communication unit 922.
  • the communication unit 922 performs modulation processing and frequency conversion processing of multiplexed data, and transmits the obtained transmission signal from the antenna 921.
  • the communication unit 922 performs amplification, frequency conversion processing, demodulation processing, and the like of the reception signal received by the antenna 921 to restore multiplexed data.
  • the multiplexed data is supplied to the demultiplexer 928.
  • the demultiplexing unit 928 demultiplexes the multiplexed data, and supplies the encoded data to the image processing unit 927 and the audio data to the audio codec 923.
  • the image processing unit 927 decodes encoded data to generate image data.
  • the image data is supplied to the display unit 930 to display the received image.
  • the audio codec 923 converts audio data into an analog audio signal, supplies the analog audio signal to the speaker 924, and outputs the received audio.
  • the image processing unit 927 is provided with the functions of the coding device and the decoding device (coding method and decoding method) of the present application. Therefore, the color gamut of the image to be encoded can be accurately recognized on the decoding side. Also, the color gamut of the image to be encoded can be accurately recognized.
  • FIG. 36 illustrates a schematic configuration of a recording and reproducing device to which the present technology is applied.
  • the recording / reproducing device 940 records, for example, audio data and video data of the received broadcast program on a recording medium, and provides the recorded data to the user at a timing according to the user's instruction.
  • the recording / reproducing device 940 can also acquire audio data and video data from another device, for example, and record them on a recording medium. Further, the recording / reproducing device 940 decodes and outputs the audio data and the video data recorded on the recording medium so that the monitor device or the like can perform image display and audio output.
  • the recording / reproducing device 940 includes a tuner 941, an external interface unit 942, an encoder 943, a hard disk drive (HDD) unit 944, a disk drive 945, a selector 946, a decoder 947, an on-screen display (OSD) unit 948, and a control unit 949.
  • a user interface unit 950 is provided.
  • the tuner 941 selects a desired channel from a broadcast signal received by an antenna not shown.
  • the tuner 941 demodulates the reception signal of the desired channel, and outputs a coded bit stream obtained to the selector 946.
  • the external interface unit 942 is configured by at least one of an IEEE 1394 interface, a network interface unit, a USB interface, a flash memory interface, and the like.
  • the external interface unit 942 is an interface for connecting to an external device, a network, a memory card or the like, and receives data such as video data and audio data to be recorded.
  • the encoder 943 When the video data and audio data supplied from the external interface unit 942 are not encoded, the encoder 943 performs encoding according to a predetermined method, and outputs the encoded bit stream to the selector 946.
  • the HDD unit 944 records content data such as video and audio, various programs and other data on a built-in hard disk, and reads them from the hard disk during reproduction.
  • the disk drive 945 records and reproduces signals with respect to the mounted optical disk.
  • Optical disks such as DVD disks (DVD-Video, DVD-RAM, DVD-R, DVD-RW, DVD + R, DVD + RW, etc.), Blu-ray (registered trademark) disks, and the like.
  • the selector 946 selects one of the encoded bit streams from the tuner 941 or the encoder 943 and supplies the selected bit stream to either the HDD unit 944 or the disk drive 945 when recording video or audio. Also, the selector 946 supplies the encoded bit stream output from the HDD unit 944 or the disk drive 945 to the decoder 947 at the time of video and audio reproduction.
  • the decoder 947 decodes the coded bit stream.
  • the decoder 947 supplies the video data generated by performing the decoding process to the OSD unit 948.
  • the decoder 947 outputs audio data generated by performing decoding processing.
  • the OSD unit 948 generates video data for displaying a menu screen or the like such as item selection, and superimposes the video data on the video data output from the decoder 947 and outputs the video data.
  • a user interface unit 950 is connected to the control unit 949.
  • the user interface unit 950 includes an operation switch, a remote control signal reception unit, and the like, and supplies an operation signal corresponding to a user operation to the control unit 949.
  • the control unit 949 is configured using a CPU, a memory, and the like.
  • the memory stores programs executed by the CPU and various data necessary for the CPU to perform processing.
  • the program stored in the memory is read and executed by the CPU at a predetermined timing such as when the recording / reproducing device 940 is activated.
  • the CPU executes the program to control each unit so that the recording and reproducing apparatus 940 operates according to the user operation.
  • the decoder 947 is provided with the function of the decoding apparatus (decoding method) of the present application. Therefore, the color gamut of the image to be encoded can be accurately recognized.
  • FIG. 37 illustrates a schematic configuration of an imaging device to which the present technology is applied.
  • the imaging device 960 captures an image of an object, displays an image of the object on the display unit, or records the image as image data in a recording medium.
  • the imaging device 960 includes an optical block 961, an imaging unit 962, a camera signal processing unit 963, an image data processing unit 964, a display unit 965, an external interface unit 966, a memory unit 967, a media drive 968, an OSD unit 969, and a control unit 970.
  • a user interface unit 971 is connected to the control unit 970.
  • an image data processing unit 964, an external interface unit 966, a memory unit 967, a media drive 968, an OSD unit 969, a control unit 970 and the like are connected via a bus 972.
  • the optical block 961 is configured using a focus lens, an aperture mechanism, and the like.
  • the optical block 961 forms an optical image of a subject on the imaging surface of the imaging unit 962.
  • the imaging unit 962 is configured using a CCD or CMOS image sensor, generates an electrical signal corresponding to an optical image by photoelectric conversion, and supplies the electrical signal to the camera signal processing unit 963.
  • the camera signal processing unit 963 performs various camera signal processing such as knee correction, gamma correction, and color correction on the electric signal supplied from the imaging unit 962.
  • the camera signal processing unit 963 supplies the image data processing unit 964 with the image data after camera signal processing.
  • the image data processing unit 964 performs encoding processing of the image data supplied from the camera signal processing unit 963.
  • the image data processing unit 964 supplies the encoded data generated by performing the encoding process to the external interface unit 966 and the media drive 968. Further, the image data processing unit 964 performs a decoding process of the encoded data supplied from the external interface unit 966 or the media drive 968.
  • the image data processing unit 964 supplies the image data generated by performing the decoding process to the display unit 965. Further, the image data processing unit 964 performs a process of supplying image data supplied from the camera signal processing unit 963 to the display unit 965, and superimposes display data acquired from the OSD unit 969 on the image data. Supply to
  • the OSD unit 969 generates display data such as a menu screen or an icon including symbols, characters, or figures, and outputs the display data to the image data processing unit 964.
  • the external interface unit 966 is formed of, for example, a USB input / output terminal, and is connected to a printer when printing an image.
  • a drive is connected to the external interface unit 966 as necessary, removable media such as a magnetic disk and an optical disk are appropriately mounted, and a computer program read from them is installed as necessary.
  • the external interface unit 966 has a network interface connected to a predetermined network such as a LAN or the Internet.
  • the control unit 970 reads encoded data from the media drive 968 according to an instruction from the user interface unit 971, for example, and causes the external interface unit 966 to supply the encoded data to another device connected via the network. it can.
  • the control unit 970 may obtain encoded data and image data supplied from another device via the network via the external interface unit 966 and supply the same to the image data processing unit 964. it can.
  • any removable readable / writable medium such as a magnetic disk, a magneto-optical disk, an optical disk, or a semiconductor memory is used.
  • the recording medium may be of any type as a removable medium, and may be a tape device, a disk, or a memory card. Of course, it may be a noncontact IC (Integrated Circuit) card or the like.
  • media drive 968 and the recording medium may be integrated, and may be configured by a non-portable storage medium such as, for example, a built-in hard disk drive or a solid state drive (SSD).
  • a non-portable storage medium such as, for example, a built-in hard disk drive or a solid state drive (SSD).
  • Control unit 970 is configured using a CPU.
  • the memory unit 967 stores programs executed by the control unit 970, various data required for the control unit 970 to perform processing, and the like.
  • the program stored in the memory unit 967 is read out and executed by the control unit 970 at a predetermined timing such as when the imaging device 960 is activated.
  • the control unit 970 controls the respective units such that the imaging device 960 operates according to the user operation by executing the program.
  • the image data processing unit 964 is provided with the functions of the encoding device and the decoding device (encoding method and decoding method) of the present application. Therefore, the color gamut of the image to be encoded can be accurately recognized on the decoding side. Also, the color gamut of the image to be encoded can be accurately recognized.
  • Scalable coding is used to select data to transmit, for example, as in the example shown in FIG.
  • the distribution server 1002 reads the scalable encoded data stored in the scalable encoded data storage unit 1001, and the personal computer 1004, the AV device 1005, the tablet via the network 1003. It is distributed to terminal devices such as the device 1006 and the mobile telephone 1007.
  • the distribution server 1002 selects and transmits encoded data of appropriate quality according to the capability of the terminal device, the communication environment, and the like. Even if the distribution server 1002 unnecessarily transmits high-quality data, the terminal device can not always obtain high-quality images, which may cause delay or overflow. In addition, the communication band may be unnecessarily occupied, or the load on the terminal may be unnecessarily increased. Conversely, even if the distribution server 1002 unnecessarily transmits low quality data, there is a possibility that the terminal apparatus can not obtain an image of sufficient quality. Therefore, the distribution server 1002 appropriately reads and transmits scalable encoded data stored in the scalable encoded data storage unit 1001 as encoded data of appropriate quality for the capability of the terminal device, communication environment, etc. .
  • the scalable encoded data storage unit 1001 stores scalable encoded data (BL + EL) 1011 which has been encoded in a scalable manner.
  • This scalable encoded data (BL + EL) 1011 is encoded data including both a base layer and an enhancement layer, and data that can obtain both an image of the base layer and an image of the enhancement layer by decoding. It is.
  • the distribution server 1002 selects an appropriate layer according to the capability of the terminal apparatus that transmits data, the communication environment, and the like, and reads data of the layer. For example, the distribution server 1002 reads high-quality scalable encoded data (BL + EL) 1011 from the scalable encoded data storage unit 1001 and transmits it as it is to the high-performance personal computer 1004 or tablet device 1006. . On the other hand, for example, the distribution server 1002 extracts the data of the base layer from the scalable encoded data (BL + EL) 1011 for the AV device 1005 or the portable telephone 1007 having low processing capability, and the scalable encoding is performed. Data of the same content as data (BL + EL) 1011 is transmitted as scalable coded data (BL) 1012 that has lower quality than scalable coded data (BL + EL) 1011.
  • BL scalable coded data
  • the amount of data can be easily adjusted, so that occurrence of delay and overflow can be suppressed, and unnecessary increase in load on a terminal device or communication medium can be suppressed. be able to.
  • the amount of scalable encoded data (BL + EL) 1011 can be reduced compared to the case where the encoded data of each layer are individual data. . Therefore, the storage area of the scalable encoded data storage unit 1001 can be used more efficiently.
  • the network 1003 serving as a communication medium may be any communication network including wired and / or wireless networks such as the Internet and LAN (Local Area Network), and its data transmission capability is various. Furthermore, there is also the possibility of changes due to other communications and the like.
  • the distribution server 1002 communicates with the terminal device that is the data transmission destination before starting data transmission, and the hardware performance of the terminal device, the performance of the application (software) executed by the terminal device, etc. Information on the capability of the terminal device and information on the communication environment such as the available bandwidth of the network 1003 may be obtained. Then, the distribution server 1002 may select an appropriate layer based on the information obtained here.
  • the layer extraction may be performed in the terminal device.
  • the personal computer 1004 may decode the transmitted scalable encoded data (BL + EL) 1011 to display an image of the base layer, or may display an image of the enhancement layer.
  • the personal computer 1004 extracts the scalable encoded data (BL) 1012 of the base layer from the transmitted scalable encoded data (BL + EL) 1011 and stores it or transfers it to another device. , And may be displayed to display the image of the base layer.
  • the numbers of the scalable encoded data storage unit 1001, the distribution server 1002, the network 1003, and the number of terminal devices are arbitrary.
  • the example in which the distribution server 1002 transmits data to the terminal device has been described above, the usage example is not limited to this.
  • the data transmission system 1000 is any system as long as it is a system that selects and transmits an appropriate layer according to the capability of the terminal device, the communication environment, etc., when transmitting the encoded data that has been subjected to scalable coding to the terminal device. It can be applied to the system.
  • scalable coding is used for transmission via a plurality of communication media, as in the example shown in FIG. 39, for example.
  • a broadcast station 1101 transmits scalable encoded data (BL) 1121 of a base layer by terrestrial broadcast 1111. Also, the broadcast station 1101 transmits (for example, packetizes and transmits) scalable encoded data (EL) 1122 of the enhancement layer via an arbitrary network 1112 formed of a wired and / or wireless communication network.
  • BL scalable encoded data
  • EL scalable encoded data
  • the terminal device 1102 has a function of receiving the terrestrial broadcast 1111 broadcasted by the broadcast station 1101, and receives scalable encoded data (BL) 1121 of the base layer transmitted via the terrestrial broadcast 1111. Also, the terminal device 1102 further has a communication function of performing communication via the network 1112, and receives scalable encoded data (EL) 1122 of the enhancement layer transmitted via the network 1112.
  • BL scalable encoded data
  • EL scalable encoded data
  • the terminal device 1102 decodes the base layer scalable encoded data (BL) 1121 acquired via the terrestrial broadcast 1111 according to, for example, a user instruction or the like to obtain or store an image of the base layer, Transmit to other devices.
  • BL base layer scalable encoded data
  • the terminal device 1102 may perform scalable coding of the base layer scalable encoded data (BL) 1121 acquired through the terrestrial broadcast 1111 according to, for example, a user instruction and the like, and scalable encoding of the enhancement layer acquired through the network 1112. It combines data (EL) 1122 to obtain scalable encoded data (BL + EL), decodes it to obtain an image of an enhancement layer, stores it, and transmits it to another device.
  • BL base layer scalable encoded data
  • EL scalable encoded data
  • scalable encoded data can be transmitted, for example, via different communication media for each layer. Therefore, the load can be distributed, and the occurrence of delay and overflow can be suppressed.
  • a communication medium to be used for transmission may be selected for each layer. For example, scalable encoded data (BL) 1121 of a base layer having a relatively large amount of data is transmitted through a communication medium having a wide bandwidth, and scalable encoded data (EL) 1122 of an enhancement layer having a relatively small amount of data is transmitted. It may be made to transmit via a narrow bandwidth communication medium. Also, for example, whether the communication medium for transmitting the enhancement layer scalable encoded data (EL) 1122 is the network 1112 or the terrestrial broadcasting 1111 is switched according to the available bandwidth of the network 1112. May be Of course, the same is true for data of any layer.
  • the data transmission system 1100 can be applied to any system as long as it is a system that divides scalable encoded coded data into a plurality of units on a layer basis and transmits the data through a plurality of circuits.
  • scalable coding is used to store coded data, as in the example shown in FIG. 40, for example.
  • the imaging device 1201 performs scalable coding on image data obtained by imaging the subject 1211 and sets the scalable coded data storage device 1202 as scalable coded data (BL + EL) 1221. Supply to
  • the scalable encoded data storage device 1202 stores scalable encoded data (BL + EL) 1221 supplied from the imaging device 1201 with quality according to the situation. For example, in the normal case, the scalable encoded data storage device 1202 extracts data of the base layer from the scalable encoded data (BL + EL) 1221, and the scalable encoded data of the base layer with low quality and a small amount of data ( BL) 1222 is stored. On the other hand, for example, at the time of attention, the scalable encoded data storage device 1202 stores the high quality and scalable encoded data (BL + EL) 1221 with a large amount of data.
  • the scalable encoded data storage device 1202 can save the image with high image quality only when necessary, so that the amount of data can be increased while suppressing reduction of the image value due to image quality deterioration. Can be suppressed, and the use efficiency of the storage area can be improved.
  • the imaging device 1201 is a surveillance camera.
  • the monitoring target for example, an intruder
  • the image data scalable coding Data
  • the image data is stored in low quality.
  • the monitoring target appears as a subject 1211 in the captured image (at the time of attention)
  • the content of the captured image is likely to be important, so the image quality is prioritized, and the image data (scalable (scalable)
  • the encoded data is stored with high quality.
  • the scalable encoded data storage device 1202 may determine whether it is normal time or attention time by analyzing the image. Alternatively, the imaging apparatus 1201 may make a determination and transmit the determination result to the scalable encoded data storage device 1202.
  • the criterion for determining whether it is normal time or attention time is arbitrary, and the content of the image used as the determination criterion is arbitrary. Of course, conditions other than the content of the image can also be used as the determination criteria. For example, switching may be performed according to the size, waveform, or the like of the recorded voice, switching may be performed every predetermined time, or switching may be performed according to an external instruction such as a user instruction.
  • the normal time and the attention time has been described, but the number of states is arbitrary. For example, the normal time, a little attention time, attention time, attention time, etc. Alternatively, three or more states may be switched. However, the upper limit number of switching states depends on the number of layers of scalable encoded data.
  • the imaging device 1201 may determine the number of layers of scalable coding according to the state. For example, in the normal state, the imaging device 1201 may generate scalable encoded data (BL) 1222 of a low quality and low data base layer and supply it to the scalable encoded data storage device 1202. Also, for example, at the time of attention, the imaging device 1201 generates scalable encoded data (BL + EL) 1221 of the base layer with high quality and a large amount of data, and supplies it to the scalable encoded data storage device 1202. May be
  • the application of the imaging system 1200 is optional and is not limited to the surveillance camera.
  • FIG. 41 illustrates an example of a schematic configuration of a video set to which the present technology is applied.
  • the video set 1300 shown in FIG. 41 is such a multi-functionalized configuration, and the device having a function related to image encoding and / or decoding may be included in the function. It is a combination of devices with other related functions.
  • a video set 1300 includes modules such as a video module 1311, an external memory 1312, a power management module 1313, and a front end module 1314, and related modules such as connectivity 1321, a camera 1322 and a sensor 1323. And a device having a function.
  • a module is a component that combines several component functions that are related to one another into components with a cohesive function.
  • the specific physical configuration is arbitrary, for example, it is conceivable that a plurality of processors having respective functions, electronic circuit elements such as resistors and capacitors, and other devices are disposed and integrated on a wiring board or the like. . It is also conceivable to combine a module with another module or processor to make a new module.
  • the video module 1311 is a combination of configurations having functions related to image processing, and includes an application processor, a video processor, a broadband modem 1333 and an RF module 1334.
  • the processor is one in which a configuration having a predetermined function is integrated on a semiconductor chip by SoC (System On a Chip), and there is also one called a system LSI (Large Scale Integration) or the like.
  • the configuration having the predetermined function may be a logic circuit (hardware configuration), a CPU, a ROM, a RAM, etc., and a program (software configuration) to be executed using them. And both may be combined.
  • a program has a logic circuit and a CPU, a ROM, a RAM, etc., a part of the function is realized by a logic circuit (hardware configuration), and another program is executed on the CPU (software configuration) It may be realized by
  • the application processor 1331 in FIG. 41 is a processor that executes an application related to image processing.
  • the application executed in the application processor 1331 can not only perform arithmetic processing in order to realize a predetermined function, but can also control the configuration inside and outside the video module 1311 such as the video processor 1332 as necessary. .
  • the video processor 1332 is a processor having a function related to image encoding and / or decoding.
  • the broadband modem 1333 is a processor (or module) that performs processing relating to wired or wireless (or both) broadband communication performed via a broadband circuit such as the Internet or a public telephone network.
  • the broadband modem 1333 performs digital modulation on data (digital signal) to be transmitted to convert it into an analog signal, or demodulates a received analog signal to convert it to data (digital signal).
  • the broadband modem 1333 can digitally modulate and demodulate arbitrary information such as image data processed by the video processor 1332 and a stream encoded with the image data, an application program, setting data, and the like.
  • the RF module 1334 is a module that performs frequency conversion, modulation / demodulation, amplification, filter processing, and the like on an RF (Radio Frequency) signal transmitted / received via an antenna. For example, the RF module 1334 performs frequency conversion and the like on the baseband signal generated by the broadband modem 1333 to generate an RF signal. Also, for example, the RF module 1334 performs frequency conversion or the like on the RF signal received via the front end module 1314 to generate a baseband signal.
  • RF Radio Frequency
  • the application processor 1331 and the video processor 1332 may be integrated to be configured as one processor.
  • the external memory 1312 is a module provided outside the video module 1311 and having a storage device used by the video module 1311.
  • the storage device of the external memory 1312 may be realized by any physical configuration, it is generally used to store a large amount of data such as image data in units of frames.
  • a relatively inexpensive and large-capacity semiconductor memory such as a dynamic random access memory (DRAM).
  • DRAM dynamic random access memory
  • the power management module 1313 manages and controls the power supply to the video module 1311 (each configuration in the video module 1311).
  • the front end module 1314 is a module that provides the RF module 1334 with a front end function (a circuit of transmitting and receiving ends on the antenna side). As shown in FIG. 41, the front end module 1314 includes, for example, an antenna unit 1351, a filter 1352, and an amplification unit 1353.
  • the antenna unit 1351 includes an antenna that transmits and receives a wireless signal and a configuration around the antenna.
  • the antenna unit 1351 transmits the signal supplied from the amplification unit 1353 as a wireless signal, and supplies the received wireless signal to the filter 1352 as an electric signal (RF signal).
  • the filter 1352 performs filter processing or the like on the RF signal received via the antenna unit 1351, and supplies the processed RF signal to the RF module 1334.
  • the amplification unit 1353 amplifies the RF signal supplied from the RF module 1334 and supplies it to the antenna unit 1351.
  • the connectivity 1321 is a module having a function related to connection with the outside.
  • the physical configuration of the connectivity 1321 is arbitrary.
  • the connectivity 1321 has a configuration having a communication function other than the communication standard supported by the broadband modem 1333, an external input / output terminal, and the like.
  • the connectivity 1321 conforms to a wireless communication standard such as Bluetooth (registered trademark), IEEE 802.11 (for example, Wi-Fi (Wireless Fidelity (registered trademark)), NFC (Near Field Communication), IrDA (InfraRed Data Association)
  • a module having a function, an antenna that transmits and receives a signal conforming to the standard, or the like may be included.
  • the connectivity 1321 has a module having a communication function conforming to a wired communication standard such as Universal Serial Bus (USB) or High-Definition Multimedia Interface (HDMI (registered trademark)), or a terminal conforming to the standard. You may do so.
  • the connectivity 1321 may have another data (signal) transmission function or the like such as an analog input / output terminal.
  • the connectivity 1321 may include a device to which data (signal) is to be transmitted.
  • a drive in which the connectivity 1321 reads data from or writes data to a recording medium such as a magnetic disk, an optical disk, a magneto-optical disk, or a semiconductor memory (not only a removable media drive but also a hard disk, solid state drive (SSD) , NAS (Network Attached Storage), etc.
  • the connectivity 1321 may include an output device (such as a monitor or a speaker) of an image or sound.
  • the camera 1322 is a module having a function of capturing an image of a subject and obtaining image data of the subject.
  • the image data obtained by the imaging of the camera 1322 is supplied to, for example, a video processor 1332 and encoded.
  • the sensor 1323 is, for example, an audio sensor, an ultrasonic sensor, an optical sensor, an illuminance sensor, an infrared sensor, an image sensor, a rotation sensor, an angle sensor, an angular velocity sensor, a velocity sensor, an acceleration sensor, an inclination sensor, a magnetic identification sensor, an impact sensor, It is a module having an arbitrary sensor function such as a temperature sensor.
  • the data detected by the sensor 1323 is, for example, supplied to the application processor 1331 and used by an application or the like.
  • the configuration described above as a module may be realized as a processor, and conversely, the configuration described as a processor may be realized as a module.
  • video set 1300 configured as described above, the present technology can be applied to the video processor 1332 as described later.
  • video set 1300 can be implemented as a set to which the present technology is applied.
  • FIG. 42 shows an example of a schematic configuration of a video processor 1332 (FIG. 41) to which the present technology is applied.
  • the video processor 1332 receives an input of a video signal and an audio signal and encodes the video and audio data in a predetermined scheme, and decodes the encoded video data and audio data, and And a function of reproducing and outputting an audio signal.
  • the video processor 1332 includes a video input processing unit 1401, a first image scaling unit 1402, a second image scaling unit 1403, a video output processing unit 1404, a frame memory 1405, and a memory control unit 1406.
  • the video processor 1332 has an encoding / decoding engine 1407, video ES (Elementary Stream) buffers 1408A and 1408B, and audio ES buffers 1409A and 1409B.
  • the video processor 1332 further includes an audio encoder 1410, an audio decoder 1411, a multiplexer (MUX (Multiplexer)) 1412, a demultiplexer (DMUX (Demultiplexer)) 1413, and a stream buffer 1414.
  • MUX Multiplexer
  • DMUX demultiplexer
  • the video input processing unit 1401 acquires a video signal input from, for example, the connectivity 1321 (FIG. 41) or the like, and converts the video signal into digital image data.
  • the first image scaling unit 1402 performs format conversion, image scaling processing, and the like on image data.
  • the second image scaling unit 1403 performs image scaling processing on the image data according to the format at the output destination via the video output processing unit 1404, or the same as the first image scaling unit 1402. Format conversion, image enlargement / reduction processing, etc.
  • the video output processing unit 1404 performs format conversion, conversion to an analog signal, and the like on the image data, and outputs the reproduced data as, for example, the connectivity 1321 (FIG. 41) or the like.
  • the frame memory 1405 is a memory for image data shared by the video input processing unit 1401, the first image scaling unit 1402, the second image scaling unit 1403, the video output processing unit 1404, and the encoding / decoding engine 1407. .
  • the frame memory 1405 is realized, for example, as a semiconductor memory such as a DRAM.
  • the memory control unit 1406 receives a synchronization signal from the encode / decode engine 1407 and controls write / read access to the frame memory 1405 according to the access schedule to the frame memory 1405 written in the access management table 1406A.
  • the access control table 1406A is updated by the memory control unit 1406 in accordance with the processing executed by the encoding / decoding engine 1407, the first image scaling unit 1402, the second image scaling unit 1403 and the like.
  • the encoding / decoding engine 1407 performs encoding processing of image data and decoding processing of a video stream which is data obtained by encoding the image data. For example, the encoding / decoding engine 1407 encodes the image data read from the frame memory 1405 and sequentially writes the image data as a video stream in the video ES buffer 1408A. Also, for example, the video stream is sequentially read from the video ES buffer 1408 B and decoded, and is sequentially written to the frame memory 1405 as image data. The encoding / decoding engine 1407 uses the frame memory 1405 as a work area in these encoding and decoding. Also, the encoding / decoding engine 1407 outputs a synchronization signal to the memory control unit 1406, for example, at the timing of starting processing for each macroblock.
  • the video ES buffer 1408 A buffers the video stream generated by the encoding / decoding engine 1407 and supplies the buffer to the multiplexer (MUX) 1412.
  • the video ES buffer 1408 B buffers the video stream supplied from the demultiplexer (DMUX) 1413 and supplies the video stream to the encode / decode engine 1407.
  • the audio ES buffer 1409A buffers the audio stream generated by the audio encoder 1410 and supplies the buffer to the multiplexer (MUX) 1412.
  • the audio ES buffer 1409 B buffers the audio stream supplied from the demultiplexer (DMUX) 1413 and supplies the audio stream to the audio decoder 1411.
  • the audio encoder 1410 digitally converts, for example, an audio signal input from the connectivity 1321 (FIG. 41) or the like, and encodes the signal according to a predetermined method such as the MPEG audio method or AC3 (Audio Code number 3) method.
  • the audio encoder 1410 sequentially writes an audio stream, which is data obtained by encoding an audio signal, into the audio ES buffer 1409A.
  • the audio decoder 1411 decodes the audio stream supplied from the audio ES buffer 1409B, performs conversion to an analog signal, and the like, for example, and supplies the reproduced audio signal to, for example, the connectivity 1321 (FIG. 41) and the like.
  • a multiplexer (MUX) 1412 multiplexes the video stream and the audio stream.
  • the method of this multiplexing ie, the format of the bit stream generated by multiplexing
  • the multiplexing unit (MUX) 1412 can also add predetermined header information or the like to the bit stream. That is, the multiplexing unit (MUX) 1412 can convert the format of the stream by multiplexing.
  • the multiplexing unit (MUX) 1412 converts a video stream and an audio stream into a transport stream, which is a bit stream of a transfer format, by multiplexing the video stream and the audio stream.
  • the multiplexing unit (MUX) 1412 converts the video stream and the audio stream into data (file data) of a file format for recording by multiplexing.
  • a demultiplexing unit (DMUX) 1413 demultiplexes a bitstream in which a video stream and an audio stream are multiplexed in a method corresponding to multiplexing by the multiplexing unit (MUX) 1412. That is, the demultiplexer (DMUX) 1413 extracts a video stream and an audio stream from the bit stream read from the stream buffer 1414 (separate the video stream and the audio stream). That is, the demultiplexer (DMUX) 1413 can convert the format of the stream by demultiplexing (inverse conversion of conversion by the multiplexer (MUX) 1412).
  • the demultiplexer unit (DMUX) 1413 acquires a transport stream supplied from, for example, the connectivity 1321 or the broadband modem 1333 or the like (all in FIG. 41) via the stream buffer 1414 and demultiplexes the transport stream. , And can be converted to video and audio streams. Also, for example, the demultiplexing unit (DMUX) 1413 acquires file data read from various recording media by the connectivity 1321 (FIG. 41), for example, through the stream buffer 1414, and demultiplexes the file data. It can be converted into video and audio streams.
  • the stream buffer 1414 buffers the bit stream.
  • the stream buffer 1414 buffers the transport stream supplied from the multiplexing unit (MUX) 1412, and, for example, based on a request from the outside or the like at a predetermined timing, the connectivity 1321 or the broadband modem 1333 (any Also supply the components shown in FIG.
  • MUX multiplexing unit
  • the stream buffer 1414 buffers the file data supplied from the multiplexing unit (MUX) 1412 and, for example, the connectivity 1321 (FIG. 41) or the like at a predetermined timing or based on an external request or the like. To record on various recording media.
  • MUX multiplexing unit
  • the connectivity 1321 FIG. 41
  • the stream buffer 1414 buffers the transport stream acquired via, for example, the connectivity 1321 and the broadband modem 1333 (all in FIG. 41), and reverses the process at a predetermined timing or based on an external request or the like.
  • the signal is supplied to a multiplexer (DMUX) 1413.
  • DMUX multiplexer
  • the stream buffer 1414 buffers file data read from various recording media, for example, in the connectivity 1321 (FIG. 41), etc., and is demultiplexed at a predetermined timing or based on an external request or the like. (DMUX) 1413 is supplied.
  • a video signal input from the connectivity 1321 (FIG. 41) or the like to the video processor 1332 is converted by the video input processing unit 1401 into digital image data of a predetermined format such as 4: 2: 2 Y / Cb / Cr format,
  • the frame memory 1405 is sequentially written.
  • This digital image data is read by the first image scaling unit 1402 or the second image scaling unit 1403, and format conversion and scaling processing to a predetermined format such as 4: 2: 0 Y / Cb / Cr format is performed. And are written to the frame memory 1405 again.
  • This image data is encoded by the encoding / decoding engine 1407 and written to the video ES buffer 1408A as a video stream.
  • an audio signal input from the connectivity 1321 (FIG. 41) or the like to the video processor 1332 is encoded by the audio encoder 1410 and is written to the audio ES buffer 1409A as an audio stream.
  • the video stream of the video ES buffer 1408A and the audio stream of the audio ES buffer 1409A are read and multiplexed by the multiplexer (MUX) 1412 and converted to a transport stream or file data.
  • the transport stream generated by the multiplexer (MUX) 1412 is buffered in the stream buffer 1414, and then output to the external network via, for example, the connectivity 1321 and the broadband modem 1333 (all are shown in FIG. 41).
  • the file data generated by the multiplexing unit (MUX) 1412 is buffered in the stream buffer 1414, and then output to, for example, the connectivity 1321 (FIG. 41) or the like to be recorded on various recording media.
  • a transport stream input from an external network to the video processor 1332 via the connectivity 1321 or the broadband modem 1333 is buffered in the stream buffer 1414 and then demultiplexed (DMUX). It is demultiplexed by 1413.
  • file data read from various recording media in connectivity 1321 (FIG. 41) and the like and input to video processor 1332 is buffered in stream buffer 1414 and then demultiplexed by demultiplexing unit (DMUX) 1413 Be That is, the transport stream or file data input to the video processor 1332 is separated into a video stream and an audio stream by the demultiplexer (DMUX) 1413.
  • DMUX demultiplexing unit
  • the audio stream is supplied to the audio decoder 1411 via the audio ES buffer 1409B and decoded to reproduce the audio signal. Also, after the video stream is written to the video ES buffer 1408 B, it is sequentially read and decoded by the encoding / decoding engine 1407 and written to the frame memory 1405. The decoded image data is scaled by the second image scaling unit 1403 and written to the frame memory 1405. Then, the decoded image data is read by the video output processing unit 1404, converted into a predetermined format such as 4: 2: 2 Y / Cb / Cr format, and further converted into an analog signal, and the video signal is converted. Is reproduced and output.
  • the present technology when the present technology is applied to the video processor 1332 configured as described above, the present technology according to each embodiment described above may be applied to the encoding / decoding engine 1407. That is, for example, the encoding / decoding engine 1407 may have the functions of the encoding apparatus and the decoding apparatus according to the first embodiment. By doing so, the video processor 1332 can obtain the same effects as the effects described above with reference to FIGS. 1 to 12.
  • the present technology (that is, the functions of the image encoding device and the image decoding device according to each of the above-described embodiments) may be realized by hardware such as a logic circuit. It may be realized by software such as an embedded program or may be realized by both of them.
  • FIG. 43 shows another example of a schematic configuration of a video processor 1332 (FIG. 41) to which the present technology is applied.
  • the video processor 1332 has a function of encoding / decoding video data in a predetermined scheme.
  • the video processor 1332 has a control unit 1511, a display interface 1512, a display engine 1513, an image processing engine 1514, and an internal memory 1515. Also, the video processor 1332 has a codec engine 1516, a memory interface 1517, a multiplexing / demultiplexing unit (MUX DMUX) 1518, a network interface 1519, and a video interface 1520.
  • MUX DMUX multiplexing / demultiplexing unit
  • the control unit 1511 controls the operation of each processing unit in the video processor 1332 such as the display interface 1512, the display engine 1513, the image processing engine 1514, and the codec engine 1516.
  • the control unit 1511 has, for example, a main CPU 1531, a sub CPU 1532 and a system controller 1533.
  • the main CPU 1531 executes a program or the like for controlling the operation of each processing unit in the video processor 1332.
  • the main CPU 1531 generates a control signal according to the program or the like and supplies it to each processing unit (that is, controls the operation of each processing unit).
  • the sub CPU 1532 plays an auxiliary role of the main CPU 1531.
  • the sub CPU 1532 executes a child process or a subroutine of a program or the like executed by the main CPU 1531.
  • the system controller 1533 controls operations of the main CPU 1531 and the sub CPU 1532 such as designating programs executed by the main CPU 1531 and the sub CPU 1532.
  • the display interface 1512 outputs image data to, for example, the connectivity 1321 (FIG. 41) or the like under the control of the control unit 1511.
  • the display interface 1512 converts image data of digital data into an analog signal, and outputs the converted signal to a monitor device or the like of the connectivity 1321 (FIG. 41) as a reproduced video signal or as image data of digital data.
  • the display engine 1513 performs various conversion processing such as format conversion, size conversion, color gamut conversion, and the like on the image data under the control of the control unit 1511 so as to match the hardware specifications of the monitor device or the like that displays the image. I do.
  • the image processing engine 1514 performs predetermined image processing, such as filter processing for improving the image quality, on the image data under the control of the control unit 1511.
  • the internal memory 1515 is a memory provided in the video processor 1332 shared by the display engine 1513, the image processing engine 1514, and the codec engine 1516.
  • the internal memory 1515 is used, for example, for data exchange between the display engine 1513, the image processing engine 1514, and the codec engine 1516.
  • the internal memory 1515 stores data supplied from the display engine 1513, the image processing engine 1514, or the codec engine 1516, and the data is displayed on the display engine 1513, as required (eg, on request).
  • the image processing engine 1514 or codec engine 1516 is supplied.
  • This internal memory 1515 may be realized by any storage device, but is generally used to store small-capacity data such as image data in units of blocks and parameters, etc. It is desirable to realize by a semiconductor memory that has a relatively small capacity (compared to, for example, the external memory 1312) such as a static random access memory, but has a high response speed.
  • the codec engine 1516 performs processing relating to encoding and decoding of image data.
  • the encoding / decoding method to which this codec engine 1516 corresponds is arbitrary, and the number may be one or more.
  • the codec engine 1516 may be provided with codec functions of a plurality of encoding / decoding methods, and one of them may be selected to encode image data or decode encoded data.
  • the codec engine 1516 includes, for example, MPEG-2 Video 1541, AVC / H.264 1542, HEVC / H.2651543, HEVC / H.265 (Scalable) 1544 as functional blocks of processing relating to the codec. It has HEVC / H.265 (Multi-view) 1545 and MPEG-DASH 1551.
  • the MPEG-2 Video 1541 is a functional block that encodes and decodes image data according to the MPEG-2 system.
  • AVC / H.2641542 is a functional block that encodes or decodes image data according to the AVC method.
  • HEVC / H.2651543 is a functional block that encodes and decodes image data according to the HEVC scheme.
  • HEVC / H.265 (Scalable) 1544 is a functional block that performs scalable encoding or scalable decoding of image data according to the HEVC scheme.
  • HEVC / H.265 (Multi-view) 1545 is a functional block that performs multi-view coding and multi-view decoding of image data according to the HEVC method.
  • the MPEG-DASH 1551 is a functional block that transmits and receives image data in accordance with the MPEG-Dynamic Adaptive Streaming over HTTP (MPEG-DASH) method.
  • MPEG-DASH is a technology that performs streaming of video using HTTP (HyperText Transfer Protocol), and selects and transmits, in units of segments, an appropriate one from a plurality of pieces of encoded data having different resolutions prepared in advance and the like. To be one of the features.
  • the MPEG-DASH 1551 performs generation of a stream conforming to the standard, transmission control of the stream, and the like, and encoding and decoding of image data can be performed according to the MPEG-2 Video 1541 to HEVC / H.265 (Multi-view) 1545 described above.
  • the memory interface 1517 is an interface for the external memory 1312. Data supplied from the image processing engine 1514 and the codec engine 1516 are supplied to the external memory 1312 via the memory interface 1517. Also, data read from the external memory 1312 is supplied to the video processor 1332 (image processing engine 1514 or codec engine 1516) via the memory interface 1517.
  • a multiplexing / demultiplexing unit (MUX DMUX) 1518 multiplexes or demultiplexes various data related to an image, such as a bit stream of encoded data, an image data, a video signal, and the like.
  • the method of multiplexing / demultiplexing is optional.
  • the multiplexing / demultiplexing unit (MUX DMUX) 1518 can not only combine a plurality of data into one but also add predetermined header information or the like to the data.
  • the multiplexing / demultiplexing unit (MUX DMUX) 1518 not only divides one data into a plurality of data but also adds predetermined header information etc. to each divided data.
  • the multiplexing / demultiplexing unit (MUX DMUX) 1518 can convert the data format by multiplexing / demultiplexing.
  • the multiplexing / demultiplexing unit (MUX DMUX) 1518 multiplexes a bit stream to transport stream, which is a bit stream of transfer format, or data of file format for recording (file data). Can be converted to Of course, inverse conversion is also possible by demultiplexing.
  • the network interface 1519 is an interface for, for example, the broadband modem 1333 or the connectivity 1321 (all are shown in FIG. 41).
  • the video interface 1520 is an interface for, for example, the connectivity 1321 and the camera 1322 (all are shown in FIG. 41).
  • a transport stream is received from the external network via the connectivity 1321 or the broadband modem 1333 (all are shown in FIG. 41)
  • the transport stream is multiplexed via the network interface 1519 to a multiplexer / demultiplexer (MUX DMUX).
  • MUX DMUX multiplexer / demultiplexer
  • codec engine 1516 are demultiplexed and decoded by codec engine 1516.
  • the image data obtained by the decoding of the codec engine 1516 is subjected to predetermined image processing by the image processing engine 1514, is subjected to predetermined conversion by the display engine 1513, and is displayed, for example, via the display interface 1512. 41) and the like, and the image is displayed on the monitor.
  • image data obtained by the decoding of the codec engine 1516 is re-encoded by the codec engine 1516, multiplexed by the multiplexing / demultiplexing unit (MUX DMUX) 1518, and converted into file data, and video
  • MUX DMUX multiplexing / demultiplexing unit
  • the information is output to the connectivity 1321 (FIG. 41) or the like via the interface 1520, and is recorded on various recording media.
  • file data of encoded data obtained by encoding image data and read out from a recording medium (not shown) by the connectivity 1321 (FIG. 41) or the like is multiplexed / demultiplexed via the video interface 1520.
  • a section (MUX DMUX) 1518 is demultiplexed and decoded by the codec engine 1516.
  • the image data obtained by the decoding of the codec engine 1516 is subjected to predetermined image processing by the image processing engine 1514, is subjected to predetermined conversion by the display engine 1513, and is, for example, connectivity 1321 (FIG. 41) via the display interface 1512. Etc., and the image is displayed on the monitor.
  • image data obtained by the decoding of the codec engine 1516 is re-encoded by the codec engine 1516, multiplexed by the multiplexing / demultiplexing unit (MUX DMUX) 1518, and converted into a transport stream,
  • the network interface 1519 is supplied to, for example, the connectivity 1321 and the broadband modem 1333 (all are shown in FIG. 41) and transmitted to another device (not shown).
  • image data and other data are exchanged between the processing units in the video processor 1332 using, for example, the internal memory 1515 or the external memory 1312.
  • the power management module 1313 controls, for example, the power supply to the control unit 1511.
  • the present technology when the present technology is applied to the video processor 1332 configured as described above, the present technology according to each embodiment described above may be applied to the codec engine 1516. That is, for example, the codec engine 1516 may have functional blocks that implement the encoding apparatus and the decoding apparatus according to the first embodiment. Furthermore, for example, by doing so in the codec engine 1516, the video processor 1332 can obtain the same effect as the effect described above with reference to FIGS.
  • the present technology (that is, the functions of the image encoding device and the image decoding device according to each of the embodiments described above) may be realized by hardware such as a logic circuit Or the like, or both of them.
  • the configuration of the video processor 1332 is arbitrary, and may be other than the two examples described above.
  • the video processor 1332 may be configured as one semiconductor chip, but may be configured as a plurality of semiconductor chips.
  • a three-dimensional stacked LSI in which a plurality of semiconductors are stacked may be used.
  • it may be realized by a plurality of LSIs.
  • Video set 1300 can be incorporated into various devices for processing image data.
  • the video set 1300 can be incorporated into the television 900 (FIG. 34), the mobile phone 920 (FIG. 35), the recording / reproducing device 940 (FIG. 36), the imaging device 960 (FIG. 37), and the like.
  • the device can obtain the same effect as the effect described above with reference to FIGS.
  • the video set 1300 is, for example, a terminal device such as the personal computer 1004, the AV device 1005, the tablet device 1006, and the portable telephone 1007 in the data transmission system 1000 of FIG. 38, the broadcast station 1101 in the data transmission system 1100 of FIG. It can also be incorporated into the terminal device 1102 and the imaging device 1201 and the scalable encoded data storage device 1202 in the imaging system 1200 of FIG. By incorporating the video set 1300, the device can obtain the same effect as the effect described above with reference to FIGS.
  • each configuration of the video set 1300 described above can be implemented as a configuration to which the present technology is applied, as long as the video processor 1332 is included.
  • the video processor 1332 can be implemented as a video processor to which the present technology is applied.
  • the processor indicated by the dotted line 1341 or the video module 1311 can be implemented as a processor or a module to which the present technology is applied.
  • the video module 1311, the external memory 1312, the power management module 1313, and the front end module 1314 may be combined to be implemented as a video unit 1361 to which the present technology is applied.
  • any configuration including the video processor 1332 can be incorporated into various devices that process image data as in the case of the video set 1300.
  • a video processor 1332 a processor indicated by a dotted line 1341, a video module 1311 or a video unit 1361, a television device 900 (FIG. 34), a mobile phone 920 (FIG. 35), a recording / reproducing device 940 (FIG. 36)
  • An imaging apparatus 960 (FIG. 37), a terminal device such as a personal computer 1004, an AV device 1005, a tablet device 1006, and a portable telephone 1007 in the data transmission system 1000 of FIG.
  • the apparatus 1102 can be incorporated in the imaging apparatus 1201 and the scalable encoded data storage apparatus 1202 in the imaging system 1200 in FIG. Then, by incorporating any of the configurations to which the present technology is applied, the device can obtain the same effects as the effects described above with reference to FIGS. 1 to 12 as in the case of the video set 1300. .
  • the method of transmitting such information is not limited to such an example.
  • the information may be transmitted or recorded as separate data associated with the coded data without being multiplexed to the coded data.
  • the term “associate” allows an image (such as a slice or a block, which may be part of an image) included in a bitstream to be linked at the time of decoding with information corresponding to the image. Means That is, the information may be transmitted on a different transmission path from the encoded data.
  • the information may be recorded on a recording medium (or another recording area of the same recording medium) different from the encoded data.
  • the information and the encoded data may be associated with each other in any unit such as, for example, a plurality of frames, one frame, or a part in a frame.
  • a system means a set of a plurality of components (devices, modules (parts), etc.), and it does not matter whether all the components are in the same case. Therefore, a plurality of devices housed in separate housings and connected via a network, and one device housing a plurality of modules in one housing are all systems. .
  • the present disclosure can have a cloud computing configuration in which one function is shared and processed by a plurality of devices via a network.
  • each step described in the above-described flowchart can be executed by one device or in a shared manner by a plurality of devices.
  • the plurality of processes included in one step can be executed by being shared by a plurality of devices in addition to being executed by one device.
  • the present disclosure can also be configured as follows.
  • An extraction unit that extracts the encoded data and the color gamut information from the encoded stream received by the receiving unit;
  • a decoding unit that decodes the encoded data extracted by the extraction unit and generates the image.
  • the decoding device according to (1) further including: an adjustment unit configured to adjust a color gamut of the image generated by the decoding unit based on the color gamut information extracted by the extraction unit.
  • the encoded stream includes luminance information representing the luminance of a display unit that displays the image at the time of authoring the image;
  • the extraction unit extracts the luminance information from the encoded stream,
  • the luminance information is configured to represent white and black luminances of the display unit.
  • the decryption device Receiving the encoded stream from an encoding device transmitting an encoded stream including encoded data of the image and color gamut information representing the color gamut of the image; Extracting the encoded data and the color gamut information from the encoded stream received by the process of the receiving step; And D. a decoding step of decoding the encoded data extracted by the processing of the extraction step and generating the image.
  • An encoding unit that encodes an image and generates encoded data; A setting unit configured to set color gamut information representing a color gamut of the image;
  • An encoding apparatus comprising: a transmission unit for transmitting an encoded stream including the encoded data generated by the encoding unit and the color gamut information generated by the setting unit.
  • the setting unit sets brightness information representing the brightness of a display unit that displays the image at the time of authoring the image;
  • the coding device Encoding an image and generating encoded data; Setting step of setting color gamut information representing the color gamut of the image; A transmitting step of transmitting a coded stream including the coded data generated by the processing of the coding step and the color gamut information generated by the processing of the setting step.
  • (10) Receiving the coded stream from a coding device transmitting a coded stream including coded data of the image, identification information identifying a predetermined color gamut, and a coverage of the color gamut of the image for the predetermined color gamut
  • a receiving unit An extraction unit that extracts the encoded data, the identification information, and the coverage from the encoded stream received by the receiving unit;
  • a decoding unit that decodes the encoded data extracted by the extraction unit and generates the image.
  • the encoded stream includes luminance information representing the luminance of a display unit that displays the image at the time of authoring the image;
  • the extraction unit extracts the luminance information from the encoded stream,
  • the luminance information is configured to represent white and black luminances of the display unit.
  • the decryption device Receiving the coded stream from a coding device transmitting a coded stream including coded data of the image, identification information identifying a predetermined color gamut, and a coverage of the color gamut of the image for the predetermined color gamut Receiving step, Extracting the encoded data, the identification information, and the coverage from the encoded stream received by the process of the receiving step; And D. a decoding step of decoding the encoded data extracted by the processing of the extraction step and generating the image.
  • An encoding unit that encodes an image and generates encoded data;
  • a setting unit configured to set identification information for identifying a predetermined color gamut and a coverage of the color gamut of the image with respect to the predetermined color gamut;
  • An encoding apparatus comprising: a transmission unit for transmitting an encoded stream including the encoded data generated by the encoding unit, the identification information generated by the setting unit, and the coverage.
  • the setting unit sets brightness information representing the brightness of a display unit that displays the image at the time of authoring the image;
  • the encoding apparatus according to (15), wherein the transmission unit is configured to transmit an encoded stream including the encoded data, the color gamut information, and the luminance information.
  • the encoding device Encoding an image and generating encoded data; A setting step of setting identification information for identifying a predetermined color gamut and a coverage of the color gamut of the image with respect to the predetermined color gamut; A transmission step of transmitting a coded stream including the coded data generated by the processing of the coding step, the identification information generated by the processing of the setting step, and the coverage rate.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

 本開示は、符号化対象の画像の色域を復号側で正確に認識することができるようにする復号装置および復号方法、並びに符号化装置および符号化方法に関する。 受け取り部は、画像の符号化データと画像の色域を表す色域情報を含む符号化ストリームを伝送する符号化装置から、符号化ストリームを受け取る。抽出部は、符号化ストリームから符号化データと色域情報を抽出する。復号部は、符号化データを復号し、画像を生成する。本開示は、例えば、HEVC(High Efficiency Video Coding)方式の復号装置等に適用することができる。

Description

復号装置および復号方法、並びに符号化装置および符号化方法
 本開示は、復号装置および復号方法、並びに符号化装置および符号化方法に関し、特に、符号化対象の画像の色域を復号側で正確に認識することができるようにした復号装置および復号方法、並びに符号化装置および符号化方法に関する。
 近年、画像情報特有の冗長性を利用して、離散コサイン変換等の直交変換と動き補償により圧縮するMPEG(Moving Picture Experts Group phase)などの方式に準拠した装置が、放送局などの情報配信、および一般家庭における情報受信の双方において普及しつつある。
 特に、MPEG2(ISO/IEC 13818-2)方式は、汎用画像符号化方式として定義されており、飛び越し走査画像及び順次走査画像の双方、並びに標準解像度画像及び高精細画像を網羅する標準で、プロフェッショナル用途及びコンシューマー用途の広範なアプリケーションに現在広く用いられている。MPEG2方式を用いることにより、例えば720×480画素を持つ標準解像度の飛び越し走査画像であれば4乃至8Mbps、1920×1088画素を持つ高解像度の飛び越し走査画像であれば18乃至22MBpsの符号量(ビットレート)を割り当てることで、高い圧縮率と良好な画質の実現が可能である。
 MPEG2は主として放送用に適合する高画質符号化を対象としていたが、MPEG1より低い符号量(ビットレート)、つまりより高い圧縮率の符号化方式には対応していなかった。携帯端末の普及により、今後そのような符号化方式のニーズは高まると思われ、これに対応してMPEG4符号化方式の標準化が行われた。MPEG4の画像符号化方式に関しては、1998年12月にISO/IEC 14496-2として規格が国際標準に承認された。
 更に、近年、当初テレビ会議用の画像符号化を目的として、H.26L(ITU-T Q6/16 VCEG)という標準の規格化が進んでいる。H.26LはMPEG2やMPEG4といった符号化方式に比べ、その符号化、復号化により多くの演算量が要求されるものの、より高い符号化効率が実現されることが知られている。
 また、近年、MPEG4の活動の一環として、このH.26Lをベースに、H.26Lではサポートされない機能をも取り入れ、より高い符号化効率を実現する標準化がJoint Model of Enhanced-Compression Video Codingとして行われた。この標準化は、2003年3月にH.264及びMPEG-4 Part10(AVC(Advanced Video Coding))という名の元に国際標準化された。
 更に、その拡張として、RGBやYUV422、YUV444といった、業務用に必要な符号化ツールや、MPEG-2で規定されていた8×8DCTや量子化マトリクスをも含んだFRExt (Fidelity Range Extension)の標準化が2005年2月に完了した。これにより、AVC方式が、映画に含まれるフィルムノイズをも良好に表現することが可能な符号化方式となり、BD(Blu-ray(登録商標) Disc )等の幅広いアプリケーションに用いられる運びとなった。
 しかしながら、昨今、ハイビジョン画像の4倍の4000×2000画素程度の画像を圧縮したい、または、インターネットのような限られた伝送容量の環境においてハイビジョン画像を配信したいといった、更なる高圧縮率符号化に対するニーズが高まっている。このため、ITU-T傘下のVCEG(Video Coding Expert Group)において、符号化効率の改善に関する検討が継続されている。
 また、現在、AVCより更なる符号化効率の向上を目的として、ITU-Tと、ISO/IECの共同の標準化団体であるJCTVC(Joint Collaboration Team - Video Coding)により、
 HEVC(High Efficiency Video Coding)と呼ばれる符号化方式の標準化が進められている。2013年8月現在、Draftとして非特許文献1が発行されている。
 ところで、AVC方式やHEVC方式では、符号化対象の画像の色域がVUI(Video Usability Information)のcolour_primariesで定義される。
Benjamin Bross,Gary J.Sullivan,Ye-Kui Wang,"Editors' proposed corrections to HEVC version 1", JCTVC-M0432_v3,2013.4.18-4.26
 しかしながら、別規格で定義されている色域のいずれかを識別するインデックスにより、符号化対象の画像の色域が定義される。従って、符号化対象の画像の色域として固定の色域以外の色域を定義することができず、符号化対象の画像の色域を復号側で正確に認識することはできなかった。
 本開示は、このような状況に鑑みてなされたものであり、符号化対象の画像の色域を復号側で正確に認識することができるようにするものである。
 本開示の第1の側面の復号装置は、画像の符号化データと前記画像の色域を表す色域情報を含む符号化ストリームを伝送する符号化装置から、前記符号化ストリームを受け取る受け取り部と、前記受け取り部により受け取られた前記符号化ストリームから、前記符号化データと前記色域情報を抽出する抽出部と、前記抽出部により抽出された前記符号化データを復号し、前記画像を生成する復号部とを備える復号装置である。
 本開示の第1の側面の復号方法は、本開示の第1の側面の復号装置に対応する。
 本開示の第1の側面においては、画像の符号化データと前記画像の色域を表す色域情報を含む符号化ストリームを伝送する符号化装置から、前記符号化ストリームが受け取られ、前記符号化ストリームから前記符号化データと前記色域情報が抽出され、前記符号化データが復号されて、前記画像が生成される。
 本開示の第2の側面の符号化装置は、画像を符号化し、符号化データを生成する符号化部と、前記画像の色域を表す色域情報を設定する設定部と、前記符号化部により生成された前記符号化データと、前記設定部により生成された前記色域情報とを含む符号化ストリームを伝送する伝送部とを備える符号化装置である。
 本開示の第2の側面の符号化方法は、本開示の第2の側面の符号化装置に対応する。
 本開示の第2の側面においては、画像が符号化されて符号化データが生成され、前記画像の色域を表す色域情報が設定され、前記符号化データと前記色域情報とを含む符号化ストリームが伝送される。
 本開示の第3の側面の復号装置は、画像の符号化データ、所定の色域を識別する識別情報、および前記所定の色域に対する前記画像の色域のカバー率を含む符号化ストリームを伝送する符号化装置から、前記符号化ストリームを受け取る受け取り部と、前記受け取り部により受け取られた前記符号化ストリームから前記符号化データ、前記識別情報、および前記カバー率を抽出する抽出部と、前記抽出部により抽出された前記符号化データを復号し、前記画像を生成する復号部とを備える復号装置である。
 本開示の第3の側面の復号方法は、本開示の第3の側面の復号装置に対応する。
 本開示の第3の側面においては、画像の符号化データ、所定の色域を識別する識別情報、および前記所定の色域に対する前記画像の色域のカバー率を含む符号化ストリームを伝送する符号化装置から、前記符号化ストリームが受け取られ、前記符号化ストリームから前記符号化データ、前記識別情報、および前記カバー率が抽出され、前記符号化データが復号されて前記画像が生成される。
 本開示の第4の側面の符号化装置は、画像を符号化し、符号化データを生成する符号化部と、所定の色域を識別する識別情報と前記所定の色域に対する前記画像の色域のカバー率とを設定する設定部と、前記符号化部により生成された前記符号化データと、前記設定部により生成された前記識別情報および前記カバー率と含む符号化ストリームを伝送する伝送部とを備える符号化装置である。
 本開示の第4の側面の符号化方法は、本開示の第4の側面の符号化装置に対応する。
 本開示の第4の側面においては、画像が符号化されて符号化データが生成され、所定の色域を識別する識別情報と前記所定の色域に対する前記画像の色域のカバー率とが設定され、前記符号化データと前記識別情報および前記カバー率と含む符号化ストリームが伝送される。
 なお、第1および第3の側面の復号装置並びに第2および第4の側面の符号化装置は、コンピュータにプログラムを実行させることにより実現することができる。
 また、第1および第3の側面の復号装置並びに第2および第4の側面の符号化装置を実現するために、コンピュータに実行させるプログラムは、伝送媒体を介して伝送することにより、又は、記録媒体に記録して、提供することができる。
 第1または第3の側面の復号装置および第2または第4の側面の符号化装置は、独立した装置であっても良いし、1つの装置を構成している内部ブロックであっても良い。
 本開示の第1および第3の側面によれば、画像の符号化データを復号することができる。また、本開示の第1および第3の側面によれば、符号化対象の画像の色域を正確に認識することができる。
 また、本開示の第2および第4の側面によれば、画像を符号化することができる。また、本開示の第2および第4の側面によれば、符号化対象の画像の色域を復号側に正確に認識させることができる。
 なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本開示を適用した符号化装置の第1実施の形態の構成例を示すブロック図である。 colour_primaries_info SEIのシンタックスの例を示す図である。 colour_primaries_info SEIの各情報の内容を説明する図である。 colour_primaries_info SEIの各情報の内容を説明する図である。 colour_primaries_info_sei_elementのシンタックスの例を示す図である。 colour_primaries_info_sei_elementの各情報の内容を説明する図である。 colour_primaries_info_sei_elementの各情報の内容を説明する図である。 ref_display_luminance_info SEIのシンタックスの例を示す図である。 ref_display_luminance_info SEIの各情報の内容を説明する図である。 符号化装置のストリーム生成処理を説明するフローチャートである。 本開示を適用した復号装置の第1実施の形態の構成例を示すブロック図である。 図11の復号装置の画像生成処理を説明するフローチャートである。 本開示を適用した符号化装置の第2実施の形態の構成例を示すブロック図である。 colour_primaries_info SEIのシンタックスの例を示す図である。 colour_primaries_info SEIの各情報を説明する図である。 colour_primaries_info SEIの各情報を説明する図である。 colour_primaries_info SEIの各情報を説明する図である。 colour_primaries_info SEIの各情報を説明する図である。 colour_primaries_info SEIの各情報を説明する図である。 符号化装置のストリーム生成処理を説明するフローチャートである。 本開示を適用した復号装置の第2実施の形態の構成例を示すブロック図である。 図21の復号装置の画像生成処理を説明するフローチャートである。 色域情報と輝度情報が配置されるシステムレイヤとしてのMP4のボックスを説明する図である。 コンピュータのハードウエアの構成例を示すブロック図である。 多視点画像符号化方式の例を示す図である。 本開示を適用した多視点画像符号化装置の構成例を示す図である。 本開示を適用した多視点画像復号装置の構成例を示す図である。 階層画像符号化方式の例を示す図である。 スペーシャルなスケーラブル符号化の例を説明する図である。 テンポラルなスケーラブル符号化の例を説明する図である。 信号雑音比のスケーラブル符号化の例を説明する図である。 本開示を適用した階層画像符号化装置の構成例を示す図である。 本開示を適用した階層画像復号装置の構成例を示す図である。 本開示を適用したテレビジョン装置の概略構成例を示す図である。 本開示を適用した携帯電話機の概略構成例を示す図である。 本開示を適用した記録再生装置の概略構成例を示す図である。 本開示を適用した撮像装置の概略構成例を示す図である。 スケーラブル符号化利用の一例を示すブロック図である。 スケーラブル符号化利用の他の例を示すブロック図である。 スケーラブル符号化利用のさらに他の例を示すブロック図である。 本開示を適用したビデオセットの概略的な構成の一例を示している。 本開示を適用したビデオプロセッサの概略的な構成の一例を示している。 本開示を適用したビデオプロセッサの概略的な構成の他の例を示している。
 <第1実施の形態>
 (符号化装置の第1実施の形態の構成例)
 図1は、本開示を適用した符号化装置の第1実施の形態の構成例を示すブロック図である。
 図1の符号化装置10は、設定部11、符号化部12、および伝送部13により構成され、画像をHEVC方式に準ずる方式で符号化する。
 具体的には、符号化装置10の設定部11は、SPS(Sequence Parameter Set),PPS(Picture Parameter Set),VUI,SEI(Supplemental Enhancement Information)などのパラメータセットを設定する。
 SEIとしては、colour_primaries_info SEI,ref_display_luminance_info SEIなどがある。colour_primaries_info SEIは、色域(の境界)を表す情報である色域情報を含むSEIである。ref_display_luminance_info SEIは、符号化対象の画像のオーサリング時に符号化対象の画像を表示したマスタのディスプレイ(表示部)の白色、灰色、および黒色の輝度レベルを表す輝度情報(マスタのディスプレイの色域情報)を含むSEIである。設定部11は、設定されたパラメータセットを符号化部12に供給する。
 符号化部12には、フレーム単位の符号化対象の画像が入力される。符号化部12は、入力された符号化対象の画像をHEVC方式で符号化する。符号化部12は、符号化の結果得られる符号化データと設定部11から供給されるパラメータセットから符号化ストリームを生成し、伝送部13に供給する。
 伝送部13は、符号化部12から供給される符号化ストリームを、後述する復号装置に伝送する。
 (colour_primaries_info SEIのシンタックスの例)
 図2は、colour_primaries_info SEIのシンタックスの例を示す図である。
 図2の2行目に示すように、colour_primaries_info SEIには、colour_primaries_info_idが記述される。図3に示すように、colour_primaries_info_idは、色域情報の目的を識別するためのIDである。
 図2の3行目に示すように、colour_primaries_info SEIには、colour_primaries_typeが記述される。図3に示すように、colour_primaries_typeは、色空間のタイプである。例えば、図3の表に示すように、色空間のタイプがRGB表色系である場合、colour_primaries_typeは1であり、色空間のタイプがXYZ表色系である場合、colour_primaries_typeは2である。
 図2の4行目に示すように、colour_primaries_info SEIには、colour_primaries_info_present_flagが記述される。図3に示すように、colour_primaries_info_present_flagは、色域情報のうちの原色の色空間内の位置を表す原色情報がcolour_primaries_info SEIに記述されるかどうかを表すフラグである。原色情報が記述される場合、colour_primaries_info_present_flagは1であり、記述されない場合、colour_primaries_info_present_flagは0である。
 図2の5行目に示すように、colour_primaries_info SEIには、white_point_info_present_flagが記述される。図3に示すように、white_point_info_present_flagは、色域情報のうちの白色の色空間内の位置(white point)を表す白色情報がcolour_primaries_info SEIに記述されるかどうかを表すフラグである。白色情報が記述される場合、white_point_info_present_flagは1であり、記述されない場合、white_point_info_present_flagは0である。
 図2の6行目および7行目に示すように、VUIに含まれるcolour_description_present_flagが1である場合、colour_primaries_info SEIには、limited_colour_gamut_boundaries_flagが記述される。なお、colour_description_present_flagは、VUIに別規格で定義されている色域を識別するインデックスが記述されるかどうかを表すフラグである。VUIにインデックスが記述される場合、colour_description_present_flagは1であり、VUIにインデックスが記述されない場合、colour_description_present_flagは0である。
 また、limited_colour_gamut_boundaries_flagは、図4に示すように、符号化対象の画像の色域がVUIに記述されるインデックスで識別される色域内に制限されるかどうかを表すフラグである。色域が制限される場合limited_colour_gamut_boundaries_flagは0であり、色域が制限されない場合、limited_colour_gamut_boundaries_flagは1である。
 図2の8および9行目に示すように、limited_colour_gamut_boundaries_flagが1である場合、colour_primaries_info SEIには、limited_colour_gamut_range_in_percentが記述される。図4に示すように、limited_colour_gamut_range_in_percentは、VUIに記述されるインデックスで識別される色域に対する符号化対象の画像の色域のカバー率を表す。即ち、limited_colour_gamut_range_in_percentは、VUIに記述されるインデックスで識別される色域における符号化対象の画像の色域の割合である。
 図2の10行目および11行目に示すように、colour_primaries_info_present_flagが1である場合、colour_primaries_info SEIには、colour_primaries_order_typeが記述される。図4に示すように、colour_primaries_order_typeは、原色情報の記述順のタイプである。
 例えば、図4の表に示すように、色空間のタイプがRGB表色系であり、原色情報が、赤色、緑色、青色の順に記述され、その後、それ以外の色の波長の長い順(例えば、黄色、シアンの順)に記述される場合、colour_primaries_order_typeは1である。また、色空間のタイプがRGB表色系であり、原色情報が波長の長い順(例えば、赤色、黄色、緑色、シアン、青色の順)に記述される場合、colour_primaries_order_typeは2である。色空間のタイプがXYZ表色系であり、原色情報がX,Y,Zの順に記述される場合、colour_primaries_order_typeは3である。
 また、図2の12行目に示すように、colour_primaries_info_present_flagが1である場合、colour_primaries_info SEIには、num_colour_primaries_minus3が記述される。図4に示すように、num_colour_primaries_minus3は、colour_primaries_info SEIに記述される原色情報の数から3を減算した値である。
 図2の13行目乃至16行目に示すように、colour_primaries_info_present_flagが1である場合、colour_primaries_info SEIには、num_colour_primaries_minus3に3を加算した数だけ、原色情報が記述される。原色情報は、原色の色空間内のX方向の位置を表すcolour_primaries_info_sei_element(ColourPrimaryXSign[i],ColourPrimaryXExp[i],ColourPrimaryXMantissa[i],ColourPrimaryXManlen[i])と、Y方向の位置を表すcolour_primaries_info_sei_element(ColourPrimaryYSign[i],ColourPrimaryYExp[i],ColourPrimaryYMantissa[i],ColourPrimaryYManlen[i])により構成される。
 図2の17行目乃至19行目に示すように、white_point_info_present_flagが1である場合、colour_primaries_info SEIには、白色情報が記述される。白色情報は、白色の色空間内のX方向の位置を表すcolour_primaries_info_sei_element(WhitePointXSign, WhitePointXExp,WhitePointXMantissa,WhitePointXManlen)と、Y方向の位置を表すcolour_primaries_info_sei_element(WhitePointYSign,WhitePointYExp,WhitePointYMantissa,WhitePointYManlen)により構成される。
 (colour_primaries_info_sei_elementのシンタックスの例)
 図5は、原色情報および白色情報を構成するcolour_primaries_info_sei_elementのシンタックスの例を示す図である。
 図5に示すように、colour_primaries_info_sei_elementは、colour_primaries_info_sign, colour_primaries_info_exponent, colour_primaries_info_mantissa_len_minus1、およびcolour_primaries_info_mantissaにより構成される。
 なお、図5では、ColourPrimaryXSign[i],ColourPrimaryYSign[i],WhitePointXSign, WhitePointYSignを総称してOutSignという。同様に、ColourPrimaryXExp[i], ColourPrimaryYExp[i],WhitePointXExp,WhitePointYExpをOutExpといい、ColourPrimaryXMantissa[i],ColourPrimaryYMantissa[i],WhitePointXMantissa,WhitePointYMantissaをOutMantissaという。また、ColourPrimaryXManlen[i], ColourPrimaryYManlen[i],WhitePointXManlen,WhitePointYManlenをOutManLenという。
 colour_primaries_info_signは、図6に示すように、対応する色の色空間内の位置の座標の浮動小数点の符号を表す。符号がプラスである場合、colour_primaries_info_signが0であり、マイナスである場合、colour_primaries_info_signは1である。
 colour_primaries_info_exponentは、図6に示すように、対応する色の色空間内の位置の座標の浮動小数点の指数を表す。
 colour_primaries_info_mantissa_len_minus1は、図6に示すように、colour_primaries_info_mantissaのビット数から1を減算した値である。colour_primaries_info_mantissaは、図6に示すように、対応する色の色空間内の位置の座標の浮動小数点の仮数である。
 以上により、colour_primaries_info_sei_elementは、対応する色の色空間内の位置の座標xを表すことができる。即ち、座標xは、図7に示すように、colour_primaries_info_sign, colour_primaries_info_exponent, colour_primaries_info_mantissa_len_minus1、およびcolour_primaries_info_mantissaを用いて、以下の式(1)により求めることができる。
Figure JPOXMLDOC01-appb-M000001
 なお、式(1)において、sはcolour_primaries_info_signであり、eはcolour_primaries_info_exponentである。また、nはcolour_primaries_info_mantissaであり、vはcolour_primaries_info_mantissa_len_minus1である。
 例えば、colour_primaries_info_sei_elementが、原色の色空間内のx方向の位置の座標ColourPrimariesXを表すcolour_primaries_info_sei_element(ColourPrimaryXSign[i],ColourPrimaryXExp[i],ColourPrimaryXMantissa[i],ColourPrimaryXManlen[i])である場合、図7の表に示すように、式(1)のsにcolour_primaries_info_sei_element(ColourPrimaryXSign[i],ColourPrimaryXExp[i],ColourPrimaryXMantissa[i],ColourPrimaryXManlen[i])のcolour_primaries_info_signであるColourPrimariesXSignが代入される。
 また、式(1)のeにcolour_primaries_info_sei_element(ColourPrimaryXSign[i],ColourPrimaryXExp[i],ColourPrimaryXMantissa[i],ColourPrimaryXManlen[i])のcolour_primaries_info_exponentであるColourPrimariesXExpが代入される。さらに、式(1)のnにcolour_primaries_info_sei_element(ColourPrimaryXSign[i],ColourPrimaryXExp[i],ColourPrimaryXMantissa[i],ColourPrimaryXManlen[i])のcolour_primaries_info_mantissaであるColourPrimaryXMantissaが代入され、vにcolour_primaries_info_mantissa_len_minus1であるColourPrimaryXManlenが代入される。これにより、座標xとして原色の色空間内のx方向の位置の座標ColourPrimariesXが算出される。
 同様に、colour_primaries_info_sei_elementが、colour_primaries_info_sei_element(ColourPrimaryYSign[i],ColourPrimaryYExp[i],ColourPrimaryYMantissa[i],ColourPrimaryYManlen[i])である場合、座標xとして原色の色空間内のy方向の位置の座標ColourPrimariesYが算出される。
 colour_primaries_info_sei_elementが、colour_primaries_info_sei_element(WhitePointXSign, WhitePointXExp,WhitePointXMantissa,WhitePointXManlen)である場合、座標xとして白色の色空間内のx方向の位置の座標WhitePointXが算出される。
 colour_primaries_info_sei_elementが、colour_primaries_info_sei_element(WhitePointYSign,WhitePointYExp,WhitePointYMantissa,WhitePointYManlen)である場合、座標xとして白色の色空間内のy方向の位置の座標WhitePointYが算出される。
 (ref_display_luminance_info SEIのシンタックスの例)
 図8は、ref_display_luminance_info SEIのシンタックスの例を示す図である。
 図8の2行目に示すように、ref_display_luminance_info SEIには、ref_display_luminance_info_idが記述される。ref_display_luminance_info_idは、図9に示すように、マスタのディスプレイ(reference display)の白色、灰色、および黒色の輝度情報の目的を識別するためのIDである。
 図8の3行目に示すように、ref_display_luminance_info SEIには、ref_display_luminance_white_present_flagが記述される。ref_display_luminance_white_present_flagは、図9に示すように、マスタのディスプレイの白色の輝度情報がref_display_luminance_info SEIに記述されるかどうかを表すフラグである。マスタのディスプレイの白色の輝度情報がref_display_luminance_info SEIに記述される場合、ref_display_luminance_white_present_flagは1であり、記述されない場合ref_display_luminance_white_present_flagは0である。
 図8の4行目および5行目に示すように、ref_display_luminance_info SEIには、黒色および灰色についても同様に、ref_display_luminance_black_present_flagとref_display_luminance_gray_present_flagが記述される。
 また、図8の6行目および7行目に示すように、ref_display_luminance_white_present_flagが1である場合、ref_display_luminance_info SEIには、ref_display_luminance_whiteが記述される。図9に示すように、ref_display_luminance_whiteは、白色の輝度情報である。
 図8の8行目および9行目に示すように、ref_display_luminance_info SEIには、黒色についても同様に、ref_display_luminance_black_present_flagが1である場合、黒色の輝度情報であるref_display_luminance_blackが記述される。
 また、図8の10行目および11行目に示すように、ref_display_luminance_info SEIには、灰色についても同様に、ref_display_luminance_gray_present_flagが1である場合、灰色の輝度情報であるref_display_luminance_grayが記述される。
 (符号化装置の処理の説明)
 図10は、符号化装置10のストリーム生成処理を説明するフローチャートである。
 図10のステップS11において、符号化装置10の設定部11は、SPSを設定する。ステップS12において、設定部11は、別規格で定義されている色域を識別するインデックス(識別情報)を含むVUIを設定する。
 ステップS13において、設定部11は、PPSを設定する。ステップS14において、設定部11は、符号化対象の画像の色域がVUIに含まれるインデックスにより識別される色域よりも狭いかどうかを判定する。
 ステップS14で符号化対象の画像の色域がVUIに含まれるインデックスにより識別される色域よりも狭いと判定された場合、処理はステップS15に進む。ステップS15において、設定部11は、符号化対象の画像の色域情報を含むcolour_primaries_info SEIを設定し、処理をステップS16に進める。
 一方、ステップS14で符号化対象の画像の色域がVUIに含まれるインデックスにより識別される色域よりも狭くはないと判定された場合、符号化対象の画像の色域情報を含むcolour_primaries_info SEIは設定されない。例えば、limited_colour_gamut_range_in_percentを含むcolour_primaries_info SEIが設定される。そして、処理はステップS16に進む。
 ステップS16において、設定部11は、マスタのディスプレイの白色、灰色、および黒色の輝度情報を含むref_display_luminance_info SEIを設定する。設定部11は、設定されたSPS,PPS,VUI,colour_primaries_info SEI,ref_display_luminance_info SEIなどのパラメータセットを符号化部12に供給する。
 ステップS17において、符号化部12は、外部から入力されたフレーム単位の符号化対象の画像をHEVC方式で符号化する。ステップS18において、符号化部12は、符号化の結果得られる符号化データと設定部11から供給されるパラメータセットから符号化ストリームを生成し、伝送部13に供給する。
 ステップS19において、伝送部13は、符号化部12から供給される符号化ストリームを、後述する復号装置に伝送し、処理を終了する。
 以上のように、符号化装置10は、色域情報を含むcolour_primaries_info SEIを設定し、伝送するので、符号化対象の画像が、別規格で定義されている色域と異なる場合であっても、符号化対象の画像の色域を復号側に正確に認識させることができる。
 また、符号化装置10は、白色、黒色、および灰色の輝度情報を含むref_display_luminance_info SEIを設定し、伝送するので、マスタのディスプレイの輝度情報を復号側に正確に認識させることができる。
 なお、上述した説明では、符号化対象の画像の色域がVUIに含まれるインデックスにより識別される色域よりも狭い場合に、色域情報を含むcolour_primaries_info SEIが設定されたが、広い場合にも設定されるようにしてもよい。
 (復号装置の第1実施の形態の構成例)
 図11は、図1の符号化装置10から伝送されてくる符号化ストリームを復号する、本開示を適用した復号装置の第1実施の形態の構成例を示すブロック図である。
 図11の復号装置50は、受け取り部51、抽出部52、復号部53、調整部54、表示制御部55、および表示部56により構成される。
 復号装置50の受け取り部51は、図1の符号化装置10から伝送されてくる符号化ストリームを受け取り、抽出部52に供給する。
 抽出部52は、受け取り部51から供給される符号化ストリームから、パラメータセットと符号化データを抽出する。抽出部52は、パラメータセットと符号化データを復号部53に供給する。また、抽出部52は、パラメータセットのうちのVUI,colour_primaries_info SEI、およびref_display_luminance_info SEIを調整部54に供給する。
 復号部53は、抽出部52から供給される符号化データをHEVC方式で復号する。このとき、復号部53は、必要に応じて、抽出部52から供給されるパラメータセットも参照する。復号部53は、復号の結果得られる画像を調整部54に供給する。
 調整部54は、抽出部52から供給されるcolour_primaries_info SEIから色域情報を取得するか、VUIに含まれるインデックスから色域を認識する。調整部54は、取得された色域情報が表す色域または認識された色域と、表示部56の色域とに基づいて、復号部53から供給される画像の色域を調整する。
 また、調整部54は、抽出部52から供給されるref_display_luminance_info SEIから白色、黒色、および灰色の輝度情報を取得する。調整部54は、その輝度情報と表示部56の輝度情報とに基づいて、色域調整後の画像の輝度のダイナミックレンジを調整する。調整部54は、輝度のダイナミックレンジ調整後の画像を表示制御部55に供給する。
 なお、ここでは、輝度のダイナミックレンジの調整が色域調整後に行われるものとするが、輝度のダイナミックレンジの調整後、色域が調整されるようにしてもよい。
 表示制御部55は、調整部54から供給される画像を表示部56に表示させる。
 (復号装置の処理の説明)
 図12は、図11の復号装置50の画像生成処理を説明するフローチャートである。
 図12のステップS51において、復号装置50の受け取り部51は、図1の符号化装置10から伝送されてくる符号化ストリームを受け取り、抽出部52に供給する。
 ステップS52において、抽出部52は、受け取り部51から供給される符号化ストリームから、パラメータセットと符号化データを抽出する。抽出部52は、パラメータセットと符号化データを復号部53に供給する。また、抽出部52は、パラメータセットのうちのVUI,colour_primaries_info SEI、およびref_display_luminance_info SEIを調整部54に供給する。
 ステップS53において、復号部53は、抽出部52から供給される符号化データをHEVC方式で復号する。このとき、復号部53は、必要に応じて、抽出部52から供給されるパラメータセットも参照する。復号部53は、復号の結果得られる画像を調整部54に供給する。
 ステップS54において、調整部54は、抽出部52からcolour_primaries_info SEIが供給されたかどうかを判定する。ステップS54でcolour_primaries_info SEIが供給されたと判定された場合、処理はステップS55に進む。
 ステップS55において、調整部54は、colour_primaries_info SEIから色域情報を取得し、その色域情報が表す色域を認識する。なお、colour_primaries_info SEIに色域情報が含まれていない場合には、例えば、limited_colour_gamut_range_in_percentに基づいて色域を認識する。そして、処理はステップS57に進む。
 一方、ステップS54でcolour_primaries_info SEIが供給されていないと判定された場合、ステップS56において、調整部54は、抽出部52から供給されるVUIに含まれるインデックスから、別規格で定義されている色域を認識する。そして、処理はステップS57に進む。
 ステップS57において、調整部54は、表示部56の色域とステップS55またはステップS56で認識された色域とに基づいて、復号部53から供給される画像の色域を調整する。
 ステップS58において、調整部54は、抽出部52から供給されるref_display_luminance_info SEIから白色、黒色、および灰色の輝度情報を取得する。
 ステップS59において、調整部54は、表示部56の輝度情報と取得された輝度情報に基づいて、色域調整後の画像の輝度のダイナミックレンジを調整する。調整部54は、輝度のダイナミックレンジ調整後の画像を表示制御部55に供給する。
 ステップS60において、表示制御部55は、調整部54から供給される画像を表示部56に表示させ、処理を終了する。
 以上のように、復号装置50は、色域情報を含むcolour_primaries_info SEIを受け取るので、符号化対象の画像の色域を正確に認識することができる。その結果、復号後の画像の色域を最適化することができる。即ち、符号化対象の画像の色域が別規格で定義されている色域とは異なる場合に、復号後の画像の色域が無駄に削減または拡大されることを防止することができる。
 また、復号装置50は、白色、黒色、および灰色の輝度情報を含むref_display_luminance_info SEIを受け取るので、マスタのディスプレイの輝度情報を正確に認識することができる。その結果、復号後の画像の輝度のダイナミックレンジを最適化することができる。
 なお、符号化対象の画像の色域がVUIに含まれるインデックスにより識別される色域よりも広い場合、colour_primaries_info SEIには、色域情報が記述されなくてもよい。この場合、復号装置50は、limited_colour_gamut_range_in_percentと、VUIに含まれるインデックスにより識別される色域とに基づいて、符号化対象の画像の色域を認識し、色域を調整する。
 このように、色域情報が記述されない場合であっても、復号装置50は、limited_colour_gamut_range_in_percentに基づいて、VUIのインデックスにより符号化対象の色域が定義される場合に比べて、符号化対象の画像の色域を正確に認識することができる。
 <第2実施の形態>
 (符号化装置の第2実施の形態の構成例)
 図13は、本開示を適用した符号化装置の第2実施の形態の構成例を示すブロック図である。
 図13に示す構成のうち、図1の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
 図13の符号化装置70の構成は、設定部11の代わりに設定部72が設けられる点、および、新たに画像調整部71が設けられる点が、図1の構成と異なる。
 符号化装置70の画像調整部71には、外部から画像が入力される。画像調整部71は、ユーザのオーサリング作業に応じて、外部から入力される画像を図示せぬマスタのディスプレイに表示させながら、その画像の編集等を行う。画像調整部71は、編集後の画像の色域情報と、図示せぬマスタのディスプレイの白色および黒色の輝度情報とを設定部72に供給する。また、画像調整部71は、編集後の画像を符号化対象の画像として符号化部12に入力する。
 設定部72は、SPS,PPS,VUIを設定する。また、設定部72は、画像調整部71から供給される色域情報と輝度情報を含むcolour_primaries_info SEIを設定する。設定部72は、設定されたSPS,PPS,VUI,colour_primaries_info SEIなどのパラメータセットを符号化部12に供給する。
 (colour_primaries_info SEIのシンタックスの例)
 図14は、colour_primaries_info SEIのシンタックスの例を示す図であり、図15乃至図19は、colour_primaries_info SEIの各情報を説明する図である。
 図14に示すように、colour_primaries_info SEIには、colour_primaries_info_idが記述される。図15に示すように、colour_primaries_info_idは、色域情報の目的を識別するためのIDである。
 また、図14に示すように、colour_primaries_info SEIには、colour_primaries_cancel_flagが記述される。図15に示すように、colour_primaries_cancel_flagは、前のcolour_primaries_info SEIの連続性をキャンセルするかどうかを表すフラグである。colour_primaries_cancel_flagは、前のcolour_primaries_info SEIの連続性をキャンセルすることを表す場合1であり、キャンセルしないことを表す場合0である。
 colour_primaries_cancel_flagが0である場合、図14に示すように、colour_primaries_info SEIには、colour_primaries_persistence_flagが記述される。図15に示すように、colour_primaries_persistence_flagは、colour_primaries_info SEIに含まれる色域情報および輝度情報を、連続する複数のピクチャに適用するかどうかを表すフラグである。colour_primaries_persistence_flagは、色域情報および輝度情報を連続する複数のピクチャに適用する場合1であり、1つのピクチャにのみ適用する場合0である。
 また、図14に示すように、colour_primaries_info SEIには、white_level_display_luminance_present_flagが記述される。white_level_display_luminance_present_flagは、図16に示すように、white_level_display_luminanceがcolour_primaries_info SEIに記述されるかどうかを表すフラグである。図19に示すように、white_level_display_luminanceは、マスタのディスプレイの白色の輝度情報である。マスタのディスプレイの白色の輝度情報がcolour_primaries_info SEIに記述される場合、white_level_display_luminance_present_flagは1であり、記述されない場合0である。
 図14および図16に示すように、colour_primaries_info SEIには、黒色についても同様に、black_level_display_luminance_present_flagが記述される。
 また、図14に示すように、colour_primaries_info SEIには、colour_gamut_coverage_present_flagが記述される。colour_gamut_coverage_present_flagは、図16に示すように、colour_gamut_coverageがcolour_primaries_info SEIに記述されるかどうかを表すフラグである。colour_gamut_coverageは、図19に示すように、VUIに記述されるインデックスで識別される色域に対する符号化対象の画像の色域のカバー率を表す情報である。colour_gamut_coverageがcolour_primaries_info SEIに記述される場合、colour_gamut_coverage_present_flagは1であり、記述されない場合0である。
 図14および図17に示すように、colour_primaries_info SEIにはまた、色域情報のうちのCIE表色系における赤色のx方向の色度を表すcolour_primary_Red_xと、y方向の色度を表すcolour_primary_Red_yとが記述される。図14および図18に示すように、colour_primaries_info SEIには、緑色、青色、および白色についても同様に、colour_primary_Green_x,colour_primary_Green_y,colour_primary_Blue_x,colour_primary_Blue_y,white_point_x,white_point_yが色域情報として記述される。
 これらの色域情報は、全て16ビット固定小数点で記述される。即ち、色域情報は、伝送可能な情報のサイズが制限されるHDMI(登録商標)(High-Definition Multimedia Interface)のEDID(Extended display identification data)等で、画像調整部71等から伝送されてくることが考えられる。また、本出願人は、固定小数点で記述される色域に関するメタデータを、現在IEC(International Electrotechnical Commission)61966-12-2として提案している。従って、色域情報のサイズを変動させないため、または、提案中のメタデータを色域情報として用いることを可能にするため、色域情報は固定小数点で記述される。
 なお、第1実施の形態における色域情報も、16ビット固定小数点で記述されるようにしてもよい。
 また、図14に示すように、white_level_display_luminance_present_flagが1である場合、colour_primaries_info SEIには、white_level_display_luminanceが記述される。black_level_display_luminance_present_flagが1である場合、blak_level_display_luminanceが記述される。blak_level_display_luminanceは、図19に示すように、マスタのディスプレイの黒色の輝度情報である。
 以上のように、colour_primaries_info SEIには、white_level_display_luminanceとblak_level_display_luminanceが記述される。即ち、本出願人は、白色と黒色の輝度情報を含む輝度に関するメタデータを、現在IEC61966-12-2として提案している。従って、提案中のメタデータを、white_level_display_luminanceとblak_level_display_luminanceとして用いることを可能にするため、white_level_display_luminanceとblak_level_display_luminanceが、colour_primaries_info SEIには記述される。
 また、図14に示すように、colour_gamut_coverage_present_flagが1である場合、colour_primaries_info SEIには、colour_gamut_coverageが記述される。
 (符号化装置の処理の説明)
 図20は、符号化装置70のストリーム生成処理を説明するフローチャートである。
 図20のステップS80において、画像調整部71は、ユーザのオーサリング作業に応じて、外部から入力される画像を図示せぬマスタのディスプレイに表示させながら、その画像を編集する。画像調整部71は、編集後の画像の色域情報と、図示せぬマスタのディスプレイの白色および黒色の輝度情報とを設定部72に供給する。また、画像調整部71は、編集後の画像を符号化対象の画像として符号化部12に入力する。
 ステップS81乃至S83の処理は、図10のステップS11乃至S13の処理と同様であるので、説明は省略する。
 ステップS84において、設定部72は、画像調整部71から供給される符号化対象の画像の色域情報とマスタのディスプレイの輝度情報を含むcolour_primaries_info SEIを設定する。
 ステップS85乃至S87の処理は、図20のステップS17乃至S19の処理と同様であるので、説明は省略する。
 以上のように、符号化装置70は、色域情報を含むcolour_primaries_info SEIを設定し、伝送するので、符号化対象の画像が、別規格で定義されている色域と異なる場合であっても、符号化対象の画像の色域を復号側に正確に認識させることができる。
 また、符号化装置70は、white_level_display_luminanceとblack_level_display_luminanceもcolour_primaries_info SEIに設定し、伝送するので、マスタのディスプレイの輝度情報を復号側に正確に認識させることができる。
 (復号装置の第2実施の形態の構成例)
 図21は、図13の符号化装置70から伝送されてくる符号化ストリームを復号する、本開示を適用した復号装置の第2実施の形態の構成例を示すブロック図である。
 図21に示す構成のうち、図11の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
 図21の復号装置90の構成は、抽出部52、調整部54、表示制御部55の代わりに抽出部91、調整部92、表示制御部93が設けられる点が、図11の構成と異なる。
 図21の復号装置90の抽出部91は、受け取り部51から供給される符号化ストリームから、パラメータセットと符号化データを抽出する。抽出部91は、パラメータセットと符号化データを復号部53に供給する。また、抽出部91は、パラメータセットのうちのVUIおよびcolour_primaries_info SEIを調整部92に供給し、colour_primaries_info SEIを表示制御部93に供給する。
 調整部92は、抽出部91から供給されるcolour_primaries_info SEIから色域情報とcolour_gamut_coverageを取得する。また、調整部92は、抽出部91から供給されるVUIに含まれるインデックスから色域を認識する。調整部92は、取得された色域情報が表す色域、または、認識された色域とcolour_gamut_coverageに基づく色域と、表示部56の色域とに基づいて、復号部53から供給される画像の色域を調整する。調整部92は、色域調整後の画像を表示制御部93に供給する。
 表示制御部93は、抽出部91から供給されるcolour_primaries_info SEIから白色および黒色の輝度情報を取得する。表示制御部93は、その輝度情報と表示部56の輝度情報とに基づいて、調整部92から供給される色域調整後の画像の輝度のダイナミックレンジを調整する。表示制御部93は、輝度のダイナミックレンジ調整後の画像を表示部56に供給し、表示させる。
 (復号装置の処理の説明)
 図22は、図21の復号装置90の画像生成処理を説明するフローチャートである。
 図22のステップS101において、復号装置90の受け取り部51は、図13の符号化装置70から伝送されてくる符号化ストリームを受け取り、抽出部91に供給する。
 ステップS102において、抽出部91は、受け取り部51から供給される符号化ストリームから、パラメータセットと符号化データを抽出する。抽出部91は、パラメータセットと符号化データを復号部53に供給する。また、抽出部91は、パラメータセットのうちのVUIおよびcolour_primaries_info SEIを調整部92に供給し、colour_primaries_info SEIを表示制御部93に供給する。
 ステップS103において、復号部53は、抽出部91から供給される符号化データをHEVC方式で復号する。このとき、復号部53は、必要に応じて、抽出部91から供給されるパラメータセットも参照する。復号部53は、復号の結果得られる画像を調整部92に供給する。
 ステップS104において、調整部92は、抽出部91から供給されるVUIに含まれるインデックスから、別規格で定義されている色域を認識する。
 ステップS105において、調整部92は、抽出部91からcolour_primaries_info SEIが供給されたかどうかを判定する。ステップS105でcolour_primaries_info SEIが供給されたと判定された場合、処理はステップS106に進む。
 ステップS106において、調整部92は、colour_primaries_info SEIから色域情報を取得し、その色域情報が表す色域を認識する。なお、colour_primaries_info SEIに色域情報が含まれていない場合には、例えば、colour_gamut_coverage とステップS104で認識された色域に基づいて色域を認識する。そして、処理はステップS107に進む。
 一方、ステップS105でcolour_primaries_info SEIが供給されていないと判定された場合、処理はステップS107に進む。
 ステップS107において、調整部92は、表示部56の色域と、ステップS104またはステップS106で認識された色域とに基づいて、復号部53から供給される画像の色域を調整する。
 ステップS108において、表示制御部93は、抽出部91から供給されるcolour_primaries_info SEIから白色および黒色の輝度情報を取得する。ステップS109において、表示制御部93は、表示部56の輝度情報と取得された輝度情報とに基づいて、調整部92から供給される色域調整後の画像の輝度のダイナミックレンジを調整する。
 ステップS110において、表示制御部93は、輝度のダイナミックレンジ調整後の画像を表示部56に供給して表示させ、処理を終了する。
 以上のように、復号装置90は、色域情報を含むcolour_primaries_info SEIを受け取るので、符号化対象の画像の色域を正確に認識することができる。その結果、復号画像の色域を最適化することができる。即ち、符号化対象の画像の色域が別規格で定義されている色域とは異なる場合に、復号画像の色域が無駄に削減または拡大されることを防止することができる。
 例えば、表示部56の色域が、符号化対象の画像の色域よりも大きい場合、復号装置90は、復号画像の色域を調整せずに表示することができる。その結果、オーサリング作業者の意図した画像を表示部56に表示させることができる。
 また、復号装置90は、正確に認識された色域に基づいて復号画像の色域を調整することにより、高画質の復号画像を表示することができる。
 さらに、colour_primaries_info SEIには、white_level_display_luminanceとblak_level_display_luminanceも含まれるので、復号装置90は、マスタのディスプレイの輝度情報を正確に認識することができる。その結果、復号後の画像の輝度のダイナミックレンジを最適化することができる。
 なお、上述した説明では、SEIに色域情報や輝度情報が配置されたが、システムレイヤに配置されるようにしてもよい。
 <色域情報と輝度情報をMP4のボックスに配置する例>
 (色域情報と輝度情報が配置されるMP4のボックスの説明)
 図23は、色域情報と輝度情報が配置されるシステムレイヤとしてのMP4のボックスを説明する図である。
 図23に示すように、色域情報と輝度情報をMP4のボックスに配置する場合、色域情報と輝度情報をColourPrimariesInfoとして格納するtinf(Colour Primaries Information Box)ボックスが新たに定義される。このtinfボックスは、trakボックス(tarck box)(に格納されるstblボックス)またはtrafボックス(track fragment box)に格納される。
 ColourPrimariesInfoは、バイトアラインのためのpadding_valueが挿入されていることを除き、図2のcolour_primaries_info SEIおよび図8のref_display_luminance_info SEI、または、図14のcolour_primaries_info SEIと同様に構成される。
 本開示は、AVC方式にも適用することができる。
 <第3実施の形態>
 (本開示を適用したコンピュータの説明)
 上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
 図24は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
 コンピュータにおいて、CPU(Central Processing Unit)201,ROM(Read Only Memory)202,RAM(Random Access Memory)203は、バス204により相互に接続されている。
 バス204には、さらに、入出力インタフェース205が接続されている。入出力インタフェース205には、入力部206、出力部207、記憶部208、通信部209、及びドライブ210が接続されている。
 入力部206は、キーボード、マウス、マイクロホンなどよりなる。出力部207は、ディスプレイ、スピーカなどよりなる。記憶部208は、ハードディスクや不揮発性のメモリなどよりなる。通信部209は、ネットワークインタフェースなどよりなる。ドライブ210は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア211を駆動する。
 以上のように構成されるコンピュータでは、CPU201が、例えば、記憶部208に記憶されているプログラムを、入出力インタフェース205及びバス204を介して、RAM203にロードして実行することにより、上述した一連の処理が行われる。
 コンピュータ(CPU201)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア211に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
 コンピュータでは、プログラムは、リムーバブルメディア211をドライブ210に装着することにより、入出力インタフェース205を介して、記憶部208にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部209で受信し、記憶部208にインストールすることができる。その他、プログラムは、ROM202や記憶部208に、あらかじめインストールしておくことができる。
 なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
  <第4実施の形態>
  (多視点画像符号化・多視点画像復号への適用)
 上述した一連の処理は、多視点画像符号化・多視点画像復号に適用することができる。図25は、多視点画像符号化方式の一例を示す。
  図25に示されるように、多視点画像は、複数の視点(ビュー(view))の画像を含む。この多視点画像の複数のビューは、他のビューの画像を利用せずに自身のビューの画像のみを用いて符号化・復号を行うベースビューと、他のビューの画像を利用して符号化・復号を行うノンベースビューとによりなる。ノンベースビューは、ベースビューの画像を利用するようにしても良いし、他のノンベースビューの画像を利用するようにしてもよい。
  図25のような多視点画像を符号化・復号する場合、各ビューの画像を符号化・復号するが、この各ビューの符号化・復号に対して、上述した第1実施の形態の方法を適用するようにしてもよい。このようにすることにより、符号化対象の画像の色域を復号側で正確に認識することができる。
  さらに、各ビューの符号化・復号において、上述した第1実施の形態の方法で使用されるフラグやパラメータを共有するようにしてもよい。より具体的には、例えば、colour_primaries_info SEIやref_display_luminance_info SEIのシンタックス要素等を、各ビューの符号化・復号において共有するようにしてもよい。もちろん、これら以外の必要な情報も、各ビューの符号化・復号において共有するようにしてもよい。
 このようにすることにより、冗長な情報の伝送を抑制し、伝送する情報量(符号量)を低減することができる(つまり、符号化効率の低減を抑制することができる)。
  (多視点画像符号化装置)
 図26は、上述した多視点画像符号化を行う多視点画像符号化装置を示す図である。図26に示されるように、多視点画像符号化装置600は、符号化部601、符号化部602、および多重化部603を有する。
  符号化部601は、ベースビュー画像を符号化し、ベースビュー画像符号化ストリームを生成する。符号化部602は、ノンベースビュー画像を符号化し、ノンベースビュー画像符号化ストリームを生成する。多重化部603は、符号化部601において生成されたベースビュー画像符号化ストリームと、符号化部602において生成されたノンベースビュー画像符号化ストリームとを多重化し、多視点画像符号化ストリームを生成する。
  この多視点画像符号化装置600の符号化部601および符号化部602に対して、符号化装置10(図1)を適用することができる。つまり、各ビューに対する符号化において、符号化対象の画像の色域を復号側に正確に認識させることができる。また、符号化部601および符号化部602は、互いに同一のフラグやパラメータ(例えば、画像間の処理に関するシンタックス要素等)を用いて、符号化を行うことができる(すなわち、フラグやパラメータを共有することができる)ので、符号化効率の低減を抑制することができる。
  (多視点画像復号装置)
  図27は、上述した多視点画像復号を行う多視点画像復号装置を示す図である。図27に示されるように、多視点画像復号装置610は、逆多重化部611、復号部612、および復号部613を有する。
  逆多重化部611は、ベースビュー画像符号化ストリームとノンベースビュー画像符号化ストリームとが多重化された多視点画像符号化ストリームを逆多重化し、ベースビュー画像符号化ストリームと、ノンベースビュー画像符号化ストリームとを抽出する。復号部612は、逆多重化部611により抽出されたベースビュー画像符号化ストリームを復号し、ベースビュー画像を得る。復号部613は、逆多重化部611により抽出されたノンベースビュー画像符号化ストリームを復号し、ノンベースビュー画像を得る。
  この多視点画像復号装置610の復号部612および復号部613に対して、復号装置50(図11)を適用することができる。つまり、各ビューに対する復号において、符号化対象の画像の色域を正確に認識することができる。また、復号部612および復号部613は、互いに同一のフラグやパラメータ(例えば、画像間の処理に関するシンタックス要素等)を用いて、復号を行うことができる(すなわち、フラグやパラメータを共有することができる)ので、符号化効率の低減を抑制することができる。
  <第5実施の形態>
  (階層画像符号化・階層画像復号への適用)
  上述した一連の処理は、階層画像符号化・階層画像復号(スケーラブル符号化・スケーラブル復号)に適用することができる。図28は、階層画像符号化方式の一例を示す。
  階層画像符号化(スケーラブル符号化)は、画像データを、所定のパラメータについてスケーラブル(scalable)機能を有するように、画像を複数レイヤ化(階層化)し、レイヤ毎に符号化するものである。階層画像復号(スケーラブル復号)は、その階層画像符号化に対応する復号である。
  図28に示されるように、画像の階層化においては、スケーラブル機能を有する所定のパラメータを基準として1の画像が複数の画像(レイヤ)に分割される。つまり、階層化された画像(階層画像)は、その所定のパラメータの値が互いに異なる複数の階層(レイヤ)の画像を含む。この階層画像の複数のレイヤは、他のレイヤの画像を利用せずに自身のレイヤの画像のみを用いて符号化・復号を行うベースレイヤと、他のレイヤの画像を利用して符号化・復号を行うノンベースレイヤ(エンハンスメントレイヤとも称する)とによりなる。ノンベースレイヤは、ベースレイヤの画像を利用するようにしても良いし、他のノンベースレイヤの画像を利用するようにしてもよい。
  一般的に、ノンベースレイヤは、冗長性が低減されるように、自身の画像と、他のレイヤの画像との差分画像のデータ(差分データ)により構成される。例えば、1の画像をベースレイヤとノンベースレイヤ(エンハンスメントレイヤとも称する)に2階層化した場合、ベースレイヤのデータのみで元の画像よりも低品質な画像が得られ、ベースレイヤのデータとノンベースレイヤのデータを合成することで、元の画像(すなわち高品質な画像)が得られる。
  このように画像を階層化することにより、状況に応じて多様な品質の画像を容易に得ることができる。例えば携帯電話のような、処理能力の低い端末に対しては、ベースレイヤ(base layer)のみの画像圧縮情報を伝送し、空間時間解像度の低い、或いは、画質の良くない動画像を再生し、テレビやパーソナルコンピュータのような、処理能力の高い端末に対しては、ベースレイヤ(base layer)に加えて、エンハンスメントレイヤ(enhancement layer)の画像圧縮情報を伝送し、空間時間解像度の高い、或いは、画質の高い動画像を再生するといったように、トランスコード処理を行うことなく、端末やネットワークの能力に応じた画像圧縮情報を、サーバから送信することが可能となる。
  図28の例のような階層画像を符号化・復号する場合、各レイヤの画像を符号化・復号するが、この各レイヤの符号化・復号に対して、上述した第1実施の形態の方法を適用するようにしてもよい。このようにすることにより、符号化対象の画像の色域を復号側で正確に認識することができる。
  さらに、各レイヤの符号化・復号において、上述した第1実施の形態の方法で使用されるフラグやパラメータを共有するようにしてもよい。より具体的には、例えば、colour_primaries_info SEIやref_display_luminance_info SEIのシンタックス要素等を、各レイヤの符号化・復号において共有するようにしてもよい。もちろん、これら以外の必要な情報も、各レイヤの符号化・復号において共有するようにしてもよい。
 このようにすることにより、冗長な情報の伝送を抑制し、伝送する情報量(符号量)を低減することができる(つまり、符号化効率の低減を抑制することができる)。
  (スケーラブルなパラメータ)
  このような階層画像符号化・階層画像復号(スケーラブル符号化・スケーラブル復号)において、スケーラブル(scalable)機能を有するパラメータは、任意である。例えば、図29に示されるような空間解像度をそのパラメータとしてもよい(spatial scalability)。このスペーシャルスケーラビリティ(spatial scalability)の場合、レイヤ毎に画像の解像度が異なる。つまり、この場合、図29に示されるように、各ピクチャが、元の画像より空間的に低解像度のベースレイヤと、ベースレイヤと合成することにより元の空間解像度が得られるエンハンスメントレイヤの2階層に階層化される。もちろん、この階層数は一例であり、任意の階層数に階層化することができる。
  また、このようなスケーラブル性を持たせるパラメータとして、他には、例えば、図30に示されるような、時間解像度を適用しても良い(temporal scalability)。このテンポラルスケーラビリティ(temporal scalability)の場合、レイヤ毎にフレームレートが異なる。つまり、この場合、図30に示されるように、各ピクチャが、元の動画像より低フレームレートのベースレイヤと、ベースレイヤと合成することにより元のフレームレートが得られるエンハンスメントレイヤの2階層に階層化される。もちろん、この階層数は一例であり、任意の階層数に階層化することができる。
  さらに、このようなスケーラブル性を持たせるパラメータとして、例えば、信号雑音比(SNR(Signal to Noise ratio))を適用しても良い(SNR scalability)。このSNRスケーラビリティ(SNR scalability)の場合、レイヤ毎にSN比が異なる。つまり、この場合、図31に示されるように、各ピクチャが、元の画像よりSNRの低いベースレイヤと、ベースレイヤと合成することにより元のSNRが得られるエンハンスメントレイヤの2階層に階層化される。もちろん、この階層数は一例であり、任意の階層数に階層化することができる。
  スケーラブル性を持たせるパラメータは、上述した例以外であっても、もちろんよい。例えば、スケーラブル性を持たせるパラメータとして、ビット深度を用いることもできる(bit-depth scalability)。このビット深度スケーラビリティ(bit-depth scalability)の場合、レイヤ毎にビット深度が異なる。この場合、例えば、ベースレイヤ(base layer)が8ビット(bit)画像よりなり、これにエンハンスメントレイヤ(enhancement layer)を加えることにより、10ビット(bit)画像が得られるようにすることができる。
  また、スケーラブル性を持たせるパラメータとして、クロマフォーマットを用いることもできる(chroma scalability)。このクロマスケーラビリティ(chroma scalability)の場合、レイヤ毎にクロマフォーマットが異なる。この場合、例えば、ベースレイヤ(base layer)が4:2:0フォーマットのコンポーネント画像よりなり、これにエンハンスメントレイヤ(enhancement layer)を加えることにより、4:2:2フォーマットのコンポーネント画像が得られるようにすることができる。
  (階層画像符号化装置)
 図32は、上述した階層画像符号化を行う階層画像符号化装置を示す図である。図32に示されるように、階層画像符号化装置620は、符号化部621、符号化部622、および多重化部623を有する。
  符号化部621は、ベースレイヤ画像を符号化し、ベースレイヤ画像符号化ストリームを生成する。符号化部622は、ノンベースレイヤ画像を符号化し、ノンベースレイヤ画像符号化ストリームを生成する。多重化部623は、符号化部621において生成されたベースレイヤ画像符号化ストリームと、符号化部622において生成されたノンベースレイヤ画像符号化ストリームとを多重化し、階層画像符号化ストリームを生成する。
  この階層画像符号化装置620の符号化部621および符号化部622に対して、符号化装置10(図1)を適用することができる。つまり、各レイヤに対する符号化において、符号化対象の画像の色域を復号側に正確に認識させることができる。また、符号化部621および符号化部622は、互いに同一のフラグやパラメータ(例えば、画像間の処理に関するシンタックス要素等)を用いて、イントラ予測のフィルタ処理の制御等を行うことができる(すなわち、フラグやパラメータを共有することができる)ので、符号化効率の低減を抑制することができる。
  (階層画像復号装置)
  図33は、上述した階層画像復号を行う階層画像復号装置を示す図である。図33に示されるように、階層画像復号装置630は、逆多重化部631、復号部632、および復号部633を有する。
  逆多重化部631は、ベースレイヤ画像符号化ストリームとノンベースレイヤ画像符号化ストリームとが多重化された階層画像符号化ストリームを逆多重化し、ベースレイヤ画像符号化ストリームと、ノンベースレイヤ画像符号化ストリームとを抽出する。復号部632は、逆多重化部631により抽出されたベースレイヤ画像符号化ストリームを復号し、ベースレイヤ画像を得る。復号部633は、逆多重化部631により抽出されたノンベースレイヤ画像符号化ストリームを復号し、ノンベースレイヤ画像を得る。
  この階層画像復号装置630の復号部632および復号部633に対して、復号装置50(図11)を適用することができる。つまり、各レイヤに対する復号において、符号化対象の画像の色域を正確に認識することができる。また、復号部612および復号部613は、互いに同一のフラグやパラメータ(例えば、画像間の処理に関するシンタックス要素等)を用いて、復号を行うことができる(すなわち、フラグやパラメータを共有することができる)ので、符号化効率の低減を抑制することができる。
 <第6実施の形態>
 (テレビジョン装置の構成例)
 図34は、本技術を適用したテレビジョン装置の概略構成を例示している。テレビジョン装置900は、アンテナ901、チューナ902、デマルチプレクサ903、デコーダ904、映像信号処理部905、表示部906、音声信号処理部907、スピーカ908、外部インタフェース部909を有している。さらに、テレビジョン装置900は、制御部910、ユーザインタフェース部911等を有している。
 チューナ902は、アンテナ901で受信された放送波信号から所望のチャンネルを選局して復調を行い、得られた符号化ビットストリームをデマルチプレクサ903に出力する。
 デマルチプレクサ903は、符号化ビットストリームから視聴対象である番組の映像や音声のパケットを抽出して、抽出したパケットのデータをデコーダ904に出力する。また、デマルチプレクサ903は、EPG(Electronic Program Guide)等のデータのパケットを制御部910に供給する。なお、スクランブルが行われている場合、デマルチプレクサ等でスクランブルの解除を行う。
 デコーダ904は、パケットの復号化処理を行い、復号処理化によって生成された映像データを映像信号処理部905、音声データを音声信号処理部907に出力する。
 映像信号処理部905は、映像データに対して、ノイズ除去やユーザ設定に応じた映像処理等を行う。映像信号処理部905は、表示部906に表示させる番組の映像データや、ネットワークを介して供給されるアプリケーションに基づく処理による画像データなどを生成する。また、映像信号処理部905は、項目の選択などのメニュー画面等を表示するための映像データを生成し、それを番組の映像データに重畳する。映像信号処理部905は、このようにして生成した映像データに基づいて駆動信号を生成して表示部906を駆動する。
 表示部906は、映像信号処理部905からの駆動信号に基づき表示デバイス(例えば液晶表示素子等)を駆動して、番組の映像などを表示させる。
 音声信号処理部907は、音声データに対してノイズ除去などの所定の処理を施し、処理後の音声データのD/A変換処理や増幅処理を行いスピーカ908に供給することで音声出力を行う。
 外部インタフェース部909は、外部機器やネットワークと接続するためのインタフェースであり、映像データや音声データ等のデータ送受信を行う。
 制御部910にはユーザインタフェース部911が接続されている。ユーザインタフェース部911は、操作スイッチやリモートコントロール信号受信部等で構成されており、ユーザ操作に応じた操作信号を制御部910に供給する。
 制御部910は、CPU(Central Processing Unit)やメモリ等を用いて構成されている。メモリは、CPUにより実行されるプログラムやCPUが処理を行う上で必要な各種のデータ、EPGデータ、ネットワークを介して取得されたデータ等を記憶する。メモリに記憶されているプログラムは、テレビジョン装置900の起動時などの所定タイミングでCPUにより読み出されて実行される。CPUは、プログラムを実行することで、テレビジョン装置900がユーザ操作に応じた動作となるように各部を制御する。
 なお、テレビジョン装置900では、チューナ902、デマルチプレクサ903、映像信号処理部905、音声信号処理部907、外部インタフェース部909等と制御部910を接続するためバス912が設けられている。
 このように構成されたテレビジョン装置では、デコーダ904に本願の復号装置(復号方法)の機能が設けられる。このため、符号化対象の画像の色域を正確に認識することができる。
 <第7実施の形態>
 (携帯電話機の構成例)
 図35は、本技術を適用した携帯電話機の概略構成を例示している。携帯電話機920は、通信部922、音声コーデック923、カメラ部926、画像処理部927、多重分離部928、記録再生部929、表示部930、制御部931を有している。これらは、バス933を介して互いに接続されている。
 また、通信部922にはアンテナ921が接続されており、音声コーデック923には、スピーカ924とマイクロホン925が接続されている。さらに制御部931には、操作部932が接続されている。
 携帯電話機920は、音声通話モードやデータ通信モード等の各種モードで、音声信号の送受信、電子メールや画像データの送受信、画像撮影、またはデータ記録等の各種動作を行う。
 音声通話モードにおいて、マイクロホン925で生成された音声信号は、音声コーデック923で音声データへの変換やデータ圧縮が行われて通信部922に供給される。通信部922は、音声データの変調処理や周波数変換処理等を行い、送信信号を生成する。また、通信部922は、送信信号をアンテナ921に供給して図示しない基地局へ送信する。また、通信部922は、アンテナ921で受信した受信信号の増幅や周波数変換処理および復調処理等を行い、得られた音声データを音声コーデック923に供給する。音声コーデック923は、音声データのデータ伸張やアナログ音声信号への変換を行いスピーカ924に出力する。
 また、データ通信モードにおいて、メール送信を行う場合、制御部931は、操作部932の操作によって入力された文字データを受け付けて、入力された文字を表示部930に表示する。また、制御部931は、操作部932におけるユーザ指示等に基づいてメールデータを生成して通信部922に供給する。通信部922は、メールデータの変調処理や周波数変換処理等を行い、得られた送信信号をアンテナ921から送信する。また、通信部922は、アンテナ921で受信した受信信号の増幅や周波数変換処理および復調処理等を行い、メールデータを復元する。このメールデータを、表示部930に供給して、メール内容の表示を行う。
 なお、携帯電話機920は、受信したメールデータを、記録再生部929で記憶媒体に記憶させることも可能である。記憶媒体は、書き換え可能な任意の記憶媒体である。例えば、記憶媒体は、RAMや内蔵型フラッシュメモリ等の半導体メモリ、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、USB(Universal Serial Bus)メモリ、またはメモリカード等のリムーバブルメディアである。
 データ通信モードにおいて画像データを送信する場合、カメラ部926で生成された画像データを、画像処理部927に供給する。画像処理部927は、画像データの符号化処理を行い、符号化データを生成する。
 多重分離部928は、画像処理部927で生成された符号化データと、音声コーデック923から供給された音声データを所定の方式で多重化して通信部922に供給する。通信部922は、多重化データの変調処理や周波数変換処理等を行い、得られた送信信号をアンテナ921から送信する。また、通信部922は、アンテナ921で受信した受信信号の増幅や周波数変換処理および復調処理等を行い、多重化データを復元する。この多重化データを多重分離部928に供給する。多重分離部928は、多重化データの分離を行い、符号化データを画像処理部927、音声データを音声コーデック923に供給する。画像処理部927は、符号化データの復号化処理を行い、画像データを生成する。この画像データを表示部930に供給して、受信した画像の表示を行う。音声コーデック923は、音声データをアナログ音声信号に変換してスピーカ924に供給して、受信した音声を出力する。
 このように構成された携帯電話装置では、画像処理部927に本願の符号化装置および復号装置(符号化方法および復号方法)の機能が設けられる。このため、符号化対象の画像の色域を復号側に正確に認識させることができる。また、符号化対象の画像の色域を正確に認識することができる。
 <第8実施の形態>
 (記録再生装置の構成例)
 図36は、本技術を適用した記録再生装置の概略構成を例示している。記録再生装置940は、例えば受信した放送番組のオーディオデータとビデオデータを、記録媒体に記録して、その記録されたデータをユーザの指示に応じたタイミングでユーザに提供する。また、記録再生装置940は、例えば他の装置からオーディオデータやビデオデータを取得し、それらを記録媒体に記録させることもできる。さらに、記録再生装置940は、記録媒体に記録されているオーディオデータやビデオデータを復号して出力することで、モニタ装置等において画像表示や音声出力を行うことができるようにする。
 記録再生装置940は、チューナ941、外部インタフェース部942、エンコーダ943、HDD(Hard Disk Drive)部944、ディスクドライブ945、セレクタ946、デコーダ947、OSD(On-Screen Display)部948、制御部949、ユーザインタフェース部950を有している。
 チューナ941は、図示しないアンテナで受信された放送信号から所望のチャンネルを選局する。チューナ941は、所望のチャンネルの受信信号を復調して得られた符号化ビットストリームをセレクタ946に出力する。
 外部インタフェース部942は、IEEE1394インタフェース、ネットワークインタフェース部、USBインタフェース、フラッシュメモリインタフェース等の少なくともいずれかで構成されている。外部インタフェース部942は、外部機器やネットワーク、メモリカード等と接続するためのインタフェースであり、記録する映像データや音声データ等のデータ受信を行う。
 エンコーダ943は、外部インタフェース部942から供給された映像データや音声データが符号化されていないとき所定の方式で符号化を行い、符号化ビットストリームをセレクタ946に出力する。
 HDD部944は、映像や音声等のコンテンツデータ、各種プログラムやその他のデータ等を内蔵のハードディスクに記録し、また再生時等にそれらを当該ハードディスクから読み出す。
 ディスクドライブ945は、装着されている光ディスクに対する信号の記録および再生を行う。光ディスク、例えばDVDディスク(DVD-Video、DVD-RAM、DVD-R、DVD-RW、DVD+R、DVD+RW等)やBlu-ray(登録商標)ディスク等である。
 セレクタ946は、映像や音声の記録時には、チューナ941またはエンコーダ943からのいずれかの符号化ビットストリームを選択して、HDD部944やディスクドライブ945のいずれかに供給する。また、セレクタ946は、映像や音声の再生時に、HDD部944またはディスクドライブ945から出力された符号化ビットストリームをデコーダ947に供給する。
 デコーダ947は、符号化ビットストリームの復号化処理を行う。デコーダ947は、復号処理化を行うことにより生成された映像データをOSD部948に供給する。また、デコーダ947は、復号処理化を行うことにより生成された音声データを出力する。
 OSD部948は、項目の選択などのメニュー画面等を表示するための映像データを生成し、それをデコーダ947から出力された映像データに重畳して出力する。
 制御部949には、ユーザインタフェース部950が接続されている。ユーザインタフェース部950は、操作スイッチやリモートコントロール信号受信部等で構成されており、ユーザ操作に応じた操作信号を制御部949に供給する。
 制御部949は、CPUやメモリ等を用いて構成されている。メモリは、CPUにより実行されるプログラムやCPUが処理を行う上で必要な各種のデータを記憶する。メモリに記憶されているプログラムは、記録再生装置940の起動時などの所定タイミングでCPUにより読み出されて実行される。CPUは、プログラムを実行することで、記録再生装置940がユーザ操作に応じた動作となるように各部を制御する。
 このように構成された記録再生装置では、デコーダ947に本願の復号装置(復号方法)の機能が設けられる。このため、符号化対象の画像の色域を正確に認識することができる。
 <第9実施の形態>
 (撮像装置の構成例)
 図37は、本技術を適用した撮像装置の概略構成を例示している。撮像装置960は、被写体を撮像し、被写体の画像を表示部に表示させたり、それを画像データとして、記録媒体に記録する。
 撮像装置960は、光学ブロック961、撮像部962、カメラ信号処理部963、画像データ処理部964、表示部965、外部インタフェース部966、メモリ部967、メディアドライブ968、OSD部969、制御部970を有している。また、制御部970には、ユーザインタフェース部971が接続されている。さらに、画像データ処理部964や外部インタフェース部966、メモリ部967、メディアドライブ968、OSD部969、制御部970等は、バス972を介して接続されている。
 光学ブロック961は、フォーカスレンズや絞り機構等を用いて構成されている。光学ブロック961は、被写体の光学像を撮像部962の撮像面に結像させる。撮像部962は、CCDまたはCMOSイメージセンサを用いて構成されており、光電変換によって光学像に応じた電気信号を生成してカメラ信号処理部963に供給する。
 カメラ信号処理部963は、撮像部962から供給された電気信号に対してニー補正やガンマ補正、色補正等の種々のカメラ信号処理を行う。カメラ信号処理部963は、カメラ信号処理後の画像データを画像データ処理部964に供給する。
 画像データ処理部964は、カメラ信号処理部963から供給された画像データの符号化処理を行う。画像データ処理部964は、符号化処理を行うことにより生成された符号化データを外部インタフェース部966やメディアドライブ968に供給する。また、画像データ処理部964は、外部インタフェース部966やメディアドライブ968から供給された符号化データの復号化処理を行う。画像データ処理部964は、復号化処理を行うことにより生成された画像データを表示部965に供給する。また、画像データ処理部964は、カメラ信号処理部963から供給された画像データを表示部965に供給する処理や、OSD部969から取得した表示用データを、画像データに重畳させて表示部965に供給する。
 OSD部969は、記号、文字、または図形からなるメニュー画面やアイコンなどの表示用データを生成して画像データ処理部964に出力する。
 外部インタフェース部966は、例えば、USB入出力端子などで構成され、画像の印刷を行う場合に、プリンタと接続される。また、外部インタフェース部966には、必要に応じてドライブが接続され、磁気ディスク、光ディスク等のリムーバブルメディアが適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて、インストールされる。さらに、外部インタフェース部966は、LANやインターネット等の所定のネットワークに接続されるネットワークインタフェースを有する。制御部970は、例えば、ユーザインタフェース部971からの指示にしたがって、メディアドライブ968から符号化データを読み出し、それを外部インタフェース部966から、ネットワークを介して接続される他の装置に供給させることができる。また、制御部970は、ネットワークを介して他の装置から供給される符号化データや画像データを、外部インタフェース部966を介して取得し、それを画像データ処理部964に供給したりすることができる。
 メディアドライブ968で駆動される記録メディアとしては、例えば、磁気ディスク、光磁気ディスク、光ディスク、または半導体メモリ等の、読み書き可能な任意のリムーバブルメディアが用いられる。また、記録メディアは、リムーバブルメディアとしての種類も任意であり、テープデバイスであってもよいし、ディスクであってもよいし、メモリカードであってもよい。もちろん、非接触IC(Integrated Circuit)カード等であってもよい。
 また、メディアドライブ968と記録メディアを一体化し、例えば、内蔵型ハードディスクドライブやSSD(Solid State Drive)等のように、非可搬性の記憶媒体により構成されるようにしてもよい。
 制御部970は、CPUを用いて構成されている。メモリ部967は、制御部970により実行されるプログラムや制御部970が処理を行う上で必要な各種のデータ等を記憶する。メモリ部967に記憶されているプログラムは、撮像装置960の起動時などの所定タイミングで制御部970により読み出されて実行される。制御部970は、プログラムを実行することで、撮像装置960がユーザ操作に応じた動作となるように各部を制御する。
 このように構成された撮像装置では、画像データ処理部964に本願の符号化装置および復号装置(符号化方法および復号方法)の機能が設けられる。このため、符号化対象の画像の色域を復号側に正確に認識させることができる。また、符号化対象の画像の色域を正確に認識することができる。
 <スケーラブル符号化の応用例>
 (第1のシステム)
 次に、スケーラブル符号化(階層符号化)されたスケーラブル符号化データの具体的な利用例について説明する。スケーラブル符号化は、例えば、図38に示される例のように、伝送するデータの選択のために利用される。
 図38に示されるデータ伝送システム1000において、配信サーバ1002は、スケーラブル符号化データ記憶部1001に記憶されているスケーラブル符号化データを読み出し、ネットワーク1003を介して、パーソナルコンピュータ1004、AV機器1005、タブレットデバイス1006、および携帯電話機1007等の端末装置に配信する。
 その際、配信サーバ1002は、端末装置の能力や通信環境等に応じて、適切な品質の符号化データを選択して伝送する。配信サーバ1002が不要に高品質なデータを伝送しても、端末装置において高画質な画像を得られるとは限らず、遅延やオーバフローの発生要因となる恐れがある。また、不要に通信帯域を占有したり、端末装置の負荷を不要に増大させたりしてしまう恐れもある。逆に、配信サーバ1002が不要に低品質なデータを伝送しても、端末装置において十分な画質の画像を得ることができない恐れがある。そのため、配信サーバ1002は、スケーラブル符号化データ記憶部1001に記憶されているスケーラブル符号化データを、適宜、端末装置の能力や通信環境等に対して適切な品質の符号化データとして読み出し、伝送する。
 例えば、スケーラブル符号化データ記憶部1001は、スケーラブルに符号化されたスケーラブル符号化データ(BL+EL)1011を記憶するとする。このスケーラブル符号化データ(BL+EL)1011は、ベースレイヤとエンハンスメントレイヤの両方を含む符号化データであり、復号することにより、ベースレイヤの画像およびエンハンスメントレイヤの画像の両方を得ることができるデータである。
 配信サーバ1002は、データを伝送する端末装置の能力や通信環境等に応じて、適切なレイヤを選択し、そのレイヤのデータを読み出す。例えば、配信サーバ1002は、処理能力の高いパーソナルコンピュータ1004やタブレットデバイス1006に対しては、高品質なスケーラブル符号化データ(BL+EL)1011をスケーラブル符号化データ記憶部1001から読み出し、そのまま伝送する。これに対して、例えば、配信サーバ1002は、処理能力の低いAV機器1005や携帯電話機1007に対しては、スケーラブル符号化データ(BL+EL)1011からベースレイヤのデータを抽出し、スケーラブル符号化データ(BL+EL)1011と同じコンテンツのデータであるが、スケーラブル符号化データ(BL+EL)1011よりも低品質なスケーラブル符号化データ(BL)1012として伝送する。
 このようにスケーラブル符号化データを用いることにより、データ量を容易に調整することができるので、遅延やオーバフローの発生を抑制したり、端末装置や通信媒体の負荷の不要な増大を抑制したりすることができる。また、スケーラブル符号化データ(BL+EL)1011は、レイヤ間の冗長性が低減されているので、各レイヤの符号化データを個別のデータとする場合よりもそのデータ量を低減させることができる。したがって、スケーラブル符号化データ記憶部1001の記憶領域をより効率よく使用することができる。
 なお、パーソナルコンピュータ1004乃至携帯電話機1007のように、端末装置には様々な装置を適用することができるので、端末装置のハードウエアの性能は、装置によって異なる。また、端末装置が実行するアプリケーションも様々であるので、そのソフトウエアの能力も様々である。さらに、通信媒体となるネットワーク1003も、例えばインターネットやLAN(Local Area Network)等、有線若しくは無線、またはその両方を含むあらゆる通信回線網を適用することができ、そのデータ伝送能力は様々である。さらに、他の通信等によっても変化する恐れがある。
 そこで、配信サーバ1002は、データ伝送を開始する前に、データの伝送先となる端末装置と通信を行い、端末装置のハードウエア性能や、端末装置が実行するアプリケーション(ソフトウエア)の性能等といった端末装置の能力に関する情報、並びに、ネットワーク1003の利用可能帯域幅等の通信環境に関する情報を得るようにしてもよい。そして、配信サーバ1002が、ここで得た情報を基に、適切なレイヤを選択するようにしてもよい。
 なお、レイヤの抽出は、端末装置において行うようにしてもよい。例えば、パーソナルコンピュータ1004が、伝送されたスケーラブル符号化データ(BL+EL)1011を復号し、ベースレイヤの画像を表示しても良いし、エンハンスメントレイヤの画像を表示しても良い。また、例えば、パーソナルコンピュータ1004が、伝送されたスケーラブル符号化データ(BL+EL)1011から、ベースレイヤのスケーラブル符号化データ(BL)1012を抽出し、記憶したり、他の装置に転送したり、復号してベースレイヤの画像を表示したりするようにしてもよい。
 もちろん、スケーラブル符号化データ記憶部1001、配信サーバ1002、ネットワーク1003、および端末装置の数はいずれも任意である。また、以上においては、配信サーバ1002がデータを端末装置に伝送する例について説明したが、利用例はこれに限定されない。データ伝送システム1000は、スケーラブル符号化された符号化データを端末装置に伝送する際、端末装置の能力や通信環境等に応じて、適切なレイヤを選択して伝送するシステムであれば、任意のシステムに適用することができる。
 (第2のシステム)
 また、スケーラブル符号化は、例えば、図39に示される例のように、複数の通信媒体を介する伝送のために利用される。
 図39に示されるデータ伝送システム1100において、放送局1101は、地上波放送1111により、ベースレイヤのスケーラブル符号化データ(BL)1121を伝送する。また、放送局1101は、有線若しくは無線またはその両方の通信網よりなる任意のネットワーク1112を介して、エンハンスメントレイヤのスケーラブル符号化データ(EL)1122を伝送する(例えばパケット化して伝送する)。
 端末装置1102は、放送局1101が放送する地上波放送1111の受信機能を有し、この地上波放送1111を介して伝送されるベースレイヤのスケーラブル符号化データ(BL)1121を受け取る。また、端末装置1102は、ネットワーク1112を介した通信を行う通信機能をさらに有し、このネットワーク1112を介して伝送されるエンハンスメントレイヤのスケーラブル符号化データ(EL)1122を受け取る。
 端末装置1102は、例えばユーザ指示等に応じて、地上波放送1111を介して取得したベースレイヤのスケーラブル符号化データ(BL)1121を、復号してベースレイヤの画像を得たり、記憶したり、他の装置に伝送したりする。
 また、端末装置1102は、例えばユーザ指示等に応じて、地上波放送1111を介して取得したベースレイヤのスケーラブル符号化データ(BL)1121と、ネットワーク1112を介して取得したエンハンスメントレイヤのスケーラブル符号化データ(EL)1122とを合成して、スケーラブル符号化データ(BL+EL)を得たり、それを復号してエンハンスメントレイヤの画像を得たり、記憶したり、他の装置に伝送したりする。
 以上のように、スケーラブル符号化データは、例えばレイヤ毎に異なる通信媒体を介して伝送させることができる。したがって、負荷を分散させることができ、遅延やオーバフローの発生を抑制することができる。
 また、状況に応じて、伝送に使用する通信媒体を、レイヤ毎に選択することができるようにしてもよい。例えば、データ量が比較的多いベースレイヤのスケーラブル符号化データ(BL)1121を帯域幅の広い通信媒体を介して伝送させ、データ量が比較的少ないエンハンスメントレイヤのスケーラブル符号化データ(EL)1122を帯域幅の狭い通信媒体を介して伝送させるようにしてもよい。また、例えば、エンハンスメントレイヤのスケーラブル符号化データ(EL)1122を伝送する通信媒体を、ネットワーク1112とするか、地上波放送1111とするかを、ネットワーク1112の利用可能帯域幅に応じて切り替えるようにしてもよい。もちろん、任意のレイヤのデータについて同様である。
 このように制御することにより、データ伝送における負荷の増大を、より抑制することができる。
 もちろん、レイヤ数は任意であり、伝送に利用する通信媒体の数も任意である。また、データ配信先となる端末装置1102の数も任意である。さらに、以上においては、放送局1101からの放送を例に説明したが、利用例はこれに限定されない。データ伝送システム1100は、スケーラブル符号化された符号化データを、レイヤを単位として複数に分割し、複数の回線を介して伝送するシステムであれば、任意のシステムに適用することができる。
 (第3のシステム)
 また、スケーラブル符号化は、例えば、図40に示される例のように、符号化データの記憶に利用される。
 図40に示される撮像システム1200において、撮像装置1201は、被写体1211を撮像して得られた画像データをスケーラブル符号化し、スケーラブル符号化データ(BL+EL)1221として、スケーラブル符号化データ記憶装置1202に供給する。
 スケーラブル符号化データ記憶装置1202は、撮像装置1201から供給されるスケーラブル符号化データ(BL+EL)1221を、状況に応じた品質で記憶する。例えば、通常時の場合、スケーラブル符号化データ記憶装置1202は、スケーラブル符号化データ(BL+EL)1221からベースレイヤのデータを抽出し、低品質でデータ量の少ないベースレイヤのスケーラブル符号化データ(BL)1222として記憶する。これに対して、例えば、注目時の場合、スケーラブル符号化データ記憶装置1202は、高品質でデータ量の多いスケーラブル符号化データ(BL+EL)1221のまま記憶する。
 このようにすることにより、スケーラブル符号化データ記憶装置1202は、必要な場合のみ、画像を高画質に保存することができるので、画質劣化による画像の価値の低減を抑制しながら、データ量の増大を抑制することができ、記憶領域の利用効率を向上させることができる。
 例えば、撮像装置1201が監視カメラであるとする。撮像画像に監視対象(例えば侵入者)が写っていない場合(通常時の場合)、撮像画像の内容は重要でない可能性が高いので、データ量の低減が優先され、その画像データ(スケーラブル符号化データ)は、低品質に記憶される。これに対して、撮像画像に監視対象が被写体1211として写っている場合(注目時の場合)、その撮像画像の内容は重要である可能性が高いので、画質が優先され、その画像データ(スケーラブル符号化データ)は、高品質に記憶される。
 なお、通常時であるか注目時であるかは、例えば、スケーラブル符号化データ記憶装置1202が、画像を解析することにより判定しても良い。また、撮像装置1201が判定し、その判定結果をスケーラブル符号化データ記憶装置1202に伝送するようにしてもよい。
 なお、通常時であるか注目時であるかの判定基準は任意であり、判定基準とする画像の内容は任意である。もちろん、画像の内容以外の条件を判定基準とすることもできる。例えば、収録した音声の大きさや波形等に応じて切り替えるようにしてもよいし、所定の時間毎に切り替えるようにしてもよいし、ユーザ指示等の外部からの指示によって切り替えるようにしてもよい。
 また、以上においては、通常時と注目時の2つの状態を切り替える例を説明したが、状態の数は任意であり、例えば、通常時、やや注目時、注目時、非常に注目時等のように、3つ以上の状態を切り替えるようにしてもよい。ただし、この切り替える状態の上限数は、スケーラブル符号化データのレイヤ数に依存する。
 また、撮像装置1201が、スケーラブル符号化のレイヤ数を、状態に応じて決定するようにしてもよい。例えば、通常時の場合、撮像装置1201が、低品質でデータ量の少ないベースレイヤのスケーラブル符号化データ(BL)1222を生成し、スケーラブル符号化データ記憶装置1202に供給するようにしてもよい。また、例えば、注目時の場合、撮像装置1201が、高品質でデータ量の多いベースレイヤのスケーラブル符号化データ(BL+EL)1221を生成し、スケーラブル符号化データ記憶装置1202に供給するようにしてもよい。
 以上においては、監視カメラを例に説明したが、この撮像システム1200の用途は任意であり、監視カメラに限定されない。
 <第10実施の形態>
 (実施のその他の例)
  以上において本技術を適用する装置やシステム等の例を説明したが、本技術は、これに限らず、このような装置またはシステムを構成する装置に搭載するあらゆる構成、例えば、システムLSI(Large Scale Integration)等としてのプロセッサ、複数のプロセッサ等を用いるモジュール、複数のモジュール等を用いるユニット、ユニットにさらにその他の機能を付加したセット等(すなわち、装置の一部の構成)として実施することもできる。
 (ビデオセットの構成例)
  本技術をセットとして実施する場合の例について、図41を参照して説明する。図41は、本技術を適用したビデオセットの概略的な構成の一例を示している。
  近年、電子機器の多機能化が進んでおり、その開発や製造において、その一部の構成を販売や提供等として実施する場合、1機能を有する構成として実施を行う場合だけでなく、関連する機能を有する複数の構成を組み合わせ、複数の機能を有する1セットとして実施を行う場合も多く見られるようになってきた。
  図41に示されるビデオセット1300は、このような多機能化された構成であり、画像の符号化や復号(いずれか一方でもよいし、両方でも良い)に関する機能を有するデバイスに、その機能に関連するその他の機能を有するデバイスを組み合わせたものである。
  図41に示されるように、ビデオセット1300は、ビデオモジュール1311、外部メモリ1312、パワーマネージメントモジュール1313、およびフロントエンドモジュール1314等のモジュール群と、コネクティビティ1321、カメラ1322、およびセンサ1323等の関連する機能を有するデバイスとを有する。
  モジュールは、互いに関連するいくつかの部品的機能をまとめ、まとまりのある機能を持った部品としたものである。具体的な物理的構成は任意であるが、例えば、それぞれ機能を有する複数のプロセッサ、抵抗やコンデンサ等の電子回路素子、その他のデバイス等を配線基板等に配置して一体化したものが考えられる。また、モジュールに他のモジュールやプロセッサ等を組み合わせて新たなモジュールとすることも考えられる。
  図41の例の場合、ビデオモジュール1311は、画像処理に関する機能を有する構成を組み合わせたものであり、アプリケーションプロセッサ、ビデオプロセッサ、ブロードバンドモデム1333、およびRFモジュール1334を有する。
  プロセッサは、所定の機能を有する構成をSoC(System On a Chip)により半導体チップに集積したものであり、例えばシステムLSI(Large Scale Integration)等と称されるものもある。この所定の機能を有する構成は、論理回路(ハードウエア構成)であってもよいし、CPU、ROM、RAM等と、それらを用いて実行されるプログラム(ソフトウエア構成)であってもよいし、その両方を組み合わせたものであってもよい。例えば、プロセッサが、論理回路とCPU、ROM、RAM等とを有し、機能の一部を論理回路(ハードウエア構成)により実現し、その他の機能をCPUにおいて実行されるプログラム(ソフトウエア構成)により実現するようにしてもよい。
  図41のアプリケーションプロセッサ1331は、画像処理に関するアプリケーションを実行するプロセッサである。このアプリケーションプロセッサ1331において実行されるアプリケーションは、所定の機能を実現するために、演算処理を行うだけでなく、例えばビデオプロセッサ1332等、ビデオモジュール1311内外の構成を必要に応じて制御することもできる。
  ビデオプロセッサ1332は、画像の符号化・復号(その一方若しくは両方)に関する機能を有するプロセッサである。
  ブロードバンドモデム1333は、インターネットや公衆電話回線網等の広帯域の回線を介して行われる有線若しくは無線(またはその両方)の広帯域通信に関する処理を行うプロセッサ(若しくはモジュール)である。例えば、ブロードバンドモデム1333は、送信するデータ(デジタル信号)をデジタル変調する等してアナログ信号に変換したり、受信したアナログ信号を復調してデータ(デジタル信号)に変換したりする。例えば、ブロードバンドモデム1333は、ビデオプロセッサ1332が処理する画像データや画像データが符号化されたストリーム、アプリケーションプログラム、設定データ等、任意の情報をデジタル変調・復調することができる。
  RFモジュール1334は、アンテナを介して送受信されるRF(Radio Frequency)信号に対して、周波数変換、変復調、増幅、フィルタ処理等を行うモジュールである。例えば、RFモジュール1334は、ブロードバンドモデム1333により生成されたベースバンド信号に対して周波数変換等を行ってRF信号を生成する。また、例えば、RFモジュール1334は、フロントエンドモジュール1314を介して受信されたRF信号に対して周波数変換等を行ってベースバンド信号を生成する。
  なお、図41において点線1341に示されるように、アプリケーションプロセッサ1331とビデオプロセッサ1332を、一体化し、1つのプロセッサとして構成されるようにしてもよい。
  外部メモリ1312は、ビデオモジュール1311の外部に設けられた、ビデオモジュール1311により利用される記憶デバイスを有するモジュールである。この外部メモリ1312の記憶デバイスは、どのような物理構成により実現するようにしてもよいが、一般的にフレーム単位の画像データのような大容量のデータの格納に利用されることが多いので、例えばDRAM(Dynamic Random Access Memory)のような比較的安価で大容量の半導体メモリにより実現するのが望ましい。
  パワーマネージメントモジュール1313は、ビデオモジュール1311(ビデオモジュール1311内の各構成)への電力供給を管理し、制御する。
  フロントエンドモジュール1314は、RFモジュール1334に対してフロントエンド機能(アンテナ側の送受信端の回路)を提供するモジュールである。図41に示されるように、フロントエンドモジュール1314は、例えば、アンテナ部1351、フィルタ1352、および増幅部1353を有する。
  アンテナ部1351は、無線信号を送受信するアンテナおよびその周辺の構成を有する。アンテナ部1351は、増幅部1353から供給される信号を無線信号として送信し、受信した無線信号を電気信号(RF信号)としてフィルタ1352に供給する。フィルタ1352は、アンテナ部1351を介して受信されたRF信号に対してフィルタ処理等を行い、処理後のRF信号をRFモジュール1334に供給する。増幅部1353は、RFモジュール1334から供給されるRF信号を増幅し、アンテナ部1351に供給する。
  コネクティビティ1321は、外部との接続に関する機能を有するモジュールである。コネクティビティ1321の物理構成は、任意である。例えば、コネクティビティ1321は、ブロードバンドモデム1333が対応する通信規格以外の通信機能を有する構成や、外部入出力端子等を有する。
  例えば、コネクティビティ1321が、Bluetooth(登録商標)、IEEE 802.11(例えばWi-Fi(Wireless Fidelity、登録商標))、NFC(Near Field Communication)、IrDA(InfraRed Data Association)等の無線通信規格に準拠する通信機能を有するモジュールや、その規格に準拠した信号を送受信するアンテナ等を有するようにしてもよい。また、例えば、コネクティビティ1321が、USB(Universal Serial Bus)、HDMI(登録商標)(High-Definition Multimedia Interface)等の有線通信規格に準拠する通信機能を有するモジュールや、その規格に準拠した端子を有するようにしてもよい。さらに、例えば、コネクティビティ1321が、アナログ入出力端子等のその他のデータ(信号)伝送機能等を有するようにしてもよい。
  なお、コネクティビティ1321が、データ(信号)の伝送先のデバイスを含むようにしてもよい。例えば、コネクティビティ1321が、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等の記録媒体に対してデータの読み出しや書き込みを行うドライブ(リムーバブルメディアのドライブだけでなく、ハードディスク、SSD(Solid State Drive)、NAS(Network Attached Storage)等も含む)を有するようにしてもよい。また、コネクティビティ1321が、画像や音声の出力デバイス(モニタやスピーカ等)を有するようにしてもよい。
  カメラ1322は、被写体を撮像し、被写体の画像データを得る機能を有するモジュールである。カメラ1322の撮像により得られた画像データは、例えば、ビデオプロセッサ1332に供給されて符号化される。
  センサ1323は、例えば、音声センサ、超音波センサ、光センサ、照度センサ、赤外線センサ、イメージセンサ、回転センサ、角度センサ、角速度センサ、速度センサ、加速度センサ、傾斜センサ、磁気識別センサ、衝撃センサ、温度センサ等、任意のセンサ機能を有するモジュールである。センサ1323により検出されたデータは、例えば、アプリケーションプロセッサ1331に供給されてアプリケーション等により利用される。
  以上においてモジュールとして説明した構成をプロセッサとして実現するようにしてもよいし、逆にプロセッサとして説明した構成をモジュールとして実現するようにしてもよい。
  以上のような構成のビデオセット1300において、後述するようにビデオプロセッサ1332に本技術を適用することができる。したがって、ビデオセット1300は、本技術を適用したセットとして実施することができる。
 (ビデオプロセッサの構成例)
  図42は、本技術を適用したビデオプロセッサ1332(図41)の概略的な構成の一例を示している。
  図42の例の場合、ビデオプロセッサ1332は、ビデオ信号およびオーディオ信号の入力を受けてこれらを所定の方式で符号化する機能と、符号化されたビデオデータおよびオーディオデータを復号し、ビデオ信号およびオーディオ信号を再生出力する機能とを有する。
  図42に示されるように、ビデオプロセッサ1332は、ビデオ入力処理部1401、第1画像拡大縮小部1402、第2画像拡大縮小部1403、ビデオ出力処理部1404、フレームメモリ1405、およびメモリ制御部1406を有する。また、ビデオプロセッサ1332は、エンコード・デコードエンジン1407、ビデオES(Elementary Stream)バッファ1408Aおよび1408B、並びに、オーディオESバッファ1409Aおよび1409Bを有する。さらに、ビデオプロセッサ1332は、オーディオエンコーダ1410、オーディオデコーダ1411、多重化部(MUX(Multiplexer))1412、逆多重化部(DMUX(Demultiplexer))1413、およびストリームバッファ1414を有する。
  ビデオ入力処理部1401は、例えばコネクティビティ1321(図41)等から入力されたビデオ信号を取得し、デジタル画像データに変換する。第1画像拡大縮小部1402は、画像データに対してフォーマット変換や画像の拡大縮小処理等を行う。第2画像拡大縮小部1403は、画像データに対して、ビデオ出力処理部1404を介して出力する先でのフォーマットに応じて画像の拡大縮小処理を行ったり、第1画像拡大縮小部1402と同様のフォーマット変換や画像の拡大縮小処理等を行ったりする。ビデオ出力処理部1404は、画像データに対して、フォーマット変換やアナログ信号への変換等を行って、再生されたビデオ信号として例えばコネクティビティ1321(図41)等に出力する。
  フレームメモリ1405は、ビデオ入力処理部1401、第1画像拡大縮小部1402、第2画像拡大縮小部1403、ビデオ出力処理部1404、およびエンコード・デコードエンジン1407によって共用される画像データ用のメモリである。フレームメモリ1405は、例えばDRAM等の半導体メモリとして実現される。
  メモリ制御部1406は、エンコード・デコードエンジン1407からの同期信号を受けて、アクセス管理テーブル1406Aに書き込まれたフレームメモリ1405へのアクセススケジュールに従ってフレームメモリ1405に対する書き込み・読み出しのアクセスを制御する。アクセス管理テーブル1406Aは、エンコード・デコードエンジン1407、第1画像拡大縮小部1402、第2画像拡大縮小部1403等で実行される処理に応じて、メモリ制御部1406により更新される。
  エンコード・デコードエンジン1407は、画像データのエンコード処理、並びに、画像データが符号化されたデータであるビデオストリームのデコード処理を行う。例えば、エンコード・デコードエンジン1407は、フレームメモリ1405から読み出した画像データを符号化し、ビデオストリームとしてビデオESバッファ1408Aに順次書き込む。また、例えば、ビデオESバッファ1408Bからビデオストリームを順次読み出して復号し、画像データとしてフレームメモリ1405に順次書き込む。エンコード・デコードエンジン1407は、これらの符号化や復号において、フレームメモリ1405を作業領域として使用する。また、エンコード・デコードエンジン1407は、例えばマクロブロック毎の処理を開始するタイミングで、メモリ制御部1406に対して同期信号を出力する。
  ビデオESバッファ1408Aは、エンコード・デコードエンジン1407によって生成されたビデオストリームをバッファリングして、多重化部(MUX)1412に供給する。ビデオESバッファ1408Bは、逆多重化部(DMUX)1413から供給されたビデオストリームをバッファリングして、エンコード・デコードエンジン1407に供給する。
  オーディオESバッファ1409Aは、オーディオエンコーダ1410によって生成されたオーディオストリームをバッファリングして、多重化部(MUX)1412に供給する。オーディオESバッファ1409Bは、逆多重化部(DMUX)1413から供給されたオーディオストリームをバッファリングして、オーディオデコーダ1411に供給する。
  オーディオエンコーダ1410は、例えばコネクティビティ1321(図41)等から入力されたオーディオ信号を例えばデジタル変換し、例えばMPEGオーディオ方式やAC3(AudioCode number 3)方式等の所定の方式で符号化する。オーディオエンコーダ1410は、オーディオ信号が符号化されたデータであるオーディオストリームをオーディオESバッファ1409Aに順次書き込む。オーディオデコーダ1411は、オーディオESバッファ1409Bから供給されたオーディオストリームを復号し、例えばアナログ信号への変換等を行って、再生されたオーディオ信号として例えばコネクティビティ1321(図41)等に供給する。
  多重化部(MUX)1412は、ビデオストリームとオーディオストリームとを多重化する。この多重化の方法(すなわち、多重化により生成されるビットストリームのフォーマット)は任意である。また、この多重化の際に、多重化部(MUX)1412は、所定のヘッダ情報等をビットストリームに付加することもできる。つまり、多重化部(MUX)1412は、多重化によりストリームのフォーマットを変換することができる。例えば、多重化部(MUX)1412は、ビデオストリームとオーディオストリームとを多重化することにより、転送用のフォーマットのビットストリームであるトランスポートストリームに変換する。また、例えば、多重化部(MUX)1412は、ビデオストリームとオーディオストリームとを多重化することにより、記録用のファイルフォーマットのデータ(ファイルデータ)に変換する。
  逆多重化部(DMUX)1413は、多重化部(MUX)1412による多重化に対応する方法で、ビデオストリームとオーディオストリームとが多重化されたビットストリームを逆多重化する。つまり、逆多重化部(DMUX)1413は、ストリームバッファ1414から読み出されたビットストリームからビデオストリームとオーディオストリームとを抽出する(ビデオストリームとオーディオストリームとを分離する)。つまり、逆多重化部(DMUX)1413は、逆多重化によりストリームのフォーマットを変換(多重化部(MUX)1412による変換の逆変換)することができる。例えば、逆多重化部(DMUX)1413は、例えばコネクティビティ1321やブロードバンドモデム1333等(いずれも図41)から供給されたトランスポートストリームを、ストリームバッファ1414を介して取得し、逆多重化することにより、ビデオストリームとオーディオストリームとに変換することができる。また、例えば、逆多重化部(DMUX)1413は、例えばコネクティビティ1321により(図41)各種記録媒体から読み出されたファイルデータを、ストリームバッファ1414を介して取得し、逆多重化することにより、ビデオストリームとオーディオストリームとに変換することができる。
  ストリームバッファ1414は、ビットストリームをバッファリングする。例えば、ストリームバッファ1414は、多重化部(MUX)1412から供給されたトランスポートストリームをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、例えばコネクティビティ1321やブロードバンドモデム1333(いずれも図41)等に供給する。
  また、例えば、ストリームバッファ1414は、多重化部(MUX)1412から供給されたファイルデータをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、例えばコネクティビティ1321(図41)等に供給し、各種記録媒体に記録させる。
  さらに、ストリームバッファ1414は、例えばコネクティビティ1321やブロードバンドモデム1333等(いずれも図41)を介して取得したトランスポートストリームをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、逆多重化部(DMUX)1413に供給する。
  また、ストリームバッファ1414は、例えばコネクティビティ1321(図41)等において各種記録媒体から読み出されたファイルデータをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、逆多重化部(DMUX)1413に供給する。
  次に、このような構成のビデオプロセッサ1332の動作の例について説明する。例えば、コネクティビティ1321(図41)等からビデオプロセッサ1332に入力されたビデオ信号は、ビデオ入力処理部1401において4:2:2Y/Cb/Cr方式等の所定の方式のデジタル画像データに変換され、フレームメモリ1405に順次書き込まれる。このデジタル画像データは、第1画像拡大縮小部1402または第2画像拡大縮小部1403に読み出されて、4:2:0Y/Cb/Cr方式等の所定の方式へのフォーマット変換および拡大縮小処理が行われ、再びフレームメモリ1405に書き込まれる。この画像データは、エンコード・デコードエンジン1407によって符号化され、ビデオストリームとしてビデオESバッファ1408Aに書き込まれる。
  また、コネクティビティ1321(図41)等からビデオプロセッサ1332に入力されたオーディオ信号は、オーディオエンコーダ1410によって符号化され、オーディオストリームとして、オーディオESバッファ1409Aに書き込まれる。
  ビデオESバッファ1408Aのビデオストリームと、オーディオESバッファ1409Aのオーディオストリームは、多重化部(MUX)1412に読み出されて多重化され、トランスポートストリーム若しくはファイルデータ等に変換される。多重化部(MUX)1412により生成されたトランスポートストリームは、ストリームバッファ1414にバッファされた後、例えばコネクティビティ1321やブロードバンドモデム1333(いずれも図41)等を介して外部ネットワークに出力される。また、多重化部(MUX)1412により生成されたファイルデータは、ストリームバッファ1414にバッファされた後、例えばコネクティビティ1321(図41)等に出力され、各種記録媒体に記録される。
  また、例えばコネクティビティ1321やブロードバンドモデム1333(いずれも図41)等を介して外部ネットワークからビデオプロセッサ1332に入力されたトランスポートストリームは、ストリームバッファ1414にバッファされた後、逆多重化部(DMUX)1413により逆多重化される。また、例えばコネクティビティ1321(図41)等において各種記録媒体から読み出され、ビデオプロセッサ1332に入力されたファイルデータは、ストリームバッファ1414にバッファされた後、逆多重化部(DMUX)1413により逆多重化される。つまり、ビデオプロセッサ1332に入力されたトランスポートストリームまたはファイルデータは、逆多重化部(DMUX)1413によりビデオストリームとオーディオストリームとに分離される。
  オーディオストリームは、オーディオESバッファ1409Bを介してオーディオデコーダ1411に供給され、復号されてオーディオ信号が再生される。また、ビデオストリームは、ビデオESバッファ1408Bに書き込まれた後、エンコード・デコードエンジン1407により順次読み出されて復号されてフレームメモリ1405に書き込まれる。復号された画像データは、第2画像拡大縮小部1403によって拡大縮小処理されて、フレームメモリ1405に書き込まれる。そして、復号された画像データは、ビデオ出力処理部1404に読み出されて、4:2:2Y/Cb/Cr方式等の所定の方式にフォーマット変換され、さらにアナログ信号に変換されて、ビデオ信号が再生出力される。
  このように構成されるビデオプロセッサ1332に本技術を適用する場合、エンコード・デコードエンジン1407に、上述した各実施形態に係る本技術を適用すればよい。つまり、例えば、エンコード・デコードエンジン1407が、第1実施の形態に係る符号化装置や復号装置の機能を有するようにすればよい。このようにすることにより、ビデオプロセッサ1332は、図1乃至図12を参照して上述した効果と同様の効果を得ることができる。
  なお、エンコード・デコードエンジン1407において、本技術(すなわち、上述した各実施形態に係る画像符号化装置や画像復号装置の機能)は、論理回路等のハードウエアにより実現するようにしてもよいし、組み込みプログラム等のソフトウエアにより実現するようにしてもよいし、それらの両方により実現するようにしてもよい。
 (ビデオプロセッサの他の構成例)
  図43は、本技術を適用したビデオプロセッサ1332(図41)の概略的な構成の他の例を示している。図43の例の場合、ビデオプロセッサ1332は、ビデオデータを所定の方式で符号化・復号する機能を有する。
  より具体的には、図43に示されるように、ビデオプロセッサ1332は、制御部1511、ディスプレイインタフェース1512、ディスプレイエンジン1513、画像処理エンジン1514、および内部メモリ1515を有する。また、ビデオプロセッサ1332は、コーデックエンジン1516、メモリインタフェース1517、多重化・逆多重化部(MUX DMUX)1518、ネットワークインタフェース1519、およびビデオインタフェース1520を有する。
  制御部1511は、ディスプレイインタフェース1512、ディスプレイエンジン1513、画像処理エンジン1514、およびコーデックエンジン1516等、ビデオプロセッサ1332内の各処理部の動作を制御する。
  図43に示されるように、制御部1511は、例えば、メインCPU1531、サブCPU1532、およびシステムコントローラ1533を有する。メインCPU1531は、ビデオプロセッサ1332内の各処理部の動作を制御するためのプログラム等を実行する。メインCPU1531は、そのプログラム等に従って制御信号を生成し、各処理部に供給する(つまり、各処理部の動作を制御する)。サブCPU1532は、メインCPU1531の補助的な役割を果たす。例えば、サブCPU1532は、メインCPU1531が実行するプログラム等の子プロセスやサブルーチン等を実行する。システムコントローラ1533は、メインCPU1531およびサブCPU1532が実行するプログラムを指定する等、メインCPU1531およびサブCPU1532の動作を制御する。
  ディスプレイインタフェース1512は、制御部1511の制御の下、画像データを例えばコネクティビティ1321(図41)等に出力する。例えば、ディスプレイインタフェース1512は、デジタルデータの画像データをアナログ信号に変換し、再生されたビデオ信号として、またはデジタルデータの画像データのまま、コネクティビティ1321(図41)のモニタ装置等に出力する。
  ディスプレイエンジン1513は、制御部1511の制御の下、画像データに対して、その画像を表示させるモニタ装置等のハードウエアスペックに合わせるように、フォーマット変換、サイズ変換、色域変換等の各種変換処理を行う。
  画像処理エンジン1514は、制御部1511の制御の下、画像データに対して、例えば画質改善のためのフィルタ処理等、所定の画像処理を施す。
  内部メモリ1515は、ディスプレイエンジン1513、画像処理エンジン1514、およびコーデックエンジン1516により共用される、ビデオプロセッサ1332の内部に設けられたメモリである。内部メモリ1515は、例えば、ディスプレイエンジン1513、画像処理エンジン1514、およびコーデックエンジン1516の間で行われるデータの授受に利用される。例えば、内部メモリ1515は、ディスプレイエンジン1513、画像処理エンジン1514、またはコーデックエンジン1516から供給されるデータを格納し、必要に応じて(例えば、要求に応じて)、そのデータを、ディスプレイエンジン1513、画像処理エンジン1514、またはコーデックエンジン1516に供給する。この内部メモリ1515は、どのような記憶デバイスにより実現するようにしてもよいが、一般的にブロック単位の画像データやパラメータ等といった小容量のデータの格納に利用することが多いので、例えばSRAM(Static Random Access Memory)のような比較的(例えば外部メモリ1312と比較して)小容量だが応答速度が高速な半導体メモリにより実現するのが望ましい。
  コーデックエンジン1516は、画像データの符号化や復号に関する処理を行う。このコーデックエンジン1516が対応する符号化・復号の方式は任意であり、その数は1つであってもよいし、複数であってもよい。例えば、コーデックエンジン1516は、複数の符号化・復号方式のコーデック機能を備え、その中から選択されたもので画像データの符号化若しくは符号化データの復号を行うようにしてもよい。
  図43に示される例において、コーデックエンジン1516は、コーデックに関する処理の機能ブロックとして、例えば、MPEG-2 Video1541、AVC/H.2641542、HEVC/H.2651543、HEVC/H.265(Scalable)1544、HEVC/H.265(Multi-view)1545、およびMPEG-DASH1551を有する。
  MPEG-2 Video1541は、画像データをMPEG-2方式で符号化したり復号したりする機能ブロックである。AVC/H.2641542は、画像データをAVC方式で符号化したり復号したりする機能ブロックである。HEVC/H.2651543は、画像データをHEVC方式で符号化したり復号したりする機能ブロックである。HEVC/H.265(Scalable)1544は、画像データをHEVC方式でスケーラブル符号化したりスケーラブル復号したりする機能ブロックである。HEVC/H.265(Multi-view)1545は、画像データをHEVC方式で多視点符号化したり多視点復号したりする機能ブロックである。
  MPEG-DASH1551は、画像データをMPEG-DASH(MPEG-Dynamic Adaptive Streaming over HTTP)方式で送受信する機能ブロックである。MPEG-DASHは、HTTP(HyperText Transfer Protocol)を使ってビデオのストリーミングを行う技術であり、予め用意された解像度等が互いに異なる複数の符号化データの中から適切なものをセグメント単位で選択し伝送することを特徴の1つとする。MPEG-DASH1551は、規格に準拠するストリームの生成やそのストリームの伝送制御等を行い、画像データの符号化・復号については、上述したMPEG-2 Video1541乃至HEVC/H.265(Multi-view)1545を利用する。
  メモリインタフェース1517は、外部メモリ1312用のインタフェースである。画像処理エンジン1514やコーデックエンジン1516から供給されるデータは、メモリインタフェース1517を介して外部メモリ1312に供給される。また、外部メモリ1312から読み出されたデータは、メモリインタフェース1517を介してビデオプロセッサ1332(画像処理エンジン1514若しくはコーデックエンジン1516)に供給される。
  多重化・逆多重化部(MUX DMUX)1518は、符号化データのビットストリーム、画像データ、ビデオ信号等、画像に関する各種データの多重化や逆多重化を行う。この多重化・逆多重化の方法は任意である。例えば、多重化の際に、多重化・逆多重化部(MUX DMUX)1518は、複数のデータを1つにまとめるだけでなく、所定のヘッダ情報等をそのデータに付加することもできる。また、逆多重化の際に、多重化・逆多重化部(MUX DMUX)1518は、1つのデータを複数に分割するだけでなく、分割した各データに所定のヘッダ情報等を付加することもできる。つまり、多重化・逆多重化部(MUX DMUX)1518は、多重化・逆多重化によりデータのフォーマットを変換することができる。例えば、多重化・逆多重化部(MUX DMUX)1518は、ビットストリームを多重化することにより、転送用のフォーマットのビットストリームであるトランスポートストリームや、記録用のファイルフォーマットのデータ(ファイルデータ)に変換することができる。もちろん、逆多重化によりその逆変換も可能である。
  ネットワークインタフェース1519は、例えばブロードバンドモデム1333やコネクティビティ1321(いずれも図41)等向けのインタフェースである。ビデオインタフェース1520は、例えばコネクティビティ1321やカメラ1322(いずれも図41)等向けのインタフェースである。
  次に、このようなビデオプロセッサ1332の動作の例について説明する。例えば、コネクティビティ1321やブロードバンドモデム1333(いずれも図41)等を介して外部ネットワークからトランスポートストリームを受信すると、そのトランスポートストリームは、ネットワークインタフェース1519を介して多重化・逆多重化部(MUX DMUX)1518に供給されて逆多重化され、コーデックエンジン1516により復号される。コーデックエンジン1516の復号により得られた画像データは、例えば、画像処理エンジン1514により所定の画像処理が施され、ディスプレイエンジン1513により所定の変換が行われ、ディスプレイインタフェース1512を介して例えばコネクティビティ1321(図41)等に供給され、その画像がモニタに表示される。また、例えば、コーデックエンジン1516の復号により得られた画像データは、コーデックエンジン1516により再符号化され、多重化・逆多重化部(MUX DMUX)1518により多重化されてファイルデータに変換され、ビデオインタフェース1520を介して例えばコネクティビティ1321(図41)等に出力され、各種記録媒体に記録される。
  さらに、例えば、コネクティビティ1321(図41)等により図示せぬ記録媒体から読み出された、画像データが符号化された符号化データのファイルデータは、ビデオインタフェース1520を介して多重化・逆多重化部(MUX DMUX)1518に供給されて逆多重化され、コーデックエンジン1516により復号される。コーデックエンジン1516の復号により得られた画像データは、画像処理エンジン1514により所定の画像処理が施され、ディスプレイエンジン1513により所定の変換が行われ、ディスプレイインタフェース1512を介して例えばコネクティビティ1321(図41)等に供給され、その画像がモニタに表示される。また、例えば、コーデックエンジン1516の復号により得られた画像データは、コーデックエンジン1516により再符号化され、多重化・逆多重化部(MUX DMUX)1518により多重化されてトランスポートストリームに変換され、ネットワークインタフェース1519を介して例えばコネクティビティ1321やブロードバンドモデム1333(いずれも図41)等に供給され図示せぬ他の装置に伝送される。
  なお、ビデオプロセッサ1332内の各処理部の間での画像データやその他のデータの授受は、例えば、内部メモリ1515や外部メモリ1312を利用して行われる。また、パワーマネージメントモジュール1313は、例えば制御部1511への電力供給を制御する。
  このように構成されるビデオプロセッサ1332に本技術を適用する場合、コーデックエンジン1516に、上述した各実施形態に係る本技術を適用すればよい。つまり、例えば、コーデックエンジン1516が、第1実施の形態に係る符号化装置や復号装置を実現する機能ブロックを有するようにすればよい。さらに、例えば、コーデックエンジン1516が、このようにすることにより、ビデオプロセッサ1332は、図1乃至図12を参照して上述した効果と同様の効果を得ることができる。
  なお、コーデックエンジン1516において、本技術(すなわち、上述した各実施形態に係る画像符号化装置や画像復号装置の機能)は、論理回路等のハードウエアにより実現するようにしてもよいし、組み込みプログラム等のソフトウエアにより実現するようにしてもよいし、それらの両方により実現するようにしてもよい。
  以上にビデオプロセッサ1332の構成を2例示したが、ビデオプロセッサ1332の構成は任意であり、上述した2例以外のものであってもよい。また、このビデオプロセッサ1332は、1つの半導体チップとして構成されるようにしてもよいが、複数の半導体チップとして構成されるようにしてもよい。例えば、複数の半導体を積層する3次元積層LSIとしてもよい。また、複数のLSIにより実現されるようにしてもよい。
 (装置への適用例)
  ビデオセット1300は、画像データを処理する各種装置に組み込むことができる。例えば、ビデオセット1300は、テレビジョン装置900(図34)、携帯電話機920(図35)、記録再生装置940(図36)、撮像装置960(図37)等に組み込むことができる。ビデオセット1300を組み込むことにより、その装置は、図1乃至図12を参照して上述した効果と同様の効果を得ることができる。
  また、ビデオセット1300は、例えば、図38のデータ伝送システム1000におけるパーソナルコンピュータ1004、AV機器1005、タブレットデバイス1006、および携帯電話機1007等の端末装置、図39のデータ伝送システム1100における放送局1101および端末装置1102、並びに、図40の撮像システム1200における撮像装置1201およびスケーラブル符号化データ記憶装置1202等にも組み込むことができる。ビデオセット1300を組み込むことにより、その装置は、図1乃至図12を参照して上述した効果と同様の効果を得ることができる。
  なお、上述したビデオセット1300の各構成の一部であっても、ビデオプロセッサ1332を含むものであれば、本技術を適用した構成として実施することができる。例えば、ビデオプロセッサ1332のみを本技術を適用したビデオプロセッサとして実施することができる。また、例えば、上述したように点線1341により示されるプロセッサやビデオモジュール1311等を本技術を適用したプロセッサやモジュール等として実施することができる。さらに、例えば、ビデオモジュール1311、外部メモリ1312、パワーマネージメントモジュール1313、およびフロントエンドモジュール1314を組み合わせ、本技術を適用したビデオユニット1361として実施することもできる。いずれの構成の場合であっても、図1乃至図12を参照して上述した効果と同様の効果を得ることができる。
  つまり、ビデオプロセッサ1332を含むものであればどのような構成であっても、ビデオセット1300の場合と同様に、画像データを処理する各種装置に組み込むことができる。例えば、ビデオプロセッサ1332、点線1341により示されるプロセッサ、ビデオモジュール1311、または、ビデオユニット1361を、テレビジョン装置900(図34)、携帯電話機920(図35)、記録再生装置940(図36)、撮像装置960(図37)、図38のデータ伝送システム1000におけるパーソナルコンピュータ1004、AV機器1005、タブレットデバイス1006、および携帯電話機1007等の端末装置、図39のデータ伝送システム1100における放送局1101および端末装置1102、並びに、図40の撮像システム1200における撮像装置1201およびスケーラブル符号化データ記憶装置1202等に組み込むことができる。そして、本技術を適用したいずれかの構成を組み込むことにより、その装置は、ビデオセット1300の場合と同様に、図1乃至図12を参照して上述した効果と同様の効果を得ることができる。
 なお、本明細書では、色域情報や輝度情報などの各種情報が、符号化データに多重化されて、符号化側から復号側へ伝送される例について説明した。しかしながら、これら情報を伝送する手法はかかる例に限定されない。例えば、これら情報は、符号化データに多重化されることなく、符号化データと関連付けられた別個のデータとして伝送され又は記録されてもよい。ここで、「関連付ける」という用語は、ビットストリームに含まれる画像(スライスやブロックなど、画像の一部であってもよい)と当該画像に対応する情報とを復号時にリンクさせ得るようにすることを意味する。即ち、情報は、符号化データとは別の伝送路上で伝送されてもよい。また、情報は、符号化データとは別の記録媒体(又は同一の記録媒体の別の記録エリア)に記録されてもよい。さらに、情報と符号化データとは、例えば、複数フレーム、1フレーム、又はフレーム内の一部分などの任意の単位で互いに関連付けられてよい。
 また、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
 本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
 また、本開示の実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
 例えば、本開示は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
 また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
 さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
 本開示は、以下のような構成もとることができる。
 (1)
 画像の符号化データと前記画像の色域を表す色域情報を含む符号化ストリームを伝送する符号化装置から、前記符号化ストリームを受け取る受け取り部と、
 前記受け取り部により受け取られた前記符号化ストリームから、前記符号化データと前記色域情報を抽出する抽出部と、
 前記抽出部により抽出された前記符号化データを復号し、前記画像を生成する復号部と
 を備える復号装置。
 (2)
 前記抽出部により抽出された前記色域情報に基づいて、前記復号部により生成された前記画像の色域を調整する調整部
 をさらに備える
 前記(1)に記載の復号装置。
 (3)
 前記符号化ストリームは、前記画像のオーサリング時に前記画像を表示する表示部の輝度を表す輝度情報を含み、
 前記抽出部は、前記符号化ストリームから前記輝度情報を抽出し、
 前記調整部は、前記抽出部により抽出された前記輝度情報に基づいて、前記復号部により生成された前記画像の輝度のダイナミックレンジを調整する
 ように構成された
 前記(2)に記載の復号装置。
 (4)
 前記輝度情報は、前記表示部の白色および黒色の輝度を表す
 ように構成された
 前記(3)に記載の復号装置。
 (5)
 復号装置が、
 画像の符号化データと前記画像の色域を表す色域情報を含む符号化ストリームを伝送する符号化装置から、前記符号化ストリームを受け取る受け取りステップと、
 前記受け取りステップの処理により受け取られた前記符号化ストリームから、前記符号化データと前記色域情報を抽出する抽出ステップと、
 前記抽出ステップの処理により抽出された前記符号化データを復号し、前記画像を生成する復号ステップと
 を含む復号方法。
 (6)
 画像を符号化し、符号化データを生成する符号化部と、
 前記画像の色域を表す色域情報を設定する設定部と、
 前記符号化部により生成された前記符号化データと、前記設定部により生成された前記色域情報とを含む符号化ストリームを伝送する伝送部と
 を備える符号化装置。
 (7)
 前記設定部は、前記画像のオーサリング時に前記画像を表示する表示部の輝度を表す輝度情報を設定し、
 前記伝送部は、前記符号化データ、前記色域情報、および前記輝度情報を含む符号化ストリームを伝送する
 ように構成された
 前記(6)に記載の符号化装置。
 (8)
 前記輝度情報は、前記表示部の白色および黒色の輝度を表す
 ように構成された
 前記(7)に記載の符号化装置。
 (9)
 符号化装置が、
 画像を符号化し、符号化データを生成する符号化ステップと、
 前記画像の色域を表す色域情報を設定する設定ステップと、
 前記符号化ステップの処理により生成された前記符号化データと、前記設定ステップの処理により生成された前記色域情報とを含む符号化ストリームを伝送する伝送ステップと
 を含む符号化方法。
 (10)
 画像の符号化データ、所定の色域を識別する識別情報、および前記所定の色域に対する前記画像の色域のカバー率を含む符号化ストリームを伝送する符号化装置から、前記符号化ストリームを受け取る受け取り部と、
 前記受け取り部により受け取られた前記符号化ストリームから前記符号化データ、前記識別情報、および前記カバー率を抽出する抽出部と、
 前記抽出部により抽出された前記符号化データを復号し、前記画像を生成する復号部と
 を備える復号装置。
 (11)
 前記抽出部により抽出された前記識別情報と前記カバー率に基づいて、前記復号部により生成された前記画像の色域を調整する調整部
 をさらに備える
 前記(10)に記載の復号装置。
 (12)
 前記符号化ストリームは、前記画像のオーサリング時に前記画像を表示する表示部の輝度を表す輝度情報を含み、
 前記抽出部は、前記符号化ストリームから前記輝度情報を抽出し、
 前記調整部は、前記抽出部により抽出された前記輝度情報に基づいて、前記復号部により生成された前記画像の輝度のダイナミックレンジを調整する
 ように構成された
 前記(11)に記載の復号装置。
 (13)
 前記輝度情報は、前記表示部の白色および黒色の輝度を表す
 ように構成された
 前記(12)に記載の復号装置。
 (14)
 復号装置が、
 画像の符号化データ、所定の色域を識別する識別情報、および前記所定の色域に対する前記画像の色域のカバー率を含む符号化ストリームを伝送する符号化装置から、前記符号化ストリームを受け取る受け取りステップと、
 前記受け取りステップの処理により受け取られた前記符号化ストリームから前記符号化データ、前記識別情報、および前記カバー率を抽出する抽出ステップと、
 前記抽出ステップの処理により抽出された前記符号化データを復号し、前記画像を生成する復号ステップと
 を含む復号方法。
 (15)
 画像を符号化し、符号化データを生成する符号化部と、
 所定の色域を識別する識別情報と前記所定の色域に対する前記画像の色域のカバー率とを設定する設定部と、
 前記符号化部により生成された前記符号化データと、前記設定部により生成された前記識別情報および前記カバー率と含む符号化ストリームを伝送する伝送部と
 を備える符号化装置。
 (16)
 前記設定部は、前記画像のオーサリング時に前記画像を表示する表示部の輝度を表す輝度情報を設定し、
 前記伝送部は、前記符号化データ、前記色域情報、および前記輝度情報を含む符号化ストリームを伝送する
 ように構成された
 前記(15)に記載の符号化装置。
 (17)
 前記輝度情報は、前記表示部の白色および黒色の輝度を表す
 ように構成された
 前記(16)に記載の符号化装置。
 (18)
 符号化装置が、
 画像を符号化し、符号化データを生成する符号化ステップと、
 所定の色域を識別する識別情報と前記所定の色域に対する前記画像の色域のカバー率とを設定する設定ステップと、
 前記符号化ステップの処理により生成された前記符号化データと、前記設定ステップの処理により生成された前記識別情報および前記カバー率と含む符号化ストリームを伝送する伝送ステップと
 を含む符号化方法。
 10 符号化装置, 11 設定部, 12 符号化部, 13 伝送部, 50 復号装置, 51 受け取り部, 52 抽出部, 53 復号部, 54 調整部, 70 符号化装置, 72 設定部, 90 復号装置, 91 抽出部, 92 調整部

Claims (18)

  1.  画像の符号化データと前記画像の色域を表す色域情報を含む符号化ストリームを伝送する符号化装置から、前記符号化ストリームを受け取る受け取り部と、
     前記受け取り部により受け取られた前記符号化ストリームから、前記符号化データと前記色域情報を抽出する抽出部と、
     前記抽出部により抽出された前記符号化データを復号し、前記画像を生成する復号部と
     を備える復号装置。
  2.  前記抽出部により抽出された前記色域情報に基づいて、前記復号部により生成された前記画像の色域を調整する調整部
     をさらに備える
     請求項1に記載の復号装置。
  3.  前記符号化ストリームは、前記画像のオーサリング時に前記画像を表示する表示部の輝度を表す輝度情報を含み、
     前記抽出部は、前記符号化ストリームから前記輝度情報を抽出し、
     前記調整部は、前記抽出部により抽出された前記輝度情報に基づいて、前記復号部により生成された前記画像の輝度のダイナミックレンジを調整する
     ように構成された
     請求項2に記載の復号装置。
  4.  前記輝度情報は、前記表示部の白色および黒色の輝度を表す
     ように構成された
     請求項3に記載の復号装置。
  5.  復号装置が、
     画像の符号化データと前記画像の色域を表す色域情報を含む符号化ストリームを伝送する符号化装置から、前記符号化ストリームを受け取る受け取りステップと、
     前記受け取りステップの処理により受け取られた前記符号化ストリームから、前記符号化データと前記色域情報を抽出する抽出ステップと、
     前記抽出ステップの処理により抽出された前記符号化データを復号し、前記画像を生成する復号ステップと
     を含む復号方法。
  6.  画像を符号化し、符号化データを生成する符号化部と、
     前記画像の色域を表す色域情報を設定する設定部と、
     前記符号化部により生成された前記符号化データと、前記設定部により生成された前記色域情報とを含む符号化ストリームを伝送する伝送部と
     を備える符号化装置。
  7.  前記設定部は、前記画像のオーサリング時に前記画像を表示する表示部の輝度を表す輝度情報を設定し、
     前記伝送部は、前記符号化データ、前記色域情報、および前記輝度情報を含む符号化ストリームを伝送する
     ように構成された
     請求項6に記載の符号化装置。
  8.  前記輝度情報は、前記表示部の白色および黒色の輝度を表す
     ように構成された
     請求項7に記載の符号化装置。
  9.  符号化装置が、
     画像を符号化し、符号化データを生成する符号化ステップと、
     前記画像の色域を表す色域情報を設定する設定ステップと、
     前記符号化ステップの処理により生成された前記符号化データと、前記設定ステップの処理により生成された前記色域情報とを含む符号化ストリームを伝送する伝送ステップと
     を含む符号化方法。
  10.  画像の符号化データ、所定の色域を識別する識別情報、および前記所定の色域に対する前記画像の色域のカバー率を含む符号化ストリームを伝送する符号化装置から、前記符号化ストリームを受け取る受け取り部と、
     前記受け取り部により受け取られた前記符号化ストリームから前記符号化データ、前記識別情報、および前記カバー率を抽出する抽出部と、
     前記抽出部により抽出された前記符号化データを復号し、前記画像を生成する復号部と
     を備える復号装置。
  11.  前記抽出部により抽出された前記識別情報と前記カバー率に基づいて、前記復号部により生成された前記画像の色域を調整する調整部
     をさらに備える
     請求項10に記載の復号装置。
  12.  前記符号化ストリームは、前記画像のオーサリング時に前記画像を表示する表示部の輝度を表す輝度情報を含み、
     前記抽出部は、前記符号化ストリームから前記輝度情報を抽出し、
     前記調整部は、前記抽出部により抽出された前記輝度情報に基づいて、前記復号部により生成された前記画像の輝度のダイナミックレンジを調整する
     ように構成された
     請求項11に記載の復号装置。
  13.  前記輝度情報は、前記表示部の白色および黒色の輝度を表す
     ように構成された
     請求項12に記載の復号装置。
  14.  復号装置が、
     画像の符号化データ、所定の色域を識別する識別情報、および前記所定の色域に対する前記画像の色域のカバー率を含む符号化ストリームを伝送する符号化装置から、前記符号化ストリームを受け取る受け取りステップと、
     前記受け取りステップの処理により受け取られた前記符号化ストリームから前記符号化データ、前記識別情報、および前記カバー率を抽出する抽出ステップと、
     前記抽出ステップの処理により抽出された前記符号化データを復号し、前記画像を生成する復号ステップと
     を含む復号方法。
  15.  画像を符号化し、符号化データを生成する符号化部と、
     所定の色域を識別する識別情報と前記所定の色域に対する前記画像の色域のカバー率とを設定する設定部と、
     前記符号化部により生成された前記符号化データと、前記設定部により生成された前記識別情報および前記カバー率と含む符号化ストリームを伝送する伝送部と
     を備える符号化装置。
  16.  前記設定部は、前記画像のオーサリング時に前記画像を表示する表示部の輝度を表す輝度情報を設定し、
     前記伝送部は、前記符号化データ、前記色域情報、および前記輝度情報を含む符号化ストリームを伝送する
     ように構成された
     請求項15に記載の符号化装置。
  17.  前記輝度情報は、前記表示部の白色および黒色の輝度を表す
     ように構成された
     請求項16に記載の符号化装置。
  18.  符号化装置が、
     画像を符号化し、符号化データを生成する符号化ステップと、
     所定の色域を識別する識別情報と前記所定の色域に対する前記画像の色域のカバー率とを設定する設定ステップと、
     前記符号化ステップの処理により生成された前記符号化データと、前記設定ステップの処理により生成された前記識別情報および前記カバー率と含む符号化ストリームを伝送する伝送ステップと
     を含む符号化方法。
PCT/JP2014/072104 2013-09-03 2014-08-25 復号装置および復号方法、並びに符号化装置および符号化方法 WO2015033809A1 (ja)

Priority Applications (14)

Application Number Priority Date Filing Date Title
MYPI2015700546A MY184223A (en) 2013-09-03 2014-08-25 Decoding device and decoding method, encoding device, and encoding method
MX2015002589A MX343609B (es) 2013-09-03 2014-08-25 Dispositivo de descodificacion y metodo de descodificacion, dispositivo de codificacion y metodo de codificacion.
BR112015006711-5A BR112015006711B1 (pt) 2013-09-03 2014-08-25 Dispositivos de decodificação e de codificação, métodos de decodificação realizado por um dispositivo de decodificação, e, mídia de gravação
IN1681DEN2015 IN2015DN01681A (ja) 2013-09-03 2014-08-25
EP14838854.9A EP2966869B1 (en) 2013-09-03 2014-08-25 Decoding device, decoding method, encoding device, and recording medium
JP2015507842A JP6651848B2 (ja) 2013-09-03 2014-08-25 復号装置および復号方法
CN201910291356.8A CN110012297B (zh) 2013-09-03 2014-08-25 解码设备和解码方法、编码设备和编码方法
CN201480002494.5A CN104662911B (zh) 2013-09-03 2014-08-25 解码设备和解码方法、编码设备和编码方法
EP20198437.4A EP3783900A1 (en) 2013-09-03 2014-08-25 Decoding device and decoding method, encoding device, and encoding method
KR1020157007337A KR20160052459A (ko) 2013-09-03 2014-08-25 복호 장치 및 복호 방법, 부호화 장치, 및 부호화 방법
US14/490,444 US9264683B2 (en) 2013-09-03 2014-09-18 Decoding device and decoding method, encoding device, and encoding method
US14/984,509 US10015505B2 (en) 2013-09-03 2015-12-30 Decoding device and decoding method, encoding device, and encoding method
US15/421,863 US10798398B2 (en) 2013-09-03 2017-02-01 Decoding device and decoding method, encoding device, and encoding method
US15/421,844 US10728567B2 (en) 2013-09-03 2017-02-01 Decoding device and decoding method, encoding device, and encoding method

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2013-182578 2013-09-03
JP2013182578 2013-09-03
JP2013-272944 2013-12-27
JP2013272944 2013-12-27

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US14/490,444 Continuation US9264683B2 (en) 2013-09-03 2014-09-18 Decoding device and decoding method, encoding device, and encoding method

Publications (1)

Publication Number Publication Date
WO2015033809A1 true WO2015033809A1 (ja) 2015-03-12

Family

ID=52628287

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2014/072104 WO2015033809A1 (ja) 2013-09-03 2014-08-25 復号装置および復号方法、並びに符号化装置および符号化方法

Country Status (10)

Country Link
EP (2) EP3783900A1 (ja)
JP (2) JP6651848B2 (ja)
KR (1) KR20160052459A (ja)
CN (2) CN104662911B (ja)
BR (1) BR112015006711B1 (ja)
IN (1) IN2015DN01681A (ja)
MX (1) MX343609B (ja)
MY (1) MY184223A (ja)
TW (2) TWI646828B (ja)
WO (1) WO2015033809A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015126469A (ja) * 2013-12-27 2015-07-06 株式会社東芝 画像処理装置、画像処理方法及び画像処理プログラム
JP2018515018A (ja) * 2015-04-17 2018-06-07 クアルコム,インコーポレイテッド 高ダイナミックレンジおよび広色域ビデオコーディングのためのダイナミックレンジ調整
US11128878B2 (en) 2015-09-21 2021-09-21 Qualcomm Incorporated Fixed point implementation of range adjustment of components in video coding

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6817961B2 (ja) * 2015-12-14 2021-01-20 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置及び三次元データ復号装置
CN112702529B (zh) * 2020-12-29 2022-07-08 杭州海康机器人技术有限公司 云台相机配置方法、装置及可读存储介质和电子设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007023698A1 (ja) * 2005-08-26 2007-03-01 Matsushita Electric Industrial Co., Ltd. 多重化方法および記録媒体
WO2010023884A1 (ja) * 2008-08-29 2010-03-04 パナソニック株式会社 色信号変換装置、映像表示装置、色信号変換方法、映像表示方法及び画像データ

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6775417B2 (en) * 1997-10-02 2004-08-10 S3 Graphics Co., Ltd. Fixed-rate block-based image compression with inferred pixel values
US8218625B2 (en) * 2004-04-23 2012-07-10 Dolby Laboratories Licensing Corporation Encoding, decoding and representing high dynamic range images
WO2006106453A1 (en) * 2005-04-04 2006-10-12 Koninklijke Philips Electronics N.V. Color conversion unit for reduced fringing
CN100596200C (zh) * 2007-04-27 2010-03-24 华为技术有限公司 图像压缩方法及图像编码器
JP4697557B2 (ja) * 2009-01-07 2011-06-08 ソニー株式会社 符号化装置、符号化方法、記録媒体及び画像処理装置
WO2010105036A1 (en) * 2009-03-13 2010-09-16 Dolby Laboratories Licensing Corporation Layered compression of high dynamic range, visual dynamic range, and wide color gamut video
TWI521973B (zh) * 2011-04-15 2016-02-11 杜比實驗室特許公司 高動態範圍影像的編碼、解碼及表示
TWI606718B (zh) * 2012-01-03 2017-11-21 杜比實驗室特許公司 規定視覺動態範圍編碼操作及參數

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007023698A1 (ja) * 2005-08-26 2007-03-01 Matsushita Electric Industrial Co., Ltd. 多重化方法および記録媒体
WO2010023884A1 (ja) * 2008-08-29 2010-03-04 パナソニック株式会社 色信号変換装置、映像表示装置、色信号変換方法、映像表示方法及び画像データ

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
"HEVC version 1,'' JCTVC-M0 4 32_v3", 18 April 2013
SALLY HATTORI ET AL.: "Signalling of Luminance Dynamic Range in Tone mapping information SEI", JOINT COLLABORATIVE TEAM ON VIDEO CODING (JCT-VC) OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11 10TH MEETING, 11 July 2012 (2012-07-11), STOCKHOLM, SE, XP030112511 *
See also references of EP2966869A4

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015126469A (ja) * 2013-12-27 2015-07-06 株式会社東芝 画像処理装置、画像処理方法及び画像処理プログラム
JP2018515018A (ja) * 2015-04-17 2018-06-07 クアルコム,インコーポレイテッド 高ダイナミックレンジおよび広色域ビデオコーディングのためのダイナミックレンジ調整
US11128878B2 (en) 2015-09-21 2021-09-21 Qualcomm Incorporated Fixed point implementation of range adjustment of components in video coding

Also Published As

Publication number Publication date
BR112015006711A2 (pt) 2017-07-04
MX343609B (es) 2016-11-14
IN2015DN01681A (ja) 2015-07-03
EP3783900A1 (en) 2021-02-24
KR20160052459A (ko) 2016-05-12
TWI713355B (zh) 2020-12-11
EP2966869A4 (en) 2017-01-11
JP6651848B2 (ja) 2020-02-19
MX2015002589A (es) 2015-07-09
CN110012297B (zh) 2022-03-01
JP2020036368A (ja) 2020-03-05
JPWO2015033809A1 (ja) 2017-03-02
EP2966869A1 (en) 2016-01-13
TW201921940A (zh) 2019-06-01
TW201524200A (zh) 2015-06-16
CN104662911A (zh) 2015-05-27
MY184223A (en) 2021-03-27
BR112015006711B1 (pt) 2023-03-14
JP6881555B2 (ja) 2021-06-02
TWI646828B (zh) 2019-01-01
EP2966869B1 (en) 2020-11-18
CN110012297A (zh) 2019-07-12
CN104662911B (zh) 2019-05-10

Similar Documents

Publication Publication Date Title
US10595034B2 (en) Decoding device and decoding method, and coding device and coding method
US10798398B2 (en) Decoding device and decoding method, encoding device, and encoding method
JP6881555B2 (ja) 復号装置および復号方法
JP6287035B2 (ja) 復号装置および復号方法
US20190385276A1 (en) Image processing apparatus and image processing method
US20190335191A1 (en) Image processing device and image processing method
US20200288123A1 (en) Image processing apparatus and image processing method
US10595021B2 (en) Image processing device and method
US20170099501A1 (en) Image decoding device and method
WO2015053116A1 (ja) 復号装置および復号方法、並びに、符号化装置および符号化方法
JP6477930B2 (ja) 符号化装置および符号化方法

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2015507842

Country of ref document: JP

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: MX/A/2015/002589

Country of ref document: MX

WWE Wipo information: entry into national phase

Ref document number: 2014838854

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 20157007337

Country of ref document: KR

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: IDP00201501696

Country of ref document: ID

REG Reference to national code

Ref country code: BR

Ref legal event code: B01A

Ref document number: 112015006711

Country of ref document: BR

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 14838854

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 112015006711

Country of ref document: BR

Kind code of ref document: A2

Effective date: 20150325