WO2020079900A1 - 符号化装置、符号化方法、復号装置 - Google Patents

符号化装置、符号化方法、復号装置 Download PDF

Info

Publication number
WO2020079900A1
WO2020079900A1 PCT/JP2019/027861 JP2019027861W WO2020079900A1 WO 2020079900 A1 WO2020079900 A1 WO 2020079900A1 JP 2019027861 W JP2019027861 W JP 2019027861W WO 2020079900 A1 WO2020079900 A1 WO 2020079900A1
Authority
WO
WIPO (PCT)
Prior art keywords
control area
image data
rate control
rate
encoding
Prior art date
Application number
PCT/JP2019/027861
Other languages
English (en)
French (fr)
Inventor
洸 鎌田
朗史 三嶋
勝俊 安藤
Original Assignee
ソニー株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニー株式会社 filed Critical ソニー株式会社
Priority to US17/277,966 priority Critical patent/US20210350581A1/en
Priority to JP2020552528A priority patent/JPWO2020079900A1/ja
Priority to CN201980066603.2A priority patent/CN112823516A/zh
Priority to EP19874304.9A priority patent/EP3869801A4/en
Priority to KR1020217010353A priority patent/KR20210071986A/ko
Publication of WO2020079900A1 publication Critical patent/WO2020079900A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/115Selection of the code volume for a coding unit prior to coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167Position within a video image, e.g. region of interest [ROI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Definitions

  • the present technology relates to an encoding device, an encoding method, and a decoding device, and particularly to a technique for dividing one image into a plurality of areas for encoding.
  • a technique is known in which one image is divided into a plurality of regions, encoded, decoded, and then combined and displayed.
  • the division boundary may be noticeable on the display image.
  • an overlapping portion is created when dividing an image, and when displaying, a gradation is blended to an overlapping portion of adjacent images to perform blending. By doing so, a method of making the division boundary invisible is known.
  • Patent Documents 1 and 2 cannot be used.
  • the present technology proposes a method that prevents the division boundary from being conspicuous on the display image and does not make the data amount excessive.
  • An encoding device includes an encoding processing unit that performs an encoding process on image data to be processed, and a rate control area that is near a division boundary when dividing the image data to be processed into a plurality of regions.
  • the control unit controls the encoding process so that the bit rate is higher than that in areas other than the rate control area.
  • the rate control area is set as an area in the vicinity of a division boundary when one image is divided.
  • the data forming the rate control area has a larger amount of information than the other areas in the image.
  • the encoding processing unit performs compression encoding processing, and the control unit, for the rate control area, the compression rate of the compression encoding processing for the areas other than the rate control area. It is conceivable to instruct the compression encoding process at a lower compression rate. That is, the data in the rate control area near the division boundary is compressed at a low compression rate to increase the bit rate.
  • control unit may perform a process of setting the rate control area based on a division boundary of the image data to be processed. That is, the control unit sets the rate control area.
  • the control unit sets a division boundary of the image data to be processed, sets the rate control area based on the division boundary, and the rate control area is set to the above. It is conceivable to instruct the encoding processing unit to execute the encoding processing on the image data to be processed by instructing the bit rate to be higher than that in areas other than the rate control area. That is, the division boundary is set and the rate control area is set, and then the rate control area is designated and the encoding process is executed.
  • control unit may control the image data that has been subjected to the encoding process so as to be treated as a plurality of image data divided at a set division boundary. Conceivable. That is, after the compression processing is performed on the entire original image data, control is performed so that a plurality of divided image data are stored or transmitted.
  • the control unit sets a division boundary of the image data to be processed, divides the image data based on the division boundary, and sets the rate control area for each divided area. It is conceivable to set and cause the encoding processing unit to execute the encoding processing. That is, after setting the division boundary and dividing the area, the rate control area is set for each divided area, and the rate control area is designated for each divided area so that the encoding process is executed.
  • the rate control area includes at least a block in contact with the division boundary when a block including a plurality of pixel data is used as an encoding processing unit. That is, at least the block that is in contact with the division boundary is used as a rate control area, and those blocks have a high bit rate.
  • “contacting the division boundary” means a state where one side of the block forms the division boundary. That is, the block in contact with the division boundary is a block at the outer edge in the division area, and a block in which another adjacent division area exists.
  • the rate control area when a block including a plurality of pixel data is used as an encoding processing unit, the rate control area includes a plurality of block rows continuous from a row of blocks in contact with a division boundary, Alternatively, it is conceivable that a plurality of block rows continuous from the row of blocks in contact with the division boundary are included. That is, at least the range extending from the row or column of the block that is in contact with the division boundary to the plurality of rows or columns is set as the rate control area, and those blocks have a high bit rate.
  • the control unit when a block composed of a plurality of pixel data is used as an encoding processing unit, the control unit performs compression encoding of the first compression rate in the rate control area. It is conceivable that control is performed such that a block in which the compression is performed and a block in which the compression encoding of the second compression rate is performed are generated. In the block corresponding to the rate control area, there is a block for which compression encoding with a different compression rate is instructed.
  • the control unit variably sets a block corresponding to the rate control area when a block including a plurality of pixel data is used as an encoding processing unit. . That is, the rate control area is not fixedly set, but the rate control area is variably set by a predetermined algorithm.
  • the control unit variably sets the compression rate instructing the encoding processing unit regarding the rate control area. That is, the compression rate of the rate control area is not fixedly set, but is set variably by a predetermined algorithm.
  • the rate control area is set such that the number of block rows along the horizontal division boundary and the number of block columns along the vertical division boundary in the rate control area are different. That is, the number of block rows and the number of block columns forming the rate control area are made different, and the horizontal and vertical ranges of the rate control area are made different.
  • the control unit instructs the encoding processing unit on a compression rate for instructing the encoding processing unit to perform blocks along the horizontal division boundary in the rate control area, and to indicate the encoding processing unit for blocks along the vertical division boundary. It is possible to make it different from the compression rate. That is, among the blocks forming the rate control area, the horizontal compression block and the vertical compression block have different compression rates.
  • the encoding method is such that, regarding image data to be processed, a bit rate of a rate control area in the vicinity of a division boundary when the image data is divided into a plurality of areas is smaller than that of the rate control area other than Encoding processing is performed so that the height becomes higher.
  • the data amount forming the rate control area has a larger amount of information than the other areas in the image.
  • a decoding device is a plurality of pieces of image data serving as a plurality of divided areas that form one image, and each of the plurality of pieces of image data is the above-described rate control area set near a division boundary when divided.
  • a plurality of decoding processing units that perform decoding corresponding to a plurality of image data that have been encoded so that the bit rate is higher than that in areas other than the rate control area, and a plurality of decoding processing units that are decoded by the plurality of decoding processing units.
  • a display control unit that executes display as image data that composes image data to form one image.
  • FIG. 3 is an explanatory diagram of an image to be processed and a divided area according to the embodiment.
  • FIG. 3 is a block diagram of an image processing device that performs a decoding process according to an embodiment. It is explanatory drawing of the rate control area of 1st Embodiment. It is a flowchart of the encoding process of the first embodiment. It is a flow chart of encoding processing of a 2nd embodiment. It is explanatory drawing of the rate control area of 3rd Embodiment. It is explanatory drawing of the rate control area of 4th Embodiment.
  • FIG. 1 shows the configuration of an image processing apparatus 1 that performs image data encoding processing.
  • the image processing device 1 includes, for example, an encoding device 10, a storage unit 13, a communication unit 14, an operation unit 15, and an image source 16.
  • the encoding device 10 is composed of a compression encoder 11 and a controller 12.
  • the image source 16 indicates a part that supplies the image data IDT (moving image or still image) to be processed in the encoding process to the encoding device 10.
  • a storage device that stores the image data IDT in the image processing device 1 is an example of the image source 16.
  • a receiving device for image data transmitted from an external device in a wired or wireless manner is also an example of the image source 16.
  • a reproducing device that reads out the image data IDT from a storage medium such as a memory card, an optical disk, or a magnetic tape, an HDD (Hard Disk Drive), or the like is also an example of the image source 16.
  • the image data IDT from the image source 16 is supplied to the compression encoder 11, and the compression encoder 11 performs image compression encoding.
  • the compression encoder 11 performs image compression encoding.
  • FIG. 2 shows a configuration example of the compression encoder 11 in the case of performing compression encoding of the JPEG2000 standard.
  • the input image data IDT is wavelet-transformed by the wavelet transform unit 31, and is input to an EBCOT (Embedded Block Coding with Optimal Truncation) 33 through the quantization processing in the quantization unit 32.
  • the EBCOT 33 has a configuration as a bit plane encoder 35 and an arithmetic encoder 36. With this configuration, the wavelet-transformed data is quantized and then subjected to entropy coding by the EBCOT 33. That is, the EBCOT 33 performs encoding in code block units, which are rectangular areas defined on the wavelet transform coefficients. Each code block is decomposed into bit planes by the bit plane encoder 35, and classified into three encoding passes by the coefficient bit modeling processing. Then, compression processing is performed by the arithmetic encoder 36 for each encoding pass.
  • the compression encoder 11 is provided with a configuration as the rate controller 34, and the quantization unit 32 and the EBCOT 33 are controlled by the rate controller 34, whereby the compression rate can be set for each data unit of the compression process.
  • the controller 12 instructing the rate controller 34 of the information of the rate control area and the compression rate
  • the rate controller 34 accordingly instructs the quantization section 32 and the EBCOT 33 to perform necessary compression processing. Will be executed.
  • the above is merely an example of the compression encoder 11, and, for example, MPEG4, H.264 or the like.
  • the configuration when another compression method such as H.264 / MPEG-4 AVC or JPEG is adopted is different.
  • the compressed image data cIDT compression-coded by such a compression encoder 11 is supplied to the storage unit 13 of FIG. 1 and stored in the storage medium.
  • the compressed image data cIDT compressed and encoded by the compression encoder 11 can be transmitted to the external device by the communication unit 14.
  • the recording unit 13 may be a flash memory built in the image processing apparatus 1, or may be a removable memory card (for example, a portable flash memory) and a card recording / reproducing unit that performs recording / reproducing access to the memory card. It may be in the form. Further, it may be realized as an HDD or the like as a form built in the main body 2.
  • the communication unit 14 performs wired or wireless data communication or network communication with an external device, and performs image data communication with an external display device, recording device, reproducing device, or the like, for example. Further, the communication unit 14 as a network communication unit performs communication by various networks such as the Internet, home network, LAN (Local Area Network), etc., and transmits various data to and from servers, terminals, cloud servers, etc. on the network. Transmission and reception may be performed.
  • networks such as the Internet, home network, LAN (Local Area Network), etc.
  • the controller 12 is composed of, for example, a microcomputer (arithmetic processing device) including a CPU (Central Processing Unit), a ROM (Read Only Memory), a RAM (Random Access Memory), a flash memory, and the like.
  • the CPU executes the program stored in the ROM or the flash memory to control the compression encoding process.
  • the RAM is used as a work area when the CPU processes various data, and is used for temporarily storing data, programs, and the like.
  • the ROM and flash memory are used to store an OS (Operating System) for the CPU to control each unit, various processing parameters, programs for various operations, and the like.
  • the controller 12 may perform, for example, division setting of the image data IDT, setting of a rate control area in the image data IDT, and instruction of a rate control area and a compression rate to the compression encoder 11. Based on these controls, as will be described later, the compression encoding process is performed so that the bit rate of the rate control area in the image data IDT is higher than that of areas other than the rate control area.
  • the rate control area is an area in the vicinity of the division boundary when the image data is divided into a plurality of areas, and may be fixedly set or set by the controller 12, for example. A specific example of the rate control area will be described later.
  • the controller 12 acquires and analyzes the image data IDT of the image source 16, and sets the division of the image data IDT according to the analysis result of the image data IDT, the setting of the rate control area in the image data IDT, and the rate for the compression encoder 11. It is assumed that the control area and compression rate are specified.
  • the operation unit 15 collectively shows an operation device for inputting an operation of a user who uses the image processing apparatus 1.
  • the user can perform various operation inputs, and the controller 12 can execute processing according to the operation.
  • the controller 12 performs the division setting of the image data IDT, the setting of the rate control area in the image data IDT, the instruction of the rate control area and the compression rate to the compression encoder 11 according to these user operations.
  • the image data IDT forming one image as a still image or a moving image is compression-encoded, but at the stage of being processed by the storage unit 13 or the communication unit 14, a plurality of divided areas It is supposed to be treated as image data divided into.
  • the image data IDT of FIG. 1 is divided into four divided image data PP1, PP2, PP3, PP4, and compressed image data cPP1, cPP2, cPP3 corresponding to these divided image data PP1, PP2, PP3, PP4.
  • CPP4 are stored in the storage unit 13 or transmitted from the communication unit 14 to an external device.
  • FIG. 3A shows an example of image data IDT that constitutes one image.
  • the image data is 8K ⁇ 4K, and is composed of 8K (7680 pixels) in the horizontal direction and 4K (3840 pixels) in the vertical direction.
  • FIG. 3B shows images of the four pieces of divided image data PP1, PP2, PP3, PP4.
  • These divided image data PP1, PP2, PP3, PP4 are 4K ⁇ 2K, and are configured by 4K (3840 pixels) in the horizontal direction and 2K (1920 pixels) in the vertical direction.
  • compressed image data cIDT (cPP1, cPP2, cPP3, cPP4) that is compression-encoded with respect to 4K ⁇ 2K divided image data PP1, PP2, PP3, PP4 in this way, 4K which is popular at the time of decoding
  • a ⁇ 2K compatible decoder can be used.
  • a configuration example of the image processing device 2 that inputs the compressed image data cIDT (for example, four compressed image data cPP1, cPP2, cPP3, cPP4) compressed and encoded by the above image processing device 1 and decodes the image for image display. Is shown in FIG. 4A.
  • the image processing device 2 has a decoding device 20, a display unit 26, and an image source 27.
  • the decoding device 20 is composed of four decoders 21, 22, 23, 24 and a display controller 25.
  • the image source 27 indicates a portion that supplies the compressed image data cIDT to be processed in the decoding process to the decoding device 20.
  • a storage device that stores the compressed image data cIDT in the image processing device 2 is an example of the image source 27.
  • a receiving device for image data transmitted from an external device in a wired or wireless manner is also an example of the image source 27.
  • a reproducing device that reads out the image data IDT from a storage medium such as a memory card, an optical disk, or a magnetic tape, an HDD (Hard Disk Drive), or the like is also an example of the image source 27.
  • the image source 27 supplies, for example, the compressed image data cPP1, cPP2, cPP3, cPP4 divided into four to the four decoders 21, 22, 23 and 24 in parallel, respectively.
  • the decoders 21, 22, 23, 24 are decoders corresponding to 4K ⁇ 2K, for example, according to the JPEG2000 standard. Corresponding decryption is performed. Of course, this is just an example, and it goes without saying that the decoder is compatible with encoding.
  • the compressed image data cPP1, cPP2, cPP3, and cPP4 are decompressed and decoded in a one-to-one correspondence, and the divided image data PP1, PP2, PP3 as the decoding result are obtained.
  • PP4 is obtained.
  • the divided image data PP1, PP2, PP3, PP4 are supplied to the display controller 25.
  • the display controller 25 synthesizes the divided image data PP1, PP2, PP3, PP4 to generate the original image data IDT, and drives the display of the display unit 26 based on the image data IDT. As a result, the display unit 26 displays the image of the original image data IDT that is obtained by combining the divided image data PP1, PP2, PP3, PP4 as shown in FIG. 4B.
  • the display unit 26 is assumed to be a display device using self-luminous elements such as LEDs as pixels.
  • the display device is not limited to the LED, and may be another display device such as a display using an organic EL element.
  • these self-luminous display devices such as a tiling display, are assumed to be display devices in which units of predetermined pixel units are arranged in a tile shape to form a screen.
  • the display device is assumed to be a display device that does not perform overlap display such as that performed by a projector in a joint portion of images.
  • the image processing device 1 divides the original image data IDT to generate compressed image data cIDT (cPP1, cPP2, cPP3, cPP4) for each divided area. Further, the image processing device 2 (decoding device 20) decodes the compressed image data cIDT (cPP1, cPP2, cPP3, cPP4), combines them, and displays them.
  • a reproduction system can be formed by using, for example, a 4K ⁇ 2K decoder.
  • the joint portion of the image that is, the portion of the division boundary dv
  • the image quality may deteriorate.
  • the compression error increases as the compression rate is increased and the bit rate is decreased, and in the vicinity of the division boundary dv, the error in the divided area of one image and the other divided area. It is considered that the error in 1 is synergistic and a large difference occurs on the image.
  • the joints are more conspicuous than in a complicated image in which brightness and color change greatly. It becomes easier.
  • FIG. 5 shows an example of the rate control area.
  • FIG. 5 shows divided image data PP1, PP2, PP3, PP4 divided at the division boundary dv.
  • One block separated by a line is a block BK.
  • the block BK is a unit of compression processing and is, for example, 8 ⁇ 8 pixels. This is an example, and the block BK as a unit of compression processing may be 2 ⁇ 2 pixels, 4 ⁇ 4 pixels, 16 ⁇ 16 pixels, or the like.
  • the range of the block BK hatched is the rate control area.
  • the range of the upper and lower one-row blocks BK along the horizontal division boundary dv and the left and right one-column blocks BK along the vertical division boundary dv is the range of the rate control area.
  • the areas other than the rate control area are called "normal processing areas”.
  • the range of the block BK without the hatched portion is the normal processing area.
  • "row" or “column” refers to a horizontal arrangement of blocks BK or a vertical arrangement.
  • the normal processing area is compression-encoded at the compression rate RN
  • the rate control area is compression-encoded at the compression rate R1.
  • RN > R1.
  • the compression rate RN may be considered as the compression rate that is originally applied to the entire image. That is, by compressing and coding the normal processing area at the compression rate RN, the purpose of compression is to suppress the bit rate to some extent, but for the rate control area, compression coding is performed at the compression rate R1 lower than the compression rate RN. By doing so, the bit rate is made higher than the normal processing area. As a result, the compression error is suppressed at the division boundary dv. By suppressing the compression error in each block BK of the rate control area that is in contact with the division boundary dv, it is possible to solve the problem that the joints are conspicuous due to the overlap of the errors when they are combined and displayed.
  • FIG. 6 shows a processing example of the controller 12 that causes the compression encoder 11 to execute such encoding processing.
  • the state of the image data is schematically shown on the right side of each step.
  • the controller 12 identifies the image data IDT to be processed in step S101. That is, the image data IDT to be transferred from the image source 16 to the compression encoder 11 is specified.
  • step S102 the controller 12 makes division settings for the image data IDT to be processed. That is, the division boundary dv is set so that the division area dv can be divided.
  • step S103 the controller 12 sets the rate control area RCA (hatched portion) based on the division boundary dv. For example, as shown in FIG. 5, the range of a block in one row and one column in contact with the division boundary dv is set as a rate control area RCA.
  • step S104 the controller 12 causes the compression encoder 11 to perform compression encoding on the image data IDT.
  • the controller 12 notifies the compression encoder 11 of the block BK corresponding to the rate control area RCA, and compression-encodes the block BK of the normal processing area at the compression rate RN to obtain the block corresponding to the rate control area RCA.
  • the compression encoder 11 is instructed to perform compression encoding at the compression rate R1.
  • the rate controller 34 receives this instruction, and the quantizing unit 32 and the EBCOT 33 execute the compression encoding of the compression rate according to the instruction for each block.
  • the controller 12 divides the image at the division boundary dv in step S105, and stores the compressed image data cIDT (for example, the compressed image data cPP1, cPP2, cPP3, cPP4) of each divided image in the storage unit. 13 or the communication unit 14 controls to be transmitted to an external device.
  • the compressed image data cIDT having a high bit rate is obtained in the rate control area RCA.
  • Such compressed image data cIDT is decoded and synthesized by the image processing device 2 having the configuration of FIG. 4, for example, and the image of the original image data IDT is displayed. At this time, the conspicuous joint at the division boundary dv is resolved.
  • FIG. 7 shows a processing example of the controller 12 as the second embodiment. Also in FIG. 7, the state of the image data is schematically shown on the right side of each step.
  • the controller 12 identifies the image data IDT to be processed in step S101. Then, in step S102, the controller 12 performs division setting for the image data IDT to be processed. That is, the division boundary dv is set so that the division area dv can be divided. The above is the same as in FIG.
  • the controller 12 performs image division in step S110. That is, the controller 12 divides the image data IDT based on the division boundary dv to form divided image data PP1, PP2, PP3, PP4 for each divided area.
  • the controller 12 sets the rate control area RCA (hatched portion) based on the division boundary dv.
  • the rate control area RCA hatchched portion
  • step S112 the controller 12 causes the compression encoder 11 to sequentially perform compression encoding on the divided image data PP1, PP2, PP3, PP4.
  • the controller 12 notifies the rate control area RCA for each of the divided image data PP1, PP2, PP3, PP4, and performs compression encoding of the block BK in the normal processing area at the compression rate RN to obtain the rate control area RCA.
  • the compression encoder 11 is instructed to perform compression encoding at the compression rate R1. Further, the controller 12 instructs the compression encoder 11 to transfer the compressed image data cIDT (cPP1, cPP2, cPP3, cPP4) to the storage unit 13 or the communication unit 14 according to the completion of the compression process.
  • the compression encoder 11 under the control of the rate controller 34, for example, when the divided image data PP1 is compressed, the compression processing is performed so that the compression rate becomes low for the block BK of the rate control area RCA for the divided image data PP1. become. Then, the compressed image data cPP1 is transferred to and stored in the storage unit 13. Alternatively, it is transferred to the communication unit 14 and transmitted to an external device. Such processing is sequentially performed on the divided image data PP2, PP3, PP4.
  • the compressed image data cIDT (cPP1, cPP2, cPP3, cPP4) whose bit rate is increased in the rate control area RCA is obtained.
  • Such compressed image data cIDT is decoded and synthesized by the image processing device 2 having the configuration of FIG. 4, for example, and the image of the original image data IDT is displayed. At this time, the conspicuous joint at the division boundary dv is resolved.
  • FIG. 8 shows the rate control area of the third embodiment.
  • FIG. 8 shows a plurality of block rows (two rows in each case in this case, two rows in each case) continuous from a row of blocks (horizontal arrangement of blocks BK) in contact with the horizontal division boundary dv, and a block in contact with the vertical division boundary dv.
  • a range of a plurality of block columns two columns each on the left and right in this case
  • a column a vertical arrangement of blocks BK
  • the rate control area may be set in a range of a plurality of rows and a plurality of columns as seen from the division boundary dv as shown in 2 rows and 2 columns in FIG.
  • 2 rows and 2 columns is an example, and 3 rows and 3 columns, 4 rows and 4 columns, or more rows and columns can be considered.
  • the rate control area of the fourth embodiment is shown in FIG. Also in FIG. 9, a plurality of block rows continuous from the row of blocks contacting the horizontal division boundary dv (two rows in each case, upper and lower in this case), and a plurality of block columns continuous from the column of blocks contacting the vertical division boundary dv ( In this case, the range of the left and right two columns) is set as the rate control area.
  • areas having different compression rates are set.
  • the block BK which is in contact with the division boundary dv is an area having a compression rate R1
  • the block BK which is not in contact with the division boundary dv and which is the second row or the second column from the division boundary dv is an area having a compression rate R2.
  • the block BK closest to the division boundary dv has a high bit rate, and the bit rate decreases as the distance from the division boundary dv increases.
  • the compression rate is set to two stages of the compression rates R1 and R2, but the compression rate is set to three stages and four stages, and the bit rate increases as the distance from the division boundary dv increases in more stages. It can also be set to lower.
  • the block of 6 rows and 6 columns is set as the rate control area, and the compression rate is gradually increased to R1, R2, R3 (however, RN>R3>R2> R1) every 2 rows and 2 columns as the distance from the division boundary dv increases. May be.
  • the variation width of the compression rate, the number of stages, and the number of rows / columns of each compression rate can be variously considered.
  • the bit rate is gradually increased toward the division boundary dv, but this is also effective in making the joints of the images inconspicuous.
  • the controller 12 informs the compression encoder 11 of the compression ratios R1, R2, ...
  • the block BK, the block BK of the compression rate R2, ... Are designated.
  • the rate control area of the fifth embodiment is shown in FIGS. 10A and 10B.
  • FIG. 10A shows the compression rate R1 for the block BK in the rate control area
  • FIG. 10B shows the compression rate R2 for the block BK in the same rate control area.
  • the controller 12 does not change the setting of the rate control area, but changes the compression rate applied to the rate control area.
  • the controller 12 analyzes the image data IDT, and particularly determines the change tendency of the brightness and color around the division boundary dv.
  • a relatively high compression rate R2 lower bit rate
  • FIG. 10B a relatively high compression rate
  • R1 higher bit rate
  • the compression rate of the rate control area may be variably set according to the required data size. If the data size is required to be as small as possible, a relatively high compression rate R2 (lower bit rate) is selected as shown in FIG. 10B.
  • the controller 12 selects the compression rate of the rate control area according to the user operation. For example, the user gives an instruction as to whether it is desirable to eliminate the problem of joints or reduce the amount of data. The controller 12 selects the compression rate accordingly.
  • rate control area may be variably set not only in two stages of compression rates R1 and R2 but also in three stages or more.
  • the rate control area of the sixth embodiment is shown in FIGS. 11A and 11B.
  • This is an example in which the range of the rate control area is switched as shown in FIGS. 11A and 11B, for example.
  • FIG. 11A one row and one column from the division boundary dv is used as a rate control area.
  • FIG. 11B 2 rows and 2 columns from the division boundary dv are used as the rate control area.
  • the controller 12 variably sets the range of the rate control area according to the image analysis result of the image data IDT or the user operation.
  • FIG. 11B is more advantageous than FIG. 11A in eliminating the problem of joints, while FIG. 11A is more advantageous in reducing the amount of data than FIG. 11B.
  • the 1st row and 1st column and the 2nd row and 2nd column are selected for the rate control area, this is an example.
  • an example in which 2 rows and 2 columns and 5 rows and 5 columns are selected can be considered.
  • the range of the rate control area may be selected in more stages. For example, it is possible to select 2 rows, 2 columns, 5 rows, 5 columns, and 7 rows and 7 columns.
  • the number of selectable matrices is not particularly limited, and the rate control area may be set with an appropriate number of rows and columns according to image analysis, user input, and the like. It is also desirable to change the range as the rate control area, for example, according to the image content. For example, it is conceivable to set the number of rows and the number of columns according to the range of the smooth image content near the division boundary dv.
  • the rate control area of the seventh embodiment is shown in FIGS. 12A and 12B.
  • FIG. 12A is an example in which the 1st row and 1st column from the division boundary dv is the rate control area and the compression rate is R1.
  • FIG. 12B is an example in which 2 rows and 2 columns from the division boundary dv are set as the rate control area and the compression rate is set as R2.
  • the controller 12 variably sets the range of the rate control area and the compression rate according to the image analysis result of the image data IDT and the user operation. This enables compression encoding according to the image content and the purpose of processing.
  • the rate control area of the eighth embodiment is shown in FIGS. 13A and 13B. This is also an example in which the range of the rate control area is switched, for example, as shown in FIGS. 13A and 13B.
  • the rate control area is divided into two rows from the horizontal division boundary dv and one column from the vertical division boundary dv. I am trying.
  • FIG. 13B one row from the horizontal division boundary dv and two columns from the vertical division boundary dv are used as the rate control area. That is, the range of the rate control area in the horizontal direction and the vertical direction is changed.
  • FIG. 13A is effective in the case of an image in which horizontal seams are conspicuous.
  • reducing the number of columns in the rate control area contributes to the reduction of the data amount.
  • 13B is effective in the case of an image in which vertical seams are conspicuous. In this case, reducing the number of rows in the rate control area contributes to the reduction of the data amount.
  • the rate control area for eliminating the joint is wide in the horizontal direction or the vertical direction depending on the image content, it is possible to eliminate the joint margin and reduce the data amount. Further, further advancing this idea, it is possible to consider that the rate control area is limited to only the block rows along the horizontal division boundary dv, or conversely only to the block columns along the vertical division boundary dv.
  • the rate control area of the ninth embodiment is shown in FIGS. 14A and 14B. This is an example of switching the compression rate of the rate control area.
  • the block BK along the horizontal division boundary dv has a compression rate R2
  • the block BK along the vertical division boundary dv has a compression rate R1.
  • the block BK along the horizontal division boundary dv has a compression rate R1
  • the block BK along the vertical division boundary dv has a compression rate R2.
  • the compression ratios R1 and R2 can be considered for the block BK of the corner portion that follows both the horizontal and vertical division boundaries dv, but it is low because the connection points are concentrated.
  • the bit rate may be increased as the compression rate R1.
  • FIG. 14B is effective in the case of an image in which horizontal joints are conspicuous
  • FIG. 14A is effective in the case of an image in which vertical joints are conspicuous.
  • increasing the compression rate of the other contributes to the reduction of the data amount.
  • FIGS. 13A and 13B a combination of the ideas of FIGS. 13A and 13B and the ideas of FIGS. 14A and 14B is also possible. That is, as shown in FIGS. 13A and 13B, the number of rows and columns in the horizontal and vertical directions is switched, and the compression rate is also switched between block rows in the horizontal direction and block columns in the vertical direction. For example, in the rate control area, if there are two rows and one column, the row compression rate R1 and the column compression rate R2 are set. In other cases, the one row and two columns row compression rate R2 and the column compression rate R1 are set. And so on. Of course, it may be possible to switch to more stages.
  • rate control areas of various embodiments and their modifications have been described above, various setting examples of the rate control areas can be considered.
  • a combination of a plurality of examples among the examples of FIGS. 5, 8, 9, 10A, 10B, 11A, 11B, 12A, 12B, 13A, 13B, 14A, and 14B is also possible.
  • Various types are assumed.
  • Each of these examples can also be applied to the case where the setting of the rate control area and the compression rate are switched according to the image content, user input, and the like.
  • the rate control area is set in the same manner (by the same rule) in each of the divided image data PP1, PP2, PP3, PP4, but the range of the rate control area and the compression rate are mutually different. It may be different.
  • the rate control area is set to 1 row and 1 column, and in the divided image data PP3, the rate control area is set to 2 row and 1 column.
  • the rate control area may be set to the compression ratio R1 in the first row and the first column, and in the divided image data PP3, the rate control area may be set to the second row and the first column in the compression ratio R2.
  • FIG. 15 exemplifies image data having a size of 10K ⁇ 4K.
  • a division boundary dv for dividing this into divided image data PP1, PP2, PP3, PP4, PP5, PP6 is set.
  • the divided image data PP1, PP2, PP4, PP5 are 4K ⁇ 2K image data
  • the divided image data PP3, PP6 are 2K ⁇ 2K image data.
  • the rate control area RCA indicated by the shaded area is set, and the compression rate is lowered and the bit rate is increased in that range, so that the joint is displayed when decoding and displaying. Can be eliminated.
  • the encoding device 10 includes a compression encoder 11 (encoding processing unit) that performs an encoding process on image data to be processed, and a vicinity of a division boundary when the image data to be processed is divided into a plurality of regions.
  • the controller 12 controls the encoding process so that the bit rate is higher than that of the area other than the rate control area (normal processing area).
  • the data amount forming the rate control area has a larger amount of information than the normal processing area in the image.
  • a high-quality image can be displayed in an image processing system that divides an image and encodes and decodes it. It is particularly suitable for large-screen display on a self-luminous display device such as an LED display.
  • the compression encoder 11 performs the compression encoding process, but the controller 12 instructs the compression encoding process at the compression rate lower than the compression rate for the normal processing area for the rate control area.
  • the controller 12 instructs the compression encoding process at the compression rate lower than the compression rate for the normal processing area for the rate control area.
  • the data in the rate control area near the division boundary is compressed at a low compression rate to increase the bit rate.
  • the normal processing area is compressed at a relatively high compression rate RN, and the rate control area is compressed at a relatively low compression rate R1 or R2. This increases the bit rate of image data in the rate control area as the amount of data after compression.
  • the compression error becomes conspicuous, and the error spreads in the vicinity of the division boundary, causing a phenomenon that the seam is visible.
  • the compression rate is reduced to increase the data amount and reduce the compression error. As a result, it is possible to avoid the phenomenon that the joint is conspicuous in the display image after decoding / combining.
  • the controller 12 performs the control process as shown in FIG. 6 or 7 in the embodiment, the rate controller 34 in the compression encoder 11 may perform the process.
  • the controller 12 performs processing for setting the rate control area based on the division boundary of the image data to be processed. (S103, S111).
  • the rate control area may be regularly set from the division boundary dv to blocks of the number of x rows or the number of y columns, or may be variably set according to a user operation or image content.
  • the rate control area may be fixedly set according to the image size, the size of the block BK, and the like.
  • the controller 12 sets the division boundary dv of the image data to be processed (S102 in FIG. 6), sets the rate control area based on the division boundary (S103), and regarding the rate control area,
  • the compression encoder 11 is made to execute the encoding process for the image data IDT to be processed by instructing the bit rate to be higher than the normal processing area (S104). That is, the division boundary dv is set to set the rate control area, and then the rate control area is instructed to execute the encoding process.
  • compression encoding is performed so that the compression rate is different in the rate control area.
  • division boundaries can be set according to the decoding system and display system devices and circuit configurations, and in that case, the rate control area can be set appropriately. Can be set.
  • the controller 12 has described an example in which the encoded image data is controlled to be treated as a plurality of image data divided at the set division boundary (FIG. 6). S105). That is, after the original image data IDT is entirely compressed, the plurality of divided compressed image data cIDTs (for example, compressed image data cPP1, cPP2, cPP3, cPP4) are stored and transmitted. As a result, the compressed image data cIDT of a plurality of divided areas joined at the time of decoding is prepared. The compressed image data cIDT has a high bit rate in the image data near the boundary to be joined.
  • the controller 12 sets the division boundary dv of the image data IDT to be processed (S102 of FIG. 7), divides the image data based on the division boundary (S110), and divides each divided area.
  • An example has been described in which the rate control area is set (S111) and the encoding process is executed by the compression encoder 11 (S112). Even in such processing, compression encoding is performed so that the compression rate is different in the rate control area. Also in this case, since the original image data can be arbitrarily divided into regions, division boundaries can be set according to the decoding system and display system devices and circuit configurations, and in that case, appropriate rate control can be performed. Area can be set.
  • the rate control area when the block BK made up of a plurality of pixel data is used as an encoding processing unit, the rate control area includes at least the block BK in contact with the division boundary. did. That is, the row or column of the block BK whose one side forms the division boundary is included in the rate control area.
  • FIG. 5 FIG. 8, FIG. 9, FIG. 10A, FIG. 10B, FIG. 11A, FIG. 11B, FIG. 12A, FIG. 12B, FIG. 13A, FIG. 13B, FIG. 14A, and FIG. BK (hatched portion) is a rate control area.
  • At least the block BK which is in contact with the division boundary is included in the rate control area and has a high bit rate, which is effective in preventing the conspicuous joint at the time of display after decoding. It should be noted that minimizing the rate control area for increasing the bit rate as shown in FIG. 5 is suitable for reducing the data amount.
  • a plurality of block rows continuous from a row of blocks in contact with the division boundary or continuous columns of blocks in contact with the division boundary is shown. That is, it is assumed that at least a row or a column of a block that is in contact with a division boundary is set as a rate control area over a plurality of rows or columns, and those blocks may have a high bit rate. For example, in the example of FIGS.
  • a plurality of rows or columns consecutive from the row or column of the block BK (hatched portion) in contact with the division boundary dv is the rate control area. There is. By increasing the bit rate by setting a certain range near the division boundary as the rate control area, it is effective to prevent the conspicuous joint at the time of display after decoding.
  • the controller 12 causes the block BK in which the compression coding of the compression ratio R1 is performed and the block BK in which the compression coding of the compression ratio R2 is performed in the rate control area.
  • the example in which the control is performed is described (see FIGS. 9, 14A, and 14B). That is, in the block BK corresponding to the rate control area, there is a block BK for which compression encoding with a different compression rate is instructed.
  • compression encoding is performed such that the bit rate gradually increases toward the division boundary as shown in FIG. This is also effective in preventing conspicuous joints in the display after decoding.
  • FIGS. 14A and 14B the compression rate is different between the blocks in the vertical direction and the horizontal direction, so that adaptive compression encoding according to the image is performed. As a result, there are cases where it is possible to meet the demands for higher image quality and data volume reduction.
  • the controller 12 variably sets the blocks corresponding to the rate control area. That is, the rate control area is not fixedly set, but the rate control area is variably set by a predetermined algorithm. For example, as in the examples described in FIGS. 11A and 11B, 12A and 12B, or 13A and 13B, the setting of the block BK that is the rate control area can be changed according to the analysis result of the image content. Alternatively, it is made variable according to a user operation. As a result, the rate control area is adaptively set according to the situation and compression coding is performed. Depending on the image contents, the joints may not be noticeable without widening the rate control area.
  • the controller 12 variably sets the compression rate instructing the compression encoder 11 for the rate control area. That is, the compression rate of the rate control area is not fixedly set, but is set variably by a predetermined algorithm. For example, as in the example described with reference to FIGS. 10A and 10B, the compression rate of the rate control area is made variable according to the analysis result of the image content, or is made variable according to the user operation. As a result, the compression rate is adaptively selected according to the situation and the compression encoding is performed. Depending on the image content, the joint may not be noticeable without reducing the compression rate so much. For such an image, increasing the compression rate of the rate control area is desirable in terms of data amount reduction.
  • the number of rows of blocks forming the rate control area is larger than the number of columns of blocks, it is advantageous to eliminate the problem of horizontal joints. Especially when the vertical joints are not noticeable, the number of columns is reduced to reduce the amount of data.
  • the compression encoder 11 when the division boundaries exist in the horizontal direction and the vertical direction of the image data to be processed, the compression encoder 11 is instructed about the blocks along the horizontal division boundaries in the rate control area.
  • An example has been described in which the rate and the compression rate instructing the compression encoder 11 for blocks along the vertical division boundary are made different. That is, among the blocks BK forming the rate control area, the horizontal row blocks BK and the vertical row blocks BK have different compression rates.
  • the compression rate R1 is set for the blocks BK arranged in the column direction
  • the compression rate R2 is set for the blocks BK arranged in the row direction. This is advantageous in eliminating the problem of vertical joints.
  • the blocks BK arranged in the row direction have a compression rate R2 higher than the compression rate R1, which is suitable for reducing the amount of data.
  • the compression rate R1 is set for the blocks BK arranged in the row direction
  • the compression rate R2 is set for the blocks BK arranged in the column direction. This is advantageous in eliminating the problem of horizontal joints.
  • the blocks BK arranged in the column direction have a compression rate R2 higher than the compression rate R1, which is suitable for reducing the amount of data. 13A and 13B and the ideas of FIGS.
  • compressed image data cIDT (for example, cPP1, cPP2, cPP3, cPP4) is input as a plurality of image data which are a plurality of divided areas forming one image. Each of them is coded so that the rate control area set near the division boundary dv at the time of division has a higher bit rate than the normal processing area.
  • a plurality of decoders (decoding processing units) 21, 22, 23, 24 for performing decoding are provided.
  • the decoding device 20 synthesizes a plurality of image data (for example, divided image data PP1, PP2, PP3, PP4) decoded by the plurality of decoders 21, 22, 23, 24 as image data forming one image.
  • a display controller (display control unit) 25 that executes display is provided.
  • the image data of the divided areas of which the bit rate has been increased in the rate control area is decoded, and is combined and displayed so as to be joined at the dividing boundaries. In this case, it is possible to display a high-quality image with no noticeable joint.
  • An encoding processing unit that performs an encoding process on the image data to be processed, With respect to the rate control area in the vicinity of the division boundary when the image data to be processed is divided into a plurality of areas, a control unit that controls the encoding processing so that the bit rate is higher than that in areas other than the rate control area. And an encoding device including.
  • the encoding processing unit performs compression encoding processing, The encoding device according to (1), wherein, for the rate control area, the control unit instructs a compression encoding process at a compression rate lower than a compression rate of the compression encoding process other than the rate control area.
  • the said control part is a coding apparatus as described in said (1) or (2) which performs the process which sets the said rate control area based on the division
  • the control unit sets a division boundary of the image data to be processed, and sets the rate control area based on the division boundary, The rate control area is instructed to have a bit rate higher than those of areas other than the rate control area, and the encoding processing unit is caused to execute the encoding processing on the image data to be processed.
  • the encoding device according to any one of 1.
  • the encoding device controls the image data subjected to the encoding process so as to be treated as a plurality of image data divided at a set division boundary.
  • the control unit sets a division boundary of the image data to be processed, divides the image data based on the division boundary, sets the rate control area for each divided area, and performs an encoding process by the encoding processing unit.
  • the encoding device according to any one of (1) to (3).
  • (7) When a block consisting of multiple pixel data is used as the encoding processing unit, The coding device according to any one of (1) to (6) above, wherein the rate control area includes at least a block in contact with a division boundary.
  • the rate control area includes a plurality of block rows continuous from a row of blocks in contact with the division boundary, or a plurality of block columns continuous from a column of blocks in contact with the division boundary in any one of (1) to (6) above. Encoding device described.
  • the control unit performs control so that a block in which compression coding of a first compression rate is performed and a block in which compression coding of a second compression rate is performed occur (1) To (8).
  • the said control part is a coding device in any one of said (1) to (9) which variably sets the block applicable to the said rate control area.
  • the rate control area is set such that the number of block rows along the horizontal division boundary and the number of block columns along the vertical division boundary in the rate control area are different from each other.
  • the encoding device When a block consisting of multiple pixel data is used as the encoding processing unit, The rate control area is set such that the number of block rows along the horizontal division boundary and the number of block columns along the vertical division boundary in the rate control area are different from each other.
  • the control unit instructs the encoding processing unit about a compression rate for blocks along horizontal division boundaries, and instructs the encoding processing unit for blocks along vertical division boundaries.
  • the encoding device according to any one of (1) to (12), wherein the compression rate is set to be different.
  • the encoding process is performed so that the bit rate becomes higher in the rate control area near the division boundary when the image data is divided into a plurality of areas. Encoding method.
  • a plurality of decoding processing units that perform decoding corresponding to a plurality of image data that have been subjected to encoding processing so that A decoding device, comprising: a display control unit configured to combine a plurality of image data decoded by the plurality of decoding processing units and display the image data as image data forming one image.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Abstract

符号化装置が、処理対象の画像データに対する符号化処理を行う符号化処理部と、処理対象の画像データを複数の領域に分割する際に分割境界の近傍となるレート制御エリアについては、レート制御エリア以外よりもビットレートが高くなるように符号化処理を制御する制御部とを備えるようにする。

Description

符号化装置、符号化方法、復号装置
 本技術は符号化装置、符号化方法、復号装置に関し、特に1つの画像を複数の領域に分割して符号化を行う場合の技術に関する。
 一つの画像を複数の領域に分割して符号化を行い、それらを復号してつなぎ合わせて表示させる技術が知られている。そのような画像表示システムでは、分割境界が表示画像上で目立ってしまうことがある。
 その問題を避けるため、マルチプロジェクション環境下では、下記特許文献1,2のように、画像を分割する際に重なり合う部分を作り、表示するときには隣接する画像の重なり合う部分に対してグラデーションをかけてブレンディングすることで、分割境界を見せなくする手法が知られている。
特開2004-147143号公報 特開2017-116950号公報
 しかしながら、1つの画素に表示する情報を複数の入力から得てブレンディングするような手法が使えないタイリング型ディスプレイのような表示デバイスにおいては、特許文献1,2のような手法を用いることができない。
 また、分割された画像全体をビットレートが上がるように符号化を行えば、復号し、つなぎ合わせた画像を表示するときの分割境界を見えにくくすることはできるが、画像全体のビットレートが上がるためにファイルサイズの増加や計算コストの増加を招いてしまう。
 そこで本技術は分割境界が表示画像上で目立つことを防止しつつデータ量を過大にしない手法を提案する。
 本技術に係る符号化装置は、処理対象の画像データに対する符号化処理を行う符号化処理部と、前記処理対象の画像データを複数の領域に分割する際に分割境界の近傍となるレート制御エリアについては、前記レート制御エリア以外よりもビットレートが高くなるように符号化処理を制御する制御部と、を備える。
 レート制御エリアは、1枚の画像を分割した際の分割境界の近傍の領域として設定されるものである。このレート制御エリアを構成するデータについては画像内の他のエリアよりも情報量が多くなるようにする。
 上記した本技術に係る符号化装置においては、前記符号化処理部は圧縮符号化処理を行い、前記制御部は、前記レート制御エリアについては、前記レート制御エリア以外に対する圧縮符号化処理の圧縮率よりも低い圧縮率での圧縮符号化処理を指示することが考えられる。
 即ち分割境界の近傍のレート制御エリアのデータは、低い圧縮率で圧縮処理されることでビットレートが高くなるようにする。
 上記した本技術に係る符号化装置においては、前記制御部は、前記処理対象の画像データの分割境界に基づいて前記レート制御エリアを設定する処理を行うことが考えられる。
 即ちレート制御エリアの設定は制御部が行うようにする。
 上記した本技術に係る符号化装置においては、前記制御部は、前記処理対象の画像データの分割境界を設定し、分割境界に基づいて前記レート制御エリアを設定し、前記レート制御エリアについては前記レート制御エリア以外よりもビットレートが高くなるように指示して前記処理対象の画像データに対する符号化処理を前記符号化処理部に実行させることが考えられる。
 即ち分割境界を設定してレート制御エリアを設定した上で、レート制御エリアを指示して符号化処理を実行させる。
 上記した本技術に係る符号化装置においては、前記制御部は、前記符号化処理が行われた画像データを、設定した分割境界で分割された複数の画像データとして扱われるように制御することが考えられる。
 即ち元の画像データ全体で圧縮処理がされた後に、分割された複数の画像データが記憶されたり送信されたりするように制御する。
 上記した本技術に係る符号化装置においては、前記制御部は、前記処理対象の画像データの分割境界を設定し、分割境界に基づいて画像データを分割し、分割領域毎に前記レート制御エリアを設定して符号化処理を前記符号化処理部に実行させることが考えられる。
 即ち分割境界を設定して領域を分割したうえで、それぞれの分割領域についてレート制御エリアを設定し、その分割領域毎にレート制御エリアを指示して符号化処理が実行されるようにする。
 上記した本技術に係る符号化装置においては、複数の画素データから成るブロックを符号化処理単位としたときに、前記レート制御エリアには、少なくとも分割境界に接するブロックが含まれることが考えられる。
 即ち少なくとも分割境界に接するブロックはレート制御エリアとして、それらのブロックはビットレートが高くなるようにする。
 なお「分割境界に接する」とは、ブロックの一辺が分割境界を形成している状態をいう。即ち分割境界に接するブロックとは、分割領域内の外縁のブロックであり、かつ隣接する他の分割領域が存在するブロックを指す。
 上記した本技術に係る符号化装置においては、複数の画素データから成るブロックを符号化処理単位としたときに、前記レート制御エリアには、分割境界に接するブロックの行から連続する複数ブロック行、又は分割境界に接するブロックの列から連続する複数ブロック列が含まれることが考えられる。
 即ち少なくとも分割境界に接するブロックの行又は列から複数の行又は列にわたる範囲がレート制御エリアとされ、それらのブロックはビットレートが高くなるようにする。
 上記した本技術に係る符号化装置においては、複数の画素データから成るブロックを符号化処理単位としたときに、前記制御部は、前記レート制御エリア内で、第1の圧縮率の圧縮符号化が行われるブロックと、第2の圧縮率の圧縮符号化が行われるブロックが生じるように制御することが考えられる。
 レート制御エリアに該当するブロックにおいて、異なる圧縮率による圧縮符号化が指示されるブロックが存在するようにする。
 上記した本技術に係る符号化装置においては、複数の画素データから成るブロックを符号化処理単位としたときに、前記制御部は、前記レート制御エリアに該当するブロックを可変設定することが考えられる。
 即ちレート制御エリアの設定を固定的に行うのではなく、所定のアルゴリズムによりレート制御エリアが可変設定されるようにする。
 上記した本技術に係る符号化装置においては、前記制御部は、前記レート制御エリアについて前記符号化処理部に指示する圧縮率を可変設定することが考えられる。
 即ちレート制御エリアの圧縮率の設定を固定的に行うのではなく、所定のアルゴリズムにより可変設定されるようにする。
 上記した本技術に係る符号化装置においては、分割境界が処理対象の画像データの水平方向と垂直方向に存在する場合に、複数の画素データから成るブロックを符号化処理単位としたときに、前記レート制御エリアにおける、水平方向の分割境界に沿ったブロック行の数と、垂直方向の分割境界に沿ったブロック列の数とが異なるように、前記レート制御エリアが設定されることが考えられる。
 即ちレート制御エリアを構成するブロック行の数とブロック列の数が異なるようにされ、レート制御エリアの水平方向と垂直方向の範囲が異なるようにする。
 上記した本技術に係る符号化装置においては、分割境界が処理対象の画像データの水平方向と垂直方向に存在する場合に、複数の画素データから成るブロックを符号化処理単位としたときに、前記制御部は、前記レート制御エリアにおける、水平方向の分割境界に沿ったブロックについて前記符号化処理部に指示する圧縮率と、垂直方向の分割境界に沿ったブロックについて前記符号化処理部に指示する圧縮率とを異なるようにすることが考えられる。
 即ちレート制御エリアを構成するブロックのうち、水平行のブロックと垂直列のブロックとで圧縮率が異なるようにする。
 本技術に係る符号化方法は、処理対象の画像データについて、当該画像データを複数の領域に分割する際に分割境界の近傍となるレート制御エリアについては、前記レート制御エリア以外よりもビットレートが高くなるように符号化処理をおこなう。
 これによりレート制御エリアを構成するデータについては画像内の他のエリアよりも情報量が多くなるようにする。
 本技術に係る復号装置は、一の画像を形成する複数の分割領域となる複数の画像データであって、それぞれが、分割された際の分割境界の近傍に設定されたレート制御エリアについては前記レート制御エリア以外よりもビットレートが高くなるように符号化処理が施された複数の画像データに対応して復号を行う複数の復号処理部と、複数の前記復号処理部により復号された複数の画像データを合成して一の画像を構成する画像データとして表示を実行させる表示制御部と、を備える。
 これによりレート制御エリアにおいてビットレートが高くされた分割領域の画像データが復号され、さらに分割境界でつなぎ合わされるように合成されて表示される。
本技術の実施の形態の符号化処理を行う画像処理装置のブロック図である。 実施の形態の圧縮エンコーダのブロック図である。 実施の形態の処理対象の画像と分割領域の説明図である。 実施の形態の復号処理を行う画像処理装置のブロック図である。 第1の実施の形態のレート制御エリアの説明図である。 第1の実施の形態の符号化処理のフローチャートである。 第2の実施の形態の符号化処理のフローチャートである。 第3の実施の形態のレート制御エリアの説明図である。 第4の実施の形態のレート制御エリアの説明図である。 第5の実施の形態のレート制御エリアの説明図である。 第6の実施の形態のレート制御エリアの説明図である。 第7の実施の形態のレート制御エリアの説明図である。 第8の実施の形態のレート制御エリアの説明図である。 第9の実施の形態のレート制御エリアの説明図である。 実施の形態の分割領域の他の例の説明図である。
 以下、実施の形態を次の順序で説明する。
<1.符号化処理を行う画像処理装置の構成>
<2.復号処理を行う画像処理装置の構成>
<3.第1の実施の形態の符号化処理>
<4.第2の実施の形態の符号化処理>
<5.第3から第9の実施の形態のレート制御エリア>
<6.まとめ及び変形例>
<1.符号化処理を行う画像処理装置の構成>
 図1は画像データの符号化処理を行う画像処理装置1の構成を示している。画像処理装置1は例えば符号化装置10、記憶部13、通信部14、操作部15、画像ソース16を有する。この例では符号化装置10は圧縮エンコーダ11とコントローラ12で構成されるものとしている。
 画像ソース16は符号化処理の処理対象とする画像データIDT(動画又は静止画)を符号化装置10に供給する部位を示している。例えば画像処理装置1内において画像データIDTを記憶する記憶装置が画像ソース16の一例となる。また外部装置からの有線又は無線により送信されてくる画像データの受信装置も画像ソース16の一例となる。さらに、例えばメモリカード、光ディスク、磁気テープなどの記憶媒体から画像データIDTを読み出す再生装置や、HDD(Hard Disk Drive)なども画像ソース16の一例となる。
 画像ソース16からの画像データIDTは圧縮エンコーダ11に供給され、圧縮エンコーダ11において画像圧縮符号化が行われる。
 圧縮エンコーダ11の具体例としては各種考えられるが、例えばJPEG2000規格の圧縮符号化を行う場合の圧縮エンコーダ11の構成例を図2に示す。
 圧縮エンコーダ11では、入力された画像データIDTはウェーブレット変換部31でウェーブレット変換され、量子化部32での量子化処理を介してEBCOT(Embedded Block Coding with Optimal Truncation)33に入力される。EBCOT33はビットプレーン符号化器35,算術符号化器36としての構成を有する。この構成により、ウェーブレット変換されたデータは、量子化されてからEBCOT33でエントロピー符号化を行うことになる。即ちEBCOT33では、ウェーブレット変換係数上に定義された矩形領域であるコードブロック単位で符号化が行われる。各コードブロックはビットプレーン符号化器35でビットプレーンに分解され、係数ビットモデリング処理によって、3つの符号化パスに分類される。そしてそれぞれの符号化パスについて算術符号化器36で圧縮処理が行われる。
 ここで、圧縮エンコーダ11にはレートコントローラ34としての構成を備え、レートコントローラ34によって量子化部32及びEBCOT33が制御されることで、圧縮処理のデータ単位毎に圧縮率を設定することができる。
 レートコントローラ34に対してコントローラ12により、レート制御エリアの情報や圧縮率が指示されることで、レートコントローラ34がそれに応じて圧縮率を量子化部32及びEBCOT33に指示し、必要な圧縮処理が実行されることになる。
 なお以上はあくまで圧縮エンコーダ11の一例であり、例えばMPEG4、H.264/MPEG-4AVC、JPEGなど他の圧縮方式を採用する場合の構成は異なる。
 例えばこのような圧縮エンコーダ11により圧縮符号化された圧縮画像データcIDTは、図1の記憶部13に供給されて記憶媒体に記憶される。
 或いは圧縮エンコーダ11により圧縮符号化された圧縮画像データcIDTは、通信部14により外部機器に送信することもできる。
 記録部13の形態は多様に考えられる。例えば記録部13は、画像処理装置1に内蔵されるフラッシュメモリでもよいし、着脱可能なメモリカード(例えば可搬型のフラッシュメモリ)と該メモリカードに対して記録再生アクセスを行うカード記録再生部による形態でもよい。また本体部2に内蔵されている形態としてHDDなどとして実現されることもある。
 通信部14は、外部機器との間のデータ通信やネットワーク通信を有線又は無線で行うもので、例えば外部の表示装置、記録装置、再生装置等の間で画像データの通信を行う。また通信部14は、ネットワーク通信部として、例えばインターネット、ホームネットワーク、LAN(Local Area Network)等の各種のネットワークによる通信を行い、ネットワーク上のサーバ、端末、クラウドサーバ等との間で各種データの送受信を行うようにしてもよい。
 コントローラ12は、例えばCPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、フラッシュメモリなどを備えたマイクロコンピュータ(演算処理装置)により構成される。
 CPUがROMやフラッシュメモリ等に記憶されたプログラムを実行することで圧縮符号化処理を制御する。
 RAMは、CPUの各種データ処理の際の作業領域として、データやプログラム等の一時的な格納に用いられる。
 ROMやフラッシュメモリ(不揮発性メモリ)は、CPUが各部を制御するためのOS(Operating System)や、各種の処理パラメータや、各種動作のためのプログラム等の記憶に用いられる。
 このコントローラ12は、例えば画像データIDTの分割設定、画像データIDTにおけるレート制御エリアの設定、圧縮エンコーダ11に対するレート制御エリアや圧縮率の指示などを行う場合がある。
 これらの制御に基づいて、後述のように、画像データIDTにおけるレート制御エリアについては、レート制御エリア以外よりもビットレートが高くなるようにする圧縮符号化処理が行われる。
 レート制御エリアとは、画像データを複数の領域に分割する際に分割境界の近傍となる領域であり、例えば固定的に決められていてもよいし、コントローラ12が設定してもよい。レート制御エリアの具体例は後述する。
 例えばコントローラ12は、画像ソース16の画像データIDTを取得し、解析し、画像データIDTの解析結果に応じて画像データIDTの分割設定、画像データIDTにおけるレート制御エリアの設定、圧縮エンコーダ11に対するレート制御エリアや圧縮率の指示などを行うことが想定される。
 操作部15は画像処理装置1を使用するユーザの操作を入力するための操作デバイスを総括して示している。例えばキーボード、マウス、キースイッチ、タッチパネル、音声入力部、遠隔操作部などである。これらの操作デバイスによりユーザは各種操作入力を行うことができ、コントローラ12は操作に応じた処理を実行することができる。
 例えば画像データIDTの分割領域の指示、符号化処理のモード選択(例えばレート制御エリアの設定方式の選択、圧縮率の選択など)をユーザが行うことも想定される。コントローラ12はこれらのユーザ操作に応じて、画像データIDTの分割設定、画像データIDTにおけるレート制御エリアの設定、圧縮エンコーダ11に対するレート制御エリアや圧縮率の指示などを行うことも想定される。
 本実施の形態では、例えば一枚の静止画もしくは動画としての画像を形成する画像データIDTを圧縮符号化するのであるが、記憶部13又は通信部14で処理される段階では、複数の分割領域に分割した画像データとして扱われるものとしている。
 例えば図1の画像データIDTは4つの分割画像データPP1,PP2,PP3,PP4に分割されるようにし、これらの分割画像データPP1,PP2,PP3,PP4に対応する圧縮画像データcPP1,cPP2,cPP3,cPP4が記憶部13で記憶されたり、通信部14から外部機器に送信される。
 図3Aは一枚の画像を構成する画像データIDTの例を示している。
 例えばこの画像データは8K×4Kとして、水平方向に8K(7680画素)、垂直方向に4K(3840画素)で構成されるとする。
 このときに、破線で示す分割境界dvにより、4つの分割領域に分割する。分割した4つの分割画像データPP1,PP2,PP3,PP4の画像を図3Bに示している。これらの分割画像データPP1,PP2,PP3,PP4は、それぞれの4K×2Kとして、水平方向に4K(3840画素)、垂直方向に2K(1920画素)で構成されることになる。
 例えばこのように4K×2Kの分割画像データPP1,PP2,PP3,PP4について圧縮符号化された圧縮画像データcIDT(cPP1,cPP2,cPP3,cPP4)を生成することで、復号時には普及している4K×2K対応のデコーダを用いることができる。換言すれば、例えばより大画面を構成する画像データについて、その時点で一般的な画像に対応するデコーダ(普及しているデコーダ)を用いることができる点で、分割する利点がある。
<2.復号処理を行う画像処理装置の構成>
 以上の画像処理装置1で圧縮符号化された圧縮画像データcIDT(例えば4つの圧縮画像データcPP1,cPP2,cPP3,cPP4)を入力して、画像表示のために復号する画像処理装置2の構成例を図4Aに示す。
 画像処理装置2は、復号装置20、表示部26、画像ソース27を有する。この例では復号装置20は4つのデコーダ21,22,23,24と表示コントローラ25で構成されるものとしている。
 画像ソース27は復号処理の処理対象とする圧縮画像データcIDTを復号装置20に供給する部位を示している。例えば画像処理装置2内において圧縮画像データcIDTを記憶する記憶装置が画像ソース27の一例となる。また外部装置からの有線又は無線により送信されてくる画像データの受信装置も画像ソース27の一例となる。さらに、例えばメモリカード、光ディスク、磁気テープなどの記憶媒体から画像データIDTを読み出す再生装置や、HDD(Hard Disk Drive)なども画像ソース27の一例となる。
 この画像ソース27は、例えば4つに分割された圧縮画像データcPP1,cPP2,cPP3,cPP4を、それぞれ4つのデコーダ21,22,23,24に並列に供給する。
 上記のように分割画像データPP1,PP2,PP3,PP4が4K×2Kの画像データである場合、デコーダ21,22,23,24は、それぞれ4K×2Kに対応するデコーダであり、例えばJPEG2000規格に対応する復号を行うものとされる。もちろんこれは一例であり、符号化に対応した復号器とされることは当然である。
 デコーダ21,22,23,24によっては、それぞれが圧縮画像データcPP1,cPP2,cPP3,cPP4に1:1で対応して伸長復号を行って、復号結果としての分割画像データPP1,PP2,PP3,PP4が得られる。
 これらの分割画像データPP1,PP2,PP3,PP4は、表示コントローラ25に供給される。
 表示コントローラ25では、分割画像データPP1,PP2,PP3,PP4を合成して元の画像データIDTを生成し、その画像データIDTに基づいて表示部26の表示駆動を行う。
 これにより表示部26には、図4Bに示すように分割画像データPP1,PP2,PP3,PP4がつなぎ合わされて合成された元の画像データIDTの画像が表示される。
 表示部26は、例えばLED等の自発光素子を画素として用いた表示デバイスが想定される。もちろんLEDに限らず、有機EL素子を用いたディスプレイ等、他の表示デバイスでもよい。
 さらにはこれらの自発光表示デバイスであって、タイリングディスプレイと呼ばれるような、所定の画素単位のユニットをタイル状に並べて画面を構成するディスプレイデバイスが想定される。
 そして特には本実施の形態では、表示デバイスとしては、画像のつなぎ目部分においてプロジェクタで行われるようなオーバラップ表示を行うことがない表示デバイスを想定している。
<3.第1の実施の形態の符号化処理>
 以上のように画像処理装置1(符号化装置10)では、元の画像データIDTを分割して、分割領域毎の圧縮画像データcIDT(cPP1,cPP2,cPP3,cPP4)を生成する。
 また画像処理装置2(復号装置20)は、圧縮画像データcIDT(cPP1,cPP2,cPP3,cPP4)をそれぞれ復号し、合成して表示させるようにする。
 これにより、例えば8K×4Kのような大画像について、例えば4K×2Kのデコーダを用いて再生系を形成することができる。
 しかしこの場合、画像のつなぎ目部分(即ち分割境界dvの部分)が目立ってしまい、画像品質が低下するということが発生する場合がある。
 これは圧縮符号化によりビットレートを低下させるときに、圧縮率を上げビットレートを低くする程圧縮誤差が増えること、及び分割境界dvの近辺では一方の画像の分割領域における誤差と他方の分割領域における誤差が相乗して、画像上で差異が大きく生じてしまうことによると考えられる。
 特に、輝度や色の変化の多い複雑な画像よりも、輝度や色の起伏の少ない画像(例えば図3のような庭園の砂の画像や、海や空の画像など)では、つなぎ目がより目立ちやすくなってしまう。
 そこで本実施の形態では、分割境界dvの近傍となるレート制御エリアについては、レート制御エリア以外よりもビットレートが高くなるように符号化処理を行うようにする。
 図5にレート制御エリアの例を示す。
 図5は、分割境界dvで分割した分割画像データPP1,PP2,PP3,PP4を示している。
 線で区切られた一マスがブロックBKである。ブロックBKは、圧縮処理の単位であり、例えば8×8ピクセルとされる。これは一例で、圧縮処理の単位としてのブロックBKは2×2ピクセル、4×4ピクセル、16×16ピクセルなどとされてもよい。
 なお図の煩雑化を避けるため「BK」の文字は一部にのみ示している。
 また図の見やすさを考慮して、分割画像データPP1,PP2,PP3,PP4を離間させて示しているが、これは図3A、図3Bを参照してわかるように、元の画像データIDTで考えれば、斜線を付したブロック同士は隣接するブロック同士となり、そのブロックBKの境界線が分割境界dvとなる。
 ここで斜線を付したブロックBKの範囲をレート制御エリアとする。
 この図5の例の場合、水平方向の分割境界dvに沿った上下の各1行のブロックBK、及び垂直方向の分割境界dvに沿った左右の各1列のブロックBKの範囲がレート制御エリアとされる。
 説明上、レート制御エリア以外は「通常処理エリア」と呼ぶ。斜線部を付していないブロックBKの範囲が通常処理エリアである。
 また以下の説明では「行」又は「列」はブロックBKの水平方向の並び、又は垂直方区の並びを指すものとする。
 そしてこの場合、通常処理エリアについては圧縮率RNで圧縮符号化を行い、レート制御エリアでは圧縮率R1で圧縮符号化を行うものとする。RN>R1である。
 圧縮率RNは、本来、画像全体に適用しようとする圧縮率と考えてもよい。
 つまり通常処理エリアは圧縮率RNで圧縮符号化することで、ある程度ビットレートを抑えることが圧縮の目的となるが、レート制御エリアについては圧縮率RNに比較して低い圧縮率R1で圧縮符号化することでビットレートを通常処理エリアより高くする。
 これにより分割境界dvでは圧縮誤差が抑制されるようにする。分割境界dvに接するレート制御エリアの各ブロックBKにおいて圧縮誤差が抑制されることで、合成されて表示される際に、誤差が重なってつなぎ目が目立つようなことを解消するものである。
 圧縮エンコーダ11にこのような符号化処理を実行させるコントローラ12の処理例を図6に示す。なお図6では各ステップの右側に画像データの状態を模式的に示している。
 コントローラ12はステップS101で処理対象の画像データIDTを特定する。即ち画像ソース16から圧縮エンコーダ11に転送する画像データIDTを特定する。
 ステップS102でコントローラ12は、処理対象とした画像データIDTについて分割設定を行う。即ち分割境界dvを設定し、いくつかの分割領域に分けられるようにする。
 ステップS103でコントローラ12は、分割境界dvを基準にレート制御エリアRCA(斜線部)を設定する。例えば図5のように分割境界dvに接する1行、1列のブロックの範囲をレート制御エリアRCAとする。
 ステップS104でコントローラ12は、画像データIDTについて圧縮エンコーダ11に圧縮符号化を実行させる。このときコントローラ12は、圧縮エンコーダ11にレート制御エリアRCAに該当するブロックBKを通知するとともに、通常処理エリアのブロックBKについては圧縮率RNで圧縮符号化を行い、レート制御エリアRCAに該当するブロックBKについては、圧縮率R1で圧縮符号化を行うように圧縮エンコーダ11に指示する。圧縮エンコーダ11では、例えばレートコントローラ34がこの指示を受け、量子化部32及びEBCOT33において、ブロック毎に指示に応じた圧縮率の圧縮符号化が実行されるようにする。
 圧縮符号化が行われたら、ステップS105でコントローラ12は、分割境界dvで画像分割し、分割された各画像の圧縮画像データcIDT(例えば圧縮画像データcPP1,cPP2,cPP3,cPP4)を、記憶部13で記憶されるようにし、或いは通信部14により外部機器に送信されるように制御する。
 以上により、レート制御エリアRCAにおいてビットレートが高くされた圧縮画像データcIDTが得られる。
 このような圧縮画像データcIDTは、例えば図4の構成の画像処理装置2で復号されて合成され、元の画像データIDTの画像が表示される。このとき分割境界dvでつなぎ目が目立つことが解消されている。
<4.第2の実施の形態の符号化処理>
 第2の実施の形態としてのコントローラ12の処理例を図7に示す。図7でも各ステップの右側に画像データの状態を模式的に示している。
 コントローラ12はステップS101で処理対象の画像データIDTを特定する。
 そしてステップS102でコントローラ12は、処理対象とした画像データIDTについて分割設定を行う。即ち分割境界dvを設定し、いくつかの分割領域に分けられるようにする。以上は図6と同様である。
 次にコントローラ12はステップS110で画像分割を行う。即ちコントローラ12は分割境界dvに基づいて画像データIDTを分割し、各分割領域についての分割画像データPP1,PP2,PP3,PP4を形成する。
 ステップS111でコントローラ12は分割境界dvを基準にレート制御エリアRCA(斜線部)を設定する。
 この場合、すでに分割画像データPP1,PP2,PP3,PP4に分けているので、これら分割画像データPP1,PP2,PP3,PP4のそれぞれについて、例えば図5のように分割境界dvに接する1行、1列のブロックBKの範囲をレート制御エリアRCAとする。
 ステップS112でコントローラ12は、分割画像データPP1,PP2,PP3,PP4について、順次、圧縮エンコーダ11に圧縮符号化を実行させる。このときコントローラ12は、各分割画像データPP1,PP2,PP3,PP4毎にレート制御エリアRCAを通知するとともに、通常処理エリアのブロックBKについては圧縮率RNで圧縮符号化を行い、レート制御エリアRCAに該当するブロックBKについては、圧縮率R1で圧縮符号化を行うように圧縮エンコーダ11に指示する。
 さらにコントローラ12は、圧縮エンコーダ11に、圧縮処理の完了に応じて圧縮画像データcIDT(cPP1,cPP2,cPP3,cPP4)を、記憶部13又は通信部14に転送するように指示する。
 圧縮エンコーダ11内ではレートコントローラ34の制御により、例えば分割画像データPP1を圧縮する場合は、その分割画像データPP1についてのレート制御エリアRCAのブロックBKについて圧縮率が低くなるような圧縮処理を行うことになる。そして圧縮画像データcPP1を記憶部13に転送して記憶させる。或いは通信部14に転送して外部機器に送信させる。
 このような処理を順次分割画像データPP2,PP3,PP4にも行っていく。
 以上により、レート制御エリアRCAにおいてビットレートが高くされた圧縮画像データcIDT(cPP1,cPP2,cPP3,cPP4)が得られる。
 このような圧縮画像データcIDTは、例えば図4の構成の画像処理装置2で復号されて合成され、元の画像データIDTの画像が表示される。このとき分割境界dvでつなぎ目が目立つことが解消されている。
<5.第3から第9の実施の形態のレート制御エリア>
 以下、第3から第8の実施の形態としては、レート制御エリアの設定例を挙げる。なお各図は、図5と同様に分割画像データPP1,PP2,PP3,PP4に離した状態で、斜線を付したブロックBKの範囲としてレート制御エリアを示している。
 第3の実施の形態のレート制御エリアを図8に示す。
 図8は水平方向の分割境界dvに接するブロックの行(ブロックBKの水平方向の並び)から連続する複数ブロック行(この場合は上下各2行)、及び垂直方向の分割境界dvに接するブロックの列(ブロックBKの垂直方向の並び)から連続する複数ブロック列(この場合は左右各2列)の範囲がレート制御エリアとされた例である。つまり各分割画像データPP1,PP2,PP3,PP4において分割境界dv側の2行2列の範囲がレート制御エリアとなる。
 なお元の画像データIDTで見れば分割境界dvを挟む4行4列の範囲がレート制御エリアとなるが、以下の説明では分割画像データPP1,PP2,PP3,PP4の単位で考えて、図8の例は「2行2列」と表現して説明する。
 この図8の2行2列のように分割境界dvからみて複数行、複数列の範囲にレート制御エリアを設定してもよい。もちろん2行2列というのは一例で、3行3列、4行4列、或いはそれ以上の行数・列数も考えられる。
 そしてこのように複数行、複数列のレート制御エリアは、通常処理エリアよりも低い圧縮率R1で圧縮符号化が行われて、ビットレートが通常処理エリアよりも高くされる。
 レート制御エリアを広くすることは、つなぎ目のめだちの解消に有効となる。
 第4の実施の形態のレート制御エリアを図9に示す。
 図9でも、水平方向の分割境界dvに接するブロックの行から連続する複数ブロック行(この場合は上下各2行)、及び垂直方向の分割境界dvに接するブロックの列から連続する複数ブロック列(この場合は左右各2列)の範囲がレート制御エリアとされている。
 但し、レート制御エリア内でも圧縮率が異なる領域を設定する。
 例えば分割境界dvに接するブロックBKは、圧縮率R1の領域とし、分割境界dvに接しない、分割境界dvからみて2行目又は2列目のブロックBKは、圧縮率R2の領域としている。この場合、RN>R2>R1である。
 つまり分割境界dvに最も近いブロックBKは高ビットレートとし、分割境界dvから離れるに従ってビットレートが低くなっていくようにする。
 この図9では圧縮率R1、R2の2段階に圧縮率が設定される例としたが、3段階、4段階というように圧縮率が設定され、より多段階で分割境界dvから離れるに従ってビットレートが低くなっていくようにすることもできる。
 例えば6行6列のブロックをレート制御エリアとし、2行2列づつ、分割境界dvから離れるに従って圧縮率をR1,R2,R3(但しRN>R3>R2>R1)と徐々に高くするようにしてもよい。
 このように分割境界dvに最も近いブロックの圧縮率R1と、通常処理エリアの圧縮率RNの間における、圧縮率の変化幅、段階数、各圧縮率の行数/列数は多様に考えられる。
 結局この第4の実施の形態の場合、ビットレートが分割境界dvに向かうにつれて徐々に高くなるようにするものであるが、これも画像のつなぎ目を目立たせないようにすることに有効である。
 もちろんコントローラ12は、このようにレート制御エリア内でも異なる圧縮率を設定する場合は、圧縮エンコーダ11に対して、レート制御エリアに関する情報として、圧縮率R1,R2・・・と、圧縮率R1のブロックBK、圧縮率R2のブロックBK・・・を指示することになる。
 第5の実施の形態のレート制御エリアを図10A、図10Bに示す。
 これは、レート制御エリアを例えば図10A、図10Bのように分割境界dvから1行1列とする(或いは複数行複数列でもよい)が、適用する圧縮率を切り換える例である。
 例えば図10Aはレート制御エリアのブロックBKについて圧縮率R1としているが、図10Bは同じレート制御エリアのブロックBKについて圧縮率R2としている。
 このようにコントローラ12は、レート制御エリアの設定は変更しないが、レート制御エリアに適用する圧縮率を変更するようにする。
 例えば画像データIDTの画像内容に応じて圧縮率を可変設定することが考えられる。
 先に述べたように、輝度や色の変化として起伏の少ない画像ほど、つなぎ目が目立ちやすいという傾向がある。そこで、コントローラ12は画像データIDTを解析し、特に分割境界dvの周辺の輝度や色の変化傾向を判定する。そして変化の大きい画像のときは、元々あまりつなぎ目は目立たないため図10Bのように比較的高い圧縮率R2(ビットレート低め)とするが、変化の少ないなめらかな画像のときは、つなぎ目が目立つため図10Aのように低い圧縮率R1(ビットレート高め)とするなどが考えられる。
 また要求されるデータサイズに応じてレート制御エリアの圧縮率を可変設定してもよい。なるべくデータサイズを小さくすることが要求される場合は、図10Bのように比較的高い圧縮率R2(ビットレート低め)を選択するなどである。
 またコントローラ12はユーザ操作に応じてレート制御エリアの圧縮率を選択することも考えられる。例えばユーザは、つなぎ目のめだちの解消か、データ量の縮小かという点で望ましい方を指示する。それに応じてコントローラ12が圧縮率を選択するようにする。
 なお、レート制御エリアに関しては圧縮率R1、R2の2段階だけではなく、3段階以上で可変設定されるようにしてもよい。
 第6の実施の形態のレート制御エリアを図11A、図11Bに示す。
 これは、レート制御エリアの範囲を例えば図11A、図11Bのように切り換える例である。図11Aは分割境界dvから1行1列をレート制御エリアとしている。一方図11Bは分割境界dvから2行2列をレート制御エリアとしている。
 この場合も、例えば画像データIDTの画像解析結果やユーザ操作に応じて、コントローラ12がレート制御エリアの範囲を可変設定するものとする。
 図11Bのほうが、図11Aよりもつなぎ目のめだちの解消に有利である一方、図11Aのほうが、図11Bよりもデータ量削減の点で有利である。
 なお、レート制御エリアについて1行1列と2行2列を選択するものとしたが、これは一例である。例えば2行2列と5行5列を選択するような例も考えられる。
 また、より多段階でレート制御エリアの範囲の選択ができるようにしてもよい。例えば2行2列と5行5列と7行7列を選択できるようにするなどである。
 もちろん特に選択可能な行列数を限定せずに、画像解析やユーザ入力等に応じて、適切な行数、列数でレート制御エリアが設定されるようにしてもよい。
 またレート制御エリアとしての範囲は、例えば画像内容に応じて変えることも望ましい。例えば分割境界dvの付近における、なめらかな画像内容の範囲に応じて、行数や列数を設定するということが考えられる。
 第7の実施の形態のレート制御エリアを図12A、図12Bに示す。これは第5,第6の実施の形態の考え方を合わせたものである。
 レート制御エリアの範囲を例えば図12A、図12Bのように切り換える例であるが、図12Aは分割境界dvから1行1列をレート制御エリアとし、圧縮率R1とする例である。一方図12Bは分割境界dvから2行2列をレート制御エリアとし、圧縮率をR2とする例である。
 例えば画像データIDTの画像解析結果やユーザ操作に応じて、コントローラ12がレート制御エリアの範囲及び圧縮率を可変設定するものとする。
 これにより画像内容や処理の目的に沿った圧縮符号化が可能となる。
 第8の実施の形態のレート制御エリアを図13A、図13Bに示す。
 これもレート制御エリアの範囲を例えば図13A、図13Bのように切り換える例であるが、図13Aは水平方区の分割境界dvから2行と垂直方向の分割境界dvから1列をレート制御エリアとしている。一方、図13Bは水平方区の分割境界dvから1行と垂直方向の分割境界dvから2列をレート制御エリアとしている。
 つまり、水平方向と垂直方向でのレート制御エリアの範囲を可変するものである。
 例えば水平方向のつなぎ目が目立つ画像の場合は図13Aが有効である。そしてこの場合、レート制御エリアの列数については少なくすることでデータ量削減に寄与する。
 また垂直方向のつなぎ目が目立つ画像の場合は図13Bが有効である。そしてこの場合、レート制御エリアの行数については少なくすることでデータ量削減に寄与する。
 このように画像内容によって、水平方向、垂直方向のどちらでつなぎ目解消のためのレート制御エリアを広く採るかを可変することで、つなぎ目のめだちの解消とともに、データ量削減に寄与できる。
 なお、更にこの考え方を進めて、レート制御エリアは水平方向の分割境界dvに沿ったブロック行のみとしたり、逆に垂直方向の分割境界dvに沿ったブロック列のみとしたりすることも考えられる。
 第9の実施の形態のレート制御エリアを図14A、図14Bに示す。
 これはレート制御エリアの圧縮率を切り換える例である。図14Aは水平方区の分割境界dvに沿ったブロックBKは圧縮率R2、垂直方向の分割境界dvに沿ったブロックBKは圧縮率R1としている。
 図14Bは水平方区の分割境界dvに沿ったブロックBKは圧縮率R1、垂直方向の分割境界dvに沿ったブロックBKは圧縮率R2としている。
 なお、いずれの場合も、水平、垂直の分割境界dvの両方に沿うことになる角部のブロックBKは、圧縮率R1、R2のいずれもが考えられるが、接続点が集中することから、低い圧縮率R1としてビットレートを高くしておくとよい。
 この場合、例えば水平方向のつなぎ目が目立つ画像の場合は図14Bが有効で、垂直方向のつなぎ目が目立つ画像の場合は図14Aが有効である。それぞれの場合に他方の圧縮率を上げる(ビットレートを下げる)ことでデータ量削減に寄与する。
 なお、図13A、図13Bの考え方と、図14A、図14Bの考え方を合わせたものも考えられる。即ち、図13A、図13Bのように水平垂直方向の行数、列数を切り換えるとともに、圧縮率も水平方向のブロック行と垂直方向のブロック列とで切り換えるものとする。例えばレート制御エリアを、ある場合は、2行1列で行の圧縮率R1、列の圧縮率R2とし、他のある場合は、1行2列で行の圧縮率R2、列の圧縮率R1とするなどである。もちろん、より多段階に切り換えられるようにしてもよい。
 以上、各種の実施の形態のレート制御エリアや、それらの変形例に言及してきたが、レート制御エリアの設定例は更に各種考えられる。図5,図8,図9,図10A,図10B,図11A,図11B,図12A,図12B,図13A,図13B,図14A,図14Bの各例のうちの複数の例の組み合わせも各種想定される。
 画像内容やユーザ入力等に応じてレート制御エリアの設定や圧縮率を切り換える場合も、これら各例が適用できる。
 さらに以上の各例では、分割画像データPP1,PP2,PP3,PP4のそれぞれにおいて同様に(同様の規則で)レート制御エリアが設定される例としたが、互いにレート制御エリアの範囲や圧縮率が異なるようにしてもよい。
 例えば分割画像データPP1では、レート制御エリアが1行1列に設定され、分割画像データPP3ではレート制御エリアが2行1列に設定されるなどである。
 或いは分割画像データPP1では、レート制御エリアが1行1列で圧縮率R1に設定され、分割画像データPP3ではレート制御エリアが2行1列で圧縮率R2に設定されるなども考えられる。
 また以上の実施の形態では、例えば図3A、図3Bのように元の画像データIDTを4分割する場合で述べたが、分割の数や分割境界dvの位置は多様に考えられる。
 例えば図15は、10K×4Kのサイズの画像データを例示している。
 これを分割画像データPP1,PP2,PP3,PP4,PP5,PP6に分割する分割境界dvを設定する。この場合、分割画像データPP1,PP2,PP4,PP5は4K×2Kの画像データとなり、分割画像データPP3,PP6は2K×2Kの画像データとなる。このような分割を行う場合も、斜線部で示すレート制御エリアRCAを設定し、その範囲では圧縮率を低くしてビットレートが高くなるようにすることで、復号して表示をする際につなぎ目の目立ちを解消させることができる。
<6.まとめ及び変形例>
 以上の実施の形態によれば次のような効果が得られる。
 実施の形態の符号化装置10は、処理対象の画像データに対する符号化処理を行う圧縮エンコーダ11(符号化処理部)と、処理対象の画像データを複数の領域に分割する際に分割境界の近傍となるレート制御エリアについては、レート制御エリア以外(通常処理エリア)よりもビットレートが高くなるように符号化処理を制御するコントローラ12(制御部)とを備えている。
 これによりレート制御エリアを構成するデータについては画像内の通常処理エリアよりも情報量が多くなる。画像を分割された状態で圧縮符号化が行われている画像を、復号してつなぎ合わせると、その境界部分で画像の継ぎ目が目立つことがあるが、分割境界dvの近傍のレート制御エリアについてビットレートを上げておくことで、継ぎ目が目立つことを防止できる。これにより画像を分割してエンコード、デコードする画像処理系において高品位な画像を表示させることができるようになる。
 特にLEDディスプレイのような自発光型表示デバイスでの大画面表示において好適である。
 実施の形態の符号化装置10は、圧縮エンコーダ11で圧縮符号化処理を行うが、コントローラ12は、レート制御エリアについては通常処理エリアに対する圧縮率よりも低い圧縮率での圧縮符号化処理を指示するようにしている。
 即ち分割境界の近傍のレート制御エリアのデータは、低い圧縮率で圧縮処理されることでビットレートが高くなるようにする。
 通常処理エリアに関しては比較的高い圧縮率RNで圧縮を行い、レート制御エリアについては比較的低い圧縮率R1やR2で圧縮を行う。これにより圧縮後のデータ量としてレート制御エリアでは画像データのビットレートが高くなる。
 ビットレートが低いと圧縮誤差が目立つことになり、分割境界近傍では誤差が広がることで継ぎ目が見えてしまう現象が発生する。そこで圧縮率を下げてデータ量を多くし、圧縮誤差を低減する。これにより復号・合成後の表示画像においてつなぎ目が目立つという現象を回避できる。
 なお実施の形態ではコントローラ12が図6又は図7のような制御処理を行うとしたが、圧縮エンコーダ11内で、例えばレートコントローラ34が当該処理を行うものとしてもよい。
 第1,第2の実施の形態として示した処理(図6,図7参照)では、コントローラ12は、処理対象の画像データの分割境界に基づいてレート制御エリアを設定する処理を行うものとした(S103,S111)。
 例えばレート制御エリアは、分割境界dvからx行数又はy列数のブロックまでなどとして規則的に設定してもよいし、ユーザ操作や画像内容に応じて可変設定してもよい。コントローラ12の処理としてレート制御エリアを設定することで柔軟な処理設定が可能となる。
 なお、レート制御エリアは画像サイズやブロックBKのサイズなどに応じて固定的に設定されるようにしてもよい。
 第1の実施の形態では、コントローラ12は処理対象の画像データの分割境界dvを設定し(図6のS102)、分割境界に基づいてレート制御エリアを設定し(S103)、レート制御エリアについては通常処理エリアよりもビットレートが高くなるように指示して処理対象の画像データIDTに対する符号化処理を圧縮エンコーダ11に実行させる(S104)ようにした。
 即ち分割境界dvを設定してレート制御エリアを設定した上で、レート制御エリアを指示して符号化処理を実行させる。これによりレート制御エリアで圧縮率を異ならせるような圧縮符号化が実行される。
 この場合、元の画像データに対して、任意に領域分割することができるため、復号系、表示系の装置や回路構成に応じた分割境界設定が可能となり、その場合に適切にレート制御エリアを設定することができる。
 また第1の実施の形態では、コントローラ12は、符号化処理が行われた画像データを、設定した分割境界で分割された複数の画像データとして扱われるように制御する例を述べた(図6のS105)。
 即ち元の画像データIDT全体で圧縮処理がされた後に、分割された複数の圧縮画像データcIDT(例えば圧縮画像データcPP1,cPP2,cPP3,cPP4)が記憶されたり送信されたりするように制御する。
 これにより復号時に接合される複数の分割領域の圧縮画像データcIDTが用意される。その圧縮画像データcIDTはそれぞれ接合する境界付近の画像データが高いビットレートとなっていることになる。
 第2の実施の形態では、コントローラ12は、処理対象の画像データIDTの分割境界dvを設定し(図7のS102)、分割境界に基づいて画像データを分割し(S110)、分割領域毎にレート制御エリアを設定して(S111)、符号化処理を圧縮エンコーダ11に実行させる(S112)例を述べた。
 このような処理でも、レート制御エリアで圧縮率が異なるような圧縮符号化が実行される。そしてこの場合も、元の画像データに対して、任意に領域分割することができるため、復号系、表示系の装置や回路構成に応じた分割境界設定が可能となり、その場合に適切にレート制御エリアを設定することができる。
 第1、第3から第9の実施の形態では、複数の画素データから成るブロックBKを符号化処理単位としたときに、レート制御エリアには、少なくとも分割境界に接するブロックBKが含まれるものとした。即ち一辺が分割境界を形成しているブロックBKの行又は列が、レート制御エリアに含まれる。
 例えば図5,図8,図9,図10A,図10B,図11A,図11B,図12A,図12B,図13A,図13B,図14A,図14Bのいずれの例も分割境界dvに接するブロックBK(斜線部)はレート制御エリアとしている。このように少なくとも分割境界に接するブロックBKがレート制御エリアに含まれ、高ビットレートとされることで、復号後の表示の際のつなぎ目の目立ちの防止に有効となる。
 なお、図5のようにビットレートを高くするレート制御エリアを最小限とすればデータ量の削減に適している。
 第3、第4、第6、第7、第8の実施の形態では、レート制御エリアには、分割境界に接するブロックの行から連続する複数ブロック行、又は分割境界に接するブロックの列から連続する複数ブロック列が含まれる場合を示した。
 即ち少なくとも分割境界に接するブロックの行又は列から複数の行又は列にわたってレート制御エリアとされ、それらのブロックはビットレートが高くなる場合があるものとする。例えば図8,図9,図11B,図12B,図13A,図13Bの例は、分割境界dvに接するブロックBK(斜線部)の行又は列から連続する複数の行又は列がレート制御エリアとしている。このよう分割境界に近いある程度の範囲をレート制御エリアとしてビットレートを高くすることで、復号後の表示の際のつなぎ目の目立ちの防止に有効となる。
 第4、第9の実施の形態では、コントローラ12が、レート制御エリア内で、圧縮率R1の圧縮符号化が行われるブロックBKと、圧縮率R2の圧縮符号化が行われるブロックBKが生じるように制御する例を述べた(図9、図14A、図14B参照)。
 即ちレート制御エリアに該当するブロックBKにおいて、異なる圧縮率による圧縮符号化が指示されるブロックBKが存在するようにする。
 これにより例えば図9のように分割境界に向かって段階的にビットレートが高くなっていくような圧縮符号化が行われる。これも復号後の表示の際のつなぎ目の目立ちの防止に有効となる。
 或いは図14A、図14Bのように垂直方向と水平方向のブロックで圧縮率が異なることで、画像に応じた適応的な圧縮符号化が行われる。これにより高画質化とデータ量削減の要望に対応できる場合がある。
 第6、第7、第8の実施の形態では、コントローラ12は、レート制御エリアに該当するブロックを可変設定する例を述べた。
 即ちレート制御エリアの設定を固定的に行うのではなく、所定のアルゴリズムによりレート制御エリアが可変設定されるようにする。
 例えば図11Aと図11B、又は図12Aと図12B、又は図13Aと図13Bで説明した例のように、レート制御エリアとなるブロックBKの設定が、画像内容の解析結果に応じて可変されたり、或いはユーザ操作に応じて可変されるようにする。これにより状況に応じて適応的にレート制御エリアが設定されて圧縮符号化が行われる。
 画像内容によっては、あまりレート制御エリアを広くしなくてもつなぎ目が目立たない場合もある。そのような画像については図11Aのようにレート制御エリアとなる行や列を少なくすれば、データ量削減の点で望ましいこととなる。一方、つなぎ目が目立ちやすい画像については、図11Bのようにレート制御エリアとなる行や列を多くすることで、つなぎ目が目立つことの解消に有効である。
 また水平方向、垂直方向で画像の特徴が異なる場合、図12Aと図12B、又は図13Aと図13Bのような可変設定も有効となる。
 第5、第7、第9の実施の形態では、コントローラ12は、レート制御エリアについて圧縮エンコーダ11に指示する圧縮率を可変設定する例を述べた。
 即ちレート制御エリアの圧縮率の設定を固定的に行うのではなく、所定のアルゴリズムにより可変設定されるようにする。
 例えば図10Aと図10Bで説明した例のように、レート制御エリアの圧縮率が、画像内容の解析結果に応じて可変されたり、或いはユーザ操作に応じて可変されるようにする。これにより状況に応じて適応的に圧縮率が選択されて圧縮符号化が行われる。
 画像内容によっては、あまり圧縮率を下げなくてもつなぎ目が目立たない場合もある。そのような画像についてはレート制御エリアの圧縮率を高めにすることでデータ量削減の点で望ましいこととなる。一方、つなぎ目が目立ちやすい画像については、レート制御エリアの圧縮率を低くしデータ量を増やすことで、つなぎ目が目立つことの解消に有効である。図12Aと図12Bの場合も同様である。
 また水平方向、垂直方向で画像の特徴が異なる場合、図13Aと図13Bのような圧縮率の可変設定も有効となる。
 第8の実施の形態では、分割境界dvが処理対象の画像データIDTの水平方向と垂直方向に存在する場合に、レート制御エリアにおける、水平方向の分割境界に沿ったブロックBKの行の数と、垂直方向の分割境界に沿ったブロックBKの列の数とが異なるように、前記レート制御エリアが設定される例を述べた。
 即ちレート制御エリアを構成するブロック行数とブロック列数が異なるようにされ、レート制御エリアの水平方向と垂直方向のサイズが異なるようにする。
 例えば図13Aのようにレート制御エリアを構成するブロックの行数が、ブロックの列数より多くすることで、水平方向のつなぎ目のめだちの解消に有利である。特に垂直方向のつなぎ目が目立たない場合には列数を少なくすることでデータ量削減に適している。
 逆に図13Bのようにレート制御エリアを構成するブロックの列数が、ブロックの行数より多くすることで、垂直方向のつなぎ目のめだちの解消に有利である。特に水平方向のつなぎ目が目立たない場合には行数を少なくすることでデータ量削減に適している。
 第9の実施の形態では、分割境界が処理対象の画像データの水平方向と垂直方向に存在する場合に、レート制御エリアにおける、水平方向の分割境界に沿ったブロックについて圧縮エンコーダ11に指示する圧縮率と、垂直方向の分割境界に沿ったブロックについて圧縮エンコーダ11に指示する圧縮率とを異なるようにする例を述べた。
 即ちレート制御エリアを構成するブロックBKのうち、水平行のブロックBKと垂直列のブロックBKとで圧縮率が異なるようにする。
 例えば図14Aのように列方向に並ぶブロックBKについて圧縮率R1、行方向に並ぶブロックBKについて圧縮率R2とする。これは垂直方向のつなぎ目のめだちの解消に有利である。また水平方向のつなぎ目が目立たない場合には行方向に並ぶブロックBKについて、圧縮率R1より高い圧縮率R2とすることで、データ量削減に適している。
 または図14Bのように行方向に並ぶブロックBKについて圧縮率R1、列方向に並ぶブロックBKについて圧縮率R2とする。これは水平方向のつなぎ目のめだちの解消に有利である。また垂直方向のつなぎ目が目立たない場合には列方向に並ぶブロックBKについて、圧縮率R1より高い圧縮率R2とすることで、データ量削減に適している。
 なお、図13A、図13Bの考え方と図14A、図14Bの考え方を合わせて、列方向と行方向のブロックで、分割境界dvに沿った列数と行数が異なるようにするとともに、それぞれで圧縮率が異なるようにすることにも言及した。このようにレート制御エリアと圧縮率の両方を可変設定することによれば、より画像に適した圧縮符号化を行うようにすることもできる。
 実施の形態の復号装置20は、一の画像を形成する複数の分割領域となる複数の画像データとして圧縮画像データcIDT(例えばcPP1,cPP2,cPP3,cPP4)が入力される。それぞれは、分割された際の分割境界dvの近傍に設定されたレート制御エリアについては通常処理エリアよりもビットレートが高くなるように符号化処理が施されたものである。これに対応して復号を行う複数のデコーダ(復号処理部)21,22,23,24を備えている。また復号装置20は、複数のデコーダ21,22,23,24により復号された複数の画像データ(例えば分割画像データPP1,PP2,PP3,PP4)を合成して一の画像を構成する画像データとして表示を実行させる表示コントローラ(表示制御部)25を備えている。
 これによりレート制御エリアにおいてビットレートが高くされた分割領域の画像データが復号され、さらに分割境界でつなぎ合わされるように合成されて表示される。そしてこの場合に、つなぎ目の目立たない高品位な画像を表示させることができる。
 なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
 なお本技術は以下のような構成も採ることができる。
 (1)
 処理対象の画像データに対する符号化処理を行う符号化処理部と、
 前記処理対象の画像データを複数の領域に分割する際に分割境界の近傍となるレート制御エリアについては、前記レート制御エリア以外よりもビットレートが高くなるように符号化処理を制御する制御部と、を備えた
 符号化装置。
 (2)
 前記符号化処理部は圧縮符号化処理を行い、
 前記制御部は、前記レート制御エリアについては、前記レート制御エリア以外に対する圧縮符号化処理の圧縮率よりも低い圧縮率での圧縮符号化処理を指示する
 上記(1)に記載の符号化装置。
 (3)
 前記制御部は、前記処理対象の画像データの分割境界に基づいて前記レート制御エリアを設定する処理を行う
 上記(1)又は(2)に記載の符号化装置。
 (4)
 前記制御部は、前記処理対象の画像データの分割境界を設定し、分割境界に基づいて前記レート制御エリアを設定し、
 前記レート制御エリアについては前記レート制御エリア以外よりもビットレートが高くなるように指示して前記処理対象の画像データに対する符号化処理を前記符号化処理部に実行させる
 上記(1)から(3)のいずれかに記載の符号化装置。
 (5)
 前記制御部は、前記符号化処理が行われた画像データを、設定した分割境界で分割された複数の画像データとして扱われるように制御する
 上記(4)に記載の符号化装置。
 (6)
 前記制御部は、前記処理対象の画像データの分割境界を設定し、分割境界に基づいて画像データを分割し、分割領域毎に前記レート制御エリアを設定して符号化処理を前記符号化処理部に実行させる
 上記(1)から(3)のいずれかに記載の符号化装置。
 (7)
 複数の画素データから成るブロックを符号化処理単位としたときに、
 前記レート制御エリアには、少なくとも分割境界に接するブロックが含まれる
 上記(1)から(6)のいずれかに記載の符号化装置。
 (8)
 複数の画素データから成るブロックを符号化処理単位としたときに、
 前記レート制御エリアには、分割境界に接するブロックの行から連続する複数ブロック行、又は分割境界に接するブロックの列から連続する複数ブロック列が含まれる
 上記(1)から(6)のいずれかに記載の符号化装置。
 (9)
 複数の画素データから成るブロックを符号化処理単位としたときに、
 前記制御部は、前記レート制御エリア内で、第1の圧縮率の圧縮符号化が行われるブロックと、第2の圧縮率の圧縮符号化が行われるブロックが生じるように制御する
 上記(1)から(8)のいずれかに記載の符号化装置。
 (10)
 複数の画素データから成るブロックを符号化処理単位としたときに、
 前記制御部は、前記レート制御エリアに該当するブロックを可変設定する
 上記(1)から(9)のいずれかに記載の符号化装置。
 (11)
 前記制御部は、前記レート制御エリアについて前記符号化処理部に指示する圧縮率を可変設定する
 上記(1)から(10)のいずれかに記載の符号化装置。
 (12)
 分割境界が処理対象の画像データの水平方向と垂直方向に存在する場合に、
 複数の画素データから成るブロックを符号化処理単位としたときに、
 前記レート制御エリアにおける、水平方向の分割境界に沿ったブロック行の数と、垂直方向の分割境界に沿ったブロック列の数とが異なるように、前記レート制御エリアが設定される
 上記(1)から(11)のいずれかに記載の符号化装置。
 (13)
 分割境界が処理対象の画像データの水平方向と垂直方向に存在する場合に、
 複数の画素データから成るブロックを符号化処理単位としたときに、
 前記制御部は、前記レート制御エリアにおける、水平方向の分割境界に沿ったブロックについて前記符号化処理部に指示する圧縮率と、垂直方向の分割境界に沿ったブロックについて前記符号化処理部に指示する圧縮率とを異なるようにする
 上記(1)から(12)のいずれかに記載の符号化装置。
 (14)
 処理対象の画像データについて、当該画像データを複数の領域に分割する際に分割境界の近傍となるレート制御エリアについては、前記レート制御エリア以外よりもビットレートが高くなるように符号化処理をおこなう
 符号化方法。
 (15)
 一の画像を形成する複数の分割領域となる複数の画像データであって、それぞれが、分割された際の分割境界の近傍に設定されたレート制御エリアについては前記レート制御エリア以外よりもビットレートが高くなるように符号化処理が施された複数の画像データに対応して復号を行う複数の復号処理部と、
 複数の前記復号処理部により復号された複数の画像データを合成して一の画像を構成する画像データとして表示を実行させる表示制御部と、を備えた
 復号装置。
1,2 画像処理装置、10 符号化装置、11 圧縮エンコーダ、12 コントローラ、13 記憶部、14 通信部、15 操作部、16 画像ソース、20 復号装置、21,22,23,24 デコーダ、25 表示コントローラ、26 表示部、27 画像ソース

Claims (15)

  1.  処理対象の画像データに対する符号化処理を行う符号化処理部と、
     前記処理対象の画像データを複数の領域に分割する際に分割境界の近傍となるレート制御エリアについては、前記レート制御エリア以外よりもビットレートが高くなるように符号化処理を制御する制御部と、を備えた
     符号化装置。
  2.  前記符号化処理部は圧縮符号化処理を行い、
     前記制御部は、前記レート制御エリアについては、前記レート制御エリア以外に対する圧縮符号化処理の圧縮率よりも低い圧縮率での圧縮符号化処理を指示する
     請求項1に記載の符号化装置。
  3.  前記制御部は、前記処理対象の画像データの分割境界に基づいて前記レート制御エリアを設定する処理を行う
     請求項1に記載の符号化装置。
  4.  前記制御部は、前記処理対象の画像データの分割境界を設定し、分割境界に基づいて前記レート制御エリアを設定し、
     前記レート制御エリアについては前記レート制御エリア以外よりもビットレートが高くなるように指示して前記処理対象の画像データに対する符号化処理を前記符号化処理部に実行させる
     請求項1に記載の符号化装置。
  5.  前記制御部は、前記符号化処理が行われた画像データを、設定した分割境界で分割された複数の画像データとして扱われるように制御する
     請求項4に記載の符号化装置。
  6.  前記制御部は、前記処理対象の画像データの分割境界を設定し、分割境界に基づいて画像データを分割し、分割領域毎に前記レート制御エリアを設定して符号化処理を前記符号化処理部に実行させる
     請求項1に記載の符号化装置。
  7.  複数の画素データから成るブロックを符号化処理単位としたときに、
     前記レート制御エリアには、少なくとも分割境界に接するブロックが含まれる
     請求項1に記載の符号化装置。
  8.  複数の画素データから成るブロックを符号化処理単位としたときに、
     前記レート制御エリアには、分割境界に接するブロックの行から連続する複数ブロック行、又は分割境界に接するブロックの列から連続する複数ブロック列が含まれる
     請求項1に記載の符号化装置。
  9.  複数の画素データから成るブロックを符号化処理単位としたときに、
     前記制御部は、前記レート制御エリア内で、第1の圧縮率の圧縮符号化が行われるブロックと、第2の圧縮率の圧縮符号化が行われるブロックが生じるように制御する
     請求項1に記載の符号化装置。
  10.  複数の画素データから成るブロックを符号化処理単位としたときに、
     前記制御部は、前記レート制御エリアに該当するブロックを可変設定する
     請求項1に記載の符号化装置。
  11.  前記制御部は、前記レート制御エリアについて前記符号化処理部に指示する圧縮率を可変設定する
     請求項1に記載の符号化装置。
  12.  分割境界が処理対象の画像データの水平方向と垂直方向に存在する場合に、
     複数の画素データから成るブロックを符号化処理単位としたときに、
     前記レート制御エリアにおける、水平方向の分割境界に沿ったブロック行の数と、垂直方向の分割境界に沿ったブロック列の数とが異なるように、前記レート制御エリアが設定される
     請求項1に記載の符号化装置。
  13.  分割境界が処理対象の画像データの水平方向と垂直方向に存在する場合に、
     複数の画素データから成るブロックを符号化処理単位としたときに、
     前記制御部は、前記レート制御エリアにおける、水平方向の分割境界に沿ったブロックについて前記符号化処理部に指示する圧縮率と、垂直方向の分割境界に沿ったブロックについて前記符号化処理部に指示する圧縮率とを異なるようにする
     請求項1に記載の符号化装置。
  14.  処理対象の画像データについて、当該画像データを複数の領域に分割する際に分割境界の近傍となるレート制御エリアについては、前記レート制御エリア以外よりもビットレートが高くなるように符号化処理をおこなう
     符号化方法。
  15.  一の画像を形成する複数の分割領域となる複数の画像データであって、それぞれが、分割された際の分割境界の近傍に設定されたレート制御エリアについては前記レート制御エリア以外よりもビットレートが高くなるように符号化処理が施された複数の画像データに対応して復号を行う複数の復号処理部と、
     複数の前記復号処理部により復号された複数の画像データを合成して一の画像を構成する画像データとして表示を実行させる表示制御部と、を備えた
     復号装置。
PCT/JP2019/027861 2018-10-18 2019-07-16 符号化装置、符号化方法、復号装置 WO2020079900A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
US17/277,966 US20210350581A1 (en) 2018-10-18 2019-07-16 Encoding device, encoding method, and decoding device
JP2020552528A JPWO2020079900A1 (ja) 2018-10-18 2019-07-16 符号化装置、符号化方法、復号装置
CN201980066603.2A CN112823516A (zh) 2018-10-18 2019-07-16 编码设备、编码方法和解码设备
EP19874304.9A EP3869801A4 (en) 2018-10-18 2019-07-16 CODING DEVICE, ENCODING PROCESS, AND DECODING DEVICE
KR1020217010353A KR20210071986A (ko) 2018-10-18 2019-07-16 부호화 장치, 부호화 방법, 복호 장치

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018196639 2018-10-18
JP2018-196639 2018-10-18

Publications (1)

Publication Number Publication Date
WO2020079900A1 true WO2020079900A1 (ja) 2020-04-23

Family

ID=70284535

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/027861 WO2020079900A1 (ja) 2018-10-18 2019-07-16 符号化装置、符号化方法、復号装置

Country Status (7)

Country Link
US (1) US20210350581A1 (ja)
EP (1) EP3869801A4 (ja)
JP (1) JPWO2020079900A1 (ja)
KR (1) KR20210071986A (ja)
CN (1) CN112823516A (ja)
TW (1) TWI829740B (ja)
WO (1) WO2020079900A1 (ja)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09275561A (ja) * 1996-04-08 1997-10-21 Toshiba Corp 映像圧縮装置及び映像圧縮方法
JP2002374532A (ja) * 2001-06-13 2002-12-26 Ricoh Co Ltd 画像圧縮装置、方法、プログラムおよび記録媒体
JP2003204436A (ja) * 2001-10-29 2003-07-18 Victor Co Of Japan Ltd 画像符号化装置及び画像符号化プログラム
JP2003348597A (ja) * 2002-05-29 2003-12-05 Sony Corp 画像符号化装置および画像符号化方法
JP2004064126A (ja) * 2002-07-24 2004-02-26 Kddi Corp 画像符号化装置および画像符号化方法、コンピュータプログラム
JP2004147143A (ja) 2002-10-25 2004-05-20 Digital Zuu:Kk 複数台のプロジェクタによるマルチ映像投影方法、同方法を使用するためのプロジェクタ装置、プログラム及び記録媒体
JP2012120054A (ja) * 2010-12-02 2012-06-21 Canon Inc 画像符号化装置、画像符号化方法およびプログラム
JP2015171117A (ja) * 2014-03-11 2015-09-28 キヤノン株式会社 画像符号化装置
JP2017116950A (ja) 2013-07-19 2017-06-29 株式会社Jvcケンウッド マルチプロジェクタシステム、プロジェクタ装置、調整装置および調整方法、ならびに、調整プログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100207419B1 (ko) * 1995-03-20 1999-07-15 전주범 부호화 비트발생율 제어방법 및 그 제어장치
JP2001285876A (ja) * 2000-03-30 2001-10-12 Sony Corp 画像符号化装置とその方法、ビデオカメラ、画像記録装置、画像伝送装置
CN1420633A (zh) * 2001-10-29 2003-05-28 日本胜利株式会社 图像编码装置以及图像编码方法
JP4616057B2 (ja) * 2005-04-13 2011-01-19 パイオニア株式会社 画像符号化装置及び画像符号化方法
JP5914962B2 (ja) * 2010-04-09 2016-05-11 ソニー株式会社 画像処理装置および方法、プログラム、並びに、記録媒体
WO2012103326A2 (en) * 2011-01-28 2012-08-02 Eye IO, LLC Adaptive bit rate control based on scenes
JP6023596B2 (ja) * 2013-01-24 2016-11-09 株式会社日立情報通信エンジニアリング 画像符号化装置
US10205950B2 (en) * 2014-02-21 2019-02-12 Panasonic Corporation Image decoding method, image encoding method, image decoding apparatus, and image encoding apparatus
US11172208B2 (en) * 2017-02-28 2021-11-09 Nokia Technologies Oy Method and apparatus for improving the visual quality of viewport-based omnidirectional video streaming

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09275561A (ja) * 1996-04-08 1997-10-21 Toshiba Corp 映像圧縮装置及び映像圧縮方法
JP2002374532A (ja) * 2001-06-13 2002-12-26 Ricoh Co Ltd 画像圧縮装置、方法、プログラムおよび記録媒体
JP2003204436A (ja) * 2001-10-29 2003-07-18 Victor Co Of Japan Ltd 画像符号化装置及び画像符号化プログラム
JP2003348597A (ja) * 2002-05-29 2003-12-05 Sony Corp 画像符号化装置および画像符号化方法
JP2004064126A (ja) * 2002-07-24 2004-02-26 Kddi Corp 画像符号化装置および画像符号化方法、コンピュータプログラム
JP2004147143A (ja) 2002-10-25 2004-05-20 Digital Zuu:Kk 複数台のプロジェクタによるマルチ映像投影方法、同方法を使用するためのプロジェクタ装置、プログラム及び記録媒体
JP2012120054A (ja) * 2010-12-02 2012-06-21 Canon Inc 画像符号化装置、画像符号化方法およびプログラム
JP2017116950A (ja) 2013-07-19 2017-06-29 株式会社Jvcケンウッド マルチプロジェクタシステム、プロジェクタ装置、調整装置および調整方法、ならびに、調整プログラム
JP2015171117A (ja) * 2014-03-11 2015-09-28 キヤノン株式会社 画像符号化装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3869801A4

Also Published As

Publication number Publication date
KR20210071986A (ko) 2021-06-16
CN112823516A (zh) 2021-05-18
JPWO2020079900A1 (ja) 2021-09-24
EP3869801A1 (en) 2021-08-25
EP3869801A4 (en) 2021-12-08
US20210350581A1 (en) 2021-11-11
TW202029749A (zh) 2020-08-01
TWI829740B (zh) 2024-01-21

Similar Documents

Publication Publication Date Title
US9681139B2 (en) Method and apparatus for ROI coding using variable block size coding information
KR101874102B1 (ko) 영상의 인트라 예측 부호화 방법 및 장치 및 컴퓨터 기록매체
JP5989934B2 (ja) マルチレイヤvdr符号化における知覚量子化ビデオコンテンツのエンコーディング
JP4495702B2 (ja) 人間の視覚特性を考慮した映像の復号化方法
JP4491349B2 (ja) ビデオ・データのイントラ符号化方法及び装置
JP2021523588A (ja) 四分木二分木のブロック形状適応イントラ予測方向
JP2015522986A (ja) 層状の時間的階層における時系列および/または多次元信号のデコードおよび再構成
TWI551124B (zh) 應用於視訊系統之編碼/解碼方法及編碼/解碼裝置
US20240314361A1 (en) Systems and methods for data partitioning in video encoding
WO2020079900A1 (ja) 符号化装置、符号化方法、復号装置
KR102401851B1 (ko) 영상 압축 방법 및 이를 수행하는 표시 장치
JP6194334B2 (ja) 映像符号化装置、映像符号化方法及び映像符号化プログラム
JP2017183910A (ja) 画像符号化装置及び画像符号化方法
KR102443958B1 (ko) 고효율 비디오 코딩을 위한 화면 내 예측 방법 및 장치
CN110719471B (zh) 显示系统的压缩方法
KR100543611B1 (ko) 인트라 압축 방법
JP4331992B2 (ja) 画像符号化方法,画像復号方法,画像符号化装置,画像復号装置,それらのプログラムおよびそれらのプログラム記録媒体
US11871003B2 (en) Systems and methods of rate control for multiple pass video encoding
CN105323589A (zh) 应用于视频系统的编码/解码方法及编码/解码装置
JP2010141775A (ja) 表示装置駆動回路及び表示装置
WO2020136987A1 (ja) 映像符号化装置、映像符号化方法、映像符号化プログラム、映像復号装置、映像復号方法、及び映像復号プログラム
JP2007201537A (ja) 画像圧縮方法および画像圧縮手段を備えた情報処理装置
JP2011155426A (ja) 画像符号化装置及び画像符号化方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19874304

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2020552528

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2019874304

Country of ref document: EP

Effective date: 20210518