WO2019146122A1 - 画像処理装置、画像処理方法及び画像処理プログラム - Google Patents

画像処理装置、画像処理方法及び画像処理プログラム Download PDF

Info

Publication number
WO2019146122A1
WO2019146122A1 PCT/JP2018/002801 JP2018002801W WO2019146122A1 WO 2019146122 A1 WO2019146122 A1 WO 2019146122A1 JP 2018002801 W JP2018002801 W JP 2018002801W WO 2019146122 A1 WO2019146122 A1 WO 2019146122A1
Authority
WO
WIPO (PCT)
Prior art keywords
signal strength
image processing
reference value
image
emphasis degree
Prior art date
Application number
PCT/JP2018/002801
Other languages
English (en)
French (fr)
Inventor
恭平 後藤
貴司 中前
玲央 青木
Original Assignee
Eizo株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Eizo株式会社 filed Critical Eizo株式会社
Priority to CN201880081177.5A priority Critical patent/CN111492399B/zh
Priority to EP18902028.2A priority patent/EP3719740B1/en
Priority to US16/960,676 priority patent/US11238570B2/en
Priority to PCT/JP2018/002801 priority patent/WO2019146122A1/ja
Priority to KR1020207020885A priority patent/KR102287622B1/ko
Priority to JP2019567822A priority patent/JP6749510B2/ja
Publication of WO2019146122A1 publication Critical patent/WO2019146122A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6027Correction or control of colour gradation or colour contrast

Definitions

  • the present invention relates to an image processing apparatus, an image processing method, and an image processing program.
  • Multi Scale Retinex method based on Retinex theory has been proposed as one of methods for correcting the contrast of an image, and it is known as a method for realizing a high visibility improvement effect.
  • the present invention has been made in view of such circumstances, and an image processing apparatus and an image processing method capable of appropriately correcting the contrast even to an image in which the amplitude of the reflectance is different for each local area of the image. And providing an image processing program.
  • an image processing apparatus comprising: a signal strength extraction unit; a surrounding area reference value calculation unit; and an emphasis degree determination unit, and reflecting on an input image input to the image processing apparatus.
  • the signal strength extraction unit extracts the signal strength of the input image;
  • the surrounding area reference value calculation unit calculates the surrounding area reference value based on the signal strength of the surrounding area located around the small area to be focused, and the emphasis degree determination unit increases the signal strength of the small area
  • an image processing apparatus is provided in which the degree of emphasis of the signal strength is determined, and the degree of emphasis is monotonically non-decreasing with respect to the difference between the peripheral area reference value and a predetermined value.
  • the signal strength extraction unit extracts the signal strength of the input image
  • the peripheral area reference value calculation unit performs peripheral based on the signal strength of the peripheral area located around the small area of interest.
  • the area reference value is calculated
  • the emphasis degree determination unit determines the degree of emphasis of the signal strength so as to increase the signal strength of the small area.
  • the emphasis degree is characterized by being monotonically non-decreasing with respect to the difference between the peripheral area reference value and the predetermined value.
  • the signal strength of the small area of interest is defined as R, the peripheral area reference value as S, the predetermined value as T, and the upper and lower limit values of signal strength that can be output as an output image as OL and UL, respectively.
  • R the peripheral area reference value
  • T the predetermined value
  • OL the upper and lower limit values of signal strength that can be output as an output image
  • the signal strength is calculated based on the reflected light component and the illumination light component separated from the input image input to the image processing apparatus.
  • an image processing method comprising a signal strength extraction step, a peripheral area reference value calculation step, and an emphasis degree determination step, in an input image input at the time of the method.
  • the signal intensity extraction step extracts the signal intensity of the input image.
  • the peripheral area reference value calculating step the peripheral area reference value is calculated based on the signal strength of the peripheral area located around the small area to be focused, and the emphasis degree determining step is performed on the signal strength of the small area Determining the degree of emphasis of the signal strength to be enhanced, the degree of emphasis being monotonically non-decreasing with respect to the difference between the peripheral area reference value and a predetermined value; The law is provided.
  • the signal strength extraction step the signal strength of the input image is extracted, and in the peripheral area reference value calculation step, the peripheral area based on the signal strength of the peripheral area located around the small area of interest.
  • An area reference value is calculated, and an emphasis degree determination step determines an emphasis degree of the signal strength so as to increase the signal strength of the small area.
  • the emphasis degree is characterized by being monotonically non-decreasing with respect to the difference between the peripheral area reference value and the predetermined value.
  • an image processing program which causes a computer to execute a predetermined function, wherein the predetermined function is a signal strength extraction function, a peripheral area reference value calculation function, and an emphasis degree determination.
  • the signal in the input image input to the computer as a signal intensity, and defining a region which is a part of the input image and which includes at least one pixel as a small region.
  • the strength extraction function extracts the signal strength of the input image
  • the peripheral area reference value calculation function calculates a peripheral area reference value based on the signal strength of the peripheral area located around the small area of interest
  • the emphasis degree determination function determines the emphasis degree of the signal strength so as to increase the signal strength of the small area, and the emphasis degree corresponds to the peripheral area. Is monotonic non-decreasing with respect to the difference between the reference value and a predetermined value, the image processing program is provided.
  • the signal strength extraction function extracts the signal strength of the input image
  • the peripheral area reference value calculation function calculates the peripheral area based on the signal strength of the peripheral area located around the small area of interest.
  • An area reference value is calculated
  • the emphasis degree determination function determines the degree of emphasis of the signal strength so as to increase the signal strength of the small area.
  • the emphasis degree is characterized by being monotonically non-decreasing with respect to the difference between the peripheral area reference value and the predetermined value.
  • FIG. 1 is a functional block diagram showing a configuration outline of a system using an image processing apparatus according to an embodiment.
  • the block diagram showing the processing flow by a signal strength extraction part, a surrounding area reference value calculation part, an emphasis degree determination part, and a conversion output part.
  • the conceptual diagram which shows the aspect which a surrounding area reference value calculation part determines a surrounding area reference value.
  • the conceptual diagram which shows the aspect which an emphasis degree determination part determines the emphasis degree.
  • the block diagram which concerns on 1st Embodiment and represents the processing flow (detail) of a signal strength extraction part.
  • the block diagram which concerns on 1st Embodiment and represents the processing flow (detail) of a surrounding area reference value calculation part and an emphasis degree determination part.
  • FIG. 1 is a schematic view showing the use of a frame memory in a system using an image processing apparatus according to a first embodiment.
  • FIG. 10 is a schematic view showing the use of a frame memory in a system using an image processing apparatus according to a second embodiment.
  • part may refer to, for example, a combination of hardware resources implemented by a circuit in a broad sense and software information processing that can be specifically realized by these hardware resources.
  • a circuit in a broad sense is a circuit that is realized by at least appropriately combining a circuit, circuits, a processor, a memory, and the like.
  • ASICs Application specific integrated circuits
  • SPLDs simple programmable logic devices
  • CLPDs complex programmable logic devices
  • FPGA Field Programmable Gate Array
  • the reflected light component and the illumination light component are separated from the input image input to the image processing apparatus, and the reflectance calculated based on these is defined as signal intensity (logarithmic value), and the input image
  • An area which is a part of and consists of at least one pixel is defined as a small area.
  • an image includes both still images and moving images, and in the case of a moving image, one of them is designated unless otherwise specified.
  • FIG. 1 is a view showing the outline of the configuration of a system 1 using an image processing apparatus 3 according to the first embodiment of the present invention.
  • the system 1 includes an input image source 2, an image processing device 3, and a display unit 4.
  • the input image source 2 outputs an input image to be subjected to image processing of the image processing device 3 and transmits the input image to a transmission / reception unit 34 (described later) in the image processing unit 3.
  • a transmission / reception unit 34 (described later) in the image processing unit 3.
  • it may be a general computer or a portable terminal, or may be a vision sensor (camera, endoscope system, etc.) that images external situations in real time, or a playback device that plays back moving images
  • this input image is a two-dimensional aggregate of pixels (pixel data array).
  • the input image source 2 is illustrated as a separate body from the image processing apparatus 3 in FIG. 1, the present invention is not limited to this and the input image source 2 may be included in the image processing apparatus 3.
  • the image processing device 3 is a device that performs predetermined image processing on the image data transmitted from the input image source 2.
  • the image processing device 3 converts the control unit 31, the storage unit 32, the input unit 33, the transmission / reception unit 34, the signal strength extraction unit 35, the peripheral area reference value calculation unit 36, the emphasis degree determination unit 37, and And an output unit 38, which are connected via the communication bus 3B.
  • the components 31 to 38 will be described in detail below.
  • the control unit 31 performs processing and control of the entire operation related to the image processing apparatus 3.
  • the control unit 31 is, for example, a central processing unit (CPU) (not shown).
  • the control unit 31 realizes various functions related to the image processing device 3 or the system 1 by reading a predetermined program stored in the storage unit 32. For example, it includes causing the display unit 4 to display a screen of a graphical user interface (GUI) including a display image of the input image source 2 by reading a predetermined program.
  • GUI graphical user interface
  • FIG. 1 although it describes as the single control part 31, it does not restrict to this in fact, You may implement so that several control parts 31 may be provided for every function. It may be a combination of them.
  • the storage unit 32 stores various programs to be realized by the control unit 31, as described above. This can be implemented, for example, as a storage device such as a Hard Disk Drive (HDD) or a Solid State Drive (SSD).
  • the storage unit 32 may also be implemented as a memory such as a random access memory (RAM) that stores temporarily necessary information (arguments, arrays, etc.) related to the operation of the program. Moreover, these combinations may be sufficient.
  • the input unit 33 may be, for example, one included in the image processing apparatus 3 itself or one externally attached.
  • the input unit 33 can be implemented as a touch panel.
  • a user interface such as a switch button, a mouse, or a keyboard may be employed.
  • the instruction (command) of the operator is received via the input unit 33.
  • the instruction is transferred to the control unit 31 via the communication bus 3B, and the control unit 31 can execute predetermined control or calculation as needed.
  • indication an operator can pause the moving image which the input image source 2 currently displayed on the display part 4 is outputting via the input part 33.
  • the transmitting and receiving unit 34 is a unit for communication between the image processing device 3 and an external device other than the image processing device 3. That is, after receiving image data to be an input image from the input image source 2 through the transmission / reception unit 34 and performing image processing (details will be described later), it can be transmitted to the display unit 4 as an output image.
  • the communication by the transmitting and receiving unit 34 is not limited to image data.
  • a combination of a plurality of communication means including wired LAN network communication, Bluetooth communication, wireless LAN network communication, etc. be implemented so as to include an appropriate communication standard for a communication target.
  • FIG. 2 is a block diagram showing the processing flow of the signal strength extraction unit 35, the surrounding area reference value calculation unit 36, the emphasis degree determination unit 37, and the conversion output unit 38 according to the first embodiment of the present invention.
  • the signal strength extraction unit 35 performs an operation according to the Retinex theory on the input image I (x, y) received from the input image source 2 via the transmission / reception unit 34 to obtain the reflectance R as the signal strength. , Y).
  • the input image I (x, y) consists of an illumination light component L (x, y) and a reflectance R (x, y).
  • the illumination light component L (x, y) and the reflectance R (x, y) are determined as follows.
  • G_n in the equation is the nth Gaussian filter
  • W_n is its weighting coefficient. More specific procedures will be described again in Section 1.2. Further, an example in which the input image I (x, y) is a reflected light component and this embodiment uses the lightness V (x, y) as the input image will be described.
  • FIGS. 3A to 3C are conceptual diagrams showing how the peripheral area reference value calculation unit 36 determines the peripheral area reference value. As illustrated, the peripheral area reference value calculation unit 36 calculates the reference value S (x, y) using the reflectance R (x, y) extracted by the signal intensity extraction unit 35.
  • the reflectance R (x, y) is also a pixel data array of width ⁇ height [pixel]. Then, an ROI (Region of Interest) having ⁇ ⁇ ⁇ [pixel] is set for the reflectance R (x, y).
  • a pixel located at the center of the ROI is referred to as a target pixel p_ [i, j] (an example of “a small area of interest” in the claims).
  • a target pixel p_ [a, b], a target pixel p_ [c, d], and a target pixel p_ [e, f] are shown as an example of the target pixel p_ [i, j]. .
  • the peripheral region reference value calculation unit 36 When the reflectance R (i, j) relating to the target pixel p_ [i, j] is 0 or more, the peripheral region reference value calculation unit 36 generates a plurality of these other than the target pixel p_ [i, j] in the same ROI. Try to generate a pixel data array that has been replaced by the maximum value R_M of the reflectance R (x, y) of the pixel (peripheral region) (local_max () filter). On the other hand, when the reflectance R (i, j) related to the target pixel p_ [i, j] is negative, this is reflected by a plurality of pixels (peripheral regions) other than the target pixel p_ [i, j] in the same ROI.
  • FIGS. 4A and 4B are conceptual diagrams showing an aspect in which the emphasis degree determination unit 37 determines the emphasis degree g (x, y).
  • the emphasis degree determination unit 37 calculates the reference value S (x, y) calculated by the peripheral area reference value calculation unit 36 and the reflectance R (x which can be output as a predetermined value (usually, the output image O (x, y)).
  • Y are compared with the upper limit OL or the lower limit UL) to determine the emphasis degree g (x, y).
  • g (x, y) is calculated from the difference between S (x, y) and OL taking the case of R (x, y)) 0 as an example.
  • the emphasis degree g (x, y) is determined so as to increase the reflectance R (x, y), and the difference between the reference value S (x, y) and the upper limit value OL indicates the emphasis degree g (x, y). Note that it depends on the magnitude of y). In other words, the emphasis degree g (x, y) is monotonically increasing with respect to the difference between the reference value S (x, y) and the upper limit value OL (an example of “monotonous non-decreasing” in the claims).
  • the conversion output unit 38 corrects the contrast from the reflectance R (x, y) extracted by the signal intensity extraction unit 35 and the emphasis degree g (x, y) determined by the emphasis degree determination unit 37.
  • the output image O (x, y) is output. That is, the conversion output unit 38 outputs the output image O (x, y) using the corrected reflectance R_c (x, y) described above.
  • the display unit 4 is a medium for displaying, as an image, image data on which image processing has been performed by the image processing device 3 based on each pixel data (information such as luminance possessed by each pixel). It may be a monitor, a CRT monitor, an organic EL monitor or the like.
  • the image processing apparatus 3 may include the display unit 4. More specifically, the output image O (x, y) output from the conversion output unit 38 in the image processing apparatus 3 is transmitted to the display unit 4 via the communication bus 3B and the transmission / reception unit 34, and the display unit 4 Display the output image.
  • FIG. 5 is a block diagram showing the process flow (details) of the signal intensity extraction unit 35. As shown in FIG. Hereinafter, description will be made along each step of FIG.
  • Step S1-1 The lightness V (i, j) of the target pixel in the target area of the input image I (x, y) (here, all pixels of the input image I: one frame in the case of a moving image) is extracted, and its logarithmic value log Acquire ⁇ V (i, j) ⁇ (go to steps S1-2a to c).
  • Steps S1-2a to c Subsequently, the extracted lightness V (i, j) is multiplied by the Gaussian filters G_1 to G_3 and the weighting factors W_1 to W_3.
  • the Gaussian filters G_1 to G_3 have different kernel sizes, and the weighting coefficients W_1 to W_3 satisfy the equation (3) (process proceeds to step S1-3).
  • W_1 + W_2 + W_3 1 (3)
  • Step S1-3 Subsequently, the illumination light component L (i, j) is calculated by taking the logarithm value of each value obtained in steps S1-2a to c and taking the sum (proceed to step S1-4).
  • Step S1-4 Subsequently, the illumination light component L (i, j) calculated in step S1-3 is subtracted from the logarithmic value log ⁇ V (i, j) ⁇ acquired in step S1-1 to obtain a signal intensity.
  • the reflectance R (i, j) is extracted. [Finish]
  • FIG. 6 is a block diagram showing the processing flow (details) of the peripheral region reference value calculation unit 36 and the emphasis degree determination unit 37. Hereinafter, description will be made along each step of FIG.
  • Step S2-1 The peripheral region reference value calculation unit 36 determines whether the reflectance R (i, j) extracted by the signal intensity extraction unit 35 is 0 or more or less. If R (i, j) ⁇ 0, execute the process according to step S2-2a, and if R (i, j) ⁇ 0, execute step S2-2b (step S2-2a, b). Continue).
  • Step S2-2a The surrounding area reference value calculation unit 36 determines a reference value S (i, j) corresponding to the reflectance R (i, j). In other words, in the ROI defined for the target pixel p_ [i, j], the maximum of the reflectances R (x, y) of a plurality of pixels (the target pixel p_ [i, j] and its surrounding area) The value R_M becomes the reference value S (i, j) (following step S2-3a).
  • Step S2-3a The emphasis degree determination unit 37 calculates 1 / S (i, j) that is the inverse value of the reference value S (i, j) determined in step S2-2a (following step S2-4a).
  • Step S2-4a The emphasis degree determination unit 37 calculates g (i, j) by multiplying log (OL / ⁇ ) by the inverse value 1 / S (i, j).
  • is a predetermined offset constant.
  • Step S2-2b The surrounding area reference value calculation unit 36 determines a reference value S (i, j) corresponding to the reflectance R (i, j). In other words, in the ROI defined for the target pixel p_ [i, j], the minimum of the reflectances R (x, y) of a plurality of pixels (the target pixel p_ [i, j] and its surrounding area) The value R_m is adopted.
  • Step S2-3b The emphasis degree determination unit 37 calculates 1 / S (i, j) which is the inverse value of the reference value S (i, j) determined in step S2-2b (following step S2-4b).
  • Step S2-4b The emphasis degree determination unit 37 calculates g (i, j) by multiplying log (UL / ⁇ ) by the inverse value 1 / S (i, j).
  • is a predetermined offset constant.
  • FIG. 7 is a block diagram showing the process flow (details) of the conversion output unit 38. As shown in FIG. Hereinafter, description will be made along each step of FIG.
  • Step S3-1 The conversion output unit 38 multiplies the reflectance degree R (i, j) by the emphasis degree g (i, j) determined by the emphasis degree determination unit 37 to obtain the corrected reflectance R_c (i, j). Derivate (following step S3-2).
  • Step S3-2 Log ⁇ is added to the corrected reflectance R_c (i, j) derived in step S3-1. (Continued to step S3-3).
  • Step S3-3 The corrected lightness U (i, j) is determined by extracting the antilogarithm of the value obtained by adding log ⁇ to the corrected reflectance R_c (i, j) derived in step S3-2. That is, the pixel data O (i, j) of the target pixel p_ [i, j] of the contrast-corrected output image O (x, y) is determined while maintaining color components such as hue and saturation. [Finish]
  • the output image O (x) obtained by image processing of the input image I (x, y) is repeated by repeating the processing according to each step described in detail in Sections 1.2.1 to 3 for each pixel. , Y) are output.
  • the input image I (x, y) in FIG. 8 is characterized in that the value of the reflectance R (x, y) is relatively low when the left side is compared with the right side.
  • the left side and the right side are respectively highlighted by adding an appropriate emphasis degree g (x, y) to the left side and the right side.
  • An output image O (x, y) is obtained.
  • the contrast is enhanced and the visibility is improved for the left side because the strong emphasis degree g (x, y) is uniformly added. It has reached the limit and visibility is not good.
  • the comparative example shown in FIG. 10B in order to suppress the contrast on the right side, since the weakening emphasis degree g (x, y) is uniformly added compared to FIG. It can be said that it is bad.
  • the contrast of the image in which the amplitude of the reflectance is different for each local area of the image is appropriately determined. It is confirmed that the output image O (x, y) having higher visibility can be generated.
  • the Gaussian filter G_n is used in the signal strength extraction unit 35. Since the Gaussian filter G_n also uses pixel data of pixels around the target pixel p_ [i, j] for calculation, it is necessary to store surrounding pixel data when calculating the target pixel p_ [i, j] . Similarly, in using the local_max () filter and the local_min () filter, the peripheral region reference value calculation unit 36 also needs to store pixel data relating to pixels around the target pixel p_ [i, j]. In such a case, a frame memory is generally used. That is, as shown in FIG. 11, in the image processing apparatus 3 according to the first embodiment, the frame memory is used at two timings.
  • the device for suppressing the use of the frame memory to one time is made.
  • the reference value is not derived once the reflectance R (i, j) is derived from the lightness V (i, j).
  • S (i, j) is approximately derived (see FIG. 13).
  • the Gaussian filter, the local_max () filter, and the local_min () filter which are also used in the image processing apparatus 3 according to the first embodiment, are used at one time. That is, applying these filters to the lightness V (i, j) and taking their logarithm value, log ⁇ local_max (V (i, j)) ⁇ and log ⁇ G * V (i, j) Or the difference between log ⁇ local_min (V (i, j)) ⁇ and log ⁇ G * V (i, j) ⁇ is derived as a reference value S (i, j).
  • the range (area of interest) of image processing is described as all pixels of the input image I (x, y) (one frame in the case of a moving image). May be selected.
  • the attention area may be a part of rectangular area, or a reduced image may be generated by appropriately selecting a representative pixel (for example, a specific position such as upper left or a median value in the small area) for each rectangular small area of a predetermined size. This may be implemented as a region of interest.
  • the maximum value among the reflectances R (x, y) of a plurality of pixels of the ROI (the target pixel p_ [i, j] and its surrounding area)
  • R_M the minimum value R_m
  • R_M ⁇ ⁇ R_M or R_m ⁇ ⁇ R_m which is a value including these neighboring errors.
  • the neighborhood error is, for example, 0 ⁇ ⁇ R_M ⁇ R_M / 20 (4) 0 ⁇ ⁇ R_m ⁇ R_m / 5 (5) It is preferable to satisfy
  • ⁇ R_M / R_M 0.001, 0.002, 0.003, 0.004, 0.005, 0.01, 0.02, 0.03, 0.04, 0.05 It may be in the range between any two of the numerical values exemplified here.
  • ⁇ R_m / R_m 0.01, 0.02, 0.03, 0.04, 0.05, 0.10, 0.15, 0.20, and any two of the values exemplified here are It may be in the range between them.
  • the emphasis degree determination unit 37 may determine the emphasis degree g (x, y) based on the predetermined value T, instead of the upper limit value OL or the lower limit value UL.
  • the predetermined value T satisfies the following equations (6) and (7).
  • image processing is performed for each target pixel p_ [i, j]. However, image processing may be performed for each small area formed of a plurality of target pixels.
  • a two-dimensional array is assumed, but it may be stored as a one-dimensional array during the operation if a desired image can be finally displayed on the display unit 4 . Further, instead of calculating using a one-dimensional array or a two-dimensional array, operations may be performed sequentially.
  • an image processing program for causing a computer to execute a predetermined function, wherein the predetermined function includes a signal strength extraction function, a peripheral area reference value calculation function, and an emphasis degree determination function, and the computer
  • the predetermined function includes a signal strength extraction function, a peripheral area reference value calculation function, and an emphasis degree determination function
  • the computer In the case where a predetermined pixel data included in an input image to be input is defined as signal strength, and an area which is a part of the input image and is formed of at least one pixel is defined as a small area, the signal strength extraction function The signal strength of the input image is extracted, and the peripheral area reference value is calculated based on the signal strength of the peripheral area located around the small area of interest by the peripheral area reference value calculation function, and the emphasis degree determination is performed.
  • the function determines the emphasis degree of the signal strength so as to increase the signal strength of the small area, and the emphasis degree corresponds to the peripheral area reference value Is a monotonically increasing with respect to the difference between the predetermined value
  • the program can also be provided. It can also be provided as a computer readable non-transitory recording medium having the functions of such a program implemented. Moreover, such a program can also be distributed via the Internet or the like. Furthermore, each part which comprises the system 1 may be contained in the same housing
  • an image processing apparatus capable of appropriately correcting the contrast even for an image in which the amplitude of the reflectance is different for each local area of the image. Can be provided.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)

Abstract

画像の局所エリアごとに反射率の振幅が異なっている画像に対しても適切にコントラストを補正可能な画像処理装置、画像処理方法及び画像処理プログラムを提供すること。 画像処理装置であって、信号強度抽出部と、周辺領域基準値算出部と、強調度合決定部とを備え、当該画像処理装置に入力された入力画像における反射率を信号強度と定義し、前記入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義した場合において、前記信号強度抽出部は、前記入力画像の信号強度を抽出し、前記周辺領域基準値算出部は、注目する前記小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値を算出し、前記強調度合決定部は、前記小領域の信号強度を高めるように当該信号強度の強調度合を決定し、前記強調度合は、前記周辺領域基準値と所定値との差分に対して単調非減少である、画像処理装置が提供される。 

Description

画像処理装置、画像処理方法及び画像処理プログラム
  本発明は、画像処理装置、画像処理方法及び画像処理プログラムに関する。
  画像のコントラストを補正する手法の1つとしてRetinex理論に基づいたMulti Scale Retinex手法という画像処理方法が提案されており、高い視認性向上効果を実現する手法として知られている。
特表2005-515515号公報
  しかし、従来のMulti Scale Retinex手法では画像に対して一様に正規化処理を行うため、画像の局所エリアごとに反射率の振幅が異なっている場合には適切にコントラストを補正することができない、という問題があった(例えば、図10A及び図10B参照)。
  本発明は、このような事情を鑑みてなされたものであり、画像の局所エリアごとに反射率の振幅が異なっている画像に対しても適切にコントラストを補正可能な画像処理装置、画像処理方法及び画像処理プログラムを提供することを目的とする。
  本発明の一観点によれば、画像処理装置であって、信号強度抽出部と、周辺領域基準値算出部と、強調度合決定部とを備え、当該画像処理装置に入力された入力画像における反射率を信号強度と定義し、前記入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義した場合において、前記信号強度抽出部は、前記入力画像の信号強度を抽出し、前記周辺領域基準値算出部は、注目する前記小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値を算出し、前記強調度合決定部は、前記小領域の信号強度を高めるように当該信号強度の強調度合を決定し、前記強調度合は、前記周辺領域基準値と所定値との差分に対して単調非減少である、画像処理装置が提供される。
  本発明に係る画像処理装置では、信号強度抽出部が、入力画像の信号強度を抽出し、周辺領域基準値算出部が、注目する小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値を算出し、強調度合決定部が、小領域の信号強度を高めるように、当該信号強度の強調度合を決定する。そして、強調度合は、周辺領域基準値と所定値との差分に対して単調非減少であることを特徴とする。このような構成を有することにより、画像の局所エリアごとに反射率の振幅が異なっている画像に対しても適切にコントラストを補正することができる。
  以下、本発明の種々の実施形態を例示する。以下に示す実施形態は、互いに組み合わせ可能である。
  好ましくは、注目する前記小領域の信号強度をR、前記周辺領域基準値をS、前記所定値をT、出力画像として出力しうる信号強度の上限値及び下限値をそれぞれOL及びULと定義した場合において、
   R≧0のとき、S≦T≦OL
   R<0のとき、UL≦T≦S
  を満たす。
  好ましくは、前記信号強度は、当該画像処理装置に入力された入力画像から反射光成分及び照明光成分を分離し且つこれらに基づいて算出される。
  また、本発明の別の観点によれば、画像処理方法であって、信号強度抽出ステップと、周辺領域基準値算出ステップと、強調度合決定ステップとを備え、当該方法に際して入力された入力画像における反射率を信号強度と定義し、前記入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義した場合において、前記信号強度抽出ステップでは、前記入力画像の信号強度を抽出し、前記周辺領域基準値算出ステップでは、注目する前記小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値を算出し、前記強調度合決定ステップは、前記小領域の信号強度を高めるように当該信号強度の強調度合を決定し、前記強調度合は、前記周辺領域基準値と所定値との差分に対して単調非減少である、画像処理方法が提供される。
  本発明に係る画像処理方法では、信号強度抽出ステップにおいて、入力画像の信号強度を抽出し、周辺領域基準値算出ステップにおいて、注目する小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値を算出し、強調度合決定ステップにおいて、小領域の信号強度を高めるように、当該信号強度の強調度合を決定する。そして、強調度合は、周辺領域基準値と所定値との差分に対して単調非減少であることを特徴とする。このような方法により、画像の局所エリアごとに反射率の振幅が異なっている画像に対しても適切にコントラストを補正することができる。
  また、本発明の別の観点によれば、コンピュータに所定の機能を実行させる画像処理プログラムであって、前記所定の機能は、信号強度抽出機能と、周辺領域基準値算出機能と、強調度合決定機能とを備え、前記コンピュータに入力された入力画像における反射率を信号強度と定義し、前記入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義した場合において、前記信号強度抽出機能によって、前記入力画像の信号強度が抽出され、前記周辺領域基準値算出機能によって、注目する前記小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値が算出され、前記強調度合決定機能によって、前記小領域の信号強度を高めるように当該信号強度の強調度合が決定され、前記強調度合は、前記周辺領域基準値と所定値との差分に対して単調非減少である、画像処理プログラムが提供される。
  本発明に係る画像処理プログラムでは、信号強度抽出機能によって、入力画像の信号強度が抽出され、周辺領域基準値算出機能によって、注目する小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値が算出され、強調度合決定機能によって、小領域の信号強度を高めるように、当該信号強度の強調度合が決定される。そして、強調度合は、周辺領域基準値と所定値との差分に対して単調非減少であることを特徴とする。このような機能をコンピュータに実行させるプログラムにより、画像の局所エリアごとに反射率の振幅が異なっている画像に対しても適切にコントラストを補正することができる。
実施形態に係る画像処理装置を用いたシステムの構成概要を示す機能ブロック図。 信号強度抽出部、周辺領域基準値算出部、強調度合決定部、変換出力部による処理フローを表すブロック線図。 周辺領域基準値算出部が周辺領域基準値を決定する態様を示す概念図。 強調度合決定部が強調度合を決定する態様を示す概念図。 第1実施形態に係り、信号強度抽出部の処理フロー(詳細)を表すブロック線図。 第1実施形態に係り、周辺領域基準値算出部及び強調度合決定部の処理フロー(詳細)を表すブロック線図。 変換出力部の処理フロー(詳細)を表すブロック線図。 入力画像の一例。 実施形態に係る画像処理装置によって画像処理を適用した場合の出力画像(実施例)。 従来技術に係る画像処理を適用した場合の出力画像(比較例)。 第1実施形態に係る画像処理装置を用いたシステムでの、フレームメモリの使用を示す概要図。 第2実施形態に係る画像処理装置を用いたシステムでの、フレームメモリの使用を示す概要図。 第2実施形態に係り、信号強度抽出部、周辺領域基準値算出部及び強調度合決定部の処理フロー(詳細)を表すブロック線図。
  以下、本発明の実施形態について図面を参照しながら詳細に説明する。特に、本明細書において「部」とは、例えば、広義の回路によって実施されるハードウェア資源と、これらのハードウェア資源によって具体的に実現されうるソフトウェアの情報処理とを合わせたものを指しうる。
  また、広義の回路とは、回路(circuit)、回路類(circuitry)、プロセッサ(Processor)、及びメモリ(Memory)等を少なくとも適当に組み合わせることによって実現される回路である。すなわち、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CLPD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等を含むものであることに留意されたい。
  また、本明細書では、画像処理装置に入力された入力画像から反射光成分及び照明光成分を分離し且つこれらに基づいて算出される反射率を信号強度(対数値)と定義し、入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義する。更に、画像とは、静止画/動画の何れも含むものとし、動画の場合においては特に指定がない限りそのうちの1フレームを指すものとする。
  また、下記に詳述する実施形態においては、様々な情報やこれを包含する概念を取り扱うが、これらは、0又は1で構成される2進数のビット集合体として信号値の高低によって表され、広義の回路上で通信・演算が実行されうるものである。具体的には、「小領域」、「ピクセルデータ」、「信号強度」、「反射率」、「周辺領域基準値」、「強調度合」、「明度」等が、かかる情報/概念に含まれうる。これらについては、再度必要に応じて詳しく説明するものとする。
 1.第1実施形態
 1.1 システム1(全体構成)
  図1は、本発明の第1実施形態に係る画像処理装置3を用いたシステム1の構成概要を示す図である。システム1は、入力画像源2と、画像処理装置3と、表示部4とを備える。
 1.1.1 入力画像源2
  入力画像源2は、画像処理装置3の画像処理の対象とする入力画像を出力し、画像処理部3における送受信部34(後述)に送信する。例えば、一般的なコンピュータや携帯型端末であってもよいし、リアルタイムに外界の状況を画像化するビジョンセンサ(カメラ、内視鏡システム等)であってもよいし、動画を再生する再生機であってもよい。なお、情報処理という観点において、この入力画像は、2次元の画素の集合体(ピクセルデータ配列)である。なお、図1では入力画像源2が画像処理装置3と別体のように図示されているが、これに限らず入力画像源2が画像処理装置3に含まれるように実施してもよい。
 1.1.2 画像処理装置3
  画像処理装置3は、入力画像源2より送信された画像データに対して所定の画像処理を実行する装置である。画像処理装置3は、制御部31と、記憶部32と、入力部33と、送受信部34と、信号強度抽出部35と、周辺領域基準値算出部36と、強調度合決定部37と、変換出力部38とを備え、これらが通信バス3Bを介して接続されている。以下、構成要素31~38をそれぞれ詳述する。
 <制御部31>
  制御部31は、画像処理装置3に関連する全体動作の処理・制御を行う。制御部31は、例えば不図示の中央処理装置(Central Processing Unit:CPU)である。制御部31は、記憶部32に記憶された所定のプログラムを読み出すことによって、画像処理装置3ないしはシステム1に係る種々の機能を実現する。例えば、所定のプログラムを読み出して、入力画像源2の表示画像を含むグラフィカルユーザインターフェース(Graphical User Interface:GUI)の画面を表示部4に表示させることが含まれる。
  なお、図1においては、単一の制御部31として表記されているが、実際はこれに限るものではなく、機能ごとに複数の制御部31を有するように実施してもよい。またそれらの組合せであってもよい。
 <記憶部32>
  記憶部32は、上述の通り、制御部31により実現させるための種々のプログラム等を記憶する。これは、例えばハードディスクドライブ(Hard Disk Drive:HDD)又はソリッドステートドライブ(Solid State Drive:SSD)等のストレージデバイスとして実施されうる。また記憶部32は、プログラムの演算に係る一時的に必要な情報(引数、配列等)を記憶するランダムアクセスメモリ(Random Access Memory:RAM)等のメモリとしても実施されうる。また、これらの組合せであってもよい。
 <入力部33>
  入力部33は、例えば、画像処理装置3自体に含まれるものであってもよいし、外付けされるものであってもよい。例えば、入力部33は、タッチパネルとして実施されうる。或いは、スイッチボタン、マウス、キーボード等のユーザインターフェースを採用してもよい。入力部33を介して、操作者の指示(コマンド)を受け付ける。当該指示は、通信バス3Bを介して制御部31に転送され、制御部31が必要に応じて所定の制御や演算を実行しうる。当該指示の一例として、操作者は、入力部33を介して、表示部4に表示されている入力画像源2が出力中の動画を一時停止することができる。
 <送受信部34>
  送受信部34は、画像処理装置3と、画像処理装置3以外の外部機器との通信のためのユニットである。すなわち、送受信部34を介して、入力画像源2より入力画像となる画像データを受信し、これを画像処理(詳細後述)した後、出力画像として表示部4に送信しうる。なお、送受信部34による通信は、画像データに限るものではない。例えば、有線LANネットワーク通信、Bluetooth通信、無線LANネットワーク通信等を含む複数の通信手段の集合体であって通信対象について適切な通信規格を含むように実施することが好ましい。
 <信号強度抽出部35>
  図2は、本発明の第1実施形態に係る信号強度抽出部35、周辺領域基準値算出部36、強調度合決定部37、変換出力部38による処理フローを表すブロック線図である。
  信号強度抽出部35は、送受信部34を介して入力画像源2から受信した入力画像I(x,y)に対して、Retinex理論に係る演算を実行して信号強度である反射率R(x,y)を算出する。Retinex理論では、入力画像I(x,y)は照明光成分L(x,y)と反射率R(x,y)からなると考える。そして、照明光成分L(x,y)と反射率R(x,y)とは、次のように決定される。
Figure JPOXMLDOC01-appb-M000001
Figure JPOXMLDOC01-appb-M000002
    ここで、式中のG_nはn番目のガウシアンフィルタ、W_nはその重み付け係数である。より具体的な処理手順については、第1.2節において再度詳述する。また、入力画像I(x,y)が反射光成分であり、本実施形態では、入力画像として明度V(x,y)を用いた例を説明する。
 <周辺領域基準値算出部36>
  図3A~図3Cは、周辺領域基準値算出部36が周辺領域基準値を決定する態様を示す概念図である。図示の通り、周辺領域基準値算出部36は、信号強度抽出部35によって抽出された反射率R(x,y)を用いて基準値S(x,y)を算出する。
  入力画像I(x,y)がwidth×height[ピクセル]の画像であるとすると、反射率R(x,y)もwidth×height[ピクセル]のピクセルデータ配列である。そして、反射率R(x,y)に対して、ω×ω[ピクセル]を有するROI(Region of Interest)を設定する。ここで、ROIの中心に位置するピクセルを、対象ピクセルp_[i,j](特許請求の範囲における「注目する小領域」の一例)と呼ぶものとする。図3A~図3Cでは、対象ピクセルp_[i,j]の一例として、対象ピクセルp_[a,b]、対象ピクセルp_[c,d]、対象ピクセルp_[e,f]が示されている。
  周辺領域基準値算出部36は、対象ピクセルp_[i,j]に係る反射率R(i,j)が0以上である場合、これを同ROIの対象ピクセルp_[i,j]以外の複数のピクセル(周辺領域)の反射率R(x,y)のうちの最大値R_Mに置き換えたピクセルデータ配列を生成しようとする(local_max()フィルタ)。一方、対象ピクセルp_[i,j]に係る反射率R(i,j)が負である場合、これを同ROIの対象ピクセルp_[i,j]以外の複数のピクセル(周辺領域)の反射率R(x,y)のうちの最小値R_mに置き換えたピクセルデータ配列を生成しようとする(local_min()フィルタ)。つまり、図3A~図3Cに示されるように上記の処理を全ピクセルに対して実行することで、各ROIにおける最大値R_M又は最小値R_mをピクセルデータとして有するようなピクセルデータ配列である基準値S(x,y)が算出される。なお、対象ピクセルp_[i,j]が反射率R(x,y)の端部に位置するような場合であっても、その分の周辺領域が狭くなるだけで処理上の問題は生じない。処理手順については、第1.2節において再度詳述する。
  なお、ωの値は、例えば、width、height又は両者の平均値に基づいて決定されることが好ましい。例えば、width、height又は両者の平均値をαとすると、0.05≦ω/α≦0.50を満たす。具体的には例えば、ω/α=0.05、0.06、0.07、0.08、0.09、0.10、0.15、0.20、0.25、0.30、0.35、0.40、0.45、0.50であり、ここで例示した数値の何れか2つの間の範囲内であってもよい。ω/αが小さすぎると最終的な出力画像O(x,y)にノイズが目立ち、一方でω/αが大きすぎると、一律に反射率を補正する場合との差異がなくなるため、注意が必要である。
 <強調度合決定部37>
  図4A及び図4Bは、強調度合決定部37が強調度合g(x,y)を決定する態様を示す概念図である。強調度合決定部37は、周辺領域基準値算出部36で算出された基準値S(x,y)と所定値(通常は、出力画像O(x,y)として出力しうる反射率R(x,y)の上限値OL又は下限値UL)とを比較して、強調度合g(x,y)を決定する。図4Aにおいては、R(x,y)≧0の場合を例として、S(x,y)とOLの差分からg(x、y)を算出する。ここで差分が大きいほどg(x、y)は大きくなる。そして図4Bに示されるように、入力画像I(x,y)の反射率R(x,y)に強調度合g(x,y)を乗算することで、補正された反射率R_c(x,y)が規定される。より具体的な処理手順については、第1.2節において再度詳述する。
  なお、反射率R(x,y)を高めるように強調度合g(x,y)が決定され、基準値S(x,y)と上限値OLの差分の大小が、強調度合g(x,y)の大小に依存することに留意されたい。換言すると、強調度合g(x,y)は、基準値S(x,y)と上限値OLの差分に対して単調増加(特許請求の範囲における「単調非減少」の一例)である。
 <変換出力部38>
  変換出力部38は、信号強度抽出部35にて抽出された反射率R(x,y)と、強調度合決定部37にて決定された強調度合g(x,y)とから、コントラストの補正がなされた出力画像O(x,y)を出力する。つまり、変換出力部38は、前述の補正された反射率R_c(x,y)を用いて、出力画像O(x,y)を出力する。
 1.1.3 表示部4
  表示部4は、画像処理装置3によって画像処理された画像データが入力されると、各ピクセルデータ(各ピクセルが有する輝度等の情報)に基づいてこれを映像として表示する媒体であり、例えばLCDモニタ、CRTモニタ、有機ELモニタ等であってよい。なお、画像処理装置3が表示部4を含んでもよい。より具体的には、画像処理装置3における変換出力部38から出力された出力画像O(x,y)が通信バス3B及び送受信部34を介して表示部4に送信され、表示部4が当該出力画像を表示する。
 1.2 画像処理方法
  続いて、第1.1節において説明した画像処理装置3を用いた画像処理方法について説明する。特にここでは、送受信部34より入力された入力画像I(x,y)が、画像処理を経て変換出力部38から出力画像O(x,y)が出力されるまでについて、詳述する。特に以下の処理では、入力画像I(x,y)の所定の対象ピクセルp_[i,j](すなわちピクセルデータI(i,j)を有するもの)について考えるものとする。
 1.2.1 反射率R(x,y)の抽出
  図5は、信号強度抽出部35の処理フロー(詳細)を表すブロック線図である。以下、図5の各ステップに沿って説明する。
 [開始]
 (ステップS1-1)
  入力画像I(x,y)の注目領域(ここでは入力画像Iの全ピクセル:動画であれば1フレーム分)内における対象ピクセルの明度V(i,j)をそれぞれ抽出し、その対数値log{V(i,j)}を取得する(ステップS1-2a~cに進む)。
 (ステップS1-2a~c)
  続いて、抽出された明度V(i,j)にガウシアンフィルタG_1~G_3及び重み付け係数W_1~W_3を乗じる。なお、ガウシアンフィルタG_1~G_3はカーネルサイズの異なるもので、重み付け係数W_1~W_3は、式(3)を満たすものである(ステップS1-3に進む)。
   W_1+W_2+W_3=1  (3)
 (ステップS1-3)
  続いて、ステップS1-2a~cにおいて得られた各値の対数値をとって、その和をとることで
 照明光成分L(i,j)を計算する(ステップS1-4に進む)。
 (ステップS1-4)
  続いて、ステップS1-1において取得された対数値log{V(i,j)}からステップS1-3において算出された照明光成分L(i,j)を減算することで、信号強度である反射率R(i,j)が抽出される。
 [終了]
 1.2.2 強調度合g(x,y)の決定
  図6は、周辺領域基準値算出部36及び強調度合決定部37の処理フロー(詳細)を表すブロック線図である。以下、図6の各ステップに沿って説明する。
 [開始]
 (ステップS2-1)
  周辺領域基準値算出部36は、信号強度抽出部35によって抽出された反射率R(i,j)が0以上か未満かを判別する。R(i,j)≧0であれば、ステップS2-2aに係る処理を実行し、R(i,j)<0であれば、ステップS2-2bを実行する(ステップS2-2a、bに続く)。
 (ステップS2-2a)
  周辺領域基準値算出部36は、反射率R(i,j)に対応する基準値S(i,j)を決定する。換言すると、対象ピクセルp_[i,j]に対して規定されるROIにおいて、複数のピクセル(対象ピクセルp_[i,j]及びその周辺領域)の反射率R(x,y)のうちの最大値R_Mが、基準値S(i,j)となる(ステップS2-3aに続く)。
 (ステップS2-3a)
  強調度合決定部37は、ステップS2-2aにて決定された基準値S(i,j)の逆数値である1/S(i,j)を算出する(ステップS2-4aに続く)。
 (ステップS2-4a)
  強調度合決定部37は、逆数値1/S(i,j)に、log(OL/β)を乗算することによってg(i,j)を算出する。ここでβは予め規定されたオフセット定数である。
 (ステップS2-2b)
  周辺領域基準値算出部36は、反射率R(i,j)に対応する基準値S(i,j)を決定する。換言すると、対象ピクセルp_[i,j]に対して規定されるROIにおいて、複数のピクセル(対象ピクセルp_[i,j]及びその周辺領域)の反射率R(x,y)のうちの最小値R_mが採用される。
 (ステップS2-3b)
  強調度合決定部37は、ステップS2-2bにて決定された基準値S(i,j)の逆数値である1/S(i,j)を算出する(ステップS2-4bに続く)。
 (ステップS2-4b)
  強調度合決定部37は、逆数値1/S(i,j)に、log(UL/β)を乗算することによってg(i,j)を算出する。ここでβは予め規定されたオフセット定数である。
 [終了]
 1.2.3 出力画像O(x,y)の生成
  図7は、変換出力部38の処理フロー(詳細)を表すブロック線図である。以下、図7の各ステップに沿って説明する。
 [開始]
 (ステップS3-1)
  変換出力部38は、強調度合決定部37によって決定された強調度合g(i,j)に反射率R(i,j)を乗算することによって、補正された反射率R_c(i,j)を導出する(ステップS3-2に続く)。
 (ステップS3-2)
  ステップS3-1にて導出された、補正された反射率R_c(i,j)にlogβを加算する。(ステップS3-3に続く)。
 (ステップS3-3)
  ステップS3-2にて導出された、補正された反射率R_c(i,j)にlogβを加算した値の真数を取り出すことで、補正された明度U(i,j)が決定される。すなわち、色相・彩度といった色成分を維持したまま、コントラストの補正された出力画像O(x,y)の対象ピクセルp_[i,j]のピクセルデータO(i,j)が決定される。
 [終了]
  このように、第1.2.1~3節において詳述した各ステップに係る処理を各ピクセルに対して繰り返すことで、入力画像I(x,y)が画像処理された出力画像O(x,y)が出力される。
 1.3 実施例
  第1実施形態に係る画像処理装置3を用いた画像処理の実施例について説明する。例えば、図8に示されるような画像を入力画像I(x,y)とすると、第1実施形態に係る画像処理装置3によれば、図9に示されるような出力画像O(x,y)が得られる(実施例)。また、全ピクセルに一様に強調度合を決定するような従来技術に係る画像処理によれば、図10A及び図10Bに示されるような出力画像が得られる(比較例)。
  図8の入力画像I(x,y)は、左側が右側に比べて相対的に反射率R(x,y)の値が低いことを特徴とする。このような入力画像I(x,y)に対して、図9に示される実施例では、左側と右側にそれぞれ適切な強調度合g(x,y)を加えることによって、左側、右側それぞれが際立った出力画像O(x,y)が得られている。
  一方、図10Aに示される比較例では、強めの強調度合g(x,y)を一様に加えているため、左側についてはコントラストが向上して視認性が上がっているものの、右側のコントラストが限界に達していて視認性が良くない。また、図10Bに示される比較例では、右側のコントラストを抑えるために、図10Aよりも弱めの強調度合g(x,y)を一様に加えているため、左側のコントラストが小さく視認性が悪いといえる。このように、従来技術と比較して、第1実施形態に係る画像処理装置3を用いた画像処理では、画像の局所エリアごとに反射率の振幅が異なっている画像に対しても適切にコントラストを補正可能であり、より視認性の高い出力画像O(x,y)を生成することができることが確認された。
 2.第2実施形態
  続いて、第2実施形態に係るシステム1について説明する。第2実施形態に係るシステム1の全体構成は、第1実施形態に係るシステム1と同じである。しかしながら、画像処理装置3における信号強度抽出部35及び周辺領域基準値算出部36の画像処理方法が異なることに留意されたい。この点について以下説明する。
  ところで、第1実施形態に係る画像処理装置3では、信号強度抽出部35においてガウシアンフィルタG_nが使用されている。ガウシアンフィルタG_nは、対象ピクセルp_[i,j]の周囲のピクセルのピクセルデータも演算に使用するため、対象ピクセルp_[i,j]の演算時に周囲のピクセルデータを記憶しておく必要がある。同様に、周辺領域基準値算出部36でも、local_max()フィルタ及びlocal_min ()フィルタを使用するにあたり、対象ピクセルp_[i,j]の周囲のピクセルに係るピクセルデータの記憶が必要である。このような場合、一般的にフレームメモリが使用される。すなわち、図11に示されるように、第1実施形態に係る画像処理装置3においてはフレームメモリが2度のタイミングで使用されることとなる。
  一方、第2実施形態に係る画像処理装置3では、図12に示されるように、フレームメモリの使用を1度限りに抑える工夫がなされている。具体的には、入力画像I(x,y)の対象ピクセルp_[i,j]について、明度V(i,j)から、反射率R(i,j)をいったん導出することなく、基準値S(i,j)が近似的に導出されている(図13参照)。
  具体的には、第1実施形態に係る画像処理装置3においても使用しているガウシアンフィルタ、local_max()フィルタ、local_min()フィルタを一度に使用する。すなわち、これらのフィルタを明度V(i,j)に対して適用し、その対数値をとるようにすると、log{local_max(V(i,j))}とlog{G*V(i,j)}の差分、又はlog{local_min(V(i,j))}とlog{G*V(i,j)}の差分が基準値S(i,j)として導出される。
 3.変形例 
  本実施形態は、以下の態様によっても実施することができる。
  第1に、本実施形態においては、画像処理の範囲(注目領域)を入力画像I(x,y)(動画であれば1フレーム)の全ピクセルとして説明しているが、使用するピクセルを部分的に選択してもよい。例えば、注目領域を一部の矩形領域としてもよいし、所定サイズの矩形小領域ごとに代表ピクセル(例えば、左上といった特定位置や小領域における中央値)を適宜選択することで縮小画像を生成し、これを注目領域として実施してもよい。
  第2に、基準値S(i,j)を決定するにあたり、ROIの複数のピクセル(対象ピクセルp_[i,j]及びその周辺領域)の反射率R(x,y)のうちの最大値R_M又は最小値R_mに代えて、これらの近傍誤差を含む値であるR_M±ΔR_MやR_m±ΔR_mを採用してもよい。近傍誤差は例えば、
   0≦ΔR_M≦R_M/20  (4)
   0≦ΔR_m≦R_m/5  (5)
  を満たすことが好ましい。
  具体的には例えば、ΔR_M/R_M=0.001、0.002、0.003、0.004、0.005、0.01、0.02、0.03、0.04、0.05であり、ここで例示した数値の何れか2つの間の範囲内であってもよい。また、ΔR_m/R_m=0.01、0.02、0.03、0.04、0.05、0.10、0.15、0.20であり、ここで例示した数値の何れか2つの間の範囲内であってもよい。
  第3に、強調度合決定部37は、上限値OL又は下限値ULに代えて、所定値Tに基づいて強調度合g(x,y)を決定してもよい。なお、かかる場合、所定値Tは、次の式(6)及び(7)を満たすものである。
   R≧0のとき、S(x,y)≦T≦OL  (6)
   R<0のとき、UL≦T≦S(x,y)  (7)
  第4に、本実施形態においては、対象ピクセルp_[i,j]ごとに画像処理を実行しているが、複数の対象ピクセルからなる小領域ごとに画像処理を実行してもよい。
  第5に、上述の種々の処理では2次元配列を想定しているが、最終的に所望の画像が表示部4に表示できるのであれば、演算途中に際して1次元配列として記憶されていてもよい。また、1次元配列又は2次元配列を用いて演算する代わりに、逐次、演算をしてもよい。
  第6に、反射率R(x,y)を調整する強調度合g(x,y)及び、照明光成分を調整する照明光調整パラメータの少なくとも一方を調整することで、前述の画像処理を実行できるように実施してもよい。つまり、Retinex理論における関係式であるI(x,y)=L(x,y)R(x,y)を考慮したとき、R(x,y)の値を強調度合g(x,y)により大きくする手段や、R(x,y)の値を大きくする代わりにL(x,y)の値を照明光調整パラメータにより大きくすることで結果的にR(x,y)を上げたことと同じになる手段や、その双方を混ぜ合わせた手段が考えられるということである。
  第7に、コンピュータに所定の機能を実行させる画像処理プログラムであって、前記所定の機能は、信号強度抽出機能と、周辺領域基準値算出機能と、強調度合決定機能とを備え、前記コンピュータに入力された入力画像に含まれる所定のピクセルデータを信号強度と定義し、前記入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義した場合において、前記信号強度抽出機能によって、前記入力画像の信号強度が抽出され、前記周辺領域基準値算出機能によって、注目する前記小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値が算出され、前記強調度合決定機能によって、前記小領域の信号強度を高めるように当該信号強度の強調度合が決定され、前記強調度合は、前記周辺領域基準値と所定値との差分に対して単調増加である、プログラムを提供することもできる。また、かかるプログラムの機能を実装したコンピュータ読み取り可能な非一時的な記録媒体として提供することもできる。また、かかるプログラムを、インターネット等を介して配信することもできる。更に、システム1を構成する各部は、同じ筐体に含まれてもよく、複数の筐体に分散配置されてもよい。
 4.結言
  以上のように、本実施形態によれば、画像の局所エリアごとに反射率の振幅が異なっている画像に対しても適切にコントラストを補正可能な画像処理装置、画像処理方法及び画像処理プログラムを提供することができる。
  本発明に係る種々の実施形態を説明したが、これらは、例として提示したものであり、発明の範囲を限定することは意図していない。当該新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。当該実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
 1:システム、2:入力画像源、3:画像処理装置、3B:通信バス、31:制御部、32:記憶部、33:入力部、34:送受信部、35:信号強度抽出部、36:周辺領域基準値算出部、37:強調度合決定部、38:変換出力部、4:表示部、G_n:ガウシアンフィルタ、I:入力画像、L:照明光成分、O:出力画像、OL:上限値、R:反射率、R_M:最大値、R_c:反射率、R_m:最小値、S:基準値、T:所定値、U:明度、UL:下限値、V:明度、W_n:重み付け係数、g:強調度合

Claims (5)

  1.  画像処理装置であって、
      信号強度抽出部と、周辺領域基準値算出部と、強調度合決定部とを備え、
      当該画像処理装置に入力された入力画像における反射率を信号強度と定義し、前記入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義した場合において、
      前記信号強度抽出部は、前記入力画像の信号強度を抽出し、
      前記周辺領域基準値算出部は、注目する前記小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値を算出し、
      前記強調度合決定部は、前記小領域の信号強度を高めるように当該信号強度の強調度合を決定し、
       前記強調度合は、前記周辺領域基準値と所定値との差分に対して単調非減少である、
     画像処理装置。
  2.  請求項1に記載の画像処理装置において、
      注目する前記小領域の信号強度をR、前記周辺領域基準値をS、前記所定値をT、出力画像として出力しうる信号強度の上限値及び下限値をそれぞれOL及びULと定義した場合において、
       R≧0のとき、S≦T≦OL
       R<0のとき、UL≦T≦S
      を満たす、
     画像処理装置。
  3.  請求項1又は請求項2に記載の画像処理装置において、
      前記信号強度は、当該画像処理装置に入力された入力画像から反射光成分及び照明光成分を分離し且つこれらに基づいて算出される、
     画像処理装置。
  4.  画像処理方法であって、
      信号強度抽出ステップと、周辺領域基準値算出ステップと、強調度合決定ステップとを備え、
      当該方法に際して入力された入力画像における反射率を信号強度と定義し、前記入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義した場合において、
      前記信号強度抽出ステップでは、前記入力画像の信号強度を抽出し、
      前記周辺領域基準値算出ステップでは、注目する前記小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値を算出し、
      前記強調度合決定ステップは、前記小領域の信号強度を高めるように当該信号強度の強調度合を決定し、
       前記強調度合は、前記周辺領域基準値と所定値との差分に対して単調非減少である、
     画像処理方法。
  5.  コンピュータに所定の機能を実行させる画像処理プログラムであって、
      前記所定の機能は、信号強度抽出機能と、周辺領域基準値算出機能と、強調度合決定機能とを備え、
      前記コンピュータに入力された入力画像における反射率を信号強度と定義し、前記入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義した場合において、
      前記信号強度抽出機能によって、前記入力画像の信号強度が抽出され、
      前記周辺領域基準値算出機能によって、注目する前記小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値が算出され、
      前記強調度合決定機能によって、前記小領域の信号強度を高めるように当該信号強度の強調度合が決定され、
       前記強調度合は、前記周辺領域基準値と所定値との差分に対して単調非減少である、
     画像処理プログラム。
     
PCT/JP2018/002801 2018-01-29 2018-01-29 画像処理装置、画像処理方法及び画像処理プログラム WO2019146122A1 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
CN201880081177.5A CN111492399B (zh) 2018-01-29 2018-01-29 图像处理装置、图像处理方法以及记录介质
EP18902028.2A EP3719740B1 (en) 2018-01-29 2018-01-29 Image processing device, image processing method, and image processing program
US16/960,676 US11238570B2 (en) 2018-01-29 2018-01-29 Image processing device, image processing method, and image processing program
PCT/JP2018/002801 WO2019146122A1 (ja) 2018-01-29 2018-01-29 画像処理装置、画像処理方法及び画像処理プログラム
KR1020207020885A KR102287622B1 (ko) 2018-01-29 2018-01-29 화상 처리 장치, 화상 처리 방법 및 화상 처리 프로그램
JP2019567822A JP6749510B2 (ja) 2018-01-29 2018-01-29 画像処理装置、画像処理方法及び画像処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/002801 WO2019146122A1 (ja) 2018-01-29 2018-01-29 画像処理装置、画像処理方法及び画像処理プログラム

Publications (1)

Publication Number Publication Date
WO2019146122A1 true WO2019146122A1 (ja) 2019-08-01

Family

ID=67394929

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/002801 WO2019146122A1 (ja) 2018-01-29 2018-01-29 画像処理装置、画像処理方法及び画像処理プログラム

Country Status (6)

Country Link
US (1) US11238570B2 (ja)
EP (1) EP3719740B1 (ja)
JP (1) JP6749510B2 (ja)
KR (1) KR102287622B1 (ja)
CN (1) CN111492399B (ja)
WO (1) WO2019146122A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005515515A (ja) 2001-04-30 2005-05-26 ヒューレット・パッカード・カンパニー 画像向上、ダイナミックレンジ補償、および照明光補正のシステムおよび方法
JP2008104010A (ja) * 2006-10-19 2008-05-01 Sony Corp 画像処理装置、撮像装置、画像処理方法およびプログラム
JP2017037622A (ja) * 2015-08-10 2017-02-16 富士ゼロックス株式会社 画像処理装置及びプログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3083918B2 (ja) * 1992-06-26 2000-09-04 本田技研工業株式会社 画像処理装置
JP2004317351A (ja) * 2003-04-17 2004-11-11 Fuji Heavy Ind Ltd 異物検出装置及び異物検出方法
US8023733B2 (en) * 2006-06-08 2011-09-20 Panasonic Corporation Image processing device, image processing method, image processing program, and integrated circuit
US7876474B2 (en) * 2006-10-31 2011-01-25 Brother Kogyo Kabushiki Kaisha Image processing device capable of suppressing over-correction in Retinex process
JP2009037283A (ja) * 2007-07-31 2009-02-19 Ricoh Co Ltd 画像処理装置及びこれを備えた画像読取装置、並びに、画像処理方法及び画像処理プログラム
US8289829B2 (en) * 2008-10-01 2012-10-16 Panasonic Corporation Information recording medium and recording/reproduction apparatus
US8780225B2 (en) * 2011-10-12 2014-07-15 Apple Inc. Use of noise-optimized selection criteria to calculate scene white points
CN104620280A (zh) * 2012-09-20 2015-05-13 夏普株式会社 图像处理装置、图像显示装置、图像摄像装置、图像印刷装置、灰度变换方法及程序
WO2014141867A1 (ja) * 2013-03-11 2014-09-18 富士フイルム株式会社 導電性フィルム、これを備える表示装置及び配線の視認性の評価方法
CN104660900B (zh) 2013-10-30 2018-03-02 株式会社摩如富 图像处理装置及图像处理方法
US9881364B2 (en) 2015-08-10 2018-01-30 Fuji Xerox Co., Ltd. Image processing apparatus, image processing method and computer readable medium for image enhancement

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005515515A (ja) 2001-04-30 2005-05-26 ヒューレット・パッカード・カンパニー 画像向上、ダイナミックレンジ補償、および照明光補正のシステムおよび方法
JP2008104010A (ja) * 2006-10-19 2008-05-01 Sony Corp 画像処理装置、撮像装置、画像処理方法およびプログラム
JP2017037622A (ja) * 2015-08-10 2017-02-16 富士ゼロックス株式会社 画像処理装置及びプログラム

Also Published As

Publication number Publication date
EP3719740A1 (en) 2020-10-07
CN111492399A (zh) 2020-08-04
JPWO2019146122A1 (ja) 2020-10-22
EP3719740A4 (en) 2021-01-06
EP3719740B1 (en) 2023-09-06
KR102287622B1 (ko) 2021-08-06
US11238570B2 (en) 2022-02-01
KR20200099575A (ko) 2020-08-24
CN111492399B (zh) 2023-04-28
US20200334796A1 (en) 2020-10-22
JP6749510B2 (ja) 2020-09-02

Similar Documents

Publication Publication Date Title
US8290295B2 (en) Multi-modal tone-mapping of images
Chakrabarti et al. Modeling radiometric uncertainty for vision with tone-mapped color images
US11663707B2 (en) Method and system for image enhancement
JP2017010092A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2011039675A (ja) 画像処理装置、画像処理方法、及び、コンピュータプログラム
WO2023030139A1 (zh) 图像融合方法、电子设备和存储介质
CN113808054B (zh) 用于对眼底图像的视盘区域进行修复的方法和相关产品
JP2017033182A (ja) 画像処理装置、撮像装置および画像処理プログラム
JP5410378B2 (ja) 映像信号補正装置および映像信号補正プログラム
US11501404B2 (en) Method and system for data processing
KR100791374B1 (ko) 색역 내에 존재하는 색상을 영상 적응적으로 조절하는 방법및 장치
JP6624061B2 (ja) 画像処理方法、画像処理装置、及び画像処理プログラムを記憶する記録媒体
WO2019146122A1 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
US11132776B2 (en) Image processing device, image processing method, and image processing program for maintaining sharpness of image
KR101862490B1 (ko) 영상 보정 프로세서 및 컴퓨터 판독가능 기록 매체
US11580620B2 (en) Image processing apparatus, image processing method, and non-transitory computer-readable medium
JP6957665B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6749504B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP2008021219A (ja) 画像処理装置及び方法
JP6375778B2 (ja) 画像処理方法および画像処理装置
JP6919433B2 (ja) 画像処理装置、画像処理方法、画像処理システムおよびプログラム
JP2006031310A (ja) 画像処理装置及び画像抽出方法
JP2017027463A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2012019415A (ja) 画像変換装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18902028

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2019567822

Country of ref document: JP

Kind code of ref document: A

ENP Entry into the national phase

Ref document number: 2018902028

Country of ref document: EP

Effective date: 20200702

ENP Entry into the national phase

Ref document number: 20207020885

Country of ref document: KR

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE