WO2010113342A1 - 画像強調装置、画像強調方法、画像強調プログラム、および信号処理装置 - Google Patents

画像強調装置、画像強調方法、画像強調プログラム、および信号処理装置 Download PDF

Info

Publication number
WO2010113342A1
WO2010113342A1 PCT/JP2009/067787 JP2009067787W WO2010113342A1 WO 2010113342 A1 WO2010113342 A1 WO 2010113342A1 JP 2009067787 W JP2009067787 W JP 2009067787W WO 2010113342 A1 WO2010113342 A1 WO 2010113342A1
Authority
WO
WIPO (PCT)
Prior art keywords
signal
image
input
image enhancement
processing unit
Prior art date
Application number
PCT/JP2009/067787
Other languages
English (en)
French (fr)
Inventor
合志 清一
Original Assignee
シャープ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by シャープ株式会社 filed Critical シャープ株式会社
Priority to JP2011506954A priority Critical patent/JP5281690B2/ja
Priority to CN200980158237.XA priority patent/CN102362486B/zh
Priority to EP09842693A priority patent/EP2416557A4/en
Priority to US13/138,197 priority patent/US8508667B2/en
Priority to RU2011143859/07A priority patent/RU2497301C2/ru
Priority to BRPI0924760A priority patent/BRPI0924760A2/pt
Publication of WO2010113342A1 publication Critical patent/WO2010113342A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/142Edging; Contouring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/10Image enhancement or restoration using non-spatial domain filtering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • H04N1/4092Edge or detail enhancement

Definitions

  • the present invention relates to an image enhancement device, an image enhancement method, and an image enhancement program for sharpening an image to improve image quality, and more generally, a signal processing device for enhancing signal quality, for example,
  • the present invention relates to an image enhancement device suitable for sharpening moving images displayed in real time on a television (TV) receiver.
  • TV television
  • Image enhancement processing for sharpening images and improving image quality has been widely known.
  • contour compensation is performed to make the rise and fall of a video signal corresponding to the contour portion of a displayed image sharp.
  • this contour compensation from the video signal input to the display input by extracting the high frequency component of the video signal (luminance signal) input to the display of the television receiver, amplifying the high frequency component and adding it to the video signal. Furthermore, the deterioration of the frequency characteristic of the video signal processed by each circuit is improved, and the visual image quality is improved.
  • the frequency component is higher than the Nyquist frequency, that is, higher than 1/2 of the sampling frequency of the target image.
  • the frequency component cannot be used. For this reason, in order to improve the image quality, it has been impossible to recover frequency components exceeding the Nyquist frequency, or to sharpen an image using such frequency components. Therefore, for example, on a display in a high-definition television (HDTV: High Definition Television), that is, a full high-definition (1080 ⁇ 1920 pixel) television receiver, an image is displayed on an image signal whose resolution is less than HDTV. When doing so, there is a problem that the image is blurred. Since this blurred image has no frequency component in the vicinity of the Nyquist frequency, the frequency component to be amplified cannot be extracted even using the conventional image enhancement processing, and the image quality is not improved.
  • HDTV High Definition Television
  • Patent Document 1 Non-linear conversion circuit is used to suppress the occurrence of ringing at the edge of the pulse waveform or step waveform in the image signal for the purpose of compensating the high frequency signal without degrading the image quality
  • Patent Document 2 An image quality compensation circuit has also been proposed (Patent Document 2).
  • the high resolution technology using the anisotropic diffusion filter described in Non-Patent Document 2 requires complicated processing, and thus requires real-time processing such as video display on a television receiver or the like. In this case, it is difficult to apply, and the high resolution technique described in Non-Patent Document 1 requires a large-scale LSI to realize it, and causes a large increase in cost.
  • the image processing device described in Patent Document 1 and the image quality compensation circuit described in Patent Document 2 are limited to the suppression of ringing due to signal clipping processing to be added to the image signal and high-frequency signal compensation. Only nonlinear processing is used for the purpose, and depending on the image quality compensation circuit and the image processing apparatus, the image is sufficiently sharpened when displaying the image subjected to the enlargement processing as described above. It is not possible.
  • the present invention performs appropriate high-frequency compensation with a simple configuration to sufficiently sharpen an image not only for a still image but also for a moving image and when the image enlargement processing as described above is performed.
  • the purpose of the present invention is to provide an image enhancement device and an image enhancement method that can improve image quality, and more generally to improve signal quality by performing appropriate high-frequency compensation with a simple configuration.
  • An object of the present invention is to provide a signal processing device and the like that can be used.
  • a first aspect of the present invention is an image enhancement device for sharpening an image represented by an input signal, A filter unit that generates a first signal by removing at least a direct-current component from among the frequency components included in an input signal representing an image; A non-linear processing unit that generates a second signal by performing non-linear processing on the first signal; An adder that adds the second signal to the input signal;
  • the nonlinear processing unit includes: Generating a third signal that monotonically increases in a broad sense in a non-linear or positive / negative symmetry at least near 0 with respect to the first signal based on the first signal; The second signal is changed based on the third signal so that the sign of the first signal is substantially preserved in the second signal, and the second signal does not contain a direct current component. It is characterized by generating.
  • the nonlinear processing unit includes: Generating the third signal by raising the first signal to a power that is an even number greater than or equal to 2; The second signal is generated based on the third signal so that the sign of the first signal is substantially preserved in the second signal.
  • the nonlinear processing unit includes: A power calculator for generating the third signal by raising the first signal to a power that is an even number of 2 or more; A first differentiator that generates a fourth signal by differentiating the third signal; A second differentiator that generates a fifth signal by differentiating the input signal; And a multiplier for generating the second signal based on a product of the fourth signal and the fifth signal.
  • the nonlinear processing unit includes: A power calculator for generating the third signal by raising the first signal to a power that is an even number of 2 or more; Code conversion that inverts the sign of a part of the third signal that is different from the first signal based on the first signal so that the second signal is generated based on the third signal And a vessel.
  • the nonlinear processing unit includes: A power calculator for generating the third signal by raising the first signal to a power that is an even number of 2 or more; A filter that generates a fourth signal by removing a DC component of the third signal; Code conversion that inverts the sign of the portion of the fourth signal that is different from the first signal based on the first signal so that the second signal is generated based on the fourth signal And a vessel.
  • the nonlinear processing unit includes: Generating a signal corresponding to an absolute value of the first signal as the third signal; The second signal is generated based on the third signal so that the sign of the first signal is substantially preserved in the second signal.
  • a seventh aspect of the present invention is the sixth aspect of the present invention
  • the nonlinear processing unit includes: An absolute value processor for generating a signal corresponding to the absolute value of the first signal as the third signal; A first differentiator that generates a fourth signal by differentiating the third signal; A second differentiator that generates a fifth signal by differentiating the input signal; And a multiplier for generating the second signal based on a product of the fourth signal and the fifth signal.
  • the nonlinear processing unit includes: An absolute value processor for generating a signal corresponding to the absolute value of the first signal as the third signal; A filter that generates a fourth signal by removing a DC component of the third signal; Code conversion that inverts the sign of the portion of the fourth signal that is different from the first signal based on the first signal so that the second signal is generated based on the fourth signal And a vessel.
  • the nonlinear processing unit generates the third signal by raising the first signal with an odd number of 3 or more as a power, and generates the second signal based on the third signal. It is characterized by.
  • the nonlinear processing unit includes: A power calculator that generates the third signal by raising the first signal to an odd power of 3 or more, And an adjuster that generates the second signal by adjusting an amplitude of the third signal.
  • the non-linear processing unit generates the third signal so that a section where the absolute value of the third signal is larger than the absolute value of the first signal appears at least in the vicinity of 0. .
  • the nonlinear processing unit converts the first signal into a monotonically increasing signal in a broad sense in a nonlinear or positive / negative symmetric manner within a range of at least 1 ⁇ 2 or less of the maximum amplitude of the first signal with respect to the first signal. Based on the above, the third signal is generated.
  • the filter unit includes a high-pass digital filter having three or more taps.
  • the nonlinear processing unit includes: A rounding processor that changes a signal value of a portion of the first signal whose absolute value is smaller than a predetermined lower limit value to 0; And a limiter that changes an absolute value of a signal value of a portion of the first signal whose absolute value is larger than a predetermined upper limit value to a predetermined value equal to or lower than the upper limit value.
  • the nonlinear processing unit includes an adjuster for adjusting the amplitude of the second signal.
  • a signal from which at least a direct current component has been removed from an input signal is generated as a first signal, and a second signal is generated by performing nonlinear processing on the first signal.
  • a third signal that monotonously increases in a broad sense in a non-linear or positive / negative symmetry at least near 0 with respect to the first signal is generated, and a second signal is generated based on the third signal.
  • the sign of the first signal is substantially preserved, and the second signal does not include a DC component.
  • Such a second signal is added to the input signal.
  • the signal obtained by this addition that is, the output signal of the image enhancement device
  • the Nyquist corresponding to the sampling frequency fs when the input signal is discretized.
  • a frequency component higher than the frequency fs / 2 is included.
  • the image can be sufficiently sharpened with a simple configuration, not only a still image but also a moving image displayed in real time can improve the image quality without causing a large cost increase.
  • the image after the enlargement process is sufficiently sharpened as compared with a conventional image enhancement apparatus that cannot compensate for a high frequency region exceeding the Nyquist frequency fs / 2. Image quality can be greatly improved.
  • the second sign so that the sign of the first signal is substantially preserved. Since a signal is generated and such a second signal is added to the input signal, it is possible to improve the image quality larger than the conventional image enhancement apparatus based on linear processing. In addition, since the image can be sufficiently sharpened with a simple configuration, not only a still image but also a moving image displayed in real time can improve the image quality without causing a large cost increase. Furthermore, when the image signal after the image enlargement process is used as an input signal, a great effect can be obtained in improving the image quality by sharpening the image as compared with the conventional image enhancement device.
  • the third signal is generated by raising the first signal using an even number of 2 or more as a power index, and the direct current component is differentiated by differentiating the third signal.
  • the removed fourth signal is generated, and the fifth signal obtained by differentiating the input signal is multiplied by the fourth signal, so that the second signal is stored as the signal in which the sign of the first signal is stored.
  • a signal is generated.
  • the second signal to be added to the input signal as a compensation signal is based on the power of the first signal having an even number of 2 or more as a power, and the sign of the first signal is preserved. Therefore, the same effect as in the second aspect of the present invention can be obtained.
  • the third signal is generated by raising the first signal using an even number of 2 or more as a power index, and the second signal is generated based on the third signal.
  • the sign of the third signal that is different from the first signal in the positive / negative is inverted based on the first signal.
  • the second signal to be added to the input signal is generated based on the power of the first signal with an even number equal to or greater than 2 as the exponent, so that the sign of the first signal is preserved. Therefore, the same effect as the second aspect of the present invention can be obtained.
  • the third signal is generated by raising the first signal using an even number of 2 or more as a power index, and the DC component of the third signal is removed.
  • a fourth signal is generated.
  • the positive / negative of the portion of the fourth signal that differs from the first signal in the fourth signal is inverted based on the first signal so that the second signal is generated based on the fourth signal.
  • the second signal to be added to the input signal is generated based on the power of the first signal with an even number equal to or greater than 2 as the exponent, so that the sign of the first signal is preserved. Therefore, the same effect as the second aspect of the present invention can be obtained.
  • the second signal is generated based on the signal after the direct current component is removed from the third signal, the degree of effect is greater than in the fourth aspect of the present invention, and the image is sharpened. can do.
  • the second signal since the second signal is generated based on the absolute value of the first signal, the second signal has a harmonic component more than twice the frequency component of the input signal. Including.
  • the second signal is generated so that the sign of the first signal is preserved.
  • the image can be sufficiently sharpened with a simple configuration, not only a still image but also a moving image displayed in real time can improve the image quality without causing a large cost increase.
  • the image signal after the image enlargement process is used as an input signal, a great effect can be obtained in improving the image quality by sharpening the image as compared with the conventional image enhancement device.
  • a signal corresponding to the absolute value of the first signal is generated as a third signal, and the DC component is removed by differentiating the third signal.
  • a signal is generated, and a fifth signal obtained by differentiating the input signal is multiplied by the fourth signal, whereby a second signal is generated as a signal in which the sign of the first signal is stored.
  • the second signal to be added to the input signal is generated based on the absolute value of the first signal so that the sign of the first signal is preserved.
  • a signal corresponding to the absolute value of the first signal is generated as the third signal, and the fourth signal is obtained by removing the DC component of the third signal. Generated. Then, the positive / negative of the portion of the fourth signal that differs from the first signal in the fourth signal is inverted based on the first signal so that the second signal is generated based on the fourth signal. In this way, the second signal to be added to the input signal is generated based on the absolute value of the first signal so that the sign of the first signal is preserved. The same effect as in the sixth aspect can be obtained.
  • a second signal is generated based on the power of the first signal with an odd number of 3 or more being a power exponent, and the second signal is a signal of the first signal. Positive and negative are preserved.
  • the second signal to be added to the input signal is generated based on the power of the first signal with an odd number of 3 or more as a power, and the process for preserving the positive / negative of the first signal Therefore, the image quality can be improved with a simpler configuration than that of the conventional image enhancement apparatus based on linear processing. Further, since the image can be sufficiently sharpened with a simpler configuration, the image quality of the moving image displayed in real time as well as the still image can be improved without causing a significant increase in cost. Furthermore, when the image signal after the image enlargement process is used as an input signal, a great effect can be obtained in improving the image quality by sharpening the image as compared with the conventional image enhancement device.
  • a third signal is generated by raising the first signal with an odd number of 3 or more as a power index, and the amplitude of the third signal is adjusted by adjusting the amplitude of the third signal.
  • Two signals are generated. For this reason, even if the third signal has an excessive amplitude (signal level) due to the power of the first signal, the second signal having an appropriate amplitude is added to the input signal. The image can be sharpened well.
  • the third signal since a section in which the absolute value of the third signal is larger than the absolute value of the first signal appears in the vicinity of at least 0, the third signal corresponding to the section By adding the second signal based on the signal to the input signal, the image represented by the input signal can be sufficiently sharpened.
  • the third signal is nonlinear or positive-negative symmetric in the range where the third signal is at least 1/2 of the maximum amplitude of the first signal with respect to the first signal. Since it monotonously increases, a compensation signal that sufficiently includes the frequency component to be compensated is generated as the second signal. By adding this second signal to the input signal, the image represented by the input signal can be sufficiently sharpened.
  • the filter unit is composed of a high-pass digital filter having three or more taps, so that an appropriate first signal including a frequency component to be compensated is generated, By adding the second signal based on the first signal to the input signal, the image represented by the input signal can be sharpened well.
  • the noise included in the input signal is the first signal.
  • the absolute value of the signal value of the portion of the first signal whose absolute value is larger than the predetermined upper limit value is changed to a predetermined value equal to or lower than the upper limit value, it already has sufficient energy as a high frequency component.
  • the signal component is not amplified more than necessary by non-linear processing on the first signal. Therefore, the image represented by the input signal can be sharpened well by adding the second signal based on the first signal adjusted in this way to the input signal.
  • the input signal is appropriately compensated by adjusting the amplitude of the second signal to be added to the input signal as a compensation signal. Can be sharpened well.
  • FIG. 1 is a block diagram illustrating a configuration of an image enhancement device according to a first embodiment of the present invention. It is a block diagram which shows the structure of the high pass filter (high-pass filter) in the said 1st Embodiment. It is a block diagram which shows the other structural example of the high pass filter in the said 1st Embodiment. It is a block diagram which shows the structure of the differentiator in the said 1st Embodiment.
  • FIG. 10 is a signal waveform diagram (A to E) for explaining the operation of the conventional image enhancing apparatus.
  • FIG. 6 is a signal waveform diagram (A to F) for explaining the operation of the image enhancing apparatus according to the first embodiment.
  • FIG. 1 It is a figure (A, B) which shows the frequency spectrum for demonstrating operation
  • FIG. 10 is a signal waveform diagram (A to D) for explaining the operation of the image enhancing apparatus according to the third embodiment. It is a block diagram which shows the structure of the image enhancement apparatus which concerns on the 4th Embodiment of this invention.
  • FIG. 10 is a signal waveform diagram (A to E) for explaining the operation of the image enhancing apparatus according to the fourth embodiment.
  • FIG. 10 is a signal waveform diagram (A to F) for explaining the operation of the image enhancing apparatus according to the fifth embodiment.
  • It is a block diagram which shows the structure of the image enhancement apparatus which concerns on the 6th Embodiment of this invention.
  • It is a block diagram which shows the structure of the image enhancement apparatus which concerns on the 7th Embodiment of this invention.
  • FIG. 1 It is a figure which shows the target image which is an image obtained by cutting out a part after performing the expansion process to the said original image. It is a figure which shows the image (B) after performing the process by the conventional image enhancement apparatus with respect to the said target image with the said target image (A).
  • FIG. It is a block diagram which shows the structure of the personal computer used in order to implement
  • FIG. 1 is a block diagram showing a configuration of an image enhancement device according to the first embodiment of the present invention.
  • the image enhancement apparatus 100 performs processing for sharpening an image represented by an input image signal Sin (hereinafter referred to as “image enhancement processing” or simply “
  • image enhancement processing hereinafter referred to as “image enhancement processing” or simply “
  • the high-pass filter hereinafter referred to as “high-pass filter” or “HPF”
  • HPF high-pass filter
  • the non-linear processing unit 102 includes: It comprises a square calculator 12, a first differentiator 13, a second differentiator 14, and a multiplier 15.
  • the input image signal Sin is given to the HPF 11, the second differentiator 14 and the adder 16.
  • the image represented by the input image signal Sin may be a still image or a moving image.
  • the moving image is, for example, a standard definition television (SDTV: Standard Definition). It may be a moving image displayed in real time on a television (HDTV) or a high definition television (HDTV) receiver. This also applies to other embodiments.
  • FIG. 2 is a block diagram showing the configuration of the HPF 11.
  • the HPF includes m ⁇ 1 unit delay elements 111, 112,..., 11 (m ⁇ 1), m multipliers 121, 122,.
  • An m-tap (m is 3 or more) transversal type digital filter 110 composed of an adder 131 is provided, and in addition, a rounding processor 132 and a limiter 133 are provided.
  • the high frequency component signal Si1 obtained in this way is output from the HPF 11 as the first signal S1 via the rounding processor 132 and the limiter 133.
  • the rounding processor 132 is provided so as not to amplify noise in the subsequent nonlinear processing unit 102, and rounds a signal value equal to or lower than a predetermined lower limit value in the high frequency component signal Si1 to zero.
  • a signal value of 2 or less is rounded to 0.
  • the limiter 133 is provided in order to prevent a signal having sufficient energy as a high-frequency component from being amplified more than necessary in the subsequent non-linear processing unit 102, and a signal value exceeding a predetermined upper limit value is provided.
  • the value is changed to a predetermined value equal to or lower than the upper limit value (for example, 0 or the upper limit value).
  • the upper limit value for example, 0 or the upper limit value.
  • the digital filter 110 as the high-pass filter shown in FIG. 2 may be realized by the configuration shown in FIG. 3 using the low-pass filter (hereinafter referred to as “LPF”) 1011 and the subtractor 1012.
  • LPF low-pass filter
  • the first signal S1 output from the HPF 11 is input to the square calculator 12 of the nonlinear processing unit 102.
  • the square signal S12 is input to the first differentiator 13, and the differentiator 13 generates the first differential signal S13 by differentiating the square signal S12.
  • the first differential signal S13 is input to the multiplier 15.
  • the first differentiator 13 since the square signal S12 is a digital signal and is discretized, the first differentiator 13 generates the first differential signal S13 by a circuit for calculating a backward difference as shown in FIG. 4, for example.
  • a differentiator is realized by the unit delay element 1021 and the subtractor 1022, and the digital signal Sb is a signal obtained by differentiating the digital signal Sa.
  • the second differentiator 14 of the nonlinear processing unit 102 generates the second differential signal S14 by differentiating the input image signal Sin, and the second differential signal S14 is also input to the multiplier 15.
  • the 2nd differentiator 14 is also implement
  • the adder 16 also includes a delay element for adjusting the timing between the input image signal Sin and the second signal S2, as necessary.
  • an adjuster for adjusting the level (amplitude) of the second signal S2 as the compensation signal at least one of a gain adjuster and a limiter is provided inside the adder 16 or between the multiplier 15 and the adder 16. It is preferable to provide in.
  • the gain adjuster adjusts the level of the signal by multiplying the signal input thereto by a constant ⁇ satisfying 0 ⁇ ⁇ ⁇ 1, and the limiter is a signal that is input to the gain adjuster.
  • the level of the signal is adjusted by changing the absolute value of the signal value of the portion where the absolute value is larger than the predetermined upper limit value to the upper limit value (not changing the positive or negative value).
  • the output image signal Sout generated by the adder 16 is output from the image enhancement device 100 as an image signal representing an image obtained by sharpening the image represented by the input image signal Sin.
  • the operation of the image enhancement apparatus 100 according to the present embodiment configured as described above changes the level of the image signal, that is, the pixel value in the horizontal direction as shown in FIG. 5B in the input image signal Sin. Description will be made by paying attention to the processing for the portion corresponding to the edge to be performed.
  • FIG. 5 shows the characteristics of hardware for image signal processing and transmission.
  • the signal is as shown in (B).
  • FIG. 5 shows the characteristics of hardware for image signal processing and transmission.
  • the signal is as shown in (B).
  • FIG. 5 shows the characteristics of hardware for image signal processing and transmission.
  • the signal is as shown in (B).
  • FIG. 5D By adding the area signal to the input image signal, a signal as shown in FIG. 5D is generated as an output image signal.
  • the output image signal has a sharp rise at the edge portion compared to the input image signal in FIG. 5B, and the image is sharpened.
  • the rise of the edge portion in the output image signal is less steep than the output image signal (FIG. 5E) of this embodiment described below.
  • an input image signal Sin (FIG. 6A) similar to the input image signal of FIG. 5B
  • a signal equivalent to the signal of FIG. Generated as signal S1.
  • a square signal S12 as shown in FIG. 6 (B) is generated from the first signal S1 by the square calculator 12, and the first differentiator 13 from the square signal S12 as shown in FIG. 6 (C).
  • a first differential signal S13 is generated. The direct current component is removed by the differentiation of the square signal S12 at this time.
  • the second differentiator 14 as shown in FIG. 6D is generated from the input image signal Sin by the second differentiator 14.
  • a second signal S2 as shown in FIG. 6 (E) is generated by the multiplier 15 from the second differential signal S14 and the first differential signal S13.
  • the second signal S2 is added to the input image signal Sin by the adder 16 as a compensation signal, thereby generating an output image signal Sout as shown in FIG.
  • the rising edge of the output image signal Sout is steeper than the rising edge (FIG. 5D) of the image output signal of the conventional image enhancement apparatus, and thus sharper than in the past. An image is obtained.
  • the second signal S2 added to the input image signal Sin as the compensation signal is subjected to nonlinear processing on the first signal S1 (FIG. 5C) as the high frequency signal output from the HPF 11. It is a signal obtained by applying. Further, the first differentiator 13 makes the second signal S2 a signal that does not contain a DC component. Further, by multiplying the first differential signal S13 by the second differential signal S14 obtained by the second differentiator 14, the first signal (FIG. 5C) in the second signal S2 (FIG. 6E). ) Is substantially preserved. That is, the positive part in the first signal does not become negative in the second signal S2, and the negative part in the first signal does not become positive in the second signal S2.
  • sufficient image sharpening is possible based on the nonlinearity of processing for the first signal S1 and the positive and negative storability of the first signal S1 (see FIG. 6F).
  • the sign of the first signal S1 is not completely preserved in the second signal S2 (FIG. 6E). This is of a level that does not substantially hinder image sharpening by adding the second signal S2 to the input image signal Sin (see FIG. 6F).
  • FIG. 7A shows a frequency spectrum of a digital image signal whose sampling frequency is fs.
  • FIG. 7B shows an enhancement for sharpening the digital image signal by a conventional image enhancement apparatus.
  • image signal after conventional enhancement processing The frequency spectrum of a digital image signal after processing (hereinafter referred to as “image signal after conventional enhancement processing”) is shown.
  • image signal after conventional enhancement processing As described above, the high-frequency component of the input image signal is added by the enhancement processing for sharpening.
  • the Nyquist frequency fs / 2 as shown in FIG. Nearby frequency components are increasing.
  • the sampling frequency Fbs after the image enlarging process is twice the sampling frequency fs.
  • Fsb 2 ⁇ fs
  • the frequency spectrum after the image enlargement process is as shown in FIG.
  • the enhancement processing for sharpening is performed on the image signal after the image enlargement processing by the conventional image enhancement device, the high frequency component in the image signal after the image enlargement processing, that is, the vicinity of the new Nyquist frequency Fbs / 2 are not added (see FIG. 8A).
  • the high-frequency component exceeding the Nyquist frequency fs / 2 such as the harmonic component of the frequency component of the input image signal Sin is generated by the square calculator 12 in the nonlinear processing unit 102, Using this high frequency component, the input image signal Sin is processed for sharpening.
  • the processing of the square calculator 12 the processing of the square calculator 12 .
  • the second signal S2 including a frequency component higher than the Nyquist frequency fs / 2 corresponding to the original sampling frequency fs is generated as a compensation signal, and the second signal S2 is added to the input image signal Sin.
  • the frequency spectrum of the output image signal Sout in the present embodiment is as shown in FIG. This makes it possible to perform appropriate high-frequency compensation for the image signal after the enlargement process as compared with the conventional image enhancement apparatus, and the image after the enlargement process can be sufficiently sharpened.
  • N is the order of the highest harmonic that does not exceed the Nyquist frequency fs / 2 corresponding to the sampling frequency fs (before image enlargement processing). That is, N ⁇ / (2 ⁇ ) ⁇ fs / 2 ⁇ (N + 1) ⁇ / (2 ⁇ ) It is.
  • the first signal S1 output from the HPF 11 includes the high-frequency component of the signal g (x) or the signal g (x), and the square signal S12 output from the square calculator 12 is the first signal S1. Is a signal obtained by squaring. Therefore, when (g (x)) 2 is obtained, each term in (g (x)) 2 is expressed by one of the following equations from the above equation (2).
  • the square signal S12 also includes a frequency component higher than the Nyquist frequency fs / 2, such as a harmonic component having a frequency 2N ⁇ / (2 ⁇ ).
  • a DC component may be generated in the terms shown in the above formulas (4a) and (4c).
  • the direct current component is removed by the first differentiator 13 (see FIG. 1).
  • the image signal after the image enlargement process for up-converting the digital image signal and doubling the number of pixels in the horizontal direction as described above is input to the image enhancement apparatus 100 of the present embodiment as the input image signal Sin.
  • the frequency spectrum of the output image signal Sout is based on the processing of the square calculator 12 and the second signal S2 including a frequency component higher than the Nyquist frequency fs / 2 before the image enlargement processing is used as a compensation signal.
  • the second signal S2 is generated and added to the input image signal Sin.
  • the frequency spectrum of the output image signal Sout is as shown in FIG. 8B, and the image after the enlargement process can be sufficiently sharpened as compared with the conventional image enhancement device.
  • the first signal S1 to be input to the nonlinear processing unit 102 is a signal obtained by removing a DC component from the input image signal Sin.
  • the HPF 11 may be replaced with another filter that removes at least a DC component from the frequency components included in the input image signal Sin.
  • the square signal S12 is generated by the process in the square calculator 12 for the first signal S1 as the high frequency component extracted from the input image signal Sin by the HPF 11, and the 2 A second signal S2 generated so as to preserve the sign of the first signal S1 based on the square signal S12 is added to the input image signal Sin as a compensation signal.
  • the image is sufficiently sharpened, and the image quality can be greatly improved as compared with the conventional image enhancement device.
  • the image enhancement apparatus 100 according to the present embodiment can be realized with a simple configuration as shown in FIGS. 1 to 4, the image enhancement apparatus 100 can be used as a high-definition television (HDTV) or a standard definition television (SDTV).
  • HDTV high-definition television
  • SDTV standard definition television
  • the square calculator 12 and the multiplier 15 in the nonlinear processing unit 102 in this embodiment may be realized as a hardware multiplier, but the number of bits of the input image signal Sin and the like is not large (for example,
  • the square computing unit 12 and the multiplier 15 can be realized as a ROM (Read Only Memory) table.
  • ROM Read Only Memory
  • the present embodiment can also compensate for a high frequency region exceeding the Nyquist frequency fs / 2 that could not be compensated by the conventional image enhancement device, the image quality represented by the sharpening of the image represented by the enlarged image signal is improved. Especially effective in improvement. For example, when displaying an image by performing an enlargement process on an image signal of a standard definition television (SDTV) on a display of a high definition television (HDTV) receiver, the present embodiment displays the image in real time. This has a great effect in that the moving image can be sufficiently sharpened with a simple configuration.
  • SDTV standard definition television
  • HDTV high definition television
  • 4k display a display having a pixel number of about 4000 ⁇ 2000 (hereinafter referred to as “4k display”), which is larger than the number of pixels of HDTV, and the corresponding technology for television broadcasting are being developed. Even when the signal is up-converted and displayed on the 4k display, the present embodiment has a great effect in the same way.
  • the input image signal Sin is constituted by a data string (series of pixel values) representing a horizontal pixel string in an image to be processed by the image enhancement apparatus 100 of the present embodiment.
  • the second differentiators 13 and 14 are described as performing filter processing and differentiation processing on changes in the horizontal frequency and the pixel value in the horizontal direction in the image. That is, in the above embodiment, it can be said that image enhancement processing is performed in the horizontal direction of the image.
  • the image enhancement apparatus includes a horizontal direction processing unit 1100 for horizontal image enhancement processing and a vertical direction processing unit 1200 for vertical image enhancement processing.
  • an input image signal SI representing an image to be processed is input to the horizontal direction processing unit 1100, an output signal from the horizontal direction processing unit 1100 is input to the vertical direction processing unit 1200, and the vertical direction processing unit 1200 Is the output image signal SO of the image enhancement apparatus.
  • the front-rear relationship between the horizontal direction processing unit 1100 and the vertical direction processing unit 1200 is switched, the input image signal SI is input to the vertical direction processing unit 1200, and the output signal of the vertical direction processing unit 1200 is processed in the horizontal direction. It may be input to the unit 1100.
  • the vertical direction processing unit 1200 in the above configuration is the same as that of the present embodiment if the input image signal SI is configured by a data sequence (series of pixel values) representing a vertical pixel sequence in an image to be processed.
  • the input image signal SI input image signal SI constituted by a data string representing a pixel line in the horizontal direction
  • the HPF 11 is configured as shown in FIG.
  • the containers 13 and 14 may be configured as shown in FIG. Whereas the configuration of FIG. 2 extracts high frequency components from the spatial frequency components in the horizontal direction of the image (at least the DC component is removed), the configuration of FIG.
  • the unit delay elements 111 to 11m in the configuration of FIG. 2 are replaced with line memories (LM) 111B to 11 (m ⁇ 1) B corresponding to delay elements for one horizontal period, respectively.
  • LM line memories
  • the configuration of FIG. 10 is the same as the configuration of FIG. 2 except for this point, and the same parts are denoted by the same reference numerals and description thereof is omitted.
  • 11 is the same as the configuration in FIG. 4 except that the unit delay element 1021 in the configuration in FIG. 4 is replaced with a line memory (LM) 1021B corresponding to a delay element for one horizontal period.
  • the first differentiator 13 having the configuration shown in FIG. 4 is configured such that the second signal S2 does not include a direct current component with respect to the spatial frequency in the horizontal direction of the image.
  • the device 13 prevents the second signal S2 from including a DC component for the spatial frequency in the vertical direction of the image.
  • the image enhancement apparatus includes a time direction processing unit 1300 in addition to the horizontal direction processing unit 1100 and the vertical direction processing unit 1200 described above.
  • the input image signal SI similar to that in the above embodiment is used, and in the above embodiment, the HPF 11 is configured as shown in FIG. 13, and the first and second differentiators 13 and 14 are configured as shown in FIG.
  • the time direction processing unit 1300 can be realized.
  • FIG. 14 is the same as the configuration of FIG. 4 except that the unit delay element 1021 in the configuration of FIG. 4 is replaced with a frame memory (FM) 1021C corresponding to a delay element for one frame period.
  • the same parts are denoted by the same reference numerals, and the description thereof is omitted.
  • the HPF 11C having the configuration shown in FIG. 13 extracts a high frequency component (at least a DC component is removed) from the frequency components in the time direction of the image, and the first differentiator 13 having the configuration shown in FIG. Is not included in the second signal S2.
  • a square calculator 12 is provided to perform a nonlinear process on the first signal S1, but instead of the square calculator 12, a fourth power calculation is performed by squaring the first signal S1.
  • a power calculator may be used, and more generally, a power calculator that generates a signal corresponding to the power of the first signal S1 having an even number of 2 or more as a power exponent may be used.
  • one or both of the first differentiator 13 and the second differentiator 14 in the present embodiment may be replaced with another high pass filter (HPF).
  • HPF high pass filter
  • a differentiator can be regarded as a kind of high-pass filter.
  • FIG. 15 is a block diagram showing a configuration of an image enhancement device according to the second embodiment of the present invention.
  • the image enhancement apparatus 200 is an apparatus that performs image enhancement processing for sharpening an image represented by an input image signal Sin input from the outside as a digital signal, and performs nonlinear processing with the HPF 11.
  • the nonlinear processing unit 202 includes an absolute value processor 22 instead of the square calculator 12 in the first embodiment. Since other parts in the present embodiment are the same as those in the first embodiment (FIGS. 1 to 4), the same parts are denoted by the same reference numerals and detailed description thereof is omitted.
  • the first signal S1 output from the HPF 11 is input to the absolute value processor 22 of the nonlinear processor 202.
  • the absolute value processor 22 generates a signal corresponding to the absolute value of the first signal S1 as the absolute value signal S22. That is, when the data strings constituting the first signal S1 are X1, X2, X3,...,
  • the absolute value signal S22 is a digital signal constituted by the data strings
  • the absolute value signal S22 is input to the first differentiator 13, and the differentiator 13 generates the first differential signal S23 by differentiating the absolute value signal S22.
  • the first differential signal S23 is input to the multiplier 15.
  • the second differentiator 14 of the nonlinear processing unit 202 generates the second differential signal S14 by differentiating the input image signal Sin.
  • the second differential signal S14 is also input to the multiplier 15.
  • the multiplier 15 generates the second signal S2 by multiplying the first differential signal S23 and the second differential signal S14.
  • the second signal S2 is output from the nonlinear processing unit 102 and input to the adder 16.
  • the adder 16 adds the second signal S2 as a compensation signal for image sharpening to the input image signal Sin to generate an output image signal Sout.
  • the operation of the image enhancement apparatus 200 according to the present embodiment configured as described above is performed in such a manner that the level (pixel value) of the image signal in the horizontal direction of the input image signal Sin is as shown in FIG. Description will be made by paying attention to processing for a portion corresponding to a changing edge.
  • This embodiment also performs basically the same operation as the operation of the first embodiment. That is, when an input image signal Sin indicating a portion corresponding to an edge as shown in FIG. 6A is input to the image enhancement apparatus 200 according to the present embodiment, a signal as shown in FIG. 1 signal S1 is generated.
  • the first signal S ⁇ b> 1 is input to the absolute value processor 22 in the nonlinear processor 102.
  • the absolute value processor 22 generates an absolute value signal S22 similar to the signal S12 shown in FIG. 6B from the first signal S1 as shown in FIG. 5C. That is, the absolute value processor 22 is a digital composed of data strings
  • the square signal S12 is a digital signal composed of data strings X1 2 , X2 2 , X3 2 ,. Therefore, the square signal S12 and the absolute value signal S22 have different signal levels, but the overall signal waveform has the same shape (FIG. 6B).
  • the first differential signal S23 similar to the first differential signal S13 as shown in FIG. 6C is generated from the absolute value signal S22 by the first differentiator 13.
  • the direct current component is removed by differentiation of the absolute value S22 at this time.
  • the second differentiator 14 as shown in FIG. 6D is generated from the input image signal Sin by the second differentiator 14.
  • a second signal S2 as shown in FIG. 6E is generated by the multiplier 15 from the second differential signal S14 and the first differential signal S23.
  • the second signal S2 is added to the input image signal Sin by the adder 16 as a compensation signal, thereby generating an output image signal Sout as shown in FIG.
  • the rising edge of the output image signal Sout is steeper than the rising edge (FIG. 5D) of the image output signal of the conventional image enhancement apparatus.
  • the second signal S2 output as the compensation signal from the nonlinear processing unit 102 including the absolute value processor 22 is the first signal S1 as the high-frequency signal output from the HPF 11 (FIG. 5 ( C)) is a signal obtained by performing nonlinear processing.
  • the first differentiator 13 makes the second signal S2 a signal that does not contain a DC component.
  • the first differential signal S23 by multiplying the first differential signal S23 by the second differential signal S14 obtained by the second differentiator 14, the first signal (FIG. 5C) in the second signal S2 (FIG. 6E). ) Is substantially preserved.
  • the rising edge of the output image signal Sout is the image output of the conventional image enhancement device. It becomes steeper than the rising edge of the signal edge (FIG. 5D) (FIG. 6F), and a sharper image than before is obtained.
  • the non-linearity of the processing with respect to the first signal S1 is based on the absolute value processor 22, and the input image signal Sin is obtained by applying the processing by the absolute value processor 22 to the first signal S1.
  • a frequency component higher than the Nyquist frequency fs / 2 is generated. That is, when the absolute value
  • the present embodiment similar to the first embodiment, it is possible to improve the image quality larger than the conventional image enhancement apparatus based on linear processing.
  • the image can be sufficiently sharpened with a simple configuration as shown in FIG. 15, not only a still image but also a moving image displayed in real time can improve the image quality without causing a significant increase in cost. Can do.
  • the image signal after the image enlargement process is used as the input image signal Sin, the image after the enlargement process is sufficiently sharper than a conventional image enhancement apparatus that cannot compensate for a high frequency region exceeding the Nyquist frequency fs / 2. Image quality can be greatly improved.
  • the image enhancement apparatus 200 includes a horizontal direction processing unit 1100 for horizontal image enhancement processing and a vertical direction processing unit 1200 for vertical image enhancement processing. (See FIGS. 9 to 11). This also applies to other embodiments described later.
  • the image enhancement apparatus 200 includes a time direction processing unit 1300 in addition to the horizontal direction processing unit 1100 and the vertical direction processing unit 1200 (see FIGS. 12 to 14). . This also applies to other embodiments described later.
  • FIG. 16 is a block diagram showing a configuration of an image enhancement device according to the third embodiment of the present invention.
  • the image enhancement apparatus 300 is an apparatus that performs image enhancement processing for sharpening an image represented by an input image signal Sin input from the outside as a digital signal, and performs nonlinear processing with the HPF 11.
  • the non-linear processing unit 302 includes a cube calculator 32 and a limiter 33. Since parts other than the nonlinear processing unit 302 in the configuration of the present embodiment are the same as those in the first embodiment (FIGS. 1 to 4), the same parts are denoted by the same reference numerals for detailed description. Omitted.
  • the first signal S1 output from the HPF 11 is input to the cube calculator 32 of the nonlinear processing unit 302.
  • the cube signal S32 is input to the limiter 33.
  • the limiter 33 functions as an adjuster of the amplitude (signal level) of the cube signal S32. Specifically, the gain of the level of the signal is adjusted by multiplying the cube signal S32 by a constant ⁇ satisfying 0 ⁇ ⁇ ⁇ 1, and the amplitude after the gain adjustment of the cube signal S32 is a predetermined upper limit value. Clip processing is performed as follows. For example, when the absolute value of the signal value after gain adjustment of the cube signal S32 exceeds 32, the output signal of the limiter 33 is set to ⁇ 32 according to the sign. The output signal of the limiter 33 is output from the nonlinear processing unit 302 as the second signal S2 and input to the adder 16.
  • the adder 16 adds the second signal S2 as a compensation signal for image sharpening to the input image signal Sin to generate an output image signal Sout.
  • the operation of the image enhancement apparatus 300 according to the present embodiment configured as described above is performed with the level (pixel value) of the image signal in the horizontal direction as shown in FIG. 17A of the input image signal Sin. Description will be made by paying attention to processing for a portion corresponding to a changing edge.
  • the first signal S ⁇ b> 1 is input to the cube calculator 32 in the nonlinear processor 102.
  • the cube calculator 32 generates a cube signal S32 as shown in FIG. 17C from the first signal S1.
  • the data string constituting the first signal S1 is X1, X2, X3,...
  • the cube signal S32 is a digital signal constituted by the data strings X1 3 , X2 3 , X3 3 ,. is there. Therefore, the positive / negative in the first signal S1 is stored in the cube signal S32.
  • the third power signal S32 is output from the nonlinear processing unit 302 as the second signal S2 after the amplitude is adjusted by the gain adjustment and the clip processing in the limiter 33.
  • the second signal S2 is added as a compensation signal to the input image signal Sin by the adder 16 to generate an output image signal Sout as shown in FIG.
  • the rising edge of the output image signal Sout is steeper than the rising edge (FIG. 5D) of the image output signal of the conventional image enhancement apparatus.
  • the second signal S2 added to the input image signal Sin as a compensation signal is subjected to nonlinear processing on the first signal S1 (FIG. 17B) as a high frequency signal output from the HPF 11. It is a signal obtained by applying. That is, the second signal S2 is generated from the first signal S1 by the cube computing unit 32, and unlike the nonlinear processing based on the square computing unit 12, the first signal in the second signal S2 The sign of S1 is stored.
  • the rising edge of the output image signal Sout is the image output of the conventional image enhancement device. It becomes steeper than the rising edge of the signal edge (FIG. 5D) (FIG. 17D), and a sharper image than before can be obtained.
  • the non-linearity of processing for the first signal S1 is based on the cube calculator 32. That is, also in the present embodiment, as in the first embodiment, the first signal S1 output from the HPF 11 is the signal g (x) or the signal g (x) represented by the above-described equation (2).
  • the cube signal S32 that includes the components and is output from the cube calculator 32 is a signal obtained by squaring the first signal S1. Therefore, when (g (x)) 3 is obtained, each term in this (g (x)) 3 is expressed by one of the following equations from Equation (2).
  • (g (x)) 3 includes a frequency component that is 3N times the basic angular frequency ⁇ and a frequency component that is ⁇ 3N times. By rewriting other terms in (g (x)) 3 by the trigonometric formula, (g (x)) 3 includes various frequency components from ⁇ 3N to 3N times the basic angular frequency ⁇ . I understand that.
  • (g (x)) 3 includes high frequency components up to three times the frequency component included in the first signal S1.
  • the cube signal S32 also includes a frequency component sufficiently higher than the Nyquist frequency fs / 2, such as a frequency component three times the frequency component included in the first signal S1. Therefore, according to the present embodiment, it is possible to improve the image quality larger than the conventional image enhancement device based on linear processing. Further, since the image can be sufficiently sharpened with a simple configuration as shown in FIG. 16, not only a still image but also a moving image displayed in real time can improve the image quality without causing a significant increase in cost. Can do.
  • the image after the enlargement process is sufficiently sharpened as compared with the conventional image enhancement apparatus that cannot compensate the high frequency region exceeding the Nyquist frequency fs / 2. Image quality can be greatly improved.
  • the cube calculator 32 is provided to perform nonlinear processing on the first signal S1, but instead of the cube calculator 32, a cube operation that raises the first signal S1 to the fifth power.
  • a power calculator may be used, and more generally, a power calculator that generates a signal corresponding to the power of the first signal S1 with an odd number of 3 or more as a power exponent may be used.
  • FIG. 18 is a block diagram showing a configuration of an image enhancement device according to the fourth embodiment of the present invention.
  • the image enhancement apparatus 400 is an apparatus that performs image enhancement processing for sharpening an image represented by an input image signal Sin input from the outside as a digital signal, and performs nonlinear processing with the HPF 11.
  • the non-linear processing unit 402 includes a square calculator 12, a code converter 43, and a limiter 33. Portions other than the nonlinear processing unit 402 in the configuration of the present embodiment are the same as those in the first embodiment (FIGS. 1 to 4).
  • the square calculator 12 and the limiter 33 in the nonlinear processing unit 402 are the same as the square calculator 12 in the first embodiment and the limiter 33 in the third embodiment, respectively.
  • the same constituent elements as those in the first or third embodiment are denoted by the same reference numerals, and detailed description thereof is omitted.
  • the first signal S1 output from the HPF 11 is input to the square calculator 12 of the nonlinear processing unit 402.
  • the square calculator 12 generates a square signal S12 by squaring the first signal S1.
  • the square signal S12 is input to the code converter 43.
  • the code converter 43 also receives the first signal S1.
  • the code converter 43 performs code conversion processing for restoring the code of the first signal S1 in the square signal S12 based on the code bit information of the first signal S1 output from the HPF 11. That is, the sign converter 43 maintains the sign of the same part as the first signal S1 in the square signal S12 as it is, and inverts the sign of the part of the square signal S12 in which the sign is different from the first signal.
  • the signal obtained by the code converter 43 is input to the limiter 33 as a code conversion signal S43.
  • the code conversion signal S43 is output from the nonlinear processing unit 402 as the second signal S2 after the amplitude is adjusted by the limiter 33 in the same manner as the limiter 33 of the third embodiment.
  • the second signal S2 is input to the adder 16 as a compensation signal.
  • the adder 16 adds the second signal S2 as a compensation signal for image sharpening to the input image signal Sin to generate an output image signal Sout.
  • an input image signal Sin indicating a portion corresponding to an edge as shown in FIG. 20A is input to the image enhancement apparatus 400 according to the present embodiment, a signal as shown in FIG. Generated as S1.
  • the first signal S ⁇ b> 1 is input to the square calculator 12 in the nonlinear processor 402.
  • the square calculator 12 generates a square signal S12 as shown in FIG. 20C from the first signal S1.
  • the square signal S12 is converted by the code converter 43 into a code conversion signal S43 as shown in FIG.
  • this code conversion signal S43 the sign of the first signal S1 is stored, and this code conversion signal S43 is encoded after the first signal S1 (FIG. 20C) that does not contain a DC component is squared. Since it is obtained by performing the conversion process, it does not contain a direct current component (FIG. 20D).
  • the code conversion signal S43 is output from the nonlinear processing unit 302 as the second signal S2 after the amplitude is adjusted by the limiter 33.
  • the second signal S2 is added to the input image signal Sin by the adder 16 as a compensation signal, thereby generating an output image signal Sout as shown in FIG.
  • the rising edge of the output image signal Sout is steeper than the rising edge (FIG. 5D) of the image output signal of the conventional image enhancement apparatus.
  • the second signal S2 added to the input image signal Sin as a compensation signal is subjected to nonlinear processing on the first signal S1 (FIG. 20B) as a high-frequency signal output from the HPF 11. It is a signal obtained by applying. That is, the second signal S2 is generated from the first signal S1 by the square calculator 12, and the sign converter 43 stores the sign of the first signal S1 in the second signal S2.
  • the rising edge of the output image signal Sout is the image output of the conventional image enhancement device. It becomes steeper than the rising edge of the signal edge (FIG. 5D) (FIG. 20E), and a sharper image than before is obtained.
  • the second signal S2 includes a frequency component higher than the Nyquist frequency fs / 2 corresponding to the sampling frequency fs of the input image signal Sin based on the process of the square calculator 12. Therefore, according to the present embodiment, it is possible to improve the image quality larger than the conventional image enhancement device based on linear processing. Further, since the image can be sufficiently sharpened with a simple configuration as shown in FIG. 18, not only a still image but also a moving image displayed in real time can improve the image quality without causing a large cost increase. Can do.
  • the image after the enlargement process is sufficiently sharpened as compared with the conventional image enhancement apparatus that cannot compensate the high frequency region exceeding the Nyquist frequency fs / 2. Image quality can be greatly improved.
  • a square calculator 12 is provided to perform a nonlinear process on the first signal S1, but instead of the square calculator 12, a fourth power calculation is performed by squaring the first signal S1.
  • a power calculator may be used, and more generally, a power calculator that generates a signal corresponding to the power of the first signal S1 having an even number of 2 or more as a power exponent may be used.
  • FIG. 19 is a block diagram showing a configuration of an image enhancement device according to the fifth embodiment of the present invention.
  • the image enhancement apparatus 500 is an apparatus that performs an image enhancement process for sharpening an image represented by an input image signal Sin input from the outside as a digital signal, and performs nonlinear processing with the HPF 11.
  • the non-linear processing unit 502 includes a square calculator 12, a differentiator 13, a sign converter 43, and a limiter 33. Portions other than the nonlinear processing unit 502 in the configuration of the present embodiment are the same as those in the first embodiment (FIGS. 1 to 4).
  • the square calculator 12 and the differentiator 13 in the nonlinear processor 502 are the same components as the square operator 12 and the first differentiator 13 in the first embodiment, respectively, and the limiter in the nonlinear processor 502. 33 is the same component as the limiter 33 in the third embodiment.
  • the same constituent elements as those in the first or third embodiment are denoted by the same reference numerals, and detailed description thereof is omitted.
  • the first signal S1 output from the HPF 11 is input to the square calculator 12 of the nonlinear processing unit 502.
  • the square calculator 12 generates a square signal S12 by squaring the first signal S1, and the square signal S12 is input to the differentiator 13.
  • the differentiator 13 generates a differential signal S13 by differentiating the square signal S12, and the differential signal S13 is input to the code converter 43.
  • the code converter 43 also receives the first signal S1.
  • the code converter 43 performs code conversion processing for restoring the code of the first signal S1 in the differential signal S13 based on the code bit information of the first signal S1 output from the HPF 11. That is, the sign converter 43 maintains the sign of the differential signal S13 where the sign is the same as that of the first signal S1, and inverts the sign of the part of the differential signal S13 where the sign is different from the first signal.
  • the signal obtained by the code converter 43 is input to the limiter 33 as a code conversion signal S44.
  • the code conversion signal S44 is output from the nonlinear processor 502 as the second signal S2 after the amplitude is adjusted by the limiter 33 in the same manner as the limiter 33 of the third embodiment.
  • the second signal S2 is input to the adder 16 as a compensation signal.
  • an input image signal Sin indicating a portion corresponding to an edge as shown in FIG. 21A is input to the image enhancement apparatus 500 according to the present embodiment, a signal as shown in FIG. Generated as S1.
  • the first signal S ⁇ b> 1 is input to the square calculator 12 in the nonlinear processor 402.
  • the square calculator 12 generates a square signal S12 as shown in FIG. 21C from the first signal S1.
  • the square signal S12 is input to the differentiator 13, and the differentiator 13 generates a differential signal S13 as shown in FIG.
  • this differential signal S13 the DC component contained in the square signal S12 is removed.
  • This differential signal S13 is converted into a code conversion signal S44 as shown in FIG.
  • the sign conversion signal S44 the sign of the first signal S1 is stored.
  • the code conversion signal S43 is output from the nonlinear processing unit 302 as the second signal S2 after the amplitude is adjusted by the limiter 33.
  • the second signal S2 is added to the input image signal Sin by the adder 16 as a compensation signal, thereby generating an output image signal Sout as shown in FIG.
  • the rising edge of the output image signal Sout is steeper than the rising edge (FIG. 5D) of the image output signal of the conventional image enhancement apparatus.
  • the second signal S2 added to the input image signal Sin as a compensation signal is subjected to nonlinear processing on the first signal S1 (FIG. 21B) as a high-frequency signal output from the HPF 11. It is a signal obtained by applying. That is, the second signal S2 is generated from the first signal S1 by the square computing unit 12, the direct current component is removed by the differentiator 13, and the sign converter 43 converts the first signal S1. Positive and negative are stored in the second signal S2.
  • the rising edge of the output image signal Sout is the image output of the conventional image enhancement device. It becomes steeper than the rising edge of the signal edge (FIG. 5D) (FIG. 21F), and a sharper image than before is obtained.
  • the second signal S2 includes a frequency component higher than the Nyquist frequency fs / 2 corresponding to the sampling frequency fs of the input image signal Sin based on the process of the square calculator 12. Therefore, according to the present embodiment, it is possible to improve the image quality larger than the conventional image enhancement device based on linear processing. Further, since the image can be sufficiently sharpened with a simple configuration as shown in FIG. 19, not only a still image but also a moving image displayed in real time can improve the image quality without causing a large cost increase. Can do.
  • the image after the enlargement process is sufficiently sharpened as compared with the conventional image enhancement apparatus that cannot compensate the high frequency region exceeding the Nyquist frequency fs / 2. Image quality can be greatly improved.
  • the square calculator 12 is used to perform nonlinear processing on the first signal S1, but instead, the absolute value processor 22 used in the second embodiment. May be used. Also in this case, the same effect can be obtained by basically the same operation as in the present embodiment (see FIG. 21).
  • a square calculator 12 is provided to perform a nonlinear process on the first signal S1, but instead of the square calculator 12, a fourth power calculation is performed by squaring the first signal S1.
  • a power calculator may be used, and more generally, a power calculator that generates a signal corresponding to the power of the first signal S1 having an even number of 2 or more as a power exponent may be used.
  • the differentiator 13 is used to remove the DC component of the square signal S12, but a high-pass filter (HPF) may be used instead. Further, in the present embodiment, the differentiator 13 is arranged in the preceding stage of the code converter 43. Alternatively, the differentiator 13 or the HPF may be arranged in the subsequent stage of the code converter 43.
  • the non-linearity in the non-linear processing unit is a square operation or a cube operation (more generally, a power operation with an even number of 2 or more or an odd number of 3 or more as a power exponent), or Although it is based on absolute value processing, it is possible to obtain the same effects as those of the above embodiments by other nonlinear calculations.
  • the input signal value of the nonlinear arithmetic unit for such nonlinear computation is x
  • the output signal value is y
  • a non-linear arithmetic unit that performs processing corresponding to a non-linear function f (x) that monotonically increases in a non-linear or positive / negative symmetry.
  • the monotonic increase here means a monotonic increase in a broad sense.
  • the nonlinear function f (x) does not need to monotonically increase for all x, and may be monotonously increased at least in the vicinity of 0.
  • the image enhancing apparatus 600 having the configuration shown in FIG. 22 using the nonlinear calculator 62 that performs processing corresponding to the nonlinear function f (x) that monotonously increases positively and negatively, and the nonlinear calculator 62 are used.
  • 23 can also add a high frequency component not included in the input image signal Sin, that is, a frequency component higher than the Nyquist frequency fs / 2 of the original signal, to the image.
  • An image enhancing apparatus 600 in FIG. 22 uses the nonlinear computing unit 62 in place of the square computing unit 12 in the image enhancing apparatus 400 according to the fourth embodiment shown in FIG. Also in the modification of the embodiment, the image enhancing apparatus 600 of FIG.
  • the image enhancing apparatus 700 in FIG. 23 uses the nonlinear computing unit 62 instead of the square computing unit 12 in the image enhancing apparatus 500 according to the fifth embodiment shown in FIG. Also in the modification of the fifth embodiment, the image enhancing apparatus 700 in FIG. 23 can be used instead of the image enhancing apparatus 500 in FIG. 19.
  • f (x) x 2n (n is a natural number)
  • the following function f (x) can be used.
  • the pixel value x is normalized by 255.
  • the function of the formula (8) is multiplied by 255 after normalization.
  • the value to be multiplied does not have to be the same as the value for normalization (255 in this example). .
  • f (x) 100
  • f (x) 255
  • FIG. 24 shows an image (hereinafter referred to as “original image”) used for verifying the effect of the present invention.
  • This original image is reduced in size than the actual size for the convenience of the posting space in the drawing.
  • FIG. 25 shows an image obtained by cutting out the upper right part of the original image and subjecting it to enlargement processing twice in the vertical and horizontal directions, and is the target of image enhancement processing (hereinafter referred to as “target image”).
  • the pseudo gradation display method is adopted in consideration of the convenience of printing out. This also applies to FIGS. 26 and 27 described later.
  • FIG. 26B is a diagram showing an image after the image enhancement processing based on the linear processing is performed on the target image. For comparison, the target image is shown in FIG. Yes.
  • the conventional image enhancement processing is applied to the target image. Even if applied, the image quality does not improve, and there is almost no difference in sharpness or resolution between the target image in FIG. 26A and the image in FIG.
  • FIG. 27A shows an image after the image enhancement processing by the configuration shown in FIG. 15 using the absolute value processor 22 is applied to the target image as one-dimensional processing in the horizontal direction and the vertical direction, respectively (FIG. 27A). 9).
  • the sharpness or resolution is improved centering on the back of the scarf and chair compared to the target image of FIG. 26A.
  • the image of FIG. This is very different from the image in FIG. Therefore, it can be said that the image enhancement processing with the configuration of FIG. 15 can sufficiently sharpen the image after the enlargement processing and greatly improve the image quality as compared with the conventional image enhancement processing based on linear processing.
  • FIG. 27B shows an image after the target image is subjected to the image enhancement processing by the configuration shown in FIG. 16 using the cube calculator 32 once in the horizontal direction and in the vertical direction (see FIG. 9). ).
  • the input image signal Sin is 8 bits
  • the constant ⁇ for gain adjustment in the limiter 33 is 0.03
  • the upper limit value for clip processing is ⁇ 32.
  • the configuration of FIG. 16 that is, the configuration using the cube calculator 32 gives better results for image signals having a small amplitude, and the amplitude is For large image signals, it can be said that the configuration of FIG. 15, that is, the configuration using the absolute value processor 22, gives better results. Therefore, in consideration of this point, a configuration in which the configuration of FIG. 15 and the configuration of FIG. 16 are used together is preferable for improving the image quality by sharpening the entire image.
  • each of the above embodiments is realized as hardware (circuit such as LSI), part or all of the configuration may be realized as software.
  • image enhancement program for performing an image enhancement process according to any of the embodiments or modifications thereof.
  • the image enhancing apparatus according to the present invention can be realized in software.
  • the target image is a still image
  • a sufficiently practical image enhancement process is possible even with an image enhancement device implemented in software as described above. The same effect as each embodiment is acquired.
  • the personal computer 800 is a general-purpose computer, and a CPU 801 as a central processing unit, a memory 803, a modem 805, a display control unit 807, an input interface unit 809, a hard disk device 811 and a CD-ROM (Compact Disc Read Only Memory) drive.
  • a device 813 is connected by a bus, an operation unit 810 such as a keyboard and a mouse is connected to the input interface unit 809, and a display device 815 such as a CRT or a liquid crystal display is connected to the display control unit 807.
  • the image enhancement program is typically provided by a CD-ROM that is a recording medium on which the program is recorded.
  • the user purchases a CD-ROM 850 as a recording medium for the image enhancement program, loads the CD-ROM 850 into the CD-ROM drive 813, reads the program from the CD-ROM 850, and installs it in the hard disk device 811.
  • an image enhancement program sent via a communication line connected to the modem 805 may be received and installed in the hard disk device 811.
  • the image enhancement program may be installed in the hard disk device 811 before the manufacturer ships the personal computer 800.
  • the image enhancement program installed in the hard disk device 811 in this manner is transferred to the memory 803, temporarily stored therein, and executed by the CPU 801 when activated by a predetermined operation on the operation unit 810 by the user. .
  • the personal computer 800 operates as a device that performs the same image enhancement processing as the image enhancement device according to the above-described embodiments or modifications thereof.
  • image enhancement apparatus implemented in software as described above, data representing an image to be subjected to image enhancement processing is stored in advance in the hard disk device 811 as target image data, and the image enhancement program is started.
  • the target image data is subjected to image enhancement processing by the CPU 801 based on the image enhancement program, and the processed image data (hereinafter referred to as “processed image data”) is generated and stored in the hard disk device 811. .
  • image enhancement processing for improving image quality for example, image enhancement processing for improving the quality of a moving image displayed in real time on a television (TV) receiver has been described.
  • the present invention is not limited to such image enhancement processing, and is also applicable to an apparatus that performs signal processing for improving sound quality and signal processing for improving the quality of content including audio. It can also be applied to a device that performs signal processing for improving the quality of a signal transmitted via a communication line.
  • the harmonics of the original signal can be obtained by non-linear processing. Therefore, the signal generated by the apparatus corresponds to the sampling frequency fs when the input signal is discretized. A frequency component higher than the Nyquist frequency fs / 2 is included.
  • the signal quality sound quality, image quality, etc.
  • the signal quality can be greatly improved over conventional signal processing based on linear processing, and the signal quality can be improved with a simple configuration.
  • the present invention is applied to an image enhancement apparatus, an image enhancement method, and an image enhancement program for sharpening an image to improve image quality.
  • an image enhancement apparatus for example, a moving image displayed in real time on a television (TV) receiver
  • the present invention can be applied to an image enhancement device for sharpening the image.
  • Non-linear calculator 100 ... Image enhancement device (first embodiment) 102: nonlinear processing units 110, 110B, 110C ... digital filter 132 ... rounding processor 133 ... limiter 200 ... image enhancement device (second embodiment) 202... Non-linear processing unit 300... Image enhancement device (third embodiment) 302... Non-linear processing unit 400...
  • Image enhancement device (fourth embodiment) 402 Nonlinear processing unit 500: Image enhancement device (fifth embodiment) 502... Non-linear processing unit Sin... Input image signal (input signal) Sout: Output image signal S1: First signal S2: Second signal S12: Square signal (third signal) S13: First differential signal (fourth signal) S14: Second differential signal (fifth signal) S22: Absolute value signal (third signal) S32 ... third power signal (third signal)

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Picture Signal Circuits (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

 本発明は、簡単な構成で適切な高域補償を行うことにより、静止画のみならず動画の場合にも画像拡大処理が施された場合にも画像を十分に鮮鋭化して画質を向上させることを目的とする。HPF(11)は入力画像信号Sinから高域成分を第1信号S1として抽出し、2乗演算器(12)は第1信号S1を2乗することにより2乗信号S12を生成する。第1微分器(13)は、2乗信号S12を微分することにより第1微分信号S13を生成し、第2微分器(14)は、入力画像信号Sinを微分することにより第2微分信号S14を生成する。乗算器(15)は、第1微分信号S13と第2微分信号S14を乗算することにより第2信号S2を生成する。加算器(16)は、第2信号S2を補償用信号として入力画像信号Sinに加算することにより出力画像信号Soutを生成する。

Description

画像強調装置、画像強調方法、画像強調プログラム、および信号処理装置
 本発明は、画像を鮮鋭化して画質を改善するための画像強調装置、画像強調方法、および画像強調プログラム、より一般的には信号の質を高めるための信号処理装置等に関するものであり、例えばテレビジョン(TV)受像機でリアルタイムで表示される動画の鮮鋭化に好適な画像強調装置に関する。
 画像を鮮鋭化して画質を改善するための画像強調処理は、従来より広く知られている。例えば、従来のテレビジョン受像機において、表示される画像の輪郭部に相当する映像信号の立ち上がりや立ち下がりを急峻にする輪郭補償が行われている。この輪郭補償では、テレビジョン受像機のディスプレイに入力される映像信号(輝度信号)の高周波成分を抽出し、その高周波成分を増幅して映像信号に加算することにより、映像信号入力からディスプレイ入力までに各回路で処理される映像信号の周波数特性の劣化を改善し視覚上の画質を向上させている。
 このような輪郭補償を含む従来の画像強調処理は、通常、線形のデジタル信号処理に基づいていることから、ナイキスト周波数よりも高い周波数成分すなわち対象となる画像のサンプリング周波数の1/2よりも高い周波数成分を利用することができない。このため、画質改善のために、ナイキスト周波数を超える周波数成分を回復したり、そのような周波数成分を利用して画像を鮮鋭化したりすることはできなかった。したがって、例えば高精細テレビジョン(HDTV:High Definition Television)すなわちフルハイビジョン(1080×1920画素)のテレビジョン受信機におけるディスプレイで、解像度がHDTVに満たない画像信号に画像拡大処理を施して画像を表示する場合には、画像がぼやけるという問題がある。このぼやけた画像はナイキスト周波数近傍の周波数成分を有しないため、従来の画像強調処理を用いても増幅すべき周波数成分が抽出できず画質は改善しない。
 これに対し、フレーム間またはフレーム内での自己相関等を利用して、上記のような画像拡大処理を行う場合においても鮮鋭な画像を得られるように高解像度化を行う技術(例えば非特許文献1、特許文献3)や、エッジの接線方向とエッジの垂直方向とで程度の異なる平滑化処理を行う非等方拡散フィルタを利用して画像を高解像度化する技術(例えば非特許文献2)も提案されている。また、高周波成分を強調して画質を改善するために画像信号に加算すべき信号のコアリング量、クリッピング量、エンハンス量、およびリミット量などをそれぞれ調整するために非線形回路を使用した画像処理装置(特許文献1)や、映像の品位を低下させずに高域信号を補償することを目的として画像信号におけるパルス波形やステップ波形のエッジ部でのリンギング発生を抑制するために非線形変換回路を使用した画質補償回路も提案されている(特許文献2)。
日本の特開2006-304352号公報 日本の特開平7-312704号公報 日本の特開2007-310837号公報
松本信幸,井田孝,「フレーム内再構成型超解像の領域適応処理による高画質化の検討」,電子情報通信学会技術研究報告,社団法人電子情報通信学会,2008年4月,第108巻,第4号,IE2008-6,p.31-36 Luminita A. Vese and Stanley J.Osher, "Modeling Textures with Total variation Minimization and Oscillating Patterns in Image Processing", Journal of Scientific Computing, Vol.19, Nos.1-3, December 2003
 しかし、非特許文献2に記載の非等方拡散フィルタを利用した高解像度化の技術は、処理が複雑であることから、テレビジョン受像機等における動画表示のようにリアルタイムでの処理を必要とする場合には適用困難であり、非特許文献1に記載の高解像度化の技術は、適用可能であってもその実現には大規模なLSIを必要とし大きなコスト増を招来する。また、特許文献1に記載の画像処理装置や特許文献2に記載の画質補償回路は、画像信号に加算すべき信号のクリッピング処理などや、高域信号の補償によるリンギング発生の抑制という限定された目的に非線形処理が利用されているにすぎず、このような画質補償回路や画像処理装置によっては、上記のような拡大処理が施された画像を表示する場合には十分に画像を鮮鋭化することはできない。
 そこで本発明は、簡単な構成で適切な高域補償を行うことにより、静止画のみならず動画の場合にもまた上記のような画像拡大処理が施された場合にも画像を十分に鮮鋭化して画質を向上させることができる画像強調装置や画像強調方法等を提供することを目的とし、より一般的には、簡単な構成で適切な高域補償を行うことにより信号の質を高めることができる信号処理装置等を提供することを目的とする。
 本発明の第1の局面は、入力信号の表す画像を鮮鋭化するための画像強調装置であって、
 画像を表す入力信号に含まれる周波数成分のうち少なくとも直流成分を当該入力信号から除去することにより第1の信号を生成するフィルタ部と、
 前記第1の信号に対して非線形処理を施すことにより第2の信号を生成する非線形処理部と、
 前記第2の信号を前記入力信号に加算する加算部とを備え、
 前記非線形処理部は、
  前記第1の信号に対し少なくとも0近傍で、非線形または正負対称に、広義に単調増加する第3の信号を、前記第1の信号に基づいて生成し、
  前記第2の信号において前記第1の信号の正負が実質的に保存され、かつ、前記第2の信号が直流成分を含まないように、前記第3の信号に基づいて前記第2の信号を生成することを特徴とする。
 本発明の第2の局面は、本発明の第1の局面において、
 前記非線形処理部は、
  2以上の偶数を冪指数として前記第1の信号を冪乗することにより前記第3の信号を生成し、
  前記第2の信号において前記第1の信号の正負が実質的に保存されるように、前記第3の信号に基づいて前記第2の信号を生成することを特徴とする。
 本発明の第3の局面は、本発明の第2の局面において、
 前記非線形処理部は、
  2以上の偶数を冪指数として前記第1の信号を冪乗することにより前記第3の信号を生成する冪乗演算器と、
  前記第3の信号を微分することにより第4の信号を生成する第1微分器と、
  前記入力信号を微分することにより第5の信号を生成する第2微分器と、
  前記第4の信号と前記第5の信号との積に基づき前記第2の信号を生成する乗算器とを含むことを特徴とする。
 本発明の第4の局面は、本発明の第2の局面において、
 前記非線形処理部は、
  2以上の偶数を冪指数として前記第1の信号を冪乗することにより前記第3の信号を生成する冪乗演算器と、
  前記第3の信号に基づき前記第2の信号が生成されるように、前記第3の信号のうち正負が前記第1の信号と異なる部分の正負を前記第1の信号に基づき反転させる符号変換器とを含むことを特徴とする。
 本発明の第5の局面は、本発明の第2の局面において、
 前記非線形処理部は、
  2以上の偶数を冪指数として前記第1の信号を冪乗することにより前記第3の信号を生成する冪乗演算器と、
  前記第3の信号の直流成分を除去することにより第4の信号を生成するフィルタと、
  前記第4の信号に基づき前記第2の信号が生成されるように、前記第4の信号のうち正負が前記第1の信号と異なる部分の正負を前記第1の信号に基づき反転させる符号変換器とを含むことを特徴とする。
 本発明の第6の局面は、本発明の第1の局面において、
 前記非線形処理部は、
  前記第1の信号の絶対値に相当する信号を前記第3の信号として生成し、
  前記第2の信号において前記第1の信号の正負が実質的に保存されるように、前記第3の信号に基づいて前記第2の信号を生成することを特徴とする。
 本発明の第7の局面は、本発明の第6の局面において、
 前記非線形処理部は、
  前記第1の信号の絶対値に相当する信号を前記第3の信号として生成する絶対値処理器と、
  前記第3の信号を微分することにより第4の信号を生成する第1微分器と、
  前記入力信号を微分することにより第5の信号を生成する第2微分器と、
  前記第4の信号と前記第5の信号との積に基づき前記第2の信号を生成する乗算器とを含むことを特徴とする。
 本発明の第8の局面は、本発明の第6の局面において、
 前記非線形処理部は、
  前記第1の信号の絶対値に相当する信号を前記第3の信号として生成する絶対値処理器と、
  前記第3の信号の直流成分を除去することにより第4の信号を生成するフィルタと、
  前記第4の信号に基づき前記第2の信号が生成されるように、前記第4の信号のうち正負が前記第1の信号と異なる部分の正負を前記第1の信号に基づき反転させる符号変換器とを含むことを特徴とする。
 本発明の第9の局面は、本発明の第1の局面において、
 前記非線形処理部は、3以上の奇数を冪指数として前記第1の信号を冪乗することにより前記第3の信号を生成し、前記第3の信号に基づき前記第2の信号を生成することを特徴とする。
 本発明の第10の局面は、本発明の第9の局面において、
 前記非線形処理部は、
  3以上の奇数を冪指数として前記第1の信号を冪乗することにより前記第3の信号を生成する冪乗演算器と、
  前記第3の信号の振幅を調整することにより前記第2の信号を生成する調整器と
を含むことを特徴とする。
 本発明の第11の局面は、本発明の第1の局面において、
 前記非線形処理部は、前記第3の信号の絶対値が前記第1の信号の絶対値よりも大きくなる区間が少なくとも前記0近傍に現れるように前記第3の信号を生成することを特徴とする。
 本発明の第12の局面は、本発明の第1の局面において、
 前記非線形処理部は、前記第1の信号に対し前記第1の信号の最大振幅の少なくとも1/2以下の範囲では、非線形または正負対称に、広義に単調増加する信号を、前記第1の信号に基づき前記第3の信号として生成することを特徴とする。
 本発明の第13の局面は、本発明の第1の局面において、
 前記フィルタ部は、タップ数が3以上の高域通過型のデジタルフィルタを含むことを特徴とする。
 本発明の第14の局面は、本発明の第1の局面において、
 前記非線形処理部は、
  前記第1の信号のうち絶対値が所定の下限値よりも小さい部分の信号値を0に変更する丸め処理器と、
  前記第1の信号のうち絶対値が所定の上限値よりも大きい部分の信号値の絶対値を当該上限値以下の所定値に変更するリミッタとを含むことを特徴とする。
 本発明の第15の局面は、本発明の第1の局面において、
 前記非線形処理部は、前記第2の信号の振幅を調整するための調整器を含むことを特徴とする。
 本願に係る発明の他の局面は、本発明の上記第1~第15の局面および後述の実施形態に関する説明から明らかであるので、その説明を省略する。
 本発明の第1の局面によれば、入力信号から少なくとも直流成分を除去された信号が第1の信号として生成され、この第1の信号に非線形処理を施すことにより第2の信号が生成される。すなわち、第1の信号に対し少なくとも0近傍で、非線形または正負対称に、広義に単調増加する第3の信号が生成され、この第3の信号に基づいて第2の信号が生成される。この第2の信号において第1の信号の正負が実質的に保存され、かつ、この第2の信号は直流成分を含まない。このような第2の信号が入力信号に加算される。この加算により得られる信号すなわち画像強調装置の出力信号は、上記第1の信号に対する非線形処理によって原信号の高調波が得られることから、入力信号を離散化する場合のサンプリング周波数fsに対応するナイキスト周波数fs/2よりも高い周波数成分を含んでいる。このため、線形処理に基づく従来の画像強調装置よりも大きな画質改善が可能となる。また、簡単な構成で画像の十分な鮮鋭化が可能であるので、静止画のみならずリアルタイムで表示される動画についても、大きなコスト増を招くことなく画質を改善することができる。さらに、画像拡大処理後の画像信号を入力信号とする場合には、ナイキスト周波数fs/2を越える高周波域の補償ができない従来の画像強調装置に比べ、拡大処理後の画像を十分に鮮鋭化して大幅に画質を改善することができる。
 本発明の第2の局面によれば、2以上の偶数を冪指数とする上記第1の信号の冪乗に基づき、上記第1の信号の正負が実質的に保存されるように第2の信号が生成され、このような第2の信号が入力信号に加算されるので、線形処理に基づく従来の画像強調装置よりも大きな画質改善が可能となる。また、簡単な構成で画像の十分な鮮鋭化が可能であるので、静止画のみならずリアルタイムで表示される動画についても、大きなコスト増を招くことなく画質を改善することができる。さらに、画像拡大処理後の画像信号を入力信号とする場合には、従来の画像強調装置に比べ、画像の鮮鋭化による画質改善につき大きな効果が得られる。
 本発明の第3の局面によれば、2以上の偶数を冪指数として上記第1の信号を冪乗することにより第3の信号が生成され、第3の信号を微分することにより直流成分が除去された第4の信号が生成され、入力信号を微分して得られる第5の信号が第4の信号に乗算されることにより、第1の信号の正負が保存された信号として第2の信号が生成される。このようにして、補償用信号として入力信号に加算すべき第2の信号が、2以上の偶数を冪指数とする上記第1の信号の冪乗に基づき、上記第1の信号の正負が保存されるように生成されるので、本発明の第2の局面と同様の効果が得られる。
 本発明の第4の局面によれば、2以上の偶数を冪指数として上記第1の信号を冪乗することにより第3の信号が生成され、第3の信号に基づき第2の信号が生成されるように、第3の信号のうち正負が上記第1の信号と異なる部分の正負が上記第1の信号に基づき反転される。このようにして、入力信号に加算すべき第2の信号が、2以上の偶数を冪指数とする第1の信号の冪乗に基づき、第1の信号の正負が保存されるように生成されるので、本発明の第2の局面と同様の効果が得られる。
 本発明の第5の局面によれば、2以上の偶数を冪指数として上記第1の信号を冪乗することにより第3の信号が生成され、第3の信号の直流成分が除去されることにより第4の信号が生成される。そして、第4の信号に基づき第2の信号が生成されるように、第4の信号のうち正負が上記第1の信号と異なる部分の正負が上記第1の信号に基づき反転される。このようにして、入力信号に加算すべき第2の信号が、2以上の偶数を冪指数とする第1の信号の冪乗に基づき、第1の信号の正負が保存されるように生成されるので、本発明の第2の局面と同様の効果が得られる。しかも、第3の信号から直流成分が除去された後の信号に基づき第2の信号が生成されるので、本発明の第4の局面に比べ、効果の程度は大きくなり、画像をより鮮鋭化することができる。
 本発明の第6の局面によれば、上記第1の信号の絶対値に基づき第2の信号が生成されるので、第2の信号は入力信号の周波数成分の2倍以上の高調波成分を含む。また、第2の信号は、上記第1の信号の正負が保存されるように生成される。このような第2の信号が入力信号に加算されることにより、線形処理に基づく従来の画像強調装置よりも大きな画質改善が可能となる。また、簡単な構成で画像の十分な鮮鋭化が可能であるので、静止画のみならずリアルタイムで表示される動画についても、大きなコスト増を招くことなく画質を改善することができる。さらに、画像拡大処理後の画像信号を入力信号とする場合には、従来の画像強調装置に比べ、画像の鮮鋭化による画質改善につき大きな効果が得られる。
 本発明の第7の局面によれば、上記第1の信号の絶対値に相当する信号が第3の信号として生成され、第3の信号を微分することにより直流成分が除去された第4の信号が生成され、入力信号を微分して得られる第5の信号が第4の信号に乗算されることにより、第1の信号の正負が保存された信号として第2の信号が生成される。このようにして、入力信号に加算すべき第2の信号が、上記第1の信号の絶対値に基づき、上記第1の信号の正負が保存されるように生成されるので、本発明の第6の局面と同様の効果が得られる。
 本発明の第8の局面によれば、上記第1の信号の絶対値に相当する信号が第3の信号として生成され、第3の信号の直流成分が除去されることにより第4の信号が生成される。そして、第4の信号に基づき第2の信号が生成されるように、第4の信号のうち正負が上記第1の信号と異なる部分の正負が上記第1の信号に基づき反転される。このようにして、入力信号に加算すべき第2の信号が、上記第1の信号の絶対値に基づき、上記第1の信号の正負が保存されるように生成されるので、本発明の第6の局面と同様の効果が得られる。
 本発明の第9の局面によれば、3以上の奇数を冪指数とする上記第1の信号の冪乗に基づき第2の信号が生成され、この第2の信号では上記第1の信号の正負が保存される。このように、入力信号に加算すべき第2の信号が3以上の奇数を冪指数とする上記第1の信号の冪乗に基づき生成され、上記第1の信号の正負を保存するための処理を特に必要としないので、より簡単な構成で、線形処理に基づく従来の画像強調装置よりも大きな画質改善が可能となる。また、より簡単な構成で画像の十分な鮮鋭化が可能であるので、静止画のみならずリアルタイムで表示される動画についても、大きなコスト増を招くことなく動画の画質を改善することができる。さらに、画像拡大処理後の画像信号を入力信号とする場合には、従来の画像強調装置に比べ、画像の鮮鋭化による画質改善につき大きな効果が得られる。
 本発明の第10の局面によれば、3以上の奇数を冪指数として上記第1の信号を冪乗することにより第3の信号が生成され、第3の信号の振幅を調整することにより第2の信号が生成される。このため、第1の信号の冪乗によって第3の信号が過大な振幅(信号レベル)を有しても、適切な振幅の第2の信号が入力信号に加算されるので、入力信号の表す画像を良好に鮮鋭化することできる。
 本発明の第11の局面によれば、上記第3の信号の絶対値が上記第1の信号の絶対値よりも大きくなる区間が少なくとも上記0近傍に現れるので、その区間に対応する第3の信号に基づく第2の信号を入力信号に付加することにより、入力信号の表す画像を十分に鮮鋭化することができる。
 本発明の第12の局面によれば、上記第3の信号が上記第1の信号に対し上記第1の信号の最大振幅の少なくとも1/2以下の範囲では、非線形または正負対称に、広義に単調増加するので、補償すべき周波数成分を十分に含む補償用信号が第2の信号として生成される。この第2の信号を入力信号に付加することにより、入力信号の表す画像を十分に鮮鋭化することができる。
 本発明の第13の局面によれば、フィルタ部はタップ数が3以上の高域通過型のデジタルフィルタで構成されるので、補償すべき周波数成分を含む適切な第1の信号が生成され、この第1の信号に基づく第2の信号の入力信号への加算により、入力信号の表す画像を良好に鮮鋭化することができる。
 本発明の第14の局面によれば、上記第1の信号のうち絶対値が所定の下限値よりも小さい部分の信号値が0に変更されるので、入力信号に含まれるノイズが上記第1の信号に対する非線形処理によって増幅されることはない。また、第1の信号のうち絶対値が所定の上限値よりも大きい部分の信号値の絶対値が当該上限値以下の所定値に変更されるので、既に高周波成分として十分なエネルギーを持っている信号成分が上記第1の信号に対する非線形処理によって必要以上に増幅されることはない。したがって、このように調整された第1の信号に基づく第2の信号の入力信号への加算により、入力信号の表す画像を良好に鮮鋭化することができる。
 本発明の第15の局面によれば、補償用信号として入力信号に加算すべき上記第2の信号の振幅が調整されることにより、入力信号が適切に補償されるので、入力信号の表す画像を良好に鮮鋭化することができる。
本発明の第1の実施形態に係る画像強調装置の構成を示すブロック図である。 上記第1の実施形態におけるハイパスフィルタ(高域通過フィルタ)の構成を示すブロック図である。 上記第1の実施形態におけるハイパスフィルタの他の構成例を示すブロック図である。 上記第1の実施形態における微分器の構成を示すブロック図である。 従来の画像強調装置の動作を説明するための信号波形図(A~E)である。 上記第1の実施形態に係る画像強調装置の動作を説明するための信号波形図(A~F)である。 従来の画像強調装置の動作を説明するための周波数スペクトルを示す図(A,B)である。 拡大された画像に対する上記第1の実施形態に係る画像強調装置の動作を説明するための周波数スペクトルを示す図(A,B)である。 上記第1の実施形態の第1の変形例を説明するためのブロック図である。 上記第1の変形例における垂直方向処理部で使用されるハイパスフィルタの構成を示すブロック図である。 上記第1の変形例における垂直方向処理部で使用される微分器の構成を示すブロック図である。 上記第1の実施形態の第2の変形例を説明するためのブロック図である。 上記第2の変形例における時間方向処理部で使用されるハイパスフィルタの構成を示すブロック図である。 上記第2の変形例における時間方向処理部で使用される微分器の構成を示すブロック図である。 本発明の第2の実施形態に係る画像強調装置の構成を示すブロック図である。 本発明の第3の実施形態に係る画像強調装置の構成を示すブロック図である。 上記第3の実施形態に係る画像強調装置の動作を説明するための信号波形図(A~D)である。 本発明の第4の実施形態に係る画像強調装置の構成を示すブロック図である。 本発明の第5の実施形態に係る画像強調装置の構成を示すブロック図である。 上記第4の実施形態に係る画像強調装置の動作を説明するための信号波形図(A~E)である。 上記第5の実施形態に係る画像強調装置の動作を説明するための信号波形図(A~F)である。 本発明の第6の実施形態に係る画像強調装置の構成を示すブロック図である。 本発明の第7の実施形態に係る画像強調装置の構成を示すブロック図である。 本発明の効果を検証するために使用した元画像を示す図である。 上記元画像に拡大処理を施した後に一部を切り取ることにより得られた画像である対象画像を示す図である。 上記対象画像に対し従来の画像強調装置による処理を施した後の画像(B)を上記対象画像(A)と共に示す図である。 上記対象画像に対し上記第2の実施形態に係る画像強調装置による処理を施した後の画像(A)および上記第3の実施形態に係る画像強調装置による処理を施した後の画像(B)を示す図である。 画像強調プログラムによって本発明に係る画像強調装置をソフトウェア的に実現するために使用されるパーソナルコンピュータの構成を示すブロック図である。
 以下、添付図面を参照して本発明の実施形態について説明する。
<1.第1の実施形態>
<1.1 構成>
 図1は、本発明の第1の実施形態に係る画像強調装置の構成を示すブロック図である。この画像強調装置100は、画像を表すデジタル信号として外部から入力される入力画像信号Sinに対し、その入力画像信号Sinの表す画像を鮮鋭化するための処理(以下「画像強調処理」または単に「強調処理」という)を施す装置であって、高域通過フィルタ(以下「ハイパスフィルタ」または「HPF」という)11と非線形処理部102と加算器16とを備えており、非線形処理部102は、2乗演算器12と第1微分器13と第2微分器14と乗算器15とから構成されている。上記入力画像信号Sinは、HPF11と第2微分器14と加算器16に与えられる。なお、入力画像信号Sinの表す画像は、静止画であってもよいし動画であってもよく、入力画像信号Sinが動画を表す場合、その動画は、例えば標準画質テレビジョン(SDTV:Standard Definition Television)または高精細テレビジョン(HDTV:High Definition Television)の受像機においてリアルタイムで表示される動画であってもよい。この点は他の実施形態においても同様である。
 HPF11は、入力画像信号Sinの表す画像における輪郭成分を含む高周波成分を抽出する。図2は、このHPF11の構成を示すブロック図である。図2に示すように、このHPFは、m-1個の単位遅延素子111,112,…,11(m-1)と、m個の乗算器121,122,…,12mと、1個の加算器131とから構成されるmタップ(mは3以上)のトランスバーサル型のデジタルフィルタ110を備え、これに加えて丸め処理器132およびリミッタ133を備えている。ここで、各乗算器12jは、それに入力される信号に係数Cjを乗算してその乗算結果を加算器131に出力し(j=1~m)、係数C1~Cmは、HPF11における上記デジタルフィルタ110が、上記輪郭成分を含む高周波成分を抽出するための高域通過フィルタとして機能するように設定されている。例えば、m=3とし、C1=0.5、C2=-1、C3=0.5とすれば、上記デジタルフィルタ110は、後述の図5(B)に示すような入力画像信号Sinに対し、高域成分信号Si1として図5(C)に示すような信号を出力する。このようにして得られる高域成分信号Si1は、丸め処理器132およびリミッタ133を経てHPF11から第1信号S1として出力される。
 丸め処理器132は、ノイズを後段の非線形処理部102において増幅しないようにするために設けられたものであり、高域成分信号Si1における所定の下限値以下の信号値を0に丸める。例えば、入力画像信号Sinが0~255の範囲の値を取り得る場合すなわち256階調の画像信号である場合に、2以下の信号値を0に丸める。リミッタ133は、既に高周波成分として十分なエネルギーを持っている信号を後段の非線形処理部102において必要以上に増幅しないようにするために設けられたものであり、所定の上限値を越える信号値を当該上限値以下の所定値(例えば0または当該上限値)に変更する。例えば、入力画像信号Sinが0~255の範囲の値を取り得る場合に、絶対値で64を越える信号値を0にするか、または、絶対値で64を越える信号値をその符号に応じて±64とする。
 ところで、一般に、高域通過フィルタを実現するよりも低域通過フィルタを実現する方が容易である。したがって、低域通過フィルタ(以下「LPF」という)1011と減算器1012とを用いた図3に示す構成により、図2に示す高域通過フィルタとしてのデジタルフィルタ110を実現してもよい。
 HPF11から出力される第1信号S1は、非線形処理部102の2乗演算器12に入力される。2乗演算器12は、第1信号S1を2乗することにより2乗信号S12を生成する。すなわちS12=S12である。なお、第1信号S1はデジタル信号(離散化された信号)であるので、より詳しくは、第1信号S1を構成するデータ列をX1,X2,X3,…としたとき、2乗信号S12は、データ列X12,X22,X32,…によって構成されるデジタル信号である。この2乗信号S12は第1微分器13に入力され、当該微分器13は、この2乗信号S12を微分することにより第1微分信号S13を生成する。この第1微分信号S13は乗算器15に入力される。ここで、2乗信号S12はデジタル信号であって離散化されているので、第1微分器13は、例えば図4に示すような後退差分を算出する回路により第1微分信号S13を生成する。図4に示す構成では、単位遅延素子1021と減算器1022とによって微分器が実現されており、デジタル信号Sbが、デジタル信号Saを微分することにより得られる信号である。
 一方、非線形処理部102の第2微分器14は、入力画像信号Sinを微分することにより第2微分信号S14を生成し、この第2微分信号S14も乗算器15に入力される。ここで、第2微分器14も、例えば図4に示すような構成により実現される。
 乗算器15は、第1微分信号S13と第2微分信号S14とを乗算することにより第2信号S2を生成する。すなわち、S2=S13×S14である。なお、第1および第2微分信号S13,S14はいずれもデジタル信号(離散化された信号)であるので、より詳しくは、第1微分信号S13を構成するデータ列をU1,U2,U3,…とし、第2微分信号S14を構成するデータ列をV1,V2,V3,…としたとき、第2信号S2は、データ列U1・V1,U2・V2,U3・V3,…によって構成されるデジタル信号である。この第2信号S2は、非線形処理部102から出力されて加算器16に入力される。なお、HPF11や、2乗演算器12、第1および第2微分器13,14での処理において遅延が生じるので、乗算器15には、第1微分信号S13と第2微分信号S14との間でタイミングを調整するための遅延素子が必要に応じて含まれている。
 加算器16は、上記第2信号S2を画像の鮮鋭化のための補償用信号として入力画像信号Sinに加算することにより出力画像信号Soutを生成する。すなわち、Sout=Sin+S2である。なお、加算器16にも、入力画像信号Sinと第2信号S2との間でタイミングを調整するための遅延素子が必要に応じて含まれている。また、補償用信号としての第2信号S2のレベル(振幅)を調整するための調整器として、ゲイン調整器およびリミッタの少なくとも一方を加算器16の内部または乗算器15と加算器16との間に設けるのが好ましい。ここで、ゲイン調整器とは、それに入力される信号に0≦α<1なる定数αを乗算することにより当該信号のレベルを調整するものであり、リミッタとは、それに入力される信号のうち絶対値が所定の上限値よりも大きい部分の信号値の絶対値を当該上限値に変更する(正負は変更しない)ことにより当該信号のレベルを調整するものである。
 加算器16で生成された出力画像信号Soutは、入力画像信号Sinの表す画像を鮮鋭化した画像を表す画像信号として画像強調装置100から出力される。
<1.2 動作>
 次に、上記のように構成された本実施形態に係る画像強調装置100の動作を、入力画像信号Sinのうち図5(B)に示すように水平方向に画像信号のレベルすなわち画素値が変化するエッジに相当する部分に対する処理に着目して説明する。
 比較のために、まず、従来の画像強調装置の動作を説明する。入力画像信号におけるエッジ部に相当する部分は、理想的には図5(A)に示すような信号であるが、実際には、画像信号の処理や伝送のためのハードウェアの特性から図5(B)に示すような信号となる。従来の画像強調装置では、図5(B)に示すような入力画像信号が与えられると、本実施形態と同様のHPFにより図5(C)に示すような高域信号が抽出され、この高域信号が入力画像信号に加算されることにより、図5(D)に示すような信号が出力画像信号として生成される。この出力画像信号は、図5(B)の入力画像信号に比べてエッジ部における立ち上がりが急峻となり、画像が鮮鋭化される。ただし、出力画像信号におけるエッジ部の立ち上がりは、下記に述べる本実施形態の出力画像信号(図5(E))に比べると、急峻さの程度が低い。
 本実施形態では、図5(B)の入力画像信号と同様の入力画像信号Sin(図6(A))が入力されると、HPF11による図5(C)の信号と同等の信号が第1信号S1として生成される。この第1信号S1から2乗演算器12によって図6(B)に示すような2乗信号S12が生成され、この2乗信号S12から第1微分器13によって図6(C)に示すような第1微分信号S13が生成される。このときの2乗信号S12の微分により直流成分が除去される。
 一方、入力画像信号Sinから第2微分器14によって図6(D)に示すような第2微分信号S14が生成される。この第2微分信号S14と第1微分信号S13とから乗算器15によって図6(E)に示すような第2信号S2が生成される。この第2信号S2が補償用信号として加算器16で入力画像信号Sinに加算されることにより、図6(F)に示すような出力画像信号Soutが生成される。前述のように、この出力画像信号Soutにおけるエッジ部の立ち上がりは、従来の画像強調装置の画像出力信号のエッジ部の立ち上がり(図5(D))よりも急峻となるので、従来よりも鮮鋭な画像が得られる。
 上記説明からわかるように、補償用信号として入力画像信号Sinに加算される第2信号S2は、HPF11から出力される高域信号としての第1信号S1(図5(C))に非線形処理を施すことにより得られる信号である。また、第1微分器13によって、第2信号S2は直流成分を含まない信号となっている。さらに、第2微分器14によって得られる第2微分信号S14が第1微分信号S13に乗算されることにより、第2信号S2(図6(E))において第1の信号(図5(C))の正負が実質的に保存されている。すなわち、第1の信号における正の部分が第2信号S2において負になることはなく、第1の信号における負の部分が第2信号S2において正になることもない。本実施形態では、このような第1信号S1に対する処理の非線形性と第1信号S1の正負の保存性とに基づき、十分な画像の鮮鋭化が可能となる(図6(F)参照)。なお、第1微分信号S13と第2微分信号S14の乗算結果によっては、第2信号S2において第1信号S1の正負が完全に保存されない部分も若干存在することもあるが(図6(E)における細線の小さな波形参照)、これは、第2信号S2の入力画像信号Sinへの加算による画像の鮮鋭化には実質的な障害とならない程度のものである(図6(F)参照)。
 次に、画像拡大処理を施したデジタル画像信号を入力画像信号Sinとして画像強調装置に与える場合につき、本実施形態の動作を画像拡大処理をしない場合と比較しつつ説明する。
 図7(A)は、サンプリング周波数がfsであるデジタル画像信号の周波数スペクトルを示しており、図7(B)は、このデジタル画像信号に対し、従来の画像強調装置によって鮮鋭化のための強調処理を施した後のデジタル画像信号(以下「従来の強調処理後の画像信号」という)の周波数スペクトルを示している。既述のように、鮮鋭化のための強調処理によって入力画像信号の高域成分が加算され、これにより、強調処理後の画像信号では、図7(B)に示すようにナイキスト周波数fs/2近傍の周波数成分が増大している。
 一方、上記のデジタル画像信号をアップコンバートして画素数を水平方向に2倍にする画像拡大処理が施された場合には、画像拡大処理後のサンプリング周波数Fbsは上記サンプリング周波数fsの2倍であり(Fsb=2・fs)、画像拡大処理後の周波数スペクトルは、図8(A)に示すようになる。この場合、元のサンプリング周波数fsに対応するナイキスト周波数fs/2と新たなサンプリング周波数Fbsに対応する新たなナイキスト周波数Fbs/2=fsとの間には周波数成分が存在しない(Fbs/2と3fs/2との間も同様)。このため、画像拡大処理後の画像信号に対し従来の画像強調装置によって鮮鋭化のための強調処理を施しても、画像拡大処理後の画像信号における高域成分すなわち新たなナイキスト周波数Fbs/2近傍の周波数成分が付加されることない(図8(A)参照)。
 これに対し、本実施形態によれば、非線形処理部102における2乗演算器12により、入力画像信号Sinが有する周波数成分の高調波成分等のナイキスト周波数fs/2を越える高周波成分が生成され、この高周波成分を利用して、入力画像信号Sinに対し鮮鋭化のための処理が施される。すなわち、サンプリング周波数がfsであるデジタル画像信号から画像拡大処理によってサンプリング周波数Fbs=2fsの画像信号を生成し、この画像信号を入力画像信号Sinとして使用するものとすると、2乗演算器12の処理に基づき、元のサンプリング周波数fsに対応するナイキスト周波数fs/2よりも高い周波数成分を含む第2信号S2が補償用信号として生成され、この第2信号S2が入力画像信号Sinに付加される。これにより、本実施形態における出力画像信号Soutの周波数スペクトルは図8(B)に示すようになる。これにより、従来の画像強調装置に比べ、拡大処理後の画像信号に対して適切な高域補償が可能となり、拡大処理後の画像を十分に鮮鋭化できるようになる。
 以下、上記のように非線形処理により生成される高調波成分を利用した画像の鮮鋭化につき更に詳しく説明する。いま、入力画像信号Sinが(水平方向)位置xの関数f(x)で表現されるものとし、入力画像信号Sinの基本角周波数をωとすると、このf(x)は次のようなフーリエ級数で表現することができる。
  f(x)=a-Ncos(-N)ωx+a-N+1cos(-N+1)ωx・・・+a-1cos(-1)ωx
    +a0+a1cosωx+a2cos2ωx+…+aNcosNωx
    +b-Nsin(-N)ωx+b-N+1sin(-N+1)ωx+・・・+b-1sin(-1)ωx
    +b1sinωx+b2sin2ωx+…+bNsinNωx            …(1)
ここで、Nは、(画像拡大処理前の)サンプリング周波数fsに対応するナイキスト周波数fs/2を越えない最高周波数の高調波の次数である。すなわち、
  Nω/(2π)<fs/2≦(N+1)ω/(2π)
である。
 上記式(1)より、関数f(x)で表される入力画像信号Sin(以下「入力信号f(x)」ともいう)の直流成分a0以外の部分をg(x)とおくと、
  g(x)=a-Ncos(-N)ωx+a-N+1cos(-N+1)ωx・・・+a-1cos(-1)ωx
    +a1cosωx+a2cos2ωx+…+aNcosNωx
    +b-Nsin(-N)ωx+b-N+1sin(-N+1)ωx+・・・+b-1sin(-1)ωx
    +b1sinωx+b2sin2ωx+…+bNsinNωx             …(2)
である。HPF11から出力される第1信号S1は、上記信号g(x)または信号g(x)の高周波成分を含んでおり、2乗演算器12から出力される2乗信号S12はこの第1信号S1を2乗して得られる信号である。そこで、(g(x))2を求めると、上記式(2)より、この(g(x))2における各項は下記式のいずれかで表現される。
  aicosiωx・ajcosjωx    …(3a)
  aicosiωx・bjsinjωx    …(3b)
  bisiniωx・bjsinjωx    …(3c)
  (i=±1,±2,…,±N;j=±1,±2,…,±N)
三角関数に関する公式を用いて上記式を下記のように書き直すことができる。
   (aij/2){cos(i+j)ωx+cos(i-j)ωx}  …(4a)
   (aij/2){sin(i+j)ωx-sin(i-j)ωx}  …(4b)
  (-bij/2){cos(i+j)ωx-cos(i-j)ωx}  …(4c)
上記式より(g(x))2は、(N+1)ω,(N+2)ω,…,2Nω等の角周波数成分を含むので、ナイキスト周波数fs/2よりも高い周波数成分を含む。このため、2乗信号S12も、周波数2Nω/(2π)という高調波成分等のようにナイキスト周波数fs/2よりも高い周波数成分を含む。(g(x))2のように偶数乗の場合は、上記式(4a)(4c)に示す項において直流成分が発生する場合がある。これに対し本実施形態では、第1微分器13により当該直流分が除去される(図1参照)。
 したがって、上記のようにデジタル画像信号をアップコンバートして画素数を水平方向に2倍にする画像拡大処理が施された後の画像信号が入力画像信号Sinとして本実施形態の画像強調装置100に入力されると、2乗演算器12の処理に基づき、出力画像信号Soutの周波数スペクトルは、画像拡大処理前のナイキスト周波数fs/2よりも高い周波数成分を含む第2信号S2が補償用信号として生成され、この第2信号S2が入力画像信号Sinに付加される。その結果、出力画像信号Soutの周波数スペクトルは図8(B)に示すようになり、従来の画像強調装置に比べ、拡大処理後の画像に対して十分な鮮鋭化が可能となる。また、入力画像信号Sinには含まれない高周波数成分すなわち元のナイキスト周波数fs/2よりも高い周波数成分が付加されて画像が鮮鋭化されており、この点で、本実施形態は、入力画像信号Sinの表す画像を高解像度化するものと言える。なお、上記説明から(式(1)~(4c)参照)、非線形処理部102に入力すべき第1信号S1は、原理的には、入力画像信号Sinから直流成分が除去された信号であればよく、HPF11に代えて、入力画像信号Sinに含まれる周波数成分のうち少なくとも直流成分を除去する他のフィルタを使用してもよい。
<1.3 効果>
 上記のように本実施形態によれば、入力画像信号SinからHPF11で抽出された高域成分としての第1信号S1に対する2乗演算器12での処理により2乗信号S12が生成され、その2乗信号S12に基づき第1信号S1の正負が保存されるように生成された第2信号S2が、補償用信号として入力画像信号Sinに加算される。これにより、十分に画像が鮮鋭化され、従来の画像強調装置よりも大幅に画質を改善することができる。また、図1~図4に示すような簡単な構成で本実施形態に係る画像強調装置100を実現できるので、この画像強調装置100を高精細テレビジョン(HDTV)や標準画質テレビジョン(SDTV)の受像機等に利用することにより、静止画のみならずリアルタイムで表示される動画についても、大きなコスト増を招くことなく画質を改善することができる。なお、本実施形態における非線形処理部102内の2乗演算器12および乗算器15はハードウェア乗算器として実現してもよいが、入力画像信号Sin等のビット数は大きなものではないので(例えば256階調の画像の場合は8ビット)、2乗演算器12および乗算器15をROM(Read Only Memory)テーブルとして実現することができる。このようなROMテーブルによる実現は、高速な処理を可能とし、リアルタイムで表示される動画を対象とする場合に有効である。
 また本実施形態は、従来の画像強調装置では補償できなかったナイキスト周波数fs/2を越える高周波域の補償も可能であることから、拡大処理の施された画像信号の表す画像の鮮鋭化による画質向上において特に効果を奏する。例えば高精細テレビジョン(HDTV)の受信機のディスプレイで、標準画質テレビジョン(SDTV:Standard Definition Television)の画像信号に拡大処理を施して画像を表示する場合に、本実施形態は、リアルタイムで表示される動画を簡単な構成で十分に鮮鋭化できるという点で大きな効果を奏する。また、現在、HDTVの画素数よりも多い4000×2000程度の画素数のディスプレイ(以下「4kディスプレイ」という)やそれに対応したテレビジョン放送のための技術開発が行われており、HDTV用の画像信号をアップコンバートしてこの4kディスプレイで表示する場合にも、本実施形態は同様の点で大きな効果を奏する。
<1.4 第1の実施形態の変形例>
 上記では、本実施形態の画像強調装置100による処理対象としての画像における水平方向の画素列を表すデータ列(画素値の系列)によって入力画像信号Sinが構成されるものとしており、HPF11や第1および第2微分器13,14は当該画像における水平周波数や水平方向の画素値の変化につきフィルタ処理や微分処理を行うものとして説明されている。すなわち、上記実施形態では、当該画像の水平方向について画像強調処理がなされていると言える。しかし、水平方向の画像強調処理に加えて、当該画像における垂直方向の画像強調処理も行うのが好ましい。このため、図9に示すように、画像強調装置が水平方向の画像強調処理のための水平方向処理部1100と垂直方向の画像強調処理のための垂直方向処理部1200とを備える構成とするのが好ましい。この構成では、処理対象としての画像を表す入力画像信号SIが水平方向処理部1100に入力され、水平方向処理部1100からの出力信号が垂直方向処理部1200に入力され、垂直方向処理部1200からの出力信号が当該画像強調装置の出力画像信号SOとなる。なお、この構成において、水平方向処理部1100と垂直方向処理部1200との前後関係を入れ替え、入力画像信号SIが垂直方向処理部1200に入力され、垂直方向処理部1200の出力信号が水平方向処理部1100に入力されるようにしてもよい。
 上記構成における垂直方向処理部1200は、処理対象としての画像における垂直方向の画素列を表すデータ列(画素値の系列)によって入力画像信号SIが構成されるようにすれば、本実施形態と同一構成(図1~図4)で実現可能である。しかし、上記実施形態と同様の入力画像信号SI(水平方向の画素列を表すデータ列によって構成される入力画像信号SI)を使用し、HPF11を図10に示す構成とし、第1および第2微分器13,14を図11に示す構成としてもよい。図2の構成が画像の水平方向の空間周波数成分のうち高周波成分を抽出(少なくとも直流成分を除去)していたのに対し、図10の構成は、画像の垂直方向の空間周波数成分のうち高周波成分を抽出(少なくとも直流成分を除去)する。このために図10の構成では、図2の構成における単位遅延素子111~11mが、1水平期間分の遅延素子に相当するラインメモリ(LM)111B~11(m-1)Bにそれぞれ置き換えられている。しかし図10の構成は、この点を除き、図2の構成と同様であり、同一部分には同一の参照符号を付して説明を省略する。また、図11の構成は、図4の構成における単位遅延素子1021が、1水平期間分の遅延素子に相当するラインメモリ(LM)1021Bに置き換えられている点を除き、図4の構成と同様であり、同一部分には同一の参照符号を付して説明を省略する。なお、図4の構成による第1微分器13は、画像の水平方向の空間周波数についての直流成分が第2信号S2に含まれないようにしていたのに対し、図11の構成による第1微分器13は、画像の垂直方向の空間周波数についての直流成分が第2信号S2に含まれないようにする。
 また、テレビジョン受像機などで表示されるような動画を処理対象とする場合には、各画素値は時間的に変化するので、時間方向の画像強調処理のための時間方向処理部1300を設け、図12に示すように、画像強調装置が上記の水平方向処理部1100および垂直方向処理部1200に加えて時間方向処理部1300を備える構成とするのが好ましい。この場合、上記実施形態と同様の入力画像信号SIを使用し、上記実施形態において、HPF11を図13に示す構成とし、第1および第2微分器13,14を図14に示す構成とすることにより、時間方向処理部1300を実現することができる。図13の構成は、図2の構成における単位遅延素子111~11mが、1フレーム期間分の遅延素子に相当するフレームメモリ(FM)111C~11(m-1)Cにそれぞれ置き換えられている点を除き、図2の構成と同様であり、同一部分には同一の参照符号を付して説明を省略する。また、図14の構成は、図4の構成における単位遅延素子1021が、1フレーム期間分の遅延素子に相当するフレームメモリ(FM)1021Cに置き換えられている点を除き、図4の構成と同様であり、同一部分には同一の参照符号を付して説明を省略する。なお、図13の構成によるHPF11Cは、画像の時間方向の周波数成分のうち高周波成分を抽出(少なくとも直流成分を除去)し、図14の構成による第1微分器13は、画像の時間方向の周波数についての直流成分が第2信号S2に含まれないようにする。
 なお、本実施形態では第1信号S1に非線形処理を施すために2乗演算器12が設けられているが、この2乗演算器12に代えて、第1信号S1を4乗する4乗演算器を使用してもよく、また、より一般的には、2以上の偶数を冪指数とする第1信号S1の冪乗に相当する信号を生成する冪乗演算器を使用してもよい。また、本実施形態における第1微分器13および第2微分器14の一方または双方を他のハイパスフィルタ(HPF)に代えてもよい。なお、一般に微分器は一種のハイパスフィルタと見なすこともできる。
<2.第2の実施形態>
 図15は、本発明の第2の実施形態に係る画像強調装置の構成を示すブロック図である。この画像強調装置200は、デジタル信号として外部から入力される入力画像信号Sinの表す画像を鮮鋭化するための画像強調処理を当該入力画像信号Sinに対して施す装置であって、HPF11と非線形処理部202と加算器16とを備えており、非線形処理部202は、上記第1の実施形態における2乗演算器12に代えて絶対値処理器22を有している。本実施形態における他の部分は、上記第1の実施形態と同様であるので(図1~図4)、同一部分には同一の参照符号を付して詳しい説明を省略する。
 本実施形態では、HPF11から出力される第1信号S1は、非線形処理部202の絶対値処理器22に入力される。絶対値処理器22は、第1信号S1の絶対値に相当する信号を絶対値信号S22として生成する。すなわち、第1信号S1を構成するデータ列をX1,X2,X3,…としたとき、絶対値信号S22は、データ列|X1|,|X2|,|X3|,…によって構成されるデジタル信号である。この絶対値信号S22は第1微分器13に入力され、当該微分器13は、この絶対値信号S22を微分することにより第1微分信号S23を生成する。この第1微分信号S23は乗算器15に入力される。
 一方、非線形処理部202の第2微分器14は、入力画像信号Sinを微分することにより第2微分信号S14を生成する。この第2微分信号S14も乗算器15に入力される。
 乗算器15は、第1微分信号S23と第2微分信号S14とを乗算することにより第2信号S2を生成する。この第2信号S2は、非線形処理部102から出力されて加算器16に入力される。
 加算器16は、上記第2信号S2を画像の鮮鋭化のための補償用信号として入力画像信号Sinに加算することにより出力画像信号Soutを生成する。
 次に、上記のように構成された本実施形態に係る画像強調装置200の動作を、入力画像信号Sinのうち図6(A)に示すように水平方向に画像信号のレベル(画素値)が変化するエッジに相当する部分に対する処理に着目して説明する。
 本実施形態も上記第1の実施形態の動作と基本的に同様の動作を行う。すなわち、図6(A)に示すようなエッジに相当する部分を示す入力画像信号Sinが本実施形態に係る画像強調装置200に入力されると、図5(C)に示すような信号が第1信号S1として生成される。本実施形態では、この第1信号S1は非線形処理部102における絶対値処理器22に入力される。この絶対値処理器22は、図5(C)に示すような第1信号S1から図6(B)に示す信号S12に類似した絶対値信号S22を生成する。すなわち、絶対値処理器22は、第1信号S1を構成するデータ列をX1,X2,X3,…としたとき、データ列|X1|,|X2|,|X3|,…によって構成されるデジタル信号を、絶対値信号S22として生成する。これに対し、2乗信号S12は、データ列X12,X22,X32,…によって構成されるデジタル信号である。このため、2乗信号S12と絶対値信号S22とでは、信号レベルが異なるが、全体的な信号波形は同様の形状となる(図6(B))。
 したがって、このような絶対値信号S22から第1微分器13によって、図6(C)に示すような第1微分信号S13と同様の第1微分信号S23が生成される。このときの絶対値S22の微分により直流成分が除去される。
 一方、入力画像信号Sinから第2微分器14によって図6(D)に示すような第2微分信号S14が生成される。この第2微分信号S14と上記の第1微分信号S23とから乗算器15によって図6(E)に示すような第2信号S2が生成される。この第2信号S2が補償用信号として加算器16で入力画像信号Sinに加算されることにより、図6(F)に示すような出力画像信号Soutが生成される。この出力画像信号Soutにおけるエッジ部の立ち上がりは、従来の画像強調装置の画像出力信号のエッジ部の立ち上がり(図5(D))よりも急峻となる。
 上記説明からわかるように、絶対値処理器22を含む非線形処理部102から補償用信号として出力される第2信号S2は、HPF11から出力される高域信号としての第1信号S1(図5(C))に非線形処理を施すことにより得られる信号である。また、第1微分器13によって、第2信号S2は直流成分を含まない信号となっている。さらに、第2微分器14によって得られる第2微分信号S14が第1微分信号S23に乗算されることにより、第2信号S2(図6(E))において第1の信号(図5(C))の正負が実質的に保存される。本実施形態では、このような第1信号S1に対する処理の非線形性と第1信号S1の正負の保存性とに基づき、出力画像信号Soutにおけるエッジ部の立ち上がりが、従来の画像強調装置の画像出力信号のエッジ部の立ち上がり(図5(D))よりも急峻となり(図6(F))、従来よりも鮮鋭な画像が得られる。
 本実施形態では、第1信号S1に対する処理の非線形性は、絶対値処理器22に基づくものであり、絶対値処理器22による処理が第1信号S1に施されることにより、入力画像信号Sinのナイキスト周波数fs/2よりも高い周波数成分が生成される。すなわち、三角関数sinxの絶対値|sinx|をフーリエ級数に展開すると、cos(2πx)を含む項等、xの2倍以上の周波数の成分に対応する項が現れる。このため、絶対値処理器22によって生成される絶対値信号S22には、入力画像信号Sinの高周波成分を含む第1信号S1の高調波が含まれる。したがって、入力画像信号Sinに補償用信号として加算される第2信号S2は、上記ナイキスト周波数fs/2よりも高い高周波成分を含む。
 したがって、本実施形態によれば、上記第1の実施形態と同様、線形処理に基づく従来の画像強調装置よりも大きな画質改善が可能となる。また、図15に示すような簡単な構成で画像の十分な鮮鋭化が可能であるので、静止画のみならずリアルタイムで表示される動画についても、大きなコスト増を招くことなく画質を改善することができる。さらに、画像拡大処理後の画像信号を入力画像信号Sinとする場合には、ナイキスト周波数fs/2を越える高周波域の補償ができない従来の画像強調装置に比べ、拡大処理後の画像を十分に鮮鋭化して大幅に画質を改善することができる。
 なお、本実施形態においても、上記第1の実施形態と同様、水平方向の画像強調処理に加えて、当該画像における垂直方向の画像強調処理も行うのが好ましい。このため、図9に示すように、画像強調装置200が水平方向の画像強調処理のための水平方向処理部1100と垂直方向の画像強調処理のための垂直方向処理部1200とを備える構成とするのが好ましい(図9~図11参照)。この点は後述の他の実施形態においても同様である。また、テレビジョン受像機などで表示されるような動画を処理対象とする場合には、各画素値は時間的に変化するので、時間方向の画像強調処理のための時間方向処理部1300を設け、図12に示すように、画像強調装置200が上記の水平方向処理部1100および垂直方向処理部1200に加えて時間方向処理部1300を備える構成とするのが好ましい(図12~図14参照)。この点も後述の他の実施形態においても同様である。
<3.第3の実施形態>
 図16は、本発明の第3の実施形態に係る画像強調装置の構成を示すブロック図である。この画像強調装置300は、デジタル信号として外部から入力される入力画像信号Sinの表す画像を鮮鋭化するための画像強調処理を当該入力画像信号Sinに対して施す装置であって、HPF11と非線形処理部302と加算器16とを備えており、非線形処理部302は、3乗演算器32とリミッタ33とから構成されている。本実施形態の構成のうち非線形処理部302以外の部分は、上記第1の実施形態と同様であるので(図1~図4)、同一部分には同一の参照符号を付して詳しい説明を省略する。
 本実施形態では、HPF11から出力される第1信号S1は、非線形処理部302の3乗演算器32に入力される。3乗演算器32は、第1信号S1を3乗することにより3乗信号S32を生成する。すなわちS32=S13である。なお、第1信号S1はデジタル信号(離散化された信号)であるので、より詳しくは、第1信号S1を構成するデータ列をX1,X2,X3,…としたとき、3乗信号S32は、データ列X13,X23,X33,…によって構成されるデジタル信号である。この3乗信号S32はリミッタ33に入力される。
 リミッタ33は、3乗信号S32の振幅(信号レベル)の調整器として機能するものである。具体的には、3乗信号S32に0≦α<1なる定数αを乗算することにより当該信号のレベルのゲイン調整を行い、更に、3乗信号S32のゲイン調整後の振幅が所定の上限値以下となるようにクリップ処理を行う。例えば、3乗信号S32のゲイン調整後の信号値の絶対値が32を越える場合に、リミッタ33の出力信号をその符号に応じて±32とする。リミッタ33の出力信号は非線形処理部302から第2信号S2として出力されて、加算器16に入力される。
 加算器16は、上記第2信号S2を画像の鮮鋭化のための補償用信号として入力画像信号Sinに加算することにより出力画像信号Soutを生成する。
 次に、上記のように構成された本実施形態に係る画像強調装置300の動作を、入力画像信号Sinのうち図17(A)に示すように水平方向に画像信号のレベル(画素値)が変化するエッジに相当する部分に対する処理に着目して説明する。
 図17(A)に示すようなエッジに相当する部分を示す入力画像信号Sinが本実施形態に係る画像強調装置300に入力されると、図17(B)に示すような信号が第1信号S1として生成される。本実施形態では、この第1信号S1は非線形処理部102における3乗演算器32に入力される。3乗演算器32は、第1信号S1から図17(C)に示すような3乗信号S32を生成する。ここで、第1信号S1を構成するデータ列をX1,X2,X3,…としたとき、この3乗信号S32は、データ列X13,X23,X33,…によって構成されるデジタル信号である。したがって、3乗信号S32では、第1信号S1における正負が保存されている。
 このような3乗信号S32は、リミッタ33において、ゲイン調整およびクリップ処理によって振幅を調整された後、第2信号S2として非線形処理部302から出力される。この第2信号S2が補償用信号として加算器16で入力画像信号Sinに加算されることにより、図17(D)に示すような出力画像信号Soutが生成される。この出力画像信号Soutにおけるエッジ部の立ち上がりは、従来の画像強調装置の画像出力信号のエッジ部の立ち上がり(図5(D))よりも急峻となる。
 上記説明からわかるように、補償用信号として入力画像信号Sinに加算される第2信号S2は、HPF11から出力される高域信号としての第1信号S1(図17(B))に非線形処理を施すことにより得られる信号である。すなわち、この第2信号S2は、第1信号S1から3乗演算器32によって生成されたものであり、しかも、2乗演算器12に基づく非線形処理とは異なり、第2信号S2において第1信号S1の正負が保存される。本実施形態では、このような第1信号S1に対する処理の非線形性と第1信号S1の正負の保存性とに基づき、出力画像信号Soutにおけるエッジ部の立ち上がりが、従来の画像強調装置の画像出力信号のエッジ部の立ち上がり(図5(D))よりも急峻となり(図17(D))、従来よりも鮮鋭な画像が得られる。
 本実施形態では、第1信号S1に対する処理の非線形性は、3乗演算器32に基づくものである。すなわち、本実施形態においても、第1の実施形態と同様、HPF11から出力される第1信号S1は、既述の式(2)で示される信号g(x)または信号g(x)の高周波成分を含んでおり、3乗演算器32から出力される3乗信号S32はこの第1信号S1を3乗して得られる信号である。そこで、(g(x))3を求めると、式(2)より、この(g(x))3における各項は下記式のいずれかで表現される。
  aicosiωx・ajcosjωx・akcoskωx    …(5a)
  aicosiωx・ajcosjωx・bksinkωx    …(5b)
  aicosiωx・bjsinjωx・bksinkωx    …(5c)
  bisiniωx・bjsinjωx・bksinkωx    …(5d)
(i=±1,±2,…,±N; j=±1,±2,…,±N; k=±1,±2,…,±N)
 いま、例えばi=j=k=Nの項のうち上記式(5a)(5d)で示される下記の項に着目すると、これらの項は、三角関数の公式より次のように書き換えることができる。
  (aNcosNωx)3=aN 3{(3/4)cosNωx+(1/4)cos3Nωx} …(6a)
  (bNsinNωx)3=bN 3{(3/4)sinNωx-(1/4)sin3Nωx} …(6d)
また、例えばi=j=k=-Nの項のうち上記式(5a)(5d)で示される下記の項に着目すると、この項は、三角関数の公式より次のように書き換えることができる。
  {aNcos(-Nωx)}3
   =aN 3{(3/4)cos(-Nωx)+(1/4)cos(-3Nωx)} …(7a)
  {bNsin(-Nωx)}3
   =bN 3{(3/4)sin(-Nωx)-(1/4)sin(-3Nωx)} …(7d)
上記式(6a)(6d)(7a)(7d)より、(g(x))3は、基本角周波数ωの3N倍の周波数成分や-3N倍の周波数成分を含む。(g(x))3における他の項についても三角関数の公式によって書き換えることにより、(g(x))3は、基本角周波数ωの-3N倍から3N倍までの種々の周波数成分を含むことがわかる。
 このようにして、(g(x))3は、第1信号S1に含まれる周波数成分の3倍の周波数成分までの高い周波数成分を含む。このため、3乗信号S32も、第1信号S1に含まれる周波数成分の3倍の周波数成分等のようなナイキスト周波数fs/2よりも十分に高い周波数成分を含む。したがって、本実施形態によれば、線形処理に基づく従来の画像強調装置よりも大きな画質改善が可能となる。また、図16に示すような簡単な構成で画像の十分な鮮鋭化が可能であるので、静止画のみならずリアルタイムで表示される動画についても、大きなコスト増を招くことなく画質を改善することができる。さらに、画像拡大処理後の画像信号を入力画像信号とする場合には、ナイキスト周波数fs/2を越える高周波域の補償ができない従来の画像強調装置に比べ、拡大処理後の画像を十分に鮮鋭化して大幅に画質を改善することができる。
 なお、本実施形態では第1信号S1に非線形処理を施すために3乗演算器32が設けられているが、この3乗演算器32に代えて、第1信号S1を5乗する5乗演算器を使用してもよく、また、より一般的には、3以上の奇数を冪指数とする第1信号S1の冪乗に相当する信号を生成する冪乗演算器を使用してもよい。
<4.第4の実施形態>
 図18は、本発明の第4の実施形態に係る画像強調装置の構成を示すブロック図である。この画像強調装置400は、デジタル信号として外部から入力される入力画像信号Sinの表す画像を鮮鋭化するための画像強調処理を当該入力画像信号Sinに対して施す装置であって、HPF11と非線形処理部402と加算器16とを備えており、非線形処理部402は、2乗演算器12と符号変換器43とリミッタ33とから構成されている。本実施形態の構成のうち非線形処理部402以外の部分は、上記第1の実施形態と同様である(図1~図4)。また、非線形処理部402における2乗演算器12およびリミッタ33は、それぞれ、第1の実施形態における2乗演算器12および第3の実施形態におけるリミッタ33と同じものである。本実施形態の構成要素のうち第1または第3の実施形態における構成要素と同一のものについては、同一の参照符号を付して詳しい説明を省略する。
 本実施形態では、HPF11から出力される第1信号S1は、非線形処理部402の2乗演算器12に入力される。2乗演算器12は、第1信号S1を2乗することにより2乗信号S12を生成する。この2乗信号S12は符号変換器43に入力される。この符号変換器43には、第1信号S1も入力される。
 符号変換器43は、HPF11から出力される第1信号S1の符号ビット情報に基づき、第1信号S1の符号を2乗信号S12において復活させる符号変換処理を行う。すなわち、符号変換器43は、2乗信号S12のうち正負が第1信号S1と同じ部分の正負をそのまま維持し、2乗信号S12のうち正負が前記第1の信号と異なる部分の正負を反転させる。この符号変換器43により得られた信号は、符号変換信号S43としてリミッタ33に入力される。符号変換信号S43は、このリミッタ33により第3の実施形態のリミッタ33と同様にして振幅を調整された後、第2信号S2として非線形処理部402から出力される。この第2信号S2は補償用信号として加算器16に入力される。
 加算器16は、上記第2信号S2を画像の鮮鋭化のための補償用信号として入力画像信号Sinに加算することにより出力画像信号Soutを生成する。
 次に、上記のように構成された本実施形態に係る画像強調装置400の動作を、入力画像信号Sinのうち図20(A)に示すように水平方向に画像信号のレベル(画素値)が変化するエッジに相当する部分に対する処理に着目して説明する。
 図20(A)に示すようなエッジに相当する部分を示す入力画像信号Sinが本実施形態に係る画像強調装置400に入力されると、図20(B)に示すような信号が第1信号S1として生成される。本実施形態では、この第1信号S1は非線形処理部402における2乗演算器12に入力される。2乗演算器12は、第1信号S1から図20(C)に示すような2乗信号S12を生成する。
 この2乗信号S12は、符号変換器43によって図20(D)に示すような符号変換信号S43に変換される。この符号変換信号S43では、第1信号S1の正負が保存されており、また、この符号変換信号S43は、直流成分を含まない第1信号S1(図20(C))を2乗した後に符号変換処理を施すことにより得られるので、直流成分を含まない(図20(D))。
 このような符号変換信号S43は、リミッタ33において振幅を調整された後、第2信号S2として非線形処理部302から出力される。この第2信号S2が補償用信号として加算器16で入力画像信号Sinに加算されることにより、図20(E)に示すような出力画像信号Soutが生成される。この出力画像信号Soutにおけるエッジ部の立ち上がりは、従来の画像強調装置の画像出力信号のエッジ部の立ち上がり(図5(D))よりも急峻となる。
 上記説明からわかるように、補償用信号として入力画像信号Sinに加算される第2信号S2は、HPF11から出力される高域信号としての第1信号S1(図20(B))に非線形処理を施すことにより得られる信号である。すなわち、この第2信号S2は、第1信号S1から2乗演算器12によって生成されたものであり、符号変換器43によって第1信号S1の正負が第2信号S2において保存される。本実施形態では、このような第1信号S1に対する処理の非線形性と第1信号S1の正負の保存性とに基づき、出力画像信号Soutにおけるエッジ部の立ち上がりが、従来の画像強調装置の画像出力信号のエッジ部の立ち上がり(図5(D))よりも急峻となり(図20(E))、従来よりも鮮鋭な画像が得られる。
 また、第2信号S2は、2乗演算器12の処理に基づき、入力画像信号Sinのサンプリング周波数fsに対応するナイキスト周波数fs/2よりも高い周波数成分を含む。したがって、本実施形態によれば、線形処理に基づく従来の画像強調装置よりも大きな画質改善が可能となる。また、図18に示すような簡単な構成で画像の十分な鮮鋭化が可能であるので、静止画のみならずリアルタイムで表示される動画についても、大きなコスト増を招くことなく画質を改善することができる。さらに、画像拡大処理後の画像信号を入力画像信号とする場合には、ナイキスト周波数fs/2を越える高周波域の補償ができない従来の画像強調装置に比べ、拡大処理後の画像を十分に鮮鋭化して大幅に画質を改善することができる。
 なお、本実施形態では第1信号S1に非線形処理を施すために2乗演算器12が設けられているが、この2乗演算器12に代えて、第1信号S1を4乗する4乗演算器を使用してもよく、また、より一般的には、2以上の偶数を冪指数とする第1信号S1の冪乗に相当する信号を生成する冪乗演算器を使用してもよい。
<5.第5の実施形態>
 図19は、本発明の第5の実施形態に係る画像強調装置の構成を示すブロック図である。この画像強調装置500は、デジタル信号として外部から入力される入力画像信号Sinの表す画像を鮮鋭化するための画像強調処理を当該入力画像信号Sinに対して施す装置であって、HPF11と非線形処理部502と加算器16とを備えており、非線形処理部502は、2乗演算器12と微分器13と符号変換器43とリミッタ33とから構成されている。本実施形態の構成のうち非線形処理部502以外の部分は、上記第1の実施形態と同様である(図1~図4)。また、非線形処理部502における2乗演算器12および微分器13は、それぞれ、第1の実施形態における2乗演算器12および第1微分器13と同じ構成要素であり、非線形処理部502におけるリミッタ33は第3の実施形態におけるリミッタ33と同じ構成要素である。本実施形態の構成要素のうち第1または第3の実施形態における構成要素と同一のものについては、同一の参照符号を付して詳しい説明を省略する。
 本実施形態では、HPF11から出力される第1信号S1は、非線形処理部502の2乗演算器12に入力される。2乗演算器12は、第1信号S1を2乗することにより2乗信号S12を生成し、この2乗信号S12は微分器13に入力される。この微分器13は、2乗信号S12を微分することにより微分信号S13を生成し、この微分信号S13は符号変換器43に入力される。この符号変換器43には、第1信号S1も入力される。
 符号変換器43は、HPF11から出力される第1信号S1の符号ビット情報に基づき、第1信号S1の符号を微分信号S13において復活させる符号変換処理を行う。すなわち、符号変換器43は、微分信号S13のうち正負が第1信号S1と同じ部分の正負をそのまま維持し、微分信号S13のうち正負が前記第1の信号と異なる部分の正負を反転させる。この符号変換器43により得られた信号は、符号変換信号S44としてリミッタ33に入力される。符号変換信号S44は、このリミッタ33により第3の実施形態のリミッタ33と同様にして振幅を調整された後、第2信号S2として非線形処理部502から出力される。この第2信号S2は補償用信号として加算器16に入力される。
 次に、上記のように構成された本実施形態に係る画像強調装置500の動作を、入力画像信号Sinのうち図21(A)に示すように水平方向に画像信号のレベル(画素値)が変化するエッジに相当する部分に対する処理に着目して説明する。
 図21(A)に示すようなエッジに相当する部分を示す入力画像信号Sinが本実施形態に係る画像強調装置500に入力されると、図21(B)に示すような信号が第1信号S1として生成される。本実施形態では、この第1信号S1は非線形処理部402における2乗演算器12に入力される。2乗演算器12は第1信号S1から図21(C)に示すような2乗信号S12を生成する。
 この2乗信号S12は微分器13に入力され、当該微分器13によって図21(D)に示すような微分信号S13が生成される。この微分信号S13では、2乗信号S12に含まれていた直流成分が除去されている。この微分信号S13は、符号変換器43によって図21(E)に示すような符号変換信号S44に変換される。この符号変換信号S44では、第1信号S1の正負が保存されている。
 このような符号変換信号S43は、リミッタ33において振幅を調整された後、第2信号S2として非線形処理部302から出力される。この第2信号S2が補償用信号として加算器16で入力画像信号Sinに加算されることにより、図21(F)に示すような出力画像信号Soutが生成される。この出力画像信号Soutにおけるエッジ部の立ち上がりは、従来の画像強調装置の画像出力信号のエッジ部の立ち上がり(図5(D))よりも急峻となる。
 上記説明からわかるように、補償用信号として入力画像信号Sinに加算される第2信号S2は、HPF11から出力される高域信号としての第1信号S1(図21(B))に非線形処理を施すことにより得られる信号である。すなわち、この第2信号S2は、第1信号S1から2乗演算器12によって生成されたものであり、微分器13によって直流成分が除去されていると共に、符号変換器43によって第1信号S1の正負が第2信号S2において保存されている。本実施形態では、このような第1信号S1に対する処理の非線形性と第1信号S1の正負の保存性とに基づき、出力画像信号Soutにおけるエッジ部の立ち上がりが、従来の画像強調装置の画像出力信号のエッジ部の立ち上がり(図5(D))よりも急峻となり(図21(F))、従来よりも鮮鋭な画像が得られる。
 また、第2信号S2は、2乗演算器12の処理に基づき、入力画像信号Sinのサンプリング周波数fsに対応するナイキスト周波数fs/2よりも高い周波数成分を含む。したがって、本実施形態によれば、線形処理に基づく従来の画像強調装置よりも大きな画質改善が可能となる。また、図19に示すような簡単な構成で画像の十分な鮮鋭化が可能であるので、静止画のみならずリアルタイムで表示される動画についても、大きなコスト増を招くことなく画質を改善することができる。さらに、画像拡大処理後の画像信号を入力画像信号とする場合には、ナイキスト周波数fs/2を越える高周波域の補償ができない従来の画像強調装置に比べ、拡大処理後の画像を十分に鮮鋭化して大幅に画質を改善することができる。
 本実施形態では、第1信号S1に対して非線形処理を施すために2乗演算器12が使用されているが、これに代えて、第2の実施形態で使用されている絶対値処理器22を使用してもよい。この場合にも、本実施形態と基本的に同様の動作により同様の効果が得られる(図21参照)。
 なお、本実施形態では第1信号S1に非線形処理を施すために2乗演算器12が設けられているが、この2乗演算器12に代えて、第1信号S1を4乗する4乗演算器を使用してもよく、また、より一般的には、2以上の偶数を冪指数とする第1信号S1の冪乗に相当する信号を生成する冪乗演算器を使用してもよい。また、本実施形態では、2乗信号S12の直流成分を除去するために微分器13が使用されているが、これに代えてハイパスフィルタ(HPF)を使用してもよい。さらに、本実施形態では微分器13は符号変換器43の前段に配置されているが、これに代えて、微分器13またはHPFを符号変換器43の後段に配置してもよい。
<6.他の実施形態>
 以上において説明した実施形態では、非線形処理部における非線形性は、2乗演算や3乗演算(より一般的には、2以上の偶数または3以上の奇数を冪指数とする冪乗演算)、または絶対値処理に基づくものであるが、他の非線形演算によっても上記各実施形態と同様の効果を得ることは可能である。
 以下、このような非線形演算のための非線形演算器の入力信号値をx、出力信号値をyとし、この非線形演算器による処理を関数f(x)で表現するものとする(y=f(x))。本発明では、非線形または正負対称に単調増加する非線形関数f(x)に相当する処理を行う非線形演算器を使用することができる。なお、ここでの単調増加は広義の単調増加を意味する。また、この非線形関数f(x)は、全てのxにつき単調増加する必要はなく、少なくとも0近傍で単調増加すればよい。さらにまた、この非線形関数f(x)は、少なくとも0近傍の所定区間においてf(x)>xであることが好ましい。
 例えば、正負対称に単調増加する上記のような非線形関数f(x)に相当する処理を行う非線形演算器62を使用した図22に示す構成の画像強調装置600や、当該非線形演算器62を使用した図23に示す構成の画像強調装置700によっても、入力画像信号Sinには含まれない高周波数成分すなわち原信号のナイキスト周波数fs/2よりも高い周波数成分を画像に付加することが可能であり、上記各実施形態と同様の効果を奏する。図22の画像強調装置600は、図18に示した第4の実施形態に係る画像強調装置400において、2乗演算器12の代わりに上記非線形演算器62を使用したものであり、第4の実施形態の変形例においても、図18の画像強調装置400の代わりに図22の画像強調装置600を使用することができる。また、図23の画像強調装置700は、図19に示した第5の実施形態に係る画像強調装置500において、2乗演算器12の代わりに上記非線形演算器62を使用したものであり、第5の実施形態の変形例においても、図19の画像強調装置500の代わりに図23の画像強調装置700を使用することができる。
 図22または図23に示す構成における非線形演算器62の処理を示す関数f(x)、すなわち、正負対称かつ広義に単調増加し(好ましくは)f(x)>xとなる非線形関数として、f(x)=x2n(nは自然数)の他、例えば下記の関数f(x)を使用することができる。
  f(x)=|x|1/2  …(8)
  f(x)=|x|1/10   …(9)
上記式(8)の関数f(x)および上記式(9)の関数f(x)は、x=0~1の間で増加が大きいので、本実施形態に係る画像強調装置では、この区間を用いる。
 入力画像信号Sinが8ビットのデジタル信号であれば、画素値として0~255の値をとる。そこで、実際に上記関数を使用する場合には、画素値xを255で正規化する。例えば上記式(8)の関数については、右辺におけるxをx/255で置き換えると共に、右辺に255を乗算する。すなわち、次の関数
  f(x)=255|x/255|1/2  …(10)
を使用する。上記式(10)の関数によれば、f(x)>xの条件を満たす。なお、入力画像信号Sinが10ビットのデジタル信号であれば、1023で正規化すればよい。
 上記式(10)の関数では、式(8)の関数につき正規化後に255を乗算したが、この乗算する値は正規化のための値(この例では255)と同じ値である必要はない。例えば、f(x)=100|x/255|1/2であっても、f(x)>xの条件を満たされればよい。
 上記手法を採用すれば、下記のような三角関数f(x)も、上記非線形演算器62の処理を示す非線形関数として使用することができる。
  f(x)=255|sin{(x/255)(π/2)}|  …(11)
<7.実画像による検証>
 本発明の効果を検証するために、本発明に係る画像強調処理を実際の画像に施した。以下、その画像強調処理の結果について説明する。
 図24は、本発明の効果を検証するために使用した画像(以下「元画像」という)を示しており、この元画像は、図面における掲載スペースの都合上、実際のサイズよりも縮小されている。図25は、この元画像における右上部分を切り取って縦・横2倍の拡大処理を施した後の画像であって画像強調処理の対象となるもの(以下「対象画像」という)である。この対象画像は、拡大処理後のサンプリング周波数Fb=2fsに対応するナイキスト周波数Fb/2=fs近傍の周波数成分を有していない(図8(A)参照)。なお、図24および図25では、プリントアウトした場合等の便宜を考慮して擬似階調表示法が採用されている。この点は後述の図26および図27においても同様である。
 図26(B)は、対象画像に対し線形処理に基づく従来の画像強調処理が施された後の画像を示す図であり、比較のために、図26(A)に対象画像が示されている。既述のように、対象画像が拡大処理後のナイキスト周波数Fb/2=fs近傍の周波数成分を有していないことから(図8(A)参照)、従来の画像強調処理を当該対象画像に施しても画質は向上せず、図26(A)の対象画像と図26(B)の画像との間では、鮮鋭度や解像度感にほとんど差が認められない。
 図27(A)は、絶対値処理器22を用いた図15に示す構成による画像強調処理を水平方向と垂直方向にそれぞれ一次元処理として対象画像に施した後の画像を示している(図9参照)。図27(A)の画像では、図26(A)の対象画像に比べ、スカーフやいすの背もたれを中心に鮮鋭度または解像度が向上しており、この点で、図27(A)の画像は図26(B)の画像とは大きく異なる。したがって、図15の構成による画像強調処理は、線形処理に基づく従来の画像強調処理に比べ、拡大処理後の画像を十分に鮮鋭化して大幅に画質を改善することができると言える。
 図27(B)は、3乗演算器32を用いた図16に示す構成による画像強調処理を水平方向と垂直方向に一回ずつ対象画像に施した後の画像を示している(図9参照)。この画像強調処理において、入力画像信号Sinは8ビットで、リミッタ33におけるゲイン調整のための定数αは0.03、クリップ処理のための上限値は±32である。図27(B)の画像を図27(A)の画像と比較すると、スカーフやいすの背もたれ部分の画質改善(鮮鋭化)は、図27(A)の画像の方が勝っているが、目や唇などのように画像信号の振幅が小さい部分は、27(B)の画像の方が勝っている。このことから、図15の構成と図16の構成を比較すると、振幅が小さい画像信号に対しては図16の構成すなわち3乗演算器32を用いた構成の方が良い結果を与え、振幅が大きい画像信号に対しては図15の構成すなわち絶対値処理器22を用いた構成の方が良い結果を与えると言える。したがって、この点を考慮すると、画像全体の鮮鋭化による画質向上には、図15の構成と図16の構成とを併用する構成が好ましい。
<8.他の変形例>
 以上では、本発明の実施形態として、非線形処理のために2乗演算器12を使用した第1、第4、および第5の実施形態、絶対値処理器22を使用した第2の実施形態、ならびに、3乗演算器32を使用した第3の実施形態を説明したが、本発明に係る画像強調装置は、これらの第1~第5の実施形態またはそれらの変形例(図9~図14)のいくつかを併用または組み合わせた構成であってもよい。
 また、上記各実施形態は、ハードウェア(LSI等の回路)として実現されるが、それらの構成の一部または全部をソフトウェア的に実現してもよい。例えば、図1、図15、図16、図18および図19にそれぞれ示す第1、第2、第3、第4、および第5の実施形態ならびに図22および図23に示す他の実施形態のいずれかの実施形態、またはその変形例による画像強調処理を行うためのプログラム(以下「画像強調プログラム」という)を、図28に示すようなパーソナルコンピュータ(以下「パソコン」という)800に実行させることにより、本発明に係る画像強調装置をソフトウェア的に実現することができる。特に、対象となる画像が静止画の場合には、このようにソフトウェア的に実現された画像強調装置によっても十分に実用的な画像強調処理が可能であり、画像の鮮鋭化による画質向上につき上記各実施形態と同様の効果が得られる。
 上記パソコン800は、汎用のコンピュータであって、中央処理装置としてのCPU801とメモリ803とモデム805と表示制御部807と入力インターフェース部809とハードディスク装置811とCD-ROM(Compact Disc Read Only Memory)駆動装置813とがバスで接続された構成となっていて、入力インターフェース部809にはキーボードやマウスなどの操作部810が接続され、表示制御部807には、CRTまたは液晶ディスプレイなどの表示装置815が接続される。上記画像強調プログラムは、典型的には、そのプログラムを記録した記録媒体であるCD-ROMによって提供される。すなわち使用者は、上記画像強調プログラムの記録媒体としてのCD-ROM850を購入してCD-ROM駆動装置813に装着し、そのCD-ROM850からそのプログラムを読み出してハードディスク装置811にインストールする。また、これに代えて、モデム805に接続される通信回線を介して送られてくる画像強調プログラムを受信して、ハードディスク装置811にインストールするようにしてもよい。さらに、メーカがパソコン800を出荷する前に上記画像強調プログラムをハードディスク装置811にインストールしておいてもよい。このようにしてハードディスク装置811にインストールされた画像強調プログラムは、使用者による操作部810に対する所定操作によって起動されると、メモリ803に転送されてそこに一時的に格納され、CPU801によって実行される。これにより、パソコン800は、上記各実施形態またはその変形例に係る画像強調装置と同様の画像強調処理を行う装置として動作する。このようにしてソフトウェア的に実現された画像強調装置では、画像強調処理の対象となる画像を表すデータが対象画像データとして予めハードディスク装置811に格納されていて、上記画像強調プログラムが起動されると、その対象画像データに対して、画像強調プログラムに基づき画像強調処理がCPU801によって施され、その処理後の画像データ(以下「処理済画像データ」という)が生成されてハードディスク装置811に格納される。
 以上では、画質を改善するための画像強調処理、例えばテレビジョン(TV)受像機でリアルタイムで表示される動画の質を改善するための画像強調処理について説明した。しかし本発明は、このような画像強調処理に限定されるものではなく、音質を向上させるための信号処理や音声等を含むコンテンツの質を向上させるための信号処理を行う装置にも適用することができ、また、通信回線を介して送られてくる信号の質を向上させるための信号処理を行う装置にも適用することができる。このような本発明に係る信号処理を行う装置では非線形処理によって原信号の高調波が得られることから、当該装置により生成される信号は、入力信号を離散化する場合のサンプリング周波数fsに対応するナイキスト周波数fs/2よりも高い周波数成分を含んでいる。これにより、信号の質(音質や画質等)につき、線形処理に基づく従来の信号処理よりも大きな改善が可能となり、また、簡単な構成で信号の質を高めることができる。
 本発明は、画像を鮮鋭化して画質を改善するための画像強調装置、画像強調方法、および画像強調プログラムに適用されるものであり、例えばテレビジョン(TV)受像機でリアルタイムで表示される動画を鮮鋭化するための画像強調装置に適用することができる。
11,11B,11C …高域通過フィルタ(HPF)
12  …2乗演算器(冪乗演算器)
13  …第1微分器
14  …第2微分器
15  …乗算器
16  …加算器
22  …絶対値処理器
32  …3乗演算器(冪乗演算器)
33  …リミッタ
43  …符号変換器
62  …非線形演算器
100 …画像強調装置(第1の実施形態)
102 …非線形処理部
110,110B,110C …デジタルフィルタ
132 …丸め処理器
133 …リミッタ
200 …画像強調装置(第2の実施形態)
202 …非線形処理部
300 …画像強調装置(第3の実施形態)
302 …非線形処理部
400 …画像強調装置(第4の実施形態)
402 …非線形処理部
500 …画像強調装置(第5の実施形態)
502 …非線形処理部
Sin …入力画像信号(入力信号)
Sout…出力画像信号
S1  …第1信号
S2  …第2信号
S12 …2乗信号(第3の信号)
S13 …第1微分信号(第4の信号)
S14 …第2微分信号(第5の信号)
S22 …絶対値信号(第3の信号)
S32 …3乗信号(第3の信号)

Claims (22)

  1.  入力信号の表す画像を鮮鋭化するための画像強調装置であって、
     画像を表す入力信号に含まれる周波数成分のうち少なくとも直流成分を当該入力信号から除去することにより第1の信号を生成するフィルタ部と、
     前記第1の信号に対して非線形処理を施すことにより第2の信号を生成する非線形処理部と、
     前記第2の信号を前記入力信号に加算する加算部とを備え、
     前記非線形処理部は、
      前記第1の信号に対し少なくとも0近傍で、非線形または正負対称に、広義に単調増加する第3の信号を、前記第1の信号に基づいて生成し、
      前記第2の信号において前記第1の信号の正負が実質的に保存され、かつ、前記第2の信号が直流成分を含まないように、前記第3の信号に基づいて前記第2の信号を生成することを特徴とする、画像強調装置。
  2.  前記非線形処理部は、
      2以上の偶数を冪指数として前記第1の信号を冪乗することにより前記第3の信号を生成し、
      前記第2の信号において前記第1の信号の正負が実質的に保存されるように、前記第3の信号に基づいて前記第2の信号を生成することを特徴とする、請求項1に記載の画像強調装置。
  3.  前記非線形処理部は、
      2以上の偶数を冪指数として前記第1の信号を冪乗することにより前記第3の信号を生成する冪乗演算器と、
      前記第3の信号を微分することにより第4の信号を生成する第1微分器と、
      前記入力信号を微分することにより第5の信号を生成する第2微分器と、
      前記第4の信号と前記第5の信号との積に基づき前記第2の信号を生成する乗算器と
    を含むことを特徴とする、請求項2に記載の画像強調装置。
  4.  前記非線形処理部は、
      2以上の偶数を冪指数として前記第1の信号を冪乗することにより前記第3の信号を生成する冪乗演算器と、
      前記第3の信号に基づき前記第2の信号が生成されるように、前記第3の信号のうち正負が前記第1の信号と異なる部分の正負を前記第1の信号に基づき反転させる符号変換器と
    を含むことを特徴とする、請求項2に記載の画像強調装置。
  5.  前記非線形処理部は、
      2以上の偶数を冪指数として前記第1の信号を冪乗することにより前記第3の信号を生成する冪乗演算器と、
      前記第3の信号の直流成分を除去することにより第4の信号を生成するフィルタと、
      前記第4の信号に基づき前記第2の信号が生成されるように、前記第4の信号のうち正負が前記第1の信号と異なる部分の正負を前記第1の信号に基づき反転させる符号変換器と
    を含むことを特徴とする、請求項2に記載の画像強調装置。
  6.  前記非線形処理部は、
      前記第1の信号の絶対値に相当する信号を前記第3の信号として生成し、
      前記第2の信号において前記第1の信号の正負が実質的に保存されるように、前記第3の信号に基づいて前記第2の信号を生成することを特徴とする、請求項1に記載の画像強調装置。
  7.  前記非線形処理部は、
      前記第1の信号の絶対値に相当する信号を前記第3の信号として生成する絶対値処理器と、
      前記第3の信号を微分することにより第4の信号を生成する第1微分器と、
      前記入力信号を微分することにより第5の信号を生成する第2微分器と、
      前記第4の信号と前記第5の信号との積に基づき前記第2の信号を生成する乗算器と
    を含むことを特徴とする、請求項6に記載の画像強調装置。
  8.  前記非線形処理部は、
      前記第1の信号の絶対値に相当する信号を前記第3の信号として生成する絶対値処理器と、
      前記第3の信号の直流成分を除去することにより第4の信号を生成するフィルタと、
      前記第4の信号に基づき前記第2の信号が生成されるように、前記第4の信号のうち正負が前記第1の信号と異なる部分の正負を前記第1の信号に基づき反転させる符号変換器と
    を含むことを特徴とする、請求項6に記載の画像強調装置。
  9.  前記非線形処理部は、3以上の奇数を冪指数として前記第1の信号を冪乗することにより前記第3の信号を生成し、前記第3の信号に基づき前記第2の信号を生成することを特徴とする、請求項1に記載の画像強調装置。
  10.  前記非線形処理部は、
      3以上の奇数を冪指数として前記第1の信号を冪乗することにより前記第3の信号を生成する冪乗演算器と、
      前記第3の信号の振幅を調整することにより前記第2の信号を生成する調整器と
    を含むことを特徴とする、請求項9に記載の画像強調装置。
  11.  前記非線形処理部は、前記第3の信号の絶対値が前記第1の信号の絶対値よりも大きくなる区間が少なくとも前記0近傍に現れるように前記第3の信号を生成することを特徴とする、請求項1に記載の画像強調装置。
  12.  前記非線形処理部は、前記第1の信号に対し前記第1の信号の最大振幅の少なくとも1/2以下の範囲では、非線形または正負対称に、広義に単調増加する信号を、前記第1の信号に基づき前記第3の信号として生成することを特徴とする、請求項1に記載の画像強調装置。
  13.  前記フィルタ部は、タップ数が3以上の高域通過型のデジタルフィルタを含むことを特徴とする、請求項1に記載の画像強調装置。
  14.  前記非線形処理部は、
      前記第1の信号のうち絶対値が所定の下限値よりも小さい部分の信号値を0に変更する丸め処理器と、
      前記第1の信号のうち絶対値が所定の上限値よりも大きい部分の信号値の絶対値を当該上限値以下の所定値に変更するリミッタと
    を含むことを特徴とする、請求項1に記載の画像強調装置。
  15.  前記非線形処理部は、前記第2の信号の振幅を調整するための調整器を含むことを特徴とする、請求項1に記載の画像強調装置。
  16.  前記フィルタ部は、前記画像の水平方向の空間周波数成分のうち少なくとも直流成分を当該入力信号から除去することにより前記第1の信号を生成し、
     前記非線形処理部は、前記第2の信号が前記画像の水平方向の空間周波数についての直流成分を含まないように記第2の信号を生成することを特徴とする、請求項1に記載の画像強調装置。
  17.  前記フィルタ部は、前記画像の垂直方向の空間周波数成分のうち少なくとも直流成分を当該入力信号から除去することにより前記第1の信号を生成し、
     前記非線形処理部は、前記第2の信号が前記画像の垂直方向の空間周波数についての直流成分を含まないように記第2の信号を生成することを特徴とする、請求項1に記載の画像強調装置。
  18.  前記画像は動画像であり、
     前記フィルタ部は、前記画像の時間方向の周波数成分のうち少なくとも直流成分を当該入力信号から除去することにより前記第1の信号を生成し、
     前記非線形処理部は、前記第2の信号が前記画像の時間方向の周波数についての直流成分を含まないように記第2の信号を生成することを特徴とする、請求項1に記載の画像強調装置。
  19.  入力信号の表す画像を鮮鋭化するための画像強調方法であって、
     画像を表す入力信号に含まれる周波数成分のうち少なくとも直流成分を当該入力信号から除去することにより第1の信号を生成するフィルタ処理ステップと、
     前記第1の信号に対して非線形処理を施すことにより第2の信号を生成する非線形処理ステップと、
     前記第2の信号を前記入力信号に加算する加算ステップとを備え、
     前記非線形処理ステップでは、
      前記第1の信号に対し少なくとも0近傍で、非線形または正負対称に、広義に単調増加する第3の信号が、前記第1の信号に基づいて生成され、
      前記第2の信号において前記第1の信号の正負が実質的に保存され、かつ、前記第2の信号が直流成分を含まないように、前記第3の信号に基づいて前記第2の信号が生成されることを特徴とする、画像強調方法。
  20.  入力信号の表す画像を鮮鋭化するための画像強調プログラムであって、
     画像を表す入力信号に含まれる周波数成分のうち少なくとも直流成分を当該入力信号から除去することにより第1の信号を生成するフィルタ処理ステップと、
     前記第1の信号に対して非線形処理を施すことにより第2の信号を生成する非線形処理ステップと、
     前記第2の信号を前記入力信号に加算する加算ステップと
    をコンピュータに実行させ、
     前記非線形処理ステップでは、
      前記第1の信号に対し少なくとも0近傍で、非線形または正負対称に、広義に単調増加する第3の信号が、前記第1の信号に基づいて生成され、
      前記第2の信号において前記第1の信号の正負が実質的に保存され、かつ、前記第2の信号が直流成分を含まないように、前記第3の信号に基づいて前記第2の信号が生成されることを特徴とする、画像強調プログラム。
  21.  請求項20に記載の画像強調プログラムを格納したコンピュータ読み取り可能な記録媒体。
  22.  入力信号の質を高めるための信号処理装置であって、
     入力信号に含まれる周波数成分のうち少なくとも直流成分を当該入力信号から除去することにより第1の信号を生成するフィルタ部と、
     前記第1の信号に対して非線形処理を施すことにより第2の信号を生成する非線形処理部と、
     前記第2の信号を前記入力信号に加算する加算部とを備え、
     前記非線形処理部は、
      前記第1の信号に対し少なくとも0近傍で、非線形または正負対称に、広義に単調増加する第3の信号を、前記第1の信号に基づいて生成し、
      前記第2の信号において前記第1の信号の正負が実質的に保存され、かつ、前記第2の信号が直流成分を含まないように、前記第3の信号に基づいて前記第2の信号を生成することを特徴とする、信号処理装置。
PCT/JP2009/067787 2009-03-31 2009-10-14 画像強調装置、画像強調方法、画像強調プログラム、および信号処理装置 WO2010113342A1 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2011506954A JP5281690B2 (ja) 2009-03-31 2009-10-14 画像強調装置、画像強調方法、画像強調プログラム、および信号処理装置
CN200980158237.XA CN102362486B (zh) 2009-03-31 2009-10-14 图像增强装置、图像增强方法、图像增强程序和信号处理装置
EP09842693A EP2416557A4 (en) 2009-03-31 2009-10-14 IMAGE ENHANCEMENT DEVICE, IMAGE ENHANCEMENT METHOD, IMAGE ENHANCEMENT PROGRAM, AND SIGNAL PROCESSING DEVICE
US13/138,197 US8508667B2 (en) 2009-03-31 2009-10-14 Image enhancing device, image enhancing method, image enhancing program and signal processing device
RU2011143859/07A RU2497301C2 (ru) 2009-03-31 2009-10-14 Устройство для совершенствования изображений, способ совершенствования изображений, программа для совершенствования изображений и устройство для обработки сигналов
BRPI0924760A BRPI0924760A2 (pt) 2009-03-31 2009-10-14 dispositivo de otimização de imagem, método de otimização de imagem, programada de otimização de imagem e dispositivo de processamento de sinal

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2009-088058 2009-03-31
JP2009088058 2009-03-31

Publications (1)

Publication Number Publication Date
WO2010113342A1 true WO2010113342A1 (ja) 2010-10-07

Family

ID=42827666

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2009/067787 WO2010113342A1 (ja) 2009-03-31 2009-10-14 画像強調装置、画像強調方法、画像強調プログラム、および信号処理装置

Country Status (7)

Country Link
US (1) US8508667B2 (ja)
EP (1) EP2416557A4 (ja)
JP (1) JP5281690B2 (ja)
CN (2) CN104539826B (ja)
BR (1) BRPI0924760A2 (ja)
RU (1) RU2497301C2 (ja)
WO (1) WO2010113342A1 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012124591A1 (ja) * 2011-03-15 2012-09-20 シャープ株式会社 信号処理装置、制御プログラム、および集積回路
WO2012147879A1 (ja) * 2011-04-27 2012-11-01 シャープ株式会社 画像処理装置、表示装置、画像処理方法および画像処理プログラム
US8427256B2 (en) 2009-06-16 2013-04-23 Sharp Kabushiki Kaisha Waveform shaping device, equalizer, receiving system, method of controlling waveform shaping device, control program, and computer-readable medium in which control program is recorded
JP5320538B1 (ja) * 2012-08-09 2013-10-23 清一 合志 画像強調装置、画像強調方法
WO2014025067A1 (ja) * 2012-08-09 2014-02-13 株式会社計測技術研究所 画像強調装置、画像強調方法
US8655101B2 (en) 2009-06-04 2014-02-18 Sharp Kabushiki Kaisha Signal processing device, control method for signal processing device, control program, and computer-readable storage medium having the control program recorded therein
JP5450668B2 (ja) * 2010-02-15 2014-03-26 シャープ株式会社 信号処理装置、制御プログラム、および集積回路
US8773594B2 (en) 2010-09-29 2014-07-08 Sharp Kabushiki Kaisha Signal processing device, and integrated circuit including oblique lowpass filtering and multiple sharpening components
US8811765B2 (en) 2009-11-17 2014-08-19 Sharp Kabushiki Kaisha Encoding device configured to generate a frequency component extraction signal, control method for an encoding device using the frequency component extraction signal, transmission system, and computer-readable recording medium having a control program recorded thereon
US8824825B2 (en) 2009-11-17 2014-09-02 Sharp Kabushiki Kaisha Decoding device with nonlinear process section, control method for the decoding device, transmission system, and computer-readable recording medium having a control program recorded thereon
JP5629902B1 (ja) * 2013-08-20 2014-11-26 合志 清一 画像処理装置、画像処理方法

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5350497B2 (ja) * 2010-02-15 2013-11-27 シャープ株式会社 動き検出装置、制御プログラム、および集積回路
JP5932399B2 (ja) * 2012-03-02 2016-06-08 キヤノン株式会社 撮像装置及び音声処理装置
US8760580B2 (en) * 2012-06-19 2014-06-24 Silicon Integrated Systems Corp. Image sharpness device and method for the same
US9349188B2 (en) * 2013-03-15 2016-05-24 Samsung Electronics Co., Ltd. Creating details in an image with adaptive frequency strength controlled transform
US9536288B2 (en) 2013-03-15 2017-01-03 Samsung Electronics Co., Ltd. Creating details in an image with adaptive frequency lifting
US9066025B2 (en) 2013-03-15 2015-06-23 Samsung Electronics Co., Ltd. Control of frequency lifting super-resolution with image features
US9305332B2 (en) 2013-03-15 2016-04-05 Samsung Electronics Company, Ltd. Creating details in an image with frequency lifting
JP5730362B2 (ja) * 2013-08-30 2015-06-10 合志 清一 画像処理装置及び画像処理方法
WO2015115168A1 (ja) 2014-01-28 2015-08-06 シャープ株式会社 画像処理装置
US9652829B2 (en) 2015-01-22 2017-05-16 Samsung Electronics Co., Ltd. Video super-resolution by fast video segmentation for boundary accuracy control
WO2017123487A1 (en) * 2016-01-15 2017-07-20 Vid Scale, Inc. System and method for enhanced motion compensation using adaptive filtering
CN108932103A (zh) * 2018-06-29 2018-12-04 北京微播视界科技有限公司 标识用户兴趣的方法、装置、终端设备及存储介质
CN112435195B (zh) * 2020-12-02 2024-06-04 湖南优象科技有限公司 一种基于自适应分数阶微分的图像增强方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09319869A (ja) * 1996-05-28 1997-12-12 Nippon Hoso Kyokai <Nhk> 画像エンハンサ
WO2002084997A1 (fr) * 2001-04-11 2002-10-24 Sony Corporation Circuit d'accentuation de contours
JP2006304352A (ja) * 2006-06-19 2006-11-02 Sony Corp 画像処理装置
JP2008103785A (ja) * 2006-10-17 2008-05-01 Sony Corp 輪郭強調回路、輪郭強調方法、撮像装置およびビューファインダ

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2203013B (en) * 1987-03-31 1991-03-06 Sony Corp Aperture correction circuits
JPH07312704A (ja) 1994-05-18 1995-11-28 Victor Co Of Japan Ltd 画質補償回路
KR0170657B1 (ko) * 1994-08-31 1999-03-30 김광호 색신호에 있는 윤곽을 보정하는 방법 및 이를 칼라 비디오기기에서 구현하기 위한 회로
JPH08139969A (ja) * 1994-11-08 1996-05-31 Matsushita Electric Ind Co Ltd 輪郭補正回路
US6295322B1 (en) 1998-07-09 2001-09-25 North Shore Laboratories, Inc. Processing apparatus for synthetically extending the bandwidth of a spatially-sampled video image
US6377313B1 (en) 1999-09-02 2002-04-23 Techwell, Inc. Sharpness enhancement circuit for video signals
JP3781050B1 (ja) * 2005-02-22 2006-05-31 三菱電機株式会社 画像処理装置、画像処理方法、および画像表示装置
JP2007208723A (ja) * 2006-02-02 2007-08-16 Victor Co Of Japan Ltd 輪郭強調装置及び輪郭強調プログラム
US20070223834A1 (en) * 2006-03-23 2007-09-27 Samsung Electronics Co., Ltd. Method for small detail restoration in digital images
JP4116649B2 (ja) 2006-05-22 2008-07-09 株式会社東芝 高解像度化装置および方法
RU2007116225A (ru) * 2007-04-28 2008-11-10 Корпораци "Самсунг Электроникс Ко., Лтд." (KR) Способ адаптивного повышения резкости изображения

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09319869A (ja) * 1996-05-28 1997-12-12 Nippon Hoso Kyokai <Nhk> 画像エンハンサ
WO2002084997A1 (fr) * 2001-04-11 2002-10-24 Sony Corporation Circuit d'accentuation de contours
JP2006304352A (ja) * 2006-06-19 2006-11-02 Sony Corp 画像処理装置
JP2008103785A (ja) * 2006-10-17 2008-05-01 Sony Corp 輪郭強調回路、輪郭強調方法、撮像装置およびビューファインダ

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP2416557A4 *

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8655101B2 (en) 2009-06-04 2014-02-18 Sharp Kabushiki Kaisha Signal processing device, control method for signal processing device, control program, and computer-readable storage medium having the control program recorded therein
US8427256B2 (en) 2009-06-16 2013-04-23 Sharp Kabushiki Kaisha Waveform shaping device, equalizer, receiving system, method of controlling waveform shaping device, control program, and computer-readable medium in which control program is recorded
US8824825B2 (en) 2009-11-17 2014-09-02 Sharp Kabushiki Kaisha Decoding device with nonlinear process section, control method for the decoding device, transmission system, and computer-readable recording medium having a control program recorded thereon
US8811765B2 (en) 2009-11-17 2014-08-19 Sharp Kabushiki Kaisha Encoding device configured to generate a frequency component extraction signal, control method for an encoding device using the frequency component extraction signal, transmission system, and computer-readable recording medium having a control program recorded thereon
US8891898B2 (en) 2010-02-15 2014-11-18 Sharp Kabushiki Kaisha Signal processing device and control program for sharpening images
JP5450668B2 (ja) * 2010-02-15 2014-03-26 シャープ株式会社 信号処理装置、制御プログラム、および集積回路
US8773594B2 (en) 2010-09-29 2014-07-08 Sharp Kabushiki Kaisha Signal processing device, and integrated circuit including oblique lowpass filtering and multiple sharpening components
WO2012124591A1 (ja) * 2011-03-15 2012-09-20 シャープ株式会社 信号処理装置、制御プログラム、および集積回路
US9014502B2 (en) 2011-03-15 2015-04-21 Sharp Kabushiki Kaisha Signal processing device, control program and integrated circuit
CN103430528A (zh) * 2011-03-15 2013-12-04 夏普株式会社 信号处理装置、控制程序以及集成电路
WO2012147879A1 (ja) * 2011-04-27 2012-11-01 シャープ株式会社 画像処理装置、表示装置、画像処理方法および画像処理プログラム
WO2014024373A1 (ja) * 2012-08-09 2014-02-13 株式会社計測技術研究所 画像強調装置、画像強調方法
JP5320538B1 (ja) * 2012-08-09 2013-10-23 清一 合志 画像強調装置、画像強調方法
WO2014025067A1 (ja) * 2012-08-09 2014-02-13 株式会社計測技術研究所 画像強調装置、画像強調方法
US9471962B2 (en) 2012-08-09 2016-10-18 Keisoku Giken Co., Ltd. Image enhancement apparatus and image enhancement method
US9495732B2 (en) 2012-08-09 2016-11-15 Keisoku Giken Co., Ltd. Image enhancing device and image enhancement method
JP5629902B1 (ja) * 2013-08-20 2014-11-26 合志 清一 画像処理装置、画像処理方法
WO2015025521A1 (ja) * 2013-08-20 2015-02-26 株式会社計測技術研究所 画像処理装置、画像処理方法
US9848163B2 (en) 2013-08-20 2017-12-19 Keisoku Giken Co., Ltd. Image processing apparatus and image processing method

Also Published As

Publication number Publication date
JP5281690B2 (ja) 2013-09-04
CN102362486A (zh) 2012-02-22
US20110279730A1 (en) 2011-11-17
RU2011143859A (ru) 2013-05-10
CN104539826A (zh) 2015-04-22
CN104539826B (zh) 2017-09-08
BRPI0924760A2 (pt) 2016-01-26
US8508667B2 (en) 2013-08-13
JPWO2010113342A1 (ja) 2012-10-04
RU2497301C2 (ru) 2013-10-27
EP2416557A1 (en) 2012-02-08
EP2416557A4 (en) 2013-01-23
CN102362486B (zh) 2015-02-04

Similar Documents

Publication Publication Date Title
JP5281690B2 (ja) 画像強調装置、画像強調方法、画像強調プログラム、および信号処理装置
WO2010140281A1 (ja) 信号処理装置、信号処理装置の制御方法、制御プログラム、および該制御プログラムを記録したコンピュータ読み取り可能な記録媒体
JP5450668B2 (ja) 信号処理装置、制御プログラム、および集積回路
WO2012043407A1 (ja) 信号処理装置、制御プログラム、および集積回路
WO2011061958A1 (ja) 復号化装置、復号化装置の制御方法、伝送システム、および制御プログラムを記録したコンピュータ読み取り可能な記録媒体
JP5291804B2 (ja) 符号化装置、符号化装置の制御方法、伝送システム、および制御プログラムを記録したコンピュータ読み取り可能な記録媒体
WO2012124591A1 (ja) 信号処理装置、制御プログラム、および集積回路
EP3038341B1 (en) Image processing device, and image processing method
JP5320538B1 (ja) 画像強調装置、画像強調方法
JP5403450B1 (ja) 画像処理装置、画像処理方法
JP5730362B2 (ja) 画像処理装置及び画像処理方法
JP5396626B1 (ja) 画像強調装置、画像強調方法

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 200980158237.X

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 09842693

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2011506954

Country of ref document: JP

Kind code of ref document: A

REEP Request for entry into the european phase

Ref document number: 2009842693

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2009842693

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 13138197

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 7828/CHENP/2011

Country of ref document: IN

ENP Entry into the national phase

Ref document number: 2011143859

Country of ref document: RU

Kind code of ref document: A

REG Reference to national code

Ref country code: BR

Ref legal event code: B01A

Ref document number: PI0924760

Country of ref document: BR

ENP Entry into the national phase

Ref document number: PI0924760

Country of ref document: BR

Kind code of ref document: A2

Effective date: 20110929