WO2014103230A1 - 信号処理装置、信号処理方法、および記憶媒体 - Google Patents

信号処理装置、信号処理方法、および記憶媒体 Download PDF

Info

Publication number
WO2014103230A1
WO2014103230A1 PCT/JP2013/007362 JP2013007362W WO2014103230A1 WO 2014103230 A1 WO2014103230 A1 WO 2014103230A1 JP 2013007362 W JP2013007362 W JP 2013007362W WO 2014103230 A1 WO2014103230 A1 WO 2014103230A1
Authority
WO
WIPO (PCT)
Prior art keywords
signal
processing
pipeline
output
input
Prior art date
Application number
PCT/JP2013/007362
Other languages
English (en)
French (fr)
Inventor
栄太 小林
Original Assignee
日本電気株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本電気株式会社 filed Critical 日本電気株式会社
Priority to JP2014554115A priority Critical patent/JP6295963B2/ja
Publication of WO2014103230A1 publication Critical patent/WO2014103230A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/10Image enhancement or restoration using non-spatial domain filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20064Wavelet transform [DWT]

Definitions

  • the present invention relates to a signal processing device, a signal processing method, and a storage medium, and more particularly to a signal processing device, a signal processing method, and a storage medium that remove noise included in an image signal.
  • JPEG Joint Photographic Experts Group
  • the image data is converted from the spatial coordinate domain to the frequency domain by discrete cosine transformation.
  • Data in the frequency domain is quantized, and after the amount of data is reduced by deleting high frequency components, data compression is performed by entropy coding.
  • JPEG compression processing image data is subjected to discrete cosine transform, removing high-frequency components that are hardly recognized visually and leaving low-frequency components, so that there is almost no visual change with respect to the original image.
  • the data amount is compressed as described above.
  • JPEG2000 the successor to JPEG, employs discrete wavelet transform for frequency domain conversion processing.
  • the discrete wavelet transform performs arithmetic processing using a spatially localized wave packet as a basis, not a ubiquitous cosine wave that is a basis in the discrete cosine transform.
  • the image quality of the low frequency component of the pixel value of the image data in the discrete wavelet transform is equivalent to the image quality in the discrete cosine transform.
  • the discrete wavelet transform can execute encoding that does not generate noise even in a portion where the pixel value changes rapidly, such as a contour.
  • noises included in data such as images and sounds as high-frequency component noise, there is camera noise derived from an image sensor such as a CCD (Charge Coupled Device) sensor, for example.
  • This noise occurs in a pixel due to the influence of a current flowing between adjacent pixels when a subject is photographed using a CCD.
  • This noise appears on the image as a granular specific point having a size of about several pixels.
  • Such noise is often separated as a high frequency component by discrete cosine transform or wavelet transform.
  • the low frequency component noise includes noise generated by the conversion processing of the image signal including the granular noise. That is, a Bayer pattern color signal obtained from an image sensor such as a digital camera requires processing such as averaging the color signal between pixels when generating an RGB pattern as image data. Through such image processing, the granular noise is expanded over a wide range. The noise of the high frequency component is visually recognized as a granular point in the image, whereas the noise of the low frequency component is visually recognized as a haze covering the subject in the image.
  • Such noise is color information that did not exist in the subject.
  • images and videos obtained by an image sensor such as a digital camera or a digital video camera are mixed with high-frequency components and low-frequency components as described above, it is essential to remove noise.
  • the noise removal is generally performed on the information processing apparatus side, but may be performed on the photographing apparatus side such as a digital camera.
  • a high-performance CPU Central Processing Unit
  • a high-performance CPU Central Processing Unit
  • FPGA Field Programmable Gate Array
  • the image encoding device of Patent Document 1 divides image data into image blocks and performs discrete wavelet transform on each image block.
  • the image encoding apparatus predicts a conversion data value in the high frequency band after the discrete wavelet transform from the conversion data in an arbitrary frequency band obtained by the conversion process. Furthermore, the image encoding apparatus obtains a difference between the conversion data of the high frequency band obtained by the discrete wavelet transform process and the prediction result.
  • the image encoding device compresses and encodes conversion data of an arbitrary frequency band, and compresses and encodes the difference as the subtraction result. By suppressing the generation of the same continuous value, block-like noise is removed. That is, the image encoding device of Patent Document 1 can suppress the generation of block noise.
  • Patent Document 1 cannot remove camera noise that occurs irregularly in an image as described above, or low-frequency noise that occurs due to format conversion.
  • Non-Patent Document 1 A separable variational model has been proposed as a method for removing noise from image data (Non-Patent Document 1).
  • the input image is decomposed into a skeletal component U and a vibrating texture V corresponding to the geometric image structure.
  • image enlargement processing enlargement processing is executed for each component.
  • An enlarged image obtained by enlarging the input image is obtained by combining the enlarged components.
  • the vibration texture V is affected by noise, but the skeleton image U is not affected by noise. Therefore, the target of noise component removal is only the vibration texture V.
  • Non-Patent Document 2 discloses a TV method.
  • the image signal is separated into a skeleton component and a residual component.
  • the skeleton component is composed of a strong edge and a flat region.
  • the residual component is composed of texture and noise. Noise contained in the image signal is removed by attenuating the noise component of the residual component by a known method.
  • the skeleton component can be obtained by minimizing the TV norm J (U) defined by the following formula (1). [Equation 1]
  • U TV represents a skeleton component.
  • x represents the pixel position in the horizontal direction of the skeleton component U TV .
  • y indicates the pixel position in the vertical direction of the skeleton component U TV .
  • the minimization problem can be solved using the Chamber projection method described in Non-Patent Document 3.
  • the Chamber projection method is computationally intensive and is not suitable for real-time processing.
  • a subgradient method using a TVnorm subgradient is used.
  • k is the number of iterations
  • U TV (k) is a skeletal component at the kth iteration
  • is a value set based on the standard deviation of the noise of the target image.
  • an input image is set to the skeleton component U TV (0) .
  • F is the original image
  • J (U) is the above-mentioned TV norm
  • the result of the kth iteration is compared with the result of the (k + 1) th iteration. If it is determined that the solution has converged by determining that the variation is sufficiently small, the iterative process stops. On the other hand, if convergence is slow, the iterative process stops when the number of iterations k reaches the set maximum number of iterations.
  • an apparatus for removing noise from an image signal has a module (TV module) for executing the processing of the above equation (2) executed.
  • a dedicated circuit or FPGA is provided. This module performs a calculation for one iteration. In an iterative process, the output of this module is again input to the TV module. By repeating re-input for the number of iterations of the subgradient method, the iterative process of equation (2) is realized.
  • Patent Document 2 discloses a noise removal processing system using the TV method described above.
  • the noise removal processing performance included in the low-frequency component included in the original image is improved by using multi-resolution analysis in which the filter bank is configured by using wavelet transform a plurality of times.
  • FIG. 1 shows an example of a noise removal processing system 1001A of the TV method disclosed in Patent Document 2.
  • the noise removal processing system 1001A performs noise removal processing by performing wavelet transformation twice.
  • the input image signal is separated into a high frequency component and a low frequency component by multiresolution analysis by the first wavelet transform circuit 1101.
  • the wavelet degeneration circuits 1102 and 1106 perform noise removal processing in each of the layer that performs noise removal processing by the TV method for high-frequency components and the layer that performs noise removal processing by the TV method for low-frequency components, respectively. Execute.
  • the processed signal is then used as the initial solution.
  • Patent Document 3 discloses pipeline processing.
  • the image processing pipeline circuit described in Patent Document 3 connects modules that perform a plurality of image processing functions, and performs multiple times of image processing on input data in consideration of the delay between the modules. . That is, a relative delay amount between the image processing modules is added to generate the synchronization signal, and the influence of the delay in the output signal is eliminated.
  • JP-A-8-242450 Japanese Patent Application No. 2012-102019 JP 2006-318315 A
  • the number of iterations of the subgradient method of noise removal processing by TV norm regularization is expressed on the circuit as the number of TV modules.
  • the physical number of TV modules increases, leading to an increase in circuit scale. Therefore, in order to achieve a desired noise removal performance while suppressing an increase in circuit scale, it is necessary to obtain an optimal module configuration while adjusting the number of iterations of the subgradient method.
  • the amount of noise mixed in the image signal is also affected by changes in the shooting environment. If the noise removal performance is too strong compared to the amount of mixed noise, the resolution of the image may be impaired. For this reason, it is not necessary that the number of executions of the wavelet transform is large, and it is desirable that the noise removal processing performance is variable according to the amount of mixed noise.
  • the shooting device that performs the noise removal processing can easily change the noise removal performance.
  • the number of wavelet transforms is the number of wavelet transform modules
  • the number of iterations in the TV method is the number of TV modules.
  • FIG. 2 shows a block diagram of an example of the noise removal processing circuit 1001B described in Patent Document 2.
  • the number of wavelet transformations is two, and the number of iterations of the TV module is five for the first layer of wavelet transformation and three for the second layer.
  • FIG. 3 is a block diagram of a noise removal processing circuit 1001C obtained by modifying the noise removal processing circuit 1001B described in Patent Document 2.
  • the noise removal processing circuit 1001C further performs TV noise removal on the low frequency components separated in the second layer of the wavelet transformation, performs initial solution generation processing, and inputs the initial solution to the inverse wavelet transformation circuit 1107.
  • the TV module iteration process is omitted.
  • each module is physically connected by wiring. For this reason, once a circuit is mounted, the noise removal processing performance of the circuit is fixed, and it is impossible to meet the demand for dynamically changing the noise removal processing performance depending on the shooting environment.
  • the only difference between the noise removal processing circuit shown in FIG. 2 and the noise removal processing circuit shown in FIG. 3 is that the number of iterations of the TV module is different. However, both circuits are configured as separate hardware.
  • the noise removal processing circuit using the TV method has a problem that the noise removal performance cannot be changed flexibly.
  • the circuit scale of the above-mentioned noise removal processing circuit changes greatly when the processing performance is changed.
  • iterative processing must be executed until the solution converges, and the amount of calculation increases accordingly.
  • the calculation amount of the iterative formula (2) of the subgradient method is large, and when the circuit is formed, the circuit scale of the TV module for calculating the formula (2) becomes large.
  • the noise removal processing circuit described in Patent Document 2 can reduce the number of iterations of the TV method by wavelet transform. However, by increasing the number of wavelet transforms, a new TV module is required at each layer. If the noise removal processing performance is to be improved, the number of wavelet transforms increases, and the circuit scale increases accordingly. That is, the noise removal processing circuit described in Patent Document 2 cannot suppress an increase in circuit scale.
  • the image processing pipeline circuit of Patent Document 3 processes input data in multiple stages by connecting a plurality of image processing modules.
  • the image processing pipeline circuit cannot dynamically change the number of stages of image processing, and the number of processing stages is determined by the number of image processing modules, and thus cannot increase the circuit scale.
  • the present invention has been invented in view of the above problems, and provides a signal processing device, a signal processing method, and a storage medium capable of dynamically changing noise removal processing performance without increasing the device scale.
  • the purpose is to do.
  • the signal processing apparatus includes a first wavelet transform processing means for separating an input signal into a first low-frequency signal and a first high-frequency signal, and the first low-frequency signal as a second low-frequency signal.
  • a second wavelet transform processing means for separating the signal into a frequency signal and a second high-frequency signal; and generating a first pipeline processing signal by performing pipeline processing on the second low-frequency signal.
  • First pipeline processing means for generating a second pipeline processing signal by performing the pipeline processing on the first reconstructed signal, the second high-frequency signal, and the first pipe Based on the second inverse wavelet transform processing means for generating the first reconstructed signal based on the line processing signal, the first high-frequency signal, and the second pipeline processing signal
  • First inverse wavelet transform processing means for generating a second reconstructed signal, one of the second low-frequency signal and the first reconstructed signal is selected, and the selected signal is selected from the first Input switching means for transferring to the pipeline processing means; transferring the first pipeline processing signal to the second inverse wavelet transform processing means; and converting the second pipeline processing signal to the first inverse wavelet transform.
  • Output switching means for transferring to the processing means, and outputting the second reconstructed signal as an output signal.
  • the signal processing method of the present invention separates an input signal into a first low-frequency signal and a first high-frequency signal, and the first low-frequency signal is divided into a second low-frequency signal and a second high-frequency signal. And performing a pipeline process on the second low frequency signal to generate a first pipeline process signal, the second high frequency signal and the first pipeline process signal, A first reconstructed signal is generated, a second pipeline processed signal is generated by performing the pipeline processing on the first reconstructed signal, and the first high-frequency signal and , Generating a second reconstruction signal based on the second pipeline processing signal, selecting one of the second low frequency signal and the first reconstruction signal, and selecting the selected signal To the pipeline process and the second reconfiguration And outputs the No. as the output signal.
  • the storage medium of the present invention includes a first wavelet transform process that separates an input signal into a first low-frequency signal and a first high-frequency signal, and the first low-frequency signal is converted into a second low-frequency signal. And a second wavelet transform process for separating the first low-frequency signal and a second low-frequency signal to generate a first pipeline-processed signal and a first pipeline-processed signal.
  • a first pipeline process for generating a second pipeline process signal by performing the pipeline process on the reconstructed signal, the second high-frequency signal, and the first pipeline process signal; Based on the second inverse wavelet transform processing for generating the first reconstructed signal, the first high-frequency signal, and the second pipeline processed signal.
  • a signal processing program for causing a computer of the signal processing device to execute output processing for outputting the second reconstructed signal as an output signal is stored.
  • the structure of the noise removal processing system in related technology is shown.
  • the structure of the noise removal processing circuit in related technology is shown.
  • the structure of the noise removal processing circuit in related technology is shown.
  • 1 shows an example of the configuration of a noise removal processing system according to a first embodiment of the present invention.
  • An example of the structure of the pipeline process part which concerns on the 1st Embodiment of this invention is shown.
  • It is a flowchart which shows an example of the procedure of the noise removal process which concerns on the 1st Embodiment of this invention.
  • An example of the structure of the noise removal processing system which concerns on the 2nd Embodiment of this invention is shown.
  • FIG. 1 It is a flowchart which shows an example of the procedure of the noise removal process which concerns on the 2nd Embodiment of this invention.
  • An example of the structure of the noise removal processing system which concerns on the 3rd Embodiment of this invention is shown.
  • An example of the structure of the pipeline process part which concerns on the 3rd Embodiment of this invention is shown.
  • An example of the structure of the signal processing system which concerns on the 3rd Embodiment of this invention is shown.
  • the structural example of a part of noise removal processing circuit which comprises the noise removal processing system which concerns on the 3rd Embodiment of this invention is shown.
  • An example of the timing chart of the signal processed in the noise removal processing system which concerns on the 3rd Embodiment of this invention is shown.
  • FIG. 4 shows an example of the configuration of a noise removal processing system 1A according to the first embodiment of the present invention.
  • the noise removal processing system 1 ⁇ / b> A receives an input data signal A and outputs an output data signal L, and a control unit that receives an input control signal K and transmits a control signal to the noise removal processing unit 11. 12 is included.
  • the control unit 12 includes a flow control processing unit 121.
  • the noise removal processing unit 11 includes a first wavelet transformation processing unit 101, a second wavelet transformation processing unit 103, a first inverse wavelet transformation processing unit 102, and a second inverse wavelet transformation processing unit 104. Including.
  • the first wavelet transformation processing unit 101 and the second wavelet transformation processing unit 103 perform wavelet transformation processing on the input data signal.
  • the first inverse wavelet transform processing unit 102 and the second inverse wavelet transform processing unit 104 perform inverse wavelet transform processing on the input data signal.
  • the noise removal processing unit 11 further includes a pipeline processing unit 106, an input switch 105, and an output switch 107.
  • the pipeline processing unit 106 receives a control signal from the flow control processing unit 121 and executes predetermined signal processing (described later).
  • the input data signal A inputted from the outside to the noise removal processing system 1A is inputted to the noise removal processing unit 11.
  • the first wavelet transform processing unit 101 performs a wavelet transform process on the input data signal A, and a first high frequency component including a first low frequency component B and a frequency component higher than the first low frequency component B. Separated into component C and output.
  • the second wavelet transform processing unit 103 performs the wavelet transform process on the first low frequency component B again, and includes the second low frequency component D and a frequency component higher than the second low frequency component D. Separated and output to the second high frequency component E.
  • the first inverse wavelet transform processing unit 102 is generated by the output switch 107 based on the first high-frequency component C output from the first wavelet transform processing unit 101 and the data output from the pipeline processing unit 106.
  • An inverse wavelet transform process is performed on the second pipeline processing signal G, and the reconstructed data is output.
  • the second inverse wavelet transform processing unit 104 uses an output switch 107 based on the second high frequency component E output from the second wavelet transform processing unit 103 and the output data from the pipeline processing unit 106.
  • An inverse wavelet transform process is performed on the generated first pipeline processing signal F, and reconstructed data Q is output.
  • the input switch 105 inputs the reconstructed image data Q output from the second inverse wavelet transform processing unit 104 and the second low-frequency component D output from the second wavelet transform processing unit 103.
  • the input switch 105 selects one of the reconstructed image data Q and the second low-frequency component D based on the input switch control signal H transmitted from the flow control processing unit 121.
  • the selected input signal is output to the pipeline processing unit 106.
  • the pipeline processing unit 106 performs a pipeline process on the signal selected by the input switch 105 under the control of the pipeline control signal I transmitted from the flow control processing unit 121.
  • a plurality of output signals subjected to pipeline processing are output from the pipeline processing unit 106.
  • the output switch 107 is controlled by the output switch control signal J transmitted from the flow control processing unit 121, selects any one of the plurality of output signals from the pipeline processing unit 106, and the first switch Transfer to the inverse wavelet transform processing unit 102 or the second inverse wavelet transform processing unit 104.
  • the input control signal K input to the noise removal processing system 1A is input to the flow control processing unit 121 of the control unit 12.
  • the flow control processing unit 121 Upon receiving the input control signal K, the flow control processing unit 121 receives control signals (input switch control signal H, pipeline control signal I, output switch control signal) for each of the input switch 105, the pipeline processing unit 106, and the output switch 107. J) to control the operation.
  • the noise removal processing system 1A outputs the data reconstructed in the first inverse wavelet transform processing unit 102 as an output data signal L.
  • the noise removal processing unit 11 is realized, for example, by an arithmetic device such as a CPU (Central Processing Unit) or a microprocessor, or a semiconductor integrated circuit.
  • the noise removal processing unit 11 is realized by a computer device (a personal computer, a thin client computer, a workstation, a main frame, a super computer, etc.). Needless to say, the configuration of the noise removal processing unit 11 is not limited by the above-described configuration examples.
  • the control unit 12 is realized by an arithmetic device, a semiconductor integrated circuit, or the above-described various computer devices in the same manner as the noise removal processing unit 11.
  • the configuration of the control unit 12 is not limited by the above-described configuration examples.
  • noise removal processing unit 11 and the control unit 12 can be configured on one piece of hardware (arithmetic unit, semiconductor integrated circuit, computer device, etc.), or can be configured on separate hardware. .
  • the input switch 105 has a plurality of input systems and one output system, and switches the input system based on the input switch control signal H from the flow control processing unit 121.
  • the input switch 105 is realized by a selection device such as a multiplexer or a crossbar switch, for example.
  • the input switch 105 is realized by a transfer device using a LUT (Look Up Table) such as a CAM (Contents Addressable Memory) or a TCAM (Ternary Content Addressable Memory).
  • LUT Look Up Table
  • CAM Content Addressable Memory
  • TCAM Ternary Content Addressable Memory
  • the output switch 107 has a plurality of input systems and a plurality of output systems, and switches between the input system and the output system based on the output switch control signal J from the flow control processing unit 121.
  • the output switch 107 is realized by a selection circuit such as a combinational circuit using a multiplexer or a demultiplexer or a crossbar switch.
  • the output switch 107 is realized by a transfer device using an LUT such as CAM or TCAM.
  • Each of the input switch 105 and the output switch 107 may have a switching timing adjustment mechanism for avoiding simultaneous input of a plurality of input signals.
  • a buffer for shifting the timing of data input to the input switch 105 or the output switch 107 may be provided before the input switch 105 or the output switch 107.
  • each of the input switch 105 and the output switch 107 may have a mechanism for preventing data loss when a plurality of input signals are input simultaneously.
  • the data may be temporarily held in a buffer, and control may be performed so that the lost data is retransmitted when the data is lost. Control of these timings may be performed by the flow control processing unit 121, or may be autonomously controlled as internal processing in the input switch 105 or the output switch 107.
  • the configuration of the input switch 105 and the output switch 107 is not limited by the configuration example described above.
  • FIG. 5 shows an example of the configuration of the pipeline processing unit 106 according to the present embodiment.
  • the pipeline processing unit 106 includes a plurality of output switching processing units 111-1 to 111-N and a plurality of image processing units 112-1 to 112-N.
  • Each of the plurality of image processing units 112-1 to 112-N performs one or more data processes in the iterative process of the subgradient method applied to the noise removal process by the total variation (TV) norm regularization. . Details of the data processing are shown by equation (2). In other words, the number of image processing units 112 through which data passes corresponds to the number of iterations of the recurrence formula expressed by formula (2).
  • the data output from the input switch 105 is input to the first stage 111-1 of the output switching processing unit of the pipeline processing unit 106.
  • the output switching processing unit first stage 111-1 has two output systems, and data from one of these output systems is input to the image processing unit first stage 112-1 and data from the other output system. Is output to the outside of the pipeline processing unit 106 and input to the output switch 107.
  • the data processed by the first stage 112-1 of the image processing unit is input to the second stage 111-2 of the output switching processing unit.
  • the output switching processing unit second stage 112-2 has two output systems like the output switching processing unit first stage 112-1, and data from one output system is sent to the image processing unit second stage 112-2.
  • the input data from the other output system is output to the outside of the pipeline processing unit 106 and input to the output switch 107.
  • the output switching processing unit 111 and the image processing unit 112 are connected alternately and in series.
  • N is an integer of 2 or more
  • the output from the Nth stage of the image processing unit is outside the pipeline processing unit 106.
  • a pipeline control signal I is input from the flow control processing unit 121 to each of the N output switching processing units 111 included in the pipeline processing unit 106, and an output destination switching process is performed according to the pipeline control signal I. carry out.
  • all the image processing units 112 perform processing having the same effect.
  • the processing including image correction such as noise removal processing, sharpening, thinning, and color enhancement is repeated by the pipeline processing unit 106, thereby obtaining processing effects with different intensities.
  • the input data signal A input to the noise removal processing system 1A is input to the first wavelet transform processing unit 101 of the noise removal processing unit 11.
  • the input data signal A is subjected to wavelet transformation processing in the first wavelet transformation processing unit 101 and separated into a first low frequency component B and a first high frequency component C.
  • the first low-frequency component B is input to the second wavelet transform processing unit 103
  • the first high-frequency component C is input to the first inverse wavelet transform processing unit 102.
  • the first low-frequency component B input to the second wavelet transform processing unit 103 is again subjected to wavelet transform processing and separated into a second low-frequency component D and a second high-frequency component E.
  • the second high frequency component E is input to the second inverse wavelet transform processing unit 104, and the second low frequency component D is input to the input switch 105.
  • the input control signal K input to the noise removal processing system 1A is input to the flow control processing unit 121 of the control unit 12.
  • the flow control processing unit 121 dynamically controls each of the input switch 105, the pipeline processing unit 106, and the output switch 107 in accordance with the input control signal K.
  • the input switch 105 switches the input system according to the input switch control signal H transmitted from the flow control processing unit 121. At this time, when the input switch 105 selects the second low-frequency component D as the input system, the second low-frequency component D is input to the pipeline processing unit 106 via the input switch 105.
  • Each of the plurality of output switching processing units 111 included in the pipeline processing unit 106 switches the output system according to the pipeline control signal I transmitted from the flow control processing unit 121.
  • the second low-frequency component D input to the pipeline processing unit 106 is subjected to image processing in the pipeline processing unit 106 and is one of the first to Nth stages of the output switching processing unit 111 or the final stage. Output from the N-th stage image processing unit 112-N.
  • the output switch 107 is controlled by an output switch control signal J from the flow control processing unit 121. That is, one of the plurality of input systems is selected, and one of the plurality of output systems is selected.
  • the second low-frequency component D input from the second wavelet transform processing unit 103 to the pipeline processing unit 106 via the input switch 105 is output as it is without image processing, or one or more image processing units
  • the image is processed by 112 and input to the output switch 107 as the first pipeline processing signal F.
  • the output switch 107 selects the second inverse wavelet transform processing unit 104 as an output destination, and the first pipeline processing signal F is input to the second inverse wavelet transform processing unit 104.
  • the second inverse wavelet transform processing unit 104 the first pipeline processing signal F and the second high-frequency component E are subjected to inverse wavelet transform processing, and the processed signal (reconstructed image data Q) is input to the input switch. 105 is input.
  • the input switch 105 selects the second inverse wavelet transform processing unit 104 as an input system according to the input switch control signal H. Accordingly, the output (reconstructed image data Q) of the second inverse wavelet transform processing unit 104 is input to the pipeline processing unit 106 via the input switch 105.
  • the output of the second inverse wavelet transform processing unit 104 is subjected to image processing.
  • the processed signal is switched by the output switching processing unit 111 in accordance with the pipeline control signal I from the flow control processing unit 121 and output to the output switch 107 as the second pipeline processing signal G.
  • the first inverse wavelet transform processing unit 102 is selected as the output destination in accordance with the output switch control signal J from the flow control processing unit 121, and the second pipeline processing signal G is input.
  • the first high-frequency component C and the second pipeline processing signal G are subjected to inverse wavelet transform and output from the noise removal processing system 1 ⁇ / b> A as the output data signal L.
  • FIG. 6 is a flowchart illustrating an example of a procedure of a noise removal processing method in the noise removal processing system 1A according to the present embodiment.
  • step S601 in FIG. 6 When the input data signal A is input to the noise removal processing system 1A (step S601 in FIG. 6), a first wavelet transform process is performed on the input data signal A (step S602).
  • the second wavelet transform process is performed on the first low-frequency component B separated and output by the first wavelet transform process (step S603).
  • the second low frequency component D separated and output by the second wavelet transform process is input to the input switch 105.
  • the second low-frequency component D is selected as an input by the input switch 105 according to the input switch control signal H from the flow control processing unit 121 (step S604), transferred to the pipeline processing unit 106, and subjected to pipeline processing. (Step S605).
  • the pipeline processing unit 106 controls the output system of the pipeline processed data according to the pipeline control signal I from the flow control processing unit 121 and outputs the data to the output switch 107.
  • the output switch 107 selects an output system according to the output switch control signal J from the flow control processing unit 121, and selects the output destination as the first pipeline processing signal F to the second inverse wavelet transform processing unit 104. (Step S606).
  • a second inverse wavelet transform process is performed to construct reconstructed image data Q (step S607).
  • the reconstructed image data Q is input to the input switch 105 and selected as an input system according to the input switch control signal H from the flow control processing unit 121 (step S608), the reconstructed image data Q is converted into a pipeline processing unit. 106 is input.
  • the reconstructed image data Q is subjected to pipeline processing (step S609), and is output to the output switch 107 in accordance with the pipeline control signal I.
  • the output switch 107 outputs the pipeline-processed data as the second pipeline processing signal G to the first inverse wavelet transform processing unit 102 in accordance with the output switch control signal J (step S610).
  • the first inverse wavelet transform processing unit 102 for the first high frequency component C separated by the first wavelet transform in step S602 and the second pipeline processing signal G output from the output switch 107, The first inverse wavelet transform process is performed to configure the output data signal L (step S611).
  • the output data signal L is output as output data from the noise removal processing system 1 (step S612), and the process ends.
  • FIG. 7 is a flowchart illustrating an example of a procedure of pipeline processing in the pipeline processing unit 106 according to the present embodiment.
  • the pipeline processing unit 106 includes N image processing units 112 and N output switching processing units 111.
  • i is an integer from 1 to N.
  • the data input to the pipeline processing unit 106 is input to the first-stage output switching processing unit 111-1 (step S701 in FIG. 7).
  • the i-th output switching processing unit 111-i selects whether or not the i-th image processing unit 112-i performs the i-th image processing. (Step S702).
  • step S702 If it is selected in step S702 that the i-th image processing is to be performed (Yes in S702), the i-th image processing unit 112-i is selected as the output destination of the output switching processing unit 111-i (step S703). The i-th image processing unit 112-i performs image processing on the input data (step S704), and outputs the processed data.
  • step S705 it is determined whether or not the value of i is equal to N (step S705).
  • i is equal to N (S705 Yes)
  • the input system of the output switch 107 is in the Nth stage according to the output switch control signal J.
  • a signal selected and processed by the image processing unit 112-N is input to the output switch 107 (step S707).
  • step S705 if i is not N, that is, if the image processing is not the final stage N, the processed data is output to the output switching processing unit 111- (i + 1) in the next stage. That is, the value of i is incremented by 1 (step S706), and the process returns to step S702.
  • the output switch 107 is connected to the output destination of the i-th output switching processing unit 111-i according to the pipeline control signal I. Is selected (step S708). At this time, the output switch 107 selects an input system for the i-th output switching processing unit 111-i according to the output switch control signal J (step S709), outputs data, and ends the process.
  • the input switch control signal H, the pipeline control signal I, and the output switch control are transmitted from the flow control processing unit 121 to the input switch 105, the pipeline processing unit 106, and the output switch 107. Each signal J is input.
  • the input switch 105 controls the input system based on the input switch control signal H. Based on the pipeline control signal I, the pipeline processing unit 106 controls the number of times image processing is performed on the data (that is, the number of image processing units 112 through which the data passes).
  • the output switch 107 controls the input system and the output system based on the output switch control signal J.
  • the second low-frequency component D output from the second wavelet transform processing unit 103 and the reconstructed image data output from the second wavelet inverse transform processing unit 104 can be dynamically changed with respect to Q. Thereby, the noise removal processing performance for the data can be dynamically changed.
  • a period during which the second low-frequency component D output from the second wavelet transform processing unit 103 is processed, and an output from the second wavelet inverse transform processing unit 104 It is possible to pipeline each of the two types of signals with different numbers of image processings by the flow control processing unit and the one pipeline processing unit 106 during the period for processing the output signal to be processed. For this reason, when the noise removal processing system is realized by a circuit, an increase in circuit scale is suppressed.
  • the wavelet transform process is performed twice on the input data, but the present invention is not limited to this.
  • the wavelet transform process may be performed three times or more.
  • the input switch has three inputs, that is, a third low-frequency component, an output signal from the third inverse wavelet transform processor, and a second inverse An output signal from the wavelet transform processing unit is input as an input system.
  • Pipeline processing is performed by one pipeline processing unit for these three systems of inputs.
  • a wavelet transform switching processing unit 108 is added to the noise removal processing unit 11 of the noise removal processing system 1A according to the first embodiment.
  • the input switch 110 has three input systems. Since the other configuration is the same as that of the noise removal processing unit in the first embodiment, the same reference numerals are given to the respective components and the description thereof is omitted.
  • the flow control processing unit 121 included in the control unit 12 includes an input switch control signal H and a pipe based on the input control signal K input to the noise removal processing system 1B.
  • a line control signal I, an output switch control signal J, and a wavelet control signal R are generated.
  • the flow control processing unit 121 outputs the input switch control signal H to the input switch 110, outputs the pipeline control signal I to the pipeline processing unit 106, outputs the output switch control signal J to the output switch 107, and performs wavelet control.
  • the signal R is output to the wavelet transform switching processing unit 108.
  • the first low frequency component B output from the first wavelet transform processing unit 101 is input to the wavelet transform switching processing unit 108.
  • the wavelet transformation switching processing unit 108 includes a second wavelet transformation processing unit 103 and an input switch 110 as two systems of output for one system of input.
  • the wavelet transform switching processing unit 108 is controlled by the wavelet control signal R from the flow control processing unit 121 to switch the output system.
  • the input switch 110 is controlled by the input switch control signal H from the flow control processing unit 121, and the second low frequency component D output from the second wavelet transform processing unit 103 and the second inverse wavelet transform process.
  • One of the output signal output from the unit 104 and the first low-frequency component B output from the wavelet transform switching processing unit 108 is selected and input to the pipeline processing unit 106.
  • the first low-frequency component B output from the first wavelet transform processing unit 101 is input to the wavelet transform switching processing unit 108, and is output to either the second wavelet transform processing unit 103 or the input switch 110. .
  • the input switch 110 selects the first low frequency component B as an input system according to the input switch control signal H from the flow control processing unit 121, Input to the pipeline processing unit 106.
  • the first low-frequency component B is output as a second second pipeline processing signal G through 0 to N (N is an integer of 2 or more) image processing units 112 in the pipeline processing unit 106. Input to the switch 107. At this time, the output switch 107 selects the first inverse wavelet transform processing unit 102 as an output destination according to the output switch control signal J.
  • the second pipeline processing signal G is input to the first inverse wavelet transform processing unit 102.
  • the first inverse wavelet transform processing unit 102 performs inverse wavelet transform processing on the first high-frequency component C and the second pipeline processing signal G, and the processed data is output as an output data signal L. Output from the noise removal processing system 1B. [Operation] Next, a noise removal processing method according to the second embodiment will be described.
  • FIG. 9 is a flowchart showing an example of the operation of the noise removal processing system 1B according to the present embodiment.
  • step S901 data is input to the noise removal processing system 1B (step S901 in FIG. 9), and a first wavelet transform process is performed on the input data (step S902).
  • step S903 it is selected whether or not to continue the second wavelet transform process for the first low-frequency component B separated by the first wavelet transform process.
  • Step S903 when it is selected that the second wavelet transformation process is to be performed, the second wavelet transformation processing unit 103 is selected as an output destination for the wavelet transformation switching processing unit 108 (Step S904).
  • the subsequent processing is the same as the operation in the first embodiment. That is, steps S905 to S914 in FIG. 9 are the same as steps S603 to S612 in FIG. 6 in the first embodiment, and the pipeline processing operations in steps S907 and S911 are the same as those in the pipeline in the first embodiment. Since it is the same as the process, the description is omitted.
  • step S903 If it is selected in step S903 that the second wavelet transformation process is not performed, the wavelet transformation switching processing unit 108 selects the input switch 110 as an output destination (step S915). At the same time, the input switch selects the first low frequency component B as the input destination (step S916).
  • the input switch transfers the first low frequency component B to the pipeline processing unit 106, and the pipeline processing is performed on the first low frequency component B (step S911).
  • the pipeline-processed signal is sent to the output switch 107.
  • the output switch 107 selects the first inverse wavelet transform processing unit 102 as an output destination, and transfers the pipeline-processed signal to the first inverse wavelet transform processing unit 102.
  • the first inverse wavelet transform processing unit 102 performs the first inverse wavelet transform on the first high-frequency component C and the pipeline-processed signal, and uses the processed data as the output data signal L. And output from the noise removal processing system 1B. [effect] Next, the effect of the second embodiment will be described.
  • a wavelet transform switching processing unit is added to the configuration in the first embodiment. That is, the input switch 110 can be selected as an output destination before the first low-frequency component B output from the first wavelet transform processing unit 101 is input to the second wavelet transform processing unit 103. . That is, when the second wavelet transform processing unit 103 is selected as the output destination, the same processing as in the first embodiment is performed, and the same noise removal processing performance is obtained.
  • the noise removal system 1B can suppress the noise removal processing performance as compared with the noise removal processing system 1A according to the first embodiment.
  • switching of the data transfer destination in the wavelet transformation switching processing unit 108 can be dynamically controlled by the flow control processing unit 121.
  • the number of wavelet transform stages can be dynamically controlled, so that the noise removal processing performance can be changed more flexibly. Is possible.
  • the second wavelet transformation processing and the third wavelet transformation processing are not performed.
  • the output destination of the second wavelet transformation switching processing unit is an input switch, only the third wavelet transformation processing is not performed.
  • the output destination of the second wavelet transformation switching processing unit is the third wavelet transformation processing unit, noise removal processing including three-stage wavelet transformation is performed on the input signal.
  • FIG. 10 shows an example of the configuration of a noise removal processing system 1C according to the third embodiment corresponding to the first embodiment of the present invention.
  • the noise removal processing system 1 ⁇ / b> C includes a noise removal processing circuit 21 and a control unit 22.
  • the noise removal processing circuit 21 implements the noise removal processing unit 11 shown in FIG. 4 as a dedicated circuit.
  • the noise removal processing circuit 21 includes a first wavelet transformation processing circuit 201, a second wavelet transformation processing circuit 203, a first inverse wavelet transformation processing circuit 202, and a second inverse wavelet transformation processing circuit 204.
  • the noise removal processing circuit 21 further includes a 2to1 input changeover switch 205 having a multiplexer and a buffer for performing one system output for two systems of input, a first TV pipeline processing circuit 206, and an output crossbar switch 207. Including.
  • the noise removal processing circuit 21 further includes a second TV pipeline processing circuit 209.
  • the first wavelet transformation processing circuit 201 corresponds to the first wavelet transformation processing unit 101 in FIG.
  • the second wavelet transformation processing circuit 202 corresponds to the second wavelet transformation processing unit 103.
  • the first inverse wavelet transform processing circuit 202 corresponds to the first inverse wavelet transform processing unit 102 in FIG.
  • the second inverse wavelet transform processing circuit 204 corresponds to the second wavelet transform processing unit 104.
  • the 2to1 input changeover switch 205 corresponds to the input switch 105 in FIG. 4, the first TV pipeline processing circuit 206 corresponds to the pipeline processing unit 106, and the output crossbar switch 207 corresponds to the output switch 107.
  • the second TV pipeline processing circuit 209 has the same configuration as the first TV pipeline processing circuit 206.
  • the second TV pipeline processing circuit 209 performs pipeline processing on the data reconstructed by the first inverse wavelet transform processing circuit 202, and outputs it as the output data signal L of the noise removal processing system 1C.
  • FIG. 11 shows an example of the configuration of the first TV pipeline processing circuit 206 or the second TV pipeline processing circuit 209.
  • the first stage 211-1 of the output switching processing circuit corresponds to the output switching processing unit 111-1 in FIG.
  • the TV processing circuit first stage 212-1 corresponds to the image processing unit 112-1 in FIG.
  • the output switching processing circuit and the TV processing circuit after this stage correspond to the components shown in FIG.
  • FIG. 11 three output switching processing circuits 211 and TV processing circuits 212 are shown, but the number of each circuit is not limited to three.
  • the TV processing circuit performs a calculation process for one iteration of the iterative process for separating the skeleton components by the TV regularization method. For this reason, the present embodiment shows an example in which the TV processing is performed at most three times as shown in FIG.
  • one TV processing circuit may perform calculation processing for a plurality of times of the iterative processing.
  • FIG. 12 shows an example of the configuration of a signal processing system including the noise removal processing system 1C according to the present embodiment.
  • the noise removal processing system 1 ⁇ / b> C receives the input data signal A from the external CCD sensor 3 and receives the input control signal K from the brightness sensor 4.
  • the noise removal processing system 1C is not limited to the above example, and may receive the input data signal A from a different image processing system that performs correction processing on an image. Moreover, you may receive from imaging
  • the noise removal processing system 1C may receive the input control signal K from various sensors such as an infrared sensor and a luminance sensor without being limited to the above example. Moreover, the output of the execution process of programs, such as a noise analysis system and a scene analysis system, and the output from information processing apparatus may be sufficient. Further, it may be input manually by a user via a switch, dial, or the like.
  • the input data signal A is sequentially input pixel by pixel along the scanning line direction of the screen.
  • the noise removal processing circuit 21 receives input in units of pixels and outputs an output data signal L in units of pixels.
  • the control unit 22 includes a flow control processing unit 221 and a memory 222.
  • the flow control processing unit 221 is realized by a general-purpose arithmetic processing device such as a CPU or a microcomputer.
  • the flow control processing unit 221 refers to the configuration information stored in the memory 222 and refers to the input switch control signal H, the output switch control signal J, the first TV pipeline control signal M, and the second TV pipe.
  • a line control signal N is generated and transmitted.
  • FIG. 13 shows a configuration example of a part of the noise removal processing circuit 21.
  • a 2to1 changeover switch 205 a first TV pipeline processing circuit 206, and an output crossbar switch 207 are shown.
  • a flow control processing unit 221 configuring the control unit 22 is also shown.
  • the 2to1 changeover switch 205 has two inputs (input system 1 and input system 2). For example, the TV process is performed three times for the input of the input system 1 and the TV process is performed once for the input of the input system 2.
  • the pipeline control signal from the flow control processing unit 221 controls the flow of input data as follows. That is, for input data from the input system 1, the output destination is set to the first stage of the TV processing circuit by the control signal of the first stage of the TV processing circuit, and the output destination is set to TV by the control signal of the second stage of the TV processing circuit. The second stage of the processing circuit is set, and the output destination is set to the third stage of the TV processing circuit by the control signal of the third stage of the TV processing circuit.
  • the output destination is set to the first stage of the TV processing circuit by the control signal of the first stage of the TV processing circuit, and the output destination is output by the control signal of the second stage of the TV processing circuit.
  • the crossbar switch Set to the crossbar switch.
  • the control signal to the output crossbar switch 207 is issued while adjusting the timing in order from the first stage.
  • FIG. 14A shows a clock (CLK), an input data signal A, a first low-frequency component B output from the first wavelet transform processing circuit 201, and a second output from the second wavelet transform processing circuit 203.
  • CLK clock
  • FIG. The waveform of the low frequency component D is shown.
  • the input data signal A is a signal in which data is continuously output in synchronization with the clock.
  • the first low-frequency component B is a signal from which data is intermittently output.
  • the reason why the signal is intermittently output is derived from the two-dimensional wavelet transform.
  • the output throughput of the low-frequency component separated by the wavelet transform is a quarter of the signal throughput before the wavelet transform. This relationship is the same between the first low-frequency component B and the second low-frequency component D that is the “output” when the “input” of the wavelet transform is the first low-frequency component B. is there.
  • the TV pipeline processing is performed three times. That is, the configuration of the noise removal processing system 1C shown in FIG. 10 corresponds to the configuration obtained by adding the second TV pipeline processing circuit 209 to the noise removal processing system shown in FIG.
  • the noise removal processing system shown in FIG. 3 includes a TV noise removal unit 1014 and an initial solution generation unit 1015.
  • a second TV pipeline processing circuit 209 is added to the two TV processing units, and FIG. 1C is obtained.
  • the TV pipeline processing circuit can be shared by using the characteristics of the wavelet transform described above.
  • the data generation timing to the TV pipeline processing circuit has the same waveform as the timing shown in FIG. 14A, and inputs are generated simultaneously.
  • the buffer included in the 2to1 changeover switch 205 when the buffer included in the 2to1 changeover switch 205 is used, the data output timings from the input system 1 and the input system 2 (FIG. 13) of the 2to1 input changeover switch 205 shown in FIG. 13 are shown in FIG. 14B. Can be shifted. Thereby, data from two input systems can be processed by one first TV pipeline processing circuit 206.
  • the flow control processing unit 221 that controls the 2to1 switch 205 transmits the input switch control signal H at an appropriate timing using a state machine, a cycle counter, or the like.
  • the 2to1 switch 205 switches the input system according to the input switch control signal H.
  • the output crossbar switch 207 includes a buffer having a sufficient capacity in advance in the input unit or output unit of each crossbar switch, and controls the output timing by buffering the output signal for a necessary time. This control processing is also performed according to the output switch control signal J from the flow control processing unit 221.
  • the memory 222 of the control unit 22 stores instruction data necessary for the above control operation.
  • the flow control processing unit 221 analyzes the lightness signal and reads data necessary for the control operation corresponding to the lightness signal from the memory 222.
  • the flow control processing unit 221 transmits various control signals at appropriate timings and performs control operations of the respective units.
  • the 2to1 changeover switch, the output crossbar switch, and the TV pipeline processing circuit are all controlled by the flow control processing unit 221, but the present invention is not limited to this. That is, the noise removal processing circuit 21 may include a module that independently has a state machine and a clock counter and performs control autonomously. [Operation] Next, the operation of the noise removal processing system 1C according to the third embodiment will be described with reference to FIG. FIG. 15 is a flowchart illustrating an example of a procedure of noise removal processing according to the third embodiment of the present invention.
  • the TV pipeline processing in step S1505 and the TV pipeline processing in step S1509 can be executed simultaneously.
  • the timing control of the 2to1 switch 205 is performed in units of clocks as described above so that the input timings do not overlap, and the input system is switched for each clock. Thereby, the TV pipeline processing circuit 206 can be shared.
  • FIG. 16 is a flowchart showing in detail a series of procedures in the TV pipeline processing circuit 206 in steps S1505 to S1509 shown in FIG.
  • the processing in steps S1601 to S1609 in FIG. 16 corresponds to steps S701 to S709 shown in FIG.
  • the value of N in FIG. Since the other processes are the same as those in FIG. [effect] Next, the effect of the noise removal processing system 1C according to the embodiment of the present invention will be described.
  • the noise removal processing system 1C analyzes the input control signal K from the brightness sensor 4 by the flow control processing unit 221, reads out data about an appropriate control operation and an appropriate control timing from the memory 222, The noise removal processing circuit 21 is controlled.
  • the input switch control signal H is input to the 2to1 switch 205.
  • Each TV pipeline control signal is input to each TV pipeline processing circuit.
  • the output switch control signal J is input to the output crossbar switch 207.
  • the 2to1 changeover switch 205 controls the switching of the input system based on the input switch control signal H.
  • Each TV pipeline processing circuit controls the number of TV processing, that is, the number of TV processing circuits through which data passes, based on each pipeline control signal.
  • the output crossbar switch 207 controls switching between the input system and the output system based on the output switch control signal J.
  • the number of processes executed in the TV pipeline processing circuit for the second low-frequency component D and the first TV processing signal is dynamically changed. Can do. Thereby, the noise removal processing performance is dynamically changed.
  • the timing at which the second low-frequency component D is input to the TV pipeline processing circuit 206 and the second inverse wavelet transform processing circuit 204 The flow control processing unit 221 controls the timing at which the output signal is input. That is, by intentionally controlling the 2to1 switch 205 from the flow control processing unit 221, the two types of signals from the second low-frequency component D and the second inverse wavelet transform processing circuit 204 are converted into one
  • the TV pipeline processing circuit 206 can perform pipeline processing with different TV processing times. Therefore, an increase in circuit scale when the noise removal processing system is realized by a circuit can be suppressed.
  • FIG. 17 shows an example of the configuration of a noise removal processing system 1D according to the fourth embodiment, corresponding to the second embodiment of the present invention.
  • a noise removal processing system 1D according to the fourth embodiment is obtained by adding a wavelet transform switching processing circuit 208 to the noise removal processing circuit 21 according to the third embodiment.
  • the 2to1 changeover switch 205 in the third embodiment is changed to the 3to1 changeover switch 210.
  • Other components in the noise removal processing circuit 21 are the same as those in the noise removal processing circuit 21 according to the third embodiment. Accordingly, in FIG. 17, the same reference numerals as in FIG. 10 are given, and description thereof will be omitted in the following description.
  • the flow control processing unit 221 has a function of issuing a wavelet control signal R for controlling the wavelet conversion switching processing circuit 208.
  • the first low frequency component B output from the first wavelet transform processing circuit 201 is input to the wavelet transform switching processing circuit 208.
  • the wavelet transform switching processing circuit 208 switches the output destination according to the wavelet control signal R from the flow control processing unit 221.
  • the subsequent operation is the same as the processing in the noise removal processing system 1C according to the third embodiment, and the description thereof is omitted.
  • the 3to1 selector switch 210 selects the wavelet transform switching processing circuit 208 as an input system.
  • the first low-frequency component B is processed by the first TV pipeline processing circuit 206 via the 3to1 changeover switch 210, and the processed data is input to the output crossbar switch 207.
  • the output crossbar switch 207 selects the first inverse wavelet transform processing circuit 202 as an output destination.
  • the data processed by the first inverse wavelet transform processing circuit 202 is subjected to TV processing in the second TV pipeline processing circuit 209 and output as an output data signal L.
  • Steps S1801 to S1816 in FIG. 18 correspond to steps S901 to S916 shown in FIG. 9, respectively.
  • each circuit of the noise removal processing system 1D shown in FIG. 17 performs processing operation in a pipeline, each process of steps S1801 to S1816 shown in FIG. 18 can be processed in parallel.
  • the TV pipeline processing in step S1807 and the TV pipeline processing in step S1811 can be executed simultaneously.
  • the timing control of the 3to1 selector switch 210 is performed in units of clocks so that the input timings do not overlap, and the input system is switched for each clock.
  • the TV pipeline processing unit 206 can be shared.
  • step S1807 and step S1811 The operation of the TV pipeline processing in step S1807 and step S1811 is the same as the operation of the TV pipeline processing in the third embodiment described with reference to FIG.
  • the noise removal processing system includes a data flow control unit that arranges a switch for switching the output direction between modules and controls the data flow of input data. By switching the switch between modules in the data flow control unit, the connection between modules can be dynamically changed.
  • the noise removal processing system 1D of the fourth embodiment described above dynamically controls each output switching processing unit of the pipeline processing unit to dynamically change the number of image processing units through which data passes, The processing strength in the pipeline processing unit is dynamically changed.
  • the noise removal processing system 1D connects outputs from the plurality of wavelet transform processing units to one pipeline processing unit via a switch.
  • the switch operation is controlled in consideration of the timing of the output of low-frequency component data output from each wavelet transform processing unit and the difference in throughput. Since the pipeline processing unit can be shared in a plurality of data processing, an increase in circuit scale can be suppressed.
  • the noise removal processing system 1D dynamically controls the input switch for the two data of the second low-frequency component and the reconstructed image from the inverse wavelet transform processing unit, and inputs the data to the pipeline processing unit.
  • Data from a plurality of modules is input to a single pipeline processing unit, whereby pipeline processing can be performed independently for each of the plurality of data flows.
  • the pipeline processing unit can achieve the object of the present invention of dynamically changing the noise removal processing performance by dynamically changing the processing intensity.
  • a program for executing the above processing operations is stored in a computer-readable non-transitory recording medium such as a flexible disk, a CD-ROM (Compact Disk Read-Only Memory), or an MO (Magneto-Optical disk).
  • the apparatus may be configured to perform the above-described processing operation by distributing the program or distributing the program via a network and installing the program in a computer.
  • the present invention can be suitably applied to a noise removal processing system that removes mixed noise from a digital signal output from a sensor such as an image sensor of a digital camera.
  • the present invention can be used for a digital camera or a video camera whose noise removal performance can be changed depending on the intensity of noise.
  • the present invention can be applied to a purpose of removing noise from a signal obtained by digitally converting an analog signal output from a microphone or the like.

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

[課題] 装置規模を増大させることなく、ノイズ除去処理性能を動的に変更できるようにする。 [解決手段] 信号処理装置は、入力信号を、第1の低周波信号と第1の高周波信号とに分離する第1手段と、第1の低周波信号を、第2の低周波信号と第2の高周波信号とに分離する第2手段と、第2の低周波信号に対してパイプライン処理を行うことによって、第1のパイプライン処理信号を生成するとともに、第1の再構成信号に対してパイプライン処理を行うことによって、第2のパイプライン処理信号を生成する第3手段と、第2の高周波信号と第1のパイプライン処理信号とに基づいて、第1の再構成信号を生成する第4手段と、第1の高周波信号と、第2のパイプライン処理信号とに基づいて、第2の再構成信号を生成する第5手段と、第2の低周波信号と第1の再構成信号のうちの一方を選択し、選択した信号を第3手段に転送する第6手段と、第1のパイプライン処理信号を第4手段に転送し、第2のパイプライン処理信号を第5手段に転送する第7手段と、を有し、第2の再構成信号を出力信号として出力する。

Description

信号処理装置、信号処理方法、および記憶媒体
 本発明は、信号処理装置、信号処理方法、および記憶媒体に関し、特に、画像信号に含まれるノイズを除去する信号処理装置、信号処理方法、および記憶媒体に関する。
 画像データや音声データを構成するデジタル信号に対する、圧縮処理やノイズ除去処理においては、構成データのそれぞれについて、空間或いは平面座標領域から周波数領域への変換処理が多く行われる。すなわち、デジタル信号に対するデータ処理においては、座標領域でのデータ分布における、視覚或いは聴覚で認識される領域と、殆ど認識されない領域とを、周波数領域への変換により分離することができるので、データ量の削減やノイズの除去などの処理が可能である。
 例えば、画像データのデータ量を圧縮する方式の一つであるJPEG(Joint Photographic Experts Group)では、画像データは、離散コサイン変換により空間座標領域から周波数領域へ変換される。周波数領域でのデータは、量子化され、高周波成分の削除によりデータ量が削減された後に、エントロピー符号化によりデータ圧縮が行われる。JPEGによる圧縮処理において、画像データは、離散コサイン変換され、視覚により殆ど認識されない高周波成分を除去して低周波成分が残されることにより、元の画像に対して視覚的に殆ど変化がみられないような、データ量の圧縮が行われる。
 さらに、JPEGの後継の規格であるJPEG2000では、周波数領域への変換処理に離散ウェーブレット変換が採用される。離散ウェーブレット変換は、離散コサイン変換での基底である遍在した余弦波ではなく、空間的に局在する波束を基底として演算処理を行う。離散ウェーブレット変換における、画像データの画素値の低周波成分の画質は、離散コサイン変換における画質と同等である。さらに、離散ウェーブレット変換は、輪郭などの急激に画素値が変化する部分に対してもノイズを発生させない符号化を実行することができる。離散コサイン変換においては、輪郭部分での高周波成分の削除によるノイズが不可避であったが、離散ウェーブレット変換においては、ノイズの発生が抑制される。すなわち、符号化によって、低周波成分については比較的元の画像の色彩情報が維持される一方、画像中で画素値が急激に変化する部分であるエッジ情報も保持される。
 画像や音声などのデータに含まれるノイズのうち、高周波成分のノイズとして、例えば、CCD(Charge Coupled Device)センサなどの撮像素子に由来するカメラノイズがある。このノイズは、CCDを用いて被写体を撮影するときに、隣接する画素間を流れる電流の影響により、画素に生じる。このノイズは、数画素程度の大きさの粒状の特異な点として画像上に現れる。このようなノイズは、離散コサイン変換やウェーブレット変換によって、高周波成分として分離されることが多い。
 一方、低周波成分のノイズとしては、上記の粒状のノイズを含む画像信号の変換処理などにより生じるノイズがある。すなわち、デジタルカメラなどの撮像素子から得られるベイヤパターンの色信号は、画像データとしてRGBパターンを生成するときに、画素間で色信号を平均化するなどの処理が必要である。このような画像処理によって、粒状のノイズは広範囲に拡大する。高周波成分のノイズが画像中に粒状の点として視覚されるのに対して、低周波成分のノイズは、画像中では被写体を覆うもやのように視覚される。
 このようなノイズは、被写体に存在しなかった色情報である。より忠実に被写体の画像を得るために、ノイズの除去が必要である。デジタルカメラやデジタルビデオカメラ等の、撮像素子によって得られる画像や映像には、上記のような高周波成分および低周波成分のノイズが混入するため、ノイズの除去が必須である。ノイズの除去は、情報処理装置側で行われることが一般的であるが、デジタルカメラ等の撮影機器側で行われる場合もある。
 撮影機器内でノイズ除去処理が行われる場合、消費電力や実装面積が制約される等の理由により、撮影機器には高性能なCPU(Central Processing Unit)が搭載できないことがある。このような場合は、ノイズ除去処理の専用回路、或いはFPGA(Field Programmable Gate Array)上でノイズ除去処理を実行することにより、高速処理、更にはリアルタイム処理が実現される。
 特許文献1の画像符号化装置は、画像データを画像ブロックに分割し、各画像ブロックに対して離散ウェーブレット変換を行う。画像符号化装置は、変換処理で得られた任意の周波数帯域の変換データから離散ウェーブレット変換後の高域側周波数帯域の変換データ値を予測する。さらに、画像符号化装置は、離散ウェーブレット変換処理で得られた高域側周波数帯域の変換データと上記の予測結果との差分をとる。画像符号化装置は、任意の周波数帯域の変換データを圧縮符号化するとともに、上記の減算結果である差分を圧縮符号化する。連続した同一の値の発生が抑制されることにより、ブロック状のノイズは、除去される。すなわち、特許文献1の画像符号化装置は、ブロックノイズの生成を抑制することはできる。
 しかしながら、特許文献1の画像符号化装置は、上述のように画像中に不規則に発生するカメラノイズや、フォーマット変換により生じる低周波ノイズを除去することはできない。
 画像データのノイズを除去する方法として、分離型変分モデルが提案されている(非特許文献1)。このモデルでは、入力画像は、幾何学的画像構造に対応した骨格成分Uと振動的テクスチャVとに分解される。例えば、画像の拡大処理の場合、成分毎に拡大処理が実行される。それぞれに拡大された各成分が合成されることにより、入力画像を拡大した拡大画像が得られる。
 振動的テクスチャVは雑音の影響を受けているが、骨格画像Uは雑音の影響を受けていない。従って、雑音成分除去の対象は、振動的テクスチャVのみである。
 入力画像から、ノイズを含まない骨格成分Uを分離する方法として、全変分(Total Variation、以下、T-Vと称する)ノルム正則化によるノイズ除去処理方法(以下では、T-V法と称する)が知られている。非特許文献2は、T-V法を開示する。
 T-V法において、画像信号は、骨格成分と残差成分とに分離される。骨格成分は、強エッジと平坦領域から構成される。一方、残差成分は、テクスチャとノイズから構成される。残差成分のノイズ成分を、既知の方法により減衰させることにより、画像信号に含まれるノイズが除去される。
 骨格成分は以下の式(1)で定義されるT-VノルムJ(U)を最小化することにより得られる。
[数1]
Figure JPOXMLDOC01-appb-I000001
 なお、上記の式の中で、UT-Vは、骨格成分を示す。xは、骨格成分UT-Vの水平方向の画素位置を示す。yは、骨格成分UT-Vの垂直方向の画素位置を示す。
 この最小化問題は、非特許文献3に記載されるChambolleの射影法を用いて解くことができる。
 ただし、Chambolleの射影法は計算量が多く、リアルタイム処理には向いていない。この射影法の代替として、T-Vノルムの劣勾配を用いた劣勾配法が用いられる。劣勾配法においては、kを反復回数、UT-V (k)をk回目の反復時の骨格成分、βを対象画像のノイズの標準偏差に基づいて設定される値とする。反復処理の初期値(k=0)として、骨格成分UT-V (0)に入力画像を設定する。
 劣勾配法における反復処理の漸化式を以下の式で示す。すなわち、(k+1)回目の反復時の骨格成分UT-V (k+1)は、以下のように表される。
[数2]
Figure JPOXMLDOC01-appb-I000002
ただし、
Figure JPOXMLDOC01-appb-I000003


Figure JPOXMLDOC01-appb-I000004
および
Figure JPOXMLDOC01-appb-I000005
 ここで、Fは原画像であり、J(U)は上述のT-Vノルムである。
 上記の反復処理において、まず、k回目の反復の結果と(k+1)回目の反復の結果とが比較される。変動量が十分小さいとの判断により解が収束したと見なされた場合、反復処理は、停止する。一方、収束が遅い場合、反復処理は、反復回数kが設定した最大の反復回数に到達したときに、停止する。
 上記のT-Vノルム正則化によるノイズ除去方法に基づいて、画像信号のノイズを除去する装置は、上記(2)式の処理を実行するためのモジュール(T-Vモジュール)が実行された、専用回路またはFPGAを備える。このモジュールは、反復処理の1回分の計算を実行する。反復処理において、このモジュールの出力は、再度、T-Vモジュールに入力される。劣勾配法の反復回数だけ再入力を繰り返すことにより、(2)式の反復処理が、実現される。
 特にリアルタイム処理、例えば映像信号に対するストリーム処理、を行う場合、入力される映像信号と少なくとも同じデータレートで、ノイズ除去処理の結果を出力する必要がある。すなわち、処理回路内におけるデータの滞留は、許容されない。しかしながら、上記反復処理(T-Vモジュールの出力をT-Vモジュールに再入力させることにより、(2)式の反復処理を繰り返す処理)の場合、上記データ滞留が発生する可能性がある。このため、劣勾配法の反復処理に対しては、1段目のT-Vモジュールの出力は異なるT-Vモジュールに入力して、それぞれ別個にノイズ除去処理を実行することにより、処理速度の低下を回避する。すなわち、反復回数と同一数のT-Vモジュールを直列に接続する(パイプライン構造とする)ことにより、T-Vノルム正則化によるノイズ除去は、リアルタイムに実行される。
 特許文献2は、上記のT-V法を利用したノイズ除去処理システムを開示する。
 特許文献2の開示するノイズ除去処理システムにおいては、T-Vノルム最小化問題に対する劣勾配法等の反復処理の初期解UT-V (0)として、原画像を用いる代わりに、異なる手段により生成された初期ノイズ除去画像が設定される。この初期解の設定により、反復処理の収束解が得られるまでの反復処理の回数が削減され、より高速なノイズ除去処理システムが提供される。
 初期ノイズ除去画像を生成する手段として、Bilateralフィルタを用いる方法、及び、ウェーブレット縮退法を用いる方法がある。ウェーブレット縮退法を用いる方法においては、ウェーブレット変換を複数回用いてフィルタバンクを構成する多重解像度解析を用いることで、原画像中に含まれる低周波成分に含まれるノイズ除去処理性能が向上する。
 図1は、特許文献2の開示するT-V法のノイズ除去処理システム1001Aの一例を示す。ノイズ除去処理システム1001Aは、ウェーブレット変換を2回行ってノイズ除去処理を行う。最初のウェーブレット変換回路1101による多重解像度解析により入力画像信号は、高周波成分と低周波成分に分離される。高周波成分のT-V法によるノイズ除去処理を行う階層と、低周波成分のT-V法によるノイズ除去処理を行う階層のそれぞれにおいて、ウェーブレット縮退回路1102及び1106は、それぞれに、ノイズ除去処理を実行する。そして、処理された信号が初期解として用いられる。このように、各階層で初期ノイズ除去画像を求めて、各階層のT-V法の初期解とすることにより、各階層のT-V法ノイズ除去処理で解が収束するまでに必要な反復回数が削減される。また、ウェーブレット変換を複数回実行して、より低周波領域の成分を抽出することにより、高周波ノイズだけでなく、多重解像度解析で分離した低周波成分に含まれる低周波ノイズも除去される。ウェーブレット変換の回数を増加させ、より低周波の周波数成分を分離すると、低周波ノイズの除去性能は、向上する。上記のことから、特許文献2に記載されるノイズ除去処理システムにおいては、ウェーブレット変換の回数と、劣勾配法の反復回数制限に応じて、ノイズ除去性能が変更される。
 特許文献3は、パイプライン処理を開示する。特許文献3に記載される画像処理パイプライン回路は、複数の画像処理機能を行うモジュールを連結して、モジュール間の遅延を考慮して、入力されたデータに対して複数回の画像処理を行う。すなわち、画像処理モジュール間の相対的な遅延量を付加して同期信号を生成し、出力信号における遅延による影響を排除する。
特開平8-242450号公報 特願2012-102019号 特開2006-318315号公報
石井勇樹、中川陽介、小松隆、齊藤隆弘、"乗算型骨格/テクスチャ画像分離の画像処理への応用"、電気情報通信学会論文誌D,Vol.J90-D、No.7、p.1682-1685、2007年 L.Ludin,S.Osher,E.Fatemi,"Nonlinear Total Variation based noise removal algorithms",Physica D, vol.60,1992,pp.259-268. A.Chambolle、J.Math.Imaging&Vision、Vol.20、p.89-97、2004
 このとき、T-Vノルム正則化によるノイズ除去処理の劣勾配法の反復回数は、T-Vモジュールの個数として、回路上に表現される。このとき、過大な反復回数が設定されると、T-Vモジュールの物理的な数が増加し、回路規模の増大につながる。そのため、回路規模の増加を抑制しつつ、所望のノイズ除去性能を達成するためには、劣勾配法の反復回数を調整しながら、最適なモジュール構成を求める必要がある。
 一方、画像信号に混入するノイズの量は、撮影環境の変化にも影響される。混入したノイズの量に比べて、ノイズ除去処理性能が強すぎる場合、画像の解像感を損なう場合がある。このため、ウェーブレット変換の実行回数は多ければよいということはなく、ノイズの混入量に応じて、ノイズ除去処理性能が可変であることが望ましい。
 撮影環境は、撮影場所及び撮影時刻に強く影響されるため、ノイズ除去処理を行う撮影機器は容易にノイズ除去性能を変更できることが望ましい。
 しかしながら、T-Vノルム正則化によるノイズ除去方法によるノイズ除去処理回路では、ウェーブレット変換と、それに続くT-Vモジュールのパイプラインが物理的に接続されているため、ノイズ除去性能は固定されている。このため、ノイズ除去性能の変更には回路構成そのものの変更を伴うため、ノイズ除去性能の変更には手間と時間がかかっていた。
 特許文献2に記載のノイズ除去処理システムを、リアルタイム処理を行う回路として実装する場合、ウェーブレット変換の回数はウェーブレット変換モジュールの個数として、T-V法における反復回数はT-Vモジュールの個数として回路上で表現される。所望の性能でのノイズ除去処理を実行するには、ウェーブレット変換の回数や、T-Vモジュールの反復回数を調整しながら、最も相応しいモジュール構成を探索する必要がある。すなわち、ウェーブレット変換モジュールの個数及びT-Vモジュールの個数を調整しながら、最も相応しいモジュール構成を探索する必要がある。
 図2は、特許文献2に記載のノイズ除去処理回路1001Bの一例のブロック図を示す。ノイズ除去処理回路1001Bにおいて、ウェーブレット変換の回数は2回、T-Vモジュールの反復回数はウェーブレット変換の1回目の階層で5回、2回目の階層で3回としている。
 図3は、特許文献2に記載のノイズ除去処理回路1001Bを変形したノイズ除去処理回路1001Cのブロック図を示す。ノイズ除去処理回路1001Cは、ウェーブレット変換の2回目の階層で分離された低周波成分をさらにTVノイズ除去を行って初期解生成処理をして、逆ウェーブレット変換回路1107に入力する。同時に、ウェーブレット変換の1回目の階層では、T-Vモジュールの反復処理は、省略される。
 図2及び図3に示される各ノイズ除去処理回路1001B、1001Cにおいて、それぞれのモジュールは配線によって物理的に結線される。このため、一度回路が実装されると、その回路のノイズ除去処理性能は固定され、撮影環境によってノイズ除去処理性能を動的に変更したいという要求に対応できない。図2に示されるノイズ除去処理回路と図3に示されるノイズ除去処理回路の違いは、T-Vモジュールの反復回数が異なる点のみである。しかしながら、両回路は、別個のハードウェアとして構成されている。
 すなわち、上記のノイズ除去処理回路において、アルゴリズム上のパラメータを変更するには、ハードウェア構成の変更を伴う。このため、T-V法を用いたノイズ除去処理回路ではノイズ除去性能が柔軟に変更できないという問題があった。
 また、上記のノイズ除去処理回路は処理性能を変更すると回路規模が大きく変化する。T-V法によるノイズ除去処理性能向上の為には、解が収束するまで反復処理を実行する必要があり、計算量はその分増加する。特に劣勾配法の反復式(2)の計算量が大きく、回路化した際にはこの式(2)を計算するT-Vモジュールの回路規模は大きくなる。リアルタイム処理を実行する回路で、T-V法を実行する際には、複数のT-Vモジュールが必要となるため、さらに回路規模の増加が問題となる。
 すなわち、処理性能の向上は回路規模の増加に直結する。リアルタイム処理が必要な場合、所望の処理性能を達成するためにT-V法の反復回数を増加させると、回路規模が大きいT-Vモジュールを複数個用いる必要がある。このため、回路規模が増大しやすく、回路規模の制約に反するという問題があった。
 特許文献2に記載のノイズ除去処理回路は、ウェーブレット変換により、T-V法の反復回数を削減できる。しかしながら、ウェーブレット変換の回数を増加させることにより、それぞれの階層で新たにT-Vモジュールが必要となる。ノイズ除去処理性能を向上させようとすれば、ウェーブレット変換を行う回数が増加し、回路規模はその分増大する。すなわち、特許文献2に記載のノイズ除去処理回路は、回路規模の増大を抑制することはできない。
 また、特許文献3の画像処理パイプライン回路は、複数の画像処理モジュールを連結することにより、入力データを多段処理する。画像処理パイプライン回路は、画像処理の段数を動的に変更することはできず、また、処理の段数が画像処理モジュールの個数で決定されるため、回路規模の増大を抑制することはできない。
 本発明は上記課題に鑑みて発明されたものであって、装置規模を増大させることなく、ノイズ除去処理性能を動的に変更することができる信号処理装置、信号処理方法、および記憶媒体を提供することを目的とする。
 本発明の信号処理装置は、入力信号を、第1の低周波信号と第1の高周波信号とに分離する第1のウェーブレット変換処理手段と、前記第1の低周波信号を、第2の低周波信号と第2の高周波信号とに分離する第2のウェーブレット変換処理手段と、前記第2の低周波信号に対してパイプライン処理を行うことによって、第1のパイプライン処理信号を生成するとともに、第1の再構成信号に対して前記パイプライン処理を行うことによって、第2のパイプライン処理信号を生成する第1のパイプライン処理手段と、前記第2の高周波信号と前記第1のパイプライン処理信号とに基づいて、前記第1の再構成信号を生成する第2の逆ウェーブレット変換処理手段と、前記第1の高周波信号と、前記第2のパイプライン処理信号とに基づいて、第2の再構成信号を生成する第1の逆ウェーブレット変換処理手段と、前記第2の低周波信号と前記第1の再構成信号のうちの一方を選択し、選択した信号を前記第1のパイプライン処理手段に転送する入力切替手段と、前記第1のパイプライン処理信号を前記第2の逆ウェーブレット変換処理手段に転送し、前記第2のパイプライン処理信号を前記第1の逆ウェーブレット変換処理手段に転送する出力切替手段とを有し、前記第2の再構成信号を出力信号として出力する。
 本発明の信号処理方法は、入力信号を、第1の低周波信号と第1の高周波信号とに分離し、前記第1の低周波信号を、第2の低周波信号と第2の高周波信号とに分離し、前記第2の低周波信号に対してパイプライン処理を行うことによって、第1のパイプライン処理信号を生成し、前記第2の高周波信号と前記第1のパイプライン処理信号とに基づいて、第1の再構成信号を生成し、前記第1の再構成信号に対して前記パイプライン処理を行うことによって第2のパイプライン処理信号を生成し、前記第1の高周波信号と、前記第2のパイプライン処理信号とに基づいて、第2の再構成信号を生成し、前記第2の低周波信号と前記第1の再構成信号のうちの一方を選択し、選択した信号を前記パイプライン処理に入力し、前記第2の再構成信号を出力信号として出力することを特徴とする。
 本発明の記憶媒体は、入力信号を、第1の低周波信号と第1の高周波信号とに分離する第1のウェーブレット変換処理と、前記第1の低周波信号を、第2の低周波信号と第2の高周波信号とに分離する第2のウェーブレット変換処理と、前記第2の低周波信号に対してパイプライン処理を行うことによって、第1のパイプライン処理信号を生成するとともに、第1の再構成信号に対して前記パイプライン処理を行うことによって、第2のパイプライン処理信号を生成する第1のパイプライン処理と、前記第2の高周波信号と前記第1のパイプライン処理信号とに基づいて、前記第1の再構成信号を生成する第2の逆ウェーブレット変換処理と、前記第1の高周波信号と、前記第2のパイプライン処理信号とに基づいて、第2の再構成信号を生成する第1の逆ウェーブレット変換処理と、前記第2の低周波信号と前記第1の再構成信号のうちの一方を選択し、選択した信号を前記第1のパイプライン処理に入力する入力切替処理と、前記第1のパイプライン処理信号を前記第2の逆ウェーブレット変換処理に入力し、前記第2のパイプライン処理信号を前記第1の逆ウェーブレット変換処理に入力する出力切替処理と、前記第2の再構成信号を出力信号として出力する出力処理とを信号処理装置のコンピュータに実行させるための信号処理プログラムを記憶する。
 本発明によれば、装置規模を増大させることなく、ノイズ除去処理性能を動的に変更することができる。
関連技術におけるノイズ除去処理システムの構成を示す。 関連技術におけるノイズ除去処理回路の構成を示す。 関連技術におけるノイズ除去処理回路の構成を示す。 本発明の第1の実施形態に係るノイズ除去処理システムの構成の一例を示す。 本発明の第1の実施形態に係るパイプライン処理部の構成の一例を示す。 本発明の第1の実施形態に係るノイズ除去処理の手続きの一例を示すフローチャートである。 本発明の第1の実施形態に係るパイプライン処理の手続きの一例を示すフローチャートである。 本発明の第2の実施形態に係るノイズ除去処理システムの構成の一例を示す。 本発明の第2の実施形態に係るノイズ除去処理の手続きの一例を示すフローチャートである。 本発明の第3の実施形態に係るノイズ除去処理システムの構成の一例を示す。 本発明の第3の実施形態に係るパイプライン処理部の構成の一例を示す。 本発明の第3の実施形態に係る信号処理システムの構成の一例を示す。 本発明の第3の実施形態に係るノイズ除去処理システムを構成するノイズ除去処理回路の一部分の構成例を示す。 本発明の第3の実施形態に係るノイズ除去処理システムにおいて処理される信号のタイミングチャートの一例を示す。 本発明の第3の実施形態に係るノイズ除去処理システムにおいて処理される信号のタイミングチャートの、図14Aと別の一例を示す。 本発明の第3の実施形態に係るノイズ除去処理の手続きの一例を示すフローチャートである。 本発明の第3の実施形態に係るTVパイプライン処理回路における処理の手続きの一例を示すフローチャートである。 本発明の第4の実施形態に係るノイズ除去処理システムの構成の一例を示す。 本発明の第4の実施形態に係るノイズ除去処理の手続きの一例を示すフローチャートである。
[第1の実施形態]
[構成]
 図4は、本発明の第1の実施形態に係る、ノイズ除去処理システム1Aの構成の一例を示す。
 ノイズ除去処理システム1Aは、入力データ信号Aを入力し、出力データ信号Lを出力するノイズ除去処理部11と、入力制御信号Kが入力されてノイズ除去処理部11に制御信号を送信する制御部12を含む。
 制御部12は、フロー制御処理部121を含む。
 ノイズ除去処理部11は、第1のウェーブレット変換処理部101と、第2のウェーブレット変換処理部103と、第1の逆ウェーブレット変換処理部102と、第2の逆ウェーブレット変換処理部104と、を含む。
 第1のウェーブレット変換処理部101および第2のウェーブレット変換処理部103は、入力されたデータ信号に対して、ウェーブレット変換処理を実行する。第1の逆ウェーブレット変換処理部102および第2の逆ウェーブレット変換処理部104は、入力されたデータ信号に対して、逆ウェーブレット変換処理を実行する。
 ノイズ除去処理部11は、さらに、パイプライン処理部106と、入力スイッチ105と、出力スイッチ107と、を含む。パイプライン処理部106は、フロー制御処理部121からの制御信号を受けて、所定の信号処理(後述)を実行する。
 外部からノイズ除去処理システム1Aに入力された入力データ信号Aは、ノイズ除去処理部11に入力される。入力データ信号Aに対して、第1のウェーブレット変換処理部101はウェーブレット変換処理を実施し、第1の低周波成分Bと、第1の低周波成分Bより高い周波数成分を含む第1の高周波成分Cとに分離して出力する。第1の低周波成分Bに対し、第2のウェーブレット変換処理部103は、再度ウェーブレット変換処理を実施し、第2の低周波成分Dと、第2の低周波成分Dより高い周波数成分を含む第2の高周波成分Eとに分離して出力する。
 第1の逆ウェーブレット変換処理部102は、第1のウェーブレット変換処理部101から出力される第1の高周波成分C、及びパイプライン処理部106から出力されるデータをもとに出力スイッチ107で生成された第2のパイプライン処理信号Gに対して逆ウェーブレット変換処理を実施し、再構成したデータを出力する。また、第2の逆ウェーブレット変換処理部104は、第2のウェーブレット変換処理部103から出力される第2の高周波成分E、及びパイプライン処理部106からの出力データをもとに出力スイッチ107で生成された第1のパイプライン処理信号Fに対して逆ウェーブレット変換処理を実施し、再構成データQを出力する。
 入力スイッチ105は、第2の逆ウェーブレット変換処理部104から出力される再構成画像データQと、第2のウェーブレット変換処理部103から出力される第2の低周波成分Dとを入力する。入力スイッチ105は、フロー制御処理部121から送信される入力スイッチ制御信号Hに基づいて、再構成画像データQおよび第2の低周波成分Dのうちの一方を選択する。選択された入力信号は、パイプライン処理部106に出力される。
 パイプライン処理部106は、入力スイッチ105によって選択された信号に対して、フロー制御処理部121から送信されるパイプライン制御信号Iにより制御されて、パイプライン処理を実施する。パイプライン処理部106からはパイプライン処理を受けた複数の出力信号が出力される。出力スイッチ107は、フロー制御処理部121から送信される出力スイッチ制御信号Jにより制御されて、パイプライン処理部106からの複数の出力信号のうち、いずれか1つを選択して、第1の逆ウェーブレット変換処理部102または第2の逆ウェーブレット変換処理部104に転送する。
 ノイズ除去処理システム1Aに入力された入力制御信号Kは、制御部12のフロー制御処理部121に入力される。フロー制御処理部121は入力制御信号Kを受けて、入力スイッチ105、パイプライン処理部106、および出力スイッチ107のそれぞれに制御信号(入力スイッチ制御信号H、パイプライン制御信号I、出力スイッチ制御信号J)を送信して、動作を制御する。
 本実施形態に係るノイズ除去処理システム1Aは、第1の逆ウェーブレット変換処理部102において再構成されたデータを、出力データ信号Lとして出力する。
 ノイズ除去処理部11は、例えば、CPU(Central Processing Unit)やマイクロプロセッサ等の演算装置、または半導体集積回路により実現される。また、ノイズ除去処理部11は、コンピュータ装置(パーソナルコンピュータ、シンクライアントコンピュータ、ワークステーション、メインフレーム、スーパーコンピュータ等)により実現される。ノイズ除去処理部11の構成が上述した各構成例によって限定されないことは説明するまでもない。
 制御部12は、ノイズ除去処理部11と同様に、演算装置、半導体集積回路、あるいは、上記各種コンピュータ装置により実現される。当然のことながら、制御部12の構成は、上述した各構成例によって限定されない。
 また、ノイズ除去処理部11および制御部12は、1つのハードウェア(演算装置、半導体集積回路、コンピュータ装置等)上に構成することもでき、あるいは、別々のハードウェア上に構成することもできる。
 入力スイッチ105は、複数の入力系統と1つの出力系統を有し、フロー制御処理部121からの入力スイッチ制御信号Hに基づいて、入力系統を切り替える。入力スイッチ105は、例えば、マルチプレクサ、クロスバースイッチ等の選択装置により実現される。また、入力スイッチ105は、CAM(Contents Addressable Memory)やTCAM(Ternary Contents Addressable Memory)などのLUT(Look Up Table)を用いた転送装置により実現される。
 出力スイッチ107は、複数の入力系統と複数の出力系統を有し、フロー制御処理部121からの出力スイッチ制御信号Jに基づいて、入力系統および出力系統のそれぞれを切り替える。出力スイッチ107は、マルチプレクサやデマルチプレクサによる組み合わせ回路や、クロスバースイッチ等の選択装置により実現される。また、出力スイッチ107は、CAMやTCAMなどのLUTを用いた転送装置により実現される。
 入力スイッチ105及び出力スイッチ107のそれぞれは、複数の入力信号が同時に入力されるのを避けるための、切り替えタイミング調整機構を有してもよい。
 具体的には、例えば、入力スイッチ105或いは出力スイッチ107の前段に、これらへのデータ入力のタイミングをずらすためのバッファを設けてもよい。
 また、入力スイッチ105及び出力スイッチ107のそれぞれは、複数の入力信号が同時に入力した場合にデータの損失を防ぐ機構を有しても良い。
 具体的には、データをバッファに一時的に保持して、データの欠損が生じたときには、欠損したデータを再送するように制御してもよい。これらのタイミングの制御は、フロー制御処理部121により行われてもよいし、入力スイッチ105或いは出力スイッチ107において、内部処理として自律的に制御されてもよい。
 入力スイッチ105及び出力スイッチ107の構成は、上述した構成例によって限定されない。
 図5は、本実施形態に係るパイプライン処理部106の構成の一例を示す。
 パイプライン処理部106は、複数の出力切替処理部111-1乃至111-N、及び複数の画像処理部112-1乃至112-Nを含む。
 複数の画像処理部112-1乃至112-Nのそれぞれは、全変分(TV)ノルム正則化によるノイズ除去処理に適用された劣勾配法の反復処理における1回または複数回のデータ処理を行う。データ処理の詳細は(2)式により示される。すなわち、データが通過する画像処理部112の個数は、(2)式で示される漸化式の反復回数に対応する。
 入力スイッチ105から出力されたデータは、パイプライン処理部106の出力切替処理部1段目111-1に入力される。
 出力切替処理部1段目111-1は2つの出力系統を有し、そのうちの1つの出力系統からのデータは画像処理部1段目112-1へ入力され、もう1つの出力系統からのデータはパイプライン処理部106の外部へ出力され、出力スイッチ107に入力される。
 画像処理部1段目112-1で処理されたデータは、出力切替処理部2段目111-2に入力される。出力切替処理部2段目112-2は出力切替処理部1段目112-1と同様に2つの出力系統を有し、1つの出力系統からのデータは画像処理部2段目112-2へ入力され、もう1つの出力系統からのデータはパイプライン処理部106の外部へ出力され、出力スイッチ107に入力される。
 以下同様に、パイプライン処理部106において、出力切替処理部111と画像処理部112とは、交互に且つ直列に接続される。パイプライン処理部106がそれぞれN個の出力切替処理部111と画像処理部112とを含む場合(Nは2以上の整数)、画像処理部N段目からの出力はパイプライン処理部106の外部へ出力され、出力スイッチ107に入力される。パイプライン処理部106に含まれるN個の出力切替処理部111のそれぞれには、フロー制御処理部121から、パイプライン制御信号Iが入力され、このパイプライン制御信号Iに従って出力先の切替処理を実施する。
 本実施形態においては、画像処理部112は全て、同一の効果を持つ処理を実施する。例えば、ノイズ除去処理、シャープニング、細線化、色彩強調等の画像補正を含む処理がパイプライン処理部106によって繰り返されることにより、強度の異なる処理効果が、得られる。
 次に、ノイズ除去処理部11におけるデータ処理の流れについて説明する。
 ノイズ除去処理システム1Aに入力された入力データ信号Aは、ノイズ除去処理部11の第1のウェーブレット変換処理部101に入力される。入力データ信号Aは、第1のウェーブレット変換処理部101においてウェーブレット変換処理され、第1の低周波成分Bと第1の高周波成分Cに分離される。第1の低周波成分Bは、第2のウェーブレット変換処理部103に入力され、第1の高周波成分Cは、第1の逆ウェーブレット変換処理部に102に入力される。
 第2のウェーブレット変換処理部103に入力された第1の低周波成分Bは、再度ウェーブレット変換処理され、第2の低周波成分Dと第2の高周波成分Eに分離される。第2の高周波成分Eは第2の逆ウェーブレット変換処理部104に入力され、第2の低周波成分Dは入力スイッチ105に入力される。
 一方、ノイズ除去処理システム1Aに入力された入力制御信号Kは、制御部12のフロー制御処理部121に入力される。フロー制御処理部121は、入力制御信号Kに従って、動的に、入力スイッチ105、パイプライン処理部106、及び出力スイッチ107のそれぞれを制御する。
 入力スイッチ105は、フロー制御処理部121から送信された入力スイッチ制御信号Hに従って、入力系統を切り替える。このとき、入力スイッチ105が入力系統として第2の低周波成分Dを選択すると、第2の低周波成分Dは入力スイッチ105を介してパイプライン処理部106に入力される。
 パイプライン処理部106に含まれる、複数の出力切替処理部111のそれぞれは、フロー制御処理部121から送信されるパイプライン制御信号Iに従って、出力系統を切り替える。
 パイプライン処理部106に入力された第2の低周波成分Dは、パイプライン処理部106において画像処理され、出力切替処理部111の1段目からN段目のいずれか、或いは最終段であるN段目の画像処理部112-Nから出力される。
 出力スイッチ107は、フロー制御処理部121からの出力スイッチ制御信号Jにより制御される。すなわち、複数の入力系統のうち1つが選択され、複数の出力系統のうち1つが選択される。
 第2のウェーブレット変換処理部103から入力スイッチ105を経てパイプライン処理部106に入力された第2の低周波成分Dは、そのまま画像処理されずに出力されるか、1個以上の画像処理部112により画像処理されて、第1のパイプライン処理信号Fとして出力スイッチ107に入力される。このとき、出力スイッチ107は、出力先に第2の逆ウェーブレット変換処理部104を選択し、第1のパイプライン処理信号Fは第2の逆ウェーブレット変換処理部104に入力される。
 次に、第2の逆ウェーブレット変換処理部104では、第1のパイプライン処理信号Fと第2の高周波成分Eが逆ウェーブレット変換処理され、処理された信号(再構成画像データQ)が入力スイッチ105に入力される。このとき、入力スイッチ105は、入力スイッチ制御信号Hに従って、入力系統として第2の逆ウェーブレット変換処理部104を選択する。これにより、第2の逆ウェーブレット変換処理部104の出力(再構成画像データQ)は、パイプライン処理部106に入力スイッチ105を経て入力される。
 パイプライン処理部106では、第2の逆ウェーブレット変換処理部104の出力が画像処理される。処理された信号は、フロー制御処理部121からのパイプライン制御信号Iに従って出力切替処理部111が切り替えられて、第2のパイプライン処理信号Gとして、出力スイッチ107に出力される。出力スイッチ107では、フロー制御処理部121からの出力スイッチ制御信号Jに従って、出力先として第1の逆ウェーブレット変換処理部102が選択され、第2のパイプライン処理信号Gが入力される。第1の逆ウェーブレット変換処理部102では、第1の高周波成分Cと第2のパイプライン処理信号Gが逆ウェーブレット変換され、出力データ信号Lとして、ノイズ除去処理システム1Aから出力される。
[動作]
 次に、図4乃至図7を参照して、本実施形態に係るノイズ除去処理システム1Aの動作の一例を詳細に説明する。
 図6は、本実施形態に係るノイズ除去処理システム1Aにおけるノイズ除去処理の方法の手続きの一例を示すフローチャートである。
 ノイズ除去処理システム1Aに入力データ信号Aが入力されると(図6ステップS601)、入力データ信号Aに対して第1のウェーブレット変換処理が行われる(ステップS602)。
 第1のウェーブレット変換処理により分離して出力された第1の低周波成分Bに対して、第2のウェーブレット変換処理が行われる(ステップS603)。第2のウェーブレット変換処理により分離して出力された第2の低周波成分Dは、入力スイッチ105に入力される。第2の低周波成分Dは、フロー制御処理部121からの入力スイッチ制御信号Hに従って入力スイッチ105により入力として選択されて(ステップS604)、パイプライン処理部106に転送され、パイプライン処理される(ステップS605)。
 パイプライン処理部106は、フロー制御処理部121からのパイプライン制御信号Iに従って、パイプライン処理されたデータの出力系統が制御されて出力スイッチ107に出力される。出力スイッチ107は、フロー制御処理部121からの出力スイッチ制御信号Jに従って、出力系統を選択し、第1のパイプライン処理信号Fとして、出力先を第2の逆ウェーブレット変換処理部104に選択する(ステップS606)。
 第2の逆ウェーブレット変換処理部104では、ステップS603において第2のウェーブレット変換により分離された第2の高周波成分Eと、出力スイッチ107から出力された第1のパイプライン処理信号Fに対して、第2の逆ウェーブレット変換処理が行われて、再構成画像データQが構成される(ステップS607)。再構成画像データQは、入力スイッチ105に入力され、フロー制御処理部121からの入力スイッチ制御信号Hに従って、入力系統として選択されると(ステップS608)、再構成画像データQはパイプライン処理部106に入力される。
 パイプライン処理部106において、再構成画像データQはパイプライン処理され(ステップS609)、パイプライン制御信号Iに従って、出力スイッチ107に出力される。出力スイッチ107は、出力スイッチ制御信号Jに従って、パイプライン処理されたデータを第2のパイプライン処理信号Gとして、第1の逆ウェーブレット変換処理部102に出力する(ステップS610)。
 第1の逆ウェーブレット変換処理部102において、ステップS602において第1のウェーブレット変換により分離された第1の高周波成分Cと、出力スイッチ107から出力された第2のパイプライン処理信号Gに対して、第1の逆ウェーブレット変換処理が行われて、出力データ信号Lが構成される(ステップS611)。出力データ信号Lは、ノイズ除去処理システム1から出力データとして出力され(ステップS612)、処理を終える。
 図7は、本実施形態に係るパイプライン処理部106における、パイプライン処理の手続きの一例を示すフローチャートである。
 パイプライン処理部106は、N個の画像処理部112とN個の出力切替処理部111を有する。パイプライン処理部106に入力された信号が最初に入力される出力切替処理部を1段目の出力切替処理部111-1として、この段階での処理をi=1とする。以下、i段目の処理が出力切替処理部111-iで行われるものとする。ただし、iは1からNまでの整数である。
 パイプライン処理部106に入力されたデータは、1段目の出力切替処理部111-1に入力される(図7ステップS701)。
 フロー制御処理部121からのパイプライン制御信号Iに従って、i段目の出力切替処理部111-iでは、i段目の画像処理部112-iでi回目の画像処理を行うかどうかが選択される(ステップS702)。
 ステップS702で、i回目の画像処理を行うと選択した場合(S702Yes)は、出力切替処理部111-iの出力先としてi段目の画像処理部112-iが選択される(ステップS703)。i段目の画像処理部112-iでは、入力されたデータに画像処理が行われ(ステップS704)、処理されたデータが出力される。
 このとき、iの値がNに等しいかどうかが判定される(ステップS705)。iがNに等しいときは(S705Yes)、画像処理はパイプライン処理部106の最終段111-Nでの処理であるから、出力スイッチ制御信号Jに従って、出力スイッチ107の入力系統がN段目の画像処理部112-Nに選択され、処理された信号が出力スイッチ107に入力される(ステップS707)。
 ステップS705において、iがNでない場合、すなわち、画像処理が最終段Nでない場合は、次段の出力切替処理部111-(i+1)に処理されたデータが出力される。すなわち、iの値を1つ増やして(ステップS706)、ステップS702に戻る。
 一方、ステップS702において、i番目の画像処理を実行しないと選択された場合(S702No)、パイプライン制御信号Iに従って、i段目の出力切替処理部111-iの出力先に、出力スイッチ107が選択される(ステップS708)。このとき、出力スイッチ107は、出力スイッチ制御信号Jに従って、i段目の出力切替処理部111-iに入力系統を選択し(ステップS709)、データを出力して処理を終える。
[効果]
 本実施形態に係るノイズ除去処理システム1Aにおいては、フロー制御処理部121から、入力スイッチ105、パイプライン処理部106及び出力スイッチ107へ、入力スイッチ制御信号H、パイプライン制御信号I及び出力スイッチ制御信号Jがそれぞれ入力される。
 入力スイッチ105は、入力スイッチ制御信号Hに基づいて、入力系統を制御する。パイプライン処理部106は、パイプライン制御信号Iに基づいて、データに対する画像処理の回数(すなわち、データが通過する画像処理部112の個数)を制御する。出力スイッチ107は、出力スイッチ制御信号Jに基づいて、入力系統及び出力系統を制御する。
 以上説明した第1の実施形態によれば、第2のウェーブレット変換処理部103から出力される第2の低周波成分D、及び第2のウェーブレット逆変換処理部104から出力される再構成画像データQに対して、画像処理の回数をそれぞれ動的に変更することができる。これにより、データに対するノイズ除去処理性能は動的に変更することができる。
 また、本実施形態に係るノイズ除去処理システム1Aにおいて、第2のウェーブレット変換処理部103から出力される第2の低周波成分Dを処理する期間と、第2のウェーブレット逆変換処理部104から出力される出力信号を処理する期間を、フロー制御処理部によって、1つのパイプライン処理部106により、2種類の信号のそれぞれを、異なる画像処理回数でパイプライン処理することが可能である。このため、ノイズ除去処理システムを回路で実現する場合に、回路規模の増大が抑制される。
 なお、本実施形態に係るノイズ除去処理システム1Aにおいては、入力データに対して2回のウェーブレット変換処理を行うが、これに限定されず。ウェーブレット変換処理は3回以上でもよい。例えば、ウェーブレット変換処理の回数が3の場合、入力スイッチには、3系統の入力、すなわち、第3の低周波成分と、第3の逆ウェーブレット変換処理部からの出力信号と、第2の逆ウェーブレット変換処理部からの出力信号、が入力系統として入力される。この3系統の入力に対して、1つのパイプライン処理部でパイプライン処理が行われる。以下、ウェーブレット変換処理の回数を増加させても、同様である。
[第2の実施形態]
[構成]
 図8は、本発明の第2の実施形態に係るノイズ除去処理システム1Bの構成の一例を示す。
 本実施形態に係るノイズ除去処理システム1Bにおいては、第1の実施形態に係るノイズ除去処理システム1Aのノイズ除去処理部11に、ウェーブレット変換切替処理部108が追加される。これに対応して、入力スイッチ110は3つの入力系統を備える。この他の構成は第1の実施形態におけるノイズ除去処理部と同一であるので、構成要素のそれぞれに同じ符号を付して説明を省略する。
 本実施形態に係るノイズ除去処理システム1Bにおいて、制御部12に含まれるフロー制御処理部121は、ノイズ除去処理システム1Bに入力された入力制御信号Kに基づいて、入力スイッチ制御信号Hと、パイプライン制御信号Iと、出力スイッチ制御信号Jと、ウェーブレット制御信号Rとを生成する。フロー制御処理部121は、入力スイッチ制御信号Hを入力スイッチ110へ出力し、パイプライン制御信号Iをパイプライン処理部106へ出力し、出力スイッチ制御信号Jを出力スイッチ107へ出力し、ウェーブレット制御信号Rをウェーブレット変換切替処理部108へ出力する。
 第1のウェーブレット変換処理部101から出力された第1の低周波成分Bは、ウェーブレット変換切替処理部108に入力される。ウェーブレット変換切替処理部108は、1系統の入力に対して、2系統の出力として、第2のウェーブレット変換処理部103と、入力スイッチ110を有する。ウェーブレット変換切替処理部108は、フロー制御処理部121からのウェーブレット制御信号Rにより制御されて、出力系統を切り替える。
 入力スイッチ110は、フロー制御処理部121からの入力スイッチ制御信号Hにより制御されて、第2のウェーブレット変換処理部103から出力された第2の低周波成分Dと、第2の逆ウェーブレット変換処理部104から出力された出力信号と、ウェーブレット変換切替処理部108から出力された第1の低周波成分Bのうち、いずれか1つを選択してパイプライン処理部106に入力する。
 第1のウェーブレット変換処理部101から出力された第1の低周波成分Bは、ウェーブレット変換切替処理部108に入力され、第2のウェーブレット変換処理部103及び入力スイッチ110にいずれかに出力される。
 このうち、第1の低周波成分Bが第2のウェーブレット変換処理部103に入力される場合の処理は、第1の実施形態における処理と同一であるので、説明を省略する。
 第1の低周波成分Bが入力スイッチ110に入力される場合、入力スイッチ110は、フロー制御処理部121からの入力スイッチ制御信号Hに従って、第1の低周波成分Bを入力系統として選択し、パイプライン処理部106に入力する。
 第1の低周波成分Bは、パイプライン処理部106において、0乃至N個(Nは2以上の整数)の画像処理部112を経て、第2の第2のパイプライン処理信号Gとして、出力スイッチ107に入力される。このとき、出力スイッチ107は、出力スイッチ制御信号Jに従って、出力先として、第1の逆ウェーブレット変換処理部102を選択する。第2のパイプライン処理信号Gは、第1の逆ウェーブレット変換処理部102に入力される。
 第1の逆ウェーブレット変換処理部102では、第1の高周波成分Cと、第2のパイプライン処理信号Gに対して、逆ウェーブレット変換処理が行われ、処理されたデータは出力データ信号Lとして、ノイズ除去処理システム1Bから出力される。
[動作]
 次に、第2の実施形態に係るノイズ除去処理方法について説明する。
 図9のフローチャートを参照して、本実施形態に係るノイズ除去処理システム1Bにおける処理について詳細に説明する。
 図9は、本実施形態にかかるノイズ除去処理システム1Bの動作の一例を示すフローチャートである。
 まず、ノイズ除去処理システム1Bにデータが入力され(図9ステップS901)、入力されたデータに対して第1のウェーブレット変換処理が行われる(ステップS902)。
 次に、第1のウェーブレット変換処理により分離された第1の低周波成分Bに対して、引き続き第2のウェーブレット変換処理を実施するか否かが選択される(ステップS903)。
 ステップS903において、第2のウェーブレット変換処理を実施する、と選択した場合、ウェーブレット変換切替処理部108に出力先として、第2のウェーブレット変換処理部103が選択される(ステップS904)。これ以降の処理は、第1の実施形態における動作と同じである。すなわち、図9におけるステップS905乃至S914は、第1の実施形態における図6におけるステップS603乃至S612と同一であり、ステップS907及びS911におけるパイプライン処理の動作は、第1の実施形態におけるパイプラインの処理と同じであるので、説明を省略する。
 ステップS903において、第2のウェーブレット変換処理を実施しない、と選択した場合、ウェーブレット変換切替処理部108は、出力先として入力スイッチ110を選択する(ステップS915)。これと同時に、入力スイッチは入力先として第1の低周波成分Bを選択する(ステップS916)。
 入力スイッチは、第1の低周波成分Bをパイプライン処理部106に転送し、第1の低周波成分Bに対してパイプライン処理が実施される(ステップS911)。パイプライン処理された信号は、出力スイッチ107に送られる。出力スイッチ107は、出力先として、第1の逆ウェーブレット変換処理部102を選択し、パイプライン処理された信号を第1の逆ウェーブレット変換処理部102に転送する。第1の逆ウェーブレット変換処理部102は、第1の高周波成分Cと、パイプライン処理された信号に対して、第1の逆ウェーブレット変換を実施して、処理されたデータを出力データ信号Lとして、ノイズ除去処理システム1Bから出力する。
[効果]
 次に、本第2の実施形態の効果について説明する。
 第2の実施形態に係るノイズ除去処理システム1Bは、第1の実施形態における構成に、ウェーブレット変換切替処理部が追加される。すなわち、第1のウェーブレット変換処理部101において出力される第1の低周波成分Bが、第2のウェーブレット変換処理部103に入力される前に、出力先として、入力スイッチ110も選択可能である。すなわち、出力先として、第2のウェーブレット変換処理部103が選択された場合は、第1の実施形態と同様の処理が実施され、同様のノイズ除去処理性能が得られる。
 一方、ウェーブレット変換切替処理部108において、出力先に入力スイッチが選択された場合は、第2のウェーブレット変換処理部103における処理を経ずに、第1の低周波成分Bは、パイプライン処理部106においてパイプライン処理が実施される。パイプライン処理された信号は、第1の逆ウェーブレット変換処理部102に転送されて、出力データ信号Lが生成される。このとき出力されるデータ信号は、パイプライン処理が1度のみ実行された入力信号である。従って、本実施形態に係るノイズ除去システム1Bは、第1の実施形態に係るノイズ除去処理システム1Aと比較して、ノイズ除去処理性能を抑制することができる。
 以上のように、本実施形態に係るノイズ除去処理システム1Bにおいては、ウェーブレット変換切替処理部108でのデータ転送先の切り替えを、フロー制御処理部121により動的に制御することが可能である。これにより、第1の実施形態で説明したパイプライン処理部の動的制御に加えて、ウェーブレット変換の段数を動的に制御することができるため、ノイズ除去処理性能をさらに柔軟に変更することが可能である。
 なお、本実施形態では、ウェーブレット変換処理の段数が2段階のケースが例示されているが、上記段数は2段階に限定されない。ウェーブレット変換処理の段数は、3段階以上であってもよい。たとえば、ウェーブレット変換処理を3段階とした場合、第1のウェーブレット変換処理部と第2のウェーブレット変換処理部との間に、第1のウェーブレット変換切替処理部を接続し、第2のウェーブレット変換処理部と第3のウェーブレット変換処理部との間に、第2のウェーブレット変換切替処理部を接続して、それぞれをフロー制御処理部により制御すればよい。
 第1のウェーブレット変換切替処理部の出力先が入力スイッチである場合、第2のウェーブレット変換処理および第3のウェーブレット変換処理は、実施されない。第2のウェーブレット変換切替処理部の出力先が入力スイッチである場合、第3のウェーブレット変換処理のみが実施されない。第2のウェーブレット変換切替処理部の出力先が第3のウェーブレット変換処理部である場合、入力信号に対して、3段階のウェーブレット変換を含むノイズ除去処理が実施される。
 以下同様にして、ウェーブレット変換処理の段数を任意に設定することが可能である。
[第3の実施形態]
 図10は、本発明の第1の実施形態に対応する、第3の実施形態に係るノイズ除去処理システム1Cの構成の一例を示す。ノイズ除去処理システム1Cは、ノイズ除去処理回路21と制御部22を有する。
 ノイズ除去処理回路21は、図4に示されるノイズ除去処理部11を専用の回路として実現する。
 ノイズ除去処理回路21は、第1のウェーブレット変換処理回路201と、第2のウェーブレット変換処理回路203と、第1の逆ウェーブレット変換処理回路202と、第2の逆ウェーブレット変換処理回路204を含む。ノイズ除去処理回路21はさらに、2系統の入力に対して1系統の出力を行うマルチプレクサ及びバッファを有する2to1入力切替スイッチ205と、第1のTVパイプライン処理回路206と、出力クロスバースイッチ207を含む。図10において、ノイズ除去処理回路21はさらに、第2のTVパイプライン処理回路209を含む。
 本実施形態において、第1のウェーブレット変換処理回路201は図4における第1のウェーブレット変換処理部101に対応する。第2のウェーブレット変換処理回路202は第2のウェーブレット変換処理部103に対応する。第1の逆ウェーブレット変換処理回路202は図4における第1の逆ウェーブレット変換処理部102に対応する。第2の逆ウェーブレット変換処理回路204は第2のウェーブレット変換処理部104に対応する。
 また、2to1入力切替スイッチ205は、図4における入力スイッチ105に、第1のTVパイプライン処理回路206はパイプライン処理部106に、出力クロスバースイッチ207は出力スイッチ107に、それぞれ対応する。第2のTVパイプライン処理回路209は第1のTVパイプライン処理回路206と同様の構成を有する。
 第2のTVパイプライン処理回路209は、第1の逆ウェーブレット変換処理回路202で再構成されたデータにパイプライン処理を実施し、ノイズ除去処理システム1Cの出力データ信号Lとして出力する。
 図11は、第1のTVパイプライン処理回路206或いは第2のTVパイプライン処理回路209の構成の一例を示す。出力切替処理回路1段目211-1は、図5における出力切替処理部111-1に対応する。TV処理回路1段目212-1は、図5における画像処理部112-1に対応する。この段以降の出力切替処理回路およびTV処理回路も同様に、図5に示される構成要素に対応する。
 なお、図11においては、それぞれ3つの出力切替処理回路211及びTV処理回路212が示されるが、それぞれの回路の個数は3に限定されない。
 本実施形態は、TV処理回路がTV正則化法による骨格成分を分離する反復処理の1回分の計算処理を実施すると想定する。そのため、本実施形態は、図11に示されるように、TVの処理を最大で3回実施する例を示す。
 また、1つのTV処理回路が前記反復処理の複数回分の計算処理を実施するとしてもよい。
 図12は、本実施形態に係るノイズ除去処理システム1Cを含む信号処理システムの構成の一例を示す。ノイズ除去処理システム1Cは、入力データ信号Aを外部のCCDセンサ3から受信し、入力制御信号Kを明度センサ4から受信する。
 本実施形態に係るノイズ除去処理システム1Cは、入力データ信号Aを、上記の例に限らず、画像に対して補正処理を実施する、異なる画像処理システムから受信しても良い。また、デジタルカメラ等の撮影装置から受信しても良い。さらに、ハードディスクやストレージ、PC(Personal Computer)を含む情報処理装置から受信しても良い。
 本実施形態に係るノイズ除去処理システム1Cは、入力制御信号Kを、上記の例に限らず、赤外線センサや輝度センサ等の各種センサから受信しても良い。また、ノイズ解析システムやシーン解析システムなどのプログラムの実行処理の出力や、情報処理装置からの出力でもよい。さらに、ユーザがスイッチ、ダイアル、などを介して手動で入力したものでも良い。
 ただし、上述の使用例は一例であり、実際には、上記の例に限定されない。
 次に、本実施形態に係るノイズ除去処理システム1Cの各部の動作を説明する。
 本実施形態に係るノイズ除去処理システム1Cにおいて、入力データ信号Aは画面の走査線方向に沿って順次1ピクセルずつ入力される。ノイズ除去処理回路21は、ピクセル単位で入力を受信して、ピクセル単位で出力データ信号Lを出力する。
 制御部22は、フロー制御処理部221と、メモリ222とを含む。本実施形態に係るノイズ除去処理システム1Cにおいて、例えば、フロー制御処理部221はCPUやマイコン等の汎用演算処理装置で実現される。また、本実施形態において、フロー制御処理部221はメモリ222に格納される構成情報を参照して、入力スイッチ制御信号H、出力スイッチ制御信号J、第1TVパイプライン制御信号M、及び第2TVパイプライン制御信号Nを生成して発信する。
 次に、図13を参照して、TVパイプライン処理回路における制御信号とデータの流れについて説明する。
 図13は、ノイズ除去処理回路21の一部分の構成例を示す。図13では、2to1切替スイッチ205と、第1のTVパイプライン処理回路206と、出力クロスバースイッチ207と、が示される。なお、図13では、制御部22を構成するフロー制御処理部221も示されている。
 図13に示されるノイズ除去処理回路21において、2to1切替スイッチ205は、2系統の入力(入力系1と入力系2)を有する。例えば、入力系1の入力についてTV処理が3回実施され、入力系2の入力についてTV処理が1回実施される。
 このとき、フロー制御処理部221からのパイプライン制御信号は次のように入力データの流れを制御する。すなわち、入力系1からの入力データに対して、TV処理回路1段目の制御信号で出力先をTV処理回路1段目に設定し、TV処理回路2段目の制御信号で出力先をTV処理回路2段目に設定し、TV処理回路3段目の制御信号で出力先をTV処理回路3段目に設定する。
 また、入力系2からの入力データに対して、TV処理回路1段目の制御信号で出力先をTV処理回路1段目に設定し、TV処理回路2段目の制御信号で出力先を出力クロスバースイッチに設定する。
 第1のTVパイプライン処理回路内において、入力されたデータはパイプライン処理が行われるため、出力クロスバースイッチ207への制御信号は1段目から順にタイミングを調整しながら発行される。
 次に、図14A及び図14Bを参照して、2to1切替スイッチ205の制御を説明する。
 図14Aは、クロック(CLK)、入力データ信号A、第1のウェーブレット変換処理回路201から出力される第1の低周波成分B、及び第2のウェーブレット変換処理回路203から出力される第2の低周波成分Dの波形を示す。
 図14Aに示されるように、入力データ信号Aは、データがクロックに同期して連続的に出力される信号である。これに対して、第1の低周波成分Bは、データが間欠的に出力される信号である。信号が間欠的に出力される理由は、2次元ウェーブレット変換に由来する。ウェーブレット変換によって分離された低周波成分の出力スループットは、ウェーブレット変換する前の信号のスループットの4分の1になる。この関係は、ウェーブレット変換の「入力」が第1の低周波成分Bである場合における、第1の低周波成分Bと「出力」である第2の低周波成分Dとの間においても同様である。
 図10に示されるような、2段のウェーブレット変換処理を実施するノイズ除去処理においては、TVパイプライン処理が3回実施される。すなわち、図10に示されるノイズ除去処理システム1Cの構成は、図3に示されるノイズ除去処理システムに第2のTVパイプライン処理回路209を追加して得られる構成に対応する。図3に示されるノイズ除去処理システムは、T-Vノイズ除去部1014と初期解生成部1015を含み、この2つのTV処理部に第2のTVパイプライン処理回路209を追加して、図10に示されるノイズ除去処理システム1Cが得られる。このようなノイズ除去処理システムにおいては、上記のウェーブレット変換の特徴を用いることにより、TVパイプライン処理回路が共有できる。
 しかしながら、2つの入力を、共有するTVパイプライン処理回路に同時に入力することは出来ない。上記のウェーブレット変換の特徴を用いると、TVパイプライン処理回路へのデータ発生のタイミングが、図14Aに示されるタイミングと同様の波形になり、入力が同時に発生する。
 そこで、2to1切替スイッチ205が内部に有するバッファを用いると、図13に示される、2to1入力切替スイッチ205の入力系1と入力系2(図13)からのデータ出力タイミングを、図14Bに示されるように、ずらすことができる。これにより、2つの入力系からのデータを1つの第1のTVパイプライン処理回路206で処理することができる。2to1切替スイッチ205を制御するフロー制御処理部221は、ステートマシンやサイクルカウンタ等を用いて適切なタイミングで入力スイッチ制御信号Hを送信する。2to1切替スイッチ205は入力スイッチ制御信号Hに従って、入力系統を切り替える。
 上記と同様にして、出力クロスバースイッチ207においても、複数の信号の出力タイミングが重なる場合、或いは、複数のデータ処理のタイミングを調整する必要がある場合がある。このため、出力クロスバースイッチ207は、予め十分な容量のバッファを各クロスバースイッチの入力部、或いは出力部に備え、出力信号を必要な時間だけバッファリングをして出力タイミングを制御する。この制御処理もフロー制御処理部221からの出力スイッチ制御信号Jに従って実施される。
 制御部22のメモリ222は、上記の制御動作に必要な指示データを格納する。例えば、明度センサ4からの明度信号に従って、フロー制御処理部221は、明度信号を解析し、メモリ222から明度信号に対応した制御動作に必要なデータを読みだす。フロー制御処理部221は、適切なタイミングで各種制御信号を発信して、各部の制御動作を実施する。
 本実施形態では、2to1切替スイッチ、出力クロスバースイッチ、TVパイプライン処理回路の全てがフロー制御処理部221で制御されるが、これに限定されない。すなわち、ノイズ除去処理回路21は、独自にステートマシンやクロックカウンタを有して、自律して制御を行なうモジュールを含んでもよい。
[動作]
 次に、図15を参照して、第3の実施形態に係るノイズ除去処理システム1Cの動作を説明する。図15は、本発明の第3の実施形態に係るノイズ除去処理の手順の一例を示すフローチャートである。
 図15のステップS1501乃至ステップS1512は、それぞれ図6に示されるステップS601乃至S612に対応する。なお、図10に示されるノイズ除去処理システム1Cの各回路は、パイプライン的に処理動作を行うため、図15に示されるフローチャートにおけるステップS1501からS1512の各工程は、並列処理が可能である。
 例えば、ステップS1505におけるTVパイプライン処理と、ステップS1509におけるTVパイプライン処理は、同時に実行されうる。これに対して、入力のタイミングが重ならないよう、上述のように2to1切替スイッチ205をクロック単位でタイミング制御し、クロックごとに入力系統を切り替える。これにより、TVパイプライン処理回路206を共有することができる。
 図16は、図15に示されるステップS1505乃至ステップS1509におけるTVパイプライン処理回路206における一連の手続きを詳細に示すフローチャートである。図16におけるステップS1601乃至S1609の処理は、図7に示されるステップS701乃至S709に対応する。図16においては、図7におけるNの値が3である。これ以外の処理については、図7と同一であるので、説明を省略する。
[効果]
 次に、本発明の実施形態に係るノイズ除去処理システム1Cの効果を説明する。
 本実施形態に係るノイズ除去処理システム1Cは、明度センサ4からの入力制御信号Kをフロー制御処理部221で解析し、適切な制御動作及び適切な制御のタイミングについてのデータをメモリ222から読み出し、ノイズ除去処理回路21を制御する。
 入力スイッチ制御信号Hは、2to1切替スイッチ205に入力される。各TVパイプライン制御信号は、各TVパイプライン処理回路に入力される。出力スイッチ制御信号Jは、出力クロスバースイッチ207に入力される。2to1切替スイッチ205は、入力スイッチ制御信号Hに基づいて、入力系統の切替を制御する。各TVパイプライン処理回路は、各パイプライン制御信号に基づいて、TV処理の回数、即ちデータが通過するTV処理回路の個数を制御する。出力クロスバースイッチ207は、出力スイッチ制御信号Jに基づいて、入力系統と出力系統のそれぞれの切替を制御する。
 以上説明した第3の実施形態によれば、第2の低周波成分D及び第1のTV処理信号に対してTVパイプライン処理回路において実行される処理の回数を、それぞれ動的に変更することができる。これにより、ノイズ除去処理性能は、動的に変更される。
 また、本実施形態に係るノイズ除去処理システム1Cにおいては、TVパイプライン処理回路206に対して、第2の低周波成分Dが入力されるタイミング、及び第2の逆ウェーブレット変換処理回路204からの出力信号が入力されるタイミングが、フロー制御処理部221により制御される。すなわち、フロー制御処理部221から、2to1切替スイッチ205を意図的に制御することによって、第2の低周波成分D、及び第2の逆ウェーブレット変換処理回路204からの2種類の信号を、1つのTVパイプライン処理回路206によって、それぞれ異なるTV処理回数でパイプライン処理することができる。そのため、ノイズ除去処理システムを、回路で実現する場合の回路規模の増大を抑制することができる。
[第4の実施形態]
[構成]
 図17は、本発明の第2の実施形態に対応する、第4の実施形態に係るノイズ除去処理システム1Dの構成の一例を示す。第4の実施形態に係るノイズ除去処理システム1Dは、第3の実施形態に係るノイズ除去処理回路21にウェーブレット変換切替処理回路208を追加したものである。これに対応して、第3の実施形態における2to1切替スイッチ205は、3to1切替スイッチ210に変更される。ノイズ除去処理回路21におけるこれら以外の構成要素は、第3の実施形態に係るノイズ除去処理回路21と同一である。従って、図17において、図10と同一の符号が付されるとともに、以下の説明において、それらについての説明は、省略される。さらに、フロー制御処理部221には、ウェーブレット変換切替処理回路208を制御するためのウェーブレット制御信号Rを発行する機能が追加される。
 第1のウェーブレット変換処理回路201から出力される第1の低周波成分Bは、ウェーブレット変換切替処理回路208に入力される。ウェーブレット変換切替処理回路208は、フロー制御処理部221からのウェーブレット制御信号Rに従って、出力先を切り替える。出力先に第2のウェーブレット変換処理回路203が選択された場合は、以降の動作は第3の実施形態に係るノイズ除去処理システム1Cにおける処理と同一であるため説明を省略する。出力先に3to1切替スイッチ210が選択された場合、3to1切替スイッチ210は入力系統として、ウェーブレット変換切替処理回路208を選択する。第1の低周波成分Bは3to1切替スイッチ210を経て、第1のTVパイプライン処理回路206にて処理され、処理されたデータは出力クロスバースイッチ207に入力される。出力クロスバースイッチ207は、出力先として第1の逆ウェーブレット変換処理回路202を選択する。第1の逆ウェーブレット変換処理回路202により処理されたデータは、第2のTVパイプライン処理回路209においてTV処理が実施されて、出力データ信号Lとして出力される。
[動作]
 次に、図18を参照して、第4の実施形態に係るノイズ除去処理システム1Dの動作を説明する。図18は、本発明の第4の実施形態に係るノイズ除去処理の手順の一例を示すフローチャートである。
 図18のステップS1801乃至ステップS1816は、それぞれ図9に示されるステップS901乃至S916に対応する。なお、図17に示されるノイズ除去処理システム1Dの各回路はパイプライン的に処理動作を行うため、図18に示されるステップS1801乃至S1816の各工程は、並列処理が可能である。
 例えば、ステップS1807におけるTVパイプライン処理と、ステップS1811におけるTVパイプライン処理は同時に実行されうる。これに対して、第3の実施形態と同様にして、入力のタイミングが重ならないように、3to1切替スイッチ210をクロック単位でタイミング制御し、クロックごとに入力系統を切り替える。これにより、TVパイプライン処理部206を共有することができる。
 ステップS1807とステップS1811におけるTVパイプライン処理の動作については、図16を参照して説明した第3の実施形態におけるTVパイプライン処理の動作と同一であるので、説明は省略する。
 本発明に係るノイズ除去処理システムは、モジュール間に出力方向を切り替えるスイッチを配置し、入力データのデータフローを制御するデータフロー制御部を備える。データフロー制御部でモジュール間のスイッチを切り替えることによって、動的にモジュール間接続が変更できる。
 以上説明した第4の実施形態のノイズ除去処理システム1Dは、パイプライン処理部の各出力切替処理部を動的に制御して、データが通過する画像処理部の数を動的に変更し、パイプライン処理部での処理強度を動的に変更する。これにより、システム規模の増加を抑制しつつ、ノイズ除去処理性能を動的に変更可能なノイズ除去処理システムを提供するとの本発明の目的を達成することができる。
 また、複数のウェーブレット変換処理部を備える場合において、ノイズ除去処理システム1Dは、複数のウェーブレット変換処理部からの出力を1つのパイプライン処理部にスイッチを介して接続させる。各ウェーブレット変換処理部から出力される低周波成分のデータ出力のタイミング、及びスループットが異なる事を考慮して、スイッチの動作が制御される。パイプライン処理部を複数のデータ処理において共有できるため、回路規模の増大を抑制することができる。
 すなわち、ノイズ除去処理システム1Dは、第2の低周波成分及び逆ウェーブレット変換処理部からの再構成画像という2つのデータに対して、入力スイッチを動的に制御して、パイプライン処理部に入力されるデータを切り替える。1つのパイプライン処理部には複数のモジュールからデータが入力されるが、これにより、これらの複数のデータフローをそれぞれ独立にパイプライン処理を実施することができる。さらに、それぞれのデータフローにおいて、パイプライン処理部は処理の強度を動的に変更することによって、ノイズ除去処理性能を動的に変更するという本発明の目的を達成することができる。
 なお、上述の処理動作を実行させるためのプログラムを、フレキシブルディスク、CD-ROM(Compact Disk Read-Only Memory)、MO(Magneto-Optical disk)などのコンピュータ読取可能な非一時的な記録媒体に格納して配布し、或いはネットワークを介して配信し、当該プログラムをコンピュータにインストールすることにより、上述の処理動作を実行する装置を構成しても良い。
 以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
 この出願は、2012年12月26日に出願された日本出願特願2012-283133号を基礎とする優先権を主張し、その開示の全てをここに取り込む。
 本発明は、デジタルカメラの撮像素子などのセンサから出力されるデジタル信号に対して、混入したノイズを除去するノイズ除去処理システムに好適に適用できる。特に、ノイズの強度によってノイズ除去性能を変更可能な、デジタルカメラ或いはビデオカメラに利用できる。さらに、マイクロフォン等から出力されるアナログ信号をデジタル変換した信号に対してノイズを除去する用途にも適用できる。
 1A、1B、1C、1D  ノイズ除去処理システム
 3  CCDセンサ
 4  明度センサ
 11  ノイズ除去処理部
 12、22  制御部
 21  ノイズ除去処理回路
 101  第1のウェーブレット変換処理部
 102  第1の逆ウェーブレット変換処理部
 103  第2のウェーブレット変換処理部
 104  第2の逆ウェーブレット変換処理部
 105、110  入力スイッチ
 106  パイプライン処理部
 107  出力スイッチ
 108  ウェーブレット変換切替処理部
 111  出力切替処理部
 112  画像処理部
 121  フロー制御処理部
 201  第1のウェーブレット変換処理回路
 202  第1の逆ウェーブレット変換処理回路
 203  第2のウェーブレット変換処理回路
 204  第2の逆ウェーブレット変換処理回路
 205  2to1切替スイッチ
 206  第1のTVパイプライン処理回路
 207  出力クロスバースイッチ
 208  ウェーブレット変換切替処理回路
 209  第2のTVパイプライン処理回路
 210  3to1切替スイッチ
 211  出力切替処理回路
 212  TV処理回路
 221  フロー制御処理部
 222  メモリ
 1011、1013、1015  初期解生成部
 1012、1014  T-Vノイズ除去部
 1101、1105  ウェーブレット変換回路
 1102、1106  ウェーブレット縮退回路
 1103、1107  逆ウェーブレット変換回路
 1104、1108、1109  T-V処理回路
 A 入力データ信号
 B 第1の低周波成分
 C 第1の高周波成分
 D 第2の低周波成分
 E 第2の高周波成分
 F 第1のパイプライン処理信号
 G 第2のパイプライン処理信号
 H 入力スイッチ制御信号
 I パイプライン制御信号
 J 出力スイッチ制御信号
 K 入力制御信号
 L 出力データ信号
 M 第1TVパイプライン制御信号
 N 第2TVパイプライン制御信号
 O 第1のTV処理信号
 P 第1のTV処理信号
 Q 再構成画像データ
 R  ウェーブレット制御信号

Claims (9)

  1.  入力信号を、第1の低周波信号と第1の高周波信号とに分離する第1のウェーブレット変換処理手段と、
     前記第1の低周波信号を、第2の低周波信号と第2の高周波信号とに分離する第2のウェーブレット変換処理手段と、
     前記第2の低周波信号に対してパイプライン処理を行うことによって、第1のパイプライン処理信号を生成するとともに、第1の再構成信号に対して前記パイプライン処理を行うことによって、第2のパイプライン処理信号を生成する第1のパイプライン処理手段と、
     前記第2の高周波信号と前記第1のパイプライン処理信号とに基づいて、前記第1の再構成信号を生成する第2の逆ウェーブレット変換処理手段と、
     前記第1の高周波信号と、前記第2のパイプライン処理信号とに基づいて、第2の再構成信号を生成する第1の逆ウェーブレット変換処理手段と、
     前記第2の低周波信号と前記第1の再構成信号のうちの一方を選択し、選択した信号を前記第1のパイプライン処理手段に転送する入力切替手段と、
     前記第1のパイプライン処理信号を前記第2の逆ウェーブレット変換処理手段に転送し、前記第2のパイプライン処理信号を前記第1の逆ウェーブレット変換処理手段に転送する出力切替手段と
    を有し、
     前記第2の再構成信号を出力信号として出力する
    ことを特徴とする信号処理装置。
  2.  前記パイプライン処理手段は、複数の信号処理手段と、前記複数の信号処理手段と同じ数の出力切替処理手段とを含み、
     前記各出力切替処理手段と前記各信号処理手段は、この順に、交互且つ直列に接続され、
     前記各出力切替処理手段は、入力された信号を後段の前記信号処理手段と前記出力切替手段のいずれか一つに転送し、
     最終段の前記信号処理手段は、入力された信号を処理して、処理した信号を前記出力切替手段に転送し、
     最終段の前記信号処理手段以外の前記信号処理手段は、入力された信号を処理して、処理した信号を後段の前記出力切替処理手段に転送する
    ことを特徴とする請求項1に記載の信号処理装置。
  3.  前記第1の低周波信号を、前記第2のウェーブレット変換処理手段と前記入力切替手段のいずれか一つに転送する、ウェーブレット変換切替処理手段をさらに有し、
     前記入力切替手段は、前記第1の低周波信号、前記第1の再構成信号、及び前記第2の低周波信号のうちいずれか一つを選択して、前記第1のパイプライン処理手段に転送する
    ことを特徴とする請求項1または2に記載の信号処理装置。
  4.  前記第2の再構成信号にパイプライン処理を行って、前記出力信号を生成する、第2のパイプライン処理手段をさらに有する
    ことを特徴とする請求項1乃至3のいずれか1項に記載の信号処理装置。
  5.  前記入力切替手段、前記出力切替手段、前記第1及び第2のパイプライン処理手段、及び前記ウェーブレット変換処理手段の、少なくとも1つを制御する、フロー制御処理手段をさらに有する
    ことを特徴とする請求項1乃至4のいずれか1項に記載の信号処理装置。
  6.  前記パイプライン処理手段に含まれる複数の信号処理手段は同一の画像信号処理を実施する
    ことを特徴とする請求項2に記載の信号処理装置。
  7.  前記複数の信号処理手段のそれぞれは、全変分ノルム正則化によるノイズ除去処理に適用された劣勾配法の反復処理における1回または複数回の画像信号処理を行う
    ことを特徴とする請求項6に記載の信号処理装置。
  8.  入力信号を、第1の低周波信号と第1の高周波信号とに分離し、
     前記第1の低周波信号を、第2の低周波信号と第2の高周波信号とに分離し、
     前記第2の低周波信号に対してパイプライン処理を行うことによって、第1のパイプライン処理信号を生成し、
     前記第2の高周波信号と前記第1のパイプライン処理信号とに基づいて、第1の再構成信号を生成し、
     前記第1の再構成信号に対して前記パイプライン処理を行うことによって第2のパイプライン処理信号を生成し、
     前記第1の高周波信号と、前記第2のパイプライン処理信号とに基づいて、第2の再構成信号を生成し、
     前記第2の低周波信号と前記第1の再構成信号のうちの一方を選択し、選択した信号を前記パイプライン処理に入力し、
     前記第2の再構成信号を出力信号として出力する
    ことを特徴とする信号処理方法。
  9.  入力信号を、第1の低周波信号と第1の高周波信号とに分離する第1のウェーブレット変換処理と、
     前記第1の低周波信号を、第2の低周波信号と第2の高周波信号とに分離する第2のウェーブレット変換処理と、
     前記第2の低周波信号に対してパイプライン処理を行うことによって、第1のパイプライン処理信号を生成するとともに、第1の再構成信号に対して前記パイプライン処理を行うことによって、第2のパイプライン処理信号を生成する第1のパイプライン処理と、
     前記第2の高周波信号と前記第1のパイプライン処理信号とに基づいて、前記第1の再構成信号を生成する第2の逆ウェーブレット変換処理と、
     前記第1の高周波信号と、前記第2のパイプライン処理信号とに基づいて、第2の再構成信号を生成する第1の逆ウェーブレット変換処理と、
     前記第2の低周波信号と前記第1の再構成信号のうちの一方を選択し、選択した信号を前記第1のパイプライン処理に入力する入力切替処理と、
     前記第1のパイプライン処理信号を前記第2の逆ウェーブレット変換処理に入力し、前記第2のパイプライン処理信号を前記第1の逆ウェーブレット変換処理に入力する出力切替処理と、
     前記第2の再構成信号を出力信号として出力する出力処理と
    を信号処理装置のコンピュータに実行させるための信号処理プログラムを記憶する記憶媒体。
PCT/JP2013/007362 2012-12-26 2013-12-16 信号処理装置、信号処理方法、および記憶媒体 WO2014103230A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014554115A JP6295963B2 (ja) 2012-12-26 2013-12-16 信号処理装置、信号処理方法、および信号処理プログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2012-283133 2012-12-26
JP2012283133 2012-12-26

Publications (1)

Publication Number Publication Date
WO2014103230A1 true WO2014103230A1 (ja) 2014-07-03

Family

ID=51020354

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2013/007362 WO2014103230A1 (ja) 2012-12-26 2013-12-16 信号処理装置、信号処理方法、および記憶媒体

Country Status (2)

Country Link
JP (1) JP6295963B2 (ja)
WO (1) WO2014103230A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016075914A1 (ja) * 2014-11-13 2016-05-19 日本電気株式会社 画像信号処理装置、画像信号処理方法及び画像信号処理プログラム
WO2016119745A1 (zh) * 2015-01-29 2016-08-04 乐视网信息技术(北京)股份有限公司 一种视频去噪方法及装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006318315A (ja) * 2005-05-13 2006-11-24 Hiroshima Pref Gov 画像処理パイプライン回路
JP2010033453A (ja) * 2008-07-30 2010-02-12 Olympus Corp 成分抽出補正装置、成分抽出補正方法、成分抽出補正プログラム、又は電子機器

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006318315A (ja) * 2005-05-13 2006-11-24 Hiroshima Pref Gov 画像処理パイプライン回路
JP2010033453A (ja) * 2008-07-30 2010-02-12 Olympus Corp 成分抽出補正装置、成分抽出補正方法、成分抽出補正プログラム、又は電子機器

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016075914A1 (ja) * 2014-11-13 2016-05-19 日本電気株式会社 画像信号処理装置、画像信号処理方法及び画像信号処理プログラム
US10229479B2 (en) 2014-11-13 2019-03-12 Nec Corporation Image signal processing apparatus, image signal processing method and image signal processing program
WO2016119745A1 (zh) * 2015-01-29 2016-08-04 乐视网信息技术(北京)股份有限公司 一种视频去噪方法及装置

Also Published As

Publication number Publication date
JPWO2014103230A1 (ja) 2017-01-12
JP6295963B2 (ja) 2018-03-20

Similar Documents

Publication Publication Date Title
US5325449A (en) Method for fusing images and apparatus therefor
US6215916B1 (en) Efficient algorithm and architecture for image scaling using discrete wavelet transforms
TW409210B (en) Continuous tone compression/decompression apparatus and method, data process apparatus and device, and memory media for storing the programs executing these methods
Narayanaperumal et al. VLSI Implementations of Compressive Image Acquisition using Block Based Compression Algorithm.
TW202134997A (zh) 用於對影像進行去雜訊的方法、用於擴充影像資料集的方法、以及使用者設備
US8565540B2 (en) Digital image and video compression and decompression methods
JP2008067316A (ja) 画像配信システム、サーバ及びクライアント端末
JP2002516540A (ja) 知覚的に無損失の画像をもたらす2次元離散ウェーブレット変換に基づくカラー画像の圧縮
JPH01109979A (ja) デイジタルテレビジヨン信号の像データ整理方法
JPH09284798A (ja) 信号処理装置
JP2010213284A (ja) 多次元画像の画質向上のためのシステムおよび方法
WO2022166298A1 (zh) 一种图像处理方法、装置、电子设备及可读存储介质
WO2009047643A2 (en) Mehtod and apparatus for image processing
JP2011239231A (ja) 画像処理装置、および、画像処理装置の制御方法
JP6295963B2 (ja) 信号処理装置、信号処理方法、および信号処理プログラム
JP6354586B2 (ja) ノイズ除去システムとノイズ除去方法及びプログラム
US8787686B2 (en) Image processing device and image processing method
JP5203824B2 (ja) 画像処理装置及び撮像システム
US20230133895A1 (en) Image encoding apparatus and method for controlling the same and non-transitory computer-readable storage medium
Khalifat et al. A dynamic partial reconfiguration design for camera systems
JP4173705B2 (ja) 動画像合成方法および装置並びにプログラム
Celebi et al. An all binary sub-pixel motion estimation approach and its hardware architecture
JP3625145B2 (ja) 画像拡大装置
Bailey et al. Advanced bayer demosaicing on FPGAs
Verma et al. Splatty-A unified image demosaicing and rectification method

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 13868483

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2014554115

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 13868483

Country of ref document: EP

Kind code of ref document: A1